Citi, Chase i Wells Fargo vas smatraju odgovornim za transakcije koje obave AI agenti
Nekoliko velikih američkih banaka poslalo je klijentima upozorenje sa istom porukom: ako program zasnovan na veštačkoj inteligenciji napravi finansijsku grešku u vaše ime, trošak snosite vi. U mejlovima i obaveštenjima u mobilnim aplikacijama, koje je pregledao Business Insider, banke navode da AI agente sa pristupom finansijskim podacima tretiraju kao produžetak samog korisnika, a ne kao spoljnog uljeza.
Šta tačno poručuju banke
Ally Bank je početkom ovog meseca poručila klijentima da su, kada koriste AI uslugu, odgovorni za svaki potez koji ta usluga napravi. U istoj poruci stoji da veštačka inteligencija može da pogreši, da halucinira, odnosno izmisli podatak koji zvuči uverljivo, da pogrešno razume instrukcije ili da ih izvrši onako kako korisnik nije nameravao. Posledica može biti značajan gubitak.
Chase Bank je u novembarskom mejlu upozorila da autorizovane transakcije možda neće moći da se ponište ako se podaci korisnika zloupotrebe. Citi je na sajt i u mobilnu aplikaciju postavio baner koji vodi na stranicu sa porukom da AI asistenti greše i da odgovornost za te greške može pasti na korisnika.
Zašto se to dešava sada
Upozorenja stižu u trenutku kada nova generacija AI alata počinje samostalno da kupuje. Raniji modeli, poput ChatGPT-ja kompanije OpenAI ili Claudea kompanije Anthropic, odgovarali su na pitanja tekstom. Današnji AI agenti, programi koji sami obavljaju zadatke na internetu, mogu da rezervišu avionsku kartu, zakažu sto u restoranu ili naruče proizvod pre nego što korisniku ponestane zaliha. Među njima su Muse kompanije Meta, Instinct AI i Dots kompanije OpenAI.
Trgovci su već prilagodili pravila. Business Insider je u martu izvestio da je Target izmenio korisnički ugovor tako da se kupovina koju obavi AI agent smatra transakcijom koju je odobrio sam kupac. Amazon je u septembru blokirao Muse agentima mogućnost kupovine, uz obrazloženje da postoje problemi sa bezbednošću i pouzdanošću.
Granica između ovlašćenja i deljenja lozinke
Banke pokušavaju da povuku jasnu liniju između odobrenog povezivanja naloga sa AI alatom i situacije u kojoj korisnik jednostavno preda svoje podatke za prijavu. Axios je prošlog meseca izvestio da su velike banke otkrile agente trećih strana koji deluju unutar korisničkih naloga, u pojedinim slučajevima uz dozvolu i pristupne podatke samih klijenata.
Svaki mejl koji je pregledao Business Insider sadrži isto upozorenje: ne delite korisnička imena, lozinke ni sigurnosne kodove. Iz Wells Farga su poručili da nijednoj tehnologiji ne treba verovati da postupa u ime klijenta bez snažne bezbednosti, jasnog ovlašćenja i zaštitnih mehanizama za novac i finansijske podatke.
Sličnu poruku izneo je i Džejmi Dajmon, izvršni direktor JPMorgan Chasea, na oktobarskoj konferenciji o kvartalnim rezultatima. Rekao je da ljudi koji koriste ove alate treba da razumeju rizik i dodao da banka u međuvremenu neće pustiti nijednog spoljnog agenta unutar kompanije, jer je to previše rizično i za klijente i za JPMorgan.
Upozorenja i van bankarstva
Kampanja se proširila i na proizvođače uređaja i softvera. Beta verzija najnovijeg softvera za Apple Mac računare prikazuje upozorenje kada korisnik razmatra da AI agentu ili aplikaciji odobri pristup na nivou celog sistema.
