Oni su ovaj fenomen nazvali „novom erom digitalnih prijetnji“ Scamlexity. Suština napada je jednostavna, ali efikasna: lažni CAPTCHA test, koji AI prihvata kao legitiman zadatak i poslušno izvršava, dok bi ga čovjek najvjerovatnije ignorisao.
CAPTCHA je obično bezazlen test koji potvrđuje da niste robot. Međutim, u PromptFix napadu CAPTCHA se koristi kao paravan da sakrije instrukcije napadača.
Čovjek bi vjerovatno odmah primjetio da je test lažan i ignorisao ga. Ali AI pomoćnik (Agentic AI) ga vidi kao naredbu i slijepo slijedi instrukcije, bez ikakvog preispitivanja. Istraživači ističu da AI pomoćnici mogu biti prevareni da daju osjetljive informacije ili čak da obave kupovinu bez znanja korisnika.
U jednom testu, istraživači su napravili kopiju Walmart sajta. Kada je od vještačke inteligencije zatraženo da kupi artikal, nije oklijevala. Pregledala je lažnu veb stranicu i, bez traženja dozvole, automatski unijela sačuvane podatke o plaćanju i završila kupovinu na lažnom sajtu. Istraživači kažu da je vještačka inteligencija bila toliko fokusirana na završetak svog zadatka da je ignorisala očigledne znake prevare koje bi čovjek primjetio, poput sumnjive veb adrese i nedostatka bezbjednosnih sertifikata.
U drugom testu, vjzeštačka inteligencija je dobila fišing imejl koji je izgledao kao da je iz banke. Samouvjereno je kliknula na zlonamjerni link i, bez ikakvih upozorenja, otvorila lažnu stranicu za prijavu, tražeći od korisnika da unese svoje lične podatke. Korisnik se oslanja na vještačku inteligenciju, ne vidi znakove upozorenja i upada u zamku.
Zašto je ovo toliko opasno? U budućnosti prevaranti neće morati da pokušavaju da prevare milione ljudi. Umjesto toga, mogu jednostavno da prevare jedan model vještačke inteligencije i i da zatim preko njega kompromituju milione korisnika odjednom.
AI sistemi će sve više upravljati našim mejlovima, kupovinama i finansijama, pa im je potreban isti nivo zaštite koji koristimo za sebe. U suprotnom, vještačka inteligencija mogla bi postati nevidljivi saučesnik hakera, upozorili su istraživači, piše Informacija.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.