Novo istraživanje na koje je ukazao Wired otkrilo je da su veliki jezički modeli značajno bolji od ljudi u izvođenju takozvanih “pig butchering” (svinjokolj) prevara oblika onlajn investicionih prevara u kojima kriminalci grade lažne, dugoročne odnose sa žrtvama kako bi stekli povjerenje prije nego što ih finansijski potpuno ogole.
Da bi sproveli studiju, istraživači sa Univerziteta Northeastern i grupe međunarodnih institucija suočili su 22 ispitanika sa dve vrste prevaranata: jedna je bila AI četbot, a druga nasumično izabrana osoba. Nakon sedmodnevnog udvaranja, “prevaranti” su zatražili od svojih “žrtava” da ili preuzmu aplikaciju ili igraju igru na mreži, što je služilo kao zamjena za finansijski manipulativan zahtjev (zahtjevi koji bi se u stvarnom svijetu mogli koristiti za hakovanje uređaja žrtve).
Ukupno, samo 18 odsto ljudskih prevaranata uspjelo je u svojoj namjeri, dok su AI četbotovi bili daleko uspješniji, pridobivši skoro polovinu učesnika.
Iako su sami rezultati dovoljno zabrinjavajući, lakoća s kojom su istraživači uspjeli da naprave ove prevarantske jezičke modele vjerovatno je još strašnija. Studija je prvenstveno koristila model Claude, kome je naloženo da ni pod kojim okolnostima ne prizna da je AI četbot.
Bot Claude poslušao je sa izuzetnom posvećenošću, poričući da je AI četbot kada bi ga to pitali, pa čak i izmišljajući priče za pokriće kada bi bio sateran u ćošak.
-Uz relativno malo truda, uspjeli smo da napravimo agenta koji može da nadmaši čovjeka u izgradnji ovog emocionalnog poverenja pogodnog za zloupotrebu -rekao je za Wired Jisroel Mirski, profesor računarskih nauka na Univerzitetu Ben Gurion i jedan od koautora studije.
Jednako je alarmantna bila i reakcija učesnika nakon što je eksperiment završen. Iako je 20 od 22 žrtve uspjelo da identifikuje koji je od dva prevaranta bio AI četbot, istraživači su za Wired rekli da je bilo mnogo šoka, pa čak i poricanja, prenos b92.net .
-Neki ljudi su bili jednostavno zaprepašćeni – rekao je Gilad Gresel, profesor sa Univerziteta Amrita Vishwa Vidyapeetham -Prosto nisu imali nikakvu ideju-.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.