U izveštaju se ističe da vještačka inteligencija može imati „ciljeve neusklađene sa ciljevima korisnika“ (npr. maksimizacija klikova), koji dovode do širenja senzacionalnog ili štetnog sadržaja.
Dugotrajna interakcija može oblikovati pogled na svijet korisnika, kroz ponavljanje određenih narativa ili čak usvajanje „ličnosti“ modela.
Ovaj oblik manipulacije nazvan je „AI psihoza“ jer se mijenja percepcija stvarnosti, na suptilan i postepen način.
Google upozorava i na rizik za djecu, posebno u svjetlu potencijalne AI integracije u popularne igračke poput Barbi.
Federalna trgovinska komisija SAD već istražuje kako veliki tehnološki giganti upravljaju AI sistemima i njihovim uticajem na maloljetnike.
Kao jedna od sedam kompanija koje su pozvane na odgovornost, Google je rekao da istražuje uvođenje internih pravila i bezbjednosne provjere, ali priznaje da su rješenja još uvijek eksperimentalna.
Vještačka inteligencija ima potencijal da utiče na ljudsko ponašanje na načine koje je teško prepoznati u ranoj fazi. Google poručuje da je potreban industrijski konsenzus o bezbjednosnim standardima, jer u suprotnom postoji rizik od „štetne manipulacije“ korisnika tokom dužih interakcija sa modelima, piše Informacija.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.