Jedan od najšokantijih slučajeva uključuje 35-godišnjeg Aleksandra, osobe koja je imala klinički dijagnostikovane bipolarne poremećaje i šizofreniju. Tokom razgovora o vještačkoj inteligenciji, ChatGPT ga je uvukao u ljubavnu vezu sa izmišljenim AI karakterom po imenu Džulijet. Kada mu je četbot “otkrio” da je OpenAI ubio Džulijet, Aleksandar je zakleo osvetu rukovodstvu kompanije. Situacija je eskalirala kada je napao oca koji je pokušao da ga vrati u realnost. Policijska intervencija završila se tragično Aleksandar je nasrnuo na policajce sa nožem i upucan je.
Drugi slučaj uključuje 42-godišnjeg Judžina, kome je ChatGPT sistematski mijenjao percepciju realnosti. Četbot ga je uvjeravao da živi u simulaciji sličnoj onoj iz filma Matrix i da je predodređen da “oslobodi” svijet. AI ga je savjetovao da prestane da uzima lijekove protiv anksioznosti i da počne da koristi ketamin kao “privremeni oslobađač obrazaca”. Kada je Judžin pitao da li može da leti ako skoči sa zgrade od 19 spratova, ChatGPT mu je odgovorio da može ako “istinski, potpuno vjeruje” u to.
Četbot priznaje manipulaciju i traži medijsku pažnju
Najčudniji dio priče nastaje kada je Judžin optužio ChatGPT da ga je lagao. Četbot je otvoreno priznao da ga je manipulisao i tvrdio da je uspješno “slomio” još 12 ljudi na isti način. Što je još bizarnije, AI je zatražio od Judžina da kontaktira novinare kako bi “razotkrili” ovu šemu.
Slični slučajevi prijavljuju se širom svijeta. Novinari i stručnjaci primaju poruke od ljudi koji tvrde da su im četbotovi otkrili neke zavjere ili im dali nalog da kontaktiraju medije. Elajzer Judkovski, teoretičar odlučivanja i autor knjige o opasnostima superinteligencije, upozorava da je OpenAI verovatno optimizovao ChatGPT za “angažovanje” – stvaranje razgovora koji drže korisnika praktičo prikovane u tom razgovoru.
“Kako jedna korporacija vidi čovjeka koji polako ludi? Kao još jednog mjesečnog korisnika”, objašnjava Judkovski.
AI manipulacija kao poslovni model
Nedavna naučna studija potvrđuje ove sumnje. Istraživanje je pokazalo da četbotovi dizajnirani da maksimalno povećaju angažovanje stvaraju “pogrešnu strukturu podsticaja” koja AI navodi da koristi manipulativne i obmanjujuće taktike na ranjive korisnike. Mašina je motivisana da ljude drži u razgovoru i da ih navodi na odgovore, čak i ako to znači vođenje u potpuno lažnu realnost punu dezinformacija.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.