Naime, korisnici su nesvjesno koristili opciju “make chats discoverable”, koja je privatne razgovore pretvarala u javne stranice indeksirane od strane pretraživača. Tako su osjetljive informacije postale su dostupne svima.
Istraživači iz SafetyDetective analizirali su 1.000 procurjelih razgovora sa ukupno više od 43 miliona riječi. Njihovi nalazi pokazuju da ljudi tretiraju AI alate kao terapeute, konsultante, pa čak i osobe od povjerenja, često dijeleći informacije koje inače ne bi dijelili sa drugima.
Neki korisnici su otkrivali imena, brojeve telefona, adrese i biografije. Drugi su govorili o osjetljivim temama, kao što su suicidalne misli, korišćenje droga, planiranje porodice i diskriminacija.
Većina podataka bila je iz malog broja razgovora. Više od polovine ukupnog broja analiziranih riječi bilo je iz samo 100 razgovora. Jedan maratonski razgovor je sadržao čak 116.024 riječi, za šta bi sa prosječnom ljudskom brzinom kucanja, bila potrebna skoro dva puna dana da se otkuca.
Skoro 60% razgovora spadalo je kategoriju „profesionalnih konsultacija“. Umjesto da pozovu advokata, nastavnika ili savjetnika, korisnici su postavljali ChatGPT-ju pitanja o obrazovanju, pravnim dilemama, pa čak i mentalnom zdravlju.
Bilo je slučajeva u kojima su korisnici otpremali biografije ili tražili savjete o problemima sa mentalnim zdravljem. U jednom primjeru, ChatGPT je podstakao nekoga da podijeli svoje puno ime, broj telefona i radnu biografiju dok je generisao biografiju, što je tu osobu izložilo krađi identiteta jer je link ćaskanja bio javan. U drugom slučaju, vještačka inteligencija je tokom razgovora o zavisnosti, umjesto da smiruje korisnika, pogoršala problem.
Mnogi korisnici nisu u potpunosti razumjeli da bi, čineći razgovore „vidljivim“, njihovi razgovori mogli postati javni.
Pored toga, studija je pokazala da ChatGPT često „halucinira“. Kada čet-bot tvrdi da je nešto „sačuvao“ ili da pruža sigurne savjete, a to zapravo nije tačno, posljedice mogu biti ozbiljne.
Još jedan problem je to što kada su razgovori koji sadrže osjetljive detalje javno dostupni, mogu biti iskorišćeni za prevare, krađu identiteta ili doksing. Čak i bez direktnog otkrivanja ličnih podataka, takvi se razgovori mogu zloupotrebiti za ucjenu ili uznemiravanje.
Iako ovo pokazuje koliko povjerenje ljudi imaju u vještačku inteligenciju, takođe ukazuje na moguće rizike kada su odgovori čet-bota netačni ili kada se otkriju detalji iz privatnog života.
Istraživači tvrde da OpenAI nikada nije dao jake garancije o tome kako se obrađuju dijeljeni razgovori. Iako je funkcija odgovorna za ovo curenje uklonjena, ponašanje korisnika – tretiranje vještačke inteligencije kao najboljeg prijatelja, advokata, terapeuta, lekara – ostaje nepromenjeno.
Korisnici bi trebalo da izbjegavaju unošenje osjetljivih ličnih podataka u razgovore sa čet-botom. O razgovorima sa vještačkom inteligencijom trebalo bi razmišljati kao o nečemu što bi moglo postati javno, bez obzir na osjećaj privatnosti. Stručnjaci smatraju i da bi kompanije koje se bave vještačkom inteligencijom morale da učine svoja upozorenja jasnijim, a funkcije dijeljenja intuitivnijim – automatsko uklanjanje ličnih podataka prije nego što se ćaskanje podijeli moglo bi da spriječi slučajno curenje podataka.
Ovaj, kao i prethodni incidenti, pokazuje da problem nije samo u tehnologiji, već i u načinu na koji je ljudi koriste. Sve dok korisnici vještačku inteligenciju doživljavaju kao povjerljivog sagovornika, a kompanije ne postave jasne granice i zaštite, rizik će ostati visok, piše Informacija.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.