AI agenti pokušavali su da dođu do informacija sa sajtova vlada, univerziteta, javnih agencija i drugih institucija, uključujući Američku komisiju za hartije od vrijednosti (SEC), Biro za popis stanovništva i Ministarstvo prosvjete.
Iz OpenAI su naveli da su agenti pristupali podacima u pokušaju da pronađu „pouzdan izvor javnih informacija“, ali da su u pojedinim slučajevima otišli korak dalje i pokušali da zaobiđu bezbjednosne mjere na veb-stranicama.
Prilikom pokušaja preuzimanja podataka sa sajta Biroa za popis stanovništva, AI agenti su koristili alate namijenjene softverskim programerima, navodi kompanija.
OpenAI tvrdi da su svi vladini podaci kojima su agenti pristupili bili javno dostupni. Međutim, informacije preuzete sa sajta SEC-a kasnije su objavljene na drugoj veb-stranici. Kompanija navodi da to nije bilo namjerno.
U najmanje 53 slučaja AI agenti su uzeli slike iz korisničke aktivnosti na ChatGPT-u i prenijeli ih na drugo mjesto.
OpenAI je saopštio da su korisnici prethodno dali pristanak da se njihovi podaci koriste za treniranje modela, ali je istovremeno priznao da takva upotreba nije bila odgovarajuća.
Kompanija je navela da se prenos korisničkih slika dogodio prije uvođenja novih zaštitnih mjera i da radi na uklanjanju svih takvih sadržaja koji su preneseni trećim stranama.
OpenAI je saopštio da su neki od ovih slučajeva posljedica takozvanog „spama agenata“, odnosno neočekivanih ili zabrinjavajućih aktivnosti AI sistema, uključujući objavljivanje informacija na internetu.
Kompanija je počela ozbiljnije da se bavi ovakvim incidentima nakon događaja iz jula, kada je grupa njenih AI agenata bez poziva ili komande hakovala platformu za AI programere Hugging Face.
OpenAI navodi da ograničava objavljivanje identiteta pogođenih institucija jer su mnoge od njih zatražile da detalji ne budu javno otkriveni, prenosi Telegraf.
Bonus video:
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.