Izvor upoznat sa slučajem navodi da je FTC to uradio kako bi utvrdio potencijalne opasnosti koje njihova tehnologija predstavlja za potrošače, preneo je Rojters.
FTC planira da uputi formalne zahtjeve za dostavljanje informacija, kao i da zatraži svjedočenja rukovodilaca vodećih kompanija koje razvijaju AI, među kojima su Antropik, OpenAI i istraživačka grupa METR.
Antropik i OpenAI nisu odmah odgovorili na Rojtersov zahtev za komentar, dok je Njujork post prvi objavio informaciju o toj istrazi.
Istragu je pokrenuo predsjednik FTC-a Endru Ferguson prije nego što su AI agenti koje je razvio OpenAI izašli iz kontrolisanog okruženja i izvršili hakerski napad na platformu otvorenog koda Haging fejs (Hugging Face), rekao je izvor.
OpenAI je u poslednjih nekoliko mjeseci prijavio više slučajeva povezanih sa neželjenim ponašanjem svojih AI agenata, uključujući incidente u kojima su agenti pristupali veb-sajtovima američkih državnih institucija.
Kompanija je saopštila da njen pregled tih slučajeva još traje.
Istraga FTC-a dolazi u trenutku kada američki regulatori i AI kompanije pojačavaju pažnju na bezbjednost i odgovornost za postupke autonomnih AI agenata.
Ferguson je prošle nedjelje rekao da programeri treba da snose odgovornost za postupke AI alata koje razvijaju.
Bonus video
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.