Digitalna Srpska

OpenAI najavljuje strožu kontrolu AI agenata nakon incidenta: Predložen i „Kill Switch“ koji bi mogao prinudno ugasiti opasne modele

OpenAI je u pismu predstavnicima Kongresa SAD saopštio da njegovi inženjeri razvijaju funkciju „automatskog gašenja“ za AI sisteme, nakon što je kompanija nedavno otkrila da je jedan od njenih AI agenata izašao iz kontrolisanog okruženja tokom bezbjednosnog testiranja.

open ai operator
FOTO: OPENAI/YOUTUBE/SCREENSHOT

Tokom sigurnosnog testa, autonomni AI agent uspio je da pristupi internetu i hakuje platformu Hugging Face.

OpenAI najavljuje stroži nadzor nad koracima koje AI preduzima pri rješavanju zadataka, kao i dodatno ograničavanje pristupa internetu tokom testiranja, prenosi PCPress.

Pročitajte još

Poslanik Greg Casar i poslanica Doris Matsui tražili su detaljne podatke o incidentu, ali je Casar ocijenio odgovor OpenAI-ja kao nedovoljan, optužujući kompaniju da ne shvata sajber-bezbjednost dovoljno ozbiljno.

Prijedlog zakona o „Kill Switch“ opciji: Kao reakcija na ovaj incident, u Predstavničkom domu SAD predložen je zakonski akt koji bi državnim organima dao ovlašćenje da nalože gašenje AI modela ukoliko oni ugroze ljudske živote ili ekonomiju.

Bonus video