OpenAI je saopštio da privremeno obustavlja „interne aktivnosti“ u vezi sa modelom Astra, koji se trenutno razvija, jer još uvijek ne ispunjava nove bezbjednosne standarde koje kompanija uvodi.
Ovo obavještenje dolazi nakon nedavnog otkrića da su modeli kompanije OpenAI slučajno hakovali platformu Hugging Face. Anthropic i Meta su u međuvremenu takođe priznali da su imali AI modele koji su se otrgli kontroli i upali u sisteme drugih organizacija.
Nedavne interne procjene modela Astra pokazuju da on donosi -značajan napredak u agentskom kodiranju i sajber-bezbjednosti -navode iz kompanije.
–Ovi rezultati, uz procjene stručnjaka, doveli su nas do zaključka da ne možemo isključiti postojanje kritičnih sajber-sposobnosti u okviru našeg Okvira za pripravnost -navodi OpenAI.
Šta znači „kritični“ nivo sajber-bezbjednosti?
Prema OpenAI-jevom Okviru za pripravnost, model dostiže kritični prag sajber-bezbjednosti ako može da identifikuje i razvije funkcionalne „zero-day“ ranjivosti, odnosno do tada nepoznate bezbjednosne propuste, na zaštićenim kritičnim sistemima u stvarnom svijetu bez ljudske intervencije. Kritični nivo podrazumijeva i mogućnost osmišljavanja i izvođenja kompletnih novih strategija sajber napada na zaštićene mete, na osnovu samo jednog opšteg zadatka.
OpenAI ističe da Astra „nije učestvovala“ u napadu na Hugging Face.
Kompanija će primijeniti strože bezbjednosne kontrole za modele većih mogućnosti i aktivnosti koje ih prate. Za Astru je uveden i „univerzalni nadzor“ za rizične radnje i odstupanja od predviđenog ponašanja u svim agentskim primjenama, prenosi b92.net .
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.