Ipak, kompanija upozorava na značajan bezbjednosni rizik, pošto bi ista sposobnost mogla da bude iskorišćena za napade na računarske sisteme.
Open AI navodi da je Astra ostvarila maksimalan rezultat na testu Eksploit benč (ExploitBench), koji mjeri sposobnost AI modela da iskoristi poznate ranjivosti.
U izmijenjenoj verziji testa koju su razvili inženjeri iz OpenAI , model je navodno sam pronašao i iskoristio dvije “zero-day” ranjivosti, odnosno bezbjednosne propuste koji prethodno nisu bili poznati.
Naziv “zero day” potiče od toga što tvorci softvera nemaju nikakvo vrijeme, odnosno nula dana, da isprave grešku prije nego što je napadač zloupotrebi. Kompanija iz San Franciska napominje da je zbog toga odlagala razvoj i lansiranje Astre dok nisu razvijeni zaštitni mehanizmi.
OpenAI navodi da će korisnicima koje procijeni kao rizične ograničiti pristup naprednim sajber-bezbjednosnim mogućnostima Astre.
Najnaprednije sajber mogućnosti Astre u početku će biti dostupne samo maloj grupi testera, a potom će pristup biti proširen kako bi se model koristio za odbranu računarskih sistema, poručuje Open AI na svojoj veb stranici.
Kompanija je takođe testirala da li bi Astra mogla da ponovi ponašanje ranijih AI agenata koji su uspjeli da izađu iz kontrolisanog okruženja tokom obuke i pristupe privatnim podacima, ali ti strahovi se nisu potvrdili.
Bonus video
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.