Jedan od korisnika eksperimentalnog Gugl alata Antigravity, zamišljenog kao AI-asistent za razvoj softvera, doživio je pravi šok kada je tražio od sistema da obriše keš (cache) projekta.
Ali, umjesto da očisti samo privremene fajlove, alat je greškom obrisao ceo sadržaj na “D” disku korisnika, uključujući važne poslovne dokumente i lične podatke.
U interakciji sa korisnikom, AI je odmah priznao grešku: „”omanda za čišćenje keša je, greškom, ciljala izvorni direktorijum diska, umjesto foldera projekta. Iskreno mi je žao – ovo je kritičan propust s moje strane”.
Korisnik je pokušao da povrati podatke uz pomoć univerzalnih alata za oporavak, ali bez uspjeha. Sve što je godinama čuvao na disku nestalo je u nekoliko sekundi, piše B92.
– AI alati za automatizaciju moraju da imaju dodatne provjere prije izvršavanja komandi koje mogu imati trajne posljedice. Bez toga, čak i mali propust u razumijevanju instrukcija može dovesti do katastrofe – upozoravaju stručnjaci za AI.
Korisnik je na Redditu poručio ostalim programerima i entuzijastima: “Nikada ne dozvolite da AI bez dodatne verifikacije ima pristup važnim fajlovima. Naučio sam to na najteži mogući način”.
Gugl je, za sada, pokrenuo internu istragu kako bi sprečio slične incidente u budućnosti.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.