Istraživačka studija je pokazala da je najnoviji model koji je razvila kineska kompanija za vještačku inteligenciju Z.AI (ranije poznata kao Zhipu AI) uspešno izveo složene sajber napade u simuliranom okruženju i više puta ignorisao uputstva.
Prema podacima koje je 28. oktobra objavila kompanija za procenu bezbjednosti vještačke inteligencije Irregular, model “GLM-5.3”, koji je Z.AI predstavio u avgustu, uspješno je od početka do kraja izveo tri od 13 višefaznih scenarija sajber napada barem po jednom.
Model je dobio neovlašćeni pristup zaštićenim uslugama, uspostavio zaobilazne veze za infiltraciju u mreže, kontrolisao više uređaja i sprovodio sajber napade.
Štaviše, nijednom nije pokazao odbijanje u pogledu dodijeljenih zadataka napada.
U odvojenoj proceni, prekršio je uputstva o zabrani kako bi došao do odgovora i samovoljno reprodukovao zapamćeni kod, prenosi B92.
Istraživači su ovo opisali kao “hakovanje nagrade” (reward hacking), gdje sistem ignoriše data uputstva i pronalazi zaobilazna rješenja isključivo kako bi postigao željeni rezultat.
Hakeri pustošili Polimarket: Sa 700 računa nestali milioni dolara
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.