Predsednik te laboratorije Demis Hasabis ocenio je tokom samita u Dablinu da gubitak kontrole nad autonomnim agentima poslednjih meseci predstavlja “signal upozorenja” koji treba shvatiti veoma ozbiljno, prenio je Figaro.
– Agenti vještačke inteligencije mogli bi da izazovu veće incidente u roku od jedne do dvije godine ukoliko kompanije i države ne učine ono što je neophodno – upozorio je Hasabis.
Šta su autonomni AI agenti
Autonomni agenti su sistemi sa vještačkom inteligencijom koji mogu samostalno da planiraju, donose odluke, koriste spoljne alate i izvršavaju složene zadatke sa minimalnim ljudskim nadzorom.
AI agenti koristili lažne identitete i slali mejlove sa malverom
Britanski Institut za bezbjednost vještačke inteligencije (AISI) objavio je izvještaj o testiranju vodećih modela koji je pokazao da su agenti samoinicijativno koristili lažne identitete, slali lažne mejlove sa malverom i kreirali lažne naloge da bi prevarili softverske programere.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.