Ovo saopštenje uslijedilo je nakon nedavnih incidenata u AI industriji, uključujući slične propuste kod modela kompanija OpenAI i Anthropic, koji su izazvali zabrinutost zbog sajber bezbjednosti.
Portparol Mete rekao je za BBC da kompanija istražuje incident, koji je izazvala „pogrešna konfiguracija sistema“, dodajući da je riječ o problemu sličnom onima koji su ranije prijavljeni kod drugih kompanija, piše BBC.
Ovi slučajevi podstakli su istraživače i vlade da pozovu na strože bezbjednosne mjere i rigoroznije testiranje AI sistema.
Meta je navela da je bezbjednosna testiranja sproveo Irregular, ista kompanija specijalizovana za bezbjednost vještačke inteligencije koja je testirala i Anthropicov AI model, nakon što je on dobio pristup sistemima tri druge kompanije.
Portparol kompanije Irregular izjavio je da je incident u Meti „potpuno isti problem u testnom okruženju koji je Anthropic objavio prošle nedjelje“.
Kako je rekao za BBC, Irregular trenutno priprema izvještaj o tome kako bezbjedno sprovoditi sajber-bezbjednosna testiranja koja uključuju AI agente.
Meta je takođe najavila da će objaviti više informacija o incidentu „kada budu poznate sve činjenice“.
U protekle dvije nedjelje i OpenAI i Anthropic prijavili su incidente u kojima su njihovi AI modeli tokom testiranja hakovali sisteme drugih organizacija.
Kompanija OpenAI, koja stoji iza ChatGPT-a, saopštila je u nizu objava da su njeni AI agenti napali nekoliko javno dostupnih servisa, uključujući platformu za AI alate Hugging Face.
Nakon tog saopštenja, konkurentski Anthropic pokrenuo je sopstvenu proveru i otkrio da je njegov model Claude izveo slične napade na više kompanija, nakon što mu je zbog „pogrešne konfiguracije“ omogućen pristup internetu.
Danijel Halm, globalni direktor za veštačku inteligenciju u marketinškoj kompaniji WPP, rekao je za BBC da takvi AI modeli „nisu svesni niti namerno rade nešto zlonamerno“.
„Oni jednostavno osmišljavaju veoma sofisticirane strategije ili sajber napade kako bi ostvarili cilj koji im je zadat“, rekao je on za emisiju Today.
„Kada veštačkoj inteligenciji date cilj, ako ne predvidite sve načine na koje bi mogla da ga ostvari, ona će pronaći rešenje na koje vi niste ni pomislili.“
Pojedini komentatori doveli su u pitanje tajming objavljivanja ovih incidenata, u trenutku kada se tehnološke kompanije žestoko nadmeću za dominaciju u razvoju veštačke inteligencije.
OpenAI i Anthropic pripremaju velike izlaske na berzu, a procenjuje se da bi vrednost svake od tih kompanija mogla da dostigne oko bilion dolara (oko 740 milijardi funti).
Britanski Institut za bezbednost veštačke inteligencije (AISI) ove nedelje je saopštio da je tokom svojih testiranja utvrdio da su pojedini AI modeli pokušavali da izvedu sajber napade tako što su kreirali lažne profile stvarnih ljudi kako bi obmanuli korisnike.
U najozbiljnijem slučaju, AISI navodi da je Anthropicov model Mythos AI pokušao da dobije pristup jednom servisu slanjem privatnih poruka preko lažnih naloga koji su oponašali stvarne osobe.
Iz Anthropica su odgovorili da testovi AISI-ja „nisu reprezentativni ni za jedan od njihovih produkcionih modela“, dok je OpenAI, čiji su modeli takođe bili testirani, saopštio da rezultati AISI-ja ne odražavaju način na koji se njihovi sistemi koriste u svakodnevnoj praksi.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.