Anthropic je nedavno detaljno opisao najmanje pet slučajeva u kojima su sumnjivi odmetnuti akteri “zaobišli kontrole” posebno dizajnirane da spriječe korisnike u određenim dijelovima svijeta da pristupe obimnoj bazi znanja modela Claude u vezi sa zaraznim bolestima (poput ptičijeg gripa) i smrtonosnim otrovima i toksinima (poput botulinskog toksina).
Međutim, ukupan broj pokušaja je znatno veći. Kompanija tvrdi da je između novembra 2025. i septembra 2026. godine identifikovala oko 35 različitih nastojanja potencijalnih subjekata koji razvijaju biološko oružje, finansiranih od strane država, da – prikriju svrhu svog istraživanja kako bi izbjegli zaštitne mjere –
Jedan od sumnjivih slučajeva uključivao je istraživanje – povećanja funkcije – u vezi sa prenosom i izbjegavanjem imunološkog odgovora virusa čikungunja. Drugi nalog je označen zbog istraživanja kako se virus ptičijeg gripa može prilagoditi da izazove teška oboljenja kod sisara. Istraživači su takođe blokirani zbog upita o ortopoksvirusima – rodu DNK virusa u koji spadaju variola (uzročnik velikih boginja) i mpox (majmunske boginje).
Anthropic je priznao da je teško utvrditi da li je istraživanje toksina, otrova i srodnih supstanci namijenjeno pomoći u proizvodnji biološkog oružja ili razvoju antidota, vakcina i drugih medicinskih ili terapeutskih rješenja. Međutim, ono što je navelo sistem da označi pomenute pokušaje bilo je korišćenje različitih tehnika anonimizacije kako bi se izbeglo regionalno blokiranje koje sprovodi Anthropic.
Nakon ovog upozorenja u vezi sa biološkim oružjem, Anthropic navodi da je unaprijedio svoje bezbjednosne protokole kako bi spriječio zlonamerne aktere da zloupotrebe njegove modele vještačke inteligencije. – Iz velike predostrožnosti, lansirali smo nedavne modele (pre svega Claude Fable 5) sa strožim zaštitnim mjerama koje ograničavaju pristup širokom spektru upita o biološkim istraživanjima dvostruke namjene – saopštila je kompanija.
Anthropic nije identifikovao regione iz kojih se vjeruje da su ti upiti potekli, ali je opštepoznato da ova kompanija blokira korisnike u Kini, Rusiji, Iranu, Severnoj Koreji i nekoliko drugih zemalja da pristupe modelu Claude. Ipak, navode da su do maja 2026. godine blokirali sve sumnjive naloge zbog kršenja Politike o podržanim regionima.
Prema navodima kompanije Anthropic, zloupotreba vještačke inteligencije za stvaranje biološkog oružja predstavlja jedan od – najozbiljnijih rizika – sa kojima se AI modeli suočavaju. Dodali su da su zaštitne mehanizme ugradili upravo kako bi izbjegli ovakve situacije, u kojima bi odmetnute države mogle da iskoriste vještačku inteligenciju za pripremu smrtonosnog biološkog oružja i njegovu upotrebu u biološkom ratovanju protiv sopstvenog naroda ili zapadnih demokratija, prenosi b92.net .
Bonus video:
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.