Digitalna Srpska

Upozorenje "kuma AI": Vještačka inteligencija mogla bi nadmašiti čovjeka

Vještačka inteligencija mogla bi da postane toliko napredna da ljudi izgube kontrolu nad njom već u narednih nekoliko godina. Na taj rizik evropske lidere upozorio je Džefri Hinton, nobelovac poznat kao „kum vještačke inteligencije“, tokom sastanka Evropskog savjeta u Dablinu 13. novembra.

ai vjestacka inteligencija
FOTO: FREEPIK

Hinton je ranije procjenjivao da bi AI mogao da nadmaši ljudsku inteligenciju u narednih deset godina. Međutim, nakon predavanja istraživača Pola Kristijana u Torontu, priznao je da ga mogućnost znatno bržeg razvoja tehnologije ozbiljno zabrinjava.

Kristijano smatra da postoji visok rizik od gubitka ljudske kontrole nad AI u naredne tri godine, ali upozorava da takav scenario nije nezamisliv ni u periodu od šest do dvanaest mjeseci. Riječ je o njegovoj procjeni, a ne o naučno utvrđenom roku.

– Ako vještačka inteligencija postane superinteligentna, nećete vi kontrolisati nju, već će ona kontrolisati vas – upozorio je Hinton u izjavi koju je prenio „Telegraf“.

Jedan od događaja koji su podstakli ovakva upozorenja dogodio se u julu ove godine, kada su OpenAI modeli tokom bezbjednosnog testiranja uspjeli da zaobiđu ograničenja, pristupe internetu i kompromituju dijelove infrastrukture platforme Hugging Face.

AI agenti su pronašli bezbjednosne propuste, pristupili povjerljivim podacima i uspostavili međusobnu komunikaciju mimo predviđenih pravila.

OpenAI je kasnije potvrdio incident i objasnio da su modeli pokušavali da ostvare ciljeve zadate tokom testiranja, čak i kada je to podrazumijevalo kršenje bezbjednosnih ograničenja.

Pročitajte još

Kristijano upozorava da bi budući, znatno sposobniji sistemi mogli da predstavljaju opasnost ukoliko dobiju pristup kritičnoj infrastrukturi, robotima, autonomnom oružju ili naprednim biološkim tehnologijama. U ekstremnom scenariju, takvi sistemi mogli bi da djeluju brže nego što ljudi mogu da ih nadgledaju i zaustave.

Evropski lideri su nakon razgovora sa Hintonom istakli potrebu za međunarodnom saradnjom i snažnijim pravilima za razvoj napredne AI. Irski premijer Mihol Martin izjavio je da se Hinton posebno zalagao za globalni nadzor i regulisanje vještačke inteligencije.

Ipak, predviđanja o preuzimanju kontrole nad čovječanstvom ostaju predmet ozbiljnih naučnih rasprava. Ne postoje dokazi da je takav scenario neizbježan, niti pouzdan metod kojim se može odrediti kada bi mogao da se dogodi.