Ali prema skoro 300 članova aktivističkog kolektiva PauseAI, ovi moćni sistemi bi vrlo brzo mogli da nadmudre ljude, pa čak i da manipulišu njima.
A ako ljudi pokušaju da ih ometaju ili isključe, ove tehnologije bi mogle da pruže otpor, prenosi Blic
PauseAI je pokrenut u maju i zamisao je softverskog inženjera Džoipa Mindercma.
Napravio je pauzu od svoje trenutne uloge direktora tehnološke kompanije da bi se fokusirao isključivo na PauseAI.
Today we protested in London. We call directly on @RishiSunak to lead the way in implementing a global pause on the development of AI systems more powerful than GPT-4 at the AI summit this autumn. Read our press release: https://t.co/QQtmk1vWaZ #PauseAI pic.twitter.com/nfwGhkam5p
— PauseAI (@pause_ai_info) June 8, 2023
– Osjećam da postoji realna šansa da će u narednih nekoliko mjeseci neko izmisliti superinteligentnu mašinu. To će biti kraj čovječanstva kakvog poznajemo. To je za mene bio dovoljan razlog da počnem da se bavim ovim političkim pokretom, jer sam prilično uplašen – rekao je on za “Juronjuz”.
Poziv za međunarodni samit o AI
Кonkretno, ono što najviše plaši Mindercma je to što će AI moći da pronađe ranjivosti “nultog dana” – ranjivost računarskog softvera koja je ranije bila nepoznata onima koji bi trebalo da budu zaduženi za njeno ublažavanje.
Uzimajući u obzir da bi kompanije i vlade na kraju mogle da daju sistemima vještačke inteligencije veću autonomiju i da ih povežu sa određenim vitalnim infrastrukturama kao što su električne mreže ili čak oružje, to bi moglo značiti da bi superinteligentni sistemi vještačke inteligencije mogli da ih isključe i izazovu haos.
Zato osnivač grupe PauseAI takođe traži od EU da predvodi međunarodni samit na tu temu.
UK will host AI summit! A summit is essential to getting meaningful policy on safe AI actually implemented on a global scale. The Pause needs to be discussed at length during this summit, and existential risks should get the attention they deserve. 🧵https://t.co/uq2oxBAXyp
— PauseAI (@pause_ai_info) June 8, 2023
– Prva stvar je pozvati vlade da organizuju samit i sprovedu moratorijum, pauzu na razvoj ovih opasnih sistema. To treba da se desi na međunarodnom nivou, jer ako to uradite na nacionalnom, biće mnogo argumenata protiv. Zemlje se takmiče kao što se kompanije takmiče. Ne možemo samo tražiti od kompanija da zaustave svoj razvoj vještačke inteligencije, jer imaju veliki konkurentski pritisak. Zato treba da odradimo ovaj samit – objasnio je on.
Više od 350 stručnjaka upozorava
PauseAI nije jedini koji zvoni na uzbunu po ovom pitanju. U junu je Riši Sunak, britanski premijer, postao jedan od prvih svjetskih lidera koji je priznao potencijalnu “egzistencijalnu” prijetnju od razvoja “superinteligentne” vještačke inteligencije bez odgovarajućih zaštitnih mehanizama.
Nedavno je 350 rukovodilaca, istraživača i inženjera koji rade u AI potpisalo otvoreno pismo upozoravajući da bi to jednog dana moglo da uništi čovječanstvo.
– Ublažavanje rizika od izumiranja zbog vještačke inteligencije trebalo bi da bude globalni prioritet pored drugih društvenih rizika, kao što su pandemije i nuklearni rat – navodi se u izjavi koju je objavio Centar za bezbjednost vještačke inteligencije, neprofitna organizacija.
Ali neki tvrde da je vještačka inteligencija još uvijek previše nerazvijena da bi predstavljala egzistencijalnu prijetnju i da su kratkoročni problemi kao što su pristrasni i netačni odgovori trenutno najveći problemi.
Sem Altman, izvršni direktor OpenAI koji je razvio ChatGPT, rekao je da, iako vještačka inteligencija može da bude korisna za ljude, regulisanje vještačke inteligencije je od “suštinskog značaja”.
Najnovije vijesti Srpskainfo i na Viberu