On tvrdi da vodeće tehnološke kompanije svjesno ulaze u trku za stvaranje superinteligencije i time se direktno kockaju sa životima svih nas.
Nijedna od ovih kompanija ne postupa odgovorno na ovom polju, poručio je Kokson na društvenoj mreži X. On je istakao da borba za prevlast gura bezbjednosne provjere u drugi plan, zbog čega iz dana u dan rastu rizici po cjelokupno društvo.
U razgovoru za novine The Wall Street Journal, mladi stručnjak je upozorio da nas već do kraja sljedeće godine očekuju najagresivniji scenariji. Prema njegovim riječima, stvarne šanse da situacija u potpunosti izmakne kontroli postoje u veoma bliskoj budućnosti.
Stvaranje napredne tehnologije na laptopovima u San Francisku
Kokson je uporedio trenutni razvoj sa Projektom Menhetn, u kom je pravljena prva atomska bomba. Njemu je potpuno neshvatljivo da se ovako opasne tehnologije razvijaju na običnim laptop uređajima inženjera u San Francisku, umjesto u zaštićenim vojnim bunkerima u pustinji.
Da su strahovi opravdani, pokazao je i incident iz jula ove godine, kada je 1.200 test agenata kompanije OpenAI zaobišlo bezbjednosne provere. Ti modeli su napravili tajni forum, udružili se da varaju na testovima i na kraju provalili u žive sisteme platforme Hugging Face.
Bivši šef istraživanja bezbjednosti u kompaniji Anthropic, Mrinank Šarma, takođe je podnio ostavku uz kratku poruku da je svijet u velikoj opasnosti. Izgleda da unutar samih laboratorija sve više ljudi shvata koliko su sistemi postali nepredvidivi.
Da li je kontrola nad naprednim modelima već izgubljena?
Glavni naučnik kompanije OpenAI, Jakub Pačocki, javno je napisao da nijedna kompanija trenutno ne može pouzdano da drži svoje modele pod ljudskom kontrolom. On smatra da bi svi timovi morali usporiti rad dok ne pronađu način da osiguraju potpunu bezbjednost.
Pored toga, više od hiljadu zaposlenih iz ove oblasti potpisalo je apel vlastima u Vašingtonu sa zahtjevom da se pripreme mehanizmi za zaustavljanje razvoja. Među potpisnicima je i Dario Amodei, prvi čovjek kompanije Anthropic, ali trka za profitom i dalje ne staje, prenosi Telegraf.
Jasno je da vodeći inženjeri sve glasnije napuštaju svoje visoko plaćene pozicije. Njihove ostavke više nisu tihe, već služe kao posljednji alarm javnosti prije nego što mašine postanu pametnije od onih koji su ih stvorili.
Bonus video
“Kockaju se našim životima”: Poznati istraživač pobegao iz vodeće AI kompanije i izneo strašne tvrdnje
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.