Tokom protekle godine sve više se raspravljalo o potencijalnim opasnostima koje donosi razvoj vještačke inteligencije, ali i o tome kako bi ovu industriju trebalo regulisati. Sada je kompanija Anthropic predstavila svoj prijedlog o tome na koji način bi američka država mogla da nadzire razvoj i primjenu naprednih AI sistema.
Ova kompanija koja se bavi razvojem vještačke inteligencije promoviše nacrt zakona za koji se nada da bi mogao da bude razmatran u američkom Kongresu. Prijedlog predviđa određene situacije u kojima bi objavljivanje AI modela moglo biti zaustavljeno.
Kada bi objavljivanje AI modela moglo biti blokirano?
Prema navodima Politica, nacrt zakona obuhvata slučajeve u kojima postoji „predvidiv, neposredan rizik“ da bi moglo stradati više od 50 ljudi ili da bi materijalna šteta mogla premašiti milijardu dolara.
Da bi se takav rizik smatrao katastrofalnim, morao bi da bude povezan sa stvaranjem ili upotrebom biološkog oružja, situacijom u kojoj AI model izmakne kontroli svojih programera ili sajber-napadima.
Predloženi pragovi od 50 ljudskih žrtava i milijardu dolara štete slični su kriterijumima iz zakona koji je nedavno usvojen u Kaliforniji. I taj propis definiše takve scenarije kao „katastrofalni rizik“.
Nezavisni stručnjaci procjenjivali bi opasnost
Anthropic predlaže da potencijalne rizike naprednih AI modela procjenjuju nezavisni stručnjaci registrovani pri Ministarstvu trgovine SAD.
Njihov rad bi potencijalno finansirale same kompanije koje razvijaju vještačku inteligenciju, ali bi isplata morala biti nezavisna od rezultata procjene.
Ipak, ostaje nejasno na koji način bi se osiguralo da finansiranje ne utiče na nepristrasnost procjenjivača. Demis Hasabis, čelnik kompanije DeepMind, ranije je predložio da bi tijelo za samoregulaciju vještačke inteligencije moglo da funkcioniše po uzoru na Regulatorno tijelo za finansijsku industriju (FINRA).
Odluka o blokadi u roku od 72 sata
Prema predloženom zakonu, ako nezavisni procjenitelji utvrde da postoji neposredan katastrofalni rizik, imali bi 72 sata da o tome obavijeste Ministarstvo trgovine SAD.
Nakon toga, ministarstvo bi moralo da zatraži od sudije u Vašingtonu da izda nalog za obustavu objavljivanja AI modela.
Nacrt istovremeno predviđa da nijedna federalna agencija ne bi mogla samostalno, prema sopstvenom nahođenju, da obustavi distribuciju modela, prenosi b92.net .
Portparol Anthropica potvrdio je za Politico da nacrt zakona postoji. Kako je naveo, prijedlog obuhvata mjere iz okvira kompanije za naprednu vještačku inteligenciju (Advanced AI Framework), za koje se Anthropic zalaže pred saveznim i državnim zakonodavcima još od juna.
Važno je napomenuti da je riječ o prijedlogu zakona, a ne o već usvojenom propisu.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.