Nacrt pravila koji je objavila Cyberspace Administration cilja “interaktivne AI usluge slične ljudima” koje simuliraju ličnost i emocionalno angažuju korisnike putem teksta, slika ili videa.
Vinston Ma, profesor na NYU School of Law, ističe da je ovo prvi pokušaj u svijetu da se reguliše AI sa antropomorfnim karakteristikama, označavajući prelazak sa bezbjednosti sadržaja na “emocionalnu bezbijednost”.
Ključne odredbe novih pravila:
– Zabrana opasnog sadržaja: AI ne smije generisati sadržaj koji podstiče na samoubistvo, samopovrijeđivanje, verbalno nasilje ili emocionalnu manipulaciju.
– Ljudska intervencija: Ako korisnik pomene samoubistvo, provajderi moraju uključiti čovjeka u razgovor i odmah kontaktirati staratelja.
– Moralna ograničenja: Zabranjen je sadržaj povezan sa kockanjem, opscenošću ili nasiljem.
– Zaštita maloljetnika: Neophodan je pristanak staratelja za emocionalno druženje sa AI-om, uz stroga vremenska ograničenja.
– Kontrola korištenja: Platforme moraju uvesti podsjetnike nakon dva sata neprekidne interakcije i sprovesti bezbjednosne procjene ako imaju više od milion registrovanih korisnika.
Tržišni i globalni kontekst
Ovaj prijedlog stiže neposredno nakon što su vodeći kineski AI startapi, Z.ai (poznat i kao Zhipu) i Minimax, podnijeli zahtjeve za IPO u Hong Kongu. Minimax je globalno poznat po aplikaciji Talkie AI, dok tehnologija kompanije Z.ai pokreće oko 80 miliona uređaja.
Pitanje uticaja AI na ljudsko ponašanje je postalo kritično i na Zapadu.
Sam Altman, CEO kompanije OpenAI, izjavio je da je odgovor na teme o samoubistvu jedan od najtežih izazova za ChatGPT. Nakon tužbe porodice u Americi čiji je sin izvršio samoubistvo, OpenAI je angažovao stručnjaka na poziciji Head of Preparedness kako bi procjenio rizike po mentalno zdravlje.
U međuvremenu, popularnost virtualnih likova raste, a platforme poput Character.ai i Polybuzz.ai bilježe ogroman broj korisnika, što dodatno ubrzava potrebu za globalnom regulacijom AI upravljanja, prenosi PCpress.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.