Američki Federalni istražni biro (FBI) pokrenuo je istragu protiv platforme Iks (nekadašnji Tviter) nakon saznanja da je njen četbot zasnovan na vještačkoj inteligenciji, Grok, korišćen za kreiranje stotina lažnih nagih fotografija i video snimaka ženske osobe bez njenog pristanka.
Prema sudskim dokumentima do kojih su došli mediji, FBI je u januaru dobio nalog za pretres kako bi od kompanije Iks dobio podatke o komunikaciji jednog korisnika sa Grok AI botom. Optuženi muškarac, Sajmon Tak, tereti se za uhođenje i uznemiravanje, a vjeruje se da je koristio Grok za generisanje preko 200 eksplicitnih materijala koji vjerno prikazuju suprugu čovjeka kojeg je maltretirao.
Istražitelji su u prepiskama pronašli upite (promptove) koje je optuženi slao botu kako bi dobio pornografski sadržaj koji “blisko podsjeća na fizički izgled žrtve”. Pored toga, Tak je navodno koristio vještačku inteligenciju i za pisanje lažnih profesionalnih pritužbi protiv supruga žrtve, koje je zatim slao njegovom poslodavcu u pokušaju da mu naruši ugled.
Ovaj slučaj je najnoviji u nizu incidenata koji bacaju sjenku na bezbjednosne protokole kompanije xAI, koja razvija Grok. Ranije ove godine, zabilježen je trend u kojem su korisnici masovno koristili alat za “nudifikaciju” (skidanje odjeće sa fotografija). Izvještaji su pokazali da je u jednom trenutku Grok generisao oko 6.700 seksualno sugestivnih slika svakog sata.
Iako je vlasnik platforme Ilon Mask prvobitno odbijao strožu regulaciju, Iks je na kraju uveo određena ograničenja kako bi spriječio generisanje neprimjerenog sadržaja. Međutim, kritičari i istražitelji upozoravaju da su te mjere uvedene prekasno i da su nedovoljne, jer bot i dalje može da bude naveden da zaobiđe filtere, prenosi B92.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.