TikTok je greškom objavio link ka internoj verziji svog novog AI alata za digitalne avatare, omogućavajući korisnicima da kreiraju video snimke u kojima može da se kaže bilo šta.
Ovu grešku prvi uočio CNN i testirao je funkciju tako što je generisao video zapise koji sadrže citate Hitlera i poruku koja govori ljudima da piju izbeljivač, između ostalih fraza. TikTok je od tada uklonio ovu verziju alata, dok verzija koju je TikTok imao u plan da pokrene ostaje i dalje dostupna.
NEW: TikTok released an AI video generator. We found it recited “Mein Kampf" and Osama Bin Laden on command with no watermarks. It pulled access after CNN asked them about it. https://t.co/6RRtPl6s0v pic.twitter.com/hubruBVtDx
— Jon Sarlin (@jonsarlin) June 21, 2024
Simfoni Digital Avatars, koje je TikTok pokrenuo ranije ove nedjelje, omogućavaju kompanijama da generišu oglase koristeći lik plaćenih glumaca. Takođe koristi sinhronizaciju sa vještačkom inteligencijom koja omogućava oglašivačima da unesu skriptu kako bi avatari rekli šta žele u okviru TikTok smjernica. Iako samo korisnici sa TikTok Ads Menadžer nalogom mogu da pristupe ovoj alatki, verzija koju je otkrio CNN omogućava svakome sa ličnim nalogom da to pokuša.
Portparolka TikToka Laura Perez kaže da je TikTok otklonio “tehničku grešku” koja je “dozvolila izuzetno malom broju korisnika da kreiraju sadržaj koristeći verziju alata za interno testiranje”.
Kada je CNN otkrio internu alatku, kreirao je video zapise koji deklamuju “Pismo Americi” Osame bin Ladena, slogan o nadmoći bijelaca i video koji govori ljudima da glasaju pogrešnog dana. Nijedan od video zapisa koji je CNN proizveo nije imao vodeni žig koji otkriva da je video generisan vještačkom inteligencijom.
CNN nije na TikToku objavio video snimke koje je kreirao, ali Perez napominje da bi sadržaj svakako “bio odbijen zbog kršenja naših sjmernica”. Iako je TikTok od tada ukinuo ovu verziju svog alata, to dovodi u pitanje da li će ljudi pronaći druge načine da zloupotrebe ovog kreatora digitalnih avatara – i da li je TikTok spreman za to, prenosi B92.
Najnovije vijesti Srpskainfo i na Viberu