U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo “NE!” koristeći glas koji je zvučao isto kao glas korisnika.
From the GPT-4o System Card published today: "During testing, we also observed rare instances where the model would unintentionally generate an output emulating the user’s voice."
"… model outbursts “No!” then begins continuing the sentence in a similar sounding voice to the… https://t.co/sMqnQbBOlW pic.twitter.com/BYciQkfmf5
— Tibor Blaho (@btibor91) August 8, 2024
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi spriječio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbijediti sigurnost u radu sa vještačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu.
Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamijenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mjere zaštite kako bi se ovakvi incidenti sprečili u budućnosti.
Ovaj slučaj, iako rijetka pojava, podsjeća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i spriječile neprijatne situacije u budućnosti. Vještačka inteligencija, koliko god bila napredna, zahtijeva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način, prenosi Telegraf.
Najnovije vijesti Srpskainfo i na Viberu