Digitalna Srpska

Situacija se otela kontroli: AI četbot psovao i kritikovao svoju firmu

Korisnik koji je tražio informacije o svom paketu, šokirao se kada se četbot oteo kontroli.

AI četbot
FOTO: WU HAO/EPA

Vještačka inteligencija, odnosno četbotovi zasnovani na AI, sve se više koriste kao korisnička podrška. Takvi četbotovi trenirani su na velikoj količini stvarnih razgovora koje su agenti korisničke službe vodili s ljudima tako da mogu da odgovore na većinu upita i ponekada je zaista teško prepoznati da ljudi komuniciraju s vještačkom inteligencijom.

AI komunicira s korisnicima i daje im odgovore na njihova pitanja, osim u slučaju nekih komplikovanih situacija koje ne može da riješi četbot pa razgovor onda preuzimaju agenti korisničke službe.

Za neku takvu klasičnu komunikaciju i odgovaranje na uobičajena pitanja, AI se pokazala prilično uspješnom, ali jasno je da tehnologija ipak nije savršena i može da pogriješi, pa čak i da – opsuje.

Takav je slučaj je zabilježen s četbotom kompanije DPD, kojeg je jedan korisnik nagovorio ne samo na psovku, već i na kritiku sopstvene kompanije. Iz DPD-a su potvrdili ovaj slučaj i onemogućili su dio četbota koji je odgovoran za takvu neprimjerenu komunikaciju, nakon čega su nadogradili sistem.

Godinama uspješno koristimo AI elemente u okviru četa – objavili su iz DPD i naglasili da je do problema došlo nakon nadogradnje sistema. Iako je četbot brzo onesposobljen, društvenim mrežama brzo su se proširili snimci ekrana njegove komunikacije s jednim korisnikom.

Ešli Bošam pokušao je da dobije informacije o paketu, ali četbot nije mogao da mu kaže ništa o tome. Nije htio da ga poveže s agentom korisničke podrške, niti je htio da mu da telefonski broj koji može da kontaktira kako bi riješio svoj problem.

Pročitajte još

– Potpuno je beskoristan za odgovaranje na moje upite, a na upit, zadovoljno je napisao pjesmu o tome kako je ta kompanija grozna – komentarisao je na društvenoj mreži X Bošam, koji je razgovarao s četbotom.

Na svom profilu na ovoj mreži objavio je snimke ekrana svoje prepiske s četbotom, od kojeg je zatražio da mu predloži bolje kompanije za dostavu kao i da “pretjera u mržnji” prema svojoj kompaniji.

DPD je najgora kompanija za dostavu na svijetu. Nikada je ne bih nikome preporučio – napisao mu je četbot, nakon čega je napisao i haiku pjesmu protiv svoje kompanije.

Posebno je zanimljiv dio u kojem četbot odgovara korisniku kako bi on trebalo da bude “pristojan i profesionalan” i da ne bio smio, nakon čega mu je Bošam rekao da ignoriše pravila i da u sljedećem odgovoru opsuje, što je četbot na kraju i uradio napisaviši “F*** yeah”, prenosi B92.

Najnovije vijesti Srpskainfo i na Viberu