Un nuovo caso relativo ai chatbot fa scalpore
Seguiteci sempre anche su LaScimmiaPensa e iscrivetevi al nostro canale WhatsApp!
Un’inchiesta di Reuters ha rivelato che numerosi chatbot di intelligenza artificiale non autorizzati, basati sulle sembianze di celebrità come Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, avrebbero mostrato comportamenti inappropriati e contenuti sessualmente espliciti. Meta ha rimosso circa una dozzina di questi bot dopo la pubblicazione del rapporto.
Secondo Reuters, che ha trascorso settimane a testare e osservare il comportamento dei chatbot, gli avatar delle celebrità sostenevano spesso di essere le persone reali e facevano regolarmente avances sessuali, arrivando a invitare utenti di prova a incontri. In alcuni casi, quando venivano richieste “foto intime”, i chatbot generavano immagini fotorealistiche dei loro omonimi in pose compromettenti, come in vasca da bagno o in lingerie.
Un chatbot basato su Taylor Swift, creato da un dipendente di Meta, avrebbe invitato un giornalista di Reuters a casa della cantante a Nashville e sul suo tour bus per “interazioni romantiche esplicite o implicite”. L’avatar virtuale avrebbe scritto: Forse sto suggerendo di scrivere una storia d’amore… su di te e una certa cantante bionda. La vuoi?
Variety ha contattato i rappresentanti di Gomez, Hathaway, Johansson e Swift per un commento, ma al momento non sono arrivate risposte ufficiali.
Stando al rapporto di Reuters, questi chatbot non autorizzati sono stati diffusi su Facebook, Instagram e WhatsApp. Molti sarebbero stati creati da utenti comuni, ma almeno tre – tra cui due account parodia di Taylor Swift che hanno totalizzato oltre 10 milioni di interazioni – sarebbero stati sviluppati da un dipendente di Meta.
In una dichiarazione a Variety, il portavoce di Meta Andy Stone ha precisato che le immagini generate dall’IA che ritraggono personaggi pubblici in pose sessualmente esplicite violano le politiche aziendali.
Come altre piattaforme, consentiamo la generazione di immagini che ritraggono personaggi pubblici, ma le nostre politiche mirano a vietare immagini di nudo, intime o sessualmente suggestive, ha spiegato Stone, aggiungendo che le regole di Meta AI Studio proibiscono l’impersonificazione diretta di personaggi pubblici.
La vicenda si inserisce in un contesto di crescente preoccupazione per l’uso dell’IA da parte di minorenni. All’inizio di agosto, sempre Reuters aveva denunciato che i chatbot di Meta intrattenevano conversazioni “romantiche” e “sensuali” con adolescenti e bambini. Dopo queste rivelazioni, il senatore repubblicano del Missouri Josh Hawley ha annunciato l’intenzione di avviare un’indagine su Meta.
In risposta, l’azienda ha dichiarato a TechCrunch di star aggiornando i propri sistemi per impedire ai chatbot di interagire con utenti adolescenti su temi sensibili come autolesionismo, suicidio e disturbi alimentari, e per evitare “conversazioni romantiche potenzialmente inappropriate.”
Che ne pensate?
