Su X ci sono sempre più foto di donne e minori spogliati con l’intelligenza artificiale

Da giorni Grok, il chatbot basato sull’intelligenza artificiale sviluppato da una delle aziende di Elon Musk e che può essere interpellato direttamente sul social network X, è al centro di molte polemiche per via di una funzione che consente di modificare le immagini caricate sulla piattaforma. Migliaia di utenti la stanno usando per denudare le persone ritratte: spesso si tratta di donne o di persone minorenni, raffigurate in biancheria intima o in contesti degradanti. Le immagini alterate vengono poi diffuse sulla piattaforma senza il consenso delle persone coinvolte.

La funzione è stata resa accessibile a tutti tra il 24 e il 25 dicembre, dopo un periodo in cui era stata riservata soltanto agli utenti della piattaforma che avevano sottoscritto almeno un abbonamento di livello premium, quello intermedio. Le prime immagini di persone denudate senza consenso circolavano già nei giorni successivi al rilascio della funzione, ma la diffusione è aumentata particolarmente intorno a Capodanno.

I cosiddetti nudifiers, programmi basati sull’intelligenza artificiale che permettono di spogliare digitalmente i soggetti delle foto, esistono già da alcuni anni, ma finora erano rimasti perlopiù confinati in spazi marginali e poco visibili, come gruppi chiusi o canali Telegram. Il fatto che una funzione di questo tipo sia stata implementata anche su X, una piattaforma accessibile a chiunque e con più di 500 milioni di utenti mensili, ha ampliato notevolmente la portata del fenomeno e le sue possibili conseguenze: in tutto il mondo sta generando discussioni legate alla tutela della privacy, al consenso delle persone ritratte e alle responsabilità della piattaforma nella diffusione di questi contenuti.

A differenza di altri programmi di questo tipo, la funzione di Grok non consente di denudare completamente le persone, ma lascia comunque margini di intervento molto ampi: consente di ritrarle in biancheria intima e in pose a volte anche provocanti.

Venerdì scorso l’agenzia di stampa Reuters aveva analizzato i messaggi che interpellavano Grok sul social in 10 minuti, contando 102 tentativi di modifica di fotografie per far risultare le persone ritratte con un bikini.

Nella maggior parte dei casi si trattava di foto di giovani donne. In 21 occasioni Grok ha eseguito le richieste degli utenti, dando risalto anche ai dettagli indicati: ha generato immagini di donne che indossavano bikini trasparenti o cosparse d’olio abbronzante. Domenica su X era circolata anche una foto di Nell Fisher, attrice della popolare serie tv Stranger Things, manipolata per farla apparire in biancheria intima: Fisher ha 14 anni.

– Leggi anche: Il chatbot di Elon Musk è diventato nazista per un po’

Lunedì Ofcom, l’agenzia che regola i servizi di comunicazione nel Regno Unito, ha dichiarato di aver contattato urgentemente X per chiarire quali misure siano state adottate per rispettare gli obblighi previsti per la tutela della privacy degli utenti nel Regno Unito.

Si sono mossi nella stessa direzione anche altri paesi: la procura di Parigi ha aperto un’indagine dopo le segnalazioni di centinaia di donne e adolescenti, le cui fotografie sarebbero state diffuse senza consenso. In India il ministero dell’Informatica ha inviato una lettera alla sezione locale di X, accusando la piattaforma di aver incentivato la diffusione di contenuti osceni e sessualmente espliciti e imponendole di inviare un rapporto sulle misure correttive che la piattaforma intende adottare.

La funzione era stata introdotta in via sperimentale lo scorso 4 agosto, quando poteva essere utilizzata soltanto da utenti abbonati: dieci giorni dopo un gruppo di organizzazioni non profit aveva mandato una lettera alle principali autorità federali statunitensi, segnalandone le potenziali criticità e in particolare l’eventualità che gli utenti di Grok potessero usarla per «generare una pioggia di deepfake palesemente non consensuali». La lettera era stata inviata anche a xAI, l’azienda che ha sviluppato Grok, che però non ha mai dato una risposta. X aveva invece promesso di sospendere gli utenti che pubblicano questo tipo di immagini, ma la loro circolazione non si è fermata.

– Leggi anche: Com’è vivere con Neuralink nel cervello