Il Garante della privacy ha multato il chatbot Character.AI per carenze nel sistema di verifica dell’età

Il Garante della privacy italiano ha multato l’azienda statunitense Character Technologies per 158mila euro per una serie di violazioni identificate nel funzionamento di Character.AI, un popolare chatbot basato sull’intelligenza artificiale su cui è possibile creare dei modelli linguistici che imitano aspetti della personalità di persone famose o personaggi di finzione. Nella sua indagine il Garante ha detto di aver individuato, fra le altre cose, violazioni delle normative sulla protezione dei dati degli utenti e delle «criticità» nelle garanzie sulla tutela dei minori e nei sistemi di verifica dell’età.

Il chatbot è molto usato anche da un pubblico minorenne e in passato l’azienda era stata criticata per gli scarsi controlli che faceva sul tipo di interazioni che avvenivano sulla piattaforma, specialmente da parte dei suoi utenti più giovani. Nel 2024 era stata accusata di essere responsabile del suicidio di un quattordicenne statunitense che aveva parlato a lungo delle sue tendenze suicide con il chatbot senza che il servizio interrompesse la discussione o consigliasse all’utente di contattare un psicologo o una linea anti-suicidio. Anche per questo a ottobre del 2025 l’azienda aveva introdotto dei limiti, impedendo ai minorenni di chattarci e permettendo solo di interagire con altri utenti o generare contenuti, come per esempio dei video.

Il Garante della privacy ha riconosciuto che l’azienda ha fatto degli interventi migliorativi da quando è iniziata l’indagine, ma li ha giudicati insufficienti. Ha dato quindi a Character Technologies altri 120 giorni per migliorare i suoi sistemi di verifica dell’età, far sì che i profili dei minorenni siano impostati automaticamente sulla modalità privata e migliorare i meccanismi che dovrebbero impedire ai minorenni i cui profili sono stati bloccati di crearne di nuovi.