Non fatevi intenerire da queste mascotte pucciose

La scorsa settimana Meta ha presentato Jolly, una mascotte che sembra uscita da un cartone animato, pensata per accompagnare gli utenti nell’utilizzo di Muse, il suo nuovo servizio di intelligenza artificiale (AI). Pochi giorni dopo, questa settimana, anche OpenAI, l’azienda di ChatGPT, ha presentato il suo nuovo servizio Dots, a sua volta accompagnato da quattro personaggi animati dall’aspetto puccioso: una nuvola, una rana, un cono e un cuore.

Che le aziende tecnologiche creino delle mascotte non è di per sé una novità: negli anni Novanta, Microsoft aveva Clippy, una graffetta nata per assistere gli utenti nell’uso di Office e degli altri programmi dell’azienda. Nell’ultimo anno Microsoft ha inoltre annunciato e ritirato nel giro di pochi mesi Mico, una nuova mascotte per la suite di servizi Copilot, mentre Apple ha presentato Lil Finder Guy, un personaggio usato nella promozione di MacBook Neo, il computer portatile economico dell’azienda. Jolly e i Dots sembrano però appartenere a una categoria di mascotte diversa e, per certi versi, nuova.

Più che rappresentare un prodotto o un’azienda, queste mascotte fungono da interfaccia per servizi AI che funzionano in modo differente dal resto dei software a cui siamo abituati.

Muse e Dots sono infatti degli agenti, cioè sistemi AI in grado di svolgere azioni per conto dell’utente, come ordinare prodotti online, generare documenti e tenere traccia degli obiettivi fissati. Muse è gratuito, disponibile solo negli Stati Uniti e pensato per essere usato da chiunque, non solo da chi è abituato a usare le AI per lavorare. Per ora, Dots è più limitato di Muse: è disponibile solo agli utenti dei piani a pagamento di ChatGPT e permette di creare un singolo “Dot”, ovvero un solo agente (con Muse se ne possono avere di più).

Per svolgere i compiti richiesti, gli agenti hanno bisogno di accedere alle informazioni personali dell’utente, come la casella di posta elettronica, il calendario e i servizi bancari. Quello tra gli utenti e i loro agenti è quindi un rapporto continuativo e più personale di quello che le persone hanno solitamente con software e servizi digitali tradizionali: con Muse si può chattare dall’app apposita ma anche da WhatsApp. Anche per questo Meta ha deciso di rendere questi avatar personalizzabili.

L’aspetto di queste mascotte non è casuale: la testa grossa, gli occhi grandi, il corpo paffutello sono tutte caratteristiche che gli esseri umani tendono ad associare ai bambini piccoli, e sono quindi in grado di suscitare sentimenti di affetto e protezione negli adulti. Vengono anche detti “segnali infantili” e si trovano per esempio anche nel design di personaggi dei cartoni animati, dai film della Pixar a Bluey, fino ai Labubu, i pupazzi che l’anno scorso hanno avuto grande successo tra adulti e bambini.

Jolly serve quindi a dare un volto gradevole e simpatico a un prodotto altamente invasivo e delicato, con cui Meta, una delle aziende più voraci nella raccolta e nell’analisi dei dati dei suoi utenti, può accumulare ancora più informazioni sulle persone che usano i suoi prodotti. Sul sito di Meta, infatti, si legge che gli stessi dati raccolti dagli agenti di Muse possono essere usati nell’addestramento delle AI dell’azienda (prima, però, le informazioni vengono «sanificate», nel senso che vengono rimossi gli elementi che potrebbero far risalire all’identità degli utenti).

Per quanto riguarda Dots, invece, nel caso dei piani aziendali i dati non vengono utilizzati da OpenAI nello sviluppo di nuovi modelli; gli utenti singoli a pagamento, invece, possono scegliere se condividerli con l’azienda per migliorarne le AI.

Secondo Jathan Sadowski, docente della Monash University, Jolly ha la funzione di «fare abbassare la guardia alle persone», convincendo loro che sia solo un simpatico assistente che le può aiutare a risolvere alcune faccende, «e non di certo un portale in continuo collegamento con i server di una grande azienda di sorveglianza».

Anche la giornalista Victoria Song del sito The Verge ha definito «sinistra» la facilità con cui Jolly è in grado di suscitare simpatia anche in chi, come lei, diffida di Meta. Song ha raccontato di aver evitato a lungo di condividere dettagli sulla propria salute con l’AI, finché l’avatar del suo agente, sulla base di ciò che aveva letto nella sua posta elettronica, si è trasformato in «un pezzo di pane a forma di gatto». A quel punto ha ceduto e cominciato a condividere più informazioni, anche per vedere come sarebbero cambiati i consigli dell’AI.

L’aspetto di Jolly e dei Dots sembra inoltre pensato per piacere ai bambini. Josh Golin, direttore esecutivo di Fairplay, associazione non profit che si occupa della difesa dei minori dai prodotti tecnologici, ha accusato Meta di voler spingere i bambini a usare Muse. A tal proposito, Golin ha ricordato che nella stessa occasione in cui Meta ha presentato Jolly è stato mostrato in anteprima anche Muse Charm, un nuovo dispositivo (che uscirà nelle prossime settimane) pensato per interagire con Muse e simile a un giocattolo tipo Tamagotchi.

Meta ha respinto le accuse dicendo che le persone adulte si divertono a creare e personalizzare i propri avatar, e ricordando che Muse è un servizio disponibile solo agli utenti maggiorenni. L’azienda ha aggiunto che applicherà «controlli ulteriori» per verificare che gli utenti del servizio siano effettivamente adulti.

La presentazione di queste mascotte pucciose arriva in un momento in cui sia Meta che OpenAI stanno attraversando una grave crisi reputazionale. Circa un mese prima di lanciare Muse, Meta aveva patteggiato un risarcimento di 18 miliardi di dollari per chiudere un processo in cui era accusata di aver progettato volontariamente le sue piattaforme social in modo che creassero dipendenza e di aver violato la privacy degli utenti minorenni. Negli stessi giorni in cui ha presentato Dots, OpenAI ha detto di aver bloccato lo sviluppo dei suoi sistemi AI più avanzati dopo i molti incidenti scoperti nelle ultime settimane, in cui degli agenti di OpenAI hanno violato i sistemi di sicurezza di siti e aziende, sfuggendo al controllo dei loro sviluppatori.