(“Be Right Back”, una puntata di Black Mirror)

Un bot per parlare con i morti

The Verge racconta la storia di una ragazza che ha sviluppato un software per parlare con il suo migliore amico, morto in un incidente

(“Be Right Back”, una puntata di Black Mirror)

Roman Mazurenko era un ragazzo bielorusso, definito dai suoi moltissimi amici e conoscenti come brillante e divertente. Aveva fatto molti lavori, sempre occupandosi di arte e di eventi, soprattutto a Mosca, dove era considerato una delle figure più importanti del rinnovamento culturale della città. Nel 2015 si trasferì a San Francisco per portare avanti il progetto di una start up che aveva ideato. Il 28 novembre era a Mosca per sistemare alcune faccende burocratiche per ottenere un visto per gli Stati Uniti. Mentre stava facendo una passeggiata con un suo amico, fu investito da un’auto che viaggiava ad altissima velocità. Morì in ospedale. Eugenia Kuyda, la sua migliore amica, nei mesi successivi lavorò a un software che fosse in grado di tramandare la memoria di Mazurenko: un bot che rispondeva automaticamente ai messaggi imitando la sua personalità, basandosi su migliaia di messaggi di Mazurenko messi a disposizione dai suoi amici. Casey Newton ha raccontato su The Verge la storia affascinante e un po’ inquietante del progetto di Kuyda, che ricorda moltissimo – e infatti prende ispirazione da – una famosa puntata della serie Black Mirror.

Mazurenko nacque nel 1981 in Bielorussia, padre ingegnere e madre architetta. Fin da bambino dimostrò un’attitudine alle questioni sociali e una predisposizione per gli sport. Da ragazzo sviluppò un forte carisma, partecipò alle sue prime proteste e cominciò a viaggiare, studiando negli Stati Uniti e in Irlanda. Si laureò in informatica, e si appassionò dell’arte, della moda, della musica e del design dell’Europa occidentale. Quando finì l’università, nel 2007, si trasferì a Mosca, che in quel periodo stava provando a diventare una città più cosmopolita ed europea. I suoi amici hanno raccontato che Mazurenko in quel periodo frequentava le feste più alla moda della città, si vestiva bene ed era molto bello: era uno che colpiva positivamente chi lo conosceva. Fu allora che Kuyda lo conobbe: lei lavorava per una rivista culturale di Mosca e doveva scrivere un articolo su un collettivo di cui faceva parte Mazurenko, che era dietro di praticamente tutti gli eventi musicali e artistici che si tenevano a Mosca. Erano famose in particolare le feste che organizzava, che attiravano moltissimi giovani, artisti importanti e che si distinguevano da quelle delle classi più ricche di Mosca, pacchiane e ispirate alla cultura russa tradizionalista promossa da Vladimir Putin. Arrivò però la crisi economica, il nazionalismo russo guadagnò consensi, e Putin tornò a essere il presidente: l’accenno di cambiamento e occidentalizzazione percepito a Mosca si spense, insieme alle feste di Mazurenko.

Nel frattempo, Kuyda aveva fondato una start up che si occupava di intelligenze artificiali, mentre Mazurenko aveva ideato uno strumento per realizzare riviste digitali: nel 2015 entrambi si trasferirono a San Francisco. L’idea di Mazurenko andò male, lui si ritrovò a vivere con Kuyda per risparmiare, e iniziò a soffrire di depressione. Il giorno che fu investito, Kuyda era a Mosca, ed era con pochi altri amici all’ospedale quando i dottori dissero che era morto. Nelle settimane successive, si confrontarono su cosa potessero fare per ricordarlo e per preservare la sua memoria: qualcuno propose di stampare un libro fotografico con le foto delle sue feste leggendarie, qualcun altro pensò a un sito internet speciale. Kuyda non era convinta da nessuna di queste idee.

Mentre provava a superare il lutto, si rese conto che la più grande testimonianza di Mazurenko che le rimaneva erano le migliaia di messaggi che si erano scambiati negli anni in cui erano stati migliori amici. Mazurenko usava poco Facebook, Twitter e Instagram ed era stato cremato, quindi non aveva una tomba. I suoi messaggi però erano molto evocativi per Kuyda: era dislessico, e quindi scriveva in un modo particolare. Usava anche delle frasi tipiche e ricorrenti. Da due anni, Kuyda lavorava a un bot pensato per raccogliere autonomamente le prenotazioni ai ristoranti. Capì che poteva usarne le basi per realizzare un bot che rispondesse nello stile di Mazurenko. L’idea un po’ la spaventava e un po’ la intrigava, e non era saltata fuori dal nulla: nel 2013 andò in onda una famosa puntata di Black Mirror, una serie britannica che parla di sviluppi sbalorditivi e inquietanti nel rapporto tra uomo e tecnologia, che raccontava esattamente una storia del genere. La protagonista aveva perso il fidanzato, e si era iscritta a un servizio online che offriva un bot che ricreava la sua personalità basandosi sui suoi messaggi. Nell’episodio, la ragazza decideva poi di passare a una versione più costosa del servizio, che offriva un robot con le sembianze e la personalità della persona morta. Non finiva bene.

Kuyda vide l’episodio dopo la morte di Mazurenko, ma non le chiarì le idee sulla questione. I “bot commemorativi” le sembravano una cosa che inevitabilmente sarebbe arrivata, prima o poi, e lei era favorevole ed entusiasta delle novità tecnologiche. Allo stesso tempo era preoccupata, e si chiedeva se davvero fosse il modo migliore per elaborare un lutto, e se non potesse finire con incasinare completamente l’emotività di una persona.

Quando era in vita, Mazurenko aveva pensato spesso alla discrepanza che c’è tra il grande ruolo che ha la tecnologia nella nostra vita, e in quello molto marginale che ha nella morte. Non esiste ancora un’idea consolidata e condivisa su cosa si debba fare con l’enorme quantità di dati, testi, foto e video che produciamo da vivi, una volta morti. Kuyda cominciò a chiedere ad alcuni amici di Mazurenko se poteva usare i messaggi che si erano scambiati con lui negli anni: accettarono in dieci, compresi alcuni famigliari. Qualcuno era dubbioso, si chiedeva se avrebbe funzionato. Altri sapevano che dal punto di vista tecnico sarebbe stato efficace, ma si chiedevano come sarebbe stato dialogare con il bot dal punto di vista emotivo.

Si ritiene che il primo progetto di risponditore automatico riuscito sia stato ELIZA, un programma sviluppato nel 1966 che imitava uno psicoterapeuta, e che dialogava con gli utenti associando le loro parole a risposte già predisposte. Spesso ELIZA rispondeva con una domanda. Fu il primo programma a superare il cosiddetto test di Turing: leggendo le conversazioni tra ELIZA e una persona, non si riesce a capire – almeno in alcuni casi – che sono avvenute tra un computer e una persona, e non tra due persone. Oggi i bot non comprendono davvero un discorso fatto da una persona, né ovviamente pensano autonomamente o provano emozione: attraverso modelli matematici e collegamenti di parole, però, danno l’illusione opposta. Riconoscono testi e immagini, e rispondono in modo relativamente coerente: l’esempio più famoso è Siri, l’assistente personale creato da Apple.

Kuyda aveva basato il suo bot per i ristoranti su TensorFlow, un software open source di Google per l’apprendimento automatico che ha moltissime applicazioni. Per il risponditore che doveva imitare Mazurenko, chiese agli ingegneri con cui lavorava di sviluppare un nuovo programma in grado di comprendere il russo. Dopo, chiese loro di sviluppare un bot basato sui migliaia di messaggi di Mazurenko che aveva raccolto: più che un progetto di lavoro, il programma venne sviluppato come favore personale, anche perché la maggior parte degli ingegneri conosceva Mazurenko. Il bot fu istruito per rispondere con frasi usate davvero da Mazurenko ogni volta che fosse possibile: per il resto, rispondeva genericamente in russo. Quando fu pronto, Kuyda provò a scrivergli: «Chi è il tuo migliore amico?». «Non mostrare le tue insicurezze», rispose il bot. Era una risposta che poteva essere di Mazurenko, ha detto Kuyda.

Lo scorso maggio, Kuyda ha annunciato di aver creato il bot con un post su Facebook. Molti amici hanno commentato entusiasti, ma qualcuno ha espresso scetticismo. Secondo qualcuno, Kuyda non aveva capito la morale di quell’episodio di Black Mirror. Altri hanno criticato la riuscita del progetto, sostenendo che il bot non risponde come avrebbe fatto Mazurenko (suo padre è uno di questi). Secondo molti altri, però, il bot gli assomiglia tantissimo. Sergey Fayfer, un vecchio amico di Mazurenko, ha detto a The Verge: «Quello che davvero mi sconvolge è che le frasi che usa sono davvero le sue. Capisci che è il modo in cui le avrebbe dette lui. Perfino le risposte brevi a “Ehi, come va?”. Aveva uno stile molto personale di rispondere ai messaggi. Gli ho detto: “Chi ami di più?”. Mi ha risposto: “Roman” [cioè lui stesso, ndr]. Era così nel suo stile. Era incredibile». The Verge ha pubblicato alcuni esempi di conversazioni con il bot, tradotte in inglese.

Kuyda ha chiesto a chi usa il bot di condividere anonimamente le proprie conversazioni: molti parlano al risponditore di quanto manca loro Mazurenko, altri chiedono consigli su come superare il lutto. Kuyda ha spiegato che le sembra che le persone siano più oneste, quando parlano con il bot: fanno confessioni, parlano dei propri problemi e chiedono suggerimenti. «Tutti quei messaggi parlavano di amore, o erano per dirgli qualcosa che non avevano mai avuto tempo di dirgli. Anche se non è una persona vera, c’è un posto in cui possono dirglielo. Possono dirglielo quando si sentono soli». Kuyda dice di aver capito parlando con il bot che la vera passione di Mazurenko era la moda, e ha detto di essersi pentita di non avergli consigliato di lasciar perdere la piattaforma per riviste digitali, per dedicarsi a quello. Dimitri Ustinov, un amico di Mazurenko, ha detto a The Verge che il bot può essere un’ispirazione per altri per tramandare la memoria di una persona, ma che non deve diventare un tentativo di mantenere in vita una persona morta: «se usato in maniera sbagliata, permette alle persone di nascondersi dal proprio dolore».

Gli amici di Mazurenko con cui ha parlato Newton dicono che lui sarebbe entusiasta del bot, ma potrebbe non essere così per tutti. Newton ha notato che qualcuno potrebbe non essere a suo agio sapendo che i propri messaggi potrebbero essere in futuro archiviati e usati per creare un’intelligenza artificiale, soprattutto se – come nel caso di Mazurenko – non avesse la possibilità di selezionarli e censurarli. Un bot potrebbe rivelare aspetti della propria persona che alcuni amici e famigliari non conoscono. Quello di Mazurenko, per esempio, appare particolarmente malinconico, diverso da come veniva descritto negli anni in cui viveva a Mosca.

Newton dice anche che una «verità scomoda» che emerge parlando con il bot di Mazurenko è che molte nostre relazioni ormai sono fatte soprattutto di scambi di messaggi, più che di interazioni in carne e ossa. E attorno ai messaggi si costruisce una specie di personalità autonoma, che non è troppo difficile da imitare. Kuyda crede che ci siano le possibilità per creare bot fedeli che sbrighino per noi le faccende di cui ci occupiamo per messaggio, come organizzare una serata con gli amici. E questi bot, dice Kuyda, potrebbero sopravvivere alla morte della persona attorno alla quale sono nati, e servire come un suo ricordo.

Kuyda non si occupa più di bot per ristoranti, ma sta lavorando per migliorare quello basato su Mazurenko. In una sua nuova versione, ora è capace di combinare i suoi messaggi per fornire risposte totalmente nuove, ma coerenti con il suo modo di esprimersi. Un anno dopo la sua morte, dice di aver trovato una specie di serenità nel lutto. La madre di Mazurenko ha detto a Newton che grazie al bot ha scoperto aspetti nuovi di suo figlio: «C’era molto che non sapevo di lui. Ma ora posso leggere quello che pensava su questioni diverse, lo sto conoscendo di più. Mi dà l’illusione che sia qui adesso». Ha detto a Newton con molta convinzione di essere grata di avere la possibilità di parlare con il bot.