I moderatori di contenuti

Da piccolo, per il compleanno, la nonna mi regalò un piccolo acquario con cinque pesciolini. Quattro avevano colori brillanti e si agitavano in continuazione attaccandosi a vicenda. Ma il mio preferito era un grigio esemplare di Ancistrus: un “pesce spazzino” che con la sua buffa bocca a ventosa teneva pulito il fondo e il cristallo dell’acquario. Senza di lui le acque si sarebbero intorbidite e il cristallo non sarebbe stato più trasparente.

Facebook ha da alcuni anni ingaggiato, per l’immenso acquario del proprio spazio, dei “moderatori di contenuti”. Anche loro sono una sorta di spazzini della Rete: analizzano e bloccano i contenuti più disdicevoli (anche per evitare spiacevoli cause legali). Un lavoro assai utile ma, come vedremo, con alti costi psicologici.

Fu Umberto Eco, il 10 giugno del 2015, ricevendo l’ennesima laurea honoris causa a Torino, a sostenere che “i social media danno diritto di parola a legioni di imbecilli”. E aggiunse: “Il Web non ha inventato gli imbecilli, ma ha dato loro, semplicemente, lo stesso pubblico che hanno i premi Nobel. E non l’ha fatto per caso. Perché da sempre i media lusingano l’uomo della strada, per manipolarlo meglio”. Quella frase provocatoria suscitò grande indignazione. Ma pochi si accorsero che Eco aveva usato praticamente le stesse parole tre mesi prima in una intervista a El Mundo (“todos los que habitan el planeta, incluyendo los locos y los idiotas, tienen derecho a la palabra pública…”). Quella era dunque un’affermazione beffarda ma meditata. I media non creano, ma coltivano e promuovono e gratificano l’imbecillità: perché fa vendere e fa votare. Il Web da visibilità agli imbecilli che, sostenne ironicamente Eco, “prima parlavano solo al bar dopo due o tre bicchieri di rosso e quindi non danneggiavano la società”.

Nel corso degli anni la Rete si è sempre più inquinata di bugie e insozzata di immagini orrende, fino a superare la soglia di tolleranza anche per paesi più liberi e democratici che iniziano a comprendere i profondi danni che ne derivano per le società. Per questo Facebook è dovuta correre ai ripari assumendo dei “moderatori di contenuti”.
Ne conobbi una lo scorso anno a Milano. Una ragazzona simpatica con gli occhiali spessi e buffe lentiggini: avvocatessa smanettona newyorkese, trasferitasi a lavorare a Menlo Park in California, per “moderare” lo spazio di Facebook. Mi disse sconsolata che non potevo nemmeno immaginare gli abissi di cattiveria, odio, falsità e perversione che creano ogni minuto legioni di imbecilli da tutto il mondo. Spaventose sono soprattutto le immagini che si inventano o manipolano. Lei e i suoi colleghi li inseguono, li bloccano, li cancellano. Ma è come tentare di fermare con un cucchiaio la corrente torbida di un fiume in piena: “Quelli si sentono liberi, e lo pretendono come un diritto, di pubblicare qualsiasi cosa e di vomitare in pubblico le loro bassezze. Sembra che vivano per questo. E io li attacco e tolgo loro la possibilità di nuocere”. La Rete stessa dovrebbe fabbricarsi gli anticorpi, e di fatto in parte lo fa, perché per le bufale, ad esempio, ci sono ormai degli ottimi “smascheratori di bufale (anche se sono sempre troppo pochi).

Ora è arrivata la notizia che Facebook ha accettato di pagare 52 milioni di dollari ai suoi “moderatori di contenuti”. In una causa del 2018, appaltatori terzi per l’azienda hanno dichiarato che Facebook non è riuscita a proteggerli adeguatamente da gravi lesioni psicologiche e di altro tipo che possono derivare dall’esposizione ripetuta a materiale grafico come abusi sessuali su minori, decapitazioni, terrorismo, crudeltà sugli animali e altre immagini inquietanti. La Corte Superiore della California per la Contea di San Mateo ha costretto Facebook a risarcire i moderatori con 1.000 dollari ciascuno. Coloro ai quali sono state diagnosticate patologie legate al lavoro potranno ottenere cure mediche e danni fino a 50.000 dollari. Da alcuni anni infatti i giornali statunitensi hanno iniziato a parlare delle cause intentate dagli “spazzini” che fanno un lavoro immateriale molto usurante.

Umberto Eco aveva detto: “La difesa istintiva del pubblico: può avvenire su Internet? Dipende solo dalla capacità critica di chi ci naviga”. Moderare e censurare infatti servirà sempre meno se continuerà ad acuirsi la crisi di un sistema formativo che accentua le differenze sociali e marginalizza intere fasce di giovani, non riuscendo a contrastare il crescente abbandono scolastico e la diffusione dell’ignoranza. Non è infatti soltanto un problema di educazione famigliare, ma soprattutto di una scuola che deve rinnovarsi radicalmente nei programmi e nei metodi, proponendo un sano spirito critico, valori credibili da opporre all’imbarbarimento della società. Un gran numero di adulti infatti sono sempre meno adatti a porsi come un modello positivo, immaturi e arretrati come spesso si dimostrano. I creatori di contenuti offensivi e violenti sono per lo più adulti mediamente ignoranti ma che sono diventati rapidamente abili nell’uso delle tecnologie digitali e capaci di connettersi con siti e server, spesso stranieri.

Per quanto riguarda l’Italia, ma purtroppo il discorso vale per la maggioranza dei paesi del mondo, perlomeno occidentale, è sempre più vera l’analisi che fece lo psichiatra Claudio Mencacci (Una società paranoica, in “Corriere della Sera”, 13 maggio 2013): “Il nostro paese è sempre più contagiato da una venatura paranoica. La diffidenza, il sospetto, la rissosità che permeano e inquinano i rapporti tra le persone, le accuse che acriticamente e in modo stereotipato uno schieramento rivolge all’altro, la negazione della possibilità di un dialogo che non si traduca in un alterco o in un pubblico dileggio, accompagnati dalla proiezione sistematica sull’altro delle responsabilità di programmi disattesi, dimostrano quanto gli aspetti, appunto para-noicali, siano operanti nel tessuto sociale attuale. […] Questo “virus della paranoia” è già in azione, circola nella nostra vita, amplifica la diffidenza dello Stato sui comuni cittadini che a loro volta ricambiano diffidenza e sospetto. E la Storia ci ha insegnato che il passaggio, a volte indolore, dallo Stato di diritto a quello paranoico, non è improbabile. […] Sono forti i segnali di perturbazione che provengono da questa atmosfera, da questa incontinenza emotiva che travolge ogni dibattito e conduce da un lato all’allontanamento dei cittadini dalla politica, dall’altro all’aumento della violenza che, quando si insinua nel gruppo, aumenta in modo esponenziale l’aggressività del singolo. Tale aggressività è anche conseguenza della crisi economica che sta esacerbando gli animi, ma è bene non sottovalutarla”.

La Rete è uno straordinario strumento di sollecitazione e amplificazione di tutto questo (come ben ha dimostrato il filosofo coreano-tedesco Byung-Chul Han nei suoi libri, tutti pubblicati da Nottetempo, in particolare Nello sciame. Visioni del digitale, 2013, e Psicopolitica, 2014). I “moderatori di contenuti”, che dovrebbero operare anche nei dibattiti televisivi (dove molte volte invece, per aumentare lo spettacolo, si aizzano le persone a scontrarsi, urlare e offendere), sono per lo più giovani che dimostrano di saper lavorare con mezzi intellettuali e tecnici (ma pagando alti prezzi psichici) per contrastare la cattiveria e la maleducazione, industriandosi a proteggere e aiutare la resistenza della ragione del pubblico dei naviganti, annullando le immagini e le parole che feriscono di più. Alice mi parve una giovane consapevole di avere una missione di utilità sociale, ben attrezzata tecnicamente e psicologicamente: una sorta di moderna paladina della lotta, sempre più necessaria, contro i paranoici che non si curano e gli imbecilli violenti che rendono torbido quello spazio nato, inizialmente, per collegare gli amici di un campus universitario, e diventato un’immensa rete che tira su tutti i pesci, anche quelli più ripugnanti, del mondo.

Francesco Cataluccio

Ha studiato filosofia e letteratura a Firenze e Varsavia. Ha curato le opere di Witold Gombrowicz e Bruno Schulz. Dal 1989 ha lavorato nell’editoria e oggi si occupa della Fondazione GARIWO-Foresta dei Giusti. Tra le sue pubblicazioni: Immaturità. La malattia del nostro tempo (Einaudi 2004; nuova ed. ampliata: 2014); Vado a vedere se di là è meglio (Sellerio 2010); Che fine faranno i libri? (Nottetempo 2010); Chernobyl (Sellerio 2011); L’ambaradan delle quisquiglie (Sellerio 2012); La memoria degli Uffizi (Sellerio 2013); In occasione dell’epidemia (Edizioni Casagrande 2020); Non c’è nessuna Itaca. Viaggio in Lituania (Humboldt Books 2022).