Lo “hate speech” per i social network

All’inizio di maggio 2013 Facebook ha superato un miliardo di utenti registrati: i quali, tutti insieme, pubblicano circa due miliardi e mezzo di messaggi al giorno; e circa l’ottanta per cento di questi utenti non sono americani. Su Twitter gli utenti attivi sono circa 200 milioni e la media di tweet in un giorno è di 400 milioni. Su YouTube vengono caricati filmati a una media di 48 ore di nuovi contenuti ogni minuto. Per i social network e i grandi gruppi del web è evidentemente impossibile valutare ogni singolo contenuto caricato dagli utenti, ed è anche tecnicamente difficile sviluppare sistemi automatici efficienti di blocco preventivo dei contenuti offensivi o violenti.

Jeffrey Rosen – un giurista statunitense molto popolare e molto attento alle cose di internet – fu invitato l’anno scorso a un convegno organizzato dalla Facoltà di Legge di Stanford sulla libertà di espressione in rete, a cui parteciparono anche i giovani rappresentanti di grande aziende del web come Google e Facebook. Rosen ha ora raccontato del loro contributo alla discussione e di come si regolano con i contenuti offensivi o pericolosi, e con le espressioni che nella tradizione anglosassone rientrano o potrebbero rientrare nella categoria dello hate speech.

Cos’è lo hate speech
Lo hate speech – espressione spesso tradotta in italiano con la formula “incitamento all’odio” – è una categoria elaborata negli anni dalla giurisprudenza americana per indicare un genere di parole e discorsi che non hanno altra funzione a parte quella di esprimere odio e intolleranza verso una persona o un gruppo, e che rischiano di provocare reazioni violente contro quel gruppo o da parte di quel gruppo. Nel linguaggio ordinario indica più ampiamente un genere di offesa fondata su una qualsiasi discriminazione (razziale, etnica, religiosa, di genere o di orientamento sessuale) ai danni di un gruppo. La condanna dello hate speech – sia sul piano giuridico che nelle conversazioni al bar – sta in un equilibrio elastico ma spesso problematico con la libertà di parola, principio tutelato dal Primo emendamento della Costituzione degli Stati Uniti (e fondante, con le sue regole, di ogni democrazia).

Come la risolvono i social network
Lo hate speech è un tema che alimenta un dibattito molto attuale e ancora più controverso nel caso della libertà di espressione su internet, dove non esistono specifiche normative internazionali condivise. Le grandi aziende come Google e Facebook affidano la compilazione delle norme di utilizzo dei servizi a un gruppo di lavoro specifico, che chiamano scherzosamente i Deciders, “quelli che decidono” (dal nomignolo dato al direttore del settore legale di Twitter, Nicole Wong, quando lavorava per Google).
YouTube – che fu acquistata da Google nel 2006 – vieta esplicitamente lo hate speech, inteso secondo la definizione generale di linguaggio offensivo di tipo discriminatorio. Facebook allarga un po’ le maglie: lo vieta ma aggiunge che sono ammessi messaggi con «chiari fini umoristici o satirici», che in altri casi potrebbero rappresentare una minaccia e che molti potrebbero comunque ritenere «di cattivo gusto». Twitter è il più “aperto”: non vieta esplicitamente lo hate speech e neppure lo cita, eccetto che in una nota sugli annunci pubblicitari (in cui peraltro specifica che la campagne politiche contro un candidato «generalmente non sono considerate hate speech»).

La scorsa settimana alcuni studenti di cartografia della Humboldt State University in California hanno elaborato una “mappa dello hate speech” su Twitter selezionando manualmente i contenuti inequivocabilmente offensivi da un campione di 150 mila tweet contenenti parole dispregiative come nigger (“negro”), cripple (“storpio”) o wetback (“clandestino”). Il campo di ricerca è limitato al territorio degli Stati Uniti e al periodo da giugno 2012 ad aprile 2013, e il risultato – per quanto parziale – può avere chiavi di lettura significative per quel paese. Ma la definizione di hate speech non è univoca in tutto il mondo (a volte non lo è neanche negli Stati Uniti) e solleva un problema più articolato se si considera che la maggior parte degli utilizzatori di social network e portali web non sono americani.

Le tecniche e le regole usate da Facebook
Il capo dei Deciders di Facebook si chiama Dave Wilner: ha ventotto anni, ha scritto lui le norme d’uso del servizio ed è sposato con una collega del team Sicurezza dell’utente, che si occupa di protezione dei bambini e prevenzione dei suicidi (chissà che conversazioni a cena, si chiede Rosen). Il genere di domanda a cui Wilner e il suo team devono cercare di dare risposta ogni giorno è questo: «questa persona in foto è nuda? questa foto di Hitler è razzismo o commento politico? postare una foto di qualcuno alterata tramite Photoshop è bullismo? postare la foto di una pistola è una minaccia credibile? e se la pistola è quella della copertina di un album rap?».

Le difficoltà teoriche ma anche tecniche legate alla valutazione dei contenuti offensivi o critici – quelli che potrebbero provocare incidenti o reazioni violente – hanno spinto aziende come Facebook e YouTube ad affidare una parte importante del lavoro alla comunità di utenti, tramite il sistema delle segnalazioni. Questo serve a elaborare un algoritmo sviluppato in parte tramite l’apprendimento meccanico di questi dati e in parte tramite il lavoro umano di supervisione da parte dei Deciders, che aggiustano il tiro laddove ritengano che una segnalazione sia ingiustificata o condizionata da fattori non rilevanti secondo le norme di utilizzo. Primo emendamento e Libertà di parola sono due concetti rilevantissimi nelle valutazioni finali.

Il Primo emendamento e internet
Il Primo emendamento della Costituzione degli Stati Uniti – che garantisce e tutela la libertà di culto, di parola e di stampa, e a cui diversi commentatori di lingua inglese si appellano spesso in difesa della libertà di espressione in rete – è un argomento molto presente nella giurisprudenza statunitense, e anche oggetto di lunghe controversie. La libertà di espressione è considerata un diritto fondamentale e generalmente non ammette l’interferenza dello Stato: in una sentenza del 1988 molto citata (Boos contro Barry) i giudici ribadivano che «nel dibattito pubblico i cittadini dovrebbero tollerare le parole offensive, e perfino quelle oltraggiose, per fornire spazio sufficiente alle libertà protette dal Primo emendamento».

Ma la libertà di espressione non è un diritto assoluto – conosce ovvie e meno ovvie regolazioni – e non tutte le espressioni individuali sono considerate materia da Primo emendamento: quelle che non riguardano temi di interesse pubblico e da cui la società non potrebbe trarre beneficio non hanno alcuna tutela costituzionale (unprotected speech). Viene spesso citato un caso del 1942: un tale Chaplinsky diede in pubblico del “maledetto fascista e delinquente” a un agente dello stato del New Hampshire, la corte lo condannò – non per il bersaglio dell’offesa ma per l’offesa in sé – e lui si appellò inutilmente al Primo emendamento. In un passaggio della sentenza (citata anche questa in diversi testi di studi giuridici) la corte specificò:

«Ci sono alcune categorie di discorso ben definite e limitate, la cui prevenzione e punizione non ha mai sollevato alcun problema costituzionale. Sono le volgarità e le oscenità, la calunnia e l’insulto, le parole di scontro, cioè quelle che per la loro stessa espressione inferiscono un danno o tendono a provocare una violazione dell’ordine pubblico. Queste espressioni non sono parte essenziale di alcuna esposizione di idee, e sono di così scarsa utilità sociale ai fini della verità che qualsiasi beneficio che potrebbe derivarne è ampiamente superato da un interesse sociale più grande nell’ordine e nella moralità».