Quanto è difficile fare una legge sulla moderazione dei contenuti online

Il governo britannico ha recentemente presentato al parlamento una legge a cui sta lavorando da cinque anni: è l’Online Safety Bill, che affronta il tema molto delicato e controverso della moderazione dei contenuti sui social network, resa notoriamente difficile dalla necessità di bilanciare la libertà d’espressione e la sicurezza degli utenti, specie quelli considerati più vulnerabili. Nonostante la Segretaria di Stato britannica per il Digitale Nadine Dorries dica che la legge renderebbe il Regno Unito «leader mondiale nella definizione degli standard per un Internet migliore e più sicuro per tutti», però, il testo della legge scontenta molti e rischia addirittura di isolare il Paese dalla rete globale.

La moderazione dei contenuti online generati dagli utenti è notoriamente complessa. Chi gestisce le piattaforme digitali si trova nella situazione quasi impossibile di identificare e distinguere, tra le enormi quantità di post, video, foto e commenti che vengono pubblicate ogni giorno sul loro sito, i contenuti che infrangono non solo le proprie regole ma anche, sempre più spesso, le leggi specifiche dei Paesi in cui sono attivi.

I contenuti in questione devono essere rimossi sia velocemente, in modo da causare meno danni possibili, sia accuratamente, per evitare di cancellare erroneamente quelli legittimi. Gli investimenti necessari per far funzionare questo delicato meccanismo, in un modo che consideri le specificità linguistiche, sociali e culturali di milioni di utenti, sono spesso molto alti, e per tagliarli le aziende tech si affidano massicciamente ad intelligenze artificiali che però spesso non sanno capire il contesto dei contenuti che esaminano.

A tutto ciò, negli ultimi anni, si è aggiunta una crescente pressione politica, perché a diverse fazioni corrispondono altrettanto diverse sensibilità e convinzioni su quali contenuti si debbano o meno tollerare. Il tema aveva ottenuto particolare attenzione quando gran parte delle piattaforme social mainstream avevano deciso di sospendere gli account gestiti dall’ex presidente degli Stati Uniti Donald Trump dopo l’attacco al Congresso statunitense il 6 gennaio 2021. L’idea che un ex presidente americano potesse essere censurato sui social network aveva aperto un acceso dibattito su quali dovessero essere i limiti di intervento delle piattaforme, che svolgendo anche una evidente funzione di editori sono pertanto interessati da nuove questioni e dilemmi che riguardano la libertà d’espressione sui loro siti.

In questo contesto si inseriscono diversi sforzi legislativi, che a seconda del contesto in cui sono stati introdotti hanno suscitato preoccupazioni diverse. Per esempio, sia il Digital Service Act europeo – che potrebbe entrare in vigore dal 2023 – che le nuove regole per i social network presentate in India l’anno scorso hanno lo scopo dichiarato di obbligare le piattaforme a fare di più per arginare la disinformazione. Il governo indiano di Narendra Modi, però, è già stato accusato di avere intimidito le piattaforme che non vogliono reprimere i post dell’opposizione, l’Unione Europea no.

Nel caso dell’Online Safety Bill britannica, che promette di trasformare il Regno Unito nel “posto più sicuro al mondo per navigare su Internet”, le critiche abbondano. Il testo della proposta di legge è stato presentato al parlamento britannico il 17 marzo, e si propone di esercitare sulle piattaforme tecnologiche una pressione senza precedenti per obbligarle a moderare non soltanto i contenuti illegali, ma anche quelli che il governo considera “legali ma dannosi”, come l’istigazione al suicidio o la pornografia.

– Leggi anche: Non è facile rendere Internet un posto più sicuro per i bambini

Per farlo, il disegno di legge attribuisce nuovi poteri all’autorità che regolamenta le telecomunicazioni nel Paese, Ofcom: se approvata, il regolatore potrà richiedere informazioni e dati alle aziende di tecnologia attive nel Regno Unito per valutare come stanno proteggendo gli utenti, entrando nei locali delle società, intervistando i loro dipendenti e sottoponendole a valutazioni esterne.

In caso vengano comunicate informazioni false o incomplete, Ofcom potrebbe comminare multe fino al 10% del fatturato annuo dell’azienda o addirittura chiedere il carcere per i dirigenti con più anzianità di servizio, una disposizione che la stampa conservatrice ha soprannominato “Nick Clegg Law”, dal nome dell’ex vice primo ministro inglese che nel 2018 era stato nominato vice presidente degli affari globali e della comunicazione di Facebook, che sarebbe potenzialmente interessato dalla misura. Lo stesso Clegg ha criticato la proposta di legge dicendo che «rischia di fossilizzare come funzionano i prodotti e di impedire la costante interazione e sperimentazione che guida il progresso tecnologico».

Secondo il governo britannico, «l’Online Safety Bill segna una pietra miliare nella lotta per una nuova era digitale che sia più sicura per gli utenti e tenga conto dei giganti della tecnologia. Proteggerà i bambini da contenuti dannosi come la pornografia e limiterà l’esposizione delle persone a contenuti illegali, proteggendo nel contempo la libertà di parola». Il testo, però, sembra non fare contento quasi nessuno.

Da più parti è stata sollevata l’obiezione che la legge sia semplicemente troppo vasta e che voglia regolamentare l’interezza delle interazioni online, dalle grandi piattaforme social ai servizi di messaggistica privati. Il disegno di legge era stato inizialmente pensato per mettere un freno alla radicalizzazione online dopo gli attentati terroristici del 2017, ma dopo ogni scandalo – dagli attacchi razzisti online ai giocatori afrodiscendenti della nazionale di calcio inglese dopo la finale degli Europei al recente suicidio di un’adolescente che, sui computer della scuola, aveva visitato siti che incitavano all’autolesionismo – la legge è stata ampliata per includere nuovi fenomeni digitali, per quanto scollegati tra loro, dall’incitamento all’odio al trolling, dalla circolazione di foto di nudo senza il consenso degli interessati alle pubblicità fraudolente.

Nonostante il governo continui ad affermare che la nuova legge proteggerebbe attivamente la libertà d’espressione online, il testo è molto poco preciso rispetto a quali contenuti rientrino nella nebulosa categoria di “legale ma dannoso”. Anche solo per questo, diversi esperti sottolineano che l’Online Safety Bill rischia di spingere le piattaforme a cancellare più post del necessario per non rischiare ripercussioni legali.

– Leggi anche: L’approccio di Substack alla moderazione dei contenuti

Per quanto riguarda la privacy, sono state sollevate preoccupazioni relative al fatto che la legge si riserva la possibilità di obbligare le piattaforme ad adottare tecnologie che profilino gli utenti e ne identifichino i comportamenti, ma anche di imporre l’uso di “tecnologie di verifica dell’età” sui siti per adulti per rendere più difficile l’accesso ai minori, permettendo potenzialmente una forma di tracciamento di tutte le persone che frequentano siti pornografici.

«Tutti, dagli avvocati agli attivisti ai creator, stanno dicendo che a livello di libertà di espressione e di privacy questa legge è una catastrofe» spiega Carolina Are, ricercatrice esperta di moderazione di contenuti che insegna alla City University di Londra. «Tutte le definizioni sono molto generali e applicabili in modo diverso secondo idee politiche e pregiudizi personali delle persone coinvolte. Come già successo con le leggi statunitensi FOSTA e SESTA, è molto probabile che le piattaforme, per non essere multate o perseguite, finiscano per censurare molte più cose, tra cui quelle che rientrano nell’interesse pubblico».

Il disegno di legge deve ancora passare attraverso l’iter legislativo ed essere approvato in entrambe le camere del Parlamento. Se passasse, rischierebbe di creare per certi versi per gli utenti britannici una rete distinta da quella di cui fanno esperienza la maggior parte del mondo, isolandoli come sta già accadendo in Cina, Russia o India.

Nonostante i cinque anni di lavori, le critiche e le proteste nei confronti della proposta di legge dimostrano quanto possa essere complesso e rischioso, per i governi, intervenire su un tema così enorme e sfaccettato come la regolamentazione dei contenuti di Internet.

«I gruppi per le libertà civili dicono che fornisce una legittimazione statale alla censura della grande tecnologia su una scala che non abbiamo mai visto prima. I critici della grande tecnologia sostengono che non riesce a tenere a freno il potere degli irresponsabili magnati della Silicon Valley. Le startup si disperano per la riduzione dei profitti. Gli attivisti affermano che non riesce ad affrontare il tema dei modelli di business tecnologici. Per gli enti di beneficenza per bambini, non fa abbastanza. Per gli accademici che studiano il comportamento dei bambini online, si spinge troppo in là» riassume il giornalista Rowland Manthorpe. «Anche la sua portata è oggetto di dibattito. Per i suoi sostenitori, il disegno di legge è innovativo e unico al mondo. Per altri è un piccolo passo, non sempre nella giusta direzione».