Facebook consentiva di scegliere destinatari antisemiti per la pubblicità

Gli inserzionisti potevano usare chiavi di ricerche come "odio gli ebrei" per decidere a chi mostrare i loro annunci

Facebook consentiva a chi utilizzava il suo servizio per la pubblicità online di sfruttare termini come “odiare gli ebrei” e “come bruciare gli ebrei” per selezionare i destinatari dei messaggi promozionali, in modo da aumentare le probabilità di ottenere la loro attenzione. Lo hanno scoperto quelli di ProPublica, che lo hanno raccontato di recente in un articolo. In seguito alla pubblicazione della notizia, il sito d’informazione Slate ha notato che la stessa selezione poteva essere fatta cercando parole che ricorrono spesso nei gruppi di razzisti sul social network, compresi termini come “ku-klux-klan”. Facebook ha risposto dicendo di avere rimosso la possibilità di usare quelle chiavi di ricerca, ripromettendosi di effettuare controlli più accurati in futuro.

Il servizio per la pubblicità online offerto da Facebook riscuote molto successo perché permette di selezionare accuratamente i destinatari dei messaggi promozionali. Gli algoritmi raccolgono informazioni dai profili di ogni utente, compresi i dati sulle scuole che hanno frequentato, il posto in cui lavorano e altri dati di questo tipo. Ogni utente è libero di scrivere ciò che vuole in quei campi: spesso si trovano indicazioni creative e innocue, ma in altri casi contenuti offensivi come “hater degli ebrei” o altre formulazioni razziste. Gli algoritmi rilevano queste parole e le inseriscono nei database. Chi vuole creare una pubblicità con destinatari specifici, può poi cercarle sulla piattaforma per le sponsorizzazioni e creare una campagna pubblicitaria ad hoc.

In seguito alla segnalazione di ProPublica, Facebook ha diffuso un breve comunicato nel quale ha detto di avere rimosso le categorie contenenti insulti e formulazioni razziste, ammettendo comunque di avere ancora molto lavoro da fare per evitare problemi di questo tipo: «Stiamo quindi costruendo nuove misure di sicurezza nel nostro prodotto per revisionare alcuni processi ed evitare che altre problematiche come quella emersa di recente possano verificarsi in futuro».

Facebook ha inoltre annunciato che “al fine di assicurarci che il targeting per la pubblicità non sia usato con scopi discriminatori” è stata temporaneamente sospesa la scansione, da parte degli algoritmi, dei campi che gli utenti compilano con informazioni personalizzate, diverse da quelle preimpostate e disponibili negli elenchi di Facebook (di scuole, università, luoghi di lavoro). Il sistema sarà ripristinato solo quando sarà possibile prevenire completamente il problema segnalato da ProPublica e Slate.

Essendo il più grande al mondo, Facebook è da quasi un anno al centro del grande dibattito sul ruolo dei social network nella diffusione di notizie false, messaggi che incitano all’odio razziale, alle violenze e alle discriminazioni. Dopo una prima fase di sostanziale rifiuto delle accuse, negli ultimi mesi l’azienda ha assunto una posizione più aperta e conciliante, impegnandosi per studiare il suo ruolo nella società e porre rimedio ad alcune storture.

La piattaforma per la pubblicità, la principale fonte di ricavo per Facebook, si sta rivelando centrale nelle dinamiche che portano a un utilizzo distorto e talvolta pericoloso del social network. Gli stessi dirigenti di Facebook hanno ammesso di avere scoperto che durante la campagna per le presidenziali negli Stati Uniti del 2016 furono create centinaia di account fasulli, probabilmente dalla Russia, con lo scopo di creare una rete di messaggi e post sponsorizzati per favorire l’elezione di Donald Trump. Il Congresso nei prossimi mesi potrebbe chiedere ai manager di Facebook di comparire davanti alle Commissioni che si stanno occupando delle indagini sul ruolo della Russia nel condizionare le elezioni.