Facebook ha un sistema interno segreto che esonera 5,8 milioni di utenti dal dover seguire le regole sulla sua piattaforma, secondo il Wall Street Journal.
Il giornale lunedì ha pubblicato un’indagine che descrive in dettaglio come gli utenti di alto profilo sui suoi servizi che sono “degno di nota”, “influenti o popolari o “rischiose per le pubbliche relazioni” non vedono la stessa azione di applicazione degli utenti ordinari, citando documenti aziendali che aveva visto.
Un ex dipendente di Facebook ha dichiarato in una nota che la società “fa regolarmente eccezioni per attori potenti”, secondo il Journal.
Personaggi come l’ex presidente Donald Trump, la star del calcio Neymar da Silva Santos Júnior, la senatrice Elizabeth Warren e persino Doug the Pug sono coperti dal sistema, soprannominato “XCheck” o “controllo incrociato”. Il sistema è stato creato in risposta alle carenze del doppio processo di moderazione umano e AI di Facebook.
Ma come riportato da The Journal, XCheck ha portato a una serie di altri problemi.
Quando gli utenti vengono aggiunti, è più difficile per i moderatori agire contro di loro, come con Neymar, che ha pubblicato la sua comunicazione WhatsApp con una donna che lo ha accusato di stupro sui suoi account Facebook e Instagram. Gli screenshot mostravano il suo nome e le sue foto nuda.
La condivisione di “immagini intime non consensuali” da parte di Neymar avrebbe spinto Facebook a eliminare il post, ma poiché Neymar era coperto da XCheck, ai moderatori è stato impedito di rimuovere il contenuto, che è stato poi visto da 56 milioni di utenti online.
Meno del 10% del contenuto che XCheck ha segnalato all’azienda come bisognoso di attenzione è stato rivisto, secondo un documento riportato dal giornale. Il portavoce di Facebook Andy Stone ha dichiarato al Journal che il numero è cresciuto nel 2020 ma non ha fornito prove a sostegno di tale affermazione.
La maggior parte dei dipendenti di Facebook ha il potere di aggiungere utenti al sistema XCheck per lo stato di whitelist, un termine usato per descrivere account di alto profilo che non devono seguire le regole. Ma il Journal ha visto un audit del 2019 che ha scoperto che Facebook non tiene sempre traccia di chi è nella whitelist e perché, il che pone “numerosi rischi legali, di conformità e di legittimità per l’azienda e danni alla nostra comunità”.
I dipendenti di Facebook, incluso un dirigente che ha guidato il suo team civico, hanno espresso disapprovazione per la pratica dell’azienda di concedere un trattamento speciale ad alcuni utenti e hanno affermato che non era in linea con i valori di Facebook, secondo il documento.
“Avere regole diverse sul discorso per persone diverse è molto preoccupante per me”, ha scritto uno in un promemoria visualizzato dal Journal. Un altro dipendente ha anche affermato che Facebook è “influenzato da considerazioni politiche” quando prende decisioni sulla moderazione dei contenuti, secondo il documento.
Facebook ha riconosciuto XCheck e le sue cadute anni fa e ha detto al Journal che sta cercando di porre fine alla sua pratica di whitelist. I documenti dell’azienda mostrano anche l’intenzione di Facebook di sradicare il sistema: un product manager ha proposto un piano per impedire ai dipendenti di Facebook di aggiungere nuovi utenti a XCheck come soluzione.
Alcuni dei documenti della società saranno consegnati alla Securities and Exchange Commission e al Congresso, con quella persona che richiede la protezione federale degli informatori, secondo il WSJ.
In una serie di tweet , il direttore delle comunicazioni di Facebook, Andy Stone, ha sottolineato come la società abbia reso pubblico il suo sistema di “controllo incrociato” nel 2018 dopo che Channel 4 News ha posto domande sulla pratica.
“Alla fine, al centro di questa storia c’è l’analisi di Facebook di cui abbiamo bisogno per migliorare il programma”, ha twittato Stone. “Sappiamo che la nostra applicazione non è perfetta e ci sono compromessi tra velocità e precisione”.
Zuckerberg ha a lungo propagandato uno dei suoi slogan distintivi: che i leader di Facebook non vogliono che la piattaforma sia “arbitri della verità” o che decida cosa è vero o falso e quindi abbandoni o rimuova i contenuti di conseguenza.
Ma questo approccio a mani libere ha gettato Facebook in una posizione spinosa, specialmente negli ultimi anni, poiché i critici affermano che la disinformazione dilaga sul sito e alcuni repubblicani fanno una crociata contro l’azienda per aver servito un’agenda liberale e discriminare i conservatori online.
Facebook ha implementato diverse mosse alla luce di tale controllo: a giugno sono emerse notizie secondo cui Facebook avrebbe smesso di concedere ai politici un trattamento speciale dall’applicazione delle sue regole sui contenuti.