In un post di questo mese, Zuckerberg ha affermato che era “profondamente illogico” che la società desse priorità ai contenuti dannosi perché gli inserzionisti di Facebook non vogliono acquistare annunci su una piattaforma che diffonde odio e disinformazione.

“A livello più elementare, penso che la maggior parte di noi non riconosca la falsa immagine dell’azienda che viene dipinta”, ha scritto.

Le basi del successo

Quando il signor Zuckerberg ha fondato Facebook 17 anni fa nel suo dormitorio dell’Università di Harvard, la missione del sito era quella di connettere le persone nei campus universitari e portarle in gruppi digitali con interessi e luoghi comuni.

La crescita è esplosa nel 2006 quando Facebook ha introdotto il News Feed, un flusso centrale di foto, video e aggiornamenti di stato pubblicati dagli amici delle persone. Nel tempo, l’azienda ha aggiunto più funzionalità per mantenere le persone interessate a trascorrere del tempo sulla piattaforma.

Nel 2009, Facebook ha introdotto il pulsante Mi piace. Il minuscolo simbolo del pollice in su, semplice indicatore delle preferenze delle persone, è diventato una delle caratteristiche più importanti del social network. La società ha consentito ad altri siti Web di adottare il pulsante Mi piace in modo che gli utenti potessero condividere i propri interessi sui propri profili Facebook.

Ciò ha fornito a Facebook informazioni sulle attività e sui sentimenti delle persone al di fuori del proprio sito, in modo che potesse indirizzarli meglio con la pubblicità. I Mi piace significavano anche ciò che gli utenti volevano vedere di più nei loro feed di notizie in modo che le persone trascorressero più tempo su Facebook.

Facebook ha anche aggiunto la funzione dei gruppi, in cui le persone si uniscono a canali di comunicazione privati ​​per parlare di interessi specifici, e pagine, che hanno permesso alle aziende e alle celebrità di accumulare grandi basi di fan e trasmettere messaggi a quei follower.

Un’altra innovazione era il pulsante di condivisione, che le persone usavano per condividere rapidamente foto, video e messaggi pubblicati da altri sul proprio feed di notizie o altrove. Un sistema di consigli generato automaticamente suggeriva anche nuovi gruppi, amici o pagine da seguire, in base al loro precedente comportamento online.

Ma le caratteristiche hanno avuto effetti collaterali, secondo i documenti. Alcune persone hanno iniziato a usare i Mi piace per confrontarsi con gli altri. Altri hanno sfruttato il pulsante di condivisione per diffondere rapidamente le informazioni, quindi i contenuti falsi o fuorvianti sono diventati virali in pochi secondi.

Facebook ha affermato di condurre ricerche interne in parte per individuare problemi che possono essere modificati per rendere i suoi prodotti più sicuri. Adam Mosseri , il capo di Instagram, ha affermato che la ricerca sul benessere degli utenti ha portato a investimenti in misure antibullismo su Instagram.

Eppure Facebook non può semplicemente modificare se stesso in modo che diventi un social network più sano quando così tanti problemi risalgono alle funzionalità principali, ha affermato Jane Lytvynenko, senior fellow presso l’Harvard Kennedy Shorenstein Center, che studia i social network e la disinformazione.

“Quando parliamo del pulsante Mi piace, del pulsante di condivisione, del feed delle notizie e del loro potere, stiamo essenzialmente parlando dell’infrastruttura su cui è costruita la rete”, ha affermato. “Il nocciolo del problema qui è l’infrastruttura stessa”.

Autoesame

Mentre i ricercatori di Facebook hanno approfondito il funzionamento dei suoi prodotti, i risultati preoccupanti si sono accumulati.

In uno studio sui gruppi del luglio 2019, i ricercatori hanno tracciato come i membri di quelle comunità potrebbero essere presi di mira dalla disinformazione. Il punto di partenza, hanno detto i ricercatori, sono state le persone conosciute come “invita le balene”, che hanno inviato inviti ad altri per unirsi a un gruppo privato.

Queste persone sono state efficaci nel convincere migliaia di persone a unirsi a nuovi gruppi in modo che le comunità si gonfiassero quasi da un giorno all’altro, afferma lo studio. Quindi le balene invitate potrebbero inviare spam ai gruppi con post che promuovono la violenza etnica o altri contenuti dannosi, secondo lo studio.

Un altro rapporto del 2019 ha esaminato come alcune persone hanno accumulato un ampio seguito sulle loro pagine di Facebook, spesso utilizzando post su simpatici animali e altri argomenti innocui. Ma una volta che una pagina è cresciuta fino a decine di migliaia di follower, i fondatori l’hanno venduta. Secondo lo studio, gli acquirenti hanno quindi utilizzato le pagine per mostrare ai follower informazioni errate o contenuti politicamente divisivi.

Mentre i ricercatori hanno studiato il pulsante Mi piace, i dirigenti hanno pensato di nascondere la funzione anche su Facebook, secondo i documenti. A settembre 2019, ha rimosso i Mi piace dai post di Facebook degli utenti in un piccolo esperimento in Australia.

L’azienda voleva vedere se il cambiamento avrebbe ridotto la pressione e il confronto sociale tra gli utenti. Ciò, a sua volta, potrebbe incoraggiare le persone a pubblicare più frequentemente sulla rete.

Ma le persone non hanno condiviso più post dopo che il pulsante Mi piace è stato rimosso. Facebook ha scelto di non estendere il test in modo più ampio, osservando: “Il numero di like è estremamente basso nella lunga lista di problemi che dobbiamo risolvere”.

L’anno scorso, i ricercatori dell’azienda hanno valutato anche il pulsante di condivisione. In uno studio del settembre 2020, un ricercatore ha scritto che il pulsante e le cosiddette unità di aggregazione di ricondivisione nel News Feed, che sono gruppi di post generati automaticamente che sono già stati condivisi dagli amici delle persone, sono stati “progettati per attirare l’attenzione e incoraggiare il coinvolgimento. “

Ma non controllate, le funzionalità potrebbero “servire ad amplificare contenuti e fonti errati”, come post di bullismo e nudità borderline, ha affermato il ricercatore.

Questo perché le funzionalità hanno reso le persone meno riluttanti a condividere post, video e messaggi tra loro. In effetti, gli utenti avevano tre volte più probabilità di condividere qualsiasi tipo di contenuto dalle unità di aggregazione di ricondivisione, ha affermato il ricercatore.

Un post che si è diffuso ampiamente in questo modo è stato un messaggio non datato da un account chiamato “The Angry Patriot”. Il post informava gli utenti che le persone che protestavano contro la brutalità della polizia stavano “prendendo di mira una stazione di polizia” a Portland, Oregon. Dopo essere stato condiviso tramite unità di aggregazione di ricondivisione, centinaia di commenti pieni di odio si sono riversati. Era un esempio di “esca d’odio”, il ha detto il ricercatore.

Un filo conduttore nei documenti era il modo in cui i dipendenti di Facebook sostenevano i cambiamenti nel modo in cui funzionava il social network e spesso accusavano i dirigenti di intralciare la strada.

In un post interno dell’agosto 2020, un ricercatore di Facebook ha criticato il sistema di raccomandazione che suggerisce pagine e gruppi da seguire e ha affermato che può “condurre molto rapidamente gli utenti verso teorie e gruppi di cospirazione”.

“Per paura di potenziali risposte delle parti interessate pubbliche e politiche, esponiamo consapevolmente gli utenti a rischi di danni all’integrità”, ha scritto il ricercatore. “Durante il tempo in cui abbiamo esitato, ho visto gente della mia città natale andare sempre più nella tana del coniglio” di movimenti di teoria della cospirazione come QAnon e cospirazioni anti-vaccinazione e Covid-19.

Il ricercatore ha aggiunto: “È stato doloroso osservare”.

La segnalazione è stata fornita da Davey Alba, Sheera Frenkel, Cecilia Kang e Ryan Mac.