Opinione
Dobbiamo reinventare il social network o trovare un modo per sopravvivere al suo dominio.
di Charlie Warzel
1 luglio 2020
“Sappiamo che abbiamo ancora molto lavoro da fare.”
Questa è stata la scorsa settimana la linea di numerosi rappresentanti di Facebook in risposta alla campagna di boicottaggio pubblicitario #StopHateForProfit. Con l’obiettivo di spingere la compagnia a frenare il discorso dell’odio e la disinformazione, il boicottaggio è stato affiancato da diversi marchi di alto profilo, tra cui Unilever e Verizon, e potrebbe lasciare un segno sulle entrate pubblicitarie di Facebook.
La campagna sembra avere un effetto. Venerdì, Facebook ha annunciato che avrebbe aggiunto etichette ai contenuti sulla votazione ed espanse le sue politiche di incitamento all’odio. La società ha anche aggiunto un tag “degno di nota” per il contenuto odioso di personaggi politici che viola le regole ma è consentito a causa del suo valore di notizie. Facebook ha sottolineato che tutte queste mosse sono state parte di una continua pulizia. “Sappiamo che abbiamo ancora molto lavoro da fare”, afferma la dichiarazione.
Sappiamo di avere più lavoro da fare (chiamiamolo in breve WKWHMWTD) è l’espressione definitiva dell’era dei social media, tracciata dai dirigenti ogni volta che le loro aziende entrano in una vergogna pubblica.
In sole otto parole, incapsula la posizione difensiva in cui Facebook è stata accovacciata fin dalle elezioni del 2016, quando è diventato chiaro che la sua tolleranza nei confronti delle comunità piene di odio sulle sue piattaforme le ha trasformate in vettori intelligenti per disinformazione e propaganda.
La frase è sia una promessa che una deflessione. È una richiesta di fiducia non acquisita: dacci tempo, stiamo lavorando per il progresso. E taglia le critiche significative – sì, sappiamo che questo non è abbastanza, ma sta arrivando di più.
Nel caso di Facebook, ciò che è più pericoloso in WKWHMWTD è che sorvola i difetti strutturali fondamentali della piattaforma. L’architettura del social network – il suo mandato algoritmico di coinvolgimento su tutto il resto, il vantaggio che offre al contenuto divisivo ed emotivamente manipolativo – produrrà sempre contenuti più discutibili su scala vertiginosa.
Facebook usa spesso la sua insondabile quantità di contenuti come scusa per l’inazione. “Abbiamo fatto passi da gigante”, ha detto un portavoce di Facebook, Nick Clegg, alla CNN domenica scorsa. “Ma, sai, in un giorno medio, ci sono 115 miliardi, 115 miliardi di messaggi inviati sui nostri servizi in tutto il mondo e la vasta, vasta, vasta maggioranza di questi è positiva.”
Ma la difesa del signor Clegg è anche un’ammissione: Facebook è troppo grande per governare in modo responsabile. Ci sarà sempre più lavoro da fare perché il design di Facebook produrrà sempre più odio di quanto chiunque possa monitorare. Come lo riformate? Non puoi.
Ultimamente, i miei pensieri su Facebook sono stati influenzati da due movimenti separati: l’abolizione della prigione e la spinta alla difesa della polizia. Ci sono questioni politiche complesse, ma la premessa centrale di questi movimenti è elegante nella sua semplicità. Le istituzioni gonfie e corrotte che criticano sono al di là delle riforme. Come ha scritto Mariame Kaba in un recente saggio del Times Op-Ed sul defunding della polizia , “Dobbiamo cambiare le nostre richieste”.
Per essere chiari, non esiste un confronto uno a uno tra Facebook e la polizia o lo stato carcerale. La polizia moderna, come osserva la signora Kaba, ha le sue origini nelle pattuglie di schiavi. Le origini di Facebook sono ovviamente molto diverse.
Tuttavia, i movimenti forniscono un obiettivo utile attraverso il quale visualizzare Facebook. Nonostante i dibattiti estenuanti sulle politiche di moderazione dei contenuti e le continue modifiche incrementali alle sue regole e politiche, persistono evidenti problemi. Tutti i segni indicano un sistema oltre la riforma.
“Vedi un sacco di gente che fa sperare in una nuova, umana piattaforma di social media per salvarci – una che rispetti la privacy o sia meno algoritmicamente coercitiva”, mi ha detto Siva Vaidhyanathan, professore di studi sui media all’Università della Virginia recentemente. “Ma se siamo onesti, quello che stanno davvero proponendo a quel punto non sono più i social media.”
In altre parole, l’architettura è il problema.
“Penso che i social media siano stati un male per gli umani. E non dovremmo continuare a provare a immaginare di dover riparare o reinventare ciò che è fondamentalmente una cattiva idea “, ha detto.
Ifeoma Ozoma, che ha contribuito a guidare le politiche pubbliche e l’impatto sociale di Pinterest e ha lavorato sugli sforzi delle politiche pubbliche su Facebook e Google, sostiene che l’architettura imperfetta di Facebook e la sua leadership siano indissolubilmente legate.
“Non vedremo cambiamenti reali se chiediamo solo modifiche ai bordi”, mi ha detto. “La piattaforma rifletterà i valori delle persone che prendono le decisioni. Se hai persone che lavorano sulle piattaforme che vengono acquistate per perpetuare un sistema di supremazia bianca o non sono disposte a fare i conti con esso, allora è così che comincerà ad apparire. ”
La signora Ozoma, che ha progettato cambiamenti politici per limitare la diffusione di disinformazione medica e discorsi di odio sulle piattaforme dei social media, parla della sua esperienza nella Silicon Valley. Ha criticato pubblicamente i leader delle società di social media per la retribuzione ingiusta e, in un recente thread, ha affermato che i suoi dirigenti hanno minato il lavoro delle persone di colore con ” razzismo, gaslighting e mancanza di rispetto “.
“Anche se hai escogitato un framework che ha riconfigurato la piattaforma strutturalmente, non vedrai la riforma o l’implementazione”, ha detto. “Non vedrai i leader di Facebook ammettere che ciò che hanno fatto nell’ultimo decennio è sbagliato e dannoso”.
Pochi che conoscono Facebook credono davvero che Mark Zuckerberg smantellerà la sua compagnia o allenterà la presa sul tavolo, mettendo conversazioni come questa più nel regno dell’esperimento del pensiero che nella realtà.
Ma per quelli di noi che sono per i capricci del potere dell’azienda, anche lo status quo sembra insostenibile. Le piccole riforme sono cruciali, ma suggeriscono anche che l’attuale iterazione può essere salvata – che c’è ancora molto lavoro da fare. Facebook non può essere riformato. Dobbiamo cambiare le nostre richieste.
La campagna # StopHateForProfit è una di queste modifiche, ma ce ne sono altre. Vaidhyanathan mi ha detto che sta pensando di meno a sorvegliare le piattaforme di Facebook; sta cercando di immaginare modi per aiutarci a vivere in un mondo dominato da Facebook.
“Probabilmente dovremo iniziare a pensare in modo più radicale al tipo di ecosistema di informazioni di cui abbiamo bisogno per sopravvivere come repubblica democratica”, ha affermato. Le sue idee includono ciò che ha descritto come “noioso” ma cose essenziali come investire in biblioteche e scuole pubbliche.
Ci sono altre idee, come dichiarare “fallimento della piattaforma”. Ciò implicherebbe che le piattaforme ripristinino a zero tutti i conteggi dei loro utenti e follower di gruppo e ricostruiscano le comunità da zero, con le regole attuali delle piattaforme in atto. Non mancano le idee su questo argomento, come ha scritto la mia collega di opinione Annalee Newitz l’anno scorso: “Dobbiamo smettere di trasferire la responsabilità di mantenere lo spazio pubblico a società e algoritmi – e restituirlo agli esseri umani”.
Ho posto la domanda ai miei follower su Twitter, chiedendo le loro migliori idee per sistemare le piattaforme tecnologiche e ho ricevuto oltre 1.000 risposte in poche ore.
Alcuni erano semplici: ” Progettare la distribuzione attorno a un principio diverso dalla viralità “. Altri sono stati perplessi: “Dati incrociati / piattaforma e collaborazioni di ricerca tra team di fiducia e sicurezza. “Molti riguardavano la trasformazione fondamentale:” Divieto di amplificazione algoritmica ; richiedere prova di sicurezza, efficacia, libertà da pregiudizi prima dell’introduzione del prodotto; classificare i dati personali come un diritto umano, non una risorsa. ”
C’erano chiamate per sbarazzarsi delle metriche e per una rigorosa verifica delle identità reali, per le aziende di rallentare la velocità delle informazioni. C’erano soluzioni per la privacy , idee per reti comunitarie più personalizzate .
Molti erano più schietti: basta spegnere tutto e ricominciare.
Alcune di queste idee sembrano quasi troppo utopiche da scrivere, troppo semplici, improbabili. Ma c’è eleganza nella semplicità; queste sono visioni di una rete su cui vogliamo davvero vivere. Facebook ci ha venduto una visione utopica di un mondo più connesso e ci ha lasciato con la nostra attuale distopia. Perché quelli di noi che sono rimasti a ripulire il disordine non possono avere il nostro colpo in utopia? Ad ogni modo, sappiamo che abbiamo ancora molto lavoro da fare.