Mercoledì Tumblr ha vissuto un momento di caos digitale: decine di account sono stati sospesi nello stesso pomeriggio a causa di un sistema di moderazione automatica che ha commesso degli errori. Molti utenti hanno ricevuto email senza spiegazioni chiare, e diversi account gestiti da persone che si identificano come donne trans sembravano essere tra i colpiti, secondo segnalazioni raccolte da testate che hanno indagato sull'accaduto.

Cosa è successo

Alcuni utenti hanno ricevuto una notifica che diceva che l'azione era stata presa in base a un report generato internamente, e che era possibile che fossero stati usati metodi automatici per identificare i contenuti in questione. In pratica, il sistema automatico ha deciso che certe pagine violavano le regole e le ha disattivate, senza fornire motivazioni dettagliate agli interessati.

La reazione degli utenti

La sospensione ha scatenato confusione e rabbia. Alcuni hanno pensato che le rimozioni potessero essere una risposta a post critici su una recente modifica al sistema di reblogging, che era stata annullata il giorno prima e aveva già irritato molti utenti. Altri hanno fatto notare che, nella percezione collettiva, le persone trans sono spesso bersagliate da errori di moderazione.

La risposta di Automattic

Chenda Ngak, responsabile delle comunicazioni di Automattic, la compagnia madre di Tumblr, ha confermato le sospensioni ma ha detto che molti provvedimenti erano errati e sono stati annullati. Ha spiegato che l'azienda lavora per mantenere la salute della piattaforma e adattare i sistemi contro chi abusa della community, ma che in quel processo il sistema automatico ha segnalato erroneamente diversi utenti.

Ngak ha aggiunto che il sistema incriminato è stato disattivato e che gli account sono stati ripristinati mentre si lavora a miglioramenti. L'azienda ha chiesto scusa a chi è stato colpito.

Relazione con il dibattito sui reblog

Nonostante i sospetti di alcuni utenti che collegavano le sospensioni alla discussione sul cambiamento del reblogging, Automattic ha dichiarato che non ci sono prove che gli account terminati fossero riconducibili a quelle conversazioni. Inoltre, ha affermato che non risulta che gli utenti trans siano stati sproporzionatamente tra i meno di 200 account interessati.

Un problema con la moderazione che torna

Questo episodio non è isolato. Nel 2024 c’è stata una controversia pubblica tra il CEO di Automattic e un utente di Tumblr identificata come trans, che aveva denunciato molestie e poi è stata bannata. La disputa era degenerata con la condivisione di dettagli privati dell'utente da parte del CEO, aumentando le preoccupazioni sulla gestione delle segnalazioni e della privacy.

Ancora prima, nel 2018, Tumblr aveva introdotto un divieto su contenuti per adulti che poi è stato criticato per problemi di accuratezza e per un impatto sproporzionato su contenuti LGBTQ+. Nel 2022 Tumblr ha raggiunto un accordo con la Commissione per i Diritti Umani di New York che prevedeva una revisione degli algoritmi di moderazione e miglioramenti al processo di appello degli utenti per affrontare il bias algoritmico.

Lo stato attuale di Tumblr

Negli ultimi anni Automattic ha ridimensionato i piani per Tumblr. Nel 2023 è stato confermato che la maggior parte dei dipendenti non coinvolti in supporto, sicurezza e moderazione è stata spostata in altre divisioni dopo che il sito non ha raggiunto gli obiettivi di crescita.

In sintesi, l'episodio di mercoledì ha riacceso vecchie preoccupazioni sulla moderazione automatica e sulla protezione delle comunità più vulnerabili. Automattic ha disattivato il sistema responsabile, ha ripristinato molti account e ha promesso di lavorare a miglioramenti. Formalmente, l'azienda si è scusata con chi è stato colpito.