Mercredi, Tumblr a provoqué une assez grosse pagaille quand un outil automatique a suspendu des dizaines de comptes en quelques heures. Plusieurs personnes ont contacté The Verge pour signaler que la vague de suspensions touchait surtout des comptes tenus par des personnes s'identifiant comme femmes trans. Beaucoup n'ont reçu aucune explication claire.

Ce que disaient les emails

Des captures d'écran d'un message reçu par certains utilisateurs indiquent : « Cette action a été prise suite à un signalement interne. Des moyens automatisés ont pu être utilisés pour identifier le contenu en question. » En clair, un robot a tiré la sonnette d'alarme sans plus de détails.

La réponse d'Automattic

Chenda Ngak, responsable de la communication chez Automattic, la maison mère de Tumblr, a confirmé les suspensions et reconnu que beaucoup d'entre elles étaient des erreurs. Dans un message à The Verge, elle a expliqué que l'entreprise travaille sans cesse pour préserver la santé de la plateforme et que, dans ce processus, « notre système automatisé a incorrectement signalé plusieurs utilisateurs, y compris, mais sans s'y limiter, des membres de la communauté trans. Nous avons désactivé ce système et restauré ces comptes pendant que nous l'améliorons. Nous présentons nos sincères excuses à toutes les personnes affectées par cette erreur. »

Coïncidence ou lien avec une autre controverse ?

La vague de suspensions est survenue un jour après que Tumblr ait annulé une modification controversée de son système de reblog, une décision qui avait déjà provoqué de fortes réactions de la communauté. Certains ont suggéré que les suspensions visaient des comptes critiques de cette modification, mais Automattic a déclaré que « les comptes signalés ne sont pas liés à la récente discussion sur les reblogs » et a ajouté qu'« il n'existe pas de preuve que les utilisateurs trans étaient disproportionnellement représentés parmi les moins de 200 comptes touchés. »

Des inquiétudes récurrentes

Malgré ces assurances, plusieurs personnes ont rappelé à The Verge que Tumblr a déjà rencontré des problèmes de modération, parfois touchant particulièrement les personnes LGBTQ+.

  • 2024 : un conflit public entre le PDG d'Automattic, Matt Mullenweg, et une utilisatrice trans connue sous le nom de predstrogen. Après des posts où elle décrivait un harcèlement subi et exprimait sa colère, son compte a été banni. La controverse s'est poursuivie sur d'autres réseaux, où des détails privés ont été partagés.
  • 2022 : Tumblr a conclu un accord avec la Commission des droits de l'homme de New York à la suite d'allégations de discrimination liées à l'interdiction de contenu pour adultes de 2018. Cette interdiction, mise en place avant l'acquisition par Automattic en 2019, avait montré des problèmes d'exactitude qui auraient affecté davantage les contenus LGBTQ+. L'accord exigeait un examen des algorithmes de modération et des améliorations du processus d'appel pour traiter les biais algorithmiques.

Contexte opérationnel

Automattic a réduit ses ambitions pour Tumblr ces dernières années. En 2023, après que le site n'a pas atteint ses objectifs de croissance, la direction a annoncé que la majorité des employés non dédiés au support, à la sécurité et à la modération seraient transférés vers d'autres divisions.

Pour résumer, Tumblr a eu une panne de son système automatique de modération qui a entraîné des suspensions massives puis des restaurations. La société reconnaît l'erreur, désactive temporairement le mécanisme fautif et présente ses excuses pendant qu'elle travaille à des corrections.