Meta ha annunciato un cambio di strategia nella moderazione dei contenuti: meno revisori esterni e più sistema basati sull'intelligenza artificiale, in particolare modelli linguistici di grandi dimensioni. L'azienda sostiene che questi sistemi ora comprendono circa il 98% delle lingue utilizzate online, rispetto a una copertura precedente di circa 80 lingue, e che riescono a cogliere anche slang e sfumature di sottoculture.

Cosa cambierà nella pratica

In parole semplici, Meta ridurrà la dipendenza da fornitori terzi e potenzierà i propri strumenti interni. L'azienda indica alcuni usi principali dell'IA per la sicurezza e la moderazione:

  • Rilevazione automatica delle truffe: l'IA può ridurre la possibilità che gli utenti vengano indotti a rivelare credenziali.
  • Bloccare account falsi: impedire la proliferazione di profili falsi, anche di personaggi famosi.
  • Velocizzare i controlli sensibili: identificare più rapidamente post che violano le regole sui contenuti sessuali che coinvolgono minori.

Il ruolo dei revisori umani

Meta afferma che i revisori umani non saranno eliminati. Tuttavia, il loro ruolo cambierà: i collaboratori rimasti si concentreranno sulla progettazione, sull'addestramento e sulla valutazione dei sistemi di IA. Rimarranno anche coinvolti nelle decisioni più delicate e ad alto rischio, ad esempio nei ricorsi contro la disattivazione di account e nelle segnalazioni alle forze dell'ordine.

Meta AI per l'accesso agli account

Parallelamente, Meta sta lanciando una funzione di assistenza basata su Meta AI per aiutare gli utenti a recuperare l'accesso ai loro account Facebook e Instagram. Il servizio sarà attivo 24 ore su 24 e partirà dagli Stati Uniti e dal Canada, con l'intenzione di estenderlo ad altri paesi e a più tipi di problemi legati all'accesso.

Perché è importante

Il passaggio verso più automazione promette efficienza e copertura linguistica migliore. Allo stesso tempo, cambia la natura del lavoro di moderazione: meno scorrimento manuale di post, più supervisione tecnica e decisioni umane nei casi complessi. Meta presenta questo piano come un modo per migliorare la sicurezza degli utenti e la reattività alle violazioni, mentre trasferisce parte del controllo operativo ai propri sistemi di IA.

Nota: questa è la sintesi dell'annuncio ufficiale di Meta.