Facebook utilizzerà l'intelligenza artificiale per moderare rapidamente i contenuti
Il social network Facebook utilizzerà un nuovo algoritmo di apprendimento automatico per moderare i contenuti pubblicati dagli utenti. Il primo compito dell'algoritmo sarà quello di trovare le pubblicazioni più traumatiche per la loro successiva rimozione.
Oggi, i contenuti che violano le regole dei social media (spam, incitamento all'odio, propaganda di violenza, ecc.) Sono solitamente taggati dagli utenti stessi o da algoritmi di apprendimento automatico. Il sistema gestisce automaticamente i casi più evidenti, ad esempio rimuovendo le pubblicazioni che violano le regole della piattaforma o bloccando l'account dell'utente che ha pubblicato questo contenuto. Gli altri casi vanno in coda per ulteriori verifiche più dettagliate da parte dei moderatori.
Facebook ha attualmente circa 15.000 moderatori in tutto il mondo. Il social network è stato più volte criticato per il fatto che l'amministrazione della piattaforma non li supporta abbastanza e non assume più personale. Il compito dei moderatori è quello di risolvere i post con reclami, nonché di decidere se stanno infrangendo o meno le regole del social network.
In precedenza, i moderatori esaminavano i post non appena venivano pubblicati. Facebook ha deciso di cambiare il suo approccio per guardare prima ai post che ottengono più portata e, quindi, sono in grado di fare più danni. Il modello di Intelligenza Artificiale (AI) utilizzerà tre criteri per selezionare le pubblicazioni più dannose: la viralità, la storia della pubblicazione e la probabilità che infranga le regole. Dopodiché, l'IA contrassegnerà tali post in modo che aumentino più in alto nell'ordine del moderatore.
"Tutti i contenuti che violano le regole del social network continueranno ad essere visualizzati dalle persone, ma l'uso del nuovo sistema consentirà una definizione delle priorità più efficace in questo processo", ha commentato Facebook.
Secondo il social network, il nuovo approccio aiuterà a rispondere più velocemente e ad affrontare la violazione delle regole delle pubblicazioni che hanno un'ampia portata.