O Facebook usará IA para moderar conteúdo rapidamente

A rede social Facebook usará um novo algoritmo de aprendizado de máquina para moderar o conteúdo postado pelos usuários. A primeira tarefa do algoritmo será encontrar as publicações mais traumáticas para sua posterior remoção.

Hoje, o conteúdo que viola as regras da mídia social (spam, incitação ao ódio, propaganda de violência, etc.) geralmente é marcado pelos próprios usuários ou por algoritmos de aprendizado de máquina. O sistema trata os casos mais óbvios de forma automática, por exemplo, removendo publicações que violam as regras da plataforma ou bloqueando a conta do usuário que publicou este conteúdo. O restante dos casos vai para a fila para verificação mais detalhada pelos moderadores.

O Facebook tem atualmente cerca de 15.000 moderadores em todo o mundo. A rede social tem sido repetidamente criticada pelo fato de que a administração da plataforma não os apóia o suficiente e não contrata mais funcionários. A tarefa dos moderadores é ordenar as postagens com reclamações, bem como decidir se estão violando as regras da rede social ou não.

Anteriormente, os moderadores revisavam as postagens à medida que eram publicadas. O Facebook decidiu mudar sua abordagem para examinar primeiro as postagens que ganham mais alcance e, portanto, têm maior probabilidade de causar mais danos. O modelo de Inteligência Artificial (IA) usará três critérios para selecionar as publicações mais prejudiciais: a viralidade, a história da publicação e a probabilidade de quebra das regras. Depois disso, o AI marcará essas publicações para que elas subam na ordem de consideração do moderador.

“Todo conteúdo que viole as regras da rede social continuará sendo visualizado pelas pessoas, mas a utilização do novo sistema vai permitir uma priorização mais efetiva nesse processo”, comentou no Facebook.

De acordo com a rede social, a nova abordagem vai ajudar a responder mais rapidamente e a lidar com a quebra de regras de publicações de amplo alcance.