Facebook utilisera l'IA pour modérer rapidement le contenu
Le réseau social Facebook utilisera un nouvel algorithme d'apprentissage automatique pour modérer le contenu publié par les utilisateurs. La première tâche de l'algorithme sera de trouver les publications les plus traumatisantes pour leur suppression ultérieure.
Aujourd'hui, les contenus qui enfreignent les règles des réseaux sociaux (spam, incitation à la haine, propagande de violence, etc.) sont généralement marqués par les utilisateurs eux-mêmes ou par des algorithmes d'apprentissage automatique. Le système gère automatiquement les cas les plus évidents, par exemple en supprimant les publications qui enfreignent les règles de la plateforme ou en bloquant le compte de l'utilisateur qui a publié ce contenu. Le reste des cas va dans la file d'attente pour une vérification plus détaillée par les modérateurs.
Facebook compte actuellement environ 15 000 modérateurs dans le monde. Le réseau social a été critiqué à plusieurs reprises pour le fait que l'administration de la plateforme ne les soutient pas suffisamment et n'embauche pas plus de personnel. La tâche des modérateurs est de trier les messages avec des plaintes, ainsi que de décider s'ils enfreignent ou non les règles du réseau social.
Auparavant, les modérateurs examinaient les messages au fur et à mesure de leur publication. Facebook a décidé de changer son approche afin d'examiner d'abord les publications qui gagnent plus de portée et, par conséquent, sont capables de faire plus de mal. Le modèle d'intelligence artificielle (IA) utilisera trois critères pour sélectionner les publications les plus nuisibles: la viralité, l'histoire de la publication et la probabilité qu'elle enfreigne les règles. Après cela, l'IA marquera ces publications afin qu'elles montent plus haut dans l'ordre de considération par les modérateurs.
«Tout le contenu qui enfreint les règles du réseau social continuera d'être vu par les gens, mais l'utilisation du nouveau système permettra une hiérarchisation plus efficace dans ce processus», a commenté Facebook.
Selon le réseau social, la nouvelle approche permettra de réagir plus rapidement et de faire face au non-respect des règles des publications qui ont une large portée.