Facebook wird KI verwenden, um Inhalte schnell zu moderieren
Das soziale Netzwerk Facebook wird einen neuen Algorithmus für maschinelles Lernen verwenden, um von Benutzern gepostete Inhalte zu moderieren. Die erste Aufgabe des Algorithmus besteht darin, die traumatischsten Veröffentlichungen für ihre spätere Entfernung zu finden.
Heutzutage werden Inhalte, die gegen Social-Media-Regeln verstoßen (Spam, Anstiftung zum Hass, Propaganda von Gewalt usw.), normalerweise von den Benutzern selbst oder von Algorithmen für maschinelles Lernen markiert. Das System behandelt die offensichtlichsten Fälle automatisch, indem es beispielsweise Beiträge entfernt, die gegen die Regeln der Plattform verstoßen, oder das Konto des Benutzers blockiert, der diesen Inhalt veröffentlicht hat. Der Rest der Fälle wird zur weiteren detaillierten Überprüfung durch die Moderatoren in die Warteschlange gestellt.
Facebook hat derzeit rund 15.000 Moderatoren auf der ganzen Welt. Das soziale Netzwerk wurde wiederholt dafür kritisiert, dass die Verwaltung der Plattform sie nicht ausreichend unterstützt und nicht mehr Mitarbeiter anstellt. Die Moderatoren haben die Aufgabe, die Beiträge mit Beschwerden zu sortieren und zu entscheiden, ob sie gegen die Regeln des sozialen Netzwerks verstoßen oder nicht.
Zuvor überprüften Moderatoren die veröffentlichten Beiträge. Facebook hat beschlossen, seinen Ansatz zu ändern, um zunächst Beiträge zu betrachten, die mehr Reichweite erlangen und daher wahrscheinlich mehr Schaden anrichten. Das Modell der künstlichen Intelligenz (KI) verwendet drei Kriterien, um die schädlichsten Veröffentlichungen auszuwählen: Viralität, die Geschichte der Veröffentlichung und die Wahrscheinlichkeit, dass sie gegen die Regeln verstößt. Danach markiert die KI solche Veröffentlichungen so, dass sie in der Reihenfolge der Berücksichtigung durch den Moderator höher steigen.
"Alle Inhalte, die gegen die Regeln des sozialen Netzwerks verstoßen, werden weiterhin von Personen angezeigt, aber die Verwendung des neuen Systems ermöglicht eine effektivere Priorisierung in diesem Prozess", kommentierte Facebook.
Laut dem sozialen Netzwerk wird der neue Ansatz dazu beitragen, schneller zu reagieren und gegen die Regeln von Veröffentlichungen zu verstoßen, die eine große Reichweite haben.