Facebook은 AI를 사용하여 콘텐츠를 빠르게 조정합니다.

소셜 네트워크 Facebook은 새로운 기계 학습 알고리즘을 사용하여 사용자가 게시 한 콘텐츠를 조정합니다. 알고리즘의 첫 번째 작업은 후속 제거를 위해 가장 충격적인 출판물을 찾는 것입니다.

오늘날 소셜 미디어 규칙 (스팸, 증오 선동, 폭력 선동 등)을 위반하는 콘텐츠는 일반적으로 사용자 자신이나 기계 학습 알고리즘에 의해 태그가 지정됩니다. 시스템은 플랫폼의 규칙을 위반하는 게시물을 삭제하거나이 콘텐츠를 게시 한 사용자의 계정을 차단하는 등 가장 명백한 사례를 자동으로 처리합니다. 나머지 케이스는 중재자가 더 자세한 확인을 위해 대기열로 이동합니다.

Facebook은 현재 전 세계에 약 15,000 명의 중재자가 있습니다. 소셜 네트워크는 플랫폼 관리가 충분히 지원하지 않고 더 많은 직원을 고용하지 않는다는 사실에 대해 반복적으로 비판을 받아 왔습니다. 중재자의 임무는 불만이있는 게시물을 분류하고 소셜 네트워크의 규칙을 위반하는지 여부를 결정하는 것입니다.

이전에는 운영자가 게시 된 게시물을 검토했습니다. Facebook은 더 많은 도달 범위를 확보하고 따라서 더 많은 해를 끼칠 가능성이있는 게시물을 먼저 살펴보기 위해 접근 방식을 변경하기로 결정했습니다. 인공 지능 (AI) 모델은 가장 유해한 출판물을 선택하기 위해 바이러스 성, 출판 이야기, 규칙을 위반할 가능성의 세 가지 기준을 사용합니다. 그 후 AI는 그러한 출판물을 표시하여 중재자가 고려한 순서로 더 높게 올라갑니다.

"소셜 네트워크의 규칙을 위반하는 모든 콘텐츠는 계속해서 사람들이 볼 수 있지만 새로운 시스템을 사용하면이 프로세스에서보다 효과적인 우선 순위를 지정할 수 있습니다."

소셜 네트워크에 따르면 새로운 접근 방식은 더 빠르게 대응하고 광범위한 범위의 출판물 규칙을 위반하는 데 도움이 될 것입니다.