Facebookは、悪意のあるコンテンツの特定と削除の効率を高めています。同プラットフォームのコミュニティ基準施行レポートでは、2020年の最終四半期にヘイトスピーチの蔓延が大きく減少していることが示されています。

フェイスブックでのヘイトスピーチが減少

Facebookのコミュニティ基準施行報告書では、ヘイトスピーチに対するFacebookの対応が大幅に改善されたことが明らかにされており、Facebookのインテグリティ担当副社長であるガイ・ローゼンは、その成果を次のように強調しています。成功事例を紹介するFacebookブログについて

Facebookのコンテンツ閲覧1万件のうち、憎悪的なコンテンツの閲覧は7〜8件にとどまっています。 また、Facebookは、第3四半期の250万件から増加し、630万件のいじめや嫌がらせの投稿に対処しました。

また、このプラットフォームは、640万件の組織的なヘイトコンテンツを捕捉することができましたが、これは前四半期にFacebookが削除した400万件のコンテンツから大きく改善されたものです。

コミュニティ基準実施報告書では、Instagramについても同様の改善が見られ、嫌がらせやいじめに関する500万件の投稿のほか、ヘイトスピーチを含む660万件のコンテンツ、30万8000件の組織的なヘイトコンテンツが削除されています。これらはいずれも第3四半期の統計を上回りました。

また、Facebookでは、ユーザーが報告する前にFacebookが削除するコンテンツの量であるプロアクティブ率が増加しました。いじめや嫌がらせについては、Facebookでは26%から49%、Instagramでは55%から80%と、プラットフォームの積極性が急上昇しています。

Facebookのヘイト検出AIは、ヘイトスピーチへの対応を改善する上で重要な役割を担っています。ローゼンは、「ヘイトスピーチやいじめ・嫌がらせなど、ニュアンスや文脈が重要な場面で」プラットフォームのAIを改善したことが、結果的にFacebook上のヘイトコンテンツを減らすことにつながったと指摘する。

Facebookの最高技術責任者であるマイク・シュレプファーは、About Facebookブログの別の投稿で、改良を続けるFacebookの人工知能の功績を称えた。最近の成功にもかかわらず、シュレープファーは、FacebookのAIが「言語、文化、地理を超えた文脈でコンテンツを見る」ことをよりうまくやることを期待しています。

フェイスブックの人工知能がより賢くなる

Facebookは、現在進行中のCOVID-19の大流行の結果として生成された悪質なコンテンツを評価するために、AIシステムへの依存度を高め始めています。ローゼンは、Facebookチームが "ワクチンが広く利用できるようになるまで "パンデミックの影響を受け続ける可能性が高いと指摘する。

Facebookのモデレーターはいつか復活しますが、プラットフォームのAIはどこにも行かないようです。FacebookはAIをより賢く、より効率的にしているだけで、このプロセスをすぐに止める予定はないようです。