フェイスブックの高度な人工知能（AI）技術により、これまで以上に多くのヘイトスピーチを除去することが可能になりました。そのヘイト検出AIは、2020年第3四半期に95％のヘイトコンテンツの捕捉に成功しました。

ヘイトスピーチとの戦いにおける人工知能の役割

Facebookの最新のコミュニティ基準施行レポートでは、プラットフォーム上のヘイトスピーチ対策において、人工知能が大きな役割を担っていることが明らかにされています。

2020年第3四半期、Facebookは約95％のヘイトスピーチを「積極的に発見」することに成功し、Facebookでは2210万個、Instagramでは650万個のヘイトコンテンツがFacebookによって削除されました。

これは、FacebookがFacebookとInstagram上のヘイトスピーチを積極的に検出したのがわずか24％だった2017年前期と比較すると、大幅な増加です。

このプラットフォームでは、「ユーザーからの報告とテクノロジーの組み合わせ」によって、忌まわしいコンテンツを削除していますが、この大きな飛躍は、Facebookの高度な人工知能によるところが大きいのです。

そのAIは、悪意のあるコンテンツが報告される前に検知して対処するのに役立つだけでなく、Facebookは検閲が必要なより複雑なコンテンツを選別するのにも利用しています。Facebookはさらに、AIの役割について次のように説明しています。

コンテンツがプロアクティブに検出された場合も、ユーザーから報告された場合も、わかりやすいケースはAIで対応し、文脈を○○する必要があるようなニュアンスのケースはレビュアーに優先順位をつけることが多いです。

また、フェイスブックは、第3四半期にヘイトスピーチの蔓延が増加したことを指摘しています。フェイスブックによると、ヘイトスピーチの普及を判断するために、フェイスブック上で見られるコンテンツのサンプルを選択し、そのうちのどれだけがヘイトスピーチポリシーに違反しているかをマークしているとのことです。

この報告書によると、プラットフォーム上のコンテンツコメント1万件のうち、10～11件にヘイトスピーチが含まれているとのことです。

facebookはヘイトスピーチをどのように定義していますか？

2020年8月、Facebookはヘイトスピーチポリシーを更新し、反ユダヤ陰謀論とブラックフェイスを含めるようにしました。Facebookは、「スピーチが継続するにつれ、ヘイトスピーチの定義が変わっていく」と述べています。社会動向の変化に合わせ、継続的に方針を修正しています。

Facebookは現在、ヘイトスピーチを "人種、民族、国籍、宗教的信条、性的指向、性別、性自認、重度の障害や病気など、保護された特性に基づく人々への直接的な攻撃 "と定義しています。

今後に期待すること

2020年を通して、Facebookは物議を醸すコンテンツという点で多くの課題に直面しています。

今年初めには、COVID-19のパンデミックに関する誤った情報に対処する必要がありました。その後、米国大統領選挙をめぐる誤報にも対処しなければならなかった。そうすると、プラットフォームが特定の列にラベルを付けたり、まとめて削除したりすることになります。

Facebookの人工知能は進化を続けており、今後もテイクダウンを期待するしかない。