荒らしは「面白い」偽名を作るのが好きなので、サイトは新しいアカウントを取得するために特定の単語をフィルタリングしようとします。本名にそんな言葉が入っていたら？

The National』誌に寄稿しているライター、ナタリー・ワイナーは、最近このようなシステムによってフィルタリングされるようになった。

これは間違いなく、今までで最高の出来事だ pic.twitter.com/rnVkmhB2dy

- ナタリー・ウェイナー (@natalieweiner) 2018年8月28日

これらの回答から、非常に現実的な問題が見えてきました。

やがて、ウィーナーさんのメンションには、彼女の窮状に同情する人たちのコメントが何百通も寄せられるようになった。「意外とよく言われるんですよ」とカイル・メディック。ジェームズ・バッツは「これらの問題を知っている」、マット・カミングスは「そこにいたことがある」。Arun Dikshit氏は、アルゴリズムの偏りはほとんど日常茶飯事になっていると述べています。「ある仕事では、IT部門がメールサーバーにルールを作り、私のメールが***スパムとして拒否されるのを防がなければなりませんでした」とClark Aycockは述べています。

これらのサイトは、単に特定の仮名がサイト上で一般的になるのを防ごうとしているだけなのですが、こうした自動化された措置は、結局は罪のない人々の生活をより困難なものにしています。これは問題です。

1996年には、AOLのフィルターが、4文字の単語が埋め込まれているという理由で、イギリスの都市Scunthorpe全体のアカウント登録を禁止した。それから20年以上経ち、人工知能が発達しても、同じ問題は続いている。

悔しいでしょう。私の苗字である「ポット」は、これまでずっと見知らぬ人からジョークを浴びせられてきました。今のままでも十分迷惑なのだから、実名で参加することを拒否されたら、どれだけひどいことになるか想像できる。