Bingの画像検索を使うと、想像以上にひどいものが表示されます。Bingは差別用語を示唆し、おぞましい画像を表示します。Bingは、セーフサーチを無効にしている場合、搾取されている子供の検索を提案することさえあります。

マイクロソフト社にコメントを求めたところ、シニアディレクターのジェフ・ジョーンズ氏から以下のようなコメントをいただきました。

「当社は、不快なコンテンツに関する問題を真摯に受け止め、そのようなコンテンツが検索候補として表示されないよう、システムの強化を続けています。問題を認識したら、すぐに対策を講じる。"

更新：リリース以来、マイクロソフトは、私たちが述べた不快なBingの提案を一掃するために取り組んでいます。私たちの調査によると、以下に挙げる提案を含め、まだ対応されていない攻撃的な提案も多くあります。私たちが指摘した不快な項目を単に修正しているのか、それともアルゴリズムを改良しているのかはわかりません。

注：このスクリーンショットは、匿名のプライベートブラウジングセッションで米国版Bing画像検索をテストしたときのものですが、Bingの検索結果は時間とともに変化します。当社のテストによると、Googleはこれらの問題を一切抱えていません。これは検索エンジンだけの問題ではなく、Bingの問題です。Bingのビデオ検索にも同じ問題があります。

まず第一に、Bingは超レイシストだ

Bingの画像で「ユダヤ人」と検索すると、Bingは「邪悪なユダヤ人」と検索するよう提案します。最も重要な結果には、死んだユダヤ人を祝福しているように見えるモーダルも含まれています。

これらはすべて、Bingのセーフサーチ・オプションが有効になっている場合（デフォルト）にも表示されます。マイクロソフトによると、セーフサーチは「検索結果から**コンテンツを排除するのに役立つ」ように設計されています。

この検索候補をクリックすると、人種差別的、反ユダヤ的なコンテンツがあふれ出し、「ユダヤ人は悪」「悪のユダヤ人」「なぜユダヤ人はそんなに悪なのか」といった検索候補がさらに表示されます。"

このようなゴミがウェブ上に存在することは誰もが知っていますが、Bingは検索サジェストを使って人々をそのようなゴミに誘導すべきではありません。

Bingは、「***は」と入力すると、彼らが悪であるか、***であるか、または単に彼らが愚かであることを示唆する。

黒人は」と検索すると、Bingは黒人が醜く、愚かで、人種差別的で、野蛮人であるとさえ思い込んでしまうのです。

それぞれの検索候補をクリックすると、ますます悪い候補が表示されるので、これを続けることができます。例えば、「黒人はバカ」をクリックすると、「黒人は役立たず」、「なぜ黒人はバカなのか」、「黒人は役立たず」をクリックすると、「黒人は役立たず」につながる"黒人はクソだ" "黒人は嫌いだ "となる

Bingも陰謀を推進

Bingの画像検索は、個人を検索する場合でもあらゆる種類のゴミを吐き出し、この問題はBingのビデオ検索にも及んでいます。

Bingの動画検索で「ミシェル・オバマ」の候補としてよく検索されるのは、「ミシェル・オバマ トランスジェンダー証明」であり"ミシェル・オバマは男だ"。このボタンをクリックすると、陰謀の映像が表示されます。

これは、マイクロソフトがミシェル・オバマを検索するときに見てほしいナンバーワン・イシューなのだろうか？

セーフサーチはポルノを止めるが、人種差別は止めない

セーフサーチが無効になっていない限り、不穏なポルノ提案や画像は表示されません。マイクロソフトは、セーフサーチが検索結果から**コンテンツを排除すると言っていますが、セーフサーチは明らかにポルノをフィルタリングしているのであって、人種差別をフィルタリングしているのではありません。

デフォルトではセーフサーチが有効になっており、Bingの検索結果が一見して信頼できるように見えるようになっています。

誰でもできることは、検索結果の右上にある「セーフサーチ」をクリックし、「閉じる」を選択することだけです。それだ！

企業ネットワークでセーフサーチを実施するように設定することができ、マイクロソフトは、1台のPCでセーフサーチを実施するための複雑な手順も提供しています。しかし、ほとんどすべてのデバイスで、誰でも2回のクリックでセーフサーチを無効にすることができます。

最悪なのは、bingが未成年の子供の画像を検索することを提案していることです。

読者の方から、Bingで「グリル」を検索する際、スペルを間違えて入力すると、荒い○○○が表示されるというお便りをいただきました。その後、問題はさらに悪化し、Bingは未成年の子供の画像を検索するよう提案します。

"gril "で検索すると、ページ上部のサジェストで、"かわいい16歳の女の子 "など、不穏なものを検索するよう提案されます。

クリックすると、"かわいい女の子12歳"、"かわいい女の子10歳"、"小さな女の子のポージングいじり "が表示されます。

その結果、若いモデルのポルノがたくさん出てきた。全員が18歳以上であればよかったのだが、誰がそんなことを言えるだろうか。

単純な入力ミスから16歳の少女、10歳の少女へとBingが誘導していくのは呆れますね。

他の例も簡単に見つかります。児童ポルノの俗語である "cheese pizza" を検索すると、Bingは "cheese pizza girl" と表示します。

Bingの画像検索結果も歪んでいる

ここで検索候補に注目すると、実際に表示される画像も気になるところです。

この検索結果の中には、未成年の**児童がシャワーを浴びている写真も含まれています。これらの写真は普段は良いのですが、*****と混在していると、検索結果に衝撃が走ります。

Bingで「女の子」の画像を検索しても、「酔っ払った女の子」の候補が表示され、少なくとも1つの**画像が表示されます。

ロバ」を検索する際、Bingは「ロバのショーグラフィック」と検索するよう提案し、その結果、**画像だらけの検索結果が表示されます。私が住んでいるオレゴン州では、**ポルノ**を所有することは違法とされています。つまり、Bingが違法な○○○○に連れて行くということです。

繰り返しますが、Bingの検索結果は奇妙で歪んでいます。 Bingは、提案された検索よりもはるかに大きく深い問題を抱えていますが、これらの提案は問題をより悪化させます。

Bingはポルノの検索エンジンとして選ばれていると聞きますが、ユーザーをますます過激で不穏な、そして潜在的に違法なポルノに導くようなことがあってはならないのです。

マイクロソフトはプラットフォームを適応させる必要がある

マイクロソフトは、Bingを改善する必要がある。マイクロソフトは、これまでにもプラットフォームを作り、世の中にリリースし、それが悪いものであった場合には、無視してきた。

このようなことは、何度も何度も繰り返されてきました。かつてマイクロソフトは、TwitterでTayというチャットボットを公開したことがあります。他のソーシャルメディアユーザーから情報を得たチャットボットは、すぐにナチスに変身し、「ヒトラーは正しかった、私はユダヤ人が嫌いだ」と宣言しました。マイクロソフトはそれをオフラインにせざるを得なかった。

以前、マイクロソフトがウィンドウズ8を発売した後、アプリ投稿の規制をやめたようで、詐欺アプリの巣窟と化したウィンドウズ8のアプリショップを暴露しました。この問題が発覚した後、マイクロソフトはwindows 10のアプリショップに一層の注意を払いました。

この問題は、プラットフォームを立ち上げたすべての企業に影響します。GoogleはGoogle+を見捨てたが、Google+はまだ稼働している。その結果、ISISはTwitterやFacebookを禁止された後、Google+に移行した。山があることに気づいてもらうのに、数カ月かかった。現在、Googleは大規模なプライバシー侵害が発覚し、Google+を閉鎖しています。

2013年、Solid Gold Bombというアパレル会社が「Keep Calm and Rape a Lot」と書かれたシャツをAmazonで販売していることがThe Guardianによって発覚しました。アルゴリズムによってシャツが生成され、Amazonはそれを手動で削除する必要がありました。

マイクロソフトはプラットフォームを世の中に放置しておくわけにはいきません。マイクロソフトやグーグルなどの企業は、テロ事件の発生を防ぐために、自社のプラットフォームを適合させる責任があります。

勧告に伴う重大な問題の発生履歴

もちろん、マイクロソフトの誰かがこれらの提案を選ぶわけではありません。 Bingは、他の人の検索をもとに自動的に検索を提案します。つまり、Bing Imageのユーザーの多くは、反ユダヤ主義、人種差別、児童ポルノ、**を検索しているのです。そう思うと、汚れた気持ちになる。

2016年、ガーディアンは、Googleに「is Jewish」と入力すると、「Jews are evil」と表示されると指摘した。2018年、ワイアードは、グーグルに「ヒトラーは」と入力すると、「ヒトラーは私のヒーロー」と表示されると報じた。Googleも指摘を受け、問題を修正することになった。

Buzzfeed Newsによると、AppleのSiriでも、陰謀サイトなどのフェイクニュースを押し売りするウェブサイトが提案されたそうです。AppleはSiriを修正しなければなりませんでした。コンピュータが悪い人から悪いことを学ぶと、誰もが火消しに走り回るのです。

今度はマイクロソフトの番だ。マイクロソフトはBingをクリーンアップする責任があります。大手検索エンジン（特にWindows 10に組み込まれたデフォルト設定をオフにすることがますます困難になっている）は、人種差別的なスパムや未成年の子供の画像を検索するようユーザーに勧めるべきではない。

画像出典：Yiorgos GR/Shutterstock.com ウェブサイト、Fiziks/Shutterstock.com ウェブサイト。