SiriやAlexa、Googleが自分のことを理解してくれなくて、罵倒したことはありませんか？あなたは一人ではありません。私たち自身、一度や二度は侮辱されたことがあるかもしれません。

でも、みんな気をつけようね。

侮辱した相手が実在するわけではありませんが、その罵詈雑言が虚空に消えるわけでもありません。私たちが無意識に放った辛辣な言葉は、インターネットを通じて遠隔地のサーバーに送信されます。デジタルパーソナルアシスタントへの接し方は、人間の悪い面を教えることになり、企業によっては、精神的におかしくなって雇えなくなる人もいると思われかねません。

私たちが無害だと思っているジョークも、実は無害ではないことがわかったのです。

彼らは私たちから学んでいる

2011年にSiriがデビューし、その1年後にGoogleがデビューしました。2014年には、マイクロソフトがコルタナを開発しました。同年、アマゾンはアレクサという人工知能カードをプラスチックの筒に入れ、人々がワークステーションに置くことができるようにしました。その後、グーグルやアップルも同じようなアプローチをとっています。技術大手は、AIを消費者がすぐに使える製品に変換する方法を急速に模索しています。

このデジタルパーソナルアシスタントは、かなり洗練された印象を受けます。私たちを喜ばせてくれる瞬間もあるかもしれません。しかし、彼らはまだ思春期です。彼らは、私たちが提供する情報から積極的に学ぶ、リテラシーの高い幼児なのです。** そして、彼らが働く企業も同様です。

Siriの開発チームは、Weather UndergroundやUberといったサードパーティーのサービスと統合し、スピーカーにより詳細な応答を提供するデジタルアシスタント、Viv（現在はサムスンが所有）を開発しています。壇上のデモでは、機械に合わせた言葉の種類ではなく、私たちが人に尋ねた質問にVivが答えるというものでした。これは、人の言葉の使い方を学んだ結果です。

デジタルパーソナルアシスタントは、人工知能と言われてもピンとこない人が多いのではないでしょうか。1960年代に開発された自然言語をシミュレートするコンピュータプログラム「ELIZA」（オンラインで会話することができます）とは異なり、これらのAIは自分自身で「考える」ことはあまりしません。これらの作業は、すべてインターネットを介して行われます。

このプロセスにはいくつかの段階があります。

第一弾は音声認識です。デバイスは録音を直接アップロードするか、テキストに翻訳してリモートサーバー（Appleの、Googleの、Amazonの、誰のものでも）に送信します。ここでマジックが起こるのです。より正確には、ソフトウェアがデータベースを検索して、適切なレスポンスを得るということです。そして、その情報をパーソナルアシスタントにプッシュバックします。

要するに、誰かが質問をして、あなたがSiriに質問をして、SiriがAppleのサーバーに質問をしているのです。サーバーはSiriに答えを与え、Siriはあなたに答えを返し、あなたは満足するか、失望に対処しなければなりません。

これらのデータベースには、答えだけではありません。また、方言のニュアンスに対応するために、音声を記録しているものもあります。この情報は、ボットが私たちを理解するのに役立つだけではありません。Messengerのチャットボットに交渉の仕方を教えるために、Facebookは両者の間で何千もの自然言語を使用しています。

私たちは良い手本を示しているでしょうか？

私たちの話し方から学習した人工知能は、これだけではありません。

昨年、マイクロソフトはTwitter、Kik、GroupMeで、アメリカの10代の女の子を模したチャットボットを公開しました。数時間のうちに、「Tay」はヒトラーに賛同し、さまざまな攻撃的なコメントを支持するようになりました。マイクロソフトは、その日のうちにTyをオフラインにした。

Tayは失敗に終わったが、それでもチャットボットの普及の勢いは止まらない。FacebookやSnapchatなどのソーシャルネットワークや、HipChatやSlackなどのメッセージングクライアントで見つけることができます。周りの話もある。また、サービスとつながるものもあります。ボットの中には、自然な会話を真似ようとしないので安全なものもあります。今は、機械が人間の話し方を真似るのは良くないかもしれませんから。

私たちは、ロボットが学ぶべき最良の模範を示しているわけではありません。ミズーリ州立大学カレッジのシェリル・ブラハナム教授が行った研究によると、インタラクション研究の10〜50パーセントは、人間がコンピューターアシスタント（デジタルパーソナルアシスタントはその一種にすぎない）に対して虐待などの意地悪をしていると結論づけています。これは不穏なほど大きな数字です。子どもの前で悪口を言うことに罪悪感を感じる親もいる。これは、彼らのやり取りの半分がネガティブであることとは大違いです。

先ほど紹介したFacebook Messengerのチャットボット？自然言語を学ぶことで交渉術を身につけただけでなく、嘘をつくことも覚えたのです。

あなたの将来の雇用主は、あなたを見ているかもしれない

将来的には、ロボットとのコミュニケーションの取り方が、私たちの仕事を奪ってしまうような事態になるかもしれません。ハーバード・ビジネス・レビューによると、この変化は、虐待されたロボットを壊れたS○Xと見るのをやめ、蹴られた子猫と見るようになったときに起こる可能性があるそうです。会社のロボットを軽んじると、クビになる可能性があります。

だからといって、従業員や雇用主がロボットをかわいい生き物と見なすようになるわけではありません。しかし、それを悪用して、プロらしくない、逆効果な印象を与えるような感覚を持つこともあります。もしあなたが管理職なら、AIを悪用すると、指導力不足で人事の前に呼び出されるかもしれません。

これはあまりにも仮定の話に聞こえますか？すでに何が起こっているか分かっていると考えてください。このアシスタントに電話したり、話したりする言葉はすべてインターネット上で送信され、その後どうなるかは本当にわからないのです。ほとんどの情報が記録されています。これらの情報が常にお客様のアカウントと結びついていない場合でも、情報は保存されています。

Googleがこのことについて技術的に透明であるという事実は、この種のデータ収集が、記録前に誰かの同意を求めることの定義を拡張するものであることを明確にはしていない。

このように収集されたデータは、今は無害に見えるかもしれないが、いずれ技術大手は、将来の雇用主や銀行などが私たちと関わる前に、信用報告書のように、私たち一人ひとりの詳細なポートフォリオを作成することを止めることはできないだろう。

また、警察による監視も行われています。

アーカンソー州の男性が友人の元警察官を殺害した罪に問われている事件で、検察はAmazon Echoの録音を証拠として使おうとした。アマゾンはその要求を拒否したが、それは一部で慰めになっただけだった。気になるのは、そもそもアマゾンがデータを保存していたことだ。容疑者はこのデータにアクセスすることを許可していた。

企業が私たちと交流する前に、私たちのデータ記録をチェックすることができると述べました。法執行機関の面では、すでにこの情報を把握しているのです。もし、○○局がこの情報を集めるのに、民間企業に頼ることができるのであれば、本当に自分でデータを集める必要があるのだろうか？それだけのデータを持っている人を全員信用すべきなのでしょうか？

データには、何を検索したか、コマンドを発行したかだけでなく、それをどのように実行したかが含まれています。私たちは、自分の興味や行動を他人に知らせるだけでなく、自分の行動を他人に知らせるのです。あなたとアレクサの間に起こることは、あなたとアレクサの間に起こることではありません。

ものはいいよう

Tayが一時停止したとき、マイクロソフトは別のボットを見つけ、大成功を収めました。その名も「アイス」。中国と日本では、このボットが4,000万人以上と交流しています。シャオビンが自滅しなかったのは、文化の違いもある。中国では、ある種の言論がネット上で許されていない。

そして今、ボットが自ら取り締まり役を担っている。ソーシャルネットワークは、ヘイトスピーチを減らすためにボットを使い始めています。私たちはボットと直接会話していないかもしれませんが、ボットは私たちの言葉を研究して、何が悪用にあたるかを理解しています。

この問題で何をするにしても、私たちが何をどう言うかが重要です。ロボットとそれを扱う企業は耳を傾けています。いつの日か、私たちの雇用主も彼らに加わるだろう。将来、コンピュータが私たちに取って代わるなら、より良いものであってほしいと思いませんか？

デジタルパーソナルアシスタントが故障したとき、あなたはどう対応しますか？相手に感情があるかのように扱っていませんか？自分の発言に人が注目するかどうか、気になりますか？責任を持って進めるべき道は何だと思いますか？以下のコメントには、1名が注目します。

写真提供：deagreez1/photo