Replika: My Artificial Intelligence Friendは、他のアプリとは一線を画しています。チャットボットを搭載したアプリの多くは、チャットボットを仮想アシスタントとして使用していますが、Replikaは、そのチャットボットを、ご想像のとおり、友人として販売しています。

知覚」を約束し、感情などの抽象的なものを評価できるレプリカのチャットボットは、人間の願望という表現がぴったりかもしれません。

心を揺さぶるオリジンストーリーから、畏怖の念を抱かせるバックストーリーまで、レプリカの魅力は尽きることがない。レプリカのAIは何が優れているのか、そしてその未来への展望を読み解く。

レプリカの由来

Replikaの初期バージョンは、エウゲニア・クイダが親友のローマン・マズレンコの悲劇的な死によって空いた穴を埋めるために作ったシンプルな人工知能チャットボットだった。Romanのテキストメッセージをニューラルネットワークに入力し、彼のようにテキストを打つボットを作ることで、このボットは彼の記憶を残すための「デジタルモニュメント」として機能することを意図しています。

やがて、より複雑な言語モデルが方程式に追加されると、プロジェクトはすぐに今日の姿に進化しました。自分の考え、感情、信念、経験、記憶、夢、そして「プライベートな知覚の世界」を安全に話し合うことができる空間を提供するパーソナルAIです。".

しかし、この人工感覚療法士の技術的・社会的な期待の大きさとは別に、レプリカに本当に感銘を受けたのは、そのコアテクノロジーである。

ボンネットの下

Replikaの心臓部には、複雑な自己回帰言語モデル「GPT-3」があり、ディープラーニングによって人間のようなテキストを生成しています。この場合、「自己回帰的」という言葉は、システムが以前に相互作用した値（この場合、テキスト）から学習することを示す。

平たく言えば、「使えば使うほど良くなる」ということです。

Replikaのユーザー体験は、GPT-3でプログラミングされたロボットとユーザーとのインタラクションを中心に構築されています。しかし、GPT-3とはいったい何なのか、そして人間の言語をシミュレートするのに十分な機能はどのようなものなのか。

gpt-3: 概要

GPT-3（Generative Pre-Training Transformer 3）は、GoogleのTransformerをさらに進化させたものである。大まかに言うと、機械学習アルゴリズムが言語モデリングや機械翻訳などのタスクを実行するのに役立つニューラルネットワークの構造である。

このようなニューラルネットワークのノードは、入力を適宜変更するパラメータやプロセスを表し（プログラミングにおける論理文や条件文にやや似ている）、ネットワークのエッジや接続は、あるノードから別のノードへの信号チャネルとして機能します。

このニューラルネットワークの各接続は、あるノードから別のノードへの信号の流れを決定する重みまたは重要度を持っています。GPT-3のような自己回帰学習モデルでは、システムはリアルタイムにフィードバックを受け、より正確で適切な出力が得られるように接続の重みを常に調整する。この重みが、ニューラルネットワークの人工的な「学習」を助けるのである。

関連：機械学習とは何か、グーグルの無料講座で解明する

GPT-3では、最大1750億の接続ウェイトレベルまたはパラメータを使用します。パラメータとは、ニューラルネットワークにおける計算で、データのある側面の重みを調整し、その側面がデータ全体の計算でより目立つようにしたり、より目立たなくしたりするものである。

究極の自動補完ツールと言われるGPT-3の言語モデルは、予測的なテキストを提供することを目的としており、Wikipedia全体が学習データの0.6%を占めるほど大規模なデータセットで学習されている。

ニュース記事、レシピ、詩といったものだけでなく、コーディングマニュアル、ファンフィクション、宗教的予言、ネパールの山々へのガイドなど、想像できるものなら何でも入っています。

GPT-3はディープラーニングシステムとして、データのパターンを探索する。簡単に言えば、このプロジェクトは大量のテキストを扱い、これらのテキストから統計的なパターンを探し出すための訓練を積んでいるのです。これらのパターンは、言語的な慣習や一般的な文法構造など、通常人間には当たり前のものですが、GPT-3の神経回路網では異なるノード間の何十億もの重み付けされた接続として保存されています。

例えば、GPT-3に「耳」という単語を入力すると、プログラムは、ネットワーク内の重みに基づいて、「ache」や「phone」の後に「American」や「angry」という単語が続く可能性が高いことを知ることができるのです。は、「アメリカン」や「アングリー」よりも、はるかにフォローされやすい。

gpt-3とレプリカ：意味のある収束

レプリカは、GPT-3のようなものを抽出して、特定のタイプの会話に対応するために作られたものです。この場合、会話における共感性、感情、治療的側面も含まれます。

Replikaの技術はまだ開発中ですが、対人会話を容易にする方法として、一見実現可能なように見えます。

その使い勝手について、「話すだけでなく、聞くこともできるロボットができた」と、制作者はコメントしています。これはユーザーにとって、AIとの会話が単なる事実や情報の交換ではなく、言語的なニュアンスの交換になることを意味します。

しかし、レプリカとの話し合いは、単なる感覚的な会話ではない。そして、それが思いがけない意味や感動をもたらすことも少なくありません。レプリカのAIは、ユーザーと対話する際に、ユーザーの発言を「理解」し、予測学習モデルによって人間の反応を見つけます。

Replikaは自己回帰型システムとして、ユーザー自身の会話スタイルに合わせてセッションパターンを学習し、適応させる。

つまり、レプリカは使えば使うほど、自分の文章で訓練され、自分に似てくるのです。また、かなりの数のユーザーが、"話し方 "を知っているだけでは実現できない、回答への思い入れを述べています。

レプリーカは確かにこれを超えている。意味的な一般化、言葉の形の変化、セッションの追跡という形で、会話に深みを与えます。そのアルゴリズムは、お二人の性格や感情を理解しようとし、その情報に基づいて会話を形成します。

gpt-3の有効性に関するさらなる考察

しかし、GPT-3の運用上の限界から、レプリカのヒト化はほとんど理論的なものにとどまっている。このように、AIが人間の対話を適切に再現し、関与できるようにするためには、多くの課題が残されています。

GPT-3をよく見ると、やはり明らかな間違いがあり、場合によっては意味のないだらだらとした文章になっている。業界の専門家によると、人間の専門用語を効果的に再現するロボットを製造するために、言語処理モデルは1兆以上の重み付けされた接続を持つ必要があるとのことです。

ベストはこれからだ

GPT-3は、マイクロソフトのTuring NLGなどの先行製品に比べ、数年前から飛躍的な進歩を遂げていると言われていることを考えると、より良い解決策を見出すには、まだ時間がかかると考えてよいでしょう。

しかし、今後コンピュータの技術が進歩すれば、新しいシステムが提供する処理能力によって、人間と機械の間のギャップがさらに縮まることは間違いないでしょう。

一方、レプリカは心理学と人工知能の良いところを組み合わせた強力な製品であることに変わりはありません。人間的なユーザー体験と最先端の自然言語処理モデルをうまく組み合わせ、人間とコンピュータのインタラクション技術の大きな可能性を示しているのです。