最近、Redditでは、別のサブRedditを使って、「Deep Fake」という機械学習ツールを使って、動画中の他人の顔を自動的に別の人の顔に置き換えるというニュースが掲載されています。どうやらこれはインターネットなので、人々はそれを使って2つのことをするようです：有名人の偽物***とニコラス・ケイジ**をランダムな映画に出演させることです。

写真の中の人の顔を入れ替えるのは昔から比較的簡単でしたが、動画の中の人の顔を入れ替えるのは時間がかかり、難しいものでした。これまでは、主にハリウッドの大作映画のVFXスタジオで、俳優の顔をスタントダブルに差し替えるということが行われていました。しかし、今はdeepfakeによって、コンピュータがあれば誰でも素早く、自動的にそれができるようになったのです。

その前に、Deep Fakeがどのようなものかを知っておく必要があります。ニッチ・ケイジを中心に、さまざまな有名人の顔交換をまとめたSFW動画は以下からご覧ください。

ディープなりきりソフトは、機械学習を利用しています。まず、ターゲットの顔で学習させます。このアルゴリズムは、歪んだターゲット画像を処理することで、変化していないターゲット顔に似るように補正する方法を学習する。アルゴリズムに他人の画像が与えられると、その画像が対象者の歪んだ画像であると仮定し、補正しようとする。映像を得るために、Deep-Fakeソフトウェアは、各フレームを個別に操作します。

ディープフェイクが主に俳優を起用する理由は、様々な角度から撮影したショットが多く、トレーニングの効果が高いからです（ニコラス・ケイジはIMDBで91の演技クレジットを記録しています）。しかし、ネット上に投稿される写真や動画の数を考えると、500枚程度の画像でアルゴリズムを学習できるのですから、成功率は多少落ちるかもしれませんが、一般人もターゲットにできないことはないでしょう。

ディープフェイクの見分け方

現時点では、深層部の偽造を見破ることは容易ですが、技術が進歩すれば、ますます難しくなります。

不思議な顔。難解な贋作には、顔が奇妙に見えるものが多い。特徴が完璧に並んでおらず、すべてが下の写真のようなワックス状の質感に少し似ています。他は普通に見えるのに、顔が変に見える場合は、かなり深いフェイクかもしれません。

チカチカする。悪質なディープフェイク映像に共通する特徴は、顔がちらつき、時折、元の特徴が視野に入ることである。通常、顔の端や顔の前を何かが通過するときに目立ちます。変なフリッカーが発生したら、深いフェイクを見ることになる。

ボディが違う。ディープリーブって顔だけ入れ替わってるよね。多くの人は、体の相性が良いものを探そうとしますが、必ずしもそうとは限りません。著しく体重が重い、軽い、背が高い、低い、現実にはないタトゥーがある（または現実にはタトゥーがない）ように見えたら、偽物である可能性が高いです。映画「ウィップラッシュ」のシーンで、パトリック・スチュワートとJ・K・シモンズの顔が入れ替わっているのがその例です。シモンズはスチュワートよりずっと小さいから、変に見えるんだよね。

ショートクリップです。さて、「ディープフェイク」ソフトが完璧に機能し、ほとんど見分けがつかないほどの顔の入れ替えができたとしても、実際にそれができるのは短時間だけです。上記のような問題が起こり始めるのは、そう遠くないでしょう。そのため、人々が共有する最も深いフェイククリップは数秒しかなく、残りのクリップは使い物にならないのです。もし、ある有名人が何かをするときに、とても短い映像が流れていて、その短さに正当な理由がないとしたら、それはとても深いフェイクの手がかりになるのです。

声も悪いフェイクもない。このディープフェイクソフトウェアは、顔の特徴を調整するだけで、魔法のように別の人の声を出すことはできないのです。クリップに声がなければ、不健全である理由はなく、これも深いフェイクを見る手がかりとなります。同様に、声があっても、話す言葉と動く唇が一致しない場合（下のクリップのように、人が話すときに唇の形がおかしい場合）、深い偽物がある可能性があります。

信じられないようなクリップ。言うまでもないことですが、本当にすごい映像を見たとしても、それを本当に信じてはいけない可能性が高いです。ニコラス・ケイジは、マーベル・コミックの映画でロキを演じたことはない。それにしても、かっこいいですね。

不審な情報源偽物の写真と同じように、ビデオの出所が真偽を判断する大きな手がかりになることが多い。もし***がそれを報告しているなら、Redditのランダムなコーナーで見つけたものは、真実である可能性が高いです。

今のところ、ディープフェイクは大きな問題というより、恐ろしい好奇心の対象です。その結果は容易に見て取れます。行われたことを容認することはできませんが、深く捏造されたビデオを本物のビデオとして通用させようとする人は、まだいません。

しかし、技術の進歩に伴い、より大きな問題となる可能性があります。例えば、金正恩が米国に宣戦布告したというフェイク映像を流せば、大パニックを引き起こす可能性がある。