2020.08.28

AIで作られた偽の動画、ディープフェイクとは?

フェイク AI

世の中にはたくさんの動画や写真が溢れていますが、AIを使って作られた偽物の動画、
「ディープフェイク」というものもあります。

ディープフェイクとは、一体どんな技術なのでしょうか?

今回は、ディープフェイクの歴史や事例、対策などをご紹介します。

ディープフェイク(Deepfake)とは

ディープフェイクとは、高度な画像生成技術を使って合成され、
偽物とは簡単に見抜けないほど精巧に作られた偽物の動画のことです。

ディープラーニングという言葉とフェイクを合わせて作られた言葉で、
実在する人物とは別の人物を作り上げられるものです。

AIのディープラーニングを用いて、
別の人の顔にすり替え表情を自然に動かせます。

単純に顔の静止画を当てはめるのではなく、
映っている人の表情に合わせて各パーツが動くので、
何も知らない人が見て加工されていると見抜くのは難しくなっています。

フェイクニュースの定義と分類

ディープフェイクの歴史

ディープフェイクが出現したのは2017年で、
ネット上に有名人の顔を入れ替えたディープフェイクのポルノ動画が登場してから
話題を呼びました。
その後にディープフェイクのアルゴリズムが一般公開されるようになり、
誰でも技術やノウハウを習得できるようになったのです。
これを機に、ディープフェイク動画がネット上にたくさんアップされるようになります。

最近までは動画の加工・偽造は労働力のいる作業で、
専門のクリエイターにとっても気の遠くなるような作業が必要でした。

しかし現在は、AIによる機械学習によってプロセスが容易になっています。

ディープフェイクの恐怖(事例)

ディープフェイクの怖いところは、
著名人の顔にすり替えて動画を作れることです。

事例として、2018年に動画サイトに公開されたオバマ前大統領が喋っている動画では、
ディープフェイクの技術を使って
「トランプ大統領は救いようのない間抜けだ」
と前大統領らしくない発言をしています。

しかし動画の最後では画面が2分割されて
俳優兼監督のジョーダン・ピールが出てくることで、
これがディープフェイクだと分かります。

動画内にネタばらしがなければ、
誰もディープフェイクだと気付かなかったでしょう。

このように著名人の顔にすり替えて作成できてしまうことから、
安易に世界の政治を揺るがすことにつながるかもしれないのです。

ディープフェイクはどこまで制限され許容されるべきか

クリエイターにとって動画の作成や画像を生成することは、表現の自由とされています。
そのため、ディープフェイク動画のどこまでが制限されて
許容されるべきなのか問題になっているのです。

フェイスブック社ではディープフェイクの一部を削除する方針を打ち出しましたが、
どこまでを表現の自由と捉えるかの判断が難しいため
規制は限定的であるべきとの見解を示しています。

日本でもディープフェイクのポルノ動画が拡散されるようになっており、
それを規制する法律がないのでたくさん拡散されてしまっています。

ディープフェイクの対策

悪質なディープフェイクに対抗しようとたくさんの研究チームがフェイク動画を見破るために動き出しています。

アメリカのリュー・シーウェイ氏が率いるチームは瞬きに注目し、
AIを使ったディープフェイクを見破る技術の開発に成功しました。

人は通常2~3秒間に1回は必ず瞬きをしていますが、
ディープフェイク動画に映っている人物は瞬きをしていないのです。

AI技術に頼るディープフェイクをAIで見破る攻防戦は、
ディープフェイク動画がなくならない限りこれからも続くことでしょう。

 

ディープフェイクは、今や日本だけでなく世界に溢れています。

中には著名人の顔にすり替えた悪質なディープフェイクも存在しているため、
ディープフェイクという技術を活用する自分たちが
ネットのモラルを守らなければなりません。

また正しい情報と誤った情報を的確に判断する能力も身に付ける必要があります。
そのためには、ディープフェイクの知識をある程度持っておくことが重要です。

フェイクニュースを見破る方法を最近の事例を交えながら解説

編集部のコメント

AIがフェイク情報を作り出す時代がきてしまいました。
ディープフェイクのような技術が生まれて、
フェイクニュースを見抜くのがさらに難しくなりました。

一部の国では規制が始まっていますが、
法律面で制度を整えて仕組みで防止するということと、
AIのような技術を駆使して判定、検証をおこない
積極的に情報を発信していくことの両面での取り組みが必要です。

一つ一つの情報を人的にチェックしていくのは限界があり、
ディープフェイクのような技術には対抗できません。
フェイクを見抜くAIの開発、収集できるツールの開発など、
対策側の技術も進化させていかなければなりません。

フェイク情報が溢れるような社会になってしまうのか、
対策に力を入れてフェイク情報が流通しづらい社会になるのか、
この5~10年で大きく変化するでしょう。

この記事を書いたライター