見分けつきますか?ニセ動画「ディープフェイク」脅威と対策 “本物そっくり”に広がる懸念

カテゴリ:ワールド

  • 本人と見分けがつかない偽動画「ディープフェイク」がSNSで拡散
  • FBのザッカーバーグCEOや民主党のペロシ下院議長も
  • 話し方のくせやしぐさをAIで解析、偽動画を見破る確率は9割以上だが・・・

本人と見分けがつかない偽動画が拡散

AI(人工知能)技術などを使って作成する偽動画「ディープフェイク」。
本人と見分けがつかないうその動画がSNSで拡散されるなど、影響が懸念されている。

ピンスクリーン社 長野光希主任研究員:
これがターゲットの習近平さんの顔の3次元形状になっていて、解析されている記者の表情をそのまま使って、今、この習近平氏の3次元形状を動かしています。

ピンスクリーン社 長野光希主任研究員

まるで、中国の習近平国家主席本人が動いているように見える合成映像。
これは、最新のAI技術が作り出す「ディープフェイク」と呼ばれる“偽動画”だ。
今、その脅威が世界に広がっている。

「ディープフェイク」と呼ばれる“偽動画”

FBのザッカーバーグCEOや民主党のペロシ下院議長も

カメラを見据え、“一人の男が何十億人分の盗まれた個人データやすべての秘密、 生活、未来をコントロールする”と語るフェイスブックのザッカーバーグCEO(最高経営責任者)。
実は本人ではなく、ディープフェイク動画だ。

フェイスブック・ザッカーバーグCEO(最高経営責任者)のディープフェイク動画

この偽動画は2019年6月、イギリスのアーティストがイベント用に制作し、インスタグラムで公表。
本人と見分けがつかない偽動画に、ザッカーバーグ氏本人なら決して話さないような言葉を語らせ、大きな反響を呼んだ。

また、アメリカのトランプ大統領と対立する野党・民主党のペロシ下院議長のスピーチ映像が、あたかも酔っぱらっているかのように加工され、2019年5月、SNS上に拡散されるという悪質行為も。

民主党・ペロシ下院議長の偽動画

2020年に大統領選挙を控えるアメリカでは、ディープフェイクによるネガティブキャンペーンなど、選挙への悪影響の懸念が拡大。
議会では6月、ディープフェイクに関する公聴会が開かれ、フェイスブックなどのSNS企業に対策での協力を要請した。

ディープフェイクに関する公聴会

深刻な問題となっているディープフェイク。
しかし、それを見破るための技術の開発も進んでいる。

偽動画を見破る確率は9割以上

ロサンゼルスのシステム開発会社「ピンスクリーン」。
この会社では、ディープフェイク動画を自動で判別するシステムを新たに開発。
人それぞれ、微妙に異なる話し方のくせやしぐさをAIによって解析し、偽動画を見破る。

「ピンスクリーン」社

ピンスクリーン社 長野光希主任研究員:
オバマ大統領だと、しゃべり出す前に頭を少し動かすタイミングがある。そういう独特の本人らしいしゃべり方を事前に解析しておいて、この点が(偽物の)顔の特徴点をトラッキングして、目の開き具合や口の開き具合、顔がどういうふうに動いているかを全部コンピューターで解析して、本物とマッチングするかを見て、本物のビデオかどうか検出しています。

本物の映像さえあれば、偽動画を見破る確率は9割以上。

すでにアメリカ政府機関などから、この技術を使いたいという問い合わせがきているという。

また、別の研究機関では、偽動画を作る際に必要な顔の認識機能を無効にし、インターネット上などの動画から顔を複製できなくする技術の開発も進められている。

ルールや法律が必要

しかし、こうした対策も万全ではない。

ピンスクリーン社 ハオ・リーCEO:
問題なのは、ある時点でディープフェイクを見破ることは不可能になるということです。わたしたちのような技術者と法律を作る人たちが協力することが必要です。ルールや法律によって、ディープフェイクの脅威から人々を守ることができます。

ピンスクリーン社 ハオ・リーCEO

巧妙さを増すディープフェイク。
AI同士のし烈な、いたちごっこは続く。

森田章氏

動画を鵜呑みにせず、別の情報源で確認や検証を

経営コンサルタント・ 森田章氏:
日本でも偽動画による人権侵害の被害は報告されています。
今後は選挙妨害であるとか人格攻撃、あるいは犯罪などの脅威に注意しなくてはいけない。

三田友梨佳キャスター :
自分を守るために何が必要だと思いますか?

森田章氏:
目の前にある動画を鵜呑みにするのではなくて、必ず別の情報源にあたって確認や検証をしていく、そうした情報の接し方を根本的に変えなくてはいけないのではないかと思います。

三田友梨佳キャスター :
一人一人が慎重になることも必要ですが、取り締まりの強化も早急に求められます。

(「Live News α」8月21 日放送分)

Live News αの他の記事