ニセ動画「ディープフェイク」脅威と対策 “本物そっくり”に広がる懸念

カテゴリ:ワールド

AI(人工知能)技術などを使って作成する偽動画「ディープフェイク」。

本人と見分けがつかないうその動画がSNSで拡散されるなど、影響が懸念されている。

ピンスクリーン社 長野光希主任研究員「これがターゲットの習近平さんの顔の3次元形状になっていて、解析されている(記者の)表情をそのまま使って、今、この人(習近平氏)の3次元形状を動かしている」

まるで、中国の習近平国家主席本人が動いているように見える合成映像。

最新のAI技術が作り出す「ディープフェイク」と呼ばれる“偽動画”。

その脅威が今、世界に広がっている。

カメラを見据え、“データで全てを支配する”と語るフェイスブックのザッカーバーグCEO(最高経営責任者)。

実は本人ではなく、ディープフェイク動画。

この偽動画は2019年6月、イギリスのアーティストがイベント用に制作し、インスタグラムで公表。

本人と見分けがつかない偽動画に、ザッカーバーグ氏本人なら決して話さないような言葉を語らせ、大きな反響を呼んだ。

また、こんな悪質な偽動画も。

アメリカのトランプ大統領と対立する野党・民主党のペロシ下院議長のスピーチ映像が、あたかも酔っぱらっているかのように加工され、2019年5月、SNS上に拡散した。

2020年に大統領選挙を控えるアメリカでは、ディープフェイクによるネガティブキャンペーンなど、選挙への悪影響の懸念が拡大。

議会では6月、ディープフェイクに関する公聴会が開かれ、フェイスブックなどのSNS企業に対策での協力を要請した。

今、深刻な問題となっているディープフェイク。

しかし、それを見破るための技術の開発も進んでいる。

ロサンゼルスのシステム開発会社「ピンスクリーン」。

この会社では、ディープフェイク動画を自動で判別するシステムを新たに開発。

人それぞれ、微妙に異なる話し方のくせやしぐさをAIによって解析し、偽動画を見破る。

ピンスクリーン社 長野光希主任研究員「オバマ大統領だと、しゃべり出す前に頭を少し動かすタイミングがある。そういう独特の本人らしいしゃべり方を事前に解析しておいて、この点が(偽物の)顔の特徴点をトラッキングしていて、目の開き具合や口の開き具合、顔がどういうふうに動いているかを全部コンピューターで解析して、それが(本物と)マッチングするかを見て、本物のビデオかどうか検出している」

本物の映像さえあれば、偽動画を見破る確率は9割以上。

すでにアメリカ政府機関などから、この技術を使いたいという問い合わせがきているという。

また、別の研究機関では、偽動画を作る際に必要な顔の認識機能を無効にし、インターネット上などの動画から顔を複製できなくする技術の開発も進められている。

しかし、こうした対策も万全ではない。

ピンスクリーン社 ハオリーCEO「問題なのは、ある時点でディープフェイクを見破ることは不可能になるということです。わたしたちのような技術者と法律を作る人たちが協力することが必要です。ルールや法律によって、ディープフェイクの脅威から人々を守ることができます」

巧妙さを増すディープフェイク。

AI同士のし烈な、いたちごっこは続く。