これは2024年、大統領選挙の候補者争いを繰り広げた2人。
一度は抱き合いますが突然、互いにつかみ合い乱闘に発展します。
一方、こちらはおりの中に入れられた尹錫悦（ユン・ソンニョル）前大統領を、李在明（イ・ジェミョン）大統領があざ笑っています。
どちらの映像もAI（人工知能）によって生成されたとみられる偽の映像「ディープフェイク」です。
韓国では、6月行われた大統領選挙でこうしたディープフェイクがSNS上などで急速に広がりました。
3年前に行われた前回の大統領選挙では、AIを活用した選挙運動が可能でしたが、その後ディープフェイクが社会問題に。
2023年に法律が改正され、現在は投票日90日前からAIを使った選挙活動は禁止され、違反した場合は罰則が科されることになりました。
法律の整備だけではありません。
今回の大統領選では警察が対策本部を立ち上げ、本格的な対策に乗り出した他、選挙管理委員会も450人体制の対策チームを立ち上げ、ディープフェイクなどを取り締まりました。
選管がサイト運営者に出した削除要請は1万件を上回り、2024年4月の総選挙の実に27倍に急増しました。
AIによる映像の生成技術は近年、急速に進歩しています。
こちらはアイドルが練習する映像を作るよう、テキストで指示しただけで生成されたAI映像です。
また、全身写真と声を入力しただけで音声も自動生成され、150の言語に対応します。
一方で、こうした技術は選挙での世論操作や選挙妨害に使われることも。
こちらの会社ではAI生成技術を応用して、ディープフェイクを探知するプログラムを開発しました。
警察や国家機関もこのプログラムを導入しています。
どのようにフェイクかどうか判別するのでしょうか。
実際に大統領選の期間に出回ったディープフェイクをプログラムに入れてみると、10秒ほどでフェイクと判定され精度は96％でした。
一方、冒頭のディープフェイクを検知プログラムにかけてみると、フェイクと判定されたものの精度は76％。
動画の中に、実際の映像も使われているため判別の精度が落ちてしまうといいます。
ディープブレインAI チャン・セヨン代表：
ディープフェイクを作る技術もものすごく早く発展し続けていて、（現状のままでは）1年後には判別できないでしょう。
選挙管理委員会によりますと、さまざまな制約があり削除を要請したディープフェイク1万件のうち、約3割は削除されておらず“いたちごっこ”が続いているといいます。
韓国では公正な選挙を守るための試行錯誤が続いています。
