韓国で6月、大統領選期間中にAIで作られた偽映像「ディープフェイク」が拡散した。2023年の法改正で投票90日前からAI選挙活動は禁じられ、警察と選管が450人体制で削除を要請したが、約3割が残っているという。検知技術が進歩する中、公正選挙の取締りと技術開発の継続が課題となっている。
ディープフェイクがSNS上などで急速に広がる
これは2024年、大統領選挙の候補者争いを繰り広げた2人が一度は抱き合うが、突然互いに掴み合い、乱闘に発展している映像だ。
ディープフェイクの映像：
お祝いなんて元々私が候補だったのに…。今（ケンカ）してみようというのか。
一方、違う映像では檻の中に入れられた尹錫悦前大統領を李在明大統領があざ笑っている姿が映っている。
どちらの映像も、AI＝人工知能によって生成されたとみられる偽の映像「ディープフェイク」だ。韓国では、6月行われた大統領選挙でこうした「ディープフェイク」が、SNS上などで急速に広がった。
3年前の2022年に行われた前回の大統領選挙では、AIを活用した選挙運動が可能だったが、その後、ディープフェイクが社会問題になった。
2023年に法律が改正され、現在は投票日90日前からAIを使った選挙活動は禁止され、違反した場合は罰則が科せられることになった。
法律の整備だけではない。今回の大統領選では、警察が対策本部を立ち上げ本格的な対策に乗り出したほか、選挙管理委員会も450人体制の対策チームを立ち上げ、ディープフェイクなどを取り締まった。
選管がサイト運営者に出した削除要請は1万508件となり、2024年4月の総選挙の27倍に急増した。
検知プログラムも判別の精度は不安定
AIによる映像の生成技術は、近年急速に進歩している。アイドルが練習する映像を作るようテキスト（文章）で指示しただけで生成されたAI映像もある。
また、全身写真と声を入力しただけでこんな映像も作ることができる。
取材班：
写真1枚で、こんな風に歩いて話す映像を作れました。
音声も自動生成され、150の言語に対応する。
一方で、こうした技術は選挙での世論操作や、選挙妨害に使われることもある。AI生成技術を応用して、ディープフェイクを探知するプログラムを開発した会社もある。警察や国家機関も、このプログラムを導入している。
どのようにフェイクかどうか判別するのか、実際に大統領選の期間に出回ったディープフェイクをプログラムに入れてみる。
取材班：
今判定中で、出ました。実際に「フェイク」と判定されています。
10秒ほどで「フェイク」と判定され、精度は「96％」だった。
一方で、冒頭で紹介したディープフェイクを検知プログラムにかけてみると、「フェイク」と判定されたものの精度は「76％」となった。動画の中に実際の映像も使われているため、判別の精度が落ちてしまうという。
ディープブレインAI・チャン・セヨン代表：
ディープフェイクを作る技術もものすごく早く発展し続けていて、（現状のままでは）1年後には判別できないでしょう。
選挙管理委員会によると、6月5日時点で様々な制約があり削除を要請したディープフェイク1万件のうち、約3割は削除されておらず、いたちごっこが続いているという。
韓国では、公正な選挙を守るための試行錯誤が続いている。
（「イット！」7月11日放送より）
