SNSの広告動画で「このチャンスを逃したら次はありません。今すぐ下のリンクをクリックして、参加費無料ですので皆さまのご参加をお待ちしております」と話しているのは、ファッション通販大手「ZOZO」の創業者で実業家の前澤友作さんとみられる人物。

ところが、これは全て前澤さんに成り済ました“偽広告”。

前澤さんは7日、自身の公式Xにこうした偽広告を動画付きで投稿し「極めて悪質な詐欺だ」と注意を呼びかけました。

SNSで被害報告が相次ぎ社会問題化する偽広告。
今回のように著名人に成り済ました偽広告を入り口とした投資詐欺も以前から見られた手口ですが、日々進化するAI技術を悪用し手口が巧妙化していました。

実際のインタビュー映像をもとにAIで生成した音声を合成して作ったとみられる、偽広告動画。

この動画では口元を吹き出しで巧妙に隠していますが、他の動画を見ると音声と口の動きがずれてしまっているものも。
さらに「こんにちは。前澤ともさくです」と自らの名前を言い間違えるなど日本語がおかしい点も多く見られます。

さらに、画面上の説明文には韓国語や中国語が確認できるなど不思議な点も見られました。

専門家はこうした偽広告は海外の犯罪集団が作ったものではないかと指摘します。

犯罪ジャーナリスト・多田文明さん：
今回の文字の間違いとか見ると、やっぱり中国系の詐欺グループの動画が多いのかな。今までは広告というと文字だけだったが、動画になるとより本人だと信じてしまってだまされる人が多い。

個人投資家で純利益100億円を達成したテスタさんも、偽広告に自身の動画を悪用された被害者の1人です。

テスタさんは「本当悲しみも怒りもすごい大きくて、それが広告の審査を通ってしまっている現状っていうのがすごい驚き」と話します。

テスタさんの動画を悪用しAIで生成されたとみられる偽広告。
話している内容をよく聞くと、前澤さんの名をかたった偽広告と日本語が不自然な部分を含めてほぼ同じ文言が使われていました。

しかし、興味を持ってアクセスをしてしまうとLINEでのやり取りに誘導され、金を振り込むよう要求され被害に遭うケースが多いといいます。

偽広告に使用された個人投資家・テスタさん：
本当にこの1年をみても、最初は画像が粗かったりカクカクだったり、どんどんそれもなめらかになってきてますし、声も最初は僕じゃなかったのが僕の声を使って合成させてというふうに。

テスタさんは1年以上前から偽広告被害への注意喚起を行ってきましたが、以前は画像だった偽広告が現在は動画に変化するなど進化するAI技術を使った手口に頭を悩ませていました。

テスタさんは「これが半年とか1年とかしたら本当に見分けがつかなくなると思うので、今のうちに気をつけてもらって…」と注意を促しました。

前澤さんも「イット！」の取材に対し規制の必要性があると危機感を訴えました

前澤友作さんコメント：
詐欺被害に遭われる方がこれ以上増えないことを心より祈っております。政府に対してもこうした（SNSの）事業者に対する何らかの規制の必要性を問いたいと思います。