「ザ・ルイが沈んじゃう！」FNN上海支局の中国人スタッフが、SNSのウェイボで「ある動画」を見つけたのは2025年7月の終わり。上海付近を通過した台風8号の被害についてリサーチをしている時のことだった。
「ザ・ルイ（The Louis）」とは、上海の中心部に2025年にオープンしたばかりの高級ブランド「ルイ・ヴィトン」の店舗のこと。巨大な船を模したユニークなデザインが目を惹き、多くの観光客が集まる新たなトレンドスポットになっている。
蔓延する生成AIによるフェイクニュース
スタッフが見つけた動画を確認すると、確かにザ・ルイの周りは激しく流れる水であふれかえっていて、まるで濁流の中で浮かぶ本物の船のように見える。その後、この動画はあっという間にSNS内で拡散していった。
投稿を見て「大変だ！上海で洪水が発生した！」と、騙されずに済んだのは、ザ・ルイのある場所が、私たちのオフィスから300メートルほどしか離れていない、ご近所だったから・・・だけではない。中国では大きな災害や事件が起きると、便乗したフェイクニュースが出まわるのが常なので、「出来すぎた」情報や映像は最初から疑ってかかる習性が身についている。
念のために窓の外を見てみると、確かにある程度の雨は降っているが、とても水害が起きているような状況とは思えない。そう、やはり動画は生成AIによるフェイク動画だった。
改めてこの時の台風を巡るSNSの投稿を探ってみると、「大量の車が流された」「有名観光地に観光客が取り残された」など、過去の映像や生成AIを駆使したフェイクニュースがあふれていたことが分かる。
日本でも、地震発生の際にウソの救助要請がSNSに投稿されるなどして問題になることはある。しかし中国の場合は、投稿されるフェイクニュースの量も、そして災害などが発生してからフェイクニュースが投稿されるまでの素早さも段違いで、SNSから発信される情報の信ぴょう性を大きく損なう原因となっている。
半年で倍増！5億人超の生成AIユーザー
中国インターネット情報センター（CNNIC）の報告によると、中国で生成AIを利用する人の数は、2025年6月の時点で5億1500万人にのぼる。低コストで開発され世界に衝撃を与えた生成AI「ディープシーク」の登場などがけん引し、半年間で一気に倍増した。
お手軽に「遊び心のある」コンテンツが作成できるため、SNSのフォロワー獲得や、動画の再生回数につなげようとする人が多く、フェイクニュースの投稿もその一環と思われる。
AIとユーザーの急成長に、規制が追い付いていない状況だった。大きな災害や事件が発生するたびに、生成AIを悪用したフェイクニュースが拡散されていくのは、情報統制に重きを置く中国政府としては、見過ごせない状況だったに違いない。
フェイクニュースで拘束も 当局が本格規制へ
中国メディアによると、台風8号を巡っては、「ザ・ルイ」の動画の投稿者を含む6人が、デマを拡散して公共秩序を乱したとして、公安当局により行政拘留の処分を受けた。公安はその後も、フェイクニュースを厳しく取り締まる姿勢を示している。
さらに9月からは、AIを利用して作られた全てのコンテンツに「AIで作成した」と明示させることが義務付けられた。これによって、SNSに投稿された画像や動画がリアルなものか、AIによるものかを見分けることができるようになった。
日本ではまだ、こうした法整備はなされておらず、一律の表示義務は課されていない。
2026年1月には、中国で「改正サイバーセキュリティ法」が施行される。2017年に施行された際には、AIのリスクは想定されておらず、今回の改正で初めてAIの監督強化やリスク管理が、国家の政策として明文化された。AI大国を自認する中国が、その悪用に歯止めをかけることができるのか、注目したい。
（FNN上海支局長 沖本有二）
