今、急増しているディープフェイクによる性的被害。
見ず知らずのうちに写真が悪用され、生成AIにより、性的な映像や画像が作られるケースが相次いでいます。
体操服を着た幼さが残る少女たち。性的ディープフェイクにより下半身が露出したように加工されたり…
なかには卒業アルバムの写真を悪用されるケースも…
生成AIによりいとも簡単に作成され、誰もが被害者になりうる性的ディープフェイク。
卑劣な実態を取材しました。
■性的ディープフェイクの相談・通報は100件超えた
先月、こども家庭庁が開いたあるワーキンググループでは、生成AI技術などを悪用し実在する児童、女性などを性的に加工した画像や動画「性的ディープフェイク」について議論されていました。
【三原じゅん子こども政策担当相】「生成AI技術を悪用した児童の性的ディープフェイクについては、だれでも簡単に被害者にも加害者にもなってしまう」
警察庁によると、性的ディープフェイクに関する全国の相談や通報は、去年100件を超えました。
■中高生や小学生まで 未成年がターゲットになっている「性的ディープフェイク」
一体、どのような実態があるのか。
ネットパトロールやデジタル性暴力の通報活動を行う「ひいらぎネット」代表の永守すみれさんに聞きました。
性的ディープフェイクは近年、未成年者がターゲットになっていると指摘します。
【ひいらぎネット 永守すみれ代表】「数年前までは有名人の方が被害に遭っていることが多かったんですけれども、最近では一般の中高生、もっと小さいと小学生も性的ディープフェイクの被害に遭ってしまっている現状があります」
「ひいらぎネット」の調査によると、未成年者の性的ディープフェイクがことし3月～6月で252件、SNS上などで確認されたということです。
【ひいらぎネット 永守すみれ代表】「ヌードに加工されているものがもっとも多いんですけど、性的な行為をしているものもありました」
そしていま悪用されているのが卒業アルバムです。
【ひいらぎネット 永守すみれ代表】「とくに3～4月くらいにかけて卒業アルバムが配布されてすぐくらいのタイミングというのは卒業アルバムを使った画像加工の被害というのが大変多かった」
被害者の知らないところで卒業アルバムの写真を悪用。
性的な画像や動画に変えられ、誰でも見られるSNSなどに投稿されているといいます。
■「#卒アル晒し」作成の依頼者が「同級生」の可能性も
実際に、コミュニケーションアプリを見てみると…「#卒アル晒し」という名前が付けられた項目が。
そして卒業アルバムとみられる名前が入った写真がずらりと投稿されています。
【ひいらぎネット 永守すみれ代表】「自分で衣服をはだけて胸をあらわにするようなもの、おそらく小学生だと思うが服を脱がされているようなものになります」
なんと小学生とみられる少女の写真を性的な動画に変えているものやSNSに投稿した写真を悪用され下半身に何も着けていないかのように加工された画像も。
驚くのは作成の依頼者が「同級生」の可能性もあるといいます。
【ひいらぎネット 永守すみれ代表】「例えば、同級生を名乗る人が『自分の同級生の画像を加工してください」というふうに書いて、元画像をあげている」
■服を着た記者の写真が30秒ほどで裸に…
性的ディープフェイクはどのようにして作られてしまうのか。
記者の写真を使用し実際に作成してみると…
【ひいらぎネット 永守すみれ代表】「今開いているページは、ヌードフェイクが作れるサービスへのリンクがずらっと貼られているところ」
コミュニケーションアプリに貼られた多くのURL。このURLに飛ぶと簡単に作成できるといいます。
記者の証明写真をアップしてみると、作成サイトには、「胸の大きさ」を選ぶ機能もありました。
そして、作成ボタンを押すと…
【ひいらぎネット 永守すみれ代表】「『26秒でできます』と書いています」
【記者】「服が脱がされています」
わずか30秒ほどで、記者が着ていたはずの服が消えています。
【記者】「違和感ない。ここまで精度があるんですね」
【ひいらぎネット 永守すみれ代表】「本当に言われなかったらAIで脱がされたものってわからない。普通にこういう写真がもともとあったのかなって思うようなものが簡単に作れてしまうんですね」
■「個人での対策は難しい」性的ディープフェイク
AIの技術向上により誰でも簡単に作ることができ、一見しただけでは、真偽の判断が難しくなってきているといいます。
被害者の知らないところで作成・投稿されている性的ディープフェイク。
永守さんは、「個人での対策は難しい」と指摘します。
【ひいらぎネット 永守すみれ代表】「卒業アルバムとか、学校行事の写真っていうのは、自分の管理ができる範囲外にあるので、正直に言って完全な自衛というのはもはや不可能。国がしっかりと対策をしていくべき」
■「個人と名前が一致しない」卒業アルバムを作成する学校も
卒業アルバムが悪用される現状に若者は…
【高校生】「悪用されるのは悲しいし、怖いなって思います」
【高校生】「3年間とか6年間の思い出があると思うので残してほしいと思うけど変な風には扱ってほしくない」
卒業アルバムが悪用される問題について大阪市にあるアルバムメーカーはどのように思っているのでしょうか。
【株式会社ダイビ 前田哲治社長】「卒業アルバムがディープフェイクに関わるような伝わり方をしていると不本意」
この会社では、昨年度2230校分のアルバムを作りましたが近年、中身にある変化が…
【株式会社ダイビ前田哲治社長】「個人情報の繋がりかねないデータに関しては掲載しない傾向。個人と名前が一致しないように写真だけにする、数は少ないが出てきている」
個人情報保護のため、変わりゆくアルバムのカタチ。
しかし卒業アルバムをめぐってはことし4月、仙台市の印刷会社がサイバー攻撃をうけたと発表。
全国の小中学校などおよそ17万3000人の個人情報が流出した可能性があるということです。
こうした漏洩を防ぐため、この会社では最高水準のセキュリティ対策をしているといいます。
【株式会社ダイビ前田哲治社長】「卒業アルバムは人の人生において学生時代の記憶の象徴、誰にとっても大事なアイテム。我々もプライドを持って仕事をさせてもらっている。モノ作りをするまでは我々の責任。生徒の手に渡った先は関与できないので…」
誰もが被害者になりうる性的ディープフェイク。
大切な写真が悪用されないために早急な対策が求められます。
■鳥取県では条例も
「ひいらぎネット」の永守すみれ代表によると、保育園の写真購入サイトからIDやパスワードが流出し、そこから写真を取って、悪用されるケースや投稿したウェディングフォトがディープフェイクの被害に遭うこともあるそうです。
日本には、現段階で性的ディープフェイクに特化した法律がありません。
しかし自治体が対策に動き始めていて、鳥取県は、児童ポルノ（ディープフェイク含む）の作成・提供を禁止する条例を今年の4月に施行しました。来月から以下の罰則が強化されるということです。
・5万円以下の過料
・画像の廃棄・削除の命令
従わない場合には…
・追加で5万円以下の過料
・氏名の公表も
■EUでは人権侵害の画像はAI開発企業に対しても制裁金をかけている
この問題について、犬山紙子さんは、「国が対策をすべき」と提言します。
【犬山紙子さん】「国が対策していくべきだと思うんですよね。AIを規制する方向ではなくて、児童ポルノとしてどう罰していくか。同級生による（依頼）もあるとお話ありましたけれども、こいつ気に入らないからディープフェイクで（生成AIに）してもらおう（という発想）にもなり得る。教師による盗撮も話題になっていますが、自分の教師がそれを（ディープフェイク画像生成を）やっているけど罰せられないのは違うと思うんですよね」
【関西テレビ・神崎博報道デスク】「鳥取県のような取り組みが本当に国レベルでやればいいんですけれども、例えば海外の人に（法律の範囲が）及ぶのかなど（の課題が）ありますし、AIそのものの規制は難しいんですけど、EU・ヨーロッパでは、 AI自体を規制し、性的なものを含めて人権侵害するものであれば、AIを開発した企業に対しても制裁金をかけるという形で動いている国もあります」
一方、大阪大学大学院・安田洋祐教授は、国が規制をかけることで、「他の技術革新を阻害してしまう可能性もあるのでは」と、「技術革新」と規制の両立の難しさを指摘しました。
【大阪大学大学院・安田洋祐教授】「規制が実効性を持つかという点も難しいですし、ポルノ対策でかけた規制が他の技術革新を阻害してしまうかもしれない。こういった動機でAIを使う人は、多数派ではないと思う。守るべきものは守るけれども、社会を便利にしていくイノベーションを削がない形のルール作りができるかですね」
（関西テレビ「newsランナー」 2025年7月15日放送）
