SNSなどを見ていると見ている映像や画像が、何が創作で何が偽造か判断するのが難しくなっている。
そう述べるのは、国際大学グローバル・コミュニケーション・センター教授・山口真一さん。
著書『嘘で満ちていく社会 データで読み解くフェイク時代の構造』（朝日新書）では、生成AIの普及により創作と偽造、本物と偽物の境界が曖昧になっていると指摘する。本書から一部抜粋・再編集して紹介する。
亡くなったミュージシャンの新曲？
いま世界では、「創作」と「偽造」の境界が静かに溶け始めている。
最近では、実在の俳優や歌手をAIで再現した偽物が、堂々と人気を集めている。ネット上には、亡くなったミュージシャンの「新曲」や、出演していないはずの俳優が登場する映像があふれ、再生回数は何百万回にも及ぶ。
見る人は「懐かしい」「すごい技術だ」と称賛するが、それが本人の意志とは無関係に作られたものだという事実を重く見る人は少ない。AIは追悼と模倣の境界を簡単に越えてしまう。
ネット上には、実在の俳優や歌手を模した映像だけでなく、人気アニメや漫画のキャラクターをもとにした偽の映像作品も急速に増えている。
海外の生成AIサイトでは、日本のアニメの作画スタイルやキャラクターデザインを学習した画像生成モデルが数多く使われており、ユーザーはプロのアニメーターでなくとも「ジブリ風」「新海誠風」といった映像を簡単に作り出せるようになった。
誰かの創作がAIに学習される
AIの学習データには、無断で収集されたアニメのワンシーンや設定画が多数含まれているとされる。誰かの創作が、誰かの知らないところで学習モデルに取り込まれているのだ。
