今、世の中をにぎわせている「生成AI」なるテクノロジー。
今年4月には生成AIの代表格「ChatGPT」を開発するOpen AI社のサム・アルトマンCEOが岸田首相と会談。AI技術に関する意見交換を行った。
一方でアメリカ・ハリウッドでは、俳優や脚本家たちが生成AIから自分の権利を守るためにストライキを敢行。
AIに仕事を奪われるのでは…という懸念が広がっている。
生成AIによって未来のメディアはどうなるのか、そして注意すべきこととは。
デジタルハリウッド大学大学院客員教授・白井暁彦さんとKDDI総合研究所・小林雅一さんが「進化する生成AI、メディアの活用と問題点」について語った。
「認識AI」と「生成AI」との違いとは？
――「AI」は人工知能と分かるんですが、「生成AI」とは「AI」と、どう違うのでしょうか。
小林雅一さん：
ここ10年ぐらいは「ディープラーニング」というのがAIの主流だった。大量のデータを分析して、「これからの動向を予測」するために使われてきたんです。
「生成AI」というのもディープラーニングを使っていますが、予測というよりも「新しいコンテンツを作る」ために使われる。
コンテンツというのは例えばテキスト、文章や画像のようなコンテンツ。
そういうものを作るためのAIが「生成AI」です。
白井暁彦さん：
（認証AIは）例えば「顔認証」みたいな形で私の顔であることを認識して、「正解です」と言って通してくれる。そういう認識が中心であった。
一方で「生成AI」は、人間じゃなければできないと言われていたような、想像力やまだ存在しないものなどを推論して、それらしいものを作ってくれるというところが、大きな特徴になっています。
実際にストーリーを生成「ChatGPT」とは
――「生成AI」の中でも最も有名といわれる「ChatGPT」。改めて「ChatGPT」とは何でしょうか。
小林さん：
人間とも自然な会話ができるAIです。
単に会話するだけではなく、例えば「レポートを作って下さい」「返事をしにくいメールを書いて下さい」など、仕事を助けてくれるアシスタントみたいな役割も期待できる。
また、小説などを書かせることもできます。
――それでは、実際に「生成AI」を使って生成していこうと思います。
「渡辺和洋アナウンサーを主人公にひと夏の冒険のストーリーを考えて下さい」とし、「ChatGPT」が5部構成の渡辺アナウンサーの冒険ストーリーを作った。
タイトルは「夏の青春探検者 ～渡辺和洋の夏休み～」で、第一章：新たな世界の扉、第二章：自然との対話、第三章：共に成長する仲間たち、第四章：未知の領域への挑戦、そして結末：成長と新たな決意、だ。
旅に出た渡辺アナウンサーが、自然やさまざまな人々と触れ合うことによって成長を遂げる物語となっている。
――「冒険の最後に和洋は過去に自分が敬遠していたことに挑戦します。それは水泳が苦手だったことです」と書いてあります。
渡辺和洋アナウンサー：
すごい、合っている！僕、泳げないんですよ。何で僕が水泳苦手なことを知っているのか…。
小林さん：
いろんなデータを学習されたのかもしれないですね。
――水泳が苦手だと、どこかで話したことは。
渡辺アナウンサー：
水泳が苦手で、番組で（元競泳選手の）千葉すずさんに水泳を習ったことがあるんです。
小林さん：
そのデータが使われたんですね。
質問やリクエストも、このAIのトレーニングに使われているが、それはまた情報セキュリティーの面で問題もある。
例えば会社の機密情報などをうっかり質問として出ちゃうと、それがAIを通じて外に漏れてしまうなど、そういう危険性も指摘されている。
白井さん：
利用規約を丁寧に読むと「ChatGPTはその情報を学習に使いますよ」と書いてあるので、例えば個人情報やお客様の情報、売り上げ、そういったものは入れない方がいいですね。
ビジュアルを実際に生成「Adobe Firefly」とは
Adobeの「Adobe Firefly」。
テキストを入力することで、画像の作成などを行うことができるという。
「Adobe Firefly」で、例えば「帽子をかぶった犬」など、作りたい画像の説明文を入れる。
そして生成を開始すると、帽子をかぶった犬の画像ができあがる。
――あるものが出てきたのではなくて、作ったということですか。
小林さん：
それこそ何十億枚というような、いろんな人が描いた画像、イラストレーターや画家が描いた画像を学習した結果に基づいて、新しいものを作り出しているという形です。
――そうすると同じ質問をしたとしても違うイラストが出てくるのでしょうか。
小林さん：
そういうことです。同じ質問を何度入れても違うものが出てきます。
――例えば「ワンピースのキャラクターで」とすると、できちゃうものなんですか。
白井さん：
その通りです。ただし利用規約上では明確に禁じられています。
例えば「ディズニー」や「ミッキー」「ワンピース」など、そういった商標があるようなもので、言葉から画像を生成するというのは利用規約上禁止されています。
「Adobe Firefly」の場合は「Adobe Stock」というストック画像があり、権利的には写真家やイラストレーターから「素材画像として使っていいよ、その代わりちゃんとお金もらうからね」という契約に基づいたものを使って学習させて作っています。
あるはずない景色が出現！フェイクニュースの懸念も
同じく「Adobe Firefly」を利用して、新美有加アナウンサーがロケ時に撮影した画像をもとに“生成”を試みてみた。
池のほとりで縦長で撮られた写真を、横長の写真に変えるため、両サイドの白い部分を生成する。
30秒待つと、白い部分にあるはずのないリアルな景色ができあがった。
小林さん：
これは推測して作っているんです。
――推測なんですか！？
白井さん：
手前の柵や、木も松なのか原生林なのかみたいなところが、樹木の中でもかなり細かく先ほどの犬と同じように、「こういう表面ですよね」「こういう木の生え方ですよね」みたいなように。
小林さん：
過去の大量のデータに基づいて、“こういう写真だったらこの周りはこういうことになるだろう”ということを予想して作っちゃうわけです。
新美有加アナウンサー：
ここにいた時には左側はこんなに池は広くなかったなと…。
――そういうことが起きるんですね。これをまるで事実のようにインタネーットにのせてしまうと、また問題が起きますよね。
小林さん：
それはもう大変な問題だとみられていて、要するにフェイクニュースですね。
実際にそういうことが起きはじめています。
今年の春ぐらいにアメリカの国防総省付近で爆破事件があったという画像がニュースで流れていたのですが、それがどうやら画像生成AIを使って作った偽の画像だった。リアルな問題として顕在化しているので、これから気をつけないといけないです。
白井さん：
「Adobe Firefly」の場合は生成した履歴や、画像では見えてこないけれども、透かしであったり、ファイルの細かい情報に生成した日付や、どういうキーワードで生成したとか、どういった画像が使われたかというものは埋め込まれるので、商品として出ている。
芸術的な絵を簡単に作成「Stable Diffusion」とは
「Stable Diffusion」も画像を生成するAIのひとつ。
「Stable Diffusion」の白いキャンバスに鳥の絵を描き、内容を書き込んで生成すると、とても芸術的な絵になった。
白井さん：
はじめはランダムで、できています。ほぼサイコロをふったりするような要素がありますが、右上はアーティスティック、左下はかわいいですね、レイアウトにすごく沿っています。
この技術は左上にあるイラストのレイアウトを学習したり、描かれているものが何であるかということを理解して、そこに先ほどのキーワードとして与えた「これはBIRDです」という説明で、「これはBIRD、これはBIRD」とAIが理解し、解像度をどんどん上げていく「超解像技術」という技術を使っていて、気がつくとこのような、いろんな鳥の絵のスタイルに分かれていく。
今までのAI技術はだいたい大きな企業が抱えこんでいました。
それがイギリスの「Stability AI」という会社が中心になって、「みんなのために、みんなにリリースします」と言って、タダで再利用できるような形で公開したので、世界中の人たちがそれを使っていろんなアプリケーションを作り始めています。
あとは我々のような研究者が作っていたオモチャっぽいものも、どんどんサービスになったり、実験的に使われています。
――どこまで信用していいのか、見る側は何をどうすればいいんでしょうか。
小林さん：
それは本当に大変な問題なんです。
――生成AIか本物かのファクトチェックは、そんなすぐできるものではないのですか。
小林さん：
特にアメリカで今、ものすごく心配されていて、これから大統領選が始まるじゃないですか。
共和党と民主党の候補の間で、例えば相手の候補のスキャンダルのニュース映像をでっち上げて、「これは本当にあいつが悪いことをやったんだ」ということで、仮にテレビで流してしまったら、それはもう投票活動にすごく影響します。
AIと著作権について
――文化庁が6月に生成AIに関して「AIと著作権」というセミナーを開きました。
そこで「著作権は『思想または感情を創作的に表現した』著作物を保護するもので、単なるデータ（事実）やアイデア（作風・画風など）は含まれない。類似性と依拠性が認められれば著作権侵害」という話が出たということです。
白井さん：
「思想または感情を創作的に表現した」というところがポイントです。
つまりデータやアイデア、もしくはその画風みたいなものは（著作権に）含まれないという。もともと、そう言われていたんですけども、これは名言していただいたということですね。
それから「類似性・依拠性」というところでいうと、例えば鳥山明さん原作の「ドラゴンボール」など、ちゃんと商標権があり、権利者がいるものに、偶然似てしまいました、という場合。
「ドラゴンボール」という言葉を使わずに、例えば「アジア風で髪の毛がツンツンしていて、しっぽが生えて筋肉質の…」という説明の場合は、まだ偶然似てしまいました、が通じるとみられます。
しかし、（生成に使うキーワードが）「ドラゴンボール」や「ピカチュウ」「ミッキー」とか、“ソレ（その言葉）”がなければ生まれ得ないもの。それは誰かのビジネスや誰かの権利を侵害しようとしていることじゃないですか、ということで、現行法でもこれはちゃんと裁ける問題であるという判断が出ています。
小林さん：
ハリウッドの脚本家組合はこういった生成AIが使われると、脚本もAIで書かれてしまうので、自分たちの仕事がなくなってしまう。だからやめてくれと映画会社に交渉して、それで交渉が妥結しなかったのでストライキに入ってしまった。
俳優もそうで、自分が出演している作品がAIに学習されると、もう自分が出演しなくてもこれからはAIが自分が出ているような作品を作ることもできてしまう。
そうすると自分に対する仕事が来なくなるし、自分の肖像権や著作権を侵害することになるから、映画会社に対してAIは絶対使わないでと交渉したが妥結しなかったので、またストライキに入った。
白井さん：
先日の新しい著作権法改正では、学習するところは日本では合法なんです。
ここは特に著作権者に許諾を得なくてもやっていいという、世界でも相当珍しい法律になっています。今、現在どこに善悪のラインを引くべきかという部分は、みんなで考えていくべきことだと思っています。
――AIというのは根付いていくと思いますか。
小林さん：
使い方次第では先ほどの撮影現場や製作現場などの仕事の負担を軽減してくれるためにも使われることになるので、今のうちからみんなでよく検討して、一番ベストな使い方をこれから模索していくというのが、必要なんじゃないかなと思います。
白井さん：
例えば先ほどのフェイクニュースでもそうですが、この映像は誰がどういった感情を抱くために作られたものなんだろう。どうやって誰が撮ったんだろう、何のために撮ったんだろうといった、その作り手側のことを考えると、実はこれフェイクじゃないの？とか、これ動画に対していいねとかリツイート（リポスト）することを目的としているんじゃないの、とか。どこで線引き、どこに善悪を持っているのかが、より問われています。
その中でこの生成AIは、そのことを新しく考えるチャンスをくれていますし、会社なり組織なり、もしくは家族の話題などで、もしこういう技術があったら何に使う？みたいな話でぜひ楽しんで、生成AIと人類の進化を楽しんでいければなと思います。
（週刊フジテレビ批評」8月26日放送より 聞き手：渡辺和洋アナウンサー、新美有加アナウンサー）
