ニュースで報じられることが多くなったチャットGPTなど、最新の「生成系AI」と私たちは、どのように付き合っていけばいいのか？
そんな「生成系AI」について、AIの専門家らで作る人工知能学会が、社会や教育現場、そして研究者に向けてメッセージを4月25日に公表した。
まずは「社会に向けて」。同学会は、生成系AIの基盤となる技術である「大規模生成モデル」について、「アイデアの創造や効率化などの点で極めて有用性の高いAI」としている。
一方で「発展途上の技術であり、社会規範や倫理にそぐわないものを生成する可能性がある」ため、「出力したものを鵜呑みにするといった無条件な受け入れ方をせず」、長所・短所を理解した上で利用することが大切としている。
続いて、「教育の場に対して」。まず「一律な利用の禁止は何も生み出しません」と指摘。その上で「学ぶことへの好奇心や意欲がある場合には積極的に利用すべき」と訴えている。
ただし「答えのみを教えてもらう用途には利用すべきではない」と、活用する場面と禁止する場面を皆で考えることが重要としている。
最後は「研究コミュニティに対して」。同学会は研究者に「野心を持ちつつも節度ある研究開発をすることを希望」しており、「研究者の創造的活動を支援するため」には、生成系AIの「積極的な利用は推奨すべきであると考える」とした。
東大は生成系AIだけで作ったレポートNG
同学会では現在の生成系AIなどを「高い自律性と汎用性を持つ、より完成されたAIに近づく大きな技術的進歩」だとしながら、「問題や限界を社会に伝えることも人工知能学会の重要な社会的役割」だとしている。
一方で、生成系AIについては様々な報道で議論になっていることはご存知だろう。日本では、東京大学が生成系AIだけで作ったレポートはNGと宣言。鳥取県の平井知事は定例会見で、業務での使用を禁止する考えを示している。
（参考記事:「生成系AIのみのレポートはNG」東大がチャットGPTへの見解を公表…理由と“付き合い方”を副学長に聞いた）
AI開発を抑えると逆にリスクが高くなり本末転倒
新しい技術の生成系AIの扱いについては、まだ全面的にOKとはなっていないところが多いようだ。そんな中で同学会が今メッセージを発表したのはなぜなのだろう？またAIが人間の知能を超えるシンギュラリティが起こる可能性はあるのか？
人工知能学会の担当者に聞いた。
――メッセージを発表したのは、生成系AIのマイナスイメージを伝える報道が出たから？
はい。AIの中身を理解せずにネガティブな情報を発信することがAI開発にブレーキをかけることは、かえってリスクを高めるという意味で本末転倒であり、研究開発することの重要性を社会に発信する必要性を感じました。
――メッセージに込めた思いを教えて。
AIを研究開発する立場ならではのメッセージを発信する必要があると考えました。EUなど、開発に慎重な意見も多く見受けられますが、AIに対するしっかりした理解をせずに、なんとなく聞いたレベルでの、社会的影響力の強い人々によるネガティブな発言も散見されます。
開発を止めることはデメリットしかなく、研究開発を進めつつ問題を解決しつつAIの積極的な活用を進めるべきだと考えます。
道具はその使い方を知らなければ有効活用できません。正しい倫理感を持って道具を使うことは当たり前だと思います。AIに対しても同様です。道具のこと最低限理解し、道具に使われるのではなく、正しく道具を使うためのリテラシーを身につけた上で利活用するといった対応をお願いしたいと思います。
――メッセージにはどんな狙いがある？
AIのような技術は、やってみないと分からないことが多く、失敗することを恐れて開発を止めてしまうと、それは未来に向かっての前進を止めることになってしまいます。また、仮に我々（日本やEU）が開発を止めたとしても、他国は着々を開発を進め、AI後進国になることのデメリットへの懸念もあります。
AIが100%正しい答えを出すのは難しい
――生成系AIの「限界」とはどういうこと？
いわゆる生成AIが間違うとか、嘘を言うという問題です。生成AI自体は単にもっともらしい回答をしているだけであり、嘘を言うという意識など持ってはいません。無論、正確性を技術的に向上させる取り組みは必要ですが、100％となることは難しいです。
ただ、我々が検索したからといって100％正しい情報にたどり着いているかと言われれば、そのようなことはなく、いずれは生成AIの回答の方がよほど正しい回答を返すようになるとは思います。
――生成系AIの品質・安全性を評価する方法はある？
予め答えの分かっている質問を大量に行って正解率を調べる方法や、人が使って評価する方法が考えられます。
――生成系AIの「仕組みや長所・短所」を理解するための情報は十分提供されているの？
しっかりとした情報の掲載されているWebサイト等は多数ありますが、ここを見ればよいといった明確なものはなく、分かりやすく整理して信頼のおける行政のWebサイト等で公開する必要性を感じます。
「シンギュラリティ」が起こる可能性は？
――教育の場で、生成系AIを「禁止する場面」「活用する場面」とはどういうもの？
初等教育では文脈を理解する、読解力、共感力、感性、基礎的計算力など、脳を鍛える重要な時期であり、このような時期での生成モデルの利用は適さないと思います。デジタル機器を利用するための倫理・基礎的リテラシーを学ぶことは必要でしょう。
一方、学ぶことの目的や好奇心が芽生えてきた時期においては、自ら調べたりまとめたりする作業にAIを利用するメリットは大きいと思います。
――AIが人間の知能を超える「シンギュラリティ」が起こる可能性は？
現在の道具型のAIにおいてはシンギュラリティは起きません。自ら考え、能動的に動作する、高い自律性と汎用性、そして、進化のように自らをアップデートできるAIが実現された際には起こる可能性はあると思います。
生成系AIはまだまだこれからの技術で、利用する側も手探りな面もあるだろう。そんな中で人工知能学会がメッセージを出したことで、少しはイメージが変わっただろうか。
これからAIはどんな未来を見せてくれるのか、その進化の過程では利用する側も理解を深めていかなければならない。
