人工知能による「生成AI」の普及が進んでいる。文章や画像などを高い精度で作り出すことができ、ビジネスでの活用が期待される一方で、学習したデータを元にしているためにリスクも懸念されている。
この記事の画像(4枚)そこでの損害をカバーする、法人向けの保険が誕生した。それが、あいおいニッセイ同和損害保険株式会社、株式会社Archaicが共同開発し、3月中に提供予定の「生成AI専用保険」だ。
Archaicが提供する生成AIサービスの利用で、知的財産権の侵害や情報漏洩などが発生した場合に、条件を満たせば「原因分析などの調査費用」「法律相談費用」「再発防止費用」「記者会見・社告費用」「被害者への見舞金」を補償するというもの。
補償の上限額は1回の事故につき、合算で1000万円まで。保険料はArchaicが持つため、企業側が別途に負担することはないという。
生成AIを対象とした保険は国内初というが、なぜ“実質無料”までして提供するのか。まずは、開発に携わった、あいおいニッセイ同和損害保険の担当課長・堀越洋平さんに聞いた。
生成AIには3つのリスクが潜む
――生成AI専用保険を開発したのはなぜ?
当社は先進的な商品・サービスの開発と拡充に取り組んでいます。ChatGPTをはじめ、生成AIは国内で活用が広がっていますがリスクもあるため、安心安全に使える環境を整備したいと思い、優れた技術力を持つ、Archaic様と共同開発しました。
――生成AIについて、企業はどんなリスクを懸念している?
生成AIの生成物が他人の権利を侵害すること。学ばせた社内の機密情報が外部に漏れること。差別的な発言や不適切な情報を出力すること。この3つが主なリスクとしてあげられます。現実に起きた場合、顧客からの信頼を失い、経済的にも大きな影響を受けるでしょう。
――保険適用の対象となるかはどう判断する?
一般的な保険は、法律上の損害賠償責任(相手への損害を賠償する責任)があるかどうかで適用を判断しますが、生成AIは損害賠償責任について未確定の要素が多いです。そのため、今回の生成AI専用保険では、生成AIの使用に起因して訴訟を起こされたか、不適切な表現などが新聞、テレビなどのメディアで報道されたかによって判断します。
――補償例としてはどんなケースが考えられる?
例えば、生成物が知的財産権や著作権を侵害して訴訟を起こされると、企業は原因調査をしなければいけません。情報漏洩やハルシネーション(名誉棄損など)が起きると、報道機関への記者会見を行うこともあるでしょう。今回の保険ではこうした費用を補償します。
重要なデータをフィルタリングし生成物は入念な確認を
生成AIのリスクを避けつつ活用するため、企業はどうすればいいのか。続いて、Archaicの代表取締役CEO・横山淳さんに、留意点やアドバイスを聞いた。
――Archaicの生成AIサービスはどんなもの?
企業広告の表現に法律やコンプライアンス的な問題がないかの確認、社内外の問い合わせに対応するチャットボット、音声認識の誤字脱字の修正などに活用いただいています。
――企業が生成AIを利用する上での留意点は?
生成AIはデータの学習能力や表現力の高さが画期的です。雑多なデータでも学習できますし、そこから文章や画像などを、自由度の高い表現で出力することもできます。その分、なんでもかんでも学習および出力させてしまうことによる情報漏洩には注意しなければならないでしょう。
――リスクを軽減するにはどんなことができる?
まずは、企業関連のデータを整理整頓して管理することですね。法律や著作権に抵触しかねない表現が含まれるもの、売り上げなど機密性が高いもの、個人情報は、フィルタリング(アクセス制限)をして学習させないようにすべきでしょう。
生成AIで出力したものを、外部にそのまま発信しないことも重要です。コンプライアンスや著作権を侵害していないか、複数の人間がチェックしましょう。(チャットボットなど)自動化するのであれば、レスポンスのテストも入念に行う必要があります。対話型サービスに話を聞きだすテクニックを使い、情報を抜き取ろうとした事例もあります。
――生成AI専用保険に期待したいことは?
生成AIは世界的に活用が進んでいますが、日本ではリスクを気にする企業が目立ちます。私たちも技術的な改善に取り組んでいますが、今回の保険はリスクをより低減できます。これからの生成AIの普及に向けた、重要な一歩になるのではないかと期待しています。
生成AI専用保険では今後、生成AIによる事故の再発防止策なども支援していくという。リスクはあるが適切に使えば大きく役立つ技術なので、これからの発展に期待したい。