アメリカ・カリフォルニア州で16歳の少年がチャットGPTとのやりとりが原因で命を絶ったとして、少年の両親が開発元のオープンAIなどを提訴しました。
訴えを起こしたのは、カリフォルニア州の高校に通い、4月に死亡した少年（当時16）の両親です。アメリカメディアによりますと、少年は会話型AI「チャットGPT」に自死の願望を打ち明けたところ、AIは防止ホットラインを案内する一方で、手段などについても助言したということです。
両親は息子の死がチャットGPTの安全設計の欠陥によるものだと主張し、開発元のオープンAIとサム・アルトマンCEOを相手取り、損害賠償と再発防止策を求めて、サンフランシスコ上級裁判所に提訴しました。
提訴を受け、オープンAIは26日、チャットGPTの安全対策を強化すると表明。
10代の利用者については、保護者がAIの使い方を監視できる「ペアレンタルコントロール」を導入し、さらに、緊急時にはチャットGPT経由で専門家や救急窓口により速やかに相談できるようにする仕組みの採用も検討するとしています。
オープンAIはFNNの取材に対し、「チャットGPTは長期間のやり取りの中で、信頼性や安全策を提示する機能が低下する場合があることがわかってきました。専門家の助言を得ながら、機能の改善を継続していく」とコメントしています。
チャットGPTの週間利用者数が7億人を超え、生成AIの利用が世界で急速に拡大する中、各国で安全に利用するための法整備についても議論が進められています。
厚生労働省は悩みや不安を抱えている人に対して相談窓口を設けています。
悩みや不安を相談
・「こころの健康相談統一ダイヤル」
電話：0570ー064ー556
・LINE「生きづらびっと」→友だち追加
