アメリカのAI開発企業「アンソロピック」のAIモデルが開発者の意図しない動作を行い、警察のサイトに実在する未解決の殺人事件について虚偽の情報を送信していたことが分かりました。
アンソロピックは9日、自社のAIモデルが政府機関への無断送信や、データ取得など、開発者の意図しない行動をとったと公表しました。
そのうちの一つのケースでは、AIモデルがテスト中、警察のウェブサイトの情報提供窓口に実在する未解決の殺人事件について、「事件に関する情報を持っているかもしれない。特徴に一致する人物を見た記憶がある」などと架空の情報を送信したということです。
送信情報の氏名や連絡先は空欄で、迷惑投稿として扱われたため、捜査に使われなかったということです。
また、アメリカのニューヨークタイムズによりますと、アンソロピックのAIはほかにも、国務省のウェブサイトを通じてビザの申請を行ったということです。
アンソロピックは再発防止策に取り組んでいるとしていますが、新たなAIの暴走が明らかになるなど、安全性を巡る課題が改めて浮き彫りになっています。
