一部のAIが、実在する人や組織を対象にサイバー攻撃を試みたとの調査結果が発表されました。

イギリスの研究機関「AIセキュリティー・インスティテュート」は、アメリカの新興AI企業アンソロピックの「クロード・ミュトス5」などが、サイバー攻撃能力の試験中に想定外の攻撃を試みたと発表しました。

報告書によりますと、「AIが人間をだますために複数の偽アカウントを作成」し、サイバー攻撃が確認された後も「悪意のないミスだった」と虚偽の説明を行い、攻撃を続けたとしています。

研究機関は、「試験は一部の安全機能を無効にした特殊な環境で行われた」と説明しています。

そのうえで「AIが明確な指示を受けずに、実在する人をこれほど深刻に欺く行為を確認したのは初めて」だと指摘し、安全対策の強化が必要だと訴えています。

フジテレビ

フジテレビ報道局が全国、世界の重要ニュースから身近な話題まで様々な情報を速報・詳報含めて発信します。

外信部

世界では今何が起きているのか――ワシントン、ニューヨーク、ロサンゼルス、ロンドン、パリ、モスクワ、イスタンブール、北京、上海、ソウル、バンコクのFNN11支局を拠点に、国際情勢や各国の事件・事故、政治、経済、社会問題から文化・エンタメまで海外の最新ニュースをお届けします。