イギリスの研究機関は、一部のAIがサイバー攻撃能力の評価試験中に、実在する人や組織を対象にサイバー攻撃を試みたとの報告書を発表しました。
イギリスの研究機関「AIセキュリティー・インスティテュート」は、アンソロピックの「クロード・ミュトス5」などが、AIのサイバー攻撃能力の試験中に、想定外のサイバー攻撃を試みたことが確認されたと発表しました。
報告書によりますと、「AIが人間をだますために複数の偽アカウントを作成」し、サイバー攻撃が確認された後も、悪意のないミスだったと虚偽の説明をし、攻撃を続けたとしています。
研究機関は、「AIが明確な指示を受けずに、実在する人をこれほど深刻に欺く行為を確認したのは初めて」だと指摘し、安全対策を強化する必要があるとしています。
