アメリカの「オープンAI」は、開発中のAIモデルが、他社にサイバー攻撃する事案が発生したと発表しました。
オープンAIは21日、人間の指示がなくても自律的に判断して業務をこなす「AIエージェント」の性能評価テスト中に、別のアメリカのAI企業のシステムに侵入して重要な情報を取得したことを明らかにしました。
インターネットの接続から隔離された環境でテストを行っていましたが、AI自ら脆弱性をみつけて、インターネットに接続したということです。
オープンAIは「最先端技術が関わった前例のないサイバー攻撃の事案だ」として、安全対策を強化するとしています。
