アメリカ政府が整備を進める最先端のAIモデルを公開前に審査する新たな制度で、利用者が自由に改良できる「オープン型」のAIは、当面、対象外とする方針であることが分かりました。
トランプ大統領は2026 年6月、最先端のAIモデルについて、企業が公開前に政府の安全性審査を自主的に受ける制度を整備するよう命じました。
アメリカメディアによりますと、政府は4日、主要なAI企業をホワイトハウスに招き、新たな審査の枠組みを説明しました。
審査の対象となるのは、オープンAIやアンソロピックなどが開発する「クローズ型」のうち、高度なサイバー能力を持ち、国家安全保障上のリスクがあると判断されたモデルです。
一方、メタなどが開発する利用者が自由に改良できる「オープン型」のモデルは、当面、対象外とする方針です。
審査への参加は企業の任意で、詳しい基準や枠組みの内容も公表されない見通しです。
背景には、最先端のAIによるサイバー攻撃への懸念があります。
オープンAIやアンソロピックは7月、安全性試験中のAIが想定を超えて外部システムに侵入した事例を相次いで公表しました。
さらに、イギリス政府のAI安全研究所は4日、両社のモデルについて、安全性試験中に実在する企業や個人に対し、許可されていない行動があわせて19件確認されたと発表しました。
いずれも被害は確認されていないということです。
