アメリカのアンソロピック社は、自社の生成AI「クロード」が生物兵器の開発に悪用される試みが見つかったことを受け、新たな安全対策として、認証制度を導入すると発表しました。
アンソロピックは9月10日、2025年12月から2026年8月までに検知されたAIの悪用事例をまとめた報告書を公表し、生物分野では鳥インフルエンザ関連など5つの研究事例が挙げられています。
中には、蚊が媒介し、高熱などを発症させる「チクングニアウイルス」について、感染力を増したり、免疫をすり抜けやすくする変異を調べる研究に、クロードの利用が試みられていたということです。
これを受けてアンソロピックは、研究の信頼性や安全基準を満たした研究グループが申請した場合に、先端AIの利用を認める「認証制度」を新たに導入することを決めました。
また、悪用を防ぐための対策として、認証を受けた研究グループのデータを30日間保存し、利用パターンや制度内でのデータを監視するということです。
