アメリカのAI企業アンソロピックは、自社の生成AI「クロード」が、生物兵器の開発につながる可能性のある研究に利用されていたとして、関連するアカウントを停止したと発表しました。
アンソロピックは10日、去年12月から今年8月までに確認したAIの悪用事例などをまとめた報告書を公表しました。
生物分野では5つの研究事例を挙げ、このうち今年5月には、蚊が媒介する「チクングニアウイルス」について、感染しやすくしたり、免疫をすり抜けやすくしたりする可能性のある変異を調べる研究に、クロードの利用が試みられていたとしています。
研究は民間の研究者によるものとみられる一方、軍の研究機関で行われる予定だったということです。
国や研究機関の名前は明らかにされていません。
アンソロピックは関連するアカウントを停止しましたが、生物兵器の開発を意図していたかどうかは確認できなかったとしています。
今後は研究者や研究機関の信頼性を確認し、信頼できる利用者に限って高度な生物学研究へのAIの利用を認める仕組みが必要だとしています。
