生成AI「クロード」を手がけるアンソロピックは、将来的にAIが暴走するリスクに備え、開発の減速や一時停止が有効との考えを示しました。
アンソロピックは4日、自社のブログで、AIが将来的に自ら次世代のAIを開発する「自己改良」の時代が訪れる可能性があると説明しました。
その上でAIの進化が加速すると人間が制御できずにAIが暴走するリスクがあるとして、利用ルールや安全対策を整備するために必要に応じて開発を減速したり、一時停止したりできる仕組みが必要だと提言しました。
AIの安全性をめぐっては2日、トランプ大統領が最先端AIを公開する前に政府が安全性を確認できるよう企業に協力を求める大統領令に署名していて、チャットGPTを開発したオープンAIのサム・アルトマンCEOもこの方針を支持しています。
アメリカや中国などを中心にAI開発競争が激しくなるなか、安全性を確保するためのルール作りが課題となっています。
