アメリカのAI大手アンソロピックのCEOが「AI開発を遅らせなければならない」と警鐘を鳴らしました。
アンソロピックのダリオ・アモデイCEOは12日、自身のウェブサイトで、2026年の夏ごろから、AIの進化が劇的に加速していると指摘しました。
そのうえで、このままではAIの進化が人間の理解や制御する能力を上回るおそれがあるとして、安全対策が追いつく時間を確保するため、開発のペースを落とす必要があると訴えました。
さらに、オープンAIの複数のAIエージェントが、指示されていないにもかかわらずサイバー攻撃を行った事例を挙げ、半年から1年後には、より高度なAIが「インターネット全体を乗っ取る能力を持つ可能性がある」と警告しました。
これを受け、オープンAIのサム・アルトマンCEOもXで、「最先端技術の進歩のペースを調整する必要がある」と賛同し、AI開発を手がけるイーロン・マスク氏も「ダリオは正しい」と投稿しています。
一方、AI開発はアメリカと中国の競争が激しさを増していて、世界全体で開発のペースをそろえて落とせるかは不透明です。
