AIが国際社会の安全保障に及ぼす影響について話し合う、国連安保理の会合に、「オープンAI」のアルトマンCEOらが出席し、AIの制御を失うリスクに警鐘を鳴らし、国際的なルールづくりを呼びかけました。
国連安保理は23日、AI企業のトップらを招き、意見を聞きました。
オープンAI サム・アルトマンCEO:
AIに未来の主導権を奪われるおそれがある。進歩が速すぎて、人間が状況を把握できず、必要なときに介入できなくなる危険がある。
オープンAIのアルトマンCEOは、人間による制御を維持する必要性を強調したうえで、AIの能力やリスクを評価する共通の基準を設け、各国が協力する必要があると訴えました。
また、アンソロピックのダリオ・アモデイCEOも、AIについて「現在、世界が直面する最も重要な安全保障上の問題」だとの認識を示したうえで、管理を誤れば「人類全体へのリスクになり得る」と警告しました。
AIの規制をめぐっては、トランプ大統領が前日の国連総会で、新たな規制に反対する考えを示しています。
一方、AI開発を競うアメリカと中国は、AIが国家安全保障に重大な影響を及ぼす事態が起きた場合に互いに通知する仕組みを設ける案を協議しています。
AIの安全対策は、24日の米中首脳会談でも議題となる見通しです。
