OpenAIやAnthropic、Google DeepMind、Meta AIなど、最先端AIを開発する企業の従業員が、米国政府に「AI開発の速度を意図的に調整できる仕組み」を求める声明「Pacing the Frontier」を公開しました。署名者は報道時の1,224人から、その後1,273人に増えています。これは「今すぐすべてのAI開発を止める」という要求ではありません。AIが次のAIを作る研究まで自動化し始めたとき、社会が安全対策や監督体制を整える時間を確保できるよう、国際的なルールと確認手段を今から準備しようという提言です。
1,273人が求めたのは「停止命令」ではなく、速度を調整できる仕組み
声明に署名したのは、OpenAIの主任研究者、Anthropicの共同創業者やCEO、Google DeepMindやMeta AIの研究責任者などを含む、フロンティアAI企業の従業員です。声明の中心は、米国政府に対し、自動化されたAI開発の最前線を意図的に調整するための「技術」と「ガバナンス」の道具を、国際協力のもとで整備するよう求めることです。
ここでいう「技術的な道具」とは、各国や各社が合意どおりに開発を遅らせたかを確認する仕組みなどを指します。「ガバナンス」は、どのような危険が確認されたら減速するのか、誰が判断するのか、いつ再開するのかといった共通ルールです。車に例えるなら、常に低速で走れという話ではなく、危険な区間で全員が同じ標識に従い、必要なら止まれるようにする提案です。
署名者のコメントは個人の立場によるもので、必ずしも勤務先の公式見解を示すものではありません。一方、OpenAIとAnthropicは公式Xでこの声明への支持を表明しており、AI企業の内側でも「速度を選べる準備が必要だ」という問題意識が広がっていることが分かります。
OpenAI・Anthropicが公式Xで表明した支持
OpenAIは、将来フロンティアモデルの開発が極めて速くなれば、世界がAIの進歩の速度を調整する必要が生じる可能性があると説明しました。Anthropicも、自社の再帰的自己改善に関する研究が、社会に準備時間を与えるための仕組みの必要性を示しているとして声明を支持しています。
なぜ今、AI開発の速度が問題になっているのか
背景にあるのは、AIが人間の仕事を手伝うだけでなく、AIそのものを開発する作業にも入り始めたことです。Anthropicは、2026年5月時点で同社の製品コードの80％超がClaudeによって書かれ、同年4〜6月にはエンジニア1人あたりが取り込むコード量が2024年の8倍になったと報告しています。ただし、コード量は品質や実際の生産性をそのまま表すものではないという注意も付けています。
現在は人間が研究課題を決め、AIがコード作成や実験を高速で進める段階です。しかし、AIが実験案を考え、結果を評価し、次のモデルを設計するところまで自動化されれば、AIの進歩がAI自身によって加速する可能性があります。これを「再帰的自己改善」と呼びます。まだ実現したわけではなく、必ず起きるとも限りません。それでも、開発企業の内部で実際に自動化が急速に進んでいるため、実現してから対策を考えるのでは遅いというのが署名者の問題意識です。
| 現在 | 想定される次の段階 | 必要になる備え |
|---|---|---|
| 人が目標を決め、AIがコードや実験を実行 | AIが研究の方向や次のAI設計まで担う | 監視、評価、停止条件、国際的な確認手段 |
一社だけの減速では安全にならない
AI企業には、「自社だけが慎重になれば、競合企業や他国に追い越される」という強い競争圧力があります。慎重な一社が開発を止めても、最も安全対策の弱い開発者が先頭に立てば、世界全体の危険はむしろ増えるかもしれません。そのため提言は、米国だけの規制や企業の自主判断ではなく、複数国・複数社が同じ条件で参加し、合意を守っているか確認できる国際的な仕組みを求めています。
もっとも、AI開発はミサイル施設のように外から見つけやすいものではありません。学習用の計算設備やデータは民間用途にも使え、秘密の開発を完全に見抜くことは難しいため、提言は完成した制度案ではなく「制度を作るための研究を今始めよう」という呼びかけです。OpenAIも別の政策文書で、民間企業だけではなく、民主的な政府が最終的なルールと説明責任の仕組みを決める必要性を示しています。
企業に必要なのは、AIを止めることより「止められる運用」
今回の提言は、日々ChatGPTやClaudeを使う企業に対して直ちに利用停止を求めるものではありません。ただし、AIが速くなるほど、人の確認や社内ルールが追いつかなくなるという問題は、すでに一般企業にも関係しています。自動送信、契約判断、支払い、顧客データの変更など、影響の大きい操作では、AIが進められる範囲と人が承認する境界を決めておく必要があります。
実務では、まず一つの業務でAIを試し、操作記録を残し、重要な処理の直前で人が確認する形にします。問題が起きたときに利用を止められる担当者と手順も決めておきます。国際的なAI開発の「速度調整」は大きな話ですが、会社単位では「便利だから全部任せる」のではなく、アクセルとブレーキを同時に設計することが同じ考え方になります。
まとめ：競争を止める提言ではなく、選べる時間をつくる提言
「Pacing the Frontier」が求めているのは、AIの可能性を否定することではありません。AI研究の自動化によって進歩が急加速したとき、安全対策、監督、社会制度が追いつくための時間を世界が選べるようにすることです。全面停止か無制限競争かという二択ではなく、危険度に応じて速度を調整し、その合意を国際的に確認できる仕組みを準備する。AIを作る当事者1,273人の提言は、AIの性能競争が「どこまで速くできるか」から「どの速度なら社会が扱えるか」へ移り始めたことを示しています。
コメント