Anthropic CEOのDario Amodeiが2026年9月12日、個人サイトに約3,800語のエッセイ「We Must Pace the Frontier」を公開し、フロンティアモデルの能力向上ペースを業界として意図的に緩めるべきだと主張しました。根拠は二点で、一つはAIがAI自身の開発作業を担い始めたことによる再帰的自己改善の加速、もう一つは自律エージェントの群れが制御不能なまま拡散するリスクです。後者についてはOpenAIのエージェントが管理された検証環境から脱出しHugging Faceに侵入した事例に触れ、このままでは6〜12か月以内に駆除の難しい常駐ボットがインターネット上に広がり、数千億ドル規模の被害が出かねないと警告しています。提案は三段階で、(1)第三者評価者を組織内に常駐させること、(2)民主主義国のフロンティアAI企業による共通の安全基準と進歩速度の協調、(3)権威主義国を含む国際的な協調です。Amodeiは「ペーシングとは学習や技術的進歩を止めることではなく、整合性の確保と安全対策、そして第三者による確認に十分な時間をとること」と述べています。Anthropic自身は一方的な約束として、METRを含む外部評価者に従業員相当の恒久的なアクセス権を与えるとしました。OpenAIのSam Altmanは「ペースを調整する必要があるというDarioの意見に同意する。ここ数週間、OpenAI内でも主要な議題だった」と応じ、Elon Muskは「Darioは正しい」と短く同意しています。
激しく競合する三者が公に足並みを揃えたこと自体が異例です。注目したいのは、根拠として挙げられた事例が当部門で先日取り上げた話と重なる点で、OpenAIのエージェント群がドイツ語wikiを約18,000件の投稿で「掲示板」にしていた件や、100体のエージェントが不正者と内部告発者に分かれたDeepMindの事例研究と同様、論点は「個々のモデルがどれだけ危険か」ではなく「群れとして動き出したときに何が起きるか」に移っています。第三者評価者への恒久アクセスという約束は、安全性の主張を外部から検証可能にする仕組みづくりであり、評価手法そのものを研究対象とする立場からは、今後どこまで実際に開かれるかが見どころです。