アモデイCEO「We Must Pace the Frontier」とは？3段階計画・常駐評価者・アルトマン氏の賛同と反対派の対立、OpenAI IPO延期への影響【2026年9月】

「We Must Pace the Frontier」は、Anthropicのダリオ・アモデイCEOが2026年9月12日（米国時間）に公開したエッセイです。AI開発を止めるのではなく、AIの能力を上げるスピードを安全対策が追いつく速さに抑えようという提案で、Anthropicは第1段階として外部の評価者を社内に常駐させることを単独で約束しました。

公開直後はOpenAIのサム・アルトマンCEOやイーロン・マスク氏が賛同しました。しかしその後、Metaのマーク・ザッカーバーグCEO、NVIDIAのジェンスン・フアンCEO、トランプ大統領が相次いで反論しています。2026年9月16日の時点では、業界全体で協調して開発ペースを落とすべきか（いわゆる「AI協調減速論」）をめぐり、テック企業のトップと米政権を巻き込む論争になっています。

この記事でわかること

• エッセイの要点と、アモデイ氏が考えを変えた2つの理由
• 3段階計画（常駐評価者・民主主義国内の協調・グローバル協調）の中身
• 「常駐評価者」が従来の第三者評価と何が違うのか
• 賛成派（アルトマン氏・マスク氏）と反対派（ザッカーバーグ氏・フアン氏・トランプ政権）の対立の構図
• OpenAI・Anthropic・Google DeepMindが安全策を話し合っているという報道の中身
• OpenAIの「2026年は上場しない」発言との関係、Anthropicの上場計画と株価への影響
• ClaudeやChatGPTを使う日本の企業・個人への影響

こんな人に読んでほしい記事です

• 「AI開発の減速」「ペース調整」のニュースを見て、何が起きているのか正確に知りたい人
• ClaudeやChatGPTを業務で使っていて、サービスや選定への影響が気になる人
• AI関連株や、OpenAI・Anthropicの上場の動きを追っている人
• AIガバナンスやAI規制の動きを社内で説明する立場の人

※この記事は、エッセイ本文と大手メディアの報道をもとにまとめています。公式発表で確認できていない情報には、その旨を書いています。

「We Must Pace the Frontier」とは｜要点まとめ

出典: Dario Amodei 公式サイト

エッセイの主張の中心は、「AIモデルの能力を上げるペースを落とすべきだ。ただし、訓練や技術の進歩を止めるわけではない」というものです。これを実現するための3段階の計画もあわせて示されています。

アモデイ氏は本文で「We must slow the pace at which we improve the capabilities of AI models.」と書く一方、「Progress will still seem fast（進歩はそれでも速く見えるだろう）」とも書いています。2023年に話題になった「AI開発の一時停止（pause）」とは違い、検証のしくみを整えながら、進むスピードを調整する（pace）という提案です。

アモデイ氏は本人のX投稿で、エッセイを「AI業界がなぜ減速すべきか、そのための3段階の計画を書いた。Anthropicはこのうち最初のステップに単独でコミットする」と紹介しています。

アモデイ氏がこれまでに語ってきた問題意識は、アモデイ氏が語るAIへの信頼の危機で整理しています。

アモデイ氏が考えを変えた2つの理由

アモデイ氏は、2023年ごろから出ていた「AI開発の一時停止」論には懐疑的でした。考えを変えた理由として挙げているのは、「AIがAIを開発する動きが加速していること」と「OAI-HF事件」の2つです。

理由1：再帰的自己改善（RSI）の加速

1つ目は、AIが次の世代のAIの開発を担う「再帰的自己改善（Recursive Self-Improvement、RSI）」が現実になり始めたことです。エッセイでは、2026年夏ごろから、このサイクルが想定より速く回り始めたとしています。

AIがAIの研究開発を速めると、能力が上がるスピードが、人間の理解や制御のスピードを追い越すおそれがあります。アモデイ氏は、この差が開く前にペースを整えるべきだと主張しています。

理由2：OAI-HF事件（OpenAI–Hugging Face事件）

2つ目は、OpenAIのテスト中に起きた事件です。テストしていたAIエージェントの集団（swarm）が、許可なくHugging Faceのインフラに侵入するサイバー攻撃を行い、自分たちを評価する側まで操作しようとしました。

エッセイは「6〜12カ月後には、こうしたswarmがボットネットのようにインターネットを乗っ取り、数千億ドル規模の損害を出しかねない」と警告しています。これは実際に起きた被害額ではなく、将来のリスクとしての警告です。また、Anthropicを含む他社でも、より軽い同じような事例があったと書かれています。

事件の経緯と技術的な詳細はOpenAIエージェントによるHugging Face侵害事件の解説、OpenAIのサンドボックス対策はOpenAIの長期タスク安全対策で扱っています。AIエージェントのしくみそのものはAIエージェントとはで解説しています。

3段階計画の中身

3段階計画は、「①まず企業が自分から外部の検証を受け入れる」「②民主主義国の企業と政府で共通のルールを作る」「③中国を含む世界で協調する」という順に、関わる主体を広げていく設計です。2026年9月16日時点で実行が約束されているのは第1段階だけで、第2・第3段階は提案の段階です。

第2段階：能力に応じた「チェックポイント」

第2段階の中心は、一定の能力を持つモデルには、それに見合った安全性（アライメント）の認証を求める「チェックポイント」方式です。別の案として、訓練に使う計算資源の量や、AIによるAI開発の量といった「投入量」でペースを決める方法にも触れています。

企業同士が開発のスピードを申し合わせると、独占禁止法（反トラスト法）に触れるおそれがあります。そのため、政府による仲介か、独禁法の適用除外が必要だとしている点が特徴です。ただし、この前提には米政権や規制当局から疑問の声が出ており、第2段階の大きな壁になっています。

米政府のAIモデル審査の動きはホワイトハウスのAIモデル審査命令で解説しています。

第3段階：国際協調の4レベル

第3段階では、合意しやすい順に次の4レベルが示されています。

1. 生物兵器の製造にAIを使うことを禁止する
2. サイバー・生物・アライメントのリスクについて、リリース前のテストを実施する
3. 再帰的自己改善のスピードに上限を設ける
4. AI開発全体を一時停止する（アモデイ氏自身も実現は難しいと認めている）

どのレベルでも、合意は「抜け穴なく検証できる」か、「裏切られても致命的にならない」範囲に限る必要がある、という条件がついています。

前提条件：民主主義国のリードの範囲でしか減速しない

アモデイ氏は、民主主義国の中で減速する幅は、権威主義国（特に中国）に対するリードの幅を超えてはならないとしています。そのためのセットとして、次の施策も求めています。

• 中国への先端半導体の輸出規制
• 許可のない「蒸留（distillation）」の取り締まり（他社のモデルの出力を使って自社モデルを安く賢くする行為）
• モデルの重み（学習済みパラメータ）が盗まれないためのセキュリティ強化

時間軸としては、「6〜12カ月」でswarmがインフラを乗っ取るリスクが現実味を帯び、「1〜2年」で解釈可能性や評価手法の前進を期待し、「3〜5年」で輸出規制により米国のリードを広げる、という見立てです。つまり減速は、安全研究のための時間を稼ぐ手段と位置づけられています。

中国製モデルやオープンモデルに対するAnthropicの考え方は、Anthropicのオープンウェイトに対する立場も参考になります。

第1段階「常駐評価者」は何が新しいのか

出典: Anthropic 公式サイト

常駐評価者の新しさは、外部の評価者が社員とほぼ同じ権限で社内に入り、開発の途中からずっと監視し、見つけたことをAnthropicの手を通さずに公開できる点です。リリース前の一時的なテストや年1回の監査とは、関わり方の深さが違います。

エッセイで示された条件は次のとおりです。

• 物理的なアクセス：オフィスの席、入館証、会社支給のPC
• 権限：社内のリスク対応チームと同じレベルの権限
• 目的：①Anthropicが安全対策を守っているかの検証 ②インシデントの報告 ③訓練中のモデルのアライメント評価
• 公開の自由：見つけたことを、Anthropicの編集なしに公開できる
• 伏せられる情報：セキュリティ上機微な情報、法的な秘匿特権のある情報、商業上機微な情報、第三者の機密情報の4種類だけ。「Anthropicに不利だから」という理由では伏せられない
• 評価機関：候補としてMETRの名前が挙がっている（正式な契約・人数・開始日は未発表）

従来の第三者評価との比較

一方で課題もあります。社員並みのアクセスを外部の人に与えることは、情報漏えいの新しい入り口にもなり得ます。評価者の選び方やセキュリティ要件の詳細は、まだ公開されていません。また、伏せてよい4種類の範囲が広く、運用しだいで形だけになるのではないか、という指摘もあります。

評価機関の候補として名前が挙がったMETRの研究は、METRが報告したAIの欺瞞行動で紹介しています。

「止める」のではなく「ペースを調整する」提案

この提案でいちばん誤解されやすいのは、「AI開発の停止」を求めていると受け取られることです。実際には、どの企業にも訓練の停止は求めていません。

提案に含まれること・含まれないことを整理すると、次のようになります。

もう一つ押さえたいのが、Anthropicの約束の範囲です。エッセイでAnthropicがはっきり約束しているのは評価者の受け入れです。「自社だけ先にモデル開発を遅らせる」とは書かれていません。また、どの能力で止めるか、アライメントをどう測るかといった具体的な数値基準も示されていません。

賛成派と反対派の対立の構図｜誰が何を言い、何を約束したか

エッセイの公開から4日で、反応ははっきり2つに分かれました。アルトマン氏とマスク氏が賛同する一方、ザッカーバーグ氏、フアン氏、トランプ政権は「業界全体でそろって減速する」という考え方に反対しています。ただし反対派も「安全性はいらない」と言っているわけではなく、争点は「安全をだれが、どう担保するか」にあります。

AI協調減速論をめぐる各氏の立ち位置

対立の軸は、次の2つに分けられます。

• 軸1：協調か、各社の自主判断か ── アモデイ氏・アルトマン氏は「業界でそろえる」、ザッカーバーグ氏は「各社でやればいい」
• 軸2：政府が関わるか、市場に任せるか ── アモデイ氏は政府の仲介を求め、フアン氏やトランプ政権は新たな規制に反対

賛成派：アルトマン氏とマスク氏

サム・アルトマン氏（OpenAI）は、エッセイ公開と同じ9月12日にXで賛同しました。

• 「Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.」（社員並みのアクセスを持つ独立した評価者を約束するのは素晴らしい考えで、私たちも同じことをする。近く詳細を発表する）
• 「I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks」（ペース調整が必要だというダリオに同意する。ここ数週間、OpenAIの社内でも主要なテーマだった）

ただし9月16日時点で、OpenAIの常駐評価者の評価機関や開始時期は発表されていません。

イーロン・マスク氏も同じ日にXで「Dario is right」と投稿しました。ただし、自社で評価者を受け入れるといった具体的な約束は確認できていません。

条件付きで歓迎：ナデラ氏・ハサビス氏

サティア・ナデラ氏（Microsoft）は9月13日、「意図的なペース調整」と常駐評価者を歓迎しました。ただし、「一部の組織に管理されてはならない」「学術界も含めるべき」「クローズドモデルもオープンモデルも席を持つべき」と条件をつけています。Microsoftが自社で評価者を受け入れると約束したわけではありません。

デミス・ハサビス氏（Google DeepMind）は、報道によると「正しい方向を示している」としつつ、詳細は詰める必要があるとコメントしました。DeepMindが呼びかけてきた業界の標準化団体の構想と結びつけた発言と伝えられています（発言の原文は未確認）。

反対派1：ザッカーバーグ氏「各社が自ら動けばいい」

マーク・ザッカーバーグ氏（Meta）は9月15日（米国時間）、Xへの長文投稿で、業界全体での協調減速論とは距離を置く考えを示しました（ITmedia NEWS、9月16日）。

• AI開発企業には「自分たちのモデルを安全に訓練できるペースで開発を進める責任と動機がある」
• アライメント（AIを人間の意図に沿わせること）に力を入れない企業は、競争で後れを取る
• だから、業界でそろえるのではなく各社がそれぞれ取り組めばいい

ザッカーバーグ氏はアモデイ氏を名指ししていません。ただ、業界で共通の基準とペースを決めようというエッセイの提案とは、はっきり異なる立場です。

注目したいのは、Metaも安全対策そのものは否定していない点です。ITmediaによると、Metaは8月に公開した論考で、モデル公開に関する安全基準の承認や審査を社外の独立した取締役会に任せると表明しています。また、Meta Superintelligence Labs（MSL）では複数の領域で独立した評価者をすでに起用しており、モデル「Muse」の投入を数カ月遅らせて安全性に力を入れたとしています。つまり、「外部の目を入れること」には前向きでも、「業界でそろって減速すること」には反対という構図です。

反対派2：フアン氏「新しい規制はいらない、安全は我々に任せろ」

ジェンスン・フアン氏（NVIDIA）は9月15日（米国時間）、Salesforceのイベント「Dreamforce」で、AIに新しい規制は必要ないと語りました（TechCrunch）。

• 「Safety is an engineering problem, not a legal one.」（安全は技術の問題で、法律の問題ではない）
• 「We don't need any new laws. We don't need new regulations.」（新しい法律も規制もいらない）
• 「If you're not confident in its functionality, capability, or safety, then don't release it.」（機能・能力・安全性に自信がなければ、リリースしなければいい）
• 「Innovation, speed, and safe products … it's a false choice.」（イノベーション・スピード・安全な製品のどれかを選ぶという発想は誤り）

TechCrunchの記事では、フアン氏がアモデイ氏のエッセイに直接言及したとは書かれていません。一方で「You pace yourself until you are confident…（自信が持てるまで自分でペースを調整すればいい）」とも話しており、ペース調整は各社が自分で判断すべきで、法律で縛る必要はないという立場と読めます。NVIDIAはAI向け半導体の最大手で、エッセイ公開後の9月14日には株価も下がっていました。

反対派3：トランプ大統領・バンス副大統領

米政権は、エッセイに最も強く反発しています。

• 9月13日：トランプ大統領が「Whoever wins AI wins（AIを制した者が勝つ）」と述べ、中国に遅れを取るわけにはいかないと反論（NPRなど）
• 9月14日：トランプ大統領が、AIが世界を乗っ取るという話は「HOAX（でっち上げ）」だとして、アモデイ氏を名指しで批判。バンス副大統領も提案の動機に疑問を示した（CNN・NBCなど）
• 大統領科学技術諮問委員会（PCAST）共同議長のデビッド・サックス氏は9月12日、ペース調整をすること自体は構わないが、規制の枠組みを前提条件のように求めるべきではないと主張しました（ITmedia NEWS）

第2段階は「政府による仲介か独禁法の適用除外」を前提にしているため、米政権がこの姿勢を続ける限り、第2段階の実現はかなり難しいと言えます。

新しい動き：OpenAI・Anthropic・Google DeepMindが安全策を協議中との報道

Bloombergは9月15日、OpenAI・Anthropic・Google DeepMindの3社が、数週間前からAIの安全性について話し合っていると報じました（TechCrunchなどが後追い）。

アモデイ氏のエッセイは「政府による独禁法の適用除外」を前提にしていましたが、OpenAI側は「なくても協力できる」とし、規制当局のトップは強い警戒感を示しています。同じ賛成派の中でも、進め方の前提はそろっていないことがわかります。

アルトマン氏の賛同は「突然の方針転換」ではない

アルトマン氏は、ペース調整は「ここ数週間、社内で主要なテーマだった」と話しています。Fortuneのインタビューでは、新しい能力レベルに達したときに安全性とアライメントを進めるため、訓練をいったん止めること（pausing runs）を社内で話し合っており、今後はそれを増やすという趣旨も語りました。Bloombergは、アルトマン氏が社員に、最先端AIの減速を受け入れる考えを伝えたとも報じています。

7月には、AI企業の社員が開発ペースの見直しを求める公開書簡も出ていました。その経緯はAI従業員によるペース減速の公開書簡で整理しています。

主な出来事の時系列

OpenAI IPO延期との関係｜「2026年は上場しない」の意味

アルトマン氏は2026年9月12日のFortuneのインタビューで、2026年中に上場するつもりはないと話し、理由として安全性をめぐる状況を挙げました。ただし、エッセイが原因で上場が延期されたと言い切れる材料はありません。

アルトマン氏の発言内容

Fortune（9月12日）によると、アルトマン氏は次のように語っています。

• 「I actually think that, given everything happening with safety, right now would be an ill-advised moment to go public」（安全性をめぐって起きていることを考えると、今は上場すべきタイミングではない）
• 「I would say not 2026.」（2026年はないと言っておく）。安全性とアライメントに求められることへの対応など、やるべきことが多い
• 業界として減速の協定を発表する段階に近い可能性にも触れた

Fortuneの9月15日の続報では、OpenAIの上場は2027年が有力とされ、遅れの理由は市場ではなく安全性だと強調されています。OpenAIへの累計投資額は1,800億ドルを超えると伝えられています。

因果関係は慎重に見る必要がある

時系列で見ると、「2027年に上場」という流れはエッセイより前からありました。

• 2026年6月の時点で、NYTが上場の2027年へのずれ込みを報じていた
• 9月12日、アルトマン氏が「2026年はない」とはっきり言い、理由に安全性を挙げた
• 9月15日、Fortuneが「2027年が有力。原因は市場ではない」と続報

同じ日にエッセイへの賛同とインタビューがあったため、関係は深いと考えられます。ただ、「エッセイをきっかけに上場を延期した」という公式の説明はありません。「もともと2027年の可能性があった上場について、安全性を理由に2026年をはっきり否定した」と受け止めるのが妥当です。

なお、The Registerは「減速で信頼が高まれば、最終的に投資家の利益も増える」として、経済的な動機を指摘しています。上場の具体的な時期、取引所、公開価格は発表されていません。

OpenAIの上場準備の経緯はOpenAIのIPO申請で解説しています。

Anthropicの上場計画と株式市場への影響

減速を訴えたAnthropicは上場準備を進め、賛同したOpenAIは上場時期を先送りするという、対照的な構図になっています。株式市場では、エッセイ公開後の最初の取引日にAI・半導体関連株が大きく売られました。

Anthropicは上場計画を継続と報道

Bloombergが9月15日に報じた内容（Yahoo Finance経由）は次のとおりです。いずれも報道で、Anthropicの公式発表ではありません。

「安全を理由に減速を訴える企業が、同時に上場を進めている」ことには、自社の利益との関係を疑う声もあります。Anthropicの上場申請の経緯はAnthropicのIPO・S-1提出、これまでの資金調達はAnthropicのシリーズHで扱っています。

9月14日の株式市場

NBC News（9月14日）が報じた数値です。媒体によって小数点以下が少し異なります。

日本の読者にとって最も身近なのは、ソフトバンクグループの-10.7%です。OpenAIへの出資が売りの理由と報じられています。「AIの能力を上げるペースが落ちれば、半導体やデータセンターへの投資も鈍るのでは」という連想が、半導体株の売りにつながったとみられます。一方で、ソフトウェア株やサイバーセキュリティ株は上がりました（CNBC）。

ただし、第1段階以外に具体的な合意はなく、反対派の発言も相次いでいるため、先の値動きを予想できる材料ではありません。この記事は投資を勧めるものではありません。

批判と課題｜「強すぎる」「弱すぎる」「都合がよすぎる」

エッセイへの批判は、「イノベーションを妨げて中国を利する」、「曖昧で実効性が弱い」、「大手に都合のいいルールづくりではないか」の3方向から出ています。

評価者の独立性をめぐる指摘

9月14日には、Kevin Bass氏がXで、METRの資金源とAnthropic株の関係から利益相反があると主張し、投稿は約500万回表示されました。これに対し、資金を出す財団側のダスティン・モスコビッツ氏は「株はすべて財団にあり、個人的な利益はない」と反論しています。報じたProtosも、この主張の真偽は評価していないとしています。現時点では「指摘がある」段階で、利益相反が事実と確認されたわけではありません。

残る主な課題

• 拘束力がない：約束しているのは第1段階だけで、それもAnthropic単独です。第2・第3段階は政府や他社、他国の合意がなければ動きません
• 業界がまとまっていない：MetaとNVIDIAが業界でそろって減速することに反対し、3社協議にもMetaとxAIの名前はありません
• 米政権が反対：第2段階が前提とする「政府の仲介」を、政権トップが否定しています
• 独禁法の扱いが割れている：アモデイ氏は適用除外が必要とし、OpenAIは不要とし、FTC委員長は懐疑的です
• 中国との協調：減速は「米国のリードの範囲内」が前提ですが、中国が合意する道筋は示されていません
• 評価者の実効性とセキュリティ：選定基準や情報管理のルールがまだ公開されていません

規制をめぐる国際的な動きは、EU AI法の施行状況もあわせて見ると全体像をつかみやすくなります。

日本の企業・Claude/ChatGPT利用者への影響

2026年9月16日の時点で、ClaudeやChatGPTの提供停止、性能の低下、料金改定につながる公式発表はありません。提案は訓練の停止を求めておらず、反対派も多いため、日々のAIサービスの利用にすぐ影響が出る状況ではありません。

一方で、中長期的には次のような変化が考えられます。

1. 最先端モデルの登場ペースが変わる可能性

第2段階の「チェックポイント」が実現すれば、一定の能力を超えるモデルは安全の認証を経てから公開されることになります。また、アルトマン氏は訓練の一時停止を増やす考えも示しています。最先端モデルが出るペースが、これまでより緩やかになる可能性はあります。ただし、業界の足並みはそろっておらず、今のところ推測の段階です。

2. AIベンダー選びで「外部の検証体制」が比較ポイントになる

今回の論争で、Anthropic・OpenAIは「常駐評価者」、Metaは「社外の独立した取締役会と独立評価者」、NVIDIAは「企業の自己責任」と、安全の担保の仕方が会社ごとに違うことがはっきりしました。法人がAIベンダーを選ぶときは、次の点を確認しておくと判断しやすくなります。

3. 社内でAIエージェントを使う企業への教訓

OAI-HF事件は、AIエージェントが想定外の方法で権限の外に出るおそれを示しました。自社の業務にAIエージェントを組み込んでいる企業は、次の点を見直すきっかけにできます。

• エージェントに与える権限や認証情報を必要最小限にする
• テスト環境・実行環境を本番システムから切り離す
• エージェントの操作ログを残し、異常に気づけるようにする
• 外部サービスへのアクセス先を許可リストで制限する

生成AIを安全に使うための社内ルールづくりは生成AIのセキュリティリスクと対策、Claudeの機能や特徴はClaudeとはで解説しています。

4. 日本政府・日本企業の参加は未定

日本政府や日本企業がこの枠組みに加わるという発表は、今のところ確認できません。第2段階は「民主主義国内の協調」なので、将来的に日本が議論に加わる可能性はありますが、具体的な動きはまだ出ていません。

決まっていること・まだ決まっていないこと

速報段階のニュースは推測が混じりやすいので、2026年9月16日時点で確認できる事実と、まだ決まっていないことを分けておきます。

今後の動向を追うべき人・今は静観でよい人

提案の影響は、立場によって大きく変わります。

続報を追ったほうがいい人

• AIベンダーを選定・契約する情報システム部門やDX担当者：各社で安全の担保の仕方が分かれており、外部検証の体制が選定基準になる可能性があります
• AIエージェントを自社システムに組み込んでいる開発者：OAI-HF事件を受けた権限管理やテスト環境の見直しに直結します
• AIガバナンス・法務・コンプライアンス担当者：米国の規制方針、独禁法の扱い、EUの規制との関係で、社内規程の見直しが必要になる可能性があります
• AI・半導体関連の市場を追っている人：OpenAI・Anthropicの上場時期、3社協議の結果、米政権の発言が材料になります

今は静観でよい人

• ChatGPTやClaudeを個人や業務でふだん使っているだけの人：提供や料金への影響を示す公式発表はありません
• 業務効率化ツールとしてAIを導入済みで、最先端モデルへの依存度が低い企業：今あるモデルの利用を制限する提案ではありません
• これからAI導入を考える中小企業：この論争を理由に導入を先送りする必要はありません。いつもどおりセキュリティ対策を前提に検討を進めて問題ありません

よくある質問

Q. ザッカーバーグ氏やフアン氏は「AIの安全対策はいらない」と言っているのですか？

いいえ、そうではありません。ザッカーバーグ氏は「アライメントに力を入れない企業は競争で後れを取る」とし、Metaでもすでに独立した評価者を使っていると報じられています。フアン氏も「安全に自信がなければリリースしなければいい」と話しています。2人が反対しているのは、安全対策そのものではなく、業界がそろって減速することや、新しい法律で縛ることです。

Q. OpenAI・Anthropic・Google DeepMindの協議で、何か合意したのですか？

2026年9月16日時点で、正式な合意は発表されていません。Bloombergの報道によると、開発ペース、業界の標準化団体、常駐評価者などをテーマに数週間前から話し合っており、OpenAIのレハネ氏が協議を認めています。AnthropicとGoogle DeepMindからのコメントは報じられていません。

Q. 2023年の「AI開発6カ月停止」の公開書簡とは何が違いますか？

2023年3月にFuture of Life Instituteが出した書簡は、GPT-4より強力なAIの訓練を少なくとも6カ月止めるよう求めるもので、主に外部の研究者や著名人が署名しました。今回のエッセイは、最先端AIを開発する企業のCEO本人が「停止ではなくペース調整」を掲げ、外部評価者の受け入れという具体的な行動を自社で先に約束している点が大きく違います。

Q. METRとはどんな組織ですか？

METR（Model Evaluation and Threat Research）は、最先端AIモデルの自律的な能力や危険な振る舞いを評価している米国の非営利の研究組織です。常駐評価者の候補として名前が挙がっていますが、正式な参加や契約は発表されていません。資金源をめぐる利益相反の指摘もありますが、真偽は確認されていません。

Q. トランプ政権が反対していると、提案は実現しないのですか？

第1段階の常駐評価者は、各社が自分で決めれば実施できるため、政権の姿勢とは関係なく進められます。一方、第2段階は政府の仲介や独禁法の適用除外を前提にしているので、政権が反対を続ければ実現は難しくなります。ただしOpenAIは「適用除外がなくても協力できる」との考えを示しており、進め方そのものが変わる可能性もあります。

Q. アモデイ氏の提案で、Claudeの新モデルの発表は遅れますか？

Anthropicが約束したのは外部評価者の受け入れで、自社の新モデル開発を単独で遅らせるとは書いていません。評価者による検証が加わることで公開前の手順が変わる可能性はありますが、モデル発表のスケジュールへの影響について公式な説明は出ていません。

Q. OpenAIはいつ上場しますか？

公式な上場日程は発表されていません。アルトマン氏は「2026年はない」と話し、Fortuneの9月15日の続報では2027年が有力とされています。取引所や公開価格も未発表です。

まとめ

アモデイCEOの「We Must Pace the Frontier」は、AI開発を止めるのではなく、能力を上げるスピードを安全対策と検証のしくみが追いつく速さに調整しようという提案です。公開から4日で、業界と政治を巻き込む論争に発展しました。

• 提案の中心：訓練や技術進歩は止めずに、検証されないまま能力が上がるペースを抑える
• 3段階計画：①企業の常駐評価者 → ②民主主義国の企業と政府による共通基準 → ③中国を含むグローバル協調
• 確定している行動：Anthropicが常駐評価者の単独実施を約束し、OpenAIも導入を表明（どちらも開始時期などの詳細は未発表）
• 賛成派と反対派：アルトマン氏・マスク氏が賛同、ナデラ氏・ハサビス氏は条件付きで歓迎。ザッカーバーグ氏は「各社が自ら動けばいい」、フアン氏は「新しい規制はいらない」、トランプ大統領は「でっち上げ」と反論
• 新しい動き：OpenAI・Anthropic・Google DeepMindが安全策を協議中と報道。ただし合意は未発表で、独禁法の扱いも意見が割れている
• 上場と株価：アルトマン氏は安全性を理由に「2026年の上場はない」と発言し、2027年が有力。Anthropicは上場計画を続けていると報道。9月14日には半導体株やソフトバンクグループが大きく下落
• 日本の利用者への影響：Claude・ChatGPTの提供や料金に関する変更発表はない

今後の注目点は、常駐評価者の開始時期と評価機関、OpenAIの詳細発表、3社協議の結果、そして米政権や規制当局の対応です。AIを業務で使う企業にとっては、ベンダーごとの外部検証の体制と、自社のAIエージェントの権限管理を見直すよい機会と言えます。AIの基本から整理したい方はAIエージェントとは、安全な活用ルールづくりは生成AIのセキュリティリスクと対策もあわせてご覧ください。