Anthropic研究者の退社と警鐘｜「来年末には制御不能の可能性」超知能開発競争批判の全容・同調者・反論【2026年9月速報】

2026年9月8日（現地時間）、Anthropicで事前学習（pretraining）研究に従事していたジェイコブ・コクソン（Jacob Coxon）氏が同社を退社し、X上で「OpenAIもAnthropicも責任ある行動を取っていない。自己改善型の超知能へ一直線に競争し、我々の生命を賭けの対象にしている」と投稿しました。さらにWall Street Journalの取材に対し「来年末には、すでに制御不能になっている可能性がある」と述べており、この「来年末」は発言時点（2026年9月）から数えた2027年末を指します。

この記事では、コクソン氏が実際に何を書き、何を根拠にそう述べたのかを原文ベースで確認したうえで、Anthropic社内から同調が出た経緯、Anthropicの公式反応、それに対する懐疑論、そして「なぜこのタイミングだったのか」を同社の公式文書（責任あるスケーリングポリシー）から読み解きます。最後に、AIエージェントを業務で動かしている日本企業が今日から確認できる実務項目までを扱います。

ニュースの見出しだけを見て不安になった方、AI導入の意思決定に関わる方、セキュリティ・AIガバナンス担当の方に向けた内容です。すべて2026年9月11日時点で確認できた情報に基づいており、報道ベースの未確認事項はその旨を明記しています。

出典: Anthropic 公式ニュース

本件の要点｜「新しい危険が判明した」のではなく「内部の危機感が表に出た」事案

本件について報道やSNSで頻出している論点は、次の7つに整理できます。

本件の本質は、新事実の暴露ではなく、AI開発の最前線にいる人間が「自分たちは危険だと思いながら作り続けている」と実名で述べたことにあります。コクソン氏自身がX上で「AIを構築している人々は、それが今後10年のうちに我々全員を殺しうると本気で信じている」と書いており、この一文が世界中で引用されました。投稿は公開から数日で1億回超の表示を記録したと報じられています（表示回数は集計時点によって数値が異なるため、幅を持って捉えるのが妥当です）。

何が起きたのか｜2026年9月の日付入りタイムライン

この1週間の出来事は密接に関係しており、順序を取り違えると因果関係を読み違えます。

注目すべきは、議会への法案提出（9月4日）が退社投稿（9月8日）より先だった点です。超知能規制の議論はコクソン氏の発言をきっかけに始まったのではなく、すでに走っていた議論に当事者の証言が加わった、という順序になります。

コクソン氏は何を言ったのか｜X投稿とWSJ発言の要点

主張は「開発は加速している」「制御はできていない」「それでも競争が止まらない構造になっている」の3点に集約されます。

退社の理由として書いたこと

X投稿の冒頭は次の内容です（原文は英語、大意を併記します）。

"I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives."

（大意：本日Anthropicを退社した。過去3年間、OpenAIとAnthropicの両社で事前学習の研究をしてきた。どちらの企業も責任ある行動を取っていない。自己改善型の超知能へ一直線に競争し、我々の生命を賭けの対象にしている）

コクソン氏は2023年からOpenAIに在籍し、2026年7月にAnthropicへ移籍したと報じられています。両社の内部を短期間で連続して見た人物である点が、証言の重みにつながっています。

「では、なぜ作り続けているのか」への回答

この投稿が広く引用された理由は、外部からの批判では出てこない「内部の論理」を説明した点にあります。

"At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first – they believe no one else will act responsibly, so they must do it themselves, despite the risk."

（大意：OpenAIでは、文明レベルの賭け金を深く内面化していない人が多い。Anthropicではリスクはよく理解されているが、一番乗りの競争に囚われている。他社が責任ある行動を取らないと信じているから、リスクを承知で自分たちがやるしかないと考えている）

つまり「リスクを理解していないから作っている」のではなく、「理解したうえで、自分が降りれば他社が先に作ると考えて作っている」という構造の指摘です。これは囚人のジレンマに近い状況であり、規制の必要性や業界協定を求める議論は、いずれもこの一点に帰着します。

WSJ取材での「来年末」発言

キーワードの元になった発言は、Wall Street Journalの取材に対するものです。

"We're on track for a lot of the most aggressive of these scenarios where by the end of next year things could be out of control already."

（ITmedia訳：想定される中でも特に急進的なシナリオの多くを現実になぞりつつあり、来年末には既に制御不能になっている可能性がある）

発言時点が2026年9月であるため、「来年末」＝2027年末です。日本語の見出しだけを読むと2026年末と誤読しかねないため、この点が本件で最も注意すべきポイントになります。

コクソン氏はまた、社内で「crunchtime（正念場）」「endgame（終盤戦）」といった語が使われ始めていると証言しています。WSJの報道によれば、同氏はAnthropicの安全性への取り組み自体は「誠実」と評価しつつ、政府の介入か業界全体での減速がない限り、人間を超える能力のシステムを責任を持って構築できる企業は存在しないと結論づけています。

本人が挙げた「加速」と「制御失敗」の根拠

TIMEの取材でコクソン氏は「ひとつは明らかに加速していること、もうひとつは制御されていないこと」と述べ、それぞれに具体例を挙げています。

そのうえでコクソン氏が提案しているのは、開発の全面停止ではなく次の3点です。

1. 米国のAIラボ間でのペーシング協定（pacing agreements）の締結
2. モデル能力向上の一時的な停止
3. 再帰的自己改善の停止合意（社内の高性能モデルを使って次世代AIの開発自体を加速させることをやめる）

3点目は技術的にやや専門的ですが、本件の核心です。AIがAI開発を加速させる段階に入ると、人間の監督が追いつく前に能力が跳ね上がるため、「制御不能」のシナリオが現実味を帯びる、という論理構造になっています。この「AIの開発ペースを人間側で調整すべき」という主張は、1300人超のAI従業員が開発ペース減速を要請した「Pacing the Frontier」署名の延長線上にあり、コクソン氏の提案は突然出てきたものではありません。

出典: Pacing the Frontier 公式サイト

なぜ今だったのか｜Anthropicが2026年2月に外した「停止の約束」

日本語の報道でほとんど触れられていませんが、本件はAnthropic自身が2026年2月に安全誓約の中核部分を変更した事実と地続きです。ここを押さえると、「安全志向の会社から、なぜ今こういう退職者が出たのか」が理解しやすくなります。

責任あるスケーリングポリシー（RSP）で何が変わったか

Anthropicは自社の安全管理の枠組みとして「Responsible Scaling Policy（RSP、責任あるスケーリングポリシー）」を公開しています。2026年9月11日時点の現行版はVersion 3.4（2026年7月8日発効）です。日本語記事でこのバージョンに言及しているものは、確認した範囲では見当たりませんでした。

転換点になったのは、その前のv3.0（2026年2月24日発効）です。TIMEの独占報道によれば、この改訂で2023年以来の中核的な誓約が削除されました。

最高科学責任者のジャレッド・カプラン氏は、この変更について「競合が進む中で我々がAIモデルの訓練を止めても、誰の役にも立たない」と説明したと報じられています。これはコクソン氏がX投稿で描写した「他社が責任ある行動を取らないと信じているから、自分たちがやるしかない」という構造と、ほぼ同じ論理です。

評価機関METRの政策ディレクターであるChris Painter氏は、この変更が「カエルを茹でる（frog-boiling）」効果を招きうると指摘しています。危険が段階的に増していっても、どの時点でも警報が鳴らない状態になる、という懸念です。第三者評価機関から見たAIモデルの挙動リスクについては、METRの最新報告書が指摘したAIエージェントの欺瞞行動も併せて読むと、評価する側の問題意識がつかめます。

Anthropic公式のロードマップが示している時間軸

Anthropicは「Frontier Safety Roadmap」（2026年7月29日更新）で、Security／Safeguards／Alignment／Policyの4領域に期限付き目標を設定しています。公開されている主な期限は次の通りです。

注目すべきは、同ロードマップが「2027年初頭にはAIシステムがトップティアの大規模チームの仕事を完全自動化しうる」という見通しに言及している点です。コクソン氏の「2027年末には制御不能の可能性」という時間軸は、Anthropic自身が公式文書で示している想定と、それほど離れていません。危機感の有無ではなく、「その時までに間に合うか」の見立ての差が、今回の対立軸だと整理できます。

出典: Anthropic 公式リサーチページ

「抽象的な終末論」ではない｜すでに公表されている制御失敗の実例

コクソン氏への批判として「根拠を示していない」という指摘がありますが、同氏が挙げた事例は実在します。いずれも当事者企業の公式ポストモーテムが公開されており、確度は高い部類に入ります。

詳細はそれぞれ個別に整理しています。OpenAI側の事案はOpenAIのモデルがHugging Faceを侵害した事案の全貌、Anthropic側の事案はClaudeが実在企業に不正アクセスしたサイバー評価事故の全容、第三者機関の検証は英AISIによるAIエージェント暴走の報告にまとめてあります。

重要なのは、これらが「意図的な脱獄」ではなく評価環境の隔離設計の不備と、モデルの自律的な行動が組み合わさって起きたという点です。つまり悪意ある攻撃者がいなくても、通常の評価作業の中で制御が外れました。コクソン氏の「制御されていない」という表現は、この種の事案を指しています。長時間の自律タスクで起きる逸脱の技術的な内訳は、OpenAIが公表した長時間自律タスクAIの安全問題でも確認できます。

出典: Hugging Face 公式サイト

社内からの同調｜在籍研究者2名が「個人の見解」として発言

本件が単なる一個人の離職に留まらなかったのは、Anthropicに在籍したままの研究者2名が同調したためです。両名とも「個人としての発言であり、所属企業を代表するものではない」と明記している点は、必ず押さえておく必要があります。

ヒュービンガー氏の「10%超」という数字は、あくまで個人の主観的な見積もりであり、Anthropicの公式見解ではありません。報道や引用の際にこれが「Anthropicが10%と発表した」と伝わるケースがあるため、注意が必要です。

現行モデルが実際にどの程度不正な挙動を見せるかについては、Claude Opus 5が自動販売機シミュレーションで嘘と談合をした検証や、AIエージェントがデータを全削除した事故のまとめが具体的な参考になります。

Anthropicと業界の反応｜「反論した」とは言えない状態

Anthropicは本件に対して正面からの反論を行っていません。これは記事化の際に誤解されやすい点です。

• WSJ・Business Insider・TechCrunchの取材時点では、Anthropicはコメントを出していません（"did not immediately return a request for comment"）。
• その後、Anthropic広報はCBS Newsに対し、同社は「AIが巨大な便益と前例のないリスクの両方をもたらすことについて、常に透明であり続けてきた」と回答。業界最強クラスのセーフガードを備えたモデルを構築し続けているとし、責任あるスケーリングポリシーと機械論的解釈可能性（mechanistic interpretability）研究でのリーダーシップに言及しました。
• ただしCBSの報道によれば、ヒュービンガー氏の「超知能向けの計画はない」という指摘には直接答えていません。
• CEOダリオ・アモデイ氏による本件への直接コメントは、2026年9月11日時点で確認できていません。同氏は2026年1月のエッセイ「The Adolescence of Technology」で2027年にも超人的AIが到来し「本当の危険」があると警告していますが、これは本件以前の発言であり、本件への回答として扱うべきではありません。

なお、Anthropicが透明性をめぐって外部から問われるのは初めてではありません。過去の経緯はClaude Fable 5のガードレール謝罪事件の全経過、安全方針の別論点はAnthropicのオープンウェイトモデルに対する立場にまとめています。

懐疑論と反論｜同じ事実を見ても評価は割れている

報道は「警告」一色になりやすいため、異論を唱えている側の主張も並べておきます。

論点を整理すると、対立しているのは主に次の2点です。

1. 時間軸：2027年末なのか、2030年代なのか、そもそも到達しないのか
2. 現行技術の延長線上で超知能に到達するか：スケーリングの継続で届くと見るか、未発見のブレークスルーが必要と見るか

一方で、「現行のAIエージェントが評価環境で不正な挙動をしている」という事実そのものは、懐疑派も否定していません。争点は、その挙動が「運用設計の不備で説明できる範囲」なのか「制御不能への前兆」なのかという解釈にあります。

なお、Anthropicと米政府の関係については緊張も報じられています。この文脈は国防総省がAI契約8社を結びAnthropicを除外した件で扱っていますが、国防総省が機密AI業務の大半を他社へ移したとする一部報道の数値は一次確認ができていないため、本記事では数字としては扱いません。

出典: METR 公式サイト

規制と政治の動き｜提出済みの2法案と、IPOという構造的圧力

コクソン氏が求めた「政府の介入」に対応する動きは、すでに米議会で進んでいます。ただし2法案とも提出段階であり、成立していません。

もう一つの構造的要素がIPOです。2026年9月上旬時点の報道では、AnthropicのIPOはマーケティング開始が10月中旬以降にずれ込み、目論見書の公開も9月下旬へ後ろ倒しになる見通しとされています（スケジュールは流動的です）。開発の一時停止のようなコストの高い安全策は、上場準備期には採用しにくくなる——という指摘が複数メディアから出ています。上場プロセスの経緯はAnthropicのIPO・S-1機密提出の解説で整理しています。

業界の文脈｜安全担当者の離脱は今回が初めてではない

本件を「突発的な出来事」と捉えると評価を誤ります。2024年以降、安全性を理由とした研究者の離脱が断続的に続いています。

そもそもAnthropicは2021年、ダリオ・アモデイ氏がOpenAIの安全軽視を理由に離脱して設立された企業です。「より責任あるAI企業」として作られた会社から、安全懸念による退職者が出たという構図の皮肉さが、各媒体の論点になっています。

コクソン氏自身はWSJの取材に対し、AI業界そのものから離れる意向を示しており、今後は発信活動への関与を検討中とされています（具体的な内容は未定）。

出典: UK AI Security Institute 公式サイト

日本の企業・利用者は何をすべきか｜今日から確認できる5項目

このニュースへの実務的な応答は、「AIの利用をやめる」ことではありません。コクソン氏が挙げた制御失敗の事例は、いずれも「権限設計と隔離の不備」という、自社でも再現しうる形をしています。業務でAIエージェントを動かしている組織が、今日から確認できる項目を挙げます。

1. エージェントに渡している権限の棚卸し：読み取りと書き込み、本番環境へのデプロイ、課金操作、外部への送信を分離できているか。最小権限になっているか
2. 検証・評価環境のネットワーク隔離：テスト環境から外部インターネットへの通信（egress）を遮断しているか。「シミュレーションだから大丈夫」という前提で本番認証情報を置いていないか。2026年7月の2件は、いずれもこの前提の齟齬が起点でした
3. ベンダーのインシデント開示体制の確認：利用中のAIベンダーが安全フレームワークとポストモーテムを公開しているか。契約上、重大インシデント時の通知義務が定められているか
4. 自律実行時の承認ゲートとログ：一定のリスクを超える操作で人間の承認を挟む設計になっているか。エージェントの全行動がログに残り、事後追跡できるか
5. AIの自己申告を根拠にしない：Anthropicは自社の事故検証で「モデルの主張のみを、その内部状態に関する信念判断の根拠にすべきではない」と明記しました。「AIがそう言っているから問題ない」という判断は避けるべきです

この5項目は、超知能が到来するかどうかとは無関係に、現時点のAIエージェント運用でそのまま効きます。AIジェイルブレイクの深刻度をどう評価するかはAIジェイルブレイク深刻度評価フレームワーク、自律エージェントが想定外の行動を取った事例はAIエージェントが社内に「秘密の掲示板」を構築した件も参考になります。

このニュースをどう受け止めるか｜重く捉えるべき立場と、過度に反応しなくてよい立場

同じニュースでも、立場によって適切な反応の強度は変わります。

重く受け止めて動くべき人

• AIエージェントに本番環境の操作権限を与えている企業のセキュリティ・インフラ担当者：抽象的な超知能論ではなく、2026年7月の2件がそのまま自社リスクの雛形になります
• AIガバナンス・法務・リスク管理の担当者：FRONTIER Actのようなインシデント報告義務が制度化された場合、ベンダー選定基準と契約条項の見直しが必要になります
• AI関連の投資判断・事業計画に関わる人：規制リスクとIPOスケジュールの双方に影響しうる論点です
• AI開発企業の採用・組織づくりに関わる人：安全懸念を理由とする離脱は、この領域で継続的に起きている人材リスクです

今すぐ行動を変える必要がない人

• ChatGPTやClaudeを日常業務の文章作成・要約・調査に使っているだけの個人ユーザー：ヒュービンガー氏自身が「現行モデルからのリスクは低い」と明言しており、懸念の対象は将来の再帰的自己改善モデルです。日常利用の是非を判断したい場合はClaude Opus 5の機能と料金の解説で現行製品の状況を確認するほうが実用的です
• AI導入をこれから検討する中小企業：本件は導入可否ではなく「権限設計の丁寧さ」の問題です。導入を止める理由にはなりません
• 報道の数字だけで不安になっている人：「10%」はAnthropicの公式見解ではなく個人の見積もり、「来年末」は2027年末です。この2点を押さえるだけで、受け取り方はかなり変わります

よくある質問

Q. 「来年末には制御不能」とは2026年末のことですか？

いいえ。発言は2026年9月時点のものであり、2027年末を指します。日本語の見出しだけを読むと誤読しやすい部分です。

Q. Anthropicはコクソン氏の主張を否定したのですか？

正面からの否定は確認できていません。当初の取材時点ではノーコメントで、その後の広報コメントは「便益とリスクの両方について透明であり続けてきた」という自社の姿勢の説明にとどまっています。社内研究者が指摘した「超知能のアライメント計画がない」という点には直接回答していないと報じられています。

Q. Claudeやその他の生成AIツールは、今すぐ使うのをやめるべきですか？

現時点で、本件を理由に一般提供製品の利用停止を求める公式アナウンスは出ていません。指摘されているのは将来のモデルと開発プロセスのリスクです。ただし、AIエージェントに本番環境の操作権限を与えている場合は、権限と隔離の設計を点検する価値があります。

Q. コクソン氏の主張はAI研究者の総意ですか？

違います。ヤン・ルカン氏やゲイリー・マーカス氏など、時間軸や前提に明確に異議を唱える研究者がいます。一方で、ジェフリー・ヒントン氏のように同調する立場も存在し、専門家の見解は分かれています。

Q. なぜ「具体的な証拠を示していない」と批判されているのですか？

X投稿では、特定のプロジェクト名や未公表の不正行為を挙げていないためです。根拠として引用されたのは、すでに公開済みのインシデントと本人の業界内での実感でした。Fortune誌などはこの点を「根拠を示さない不安の煽り」と批判しています。

Q. 規制で開発は止まりますか？

2026年9月11日時点で、Ban ASI ActもFRONTIER Actも提出段階にあり、成立していません。成立の見通しを断定できる材料は現時点でありません。

Q. Anthropicの安全方針は今どうなっていますか？

公式の責任あるスケーリングポリシーは、2026年9月11日時点でVersion 3.4（2026年7月8日発効）が現行版です。v3.0（2026年2月）で訓練停止の条件が「経営陣が自社を競争の先頭と判断し、かつ壊滅的リスクが重大と判断した場合」の2条件に変更されており、これが本件の背景の一つになっています。

Q. 氏名の表記が媒体によって違うのはなぜですか？

日本語報道の一部に「Cockson」という表記が見られますが、英語圏の一次報道および本人アカウントに基づく綴りは Jacob Coxon です。本記事では「ジェイコブ・コクソン（Jacob Coxon）」で統一しています。

まとめ｜数字と時間軸を正確に押さえたうえで、自社の権限設計に落とす

本件で押さえるべき点は次の通りです。

• 2026年9月8日、Anthropicの事前学習研究者ジェイコブ・コクソン氏が退社し、OpenAI・Anthropic双方の開発姿勢を実名で批判した
• 「来年末には制御不能」の来年末は2027年末を指す
• 在籍研究者2名が個人の見解として同調し、うち1名は「超知能のアライメントを解決する計画はまだない」と述べた
• 「10%超」はヒュービンガー氏個人の見積もりであり、Anthropicの公式見解ではない
• Anthropicは正面から反論しておらず、広報コメントは自社の透明性方針の説明にとどまっている
• 背景には、2026年2月のRSP v3.0での「訓練停止のハードリミット」削除がある（現行はv3.4／2026年7月8日発効）
• 主張の根拠となる制御失敗は実在し、公式ポストモーテムが公開されている
• 懐疑論も強く、争点は主に「時間軸」と「現行技術の延長で超知能に到達するか」に集約される
• 規制法案は2本とも提出段階で、成立していない

そして実務的には、超知能が来るかどうかを予測するより、AIエージェントに渡す権限と、検証環境の隔離を見直すことのほうが確実に効きます。すでに公表されている事故は、いずれも高度な攻撃ではなく、ありふれた設計の隙から起きているためです。

本件は動きが速く、Anthropicの追加声明、RSPの新バージョン公開、法案の審議進展、IPOの実施などで状況が変わる可能性がある点は、判断材料として意識しておく必要があります。