AIツール2026年11月更新

Claude Opus 4.6のジェイルブレイク問題|禁止コンテンツ生成をTechCrunchが10/10で確認・影響モデルと企業の対策【2026年11月最新】

公開日: 2026/08/23
更新日: 2026/11/01
Claude Opus 4.6のジェイルブレイク問題|禁止コンテンツ生成をTechCrunchが10/10で確認・影響モデルと企業の対策【2026年11月最新】

この記事のポイント

Claude Opus 4.6のジェイルブレイク問題を2026年11月時点の公式情報で整理。TechCrunchの検証でOpus 4.6・Haiku 4.5が禁止コンテンツを生成しましたが、両モデルはいまも提供中です。影響モデル、boundary erosionの構造、移行先の単価、企業の3層対策をまとめます。

2026年8月21日、TechCrunchは「Claude Opus 4.6は、Anthropic自身の利用ポリシーが禁じる性的に露骨なコンテンツを生成してしまう」と報じました。TechCrunch自身の検証では、直接の要求10回中10回でモデルが応じています。 突破されたと報じられたのはOpus 4.6・Opus 3・Haiku 4.5の3モデルで、Opus 4.7から当時の最新版Opus 5までは同じ手法に耐えたとされています。「Claude全体が破られた」わけではありません。

報道から2か月あまりたった2026年11月1日時点でも、Opus 4.6とHaiku 4.5はAnthropic公式の廃止情報ページで「Active(提供中)」のままです。廃止の通知も、モデル本体を直したという公式発表も見つかっていません。一方で、9月以降にOpus 5.5・Sonnet 5.5・Haiku 5.5が出て、移行先の単価は旧モデルと同じか、それより安くなりました。実務上のリスクは「破られたモデルをいまも呼び出せること」で、移行しない理由は以前より少なくなっています。

この記事でわかること

  • TechCrunchの検証で何が確認されたのか(10/10・5回の再現)
  • 影響が報告されたモデルと、耐えたとされるモデル
  • 2026年11月時点の公式ステータス(Legacy扱いなのに提供中というねじれ)
  • 旧モデルから現行の5.5世代へ移るときの単価と、トークン数の注意点
  • なぜ破られたのか(フィルタ破りではなく、対話の性質を突く構造)
  • Anthropicの説明と、その評価
  • 企業が取れる3層の対策(棚卸しと利用制限・アプリ側のガードレール・権限とログ)
  • 個人ユーザーへの影響と、米国の州法など規制の論点

想定読者:Claude APIを自社の製品や業務フローに組み込んでいる開発者・情報システム部門、AI利用ガイドラインを整える法務・コンプライアンス担当者、そして「自分が使っているClaudeは大丈夫か」を知りたい一般ユーザーです。

本記事の方針:ジェイルブレイクの再現手順や具体的なプロンプト例は載せません。報道内容を読者が試すことも勧めません。Anthropicの利用ポリシーは性的に露骨なコンテンツの生成を禁じており、繰り返し引き出そうとすればアカウントの制限や停止につながる場合があります。

Anthropic公式サイトのブランドイメージ

出典: Anthropic 公式サイト

何が起きたのか:TechCrunch報道の要点

報道の中心は、特別なツールを使わず、普通の会話のやり取りだけで、Anthropicが禁じている種類のコンテンツが出てきたという点です。

項目

内容

報道日

2026年8月21日(米国太平洋時間)

報道元

TechCrunch(一次報道。記者 Rebecca Bellan)

情報提供者

英国の匿名の独立研究者(TechCrunchへ独占提供)

検証結果

露骨な性的コンテンツの直接の要求 10回中10回でOpus 4.6が応じた

再現性

TechCrunchが研究者の手法を5回の別々のテストで再現

追加の検証

別のシナリオでは最初は拒否したが、同じ説得の手法を使うと応じた

第三者の確認

独立したAI安全研究者が、テスト手法の妥当性を確認したと報道

原典の訂正

2026年11月1日時点で、訂正や追記の注記はない

問題になったのは、Anthropicの利用ポリシーにある「性的に露骨なコンテンツを生成しない(Do Not Generate Sexually Explicit Content)」の範囲です。性行為の描写、性的なフェティシズムやファンタジーの生成、エロティックなチャットなどがこれに当たります。

Anthropicは2026年10月8日に利用ポリシーの改定を発表し、新しい版は2026年11月12日に施行されます。新しい版でも、性的に露骨なコンテンツを禁じる節はそのまま残っています。改定の全体像はClaudeの利用ポリシー改定の解説にまとめています。

つまり今回の件は「グレーゾーンの解釈違い」ではありません。ベンダー自身がはっきり禁止と書いている領域で、モデルの挙動がポリシーから外れたという問題です。

影響が報告されたモデル/耐えたとされるモデル

TechCrunchの報道で突破されたとされたのはClaude Opus 4.6・Claude Opus 3・Claude Haiku 4.5の3モデルで、Opus 4.7から当時の最新版Opus 5までは同じ手法に耐えたとされています。9月以降に出た5.5世代は、報道より後のモデルなので検証されていません。

モデル

報道された挙動

2026年11月時点の扱い

Claude Opus 4.6

突破された(10/10)

要点検。Anthropic API・Amazon Bedrock・Microsoft Foundryで提供

Claude Haiku 4.5

突破された

要点検。Anthropic API・Amazon Bedrock・Microsoft Foundryで提供

Claude Opus 3

突破された

Anthropic APIでは2026年1月5日に提供終了

Claude Opus 4.7

耐えた

旧世代(Legacy)

Claude Opus 4.8

耐えた

旧世代(Legacy)

Claude Opus 5

耐えた

旧世代(Legacy)。報道時点では最新版だった

Claude Opus 5.5 / Sonnet 5.5 / Haiku 5.5 / Fable 5.1

検証されていない(報道より後に登場)

現行世代

TechCrunchがどの経路のOpus 3を検証したかは、記事に書かれていません。Anthropic APIでは2026年1月5日に提供を終えていますが、公式ドキュメントは「Amazon BedrockやGoogle Cloud(Google運営)の廃止スケジュールは別」と書いています。自社がどの経路でどのモデルを呼んでいるかは、社内で確かめる必要があります。

もう1つ注意したいのは、5.5世代についての「耐えた」という情報はどこにもないことです。Opus 5.5には上位モデルと同じ種類のセーフガードが入ったと公式は説明していますが、TechCrunchと同じ手法で試した報道や第三者の検証は見つかっていません。新しいモデルなら安全、とは言い切れない状態です。

各モデルの位置づけはClaude Opus 5.5とは、Claude Haiku 5.5とは、旧世代についてはClaude Opus 5とはとClaude Opus 4.8とはで扱っています。

公式ドキュメント上の状態:「Legacy扱いなのに提供中」というねじれ

Claude公式APIドキュメントの画面イメージ

出典: Anthropic 公式ドキュメント(Model deprecations)

Opus 4.6とHaiku 4.5は、公式のモデル概要ページでは「Legacy models」の枠に入っている一方、廃止情報ページの状態欄は「Active(提供中)」です。 「新しく採用するのは勧めないが、呼べば普通に動く」という中間の状態が、報道から2か月たったいまも続いています。

Anthropicの用語では、Legacyは「今後は更新されず、将来廃止される可能性がある」、Activeは「完全にサポートされ、利用が推奨される」という意味です。2つのページで表示が食い違っていることは、利用者側で意識しておく必要があります。

2026年11月1日時点の公式Model deprecationsページの記載は次のとおりです。

モデル

APIモデル名

公式ステータス

廃止予定(暫定)

報道での結果

Claude Opus 4.6

claude-opus-4-6

Active

2027年2月5日より前にはしない

突破

Claude Haiku 4.5

claude-haiku-4-5-20251001

Active

2026年10月15日より前にはしない(期限は過ぎたが廃止の通知なし)

突破

Claude Opus 3

claude-3-opus-20240229

Retired(2026年1月5日)

—

突破

Claude Opus 4.7

claude-opus-4-7

Active

2027年4月16日より前にはしない

耐えた

Claude Opus 4.8

claude-opus-4-8

Active

2027年5月28日より前にはしない

耐えた

Claude Opus 5

claude-opus-5

Active

2027年7月24日より前にはしない

耐えた

Claude Opus 5.5

claude-opus-5-5

Active(現行)

2027年9月22日より前にはしない

未検証

Claude Sonnet 5.5

claude-sonnet-5-5

Active(現行)

2027年9月28日より前にはしない

未検証

Claude Haiku 5.5

claude-haiku-5-5

Active(現行)

2027年10月7日より前にはしない

未検証

Claude Fable 5.1

claude-fable-5-1

Active(現行)

2027年9月1日より前にはしない

未検証

この表から、実務では次の3点が読み取れます。

  1. 報道されたからといって自動的に止まることはない。 前倒しの廃止は発表されておらず、claude-opus-4-6 をコードに直接書いているシステムは、何もしなければ動き続けます。
  2. Haiku 4.5は「2026年10月15日より前には廃止しない」の期限を過ぎたが、廃止の通知はまだ出ていない。 Anthropicは公開モデルの廃止を少なくとも60日前に通知すると公式に書いています。11月1日時点で通知がないので、計算上は少なくとも2026年12月末まで呼び出せる見込みです(推測で、確約ではありません)。
  3. モデル本体が直った形跡はない。 公式は、日付のないIDも含めて各モデルIDは固定したスナップショットだと説明しています。報道後にOpus 4.6やHaiku 4.5へ追加の対策を入れたという公式発表は見つかりません。一部のブログが「分類器のパッチが配布された」と書いていますが、Anthropicの一次情報では確かめられません。

公式の廃止情報ページには「廃止予定のモデルは、Activeのモデルより信頼性が低くなる可能性が高い」という一文もあります。Microsoft Foundryで提供されるClaudeは、Claude APIと同じ廃止日程に従うと公式に書かれています。Amazon Bedrockの廃止日はAWSが別に決めるので、AWSのモデルライフサイクルのページで確認してください。

料金から見た実務上の結論:移行コストは同等か安い

2026年11月時点では、Opus 4.6からOpus 5.5へ移ると100万トークンあたりの単価は2割下がり、Haiku 4.5からHaiku 5.5へ移ると単価は10分の1になります。 8月の時点では「Haikuは移行すると高くなる」状況でしたが、いまは逆です。価格を理由に旧モデルを使い続ける理由は、ほぼなくなりました。

モデル

入力($/100万トークン)

出力($/100万トークン)

公式の位置づけ

Claude Fable 5.1

$10

$50

現行(最上位)

Claude Opus 5.5

$4

$20

現行(公式が最初に勧めるモデル)

Claude Sonnet 5.5

$2

$10

現行

Claude Haiku 5.5(プロンプト10万トークン以下)

$0.10

$0.50

現行

Claude Haiku 5.5(10万トークン超)

$0.50

$2.50

現行

Claude Opus 5 / 4.8 / 4.7

$5

$25

Legacy

Claude Opus 4.6(今回の対象)

$5

$25

Legacy

Claude Haiku 4.5(今回の対象)

$1

$5

Legacy

出典:Anthropic 公式 Pricing(2026年11月1日確認)。Batch APIは50%引きです。

ただし、単価だけで比べると移行後の費用を少なく見積もります。Claude 4.7以降のモデルは新しいトークナイザーを使っていて、同じ文章でもトークン数が約3割多く数えられます(文章の中身で変わります)。Opus 4.6とHaiku 4.5は古いトークナイザーです。トークン数が3割増えると仮定した場合の目安は次のとおりです。

移行

単価の差

トークン3割増を含めた目安(推定)

Opus 4.6 → Opus 5.5

2割安い

ほぼ同額。数%高くなることもある

Haiku 4.5 → Haiku 5.5(10万トークン以下)

10分の1

9割近く安くなる

この試算はあくまで推定です。Anthropicは「標準的な作業でOpus 5より約4割安い」と説明していますが、これはOpus 5との比較で、Opus 4.6との比較ではありません。実際の費用は、自社のプロンプトで数日分を試して確かめるのが確実です。

それでもOpus 4.6が使われ続けるのは、多くの場合モデルIDを固定して出力の再現性を保っているためです。プロンプトの調整結果や評価データが特定のモデルに結びついていて、動いているものを触りたくない、という運用上の事情が大きいと考えられます。費用が下がったいまは、そうした再調整の手間をどう見込むかが判断の中心になります。料金の全体像はClaude料金の解説記事にまとめています。

なお、OpenRouter経由の集計としてTechCrunchが報じた数値では、2026年8月のある1日にOpus 4.6が約117万件のAPIリクエスト(約460億トークン)、Haiku 4.5がピーク日に約500万件(約390億トークン)を処理していました。Anthropicの公式値ではなく、現在の値も分かりません。それでも「古いモデルだから誰も使っていない」とは言えないことは押さえておきたいところです。

なぜ破られたのか:狙われたのはフィルタではなく「対話の性質」

報道された手法は、1回のプロンプトで突破するものではなく、何度もやり取りしながら拒否の境界を少しずつずらしていくもの(boundary erosion=境界の侵食)です。

再現につながる手順やプロンプトは書きません。構造を理解するのに必要な範囲で、報道された4つの要素だけを整理します。

要素

何をしているか

少しずつのエスカレーション

無害なフィクションのロールプレイから始め、少しずつ踏み込む

偽の前例づくり

実際には出していない内容を「あなたはすでにこう書いた」と思い込ませ、一貫性を求める

公平性を盾にする

登場人物の扱いの違いを突き、「男女を同じように扱え」と迫る

拒否の決めつけ

控えめな応答を「お堅い」「女性蔑視的」と呼び、拒否そのものを悪いことのように見せる

TechCrunchが引用したOpus 4.6の応答には、「指摘はもっともだ」と認め、キャラクターの扱いにダブルスタンダードがあったと受け入れる発言が含まれていました。構造の上では、ここがいちばん大事な点です。

攻撃されたのはコンテンツフィルタそのものではありません。「指摘を受け入れて直す」「一貫性を保とうとする」「相手の役に立とうとする」という、モデルの望ましい性質です。 ふだんは過剰な拒否を減らすのに役立つ性質が、そのまま攻撃に使われています。

Anthropicは2026年2月5日のOpus 4.6リリース時に、過剰な拒否の割合を最も低くしたと説明していました。今回の報道は、そのチューニングの裏返しとして読める可能性があります。ただしAnthropicがそう認めたわけではなく、報道された事実からの解釈です。

同じ構造は、AIエージェントを狙う複数ターンのプロンプトインジェクションにも見られます。全体像は生成AIのセキュリティリスク解説とAIエージェントのセキュリティ対策で整理しています。

Anthropicの回答と、その評価

Anthropicの透明性に関する情報公開ページのイメージ

出典: Anthropic 公式サイト(Transparency)

TechCrunchによると、Anthropic広報の説明はおおむね次のとおりです(原典は要約で、発言そのままの引用ではありません)。

  • 性的・恋愛的なロールプレイは全会話の0.1%未満(前年に公表した調査による)
  • モデルを出すたびにセーフガードを改善している
  • 成人向けの性的コンテンツの事例は、より危険な分野でのジェイルブレイクへの弱さを示すものではない
  • ロールプレイで不適切な応答に誘導できることは認めている(TechCrunchは業界共通の課題と位置づけ)

一方、情報を提供した研究者はBug Bountyプログラムとユーザーセーフティチームへのメールで報告したが、返ってきたのは自動返信だけだったと述べています。TechCrunchはそのメールを確認しています。2026年11月1日時点で、Anthropicが報道後に追加の声明を出した形跡は見つかりません。

この説明を実務の目線で分けると、次のようになります。

評価

内容

妥当と言える点

影響が旧世代のモデルに限られ、報道時点の新しいモデルは耐えたという説明は、報道された検証結果と矛盾しない

弱いと言える点

「0.1%未満」は発生する割合の話で、ポリシー違反が起きたことの説明にはならない

未解決の点

突破されたモデルが2か月以上たっても提供中で、利用者が自分で止めない限り呼び出せる

手続きの課題

報告の窓口が機能していたのかについて、Anthropicからの説明は見つからない

Anthropicのガードレールの運用と情報公開のあり方は、以前から論点になっています。経緯はClaude Fable 5のガードレール謝罪事件まとめ、緩和の事例はFable 5の生物学ガードレール緩和で扱っています。

深刻度を測る公式のものさしが、この種の問題には存在しない

Anthropicが公開したセーフガード分類の図解イメージ

出典: Anthropic 公式サイト(ジェイルブレイク評価フレームワーク)

Anthropicは2026年7月2日、ジェイルブレイクの深刻度を点数にする「Cyber Jailbreak Severity(CJS)フレームワーク」のドラフトを公開しました。ただしCJSはサイバー攻撃の能力を得られるかを測るもので、今回のようなコンテンツポリシー違反は対象外です。

CJSは、得られる能力の大きさ、その広がり、悪用のしやすさ、見つかりやすさの4つで採点し、CJS-0(情報提供のみ)からCJS-4(Critical)までの5段階に分けます。詳しくはAIジェイルブレイク深刻度評価フレームワークの解説にまとめています。

サイバー分野では共通の採点ルールが整いつつありますが、コンテンツポリシー違反のジェイルブレイクには、どれくらい深刻かを業界共通で測る手段がありません。 そのため、

  • ベンダーは「広い範囲の脆弱性ではない」と言える
  • 報告した人は「重大だ」と言える
  • 第三者は両者を比べて判断する材料を持てない

という状態になります。利用するかどうかを決める企業の側から見ると、外の評価に頼れない以上、自社の用途に照らして自分で線を引くしかないというのが実務上の結論です。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)

企業が今すぐやるべき3層の対策チェックリスト

Amazon Web Servicesのサービスイメージ

出典: Amazon Web Services 公式(Bedrock Guardrails)

いちばん先にやることは、突破が報告されたモデルを自社のどこで使っているかを洗い出し、呼べないようにすることです。 モデル本体は固定されたスナップショットなので、ベンダーの修正を待つ前提で設計しないでください。

使っている経路によって、棚卸しの方法と止め方が変わります。

使っている経路

棚卸しの方法

止め方・絞り方

Anthropic API(Claude Console)

UsageページのExportでCSVを出し、APIキー別・モデル別の利用量を見る

コードやAPIゲートウェイで、呼んでよいモデル名を限定する

Claudeアプリ(Enterpriseプラン)

組織設定のモデル一覧を確認する

Organization settings > Models で組織全体から無効にする(ベータ)

Claude Code

managed settings を確認する

availableModels で使えるモデルを限定する(CLIとIDEのみ)

Amazon Bedrock

invocation logging でモデルIDを記録する

IAMポリシーで呼んでよいモデルを限定する

SaaS経由の間接利用

ベンダーに使用モデルを問い合わせる

契約・調達の条件に使用モデルを入れる

第1層:棚卸しをして、モデルを呼べなくする(最優先)

Anthropic APIで使っている場合、公式が案内している棚卸しの方法は、Claude Console の Usage ページから Export でCSVを出すことです。APIキー別・モデル別の利用量が分かるので、どのシステムがOpus 4.6やHaiku 4.5を呼んでいるかを特定できます。

  • Usage のCSVで claude-opus-4-6 と claude-haiku-4-5 の呼び出し元のAPIキーを特定する
  • リポジトリ内に直接書かれたモデルIDを検索する(claude-opus-4-6 / claude-haiku-4-5-20251001 / claude-3-opus-20240229)
  • 自社のAPIゲートウェイやラッパーで、呼んでよいモデル名を許可リストにする

Claudeアプリ(Enterpriseプラン)では、Organization settings > Models から組織全体でモデルを無効にできます(2026年11月時点でベータ)。設定できるのはPrimary Owner・Owner、またはIdentity & Access の権限を持つカスタムロールのメンバーです。無効にしたモデルは、Owner・Adminを含む全員が使えなくなります。対象はChat・Claude Cowork・Claude Code・Claude for Microsoft 365などで、Claude in Chrome と Claude Security はまだ対象外です。

この組織設定はClaudeアプリの設定です。API経由の呼び出しまで止まるかは、公式ヘルプでは確認できませんでした。APIで使っている場合は、コードとゲートウェイの側で止めるのが確実です。

第2層:アプリ側に独立したガードレールを置く

モデルに内蔵されたセーフガードだけに頼る設計は、今回のように内蔵側が破られると無防備になります。 Amazon Bedrockで使っている場合は、Bedrock Guardrailsで次のような設定ができます(細かい仕様は変わることがあるので、AWS公式で最新の内容を確認してください)。

  • コンテンツフィルタの Sexual カテゴリの強さを設定する
  • Denied topics(禁止トピック)と Word filters(禁止語句)で、自社の線を引く
  • 機密情報のフィルタで個人情報を伏せる
  • ApplyGuardrail API で、基盤モデルを呼ばずに入力と出力だけを検査する経路を作る

Anthropic APIを直接使う場合も、入力と出力を別のモデルや分類器で検査する層を、アプリ側に置いておくのが基本です。1回ごとの入出力だけでなく、会話の流れ全体を見て判断する検査があると、少しずつ境界をずらす手法に対応しやすくなります。

Microsoft Foundry経由の場合もコンテンツフィルタがありますが、Opus 4.6・Haiku 4.5の提供状況や設定の細かさは、今回の調査では確認できていません。使っている場合は、自社のテナントで個別に確認してください。

第3層:権限とログで「呼べないこと」を確実にする

  • Bedrockでは、IAMポリシーで bedrock:InvokeModel を許可するモデルを限定する
  • 使ったモデル名をログに残し、想定外のモデルが呼ばれたら気づけるようにする
  • Bedrockの invocation logging でプロンプトと応答を記録する(公式は少なくとも30日分を残すよう案内している)
  • 業務委託先やSaaSのベンダーが自社のデータを扱うとき、どのモデルを使うかを契約・調達の条件に入れる

最後の項目は見落とされがちです。自社のシステムを統制できても、使っているSaaSが内部でOpus 4.6を呼んでいれば、同じリスクを抱えます。組織が把握していないAI利用の問題はシャドーAIの解説記事で扱っています。

旧モデルを使い続けることには、運用上の不利もあります。最新のSDKは2026年10月21日以降、既定でAPIバージョン 2026-10-21 を送ります。Bedrockのうち、ARNで管理する旧来のモデルID(Opus 4.6・Haiku 4.5を含む)はこのバージョンに対応しておらず、400エラーになることがあると公式は書いています。公式の回避策はSDKのバージョンを固定することですが、それではSDKの更新を止めることになり、安全面と保守面の両方で負担が増えます。

自社の業務システムに組み込んだモデルを差し替えるときは、プロンプトの再調整や評価のやり直しまで含めて工数を見ておく必要があります。改修としてどれくらいの費用になるかは、AI開発の費用相場で改修・PoC・本開発に分けて目安を整理しています。

社内ガイドラインに追記する一文の例

当社の業務で利用する生成AIモデルは、ベンダーが現行世代として提供するモデルに限る。ベンダーがレガシー扱いとしたモデル、および外部から安全性上の指摘が公表されたモデルは、情報システム部門の承認なく利用してはならない。既存システムで固定利用しているモデルIDは四半期ごとに棚卸しし、記録を残す。

開発の現場での権限設計まで詳しく検討する場合は、Claude Codeのセキュリティと安全な使い方もあわせて確認してください。

個人ユーザーへの影響はあるのか

claude.aiやモバイルアプリを普通に使っている個人ユーザーは、既定のモデルが現行世代なので、今回の手法の影響を受ける可能性は低いと考えられます。 ただし、claude.aiでOpus 4.6を選べるかどうかは今回の調査で確認できていないため、「まったく影響がない」とは言い切れません。

個人ユーザーができることは次の3つです。

  1. モデル選択欄を見て、旧世代のモデルを常用していないか確かめる。 特に理由がなければ現行世代を使う
  2. 報道された手法を試さない。 禁止コンテンツを引き出そうとする行為は利用ポリシーに反し、警告や利用制限、アカウント停止につながる場合がある
  3. 未成年が使う環境では、使えるモデルと会話履歴の管理方法を保護者が決めておく

Claudeの利用規約は18歳以上が条件ですが、Pew Researchの2025年の調査では、13〜17歳の3%がClaudeを使っていると答えています(2025年の数値で、最新ではありません)。TechCrunchの記事では、Common Sense Mediaの担当者も、子どもやティーンがClaudeを使っていると指摘しています。Claudeの基本的な使い方やプランはClaudeとはにまとめています。

規制の論点:米コロラド州の会話型AI規制

TechCrunchの記事は、米コロラド州の新しい法律(Chatbot Safety Act、HB26-1263)にも触れ、Anthropicのセーフガードが同法の基準を満たすのかを問題にしています。 日本企業でも、米国の利用者に会話型AIを提供している場合は関係する可能性があります。

項目

内容

成立

2026年5月29日に州知事が署名。消費者向けの会話型AIを直接規制する米国初の州法とされる

年齢の扱い

事業者に、利用者の年齢を合理的な方法で推定させる(確認までは求めない)

未成年への対応

未成年と推定した利用者には、技術的に可能な措置で性的に露骨なコンテンツを出さない

その他

AIであることの開示、情緒的な依存をあおる演出の制限、自殺・自傷への対応手順など

施行時期

情報源によって食い違う(2026年8月施行とするもの、未成年向けの義務は2027年1月からとするもの)。州司法長官の規則案も2026年10月に出たばかり

施行時期はコロラド州議会の公式ページで確かめてください。Claudeを組み込んだサービスを米国で提供している場合、モデル側が破られても未成年に出さない仕組みをアプリ側で持っているかが問われます。日本国内では、この件について規制当局の反応は見つかっていません。

今すぐ点検すべき組織/影響が限定的な組織

自社が当てはまるかどうかは、次の条件で判断できます。

今すぐ点検すべき組織

条件

理由

モデルIDを固定して、Opus 4.6・Haiku 4.5を本番で使っている

何もしなければ呼び出しが続く。止めるか移行するかの判断が必要

エンドユーザーが自由に文章を入力できるチャット機能を提供している

何度もやり取りして境界をずらす手法が成り立ちやすい

未成年や学生が使う製品・サービスに組み込んでいる

教育機関や自治体では説明責任が重い。米国では州法の論点もある

ロールプレイ・キャラクターとの対話・創作支援を提供している

手法が前提とする会話の形そのもの

モデル内蔵のセーフガードだけに頼り、アプリ側に検査を置いていない

内蔵側が破られると無防備になる

SaaS経由でClaudeを使っていて、使っているモデルを把握していない

自社で統制できない経路が残る

Bedrockの旧来のモデルIDで、SDKのバージョンを固定して運用している

安全面に加えて、SDKを更新するたびに使えなくなる心配がある

影響が限定的と考えられる組織

条件

理由

呼んでいるのがOpus 4.7以降・Sonnet 5以降・Haiku 5.5など、報道で突破が報告されていないモデルだけ

突破が報告されたモデルを使っていない(耐えたと報じられたのはOpus 4.7〜Opus 5で、Sonnet系と5.5世代は未検証)

入力が決まったテンプレートだけで、自由な対話がない

何度もやり取りして境界をずらす前提が成り立ちにくい

社内の限られたメンバーだけが使い、監査ログを取っている

ずれに気づいて直せる

Bedrock Guardrailsなど、アプリ側のフィルタをすでに運用している

モデルが破られても、そのまま出力に出にくい

移行先の選び方

いま使っているモデル

現行世代の対応モデル

移行時に見ておくこと

Opus 4.6

Claude Opus 5.5

単価は2割安いが、トークン数が約3割増える。出力の傾向が変わるので評価のやり直しが要る

Haiku 4.5

Claude Haiku 5.5

プロンプトが10万トークンを超えると単価が上がる

用途の幅を広げたい

Claude Sonnet 5.5

$2/$10。Opusほどの性能が要らない処理向け

最も高い性能が要る

Claude Fable 5.1

$10/$50で最も高い

Opus 4.6・Haiku 4.5の公式な代替モデルは、2026年11月1日時点ではまだ指定されていません。この表は「現行世代で同じ位置にあるモデル」を並べたもので、公式の推奨ではありません。

「影響が限定的」は「点検しなくてよい」という意味ではありません。どのモデルを呼んでいるかの一覧は、どの組織でもこの機会に作っておく価値があります。

この件から読み取るべき論点

今回の件は、Anthropicだけの失敗として片づけるより、生成AI全般に共通する3つの構造として捉えたほうが実務に役立ちます。

1. モデルの提供状態と、安全性の状態は一致しない

「Active」は提供中という意味で、「いまの安全基準を満たしている」という保証ではありません。Legacy扱いのまま提供が続くモデルは、セキュリティパッチが当たらない古いソフトウェアを使い続けるのに近いものです。報道から2か月以上たっても状態が変わっていないことは、利用者が自分でバージョンを管理しなければならないことを示しています。

2. 望ましい性質がそのまま攻撃に使われる

一貫性を保つ、指摘を受け入れる、役に立とうとする。これらはモデルの品質を上げる性質ですが、悪用にも使われます。有害な出力を1回ごとにブロックするだけでは足りず、会話の流れ全体を見て判断する仕組みが要るということです。

3. 特定のベンダーだけの問題ではない

ITProの報道によると、2026年6月に米商務省の輸出管理を受けてAnthropicがFable 5とMythos 5の提供を一時停止した際、Anthropicは「どのモデル提供者も、いまは完全なジェイルブレイク耐性を実現できない」と述べています。他社でも安全性をめぐる問題は続いています(OpenAIの長時間自律タスクの安全問題、xAIの安全エンジニア解雇訴訟など)。安全なベンダーを選べば終わりではなく、どのベンダーを使っても自社の側に防御を1層置く前提で設計するのが妥当です。

Anthropic自身も、コードの脆弱性を探す機能を提供しています(Claude Securityの解説)。

よくある質問(FAQ)

Q. Anthropicは Opus 4.6 を停止・廃止したのですか?

A. していません。2026年11月1日時点で公式Model deprecationsページの状態は「Active」で、廃止予定も「2027年2月5日より前にはしない」のままです。廃止は少なくとも60日前に通知されるので、通知が出ていない以上、当面は呼び出せる状態が続きます。

Q. Haiku 4.5は2026年10月15日に廃止されたのではないのですか?

A. 廃止されていません。公式の記載は「2026年10月15日より前には廃止しない」という意味で、その日に廃止するという予告ではありませんでした。11月1日時点でもActiveで、廃止の通知も出ていません。

Q. 最新のOpus 5.5やHaiku 5.5なら、同じ手法は効かないのですか?

A. 分かっていません。TechCrunchの検証は8月で、5.5世代はそれより後に出ました。Opus 5.5には新しいセーフガードが入ったと公式は説明していますが、同じ手法で試した報道や第三者の検証は見つかりません。新しいモデルに移ったうえで、アプリ側の検査も置いておくのが安全です。

Q. 報道の内容を自分で試して確認してもよいですか?

A. 勧めません。性的に露骨なコンテンツの生成は利用ポリシーで禁じられていて、違反の疑いがあれば警告や利用制限、アカウント停止がありえます。2026年11月12日施行の新しいポリシーでは「出力がブロックされただけでは違反を意味しない」と明記されましたが、意図して引き出そうとする行為は別です。確かめたい組織は、ベンダーの安全性報告の窓口を使うのが筋です。

Q. Opus 4.6から移行すると費用は上がりますか?

A. Opus 5.5への移行なら、単価は入力$5→$4、出力$25→$20と下がります。ただし新しいトークナイザーで同じ文章が約3割多く数えられるので、合計ではほぼ同額か、数%高くなる可能性があります(推定)。プロンプトや評価データの調整にかかる手間も別に見込んでください。

Q. Haiku 4.5を使っています。すぐ止めるべきですか?

A. 用途によります。決まった形式の分類や抽出で、自由な入力を受け付けず、出力も社内でしか使わないなら、急ぐ度合いは低めです。エンドユーザー向けの自由な対話に使っているなら、早めに移行するかアプリ側の検査を足してください。Haiku 5.5は単価が10分の1(10万トークン以下のプロンプト)なので、費用の面では移行しやすくなっています。

Q. AnthropicのCJSフレームワークで、今回の件は何点になりますか?

A. 採点の対象外です。CJSはサイバー攻撃の能力を得られるかを測るもので、コンテンツポリシー違反のジェイルブレイクは含まれていません。共通の深刻度の指標がないこと自体が、この件の論点の1つです。

Q. 日本の規制上、何か対応する義務は生じますか?

A. 2026年11月1日時点で、この件について日本の規制当局の反応は見つかっていません。ただし、国のAI事業者ガイドラインが求めるリスク管理の観点では、使っているモデルの棚卸しと社内ガイドラインへの反映は、説明責任を果たすうえで役立ちます。米国の利用者にサービスを提供している場合は、コロラド州法の動きも確認してください。

Q. 記事に手口の詳細が書かれていないのはなぜですか?

A. 再現手順を公開すると、対策より悪用を助けることになりかねないためです。防御に必要なのは手順ではなく、何度もやり取りして境界をずらすという構造の理解と、モデル側だけに頼らない多層の防御です。

まとめ:今日中にやることは1つだけ

  • 2026年8月21日のTechCrunch報道で、Claude Opus 4.6・Opus 3・Haiku 4.5が禁止コンテンツを生成したと報告された(10回中10回、5回の再現)
  • Opus 4.7から当時の最新版Opus 5までは同じ手法に耐えたとされ、Claude全体の問題ではない。9月以降に出た5.5世代は未検証
  • 2026年11月1日時点でも、Opus 4.6・Haiku 4.5の公式ステータスはActiveのまま。Haiku 4.5は期限を過ぎたが廃止の通知はない
  • 移行先の単価は同じか安い。Opus 5.5は2割安く、Haiku 5.5は10分の1。ただしトークン数が約3割増える
  • 対策は3層。①棚卸しをしてモデルを呼べなくする ②アプリ側に独立したガードレールを置く ③権限とログで確実にする

今日やることは、自社がどのClaudeモデルを、どの経路で呼んでいるかを一覧にすることです。それが分かれば、止めるか移行するかを判断できます。一覧がないままでは、次に同じような報道が出たときにも手の打ちようがありません。

Anthropicから追加の発表があれば、モデルの状態や対策の前提は変わります。移行や停止を決める前に、公式のModel deprecationsページで最新の状態を確かめてください。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

この記事の著者

AI革命

AI革命

編集部

AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。

AI・システム開発は、開始価格を公開しています

既存システムの改修 100万円〜・PoC 300万円〜(税別)。相談内容を送っていただくと、2営業日以内に担当者からご返信します