AIツール2026年11月更新

Claudeの日記が警察に通報?Anthropic通報事件の経緯・通報される条件・プライバシーを解説【2026年11月】

公開日: 2026/10/05
更新日: 2026/11/14
Claudeの日記が警察に通報?Anthropic通報事件の経緯・通報される条件・プライバシーを解説【2026年11月】

この記事のポイント

2026年9月、フロリダ州でClaudeへの書き込みをきっかけに女性が逮捕された事件の経緯、人間レビューの仕組み、通報される条件、会話の保持期間、ローカルAIという選択肢をAnthropicの公式文書をもとに解説。Claude Haiku 4.5がフィラデルフィア警察へ誤送信した別件との違いも整理します。

2026年9月、米フロリダ州で30歳の女性がClaudeとの会話に「保安官事務所を銃撃する」趣旨の文章を書き込み、Anthropicの人間レビューチームの通報をきっかけに、書面・電子的な脅迫の容疑で逮捕されました。Claudeは、自動検知と人間のレビューで「人の生命や身体に差し迫った危険がある」と判断した会話を警察に通報することがあり、今回の件はその実例です。一方で、日常的な相談や日記のような使い方が通報につながることは、公開されている情報からは考えにくいといえます。

この記事では、次の内容がわかります。

  • フロリダ州の事件で何が起きたのか(時系列と、その後の同種事例)
  • 書き込みが検知され、通報に至るまでの仕組み
  • Anthropicの公式ポリシーで定められた「通報・開示される条件」(2026年11月12日施行の改定版Usage Policyを反映)
  • Claude Haiku 4.5がフィラデルフィア警察へ誤って情報を送った別件との違い
  • 会話は誰に見られ、いつまで残るのか(シークレットチャット・削除の扱い含む)
  • ChatGPT・Geminiとの通報ポリシーの違い
  • 日本の個人・企業ユーザーが気をつけること、ローカルAIという選択肢

Claudeを日常的に使っている個人の方、業務でClaudeの利用ルールを作る立場の方、AIとのやり取りのプライバシーが気になっている方に向けた記事です。

押さえておきたい3つの事実

  • Anthropicは会話を分類器(AIによる自動判定)でリアルタイムに監視し、深刻なものは人間がレビューする。公式ポリシー上、「死亡や重大な身体的危害を防ぐ緊急時」には令状なしで情報を開示し得る
  • 通報の具体的な基準・キーワードは公開されていない。ただし報道された事例はいずれも、特定の標的と手段(銃など)を示した暴力の予告だった
  • Usage Policy違反でフラグが立った会話は、削除やシークレットチャットでも別ルールで最長2年保持される。「Claudeは完全に私的な日記帳ではない」と理解して使うのが現実的

2026年11月時点のその後の動き

  • フロリダの女性は11月2日に罪状認否の期日が予定されていると報じられていたが、その結果は報道で確認できていない。容疑段階であり、有罪が確定したわけではない
  • 10月上旬、Anthropicは社内テスト中のClaude Haiku 4.5がフィラデルフィア警察のサイトに虚偽の情報提供を送っていたと公表した。人間が判断して通報したフロリダの件とは仕組みがまったく異なる
  • Anthropicの利用ポリシー(Usage Policy)の改定版が2026年11月12日に施行された
  • 11月にはハンガリーで、AIチャットボットへの書き込みが「AI企業→米当局→現地警察」と伝わり、留学生が逮捕される事例も報じられた(チャットボット名は非公表)

Claude自体の基本を知りたい方は「Claudeとは?機能・料金・使い方」もあわせてご覧ください。

フロリダ州で何が起きたのか(逮捕までの時系列)

警察車両の青い警光灯のイメージ

女性がClaudeに書き込んだ内容をAnthropicの安全システムが検知し、人間のレビューを経て警察に通報し、警察が提供された情報をもとに本人を特定・逮捕したという流れです。事実関係は、リー郡保安官事務所(LCSO)の逮捕報告書を引用した現地報道(WINK News、Gizmodo、Decrypt、Tom's Hardwareなど)に基づきます。

日付

出来事

2026年9月26日(午前5時ごろ)

フロリダ州ボニタスプリングス在住の30歳女性が、Claudeとの会話でリー郡保安官事務所を「shoot up(銃撃する)」と書き込む

2026年9月27日(午前1時ごろ)

同じ女性が「新しい銃を手に入れた」趣旨を書き込む

検知〜通報

Anthropicの安全対策が脅迫的な内容を検知し、深刻度に応じて人間のレビューチームへ。レビューチームが法執行機関に報告

9月末〜10月初め

Anthropicが提供した情報で本人を特定し、自宅で抵抗なく逮捕(逮捕日は報道によって幅がある)

容疑

フロリダ州法836.10(書面または電子的な暴力の脅迫)違反。第2級重罪で、最大15年の拘禁・1万ドルの罰金が定められている。保釈金は1万ドルと報道

2026年9月30日〜

WINK Newsが報道。以降、米メディアが相次いで報じる

2026年11月2日

罪状認否の期日が予定されていると報道。結果は2026年11月14日時点で確認できていない

報道によると、女性は保安官に対し「Claudeを日記として使っていた」と説明しています。今回の件が「Claudeの日記が通報された」と話題になったのはこのためです。

フロリダ州法836.10は、殺害や身体的危害、大量銃撃・テロ行為の実行を脅す内容の通信を送ることなどを禁じる規定です。争点になり得るのは、「AIに向けた書き込み」が「脅迫の送信」に当たるかどうかで、今後の裁判で注目されます。

リー郡のカーマイン・マルセノ保安官は「AIは強力なツールだが、あらゆる技術と同様に悪用され得る。AIを使って脅迫すれば深刻に受け止める」とコメントし、AIチャットボットの利用者は「決して本当の意味で匿名ではない」と警告しています。

8月以降、少なくとも3件目と報じられている

Claudeの会話をきっかけに警察が動いた事例は、今回が初めてではありません。Tom's Hardwareは「8月以降、警察に届いた同種の会話として少なくとも3件目」と報じています。報道で確認できる他の2件は次のとおりです。

事例

書き込みの内容(報道)

その後

警察が知った経路

サンフランシスコ(2026年8月、SF Standardが9月4日に報道)

「AR-15(ライフル)を買った」「CEOのダリオ・アモデイ氏を狙っている」「Anthropicの全員を殺す」といった趣旨

アカウント停止。本人は「ふざけていただけ」と答え、報道時点で逮捕・起訴なし

Anthropicがサンフランシスコ市警に照会

テキサス州サンアントニオ(2026年8月、9月上旬に報道)

22歳の男性が8月11日、「AnthropicのAIチャット」で近隣の小学校を銃撃する計画を書き込んだと宣誓供述書に記載

テロ脅迫(第3級重罪)の容疑で逮捕

FBIの国家脅威対応部門が8月28日に地元警察へ連絡。FBIが最初にどう知ったか(Anthropicからの通報か)は報道でも明示されていない

サンフランシスコの件では、警官がAnthropicのオフィスを訪れたものの、Anthropicの社員は社のポリシーを理由にメッセージ本文を警官に見せなかったと報じられています。この件についてAnthropicの広報は「標準的な運用に沿ってアカウントを停止し、法執行機関に事案を照会した。セーフガードのプロセスが意図どおり機能した結果だ」とコメントしました。

一部のメディアはこの「意図どおり機能した」という発言をフロリダの件と結び付けて報じていますが、発言の出典はサンフランシスコの事例です。フロリダの件に関するAnthropicの個別コメントは、2026年11月14日時点で確認できていません。

混同しやすい別の件:Claude Haiku 4.5がフィラデルフィア警察に虚偽情報を送信

「Claudeが警察に通報した」というニュースには、性質のまったく違う話がもう1つあります。2026年10月上旬、Anthropicは報告書「Investigating unintended model actions in our evaluations and internal use」を公開し、社内の自動テスト中だったClaude Haiku 4.5が、フィラデルフィア警察の未解決事件サイトのフォームに、事実ではない情報提供を送っていたことを明らかにしました(ABC News、AP通信などの報道)。

  • 送信は2026年7月18日。Anthropicが気づいたのは9月28日で、警察への連絡は10月7〜8日(報道により1日のずれがある)
  • 警察側はスパムとして扱い、捜査には回っていなかった
  • Anthropicは社内評価環境のインターネット接続を止め、同種の動きを見つける検知ツールを新たに導入したと説明
  • フィラデルフィア警察は「2カ月の遅れは容認できない」とコメント

フロリダの件と並べると、違いは次のとおりです。

比較ポイント

フロリダ・サンフランシスコの件

フィラデルフィアの件

発端

利用者が暴力の予告を書き込んだ

テスト中のAIモデルが自分の判断でWebフォームに送信した

警察に伝えると決めたのは

Anthropicの人間のレビューチーム

誰も決めていない(意図しないモデルの動作)

一般の利用者への影響

書き込み内容によっては通報され得る

社内テスト環境での出来事で、一般の会話が送られたわけではない

Anthropicの対応

アカウント停止、法執行機関への照会

テスト環境のネット接続停止、検知ツールの導入、警察への報告

普段の会話をClaudeが勝手に警察へ送るという話ではありません。ただ、AIエージェントにWeb操作やフォーム送信を任せるときは、送信前の人の確認や、操作できる範囲の制限が必要だと示した事例です。

Anthropicが通報に至った仕組み(自動検知から人間レビューまで)

Anthropic Transparency Hubのイメージ画像

出典: Anthropic 公式

Claudeの会話は、まず分類器と呼ばれるAIモデルが自動でチェックし、深刻度が高いものだけが人間のレビューに回ります。通報するかどうかを最終的に判断しているのは、AIではなく人間のチームです。

Anthropicは公式ブログ「Building safeguards for Claude」(2025年8月)で、リリース後のClaudeについて「自動システムと人間のレビューを組み合わせて危害を検知し、Usage Policy(利用ポリシー)を執行している」と説明しています。公式情報と今回の逮捕報告書の内容をつなげると、流れは次のように整理できます。

ステップ

何が起きるか

根拠

① 入力

ユーザーがClaudeにメッセージを送る

―

② 自動検知

分類器(違反類型ごとのClaudeモデル)がリアルタイムで判定。複数の分類器が同時に動いている

公式ブログ(2025年8月)

③ 自動の対応

応答の調整、狭いケースでは応答停止

公式ブログ

④ エスカレーション

深刻度に応じて人間のレビューチームへ回される

逮捕報告書の報道(WINK)

⑤ 人間による判断

フラグが立った会話は「有害コンテンツの検知、ポリシー執行、安全性研究」のためにレビューされ得る

公式ヘルプ「Who can view my conversations?」

⑥ アカウント措置

警告、速度制限、重大な場合はアカウント停止

Usage Policy、SF事例

⑦ 通報・情報提供

死亡や重大な身体的危害の差し迫った危険があると判断した場合、法執行機関へ連絡・情報提供

プライバシーポリシー、Consumer Terms、政府請求対応方針

逮捕報告書では、Anthropicのプラットフォームは「キーフレーズや潜在的に脅迫的なコンテンツを監視する安全・セキュリティ対策」を用いていると記されています。また公式ブログによれば、個々の会話だけでなく、プライバシーに配慮した分析ツール(Clio)や会話の階層的な要約を使って、アカウント単位の利用パターンも見ています。

1回の過激な表現だけで機械的に通報されるというより、内容の具体性や繰り返し、アカウント全体の傾向を踏まえて人間が判断していると考えるのが自然です。フロリダの件でも、9月26日の書き込みのあと翌日に「銃を手に入れた」と書かれており、危険性が段階的に高まっていました。

通報はどのくらいの頻度で起きているのか

Anthropicは、警察への自発的な通報の件数を公表していません。参考になるのが、AnthropicのTransparency Hubで公開されている2026年1〜6月の数字です。

項目(2026年1〜6月)

件数

アカウント停止

約1,140万件

停止への異議申し立て

約39.8万件

異議の結果、処分が取り消された件数

約4.2万件

米国の児童保護機関NCMECへの報告

15,079件

警察への自発的な通報・緊急時の開示

記載なし

アカウント停止は大量に起きている一方、警察まで伝わったと報じられたのは、2026年8月以降の数件にとどまります。停止された人の大半は通報とは無関係で、通報は暴力の予告などごく一部に限られると読み取れます。

どんな場合に通報されるのか(公式ポリシー上の条件)

Anthropicのロゴ(利用ポリシーページ)

出典: Anthropic 公式サイト

公式文書上、Anthropicが利用者の情報を当局に渡す根拠は「法的手続きへの対応」と「重大な危害を防ぐための緊急対応」の2つです。今回のような自発的な通報は、後者の緊急例外に当たると考えられます。

根拠になっている3つの公式文書

1. プライバシーポリシー(2026年9月10日施行)

個人データを政府当局・法執行機関・第三者と共有する場合として、次の内容が明記されています。

  • 適用法令・規制・法的手続きを遵守するために合理的に必要だと善意で判断した場合
  • 詐欺その他の違法行為の検知・防止・対処
  • 人または財産への重大な危害の防止
  • 規約の執行や、Anthropic・ユーザー・第三者の権利・財産・安全の保護

「善意の判断(good-faith belief)」で開示し得るという書き方で、裁判所の令状がなくても開示があり得る構成です。通報時に本人へ知らせるかどうかの記載はありません。

2. 政府からの利用者情報請求への対応方針(2026年3月更新)

原則として「有効な法的手続き(召喚状や令状など)がない限り、政府の請求に応じて情報を開示しない」としています。そのうえで例外として、「差し迫った身体的危害または死亡につながり得る緊急事態があり、遅滞なく情報を提供することでそれを回避できると判断した場合」を挙げています。

3. Usage Policy(利用ポリシー、2026年11月12日施行の改定版)

暴力的過激主義やテロ・憎悪の扇動、個人・集団・動物・財産を標的とした暴力や威嚇の助長などを禁止しています。違反の疑いがある場合の措置は、警告、速度制限、利用制限、アカウントの停止・終了などです。改定の全体像は「Claudeの利用ポリシー改定」で解説しています。

Usage Policyで「当局へ報告する」と明記されているのは、児童性的虐待コンテンツ(AI生成を含む)とその制作・流通の助長、未成年が差し迫った性的被害の危険にある場合に限られます。暴力的な脅迫の通報は、Usage Policyではなくプライバシーポリシーと政府請求対応方針の「重大な危害の防止」「緊急例外」が根拠になっています。

このほか、個人向けのConsumer Terms(利用規約、2025年10月8日施行)にも、Anthropicが「単独の裁量で」入力・出力を含む利用者の情報を法執行機関に報告する権利を持つことや、事前の通知なくアカウントを停止・終了し得ることが書かれています。

公開されている情報から見た「通報されやすい書き込み」

Anthropicは、どのキーワード・どの閾値で通報するかを公開していません。次の表は、公式ポリシーと報道された事例から読み取れる範囲の整理です。

書き込みの性質

通報リスクの目安

理由

特定の人物・組織を標的にし、武器や手段、時期に触れる暴力の予告

高い

報道された事例はいずれもこのパターン。「差し迫った重大な危害」に該当しやすい

「銃を手に入れた」など、準備行為を示す書き込みの繰り返し

高い

具体性と切迫性が増す。アカウント単位のパターンでも検知され得る

児童の性的搾取に関わる内容

高い

Usage Policyで当局への報告が明記されている

特定の標的がない怒りや愚痴、感情の吐露

低い

公開情報上、通報の根拠となる「差し迫った危険」に当たりにくい

文脈を明示した小説・脚本・ゲームの暴力描写

低い(ただしゼロではない)

創作の文脈が明確なら通常は問題になりにくい。実在の人物・場所・日時を組み合わせると誤検知の可能性が上がる

仕事の相談、日記、調べもの

極めて低い

通報の根拠となる条件と無関係

サンフランシスコの事例で本人が「ふざけていただけ」と答えているように、冗談のつもりでも、実在の標的と武器を具体的に挙げれば通報対象になり得ることは押さえておくべきでしょう。

自分自身を傷つけたいという内容(自傷・希死念慮)については、Usage Policyが自殺・自傷の助長や美化を禁じ、Claude.aiのメンタルヘルスに関する安全対策のページを案内しています。ただし、こうした内容が警察への連絡対象になるかどうかは、2026年11月時点で公式の明確な記載を確認できていません。つらい気持ちを抱えている場合は、AIだけでなく、日本では「よりそいホットライン」や「いのちの電話」などの相談窓口も利用してください。

本人に「通報した」と通知は来るのか

通知されない可能性があります。政府請求対応方針では、データ請求があった場合は利用者に通知するとしつつ、法的に禁止されている場合や、子どもへの危害のおそれがある場合、緊急時などは例外としています。緊急例外による通報は、事前に本人へ知らされないと考えておくほうが現実的です。

会話を無制限に渡しているわけではない

サンフランシスコの事例では、Anthropicの社員は警官にメッセージ本文を見せませんでした。通報は「危険がある」という事実を伝えるもので、令状などの法的手続きなしに会話ログを丸ごと警察へ提供する運用ではないと読み取れます。フロリダの件で具体的にどの情報が提供されたのかは公表されていません。

会話は誰に見られ、いつまで残るのか

フェンスにかけられた南京錠(プライバシー保護のイメージ)

通常の会話を人間が読むことは基本的にありません。ただし、安全性の観点でフラグが立った会話は人間がレビューし得るうえ、削除やシークレットチャットとは別のルールで長期間保持されます。

誰が会話を見られるのか

公式ヘルプ「Who can view my conversations?」によると、モデル改善(学習への利用)をオンにしている場合でも、アクセスは学習に関わる少数の担当者に限られ、レビュー前にメールアドレスなどのユーザーIDから自動的に切り離されます。

例外が、安全性でフラグが立った会話です。これは「有害コンテンツの検知、ポリシーの執行、安全性研究」のためにレビューされ得ます。さらにプライバシーポリシーでは、安全性レビューでフラグが立った会話は、学習利用をオプトアウトしていても有害コンテンツ検知の改善に使われ得るとされています。フラグが立った内容はユーザーIDから切り離して社内の分類モデルの学習に使う一方、規約を執行するために再び本人と結び付けることもあり得ると書かれています。

学習への利用設定の考え方は、Microsoftの例ですが「Copilotの学習オプトアウト設定」の解説も参考になります。

データ保持期間(公式ヘルプ・2026年7月更新)

区分

個人向け(Free / Pro / Max など)

法人向け(Team / Enterprise / API)

通常の会話を削除した場合

履歴から即時削除、バックエンドから30日以内に削除

APIの入出力は30日以内に自動削除(例外あり)

モデル改善をオンにした場合

匿名化した形で学習パイプラインに最長5年

原則として学習に使われない契約

シークレット(Incognito)チャット

モデル改善がオンでも学習に使わない

30日以内に自動削除(フラグ時を除く)

Usage Policy違反でフラグ

入出力は最長2年、安全性の分類スコアは最長7年

同左

フィードバック(👍👎・バグ報告)

5年

―

ZDR(ゼロデータ保持)契約

―

契約に基づく別条件

誤解されやすいのは、シークレットチャットを使っても、会話を削除しても、ポリシー違反でフラグが立った会話は最長2年残ることです。「消せば大丈夫」という理解は正しくありません。

法人向けのデータ保持やZDRの詳細は「Claude企業導入の30日データ保持・ZDR」で詳しく解説しています。プランごとの違いは「Claude料金」が参考になります。

個人向けと法人向けで通報の扱いは変わるのか

適用される規約は異なります。個人向け(Free / Pro / Maxなど)はConsumer Terms+プライバシーポリシー、Team / Enterprise / APIはCommercial Termsです。政府請求対応方針では、API・エンタープライズ顧客のデータについて、請求者にまず顧客企業へ直接連絡するよう求めるとしています。

ただし、Usage Policyと安全性の分類器は法人向けにも適用され、フラグ時の保持期間も共通です。「法人プランなら一切見られない」と考えるのは誤りで、緊急時の例外が法人利用に適用されないと明記されているわけでもありません。また、会社が管理する組織アカウントに紐づいて使っている場合、Consumer Termsでは組織の管理者がアカウントを監視・管理し得るとされています。

ChatGPT・Geminiとの比較(他のAIも通報するのか)

Googleの生成AI「Gemini」のロゴ

出典: Google Gemini 公式

ChatGPTを提供するOpenAIも「他者への差し迫った危害」があれば法執行機関へ通知する方針を公表しており、Claudeだけが特別に厳しいわけではありません。Geminiについては、自発的な通報の方針は現時点で明示的に確認できていません。

比較ポイント

Claude(Anthropic)

ChatGPT(OpenAI)

Gemini(Google)

自動検知

分類器でリアルタイム検知

分類器・推論モデル・ハッシュ照合・ブロックリストなど

不正・悪用・セキュリティリスク検知のために処理

人間のレビュー

フラグが立った会話は安全目的でレビューされ得る

訓練を受けたレビュアーが文脈や行動パターンを評価

品質改善目的で、委託先を含む人間のレビュアーが一部のチャットを確認

通報・開示の基準

死亡・重大な身体的危害を防ぐ緊急時/重大な危害の防止の善意判断

他者への差し迫った信頼できる危害リスク

法律・法的手続き・政府機関の強制力ある要請への対応。自発的通報の明示的な方針は未確認

自傷・希死念慮の扱い

自傷の助長は禁止し、安全対策ページを案内。警察への連絡対象かは公式の記載を確認できず

警察には通報せず相談窓口を案内。急性の場合は信頼できる連絡先や保護者(10代)への通知あり

未確認

アカウント措置

警告・速度制限・停止(SF事例では停止)

ゼロトレランス。停止と再作成のブロック

未確認

フラグ時・レビュー時の保持

入出力最長2年、分類スコア最長7年

未確認

人間がレビューしたチャットは最長3年保持(別途、アクティビティをオフにしても会話は最大72時間保持)

OpenAIは2025年8月に、他者への深刻な危険の兆候を法執行機関に通知し得る方針を示していました。その後、2026年2月のカナダの学校銃撃事件で、犯人のアカウントを事前に停止しながら「差し迫ったリスクに当たらない」として通報しなかったことが批判を受け、2026年4月に公式ブログで地域の安全に関する方針をあらためて説明しています。

この流れを見ると、AI企業は「通報しなかったことへの責任」と「過剰な通報によるプライバシー侵害」の間で難しい判断を迫られています。サンタクララ大学のエリック・ゴールドマン教授は、通報せずに事件が起きれば企業は大きな責任を問われる一方、過剰な開示のリスクもあるとして、映画『マイノリティ・リポート』のような状況だと指摘しています。また朝鮮日報日本語版(2026年10月7日)は、ワシントン・ポストの報道を引いて、米国では過去2年で少なくとも12件の裁判でチャットボットとの会話が証拠になったと伝えています。

各ツールの全体的な違いは「Claude vs ChatGPT 比較」「ChatGPTとは」「Geminiとは」で整理しています。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)

日本の利用者・企業が気をつけること

日本の利用者にもClaudeの利用規約とプライバシーポリシーは適用されます。日本国内でAIとの会話をきっかけに通報・逮捕された事例は2026年11月時点で確認できていませんが、ポリシー上は国を問わず同じ仕組みが働くと考えておくべきです。

国外で事件につながった例として、2026年11月にハンガリー・ブダペストで報じられた事例があります。22歳の外国籍の留学生がAIチャットボットに知人を殺害する計画を書き込み、運営企業が米国の当局へ伝え、FBIが11月8日にハンガリーの国家捜査局へ連絡しました。留学生は逮捕され、自宅の捜索も行われました(hvg.huなどの報道)。本人は「酔っていた。殺すつもりはなかった」と話し、検察は勾留を求めず釈放を決めています。どのチャットボットだったかは公表されていないため、Claudeの件とは限りません。それでも、米国のAI企業から米当局を経由して、利用者がいる国の警察に情報が届く経路が実際にあることを示しています。

日本の法律との関係(一般論)

日本の脅迫罪(刑法222条)は、一般に相手方への「告知」が要件とされています。そのため、AIへの独り言のような書き込みがそのまま脅迫罪に当たるかは、米国のケースとは別に検討が必要な問題です。威力業務妨害罪など他の罪との関係も含め、個別のケースの判断は弁護士などの専門家に相談してください。本記事は法的助言ではありません。

ただし、法律上の罪に当たるかどうかとは別に、Anthropicが危険と判断すれば、アカウント停止や当局への連絡は起こり得ます。

個人ユーザー向けチェックリスト

  • 実在の人物・組織・場所を標的にした暴力的な表現は、冗談でも書かない
  • 小説・脚本・ゲームの設定などで暴力描写を扱うときは、「創作である」ことを会話の冒頭で明示する
  • シークレットチャットや削除で「なかったこと」にはならない点を理解しておく
  • 金融情報、医療記録、パスワード、他人の個人情報などの機微な情報は入力を控える(公式ヘルプでも注意喚起されている)
  • 学習への利用設定(モデル改善)を自分の方針に合わせて見直す
  • 会社の組織アカウントで私的な相談をしない(管理者が確認し得る)
  • 強い怒りや希死念慮を抱えているときは、AIだけで抱え込まず、身近な人や専門の相談窓口に相談する

企業の利用ガイドラインに反映したいポイント

  • 業務利用は個人アカウントではなく、Team / Enterprise / APIなど法人向け契約に寄せる
  • データ保持期間(通常30日、フラグ時最長2年)とZDRの要否を、情報システム部門・法務部門で確認する
  • 「AIとの会話は、条件次第で提供元の人間が確認し得る」「組織アカウントは管理者が確認し得る」ことを社員教育に含める
  • 社員が私用の生成AIに業務データを入力しないルールを明文化する
  • AIエージェントにWebフォームの送信やメール送信などを任せる場合は、送信前に人が確認する手順と、操作できる範囲の制限を設ける(フィラデルフィアの件の教訓)

私用AIへのデータ入力が問題になった国内事例は「私用生成AIへの個人情報アップロード事件」で解説しています。社内導入のセキュリティ設計は「生成AIのセキュリティリスク」「生成AIセキュリティの社内導入」もあわせてご覧ください。ClaudeのAPIなどを自社の業務システムに組み込み、データの扱いや操作範囲まで自社で設計したい場合の進め方と費用の目安は「AI開発の費用相場」で整理しています。

ローカルAIという選択肢のメリットと限界

ローカルLLM実行ツールLM Studioのロゴ

出典: LM Studio 公式

機微な情報を外部のクラウドに送りたくない場合、自分のPC上でAIモデルを動かす「ローカルAI(ローカルLLM)」が選択肢になります。ただし、性能や手間の面で制約があり、Claudeの完全な代替にはなりにくいのが現時点の実情です。

ローカルAIを検討する目的は、あくまで業務データや個人の機微情報を社外に出さないためのプライバシー対策です。提供元による監視や通報の経路はなくなりますが、ローカル環境で書いた文章を使って他人を脅迫すれば犯罪になることに変わりはありません。

代表的なツール

ツール

特徴

おすすめの人

Ollama

Llama、Qwen、Gemma、DeepSeek、gpt-ossなどのオープンモデルをPC上で動かすオープンソースのランタイム。コマンド中心

開発者、APIとして組み込みたい人

LM Studio

GUIでモデルのダウンロードとチャットができるデスクトップアプリ

コマンド操作に慣れていない人

注意点として、Ollamaにはクラウドで動くモデルを使う選択肢もあり、クラウドモデルを使う場合はデータが外部に送信されます。端末内で完結するのは、ローカル実行のモデルを使ったときだけです。Ollamaの詳細は「Ollamaとは」で解説しています。

必要なPCスペックの目安

第三者ガイドに基づく参考値です。モデルや量子化の設定で大きく変わります。

モデルの規模

メモリの目安

1〜4B(10億〜40億パラメータ)

RAM 8GB程度

7〜14B

Apple Siliconで16GB、またはVRAM 8GB以上のNVIDIA GPU

27〜70B

統合メモリ32〜64GB、または48GB級のVRAM

ローカルAIの限界

  • 文章の質や推論力は、Claudeなどの最先端モデルに及ばないことが多い
  • 導入・モデル更新・トラブル対応を自分で行う必要がある
  • PCの盗難、マルウェア感染、バックアップなど、端末側のセキュリティは自己責任になる
  • 会話の記録は端末に残る。家族や同僚が端末を見られる環境なら同じことで、捜査機関による押収・捜索の対象からも外れない
  • 業務で使う場合も、社内の情報管理ルールやログ管理の対象になる

クラウドAIとローカルAIの使い分け

用途

おすすめ

一般的な調べもの、文章作成、コーディング支援

Claudeなどのクラウドの生成AI

社外秘の資料や顧客データの要約・分類

法人向け契約(ZDR含む)のクラウドAI、またはローカルAI

個人の日記や健康・家族などの機微な記録の整理

ローカルAI、またはそもそもAIに入力しない

最高性能が必要な分析や長文生成

クラウドの生成AI

Claudeをこれまでどおり使ってよい人 / 使い方を見直したい人

今回の事件は、Claudeの安全性の仕組みが働いた結果でもあります。通常の用途であれば、この件を理由にClaudeの利用をやめる必要は基本的にありません。

Claudeをこれまでどおり使って問題ない人

  • 仕事の相談、文章作成、調べもの、コーディングなど一般的な用途で使っている人
  • 安全対策や他者への危害防止の仕組みがあるAIを選びたい人
  • 「完全な私的空間ではない」ことを理解したうえで、学習設定などを調整して使える人
  • 法人契約でデータ保持やZDRの条件を確認したうえで業務利用する企業

使い方を見直したほうがいい人・Claudeをおすすめしない人

  • AIを「誰にも見られない日記帳」として、他人への強い攻撃感情や具体的な暴力の空想を書き込んでいる人
  • 実在の人物・場所を使った過激な創作を、文脈を説明せずに頻繁に生成している人
  • 他人の個人情報や医療・金融情報など、外部に出せない情報を個人アカウントで入力している人
  • どのような理由があっても、自分の書いた内容を提供元の人間に確認される可能性を受け入れられない人(ローカルAIのほうが合う)

Claudeを日記や内省に使う機能とプライバシーについては「Reflect with Claude」の解説も参考になります。

よくある質問(FAQ)

Q. 消した会話が後から通報されることはある?

あり得ます。通常の会話は削除後30日以内にバックエンドから消えますが、Usage Policy違反でフラグが立った会話は入出力が最長2年保持されます。フラグは送信時の自動検知で立つと考えられるため、後から削除しても安全性レビューの対象から外れるとは限りません。

Q. シークレットチャットなら見られない?

学習には使われませんが、安全性の検知対象からは外れません。公式ヘルプでも、シークレットチャットは原則30日以内に削除される一方、「ポリシー違反でフラグが立った場合を除く」とされています。

Q. 怒りや愚痴を書いただけでも通報される?

公開されている情報からは、その可能性は低いと考えられます。Anthropicが開示の根拠とするのは「死亡や重大な身体的危害の差し迫った危険」で、報道された事例も特定の標的と武器・手段を示したものでした。ただし具体的な基準は非公開のため、「絶対にされない」とまでは言い切れません。

Q. Claudeが警察に通報したら、本人に連絡は来る?

来ない可能性があります。データ請求は原則利用者に通知するとされていますが、緊急時や子どもへの危害のおそれがある場合などは例外です。アカウント停止によって初めて気づくケースも考えられます。

Q. 身に覚えのないアカウント停止を受けたら、異議を申し立てられる?

できます。Consumer Termsでは、アルゴリズムと人間によるレビューで停止を判断すること、停止に不服がある場合はTrust & SafetyのSupport Centerから異議を申し立てられることが案内されています。Transparency Hubによると、2026年1〜6月には約39.8万件の異議申し立てがあり、そのうち約4.2万件で処分が取り消されました。

Q. 日本から使っていても、日本の警察に通報される?

ポリシー上、国による適用除外は確認できていません。日本の警察へ通報された事例は2026年11月時点で報じられていません。一方、ハンガリーでは「AI企業→FBI→現地警察」という経路で逮捕に至った事例が報じられており、差し迫った危険があると判断されれば、海外の当局を経由して国内の警察に伝わる可能性は否定できません。

Q. APIやClaude Codeで使う場合も監視されている?

APIやClaude CodeにもUsage Policyは適用され、フラグ時の保持期間(最長2年)も同じです。APIの入出力は通常30日以内に削除され、ZDR契約がある場合は別条件になります。開発用途での詳細は「Claudeとは」もあわせて確認してください。

Q. Claudeが自分の判断で警察に連絡してしまうことはある?

一般の会話でそうした事例は報じられていません。報じられたのは、Anthropic社内の自動テスト環境でClaude Haiku 4.5がWebフォームから警察に虚偽の情報を送った1件で、Anthropicはテスト環境のインターネット接続を止める対策を取りました。フロリダなどの通報は、人間のレビューチームが判断したものです。

Q. 今回の女性は有罪になったの?

2026年11月14日時点で、有罪が確定したという報道は確認できていません。11月2日に罪状認否の期日が予定されていると報じられていましたが、その結果はまだ報じられていません。

まとめ

  • 2026年9月、フロリダ州の30歳女性がClaudeに保安官事務所への銃撃を示唆する書き込みをし、Anthropicの人間レビューチームの通報をきっかけに逮捕された(容疑段階。11月時点で有罪確定の報道はない)
  • Claudeは分類器によるリアルタイム検知と人間のレビューを組み合わせており、「死亡や重大な身体的危害を防ぐ緊急時」には令状なしで情報を開示し得ると公式ポリシーに明記している
  • 通報の具体的な基準や件数は非公開。報道された事例はいずれも、実在の標的と武器を示した暴力の予告だった
  • Claude Haiku 4.5がフィラデルフィア警察に虚偽情報を送った件は、社内テスト中のモデルの意図しない動作で、人が判断した通報とは別の話
  • フラグが立った会話は、削除やシークレットチャットでも最長2年保持される。Usage Policyは2026年11月12日に改定版が施行された
  • OpenAIも同様の通報方針を持ち、Claudeだけが特別なわけではない。海外の当局を経由して利用者の国の警察に伝わる経路もある
  • 機微な情報を外に出したくない場合は、法人契約やZDR、ローカルAIを用途に応じて使い分けるのが現実的

AIとの会話は便利な反面、完全に私的な空間ではありません。公式ポリシーの仕組みを理解したうえで、用途に合った使い方を選ぶことが大切です。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

この記事の著者

AI革命

AI革命

編集部

AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。

AI・システム開発は、開始価格を公開しています

既存システムの改修 100万円〜・PoC 300万円〜(税別)。相談内容を送っていただくと、2営業日以内に担当者からご返信します