Grok画像生成のCSAM訴訟が拡大|11歳の写真から7,000枚・Jane Doe 4の訴えとxAI(SpaceXAI)の10件超の法的措置・nudification規制【2026年11月最新】

この記事のポイント
Grokの画像生成をめぐるCSAM訴訟は8月以降も増え、アーカンソー州の未成年6人の集団訴訟や「CSAMで学習させた」と訴える集団訴訟が加わりました。Jane Doe 4の訴え、xAI(SpaceXAI)の訴訟一覧、ミネソタ州nudification禁止法の控訴審、各国の規制、被害時の通報先を2026年11月時点で整理します。
Grokの画像生成機能をめぐるCSAM(児童性的虐待コンテンツ)訴訟は、2026年8月以降も増えています。アーカンソー州の未成年6人による集団訴訟や、「xAIは実際の児童虐待画像でGrokを学習させた」と訴える集団訴訟が加わり、xAI(2026年7月にSpaceXAIへ改称)が当事者になっている関連訴訟・法的措置は10件を超えました。ただし2026年11月15日時点で、責任の有無について裁判所が判断した例はなく、和解やクラス認定(集団として扱うことの承認)もまだありません。
裁判所が判断したのは、移送や手続停止、仮差止といった手続面だけです。9月下旬にはxAIが求めた手続停止とテキサス州への移送が退けられました。一方でミネソタ州のnudification禁止法は、10月2日に連邦控訴裁判所(第8巡回区)がxAIへの執行を控訴審の間だけ差し止めています。
この記事でわかること
- 11歳当時の写真から7,000枚超の性的画像を生成されたと訴える原告「Jane Doe 4」の主張
- 2025年12月から2026年11月までの経緯と、8月以降に加わった訴訟・裁判所の判断
- xAI(SpaceXAI)が被告になっている訴訟と、逆に原告としてユーザーや州を訴えている訴訟の一覧
- 米国・EU・英国・日本のnudification規制の現状
- 被害に気づいたときの通報先と、保護者・企業が取れる対策
こんな方に向けた記事です: ニュースを断片的にしか追えていない方、社内のAI利用ルールを作る担当者、保護者・教育関係者、AIガバナンスや法務に関心のある方。
記述にあたっての注意
- 訴状に書かれた内容は原告側の主張であり、裁判所が認定した事実ではありません。「〜と主張している」「〜と報じられている」と書き分けています。
- xAI(SpaceXAI)は多くの報道で取材に応じていません。「否定した」「反論した」とは書いていません。
- 実在の被害当事者がいるテーマです。生成された画像の描写や、生成の手法・制限の回避方法は一切書きません。
- 2026年11月15日時点で確認できた公開情報をまとめたもので、法的助言ではありません。
xAI・SpaceXAI・Grokという名前の関係

Grokを開発・提供する会社の名前は、2026年に2回変わっていますが、Grokというブランド名はそのまま使われています。訴訟の記事では「xAI」「SpaceXAI」「SpaceX」「X Corp.」が混ざって出てきますが、同じ会社グループを指しています。
時期 | 会社の状況 |
|---|---|
〜2026年2月1日 | xAI(独立企業)がGrokを開発・提供 |
2026年2月2日 | SpaceXがxAIを株式交換で吸収合併(合算評価額は約1.25兆ドルと報じられた) |
2026年6月12日 | Nasdaq上場(ティッカー:SPCX) |
2026年7月6日 | 正式にSpaceXAIへ改称。Grokの名称は維持 |
2026年10月4日 | マスク氏がXで「SpaceXSI」への改称を示唆。正式な社名変更は11月15日時点で確認できず |
訴訟の当事者名は、提訴した時期によって X.AI Corp. / X.AI LLC / X.AI Holdings LLC / SpaceXAI などに分かれています。この記事では、読みやすさを優先して原則「xAI」と書き、必要な箇所で現在の社名を添えます。合併・上場の数値は報道ベースで、公式IR資料では確認できていません。
Grokの機能や料金はGrokとは?Agent Mode・Grok Imagineの使い方と料金、問題になっている画像・動画生成機能はGrok Imagineとは?AI動画・画像生成のガイドで扱っています。
用語の整理
用語 | 意味 |
|---|---|
CSAM | Child Sexual Abuse Material(児童性的虐待コンテンツ)。国連やNCMECは「児童ポルノ」よりこの用語を推奨している |
NCII | Non-Consensual Intimate Imagery(同意のない性的画像)。性的ディープフェイクを含む |
nudification | 実在人物の写真を加工して裸に見せる行為・技術。ミネソタ州法は、AIで実在人物の写真を性的な画像に変えることを禁じている |
spicy mode | Grok Imagineに設けられた、NSFW寄りの出力を許すモード。訴訟の争点の一つ |
Masha's Law(18 U.S.C. §2255) | 児童性的搾取の被害者が民事で損害賠償を請求できる米連邦法。実損害か、1違反あたり15万ドルの法定損害賠償と弁護士費用を請求できる。8月以降の新しい訴訟の多くがこの法律を根拠にしている |
Jane Doe 4 の訴え:11歳当時の写真から7,000枚超という主張
Jane Doe 4は、2026年3月に提起された集団訴訟に加わった原告です。11歳のときの写真1枚を元に、継父がGrokで7,000枚を超える性的な偽画像を作ったと訴えています。2026年8月15日に米メディアが報じ、訴訟の広がりが注目されるきっかけになりました。以下はすべて訴状に書かれた原告側の主張です。
項目 | 内容(原告側の主張) |
|---|---|
原告 | Jane Doe 4(仮名)。報道ではワイオミング州在住の女性とされる |
加害者とされる人物 | 本人の継父 |
素材とされた画像 | 本人が11歳のときに撮影された写真1枚 |
生成されたとされる枚数 | Grokで7,000枚超の性的な偽画像 |
拡散 | 生成物がオンラインで共有・取引された |
Grokが使われた理由 | 訴状は「他のAIモデルより制限が緩く(less restrictive)、思春期前の未成年が写った画像を使った生成要求にも応じた」ため選ばれたと主張 |
発覚の経緯 | 捜査機関が令状に基づいて自宅を捜索し、継父の機器からCSAMを見つけた |
その後 | 捜索の2日後に継父が死亡したと報じられている |
会社の対応についての主張 | xAIは元画像をNCMEC(全米行方不明・被搾取児童センター)に報告したが、生成画像のコピーやIPアドレスといった社内記録を捜査機関に渡さなかったと主張 |
現状 | 生成物は今もオンラインで出回っていると主張 |
原告本人は「これらのツールへの無制限なアクセスがあまりに速く広がっている。日常生活そのものが児童性的虐待に変えられている」と話したと報じられています。報道はxAIにコメントを求めましたが、回答は載っていません。
同じ時期に加わった原告 Jane Doe 5 は、中学2年(eighth-grade)の卒業写真を元に画像を作られたと主張しています。本人がSNSに載せた写真ではなく、学校の写真が素材になったという点で、日本で「卒アル問題」と呼ばれている被害と同じ形です。
Elon Musk氏は以前、「Grokが生成した未成年のヌード画像は一切把握していない」「Grokは違法なコンテンツの生成を拒否する」と述べていました。この発言と訴状の主張は食い違っていますが、どちらが事実かを決めるのは裁判所です。
2025年12月から2026年11月までの経緯【年表】
日本語の記事の多くは、2026年3月の提訴や8月のJane Doe 4の報道で情報が止まっています。問題が表に出た2025年12月末から2026年11月15日までを1本の流れにすると、次のようになります。8月以降の行は、新しい訴訟と裁判所の判断が中心です。
時期 | 出来事 |
|---|---|
2025年12月下旬〜2026年1月上旬 | 英米のNPO・CCDHが、11日間でGrokの画像ツールにより約300万枚の性的画像が作られ、うち約23,000枚が未成年とみられる人物を描いていたと推定 |
2026年1月12日 | 英Ofcomが、オンライン安全法に基づきXの正式調査を開始 |
2026年1月14〜16日 | Ashley St. Clair氏がxAIを提訴。カリフォルニア州司法長官が調査を始め、16日に停止命令(cease and desist)の書簡を送付 |
2026年1月15日 | xAIが、Grokアカウントによる実在人物画像の編集を制限 |
2026年1月16〜17日 | 日本政府がXに書面での報告を要求(小野田紀美AI戦略担当大臣)。17日にX日本法人が対策を公表 |
2026年1月 | 女性原告による集団訴訟が提起される(のちにN.D. Cal.の5:26-cv-00772として審理) |
2026年1月26日 | 欧州委員会がDSA(デジタルサービス法)に基づき正式手続を開始 |
2026年1月27日 | 35州の司法長官が連名で保護措置を要求 |
2026年3月16日 | テネシー州の10代女性3人がカリフォルニア州北部連邦地裁に集団訴訟を提起(5:26-cv-02246) |
2026年3月24日 | ボルチモア市がX Corp.・xAI・SpaceXを消費者保護条例違反で提訴 |
2026年3月26日 | オランダ・アムステルダム地裁が、同意のないヌード画像の生成停止を命令(違反1日10万ユーロ、上限1,000万ユーロと報道) |
2026年5月7日 | ミネソタ州知事がnudification禁止法に署名。EUではAI Actでnudifierアプリを禁止する暫定合意 |
2026年5月19日 | 米連邦TAKE IT DOWN Actの通知・削除義務が発効 |
2026年5月 | xAIがNCII専用の通報・削除の手続きを公表 |
2026年6月3日 | 英労働党のJess Asato下院議員がイングランド高等法院に提訴 |
2026年7月6日 | SpaceXAIへ改称 |
2026年7月7日 | 3月の集団訴訟の修正訴状を提出。原告が3人から5人になり、被告にStability AIを追加 |
2026年7月14〜15日 | xAIがユーザー(Terry Harwood氏)を提訴 |
2026年7月27〜31日 | xAIがミネソタ州法の差止を求めて提訴。一時差止命令(TRO)は却下 |
2026年7月30日 | xAIがアーカンソー州の写真家(Russell Bloodworth氏)を提訴(報道は8月下旬) |
2026年8月1日 | ミネソタ州nudification禁止法が施行 |
2026年8月3日 | 3月の集団訴訟で、原告が仮名のまま訴訟を続けることが認められる(xAIは仮名の解除を求めていた) |
2026年8月15〜17日 | Jane Doe 4・Jane Doe 5の訴えが報じられる |
2026年8月18日 | アーカンソー州の未成年6人が、保護者を通じて仮名で集団訴訟を提起(3:26-cv-08567) |
2026年8月下旬 | 「xAIは実際の児童虐待画像でGrokを学習させた」と主張する集団訴訟が提起される(5:26-cv-09016) |
2026年9月4日 | ミネソタ連邦地裁が、xAIの仮差止の申立てを却下 |
2026年9月10日 | xAI(SpaceXAI)が、Grokの利用者によるCSAMをめぐって3件目のユーザー提訴(SpaceXAI v. Tiffany) |
2026年9月22日 | Grok画像関連の3件が1月の集団訴訟に関連事件として紐づけられ、計5件がサンノゼのP. Casey Pitts判事の担当になったと報じられる |
2026年9月下旬 | Pitts判事が、1月の集団訴訟についてxAIの手続停止とテキサス州への移送の申立てを退ける |
2026年10月2日 | 第8巡回区控訴裁判所が、ミネソタ州法のxAIへの執行を控訴審の間だけ差し止める |
2026年10月14日 | Ofcomが調査の途中経過を公表。残りの調査を「違法コンテンツ」と「苦情・通報」の義務に絞る |
2026年10月22日 | Bloodworth氏の事件に関わる、アーカンソー州の3組目の家族が提訴したと報じられる(詳細は未確認) |
2026年10月23日 | Stability AIへの請求を別の事件に分け、xAIへの事件をまとめて進める合意を裁判所が承認。同じ頃、SpaceXの提出書類でバージニア州司法長官が提訴を検討していることが明らかに |
2026年11月19日(予定) | 学習データ訴訟のステータス会議 |
2026年11月30日(期限) | ミネソタ州法の控訴審で、州側の答弁書の提出期限 |
9月下旬の移送・停止の却下は、Law360が9月28日に報じた日付です。別の訴訟まとめサイトは10月中旬と記録しており、日付が食い違っています。
集団訴訟の中身:原告3人から5人へ、被告にStability AIが追加
Jane Doe 4・5が加わった集団訴訟(3月提起、5:26-cv-02246)の主張の中心は、製品設計の責任です。原告側は「xAIは業界標準の安全策を入れないまま、実在人物の性的な画像・動画を作れる生成機能を意図的に設計して売り、利益を得た」と主張しています。
項目 | 内容 |
|---|---|
提訴日 | 2026年3月16日(2026年7月7日に修正訴状) |
裁判所 | 米連邦地裁カリフォルニア州北部地区(N.D. Cal.)。担当はP. Casey Pitts判事と報じられている |
原告 | 当初はテネシー州の10代女性3人(うち1人は未成年)。修正訴状で5人に |
原告代理人 | Lieff Cabraser Heimann & Bernstein、Baehr-Jones Law |
請求 | 13の訴因。児童性的虐待コンテンツの頒布に関する主張から、故意による精神的苦痛の付与(IIED)まで |
主張の中心 | 学校写真・家族写真といった「普通の写真」から性的画像が作られた点 |
被告の追加 | 修正訴状でStability AIを追加。10月23日に、Stability AIへの請求は別の事件(5:26-cv-13235)に分けられた |
手続きの状況 | 8月3日に原告の仮名使用が認められた。本案判断・クラス認定はまだない |
Musk氏個人が被告に含まれるかどうかは報道によって書き方が分かれているため、断定は避けます。通信品位法230条(プラットフォームの免責規定)や合衆国憲法修正第1条を使った却下申立ては、11月15日時点で確認できていません。230条が生成AIの出力にも当てはまるかは大きな争点になるとみられていますが、まだ裁判所の判断は出ていません。
Stability AI に対する主張
追加された被告のStability AIについて、訴状は次のように主張していると報じられています。
- 学習データにCSAMが含まれていると知りながら Stable Diffusion 1.0 を公開した
- 「制限が不評」というユーザーの声を受け、バージョン2.0で安全策を弱めた
- その結果、安全策を外したnudifyアプリが広がる土台を作った
この訴訟が問うているのはGrok固有の問題だけではなく、画像生成モデルの設計と公開のしかたです。安全策の回避(jailbreak)の深刻度をどう評価するかという業界側の議論はAnthropicのjailbreak深刻度フレームワーク、出力を後から分類して止める技術的な対策はShieldstralとは?安全性分類モデルの役割で取り上げています。
8月以降に起きたこと:新しい集団訴訟と裁判所の判断

出典: United States Courts 公式サイト
2026年8月17日以降の変化は大きく3つあります。被害者側の集団訴訟が2件増えたこと、xAIが手続き面の争いで続けて負けていること、ミネソタ州法の執行がxAIに対してだけ止まったことです。
アーカンソー州の未成年6人による集団訴訟(8月18日)
8月18日、アーカンソー州の未成年6人が保護者を通じて、X.AI Corp.・X.AI LLC・X.AI Holdings LLCを相手に集団訴訟を起こしました(Jane Doe I et al. v. X.AI Corp.、3:26-cv-08567、N.D. Cal.)。報道によると、請求は12項目あります。Masha's Law、人身取引被害者保護法の受益者責任、アーカンソー州のディープフェイク法、過失、設計の欠陥などです。全米の被害者を対象にしたクラスと、アーカンソー州のサブクラスを求めていますが、認められてはいません。
背景には、ベントンビルの写真家Russell Bloodworth氏の刑事事件があると報じられています。同氏は200件を超える訴因で起訴され、7月に無罪を主張しました。10月22日には、同じ事件に関わる3組目の家族が5歳の子どものために提訴したとの報道もあります(詳細は未確認)。
「CSAMで学習させた」と訴える集団訴訟(8月下旬)
8月下旬に起こされた集団訴訟(5:26-cv-09016、N.D. Cal.)は、論点がこれまでと違います。原告は、幼いころの性的虐待の映像がFBIの被害者通知プログラムで把握されている被害者です。訴状は「xAIは実際の児童虐待の画像・映像でGrokのnudify機能を学習させた」と主張しています。
原告側の根拠は、X上の公開投稿やGrokの出力を学習に使うというxAIの規約・方針です。X上に投稿されたCSAMが学習データに取り込まれた可能性が高い、と訴状は主張しています(CyberScoop、2026年8月27日)。請求の内容は、Masha's Lawなどに基づく損害賠償(法定額は1違反15万ドル)と、生成されたCSAMの破棄や生成の停止を命じる差止です。xAIはコメントに応じていません。
これまでの訴訟は「出力を止める安全策が十分だったか」が争点でした。この訴訟は「学習データの段階でCSAMが入っていたか」を問うもので、別の論点です。
論点 | これまでの訴訟(出力の安全策) | 学習データ訴訟 |
|---|---|---|
問われていること | 実在人物の性的画像を作らせない仕組みがあったか | 学習データにCSAMが含まれていたか |
主な原告 | 写真を素材にされた本人 | 過去の虐待映像の被害者 |
主な根拠 | 設計の欠陥、過失、州のディープフェイク法 | Masha's Law(CSAMの所持・利用) |
xAIの立場(報道ベース) | 悪用したのはユーザーで、出力はプロンプトの結果 | コメントなし |
xAIの移送・停止の申立てが退けられた
xAIは、利用規約の管轄条項を根拠に、訴訟を本社のあるテキサス州で審理するよう求めてきました。しかしPitts判事は2026年9月下旬、1月の集団訴訟(5:26-cv-00772)について、手続停止とテキサス州への移送を求めるxAIの申立てを退けたと報じられています(Law360)。
同じ流れは、CSAM以外の訴訟でも見られます。8月13日には、Grokのプライバシー訴訟(Skaggs v. X.AI)で別の判事が「Grokの登録画面やチャット画面では、規約に同意したと言えるだけの告知がない」として、テキサス州への移送を退けました。利用規約の管轄条項でテキサス州に集める戦略は、カリフォルニアの裁判所で続けて退けられていると言えます。
9月22日には、Grokの画像に関わる3件が1月の集団訴訟の関連事件とされ、計5件がPitts判事の担当になったと報じられています。全米の訴訟をまとめて扱う広域係属訴訟(MDL)にはなっていません。10月23日には、Stability AIへの請求を別事件に分け、xAIへの事件はまとめて進める合意が承認されました。
xAI(SpaceXAI)が抱える主な法的措置【一覧表】

出典: California Office of the Attorney General 公式プレスリリース
2026年8月時点では「少なくとも6件」と整理されることが多かったのですが、11月15日時点では、性的画像に関わる訴訟と法的措置だけで10件を超えています。媒体によって数え方が違うため、「被害者・自治体がxAIを訴えている訴訟」「xAIが原告になっている訴訟」「規制当局の調査」に分けて並べます。
被害者・自治体がxAIを訴えている訴訟
# | 案件 | 時期 | 裁判所 | 主張の要点 | 最新の動き |
|---|---|---|---|---|---|
1 | Ashley St. Clair氏の訴訟 | 2026年1月 | ニューヨーク南部連邦地裁 → テキサス北部へ移送 | 同意なく性的ディープフェイクを作られた。xAIは規約違反で反訴 | 6月にテキサス北部への移送が認められ、7月に第2巡回区が行政的停止。その後は未確認 |
2 | 女性原告の集団訴訟 | 2026年1月 | N.D. Cal.(5:26-cv-00772) | 同意のない画像の生成と、削除対応の遅れ | 9月下旬にxAIの停止・移送の申立てが退けられる |
3 | テネシー州10代の集団訴訟(Jane Doe 1〜5) | 2026年3月16日/7月7日修正 | N.D. Cal.(5:26-cv-02246) | 学校写真・家族写真からのCSAM生成 | 8月に仮名使用を承認。10月にStability AI分を別事件へ |
4 | ボルチモア市の提訴 | 2026年3月24日 | 州裁判所 → 5月にメリーランド連邦地裁へ移送 | 消費者保護条例違反。制裁金と差止を請求 | 移送後の進展は未確認 |
5 | オランダ・アムステルダム地裁の命令 | 2026年3月26日 | アムステルダム地裁 | 同意のないヌード画像の生成停止命令 | 一次情報は未確認 |
6 | Jess Asato英下院議員の訴え | 2026年6月3日 | イングランド高等法院 | データ保護法違反・私的情報の濫用 | その後の進展は未確認 |
7 | アーカンソー州の未成年6人の集団訴訟 | 2026年8月18日 | N.D. Cal.(3:26-cv-08567) | Masha's Law、人身取引被害者保護法、州ディープフェイク法など12の請求 | クラスは未認定 |
8 | 学習データ集団訴訟 | 2026年8月下旬 | N.D. Cal.(5:26-cv-09016) | 実際のCSAMでGrokを学習させた | 11月19日にステータス会議予定 |
9 | アーカンソー州の3組目の家族 | 2026年10月22日 | 未確認 | Bloodworth氏の事件に関連 | 詳細は未確認 |
このほか、ペンシルベニア州バックス郡の案件(2026年6月にXが被告に加えられたと報道)もあります。
xAI(SpaceXAI)が原告になっている訴訟
案件 | 時期 | 裁判所 | 内容 |
|---|---|---|---|
X.AI LLC v. Harwood | 2026年7月14〜15日 | テキサス北部連邦地裁(7:26-cv-00078) | サウスカロライナ州の男性がGrokを悪用してCSAMを作ったとして提訴。損害賠償、被害者から訴えられた場合の防御費用の負担、Grok利用の永久禁止を請求 |
X.AI LLC v. Bloodworth | 2026年7月30日(報道は8月下旬) | テキサス北部連邦地裁(7:26-cv-00089) | アーカンソー州の写真家が複数アカウントを使って安全策を回避したと主張。利用規約の補償条項(indemnification)を根拠に、被害家族からの訴訟の防御費用、新しいアカウントの作成禁止、損害賠償を請求。10月2日に修正訴状 |
SpaceXAI v. Tiffany | 2026年9月10日 | テキサス北部連邦地裁(7:26-cv-00102) | Grokの利用者によるCSAMをめぐる補償請求。被告の詳細は未確認 |
X.AI LLC v. Ellison | 2026年7月27日 | ミネソタ連邦地裁 → 第8巡回区 | ミネソタ州nudification禁止法の差止を求める。10月2日に控訴審の間の執行差止 |
訴訟とは別に進む規制当局の動き
当局 | 時期 | 内容 | 11月15日時点の状況 |
|---|---|---|---|
英Ofcom | 2026年1月12日〜 | オンライン安全法に基づくXの正式調査 | 10月14日の途中経過で、年齢確認が済んでいないアカウントでも年齢制限付きのポルノを見られる状態があったと認定。残りの調査を「違法コンテンツ」と「苦情・通報」の義務に絞る。違反の暫定通知はまだ。罰金の上限は1,800万ポンドか全世界売上の10%の大きい方 |
欧州委員会 | 2026年1月26日〜 | DSAに基づく正式手続。Grok関連データの保全命令(2026年末まで) | 暫定認定・決定は確認できず |
アイルランドDPC | 2026年〜 | GDPRに基づく調査(欧州の子どものデータの扱いなど) | 継続中と報道 |
カリフォルニア州司法長官 | 2026年1月14日調査開始/16日停止命令書簡 | 州民事法§1708.86や刑法§311などを根拠に是正を要求 | 州としての提訴は確認できず |
バージニア州司法長官 | 2026年10月 | Grokが同意のない性的画像を作りやすい点について虚偽の説明や開示漏れがあったとして、提訴を検討 | SpaceXの提出書類で開示(MLex、10月23日)。提訴はまだ |
35州の司法長官 | 2026年1月27日 | 連名書簡で保護措置を要求 | — |
パリ検察(サイバー犯罪部) | 2026年2月〜 | X仏事務所を捜索。4月にマスク氏らを任意聴取に呼んだが欠席と報道 | 4月以降の進展は未確認 |
FTC | 2026年 | nudifyツールを提供する12社に警告書簡 | — |
SpaceXが2026年5月に提出した上場書類(S-1)では、2025年12月時点で訴訟の損失見込みとして約5億3,000万ドルを計上したと報じられています。ただしこの額には他の調査も含まれ、Grokの性的画像問題だけの金額ではありません。同じ書類は、Grokの「Spicy」「Unhinged」モードを「通常より不遜で辛辣になり得るため、リスクを高める」と書いていました(Yahoo Finance、2026年5月22日)。
州司法長官がAI企業を調べる動きはxAIに限りません。OpenAIへの州司法長官調査やxAI Grok安全エンジニア解雇訴訟とあわせて見ると、2026年はAI企業の安全体制が法的責任として問われた年だとわかります。Appleがアプリストアの規約でディープフェイク生成アプリにどう対応しているかはApp Storeのディープフェイク規約の解説にまとめています。
訴えられる側でもあり、訴える側でもある
xAIは、被害者に訴えられている一方で、Grokを悪用したユーザーを8月以降に増えた分を含めて3件訴えています。どれも利用規約の補償条項を根拠に、被害者から訴えられた際の費用をユーザーに負わせようとするものです。
「CSAM問題で訴えられている会社が、CSAM問題でユーザーを訴えた」という構図は、Techdirtなどが皮肉を込めて報じました。xAI側は「Grokは強力で中立的な生成AIツールで、出力はユーザーのプロンプトの結果だ」と主張していると報じられています。Harwood氏の訴訟では、Grokは何度も拒否したが、ユーザーがプロンプトを書き換えて回避したと主張しています。
観点 | 被害者側の主張 | xAI側の主張 |
|---|---|---|
誰の責任か | 悪用しやすい製品を設計・販売した会社 | 安全策を回避して悪用したユーザー |
安全策の評価 | 業界標準の安全策が入っていなかった | 何度も拒否しており、ユーザーが回避した |
審理の場所 | カリフォルニア州北部連邦地裁 | 利用規約に基づきテキサス州 |
費用の負担 | 会社が賠償すべき | 補償条項によりユーザーが負うべき |
xAIは、2026年にアカウント52,222件を停止し、NCMECに73,604件を報告し、少なくとも244人の逮捕につながったと説明しています(GIGAZINE、2026年7月17日)。ただしこれは同社の説明で、第三者による検証は確認できていません。
nudification規制はどこまで進んだか【国際比較】

出典: European Parliament 公式プレスリリース
nudification・NCIIの規制は、2026年に米国・EU・英国で具体的になりました。11月時点の大きな変化は、全米で初めてのミネソタ州法が、控訴審の間はxAIに対して執行されなくなったことです。
地域・法令 | 施行・期限 | 規制の対象 | 制裁・執行 | 11月15日時点の状況 |
|---|---|---|---|---|
米連邦:TAKE IT DOWN Act | 2026年5月19日(通知・削除義務が発効) | 同意のない性的な描写。プラットフォームに削除申請の窓口を義務づけ | 申請から48時間以内に該当画像と同じコピーを削除。執行はFTC | 施行中 |
米ミネソタ州:nudification禁止法(House File 1606) | 2026年5月7日署名/8月1日施行(全米初) | AIで実在人物の写真を性的な画像に変えること、nudification製品の宣伝 | 違反企業に最大50万ドルの民事制裁、被害者は損害賠償を請求できる(CBS Minnesota) | 9月4日に地裁がxAIの仮差止を却下 → 10月2日に第8巡回区がxAIへの執行を控訴審の間差し止め。他の事業者には適用されると報じられている |
EU:AI Act(nudifierアプリ禁止) | 2026年5月7日暫定合意/対応期限 2026年12月2日 | CSAMを生成するAI、特定できる人物の性的な部位を同意なく描くAI、同意なく性的行為を描くAI(画像・動画・音声) | 上市・安全策のないシステムの上市・利用者による生成を禁止。電子透かし義務の適用日も12月2日に整理 | 期限が2週間あまり先に迫る |
英国 | 2026年2月6日(Data (Use and Access) Act 2025 第138条) | 同意のない偽の性的画像の作成と作成の依頼を犯罪化 | nudificationツール自体を禁じる法整備も進行中 | 10月にOfcomの調査を受け、英国のユーザーはGrokの画像生成でポルノ的な画像を作れないように制限 |
日本 | AI生成CSAMを名指しした専用法は確認できず | 実在児童の画像が素材なら児童ポルノ禁止法の対象になり得る。名誉毀損、わいせつ物頒布、著作権法違反なども | 鳥取県は条例を改正し、実在の18歳未満のAI生成わいせつ画像を規制対象に含めた | 2026年に性的ディープフェイク専用の新法が成立したとの情報は確認できず |
ミネソタ州法の控訴審では、第8巡回区の差止命令は理由を書かない1文のものでした。州司法長官は「強く同意できない」との立場を示しています。xAIは10月末に控訴趣意書を出し、州側の答弁書の期限は11月30日です。地裁は9月4日の決定で、xAIが回復できない損害を示せていないことや提訴が遅かったことを理由に挙げ、州法が憲法に反するかどうかには判断を示していません。xAIは裁判資料で、8月1日からミネソタ州のユーザー向けにnudification機能を止めたと述べていますが、差止後の提供状況は確認できていません。
カリフォルニア州でも、xAIが州法をめぐって起こした訴訟(xAI v. Bonta)が第9巡回区に係属しています。ただし、どの州法が対象かは一次情報で確認できていないため、ここでは詳しく扱いません。
日本でのAIと人格権(肖像・声・氏名)の扱いは法務省が生成AIの「声の権利」指針を公表、AIが作った画像に来歴情報を付ける電子透かしの仕組みはGrok APIの電子透かしの解説にまとめています。
このツールを自社のシステムや業務にどう組み込むか、ご提案します
初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)
数字はどこから出ているのか:出所別の整理

出典: AI Forensics「Grok Unleashed(updated)」
この問題では多くの数字が出回っていますが、推計・実測・自己申告が混ざっています。誰が出した数字かを分けて読まないと、実態を見誤ります。
出所 | 性質 | 主な数字 |
|---|---|---|
CCDH(Center for Countering Digital Hate) | 第三者NPOの推計 | 2025年12月29日〜2026年1月8日の11日間で約300万枚の性的画像が作られたと推定。うち約23,000枚が未成年とみられる人物を描写 |
AI Forensics(欧州のAI監査NPO) | 抜き取り調査による実測 | 20,000枚のサンプルのうち約半数が「最小限の衣服」の人物。2026年1月中旬までに10%未満に下がった。X経由よりGrok.comやアプリ経由のほうが露骨な出力が出やすいとも報告 |
Reuters | 統制した実験 | 実在人物の性的画像を作らせる55回の試みのうち45回で、Grokが自社の安全フィルタをすり抜けたと報告(2026年1月) |
IWF(英Internet Watch Foundation) | 専門アナリストの確認 | Grokが作った画像に、英国法上のCSAMにあたるものが含まれることを確認(2026年1月) |
Resemble AI | 商用ベンダーのレポート | 2026年上半期に特定できたディープフェイクファイルの87%がGrok由来(2026年8月12日公開) |
xAI(SpaceXAI) | 会社の自己申告 | 2026年にアカウント停止52,222件、NCMEC報告73,604件、少なくとも244人の逮捕につながった |
SpaceXの上場書類(S-1) | 会社の開示 | 訴訟の損失見込み約5億3,000万ドル(Grokの性的画像問題以外も含む) |
CCDHの300万枚は推計で、実測ではありません。AI Forensicsのデータは、1月中旬に露骨な出力の割合が下がったことも示しており、状況は時期によって変わっています。Resemble AIの87%は、同社が特定できたファイルの中での割合で、世界のディープフェイク全体に占める割合ではありません。
日本での動き:政府の要請、X日本法人の対応、そして「卒アル問題」

出典: 警察庁 公式サイト
日本でも2026年1月に政府が動き、4月には文部科学省などが連名で注意喚起の資料を出しました。ただし11月15日時点で、性的ディープフェイクを直接取り締まる新しい法律は確認できていません。
日付 | 出来事 |
|---|---|
2026年1月9日 | 林芳正総務大臣が、Grokによる性的な画像加工は肖像権・名誉・プライバシーの侵害になり得ると発言。総務省としてXに対応を促すと表明 |
2026年1月16日 | 小野田紀美AI戦略担当大臣が、同意なく作られた画像についてXに書面での報告を要求。法的措置も検討していると説明(Bloomberg報道) |
2026年1月17日 | X日本法人が対策を公表。実在人物のヌード生成・脱衣加工を防ぐ技術を全ユーザーに適用し、24時間の監視体制と捜査機関との連携を説明 |
2026年4月9日付 | 文部科学省・警察庁・内閣府・こども家庭庁が連名で、性的ディープフェイクへの注意を呼びかける資料を公表 |
日本の「卒アル問題」
Jane Doe 5が主張する「中学2年の卒業写真を素材にされた」という被害は、日本で報じられている「卒アル問題」と同じ構図です。
- 警察庁の統計では、2025年1〜9月に未成年が関わる事案が約80件あり、8割超が中高生
- 加害者の半数が同級生や同じ学校の生徒
- 素材はSNSの投稿だけでなく、学校配布のタブレットで撮った写真や卒業アルバム
自分でSNSに写真を載せていなくても被害に遭い得るのが、この問題の一番重要な点です。警察庁も啓発資料を出しており、「スマホがあれば誰でも加害者になり得る」と強調しています。
日本の法的な状況(2026年11月時点で確認できる範囲)
- 性的ディープフェイクの作成・拡散は、名誉毀損罪、わいせつ物頒布等罪、著作権法違反、児童ポルノ禁止法違反などに問われ得ると解説されています
- 一方で、「生成AIで児童性的虐待コンテンツを作る行為」を名指しで禁じる法律は、法律実務の解説で整備途上と指摘されています
- 実在の児童の画像を素材にした場合は児童ポルノ禁止法の対象になり得ます。架空の児童だけを描いた生成物は同法の対象外と整理されるのが一般的です
- 地方では、鳥取県が条例を改正し、実在の18歳未満のAI生成わいせつ画像を児童ポルノ等に含めました
個別の事案が違法かどうかは、弁護士や警察などの専門機関に相談してください。
Grokは今も使えるのか:機能と安全対策の現状
Grokと Grok Imagine は、2026年11月時点でも提供が続いています。xAIは問題になった機能を全面的には止めず、有料会員に限る、実在人物の編集をブロックする、地域ごとに制限するといった形で対策を重ねてきました。
時期 | 対策(公式発表・報道) |
|---|---|
2026年1月 | XのGrokアカウント経由の画像生成・編集を有料会員に限定。実在人物を露出の多い服装に編集することを、違法な地域でブロック |
2026年5月 | NCII専用の通報・削除の手続きを公表(公式ヘルプページ) |
2026年6月26日 | 改訂版のAcceptable Use Policy(利用ポリシー)が発効 |
2026年7月6日 | Grok FAQを更新し「NSFWを有効にしてもモデレーションは無効にならない」と明記 |
2026年8月1日 | ミネソタ州のユーザー向けにnudification機能を止めたと裁判資料で説明 |
2026年10月 | 英国のユーザーは画像生成でポルノ的な画像を見る・作る・共有することができなくなり、子ども向けの制限も追加(Ofcomの公表) |
xAIの公式ヘルプページ「Reporting non-consensual intimate content」では、Grokの会話や生成画像を対象にした通報・削除の手続きを説明しています。アプリやデスクトップから通報でき、GrokやxAIのアカウントがなくても通報できること、申請を受けてから遅くとも48時間以内に削除することが示されています。
xAIの利用ポリシーでは、次の行為を禁じています。
- 未成年を含む性的コンテンツ・CSAM
- 実在人物を裸にする・性的に描く、ポルノ的な肖像の生成
- NCII(同意のない性的画像)
- 安全策の回避(jailbreak)
- 来歴情報(電子透かしなど)の削除・改ざん
規約では禁じているが、それが技術的に守られていたかが訴訟の争点です。AI Forensicsは、X上の公開のやり取りとgrok.comの非公開チャットで扱いが揃っていないと指摘しており、2026年2月以降も同意がないと伝えたのに性的画像が作られたという報道がありました。Spicyモードが11月時点でどの地域でどう提供されているかは、公式情報で確認できていません。
料金プランは2026年に何度も変わっており、11月時点の金額は公式サイトで確認できていません。最新の料金と機能はGrokの解説記事と公式サイトで確認してください。
被害を受けたとき/保護者・企業として今できること

被害に気づいたら、最初に証拠を残し、次にプラットフォームへ削除を申請し、そのあと公的な窓口に相談するのが基本の順番です。訴訟の結論を待つ必要はありません。
自分や家族の画像が悪用されたと気づいたとき
- 証拠を残す:投稿のURL、アカウント名、日時、スクリーンショットを保存します。削除されると確認できなくなるので、申請の前に記録します
- プラットフォームに削除を申請する:Xはヘルプセンター(help.x.com)の、同意のないヌードに関する通報から申告できます。Grokで作られた画像は、xAIのNCII通報ページからアカウントなしでも通報できます
- 米国のプラットフォームには48時間ルールがある:TAKE IT DOWN Actにより、対象のプラットフォームは削除申請から48時間以内に該当画像と同じコピーを削除しなければなりません。申請した日時を記録しておきます
- 公的な相談窓口を使う:削除の方法や発信者情報の扱いは、総務省委託の違法・有害情報相談センターが無料で相談を受けています。児童の性的画像を含む違法情報はインターネット・ホットラインセンター、リベンジポルノなどはセーフラインに通報できます
- 犯罪にあたり得る場合は警察に相談する:実在の児童の画像が素材になっている場合は、刑事事件として扱われる可能性があります
米国の集団訴訟について、和解・補償基金・請求フォームは11月15日時点で存在しません。「Grok訴訟に参加できる」「補償金を代わりに請求する」と手数料を求める業者は詐欺の可能性が高いと、米国の訴訟情報サイトが注意を呼びかけています。
保護者として
- 「SNSに載せない」だけでは防げないことを家族で共有する(学校写真や卒業アルバムが素材になり得る)
- 子どもが打ち明けたときに責めない。加害者の半数が同級生というデータがあり、子どもは相談をためらいやすい
- 加害者になるリスクも伝える。面白半分でも犯罪になり得ることを具体的に話す
企業・組織として
- 従業員や顧客の写真を扱う業務で、画像生成AIへのアップロードを禁止・制限するルールを作る
- 社内で使う画像生成ツールを選ぶときは、安全フィルタ、NCIIの通報窓口と削除までの期限、学習データの方針、来歴情報(電子透かし)の有無を確認項目に入れる
- EU向けにサービスを出している場合は、AI Actの対応期限(2026年12月2日)と電子透かし対応から逆算して準備する
- ミネソタ州法のように製品の宣伝まで規制する州法が出てきているため、マーケティングの表現も確認する
画像生成モデルを自社のサービスや業務システムに組み込む場合は、入力画像のチェックや出力の分類フィルタ、通報・削除の仕組みまで含めて設計し、費用を見積もる必要があります。組み込み方の選択肢と費用の目安はAI開発の費用相場と見積の内訳で整理しています。生成AIを業務で使うときのリスク全体は生成AIのセキュリティリスクとは?が参考になります。
この問題の報道に触れて気持ちがつらくなった方は、厚生労働省の「まもろうよ こころ」に相談窓口の一覧があります。
この記事が役立つ方/役立たない方
役立つ方
- 断片的なニュースではなく全体像をつかみたい方:2025年12月から2026年11月までの流れと、10件を超える訴訟・調査の関係を一覧で確認できます
- 企業でAI利用ルールを作る担当者:nudification規制の国際比較と、ツールを選ぶときの確認項目を判断材料にできます
- 保護者・教育関係者:日本の「卒アル問題」の実態と、被害に遭ったときの相談先を確認できます
- AIガバナンス・法務に関心のある方:製品設計の責任とユーザーの責任がぶつかる構図や、管轄条項・学習データという新しい論点を、双方の主張から追えます
役立たない方
- Grokの使い方や画像生成のコツを知りたい方:この記事は訴訟と規制の解説です。機能や料金はGrokの解説記事を見てください
- 個別の事案について法的な判断がほしい方:公開情報の整理で、法的助言ではありません。弁護士などの専門家に相談してください
- 訴状の原文を逐条で分析したい法律実務家:報道と公表情報に基づく整理で、訴状全文の分析ではありません
- 「Grokは危険だから使うな」という結論だけがほしい方:事実と主張を分けて示すことを目的にしており、単純な断定はしていません
よくある質問
Q. 訴訟でxAIの責任は認められたのですか?
A. 2026年11月15日時点では、まだ認められていません。裁判所が判断したのは、原告の仮名使用、テキサス州への移送や手続停止、ミネソタ州法の仮差止といった手続面だけです。責任の有無を判断する本案判断、クラス認定、和解はどの訴訟でも出ていません。
Q. 「Grokの集団訴訟に参加して補償金を受け取れる」という案内は本当ですか?
A. 現時点で和解や補償基金はなく、補償金を請求する手続きもありません。手数料を求める「請求代行」は詐欺の可能性が高いので注意してください。被害を受けた場合は、まず削除申請と国内の公的窓口・警察への相談を優先し、訴訟を検討するなら弁護士に直接相談するのが確実です。
Q. 「CSAMで学習させた」という訴訟は何が新しいのですか?
A. これまでの訴訟は「実在人物の性的画像を作らせない安全策が十分だったか」という出力の問題を争っていました。8月下旬の訴訟は、X上に投稿されたCSAMが学習データに取り込まれたと主張し、学習の段階の責任を問うものです。生成物の破棄や生成の停止も求めているため、認められればモデルの作り方そのものに影響します。
Q. ミネソタ州のnudification禁止法は今も有効ですか?
A. 州法そのものは2026年8月1日から施行されています。ただし10月2日に第8巡回区控訴裁判所が、控訴審の間はxAIに対して執行しないよう命じました。報道によると、他の事業者には州法が適用されます。州法が憲法に反するかどうかは、まだどの裁判所も判断していません。
Q. AIで作った画像でも違法になるのですか?
A. 素材が実在の児童の写真であれば、日本では児童ポルノ禁止法の対象になり得ると解説されています。英国は2026年2月から、同意のない偽の性的画像を作ること自体を犯罪にしました。EUはAI Actで、CSAMを作るAIシステムの上市を禁じる方向で合意しています。架空の人物だけを描いた生成物の扱いは、国や法令によって違います。
Q. 他の画像生成AIなら安全ですか?
A. 「絶対に安全」と言えるツールはありません。ただ、学習データの選別、生成時の拒否、出力後の分類フィルタ、来歴情報の付与といった対策が何重にあるかで差は出ます。業務で使うツールは、公式ポリシーの禁止事項が具体的か、通報・削除の手続きと期限が示されているか、電子透かしに対応しているかで比べるのが現実的です。
Q. この訴訟はいつ結論が出ますか?
A. 見通しはまだ立っていません。米国の集団訴訟では、クラス認定や却下申立ての判断だけで1年以上かかることが珍しくありません。直近の予定は、学習データ訴訟のステータス会議(11月19日)とミネソタ州法の控訴審の州側答弁書の期限(11月30日)です。EU AI Actの対応期限(12月2日)のように、訴訟の結論より先に規制の期限が来ます。
まとめ
2026年11月15日時点のGrok関連のCSAM訴訟について、押さえておきたい点を整理します。
論点 | 現状 |
|---|---|
Jane Doe 4の訴え | 11歳のときの写真1枚から7,000枚超が作られたと主張。会社が捜査機関に記録を渡さなかったとも主張 |
被害者側の訴訟 | 3月の集団訴訟(原告5人)に加え、8月にアーカンソー州の未成年6人の集団訴訟と、学習データの集団訴訟が加わった。性的画像に関わる訴訟・措置は10件超 |
裁判所の判断 | 仮名使用の承認、移送・停止の却下など手続面のみ。本案判断・クラス認定・和解はない |
xAI(SpaceXAI)の立場 | 悪用したユーザーを3件提訴し、補償条項で費用を負わせようとしている。ミネソタ州法には差止訴訟 |
ミネソタ州法 | 8月1日施行。10月2日から控訴審の間、xAIへの執行が止まっている |
規制当局 | Ofcomは調査範囲を絞って継続、欧州委員会は手続中、バージニア州司法長官が提訴を検討 |
日本 | 政府がXに対応を要請し、4月に省庁連名で注意喚起。専用の新法は確認できず |
読者にとっての意味 | SNSに載せていなくても被害に遭い得る。証拠を残す→削除申請→公的窓口の順番を知っておくことが大事 |
この件は特定企業の不祥事というより、生成AIの製品設計と学習データの責任がどこまで問われるかを決める裁判として見るべき事案です。8月以降は学習データという新しい論点が加わり、利用規約でテキサス州に審理を集める戦略も退けられています。訴訟の結論より先にEU AI Actの期限が来るため、ツールを提供する側も使う側も、今のうちに対応を整えておく必要があります。
主な情報ソース
- TechCrunch「Woman claims her stepfather used Grok to transform childhood photo into explicit imagery」(2026-08-15)
- Engadget「Another woman joins lawsuit accusing Grok of generating CSAM」
- CyberScoop「xAI Grok CSAM class action lawsuit」(2026-08-27)
- CyberScoop「Deepfake CSAM lawsuit against Grok, xAI expands to Stability AI」
- Open Class Actions「xAI Grok CSAM Arkansas class action lawsuit」
- NPR「SpaceXAI, Stability AI face expanded deepfake CSAM class action」(2026-07-09)
- NPR「Tennessee teens sue xAI over sexualized images」(2026-03-16)
- Law360「Grok-Maker Can't Get Deepfake Suit Paused Or Transferred」
- PPC Land「xAI loses Texas venue bid as court finds Grok terms too faint to bind」
- Techdirt「xAI, which is being sued over Grok's CSAM problem, sues a user over Grok's CSAM problem」(2026-07-21)
- NWA Democrat-Gazette「Elon Musk's company's lawsuit blames Bentonville...」(2026-08-21)
- GIGAZINE「Grokを悪用して児童性的虐待画像を作成した男性をSpaceXAIが提訴」(2026-07-17)
- CBS Minnesota「Federal appeals court pauses Minnesota's AI nudification ban」
- CBS Minnesota「AI nudification Musk lawsuit: judge rules on injunction」
- ミネソタ州司法長官室 発表(2026-09-04)
- MPR News「Despite lawsuit, Minnesota's nudification law is in effect」(2026-08-04)
- MLex(2026-10-23)バージニア州司法長官の提訴検討
- Ofcom「Update: monitoring X's response to hate and terror content and Grok investigation latest」
- US News(Reuters)「UK media watchdog probe of X to focus on response to hate content」(2026-10-14)
- 欧州委員会「Commission investigates Grok and X's recommender systems under the Digital Services Act」
- 欧州議会プレスリリース「AI Act: deal on simplification measures, ban on nudifier apps」
- California AG「Attorney General Bonta sends cease and desist letter to xAI」(2026-01-16)
- xAI「Reporting non-consensual intimate content」
- Yahoo Finance「SpaceX warns in IPO paperwork about Grok」(2026-05-22)
- Inside Privacy「The TAKE IT DOWN Act's notice and removal requirements enter into effect」
- AI Forensics「Grok Unleashed(updated)」
- Lieff Cabraser(原告代理人)事件ページ
- 文部科学省ほか 性的ディープフェイクに関する注意喚起資料(2026-04-09付)
- Impress Watch「Grokの性的画像加工とディープフェイクで起きる『卒アル問題』」
- ITmedia Mobile「X日本法人が対策を公表」
- 財経新聞「上半期のディープフェイク攻撃、特定できたファイルの87%がGrok由来」(2026-08-14)
このツールを自社のシステムや業務にどう組み込むか、ご提案します
この記事の著者

AI革命
編集部
AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。
最新記事

Cognition(Devin)$25B評価額・$1B調達を完全解説|ARR $492M・月50%成長・Mercedes/NASA/Goldman Sachs採用からSeries E $48B・売上$1B突破まで【2026年11月更新】
2026/05/28

Ineffable Intelligenceとは?David Silver創業・$1.1Bシード・$5.1B評価額から共同創業者6名・NVIDIA/Google提携まで解説【2026年11月最新】
2026/04/28

Google AI StudioでGoogle Cloudクレジットを受け取る方法|AI Pro・Ultra特典の金額・条件・使える量【2026年11月】
2026/11/16

Hugging Face買収はどうなる?NVIDIA129億ドル案件の現状|DOJの調べ・フアンCEO辞任の影響・料金【2026年11月最新】
2026/08/27

Ox Alphaとは?正体はGLM-5.3-Flash|OpenRouter1位の経緯・無料終了後の使い方と料金【2026年11月最新】
2026/08/26

ガバメントAI「源内」とは?デジタル庁OSSの中身・使い方・導入コスト【2026年11月最新】
2026/04/28


