AIツール2026年11月更新

Grok画像生成のCSAM訴訟が拡大|11歳の写真から7,000枚・Jane Doe 4の訴えとxAI(SpaceXAI)の10件超の法的措置・nudification規制【2026年11月最新】

公開日: 2026/08/17
更新日: 2026/11/15
Grok画像生成のCSAM訴訟が拡大|11歳の写真から7,000枚・Jane Doe 4の訴えとxAI(SpaceXAI)の10件超の法的措置・nudification規制【2026年11月最新】

この記事のポイント

Grokの画像生成をめぐるCSAM訴訟は8月以降も増え、アーカンソー州の未成年6人の集団訴訟や「CSAMで学習させた」と訴える集団訴訟が加わりました。Jane Doe 4の訴え、xAI(SpaceXAI)の訴訟一覧、ミネソタ州nudification禁止法の控訴審、各国の規制、被害時の通報先を2026年11月時点で整理します。

Grokの画像生成機能をめぐるCSAM(児童性的虐待コンテンツ)訴訟は、2026年8月以降も増えています。アーカンソー州の未成年6人による集団訴訟や、「xAIは実際の児童虐待画像でGrokを学習させた」と訴える集団訴訟が加わり、xAI(2026年7月にSpaceXAIへ改称)が当事者になっている関連訴訟・法的措置は10件を超えました。ただし2026年11月15日時点で、責任の有無について裁判所が判断した例はなく、和解やクラス認定(集団として扱うことの承認)もまだありません。

裁判所が判断したのは、移送や手続停止、仮差止といった手続面だけです。9月下旬にはxAIが求めた手続停止とテキサス州への移送が退けられました。一方でミネソタ州のnudification禁止法は、10月2日に連邦控訴裁判所(第8巡回区)がxAIへの執行を控訴審の間だけ差し止めています。

この記事でわかること

  • 11歳当時の写真から7,000枚超の性的画像を生成されたと訴える原告「Jane Doe 4」の主張
  • 2025年12月から2026年11月までの経緯と、8月以降に加わった訴訟・裁判所の判断
  • xAI(SpaceXAI)が被告になっている訴訟と、逆に原告としてユーザーや州を訴えている訴訟の一覧
  • 米国・EU・英国・日本のnudification規制の現状
  • 被害に気づいたときの通報先と、保護者・企業が取れる対策

こんな方に向けた記事です: ニュースを断片的にしか追えていない方、社内のAI利用ルールを作る担当者、保護者・教育関係者、AIガバナンスや法務に関心のある方。

記述にあたっての注意

  • 訴状に書かれた内容は原告側の主張であり、裁判所が認定した事実ではありません。「〜と主張している」「〜と報じられている」と書き分けています。
  • xAI(SpaceXAI)は多くの報道で取材に応じていません。「否定した」「反論した」とは書いていません。
  • 実在の被害当事者がいるテーマです。生成された画像の描写や、生成の手法・制限の回避方法は一切書きません。
  • 2026年11月15日時点で確認できた公開情報をまとめたもので、法的助言ではありません。

xAI・SpaceXAI・Grokという名前の関係

Grokの公式ロゴ。xAIからSpaceXAIへの改称後もGrokのブランド名は維持されている

出典: Grok公式サイト(grok.com)

Grokを開発・提供する会社の名前は、2026年に2回変わっていますが、Grokというブランド名はそのまま使われています。訴訟の記事では「xAI」「SpaceXAI」「SpaceX」「X Corp.」が混ざって出てきますが、同じ会社グループを指しています。

時期

会社の状況

〜2026年2月1日

xAI(独立企業)がGrokを開発・提供

2026年2月2日

SpaceXがxAIを株式交換で吸収合併(合算評価額は約1.25兆ドルと報じられた)

2026年6月12日

Nasdaq上場(ティッカー:SPCX)

2026年7月6日

正式にSpaceXAIへ改称。Grokの名称は維持

2026年10月4日

マスク氏がXで「SpaceXSI」への改称を示唆。正式な社名変更は11月15日時点で確認できず

訴訟の当事者名は、提訴した時期によって X.AI Corp. / X.AI LLC / X.AI Holdings LLC / SpaceXAI などに分かれています。この記事では、読みやすさを優先して原則「xAI」と書き、必要な箇所で現在の社名を添えます。合併・上場の数値は報道ベースで、公式IR資料では確認できていません。

Grokの機能や料金はGrokとは?Agent Mode・Grok Imagineの使い方と料金、問題になっている画像・動画生成機能はGrok Imagineとは?AI動画・画像生成のガイドで扱っています。

用語の整理

用語

意味

CSAM

Child Sexual Abuse Material(児童性的虐待コンテンツ)。国連やNCMECは「児童ポルノ」よりこの用語を推奨している

NCII

Non-Consensual Intimate Imagery(同意のない性的画像)。性的ディープフェイクを含む

nudification

実在人物の写真を加工して裸に見せる行為・技術。ミネソタ州法は、AIで実在人物の写真を性的な画像に変えることを禁じている

spicy mode

Grok Imagineに設けられた、NSFW寄りの出力を許すモード。訴訟の争点の一つ

Masha's Law(18 U.S.C. §2255)

児童性的搾取の被害者が民事で損害賠償を請求できる米連邦法。実損害か、1違反あたり15万ドルの法定損害賠償と弁護士費用を請求できる。8月以降の新しい訴訟の多くがこの法律を根拠にしている

Jane Doe 4 の訴え:11歳当時の写真から7,000枚超という主張

Jane Doe 4は、2026年3月に提起された集団訴訟に加わった原告です。11歳のときの写真1枚を元に、継父がGrokで7,000枚を超える性的な偽画像を作ったと訴えています。2026年8月15日に米メディアが報じ、訴訟の広がりが注目されるきっかけになりました。以下はすべて訴状に書かれた原告側の主張です。

項目

内容(原告側の主張)

原告

Jane Doe 4(仮名)。報道ではワイオミング州在住の女性とされる

加害者とされる人物

本人の継父

素材とされた画像

本人が11歳のときに撮影された写真1枚

生成されたとされる枚数

Grokで7,000枚超の性的な偽画像

拡散

生成物がオンラインで共有・取引された

Grokが使われた理由

訴状は「他のAIモデルより制限が緩く(less restrictive)、思春期前の未成年が写った画像を使った生成要求にも応じた」ため選ばれたと主張

発覚の経緯

捜査機関が令状に基づいて自宅を捜索し、継父の機器からCSAMを見つけた

その後

捜索の2日後に継父が死亡したと報じられている

会社の対応についての主張

xAIは元画像をNCMEC(全米行方不明・被搾取児童センター)に報告したが、生成画像のコピーやIPアドレスといった社内記録を捜査機関に渡さなかったと主張

現状

生成物は今もオンラインで出回っていると主張

原告本人は「これらのツールへの無制限なアクセスがあまりに速く広がっている。日常生活そのものが児童性的虐待に変えられている」と話したと報じられています。報道はxAIにコメントを求めましたが、回答は載っていません。

同じ時期に加わった原告 Jane Doe 5 は、中学2年(eighth-grade)の卒業写真を元に画像を作られたと主張しています。本人がSNSに載せた写真ではなく、学校の写真が素材になったという点で、日本で「卒アル問題」と呼ばれている被害と同じ形です。

Elon Musk氏は以前、「Grokが生成した未成年のヌード画像は一切把握していない」「Grokは違法なコンテンツの生成を拒否する」と述べていました。この発言と訴状の主張は食い違っていますが、どちらが事実かを決めるのは裁判所です。

2025年12月から2026年11月までの経緯【年表】

日本語の記事の多くは、2026年3月の提訴や8月のJane Doe 4の報道で情報が止まっています。問題が表に出た2025年12月末から2026年11月15日までを1本の流れにすると、次のようになります。8月以降の行は、新しい訴訟と裁判所の判断が中心です。

時期

出来事

2025年12月下旬〜2026年1月上旬

英米のNPO・CCDHが、11日間でGrokの画像ツールにより約300万枚の性的画像が作られ、うち約23,000枚が未成年とみられる人物を描いていたと推定

2026年1月12日

英Ofcomが、オンライン安全法に基づきXの正式調査を開始

2026年1月14〜16日

Ashley St. Clair氏がxAIを提訴。カリフォルニア州司法長官が調査を始め、16日に停止命令(cease and desist)の書簡を送付

2026年1月15日

xAIが、Grokアカウントによる実在人物画像の編集を制限

2026年1月16〜17日

日本政府がXに書面での報告を要求(小野田紀美AI戦略担当大臣)。17日にX日本法人が対策を公表

2026年1月

女性原告による集団訴訟が提起される(のちにN.D. Cal.の5:26-cv-00772として審理)

2026年1月26日

欧州委員会がDSA(デジタルサービス法)に基づき正式手続を開始

2026年1月27日

35州の司法長官が連名で保護措置を要求

2026年3月16日

テネシー州の10代女性3人がカリフォルニア州北部連邦地裁に集団訴訟を提起(5:26-cv-02246)

2026年3月24日

ボルチモア市がX Corp.・xAI・SpaceXを消費者保護条例違反で提訴

2026年3月26日

オランダ・アムステルダム地裁が、同意のないヌード画像の生成停止を命令(違反1日10万ユーロ、上限1,000万ユーロと報道)

2026年5月7日

ミネソタ州知事がnudification禁止法に署名。EUではAI Actでnudifierアプリを禁止する暫定合意

2026年5月19日

米連邦TAKE IT DOWN Actの通知・削除義務が発効

2026年5月

xAIがNCII専用の通報・削除の手続きを公表

2026年6月3日

英労働党のJess Asato下院議員がイングランド高等法院に提訴

2026年7月6日

SpaceXAIへ改称

2026年7月7日

3月の集団訴訟の修正訴状を提出。原告が3人から5人になり、被告にStability AIを追加

2026年7月14〜15日

xAIがユーザー(Terry Harwood氏)を提訴

2026年7月27〜31日

xAIがミネソタ州法の差止を求めて提訴。一時差止命令(TRO)は却下

2026年7月30日

xAIがアーカンソー州の写真家(Russell Bloodworth氏)を提訴(報道は8月下旬)

2026年8月1日

ミネソタ州nudification禁止法が施行

2026年8月3日

3月の集団訴訟で、原告が仮名のまま訴訟を続けることが認められる(xAIは仮名の解除を求めていた)

2026年8月15〜17日

Jane Doe 4・Jane Doe 5の訴えが報じられる

2026年8月18日

アーカンソー州の未成年6人が、保護者を通じて仮名で集団訴訟を提起(3:26-cv-08567)

2026年8月下旬

「xAIは実際の児童虐待画像でGrokを学習させた」と主張する集団訴訟が提起される(5:26-cv-09016)

2026年9月4日

ミネソタ連邦地裁が、xAIの仮差止の申立てを却下

2026年9月10日

xAI(SpaceXAI)が、Grokの利用者によるCSAMをめぐって3件目のユーザー提訴(SpaceXAI v. Tiffany)

2026年9月22日

Grok画像関連の3件が1月の集団訴訟に関連事件として紐づけられ、計5件がサンノゼのP. Casey Pitts判事の担当になったと報じられる

2026年9月下旬

Pitts判事が、1月の集団訴訟についてxAIの手続停止とテキサス州への移送の申立てを退ける

2026年10月2日

第8巡回区控訴裁判所が、ミネソタ州法のxAIへの執行を控訴審の間だけ差し止める

2026年10月14日

Ofcomが調査の途中経過を公表。残りの調査を「違法コンテンツ」と「苦情・通報」の義務に絞る

2026年10月22日

Bloodworth氏の事件に関わる、アーカンソー州の3組目の家族が提訴したと報じられる(詳細は未確認)

2026年10月23日

Stability AIへの請求を別の事件に分け、xAIへの事件をまとめて進める合意を裁判所が承認。同じ頃、SpaceXの提出書類でバージニア州司法長官が提訴を検討していることが明らかに

2026年11月19日(予定)

学習データ訴訟のステータス会議

2026年11月30日(期限)

ミネソタ州法の控訴審で、州側の答弁書の提出期限

9月下旬の移送・停止の却下は、Law360が9月28日に報じた日付です。別の訴訟まとめサイトは10月中旬と記録しており、日付が食い違っています。

集団訴訟の中身:原告3人から5人へ、被告にStability AIが追加

Jane Doe 4・5が加わった集団訴訟(3月提起、5:26-cv-02246)の主張の中心は、製品設計の責任です。原告側は「xAIは業界標準の安全策を入れないまま、実在人物の性的な画像・動画を作れる生成機能を意図的に設計して売り、利益を得た」と主張しています。

項目

内容

提訴日

2026年3月16日(2026年7月7日に修正訴状)

裁判所

米連邦地裁カリフォルニア州北部地区(N.D. Cal.)。担当はP. Casey Pitts判事と報じられている

原告

当初はテネシー州の10代女性3人(うち1人は未成年)。修正訴状で5人に

原告代理人

Lieff Cabraser Heimann & Bernstein、Baehr-Jones Law

請求

13の訴因。児童性的虐待コンテンツの頒布に関する主張から、故意による精神的苦痛の付与(IIED)まで

主張の中心

学校写真・家族写真といった「普通の写真」から性的画像が作られた点

被告の追加

修正訴状でStability AIを追加。10月23日に、Stability AIへの請求は別の事件(5:26-cv-13235)に分けられた

手続きの状況

8月3日に原告の仮名使用が認められた。本案判断・クラス認定はまだない

Musk氏個人が被告に含まれるかどうかは報道によって書き方が分かれているため、断定は避けます。通信品位法230条(プラットフォームの免責規定)や合衆国憲法修正第1条を使った却下申立ては、11月15日時点で確認できていません。230条が生成AIの出力にも当てはまるかは大きな争点になるとみられていますが、まだ裁判所の判断は出ていません。

Stability AI に対する主張

追加された被告のStability AIについて、訴状は次のように主張していると報じられています。

  • 学習データにCSAMが含まれていると知りながら Stable Diffusion 1.0 を公開した
  • 「制限が不評」というユーザーの声を受け、バージョン2.0で安全策を弱めた
  • その結果、安全策を外したnudifyアプリが広がる土台を作った

この訴訟が問うているのはGrok固有の問題だけではなく、画像生成モデルの設計と公開のしかたです。安全策の回避(jailbreak)の深刻度をどう評価するかという業界側の議論はAnthropicのjailbreak深刻度フレームワーク、出力を後から分類して止める技術的な対策はShieldstralとは?安全性分類モデルの役割で取り上げています。

8月以降に起きたこと:新しい集団訴訟と裁判所の判断

米国連邦裁判所の法廷。Grok関連の訴訟ではxAIの移送・手続停止の申立てが連邦地裁で退けられたと報じられている

出典: United States Courts 公式サイト

2026年8月17日以降の変化は大きく3つあります。被害者側の集団訴訟が2件増えたこと、xAIが手続き面の争いで続けて負けていること、ミネソタ州法の執行がxAIに対してだけ止まったことです。

アーカンソー州の未成年6人による集団訴訟(8月18日)

8月18日、アーカンソー州の未成年6人が保護者を通じて、X.AI Corp.・X.AI LLC・X.AI Holdings LLCを相手に集団訴訟を起こしました(Jane Doe I et al. v. X.AI Corp.、3:26-cv-08567、N.D. Cal.)。報道によると、請求は12項目あります。Masha's Law、人身取引被害者保護法の受益者責任、アーカンソー州のディープフェイク法、過失、設計の欠陥などです。全米の被害者を対象にしたクラスと、アーカンソー州のサブクラスを求めていますが、認められてはいません。

背景には、ベントンビルの写真家Russell Bloodworth氏の刑事事件があると報じられています。同氏は200件を超える訴因で起訴され、7月に無罪を主張しました。10月22日には、同じ事件に関わる3組目の家族が5歳の子どものために提訴したとの報道もあります(詳細は未確認)。

「CSAMで学習させた」と訴える集団訴訟(8月下旬)

8月下旬に起こされた集団訴訟(5:26-cv-09016、N.D. Cal.)は、論点がこれまでと違います。原告は、幼いころの性的虐待の映像がFBIの被害者通知プログラムで把握されている被害者です。訴状は「xAIは実際の児童虐待の画像・映像でGrokのnudify機能を学習させた」と主張しています。

原告側の根拠は、X上の公開投稿やGrokの出力を学習に使うというxAIの規約・方針です。X上に投稿されたCSAMが学習データに取り込まれた可能性が高い、と訴状は主張しています(CyberScoop、2026年8月27日)。請求の内容は、Masha's Lawなどに基づく損害賠償(法定額は1違反15万ドル)と、生成されたCSAMの破棄や生成の停止を命じる差止です。xAIはコメントに応じていません。

これまでの訴訟は「出力を止める安全策が十分だったか」が争点でした。この訴訟は「学習データの段階でCSAMが入っていたか」を問うもので、別の論点です。

論点

これまでの訴訟(出力の安全策)

学習データ訴訟

問われていること

実在人物の性的画像を作らせない仕組みがあったか

学習データにCSAMが含まれていたか

主な原告

写真を素材にされた本人

過去の虐待映像の被害者

主な根拠

設計の欠陥、過失、州のディープフェイク法

Masha's Law(CSAMの所持・利用)

xAIの立場(報道ベース)

悪用したのはユーザーで、出力はプロンプトの結果

コメントなし

xAIの移送・停止の申立てが退けられた

xAIは、利用規約の管轄条項を根拠に、訴訟を本社のあるテキサス州で審理するよう求めてきました。しかしPitts判事は2026年9月下旬、1月の集団訴訟(5:26-cv-00772)について、手続停止とテキサス州への移送を求めるxAIの申立てを退けたと報じられています(Law360)。

同じ流れは、CSAM以外の訴訟でも見られます。8月13日には、Grokのプライバシー訴訟(Skaggs v. X.AI)で別の判事が「Grokの登録画面やチャット画面では、規約に同意したと言えるだけの告知がない」として、テキサス州への移送を退けました。利用規約の管轄条項でテキサス州に集める戦略は、カリフォルニアの裁判所で続けて退けられていると言えます。

9月22日には、Grokの画像に関わる3件が1月の集団訴訟の関連事件とされ、計5件がPitts判事の担当になったと報じられています。全米の訴訟をまとめて扱う広域係属訴訟(MDL)にはなっていません。10月23日には、Stability AIへの請求を別事件に分け、xAIへの事件はまとめて進める合意が承認されました。

xAI(SpaceXAI)が抱える主な法的措置【一覧表】

カリフォルニア州司法省のプレスリリース。2026年1月16日にxAIへ停止命令書簡が送付されたと公表されている

出典: California Office of the Attorney General 公式プレスリリース

2026年8月時点では「少なくとも6件」と整理されることが多かったのですが、11月15日時点では、性的画像に関わる訴訟と法的措置だけで10件を超えています。媒体によって数え方が違うため、「被害者・自治体がxAIを訴えている訴訟」「xAIが原告になっている訴訟」「規制当局の調査」に分けて並べます。

被害者・自治体がxAIを訴えている訴訟

#

案件

時期

裁判所

主張の要点

最新の動き

1

Ashley St. Clair氏の訴訟

2026年1月

ニューヨーク南部連邦地裁 → テキサス北部へ移送

同意なく性的ディープフェイクを作られた。xAIは規約違反で反訴

6月にテキサス北部への移送が認められ、7月に第2巡回区が行政的停止。その後は未確認

2

女性原告の集団訴訟

2026年1月

N.D. Cal.(5:26-cv-00772)

同意のない画像の生成と、削除対応の遅れ

9月下旬にxAIの停止・移送の申立てが退けられる

3

テネシー州10代の集団訴訟(Jane Doe 1〜5)

2026年3月16日/7月7日修正

N.D. Cal.(5:26-cv-02246)

学校写真・家族写真からのCSAM生成

8月に仮名使用を承認。10月にStability AI分を別事件へ

4

ボルチモア市の提訴

2026年3月24日

州裁判所 → 5月にメリーランド連邦地裁へ移送

消費者保護条例違反。制裁金と差止を請求

移送後の進展は未確認

5

オランダ・アムステルダム地裁の命令

2026年3月26日

アムステルダム地裁

同意のないヌード画像の生成停止命令

一次情報は未確認

6

Jess Asato英下院議員の訴え

2026年6月3日

イングランド高等法院

データ保護法違反・私的情報の濫用

その後の進展は未確認

7

アーカンソー州の未成年6人の集団訴訟

2026年8月18日

N.D. Cal.(3:26-cv-08567)

Masha's Law、人身取引被害者保護法、州ディープフェイク法など12の請求

クラスは未認定

8

学習データ集団訴訟

2026年8月下旬

N.D. Cal.(5:26-cv-09016)

実際のCSAMでGrokを学習させた

11月19日にステータス会議予定

9

アーカンソー州の3組目の家族

2026年10月22日

未確認

Bloodworth氏の事件に関連

詳細は未確認

このほか、ペンシルベニア州バックス郡の案件(2026年6月にXが被告に加えられたと報道)もあります。

xAI(SpaceXAI)が原告になっている訴訟

案件

時期

裁判所

内容

X.AI LLC v. Harwood

2026年7月14〜15日

テキサス北部連邦地裁(7:26-cv-00078)

サウスカロライナ州の男性がGrokを悪用してCSAMを作ったとして提訴。損害賠償、被害者から訴えられた場合の防御費用の負担、Grok利用の永久禁止を請求

X.AI LLC v. Bloodworth

2026年7月30日(報道は8月下旬)

テキサス北部連邦地裁(7:26-cv-00089)

アーカンソー州の写真家が複数アカウントを使って安全策を回避したと主張。利用規約の補償条項(indemnification)を根拠に、被害家族からの訴訟の防御費用、新しいアカウントの作成禁止、損害賠償を請求。10月2日に修正訴状

SpaceXAI v. Tiffany

2026年9月10日

テキサス北部連邦地裁(7:26-cv-00102)

Grokの利用者によるCSAMをめぐる補償請求。被告の詳細は未確認

X.AI LLC v. Ellison

2026年7月27日

ミネソタ連邦地裁 → 第8巡回区

ミネソタ州nudification禁止法の差止を求める。10月2日に控訴審の間の執行差止

訴訟とは別に進む規制当局の動き

当局

時期

内容

11月15日時点の状況

英Ofcom

2026年1月12日〜

オンライン安全法に基づくXの正式調査

10月14日の途中経過で、年齢確認が済んでいないアカウントでも年齢制限付きのポルノを見られる状態があったと認定。残りの調査を「違法コンテンツ」と「苦情・通報」の義務に絞る。違反の暫定通知はまだ。罰金の上限は1,800万ポンドか全世界売上の10%の大きい方

欧州委員会

2026年1月26日〜

DSAに基づく正式手続。Grok関連データの保全命令(2026年末まで)

暫定認定・決定は確認できず

アイルランドDPC

2026年〜

GDPRに基づく調査(欧州の子どものデータの扱いなど)

継続中と報道

カリフォルニア州司法長官

2026年1月14日調査開始/16日停止命令書簡

州民事法§1708.86や刑法§311などを根拠に是正を要求

州としての提訴は確認できず

バージニア州司法長官

2026年10月

Grokが同意のない性的画像を作りやすい点について虚偽の説明や開示漏れがあったとして、提訴を検討

SpaceXの提出書類で開示(MLex、10月23日)。提訴はまだ

35州の司法長官

2026年1月27日

連名書簡で保護措置を要求

—

パリ検察(サイバー犯罪部)

2026年2月〜

X仏事務所を捜索。4月にマスク氏らを任意聴取に呼んだが欠席と報道

4月以降の進展は未確認

FTC

2026年

nudifyツールを提供する12社に警告書簡

—

SpaceXが2026年5月に提出した上場書類(S-1)では、2025年12月時点で訴訟の損失見込みとして約5億3,000万ドルを計上したと報じられています。ただしこの額には他の調査も含まれ、Grokの性的画像問題だけの金額ではありません。同じ書類は、Grokの「Spicy」「Unhinged」モードを「通常より不遜で辛辣になり得るため、リスクを高める」と書いていました(Yahoo Finance、2026年5月22日)。

州司法長官がAI企業を調べる動きはxAIに限りません。OpenAIへの州司法長官調査やxAI Grok安全エンジニア解雇訴訟とあわせて見ると、2026年はAI企業の安全体制が法的責任として問われた年だとわかります。Appleがアプリストアの規約でディープフェイク生成アプリにどう対応しているかはApp Storeのディープフェイク規約の解説にまとめています。

訴えられる側でもあり、訴える側でもある

xAIは、被害者に訴えられている一方で、Grokを悪用したユーザーを8月以降に増えた分を含めて3件訴えています。どれも利用規約の補償条項を根拠に、被害者から訴えられた際の費用をユーザーに負わせようとするものです。

「CSAM問題で訴えられている会社が、CSAM問題でユーザーを訴えた」という構図は、Techdirtなどが皮肉を込めて報じました。xAI側は「Grokは強力で中立的な生成AIツールで、出力はユーザーのプロンプトの結果だ」と主張していると報じられています。Harwood氏の訴訟では、Grokは何度も拒否したが、ユーザーがプロンプトを書き換えて回避したと主張しています。

観点

被害者側の主張

xAI側の主張

誰の責任か

悪用しやすい製品を設計・販売した会社

安全策を回避して悪用したユーザー

安全策の評価

業界標準の安全策が入っていなかった

何度も拒否しており、ユーザーが回避した

審理の場所

カリフォルニア州北部連邦地裁

利用規約に基づきテキサス州

費用の負担

会社が賠償すべき

補償条項によりユーザーが負うべき

xAIは、2026年にアカウント52,222件を停止し、NCMECに73,604件を報告し、少なくとも244人の逮捕につながったと説明しています(GIGAZINE、2026年7月17日)。ただしこれは同社の説明で、第三者による検証は確認できていません。

nudification規制はどこまで進んだか【国際比較】

欧州議会。EUはAI Actでnudifierアプリを禁止する方向で暫定合意し、コンプライアンス期限は2026年12月2日とされる

出典: European Parliament 公式プレスリリース

nudification・NCIIの規制は、2026年に米国・EU・英国で具体的になりました。11月時点の大きな変化は、全米で初めてのミネソタ州法が、控訴審の間はxAIに対して執行されなくなったことです。

地域・法令

施行・期限

規制の対象

制裁・執行

11月15日時点の状況

米連邦:TAKE IT DOWN Act

2026年5月19日(通知・削除義務が発効)

同意のない性的な描写。プラットフォームに削除申請の窓口を義務づけ

申請から48時間以内に該当画像と同じコピーを削除。執行はFTC

施行中

米ミネソタ州:nudification禁止法(House File 1606)

2026年5月7日署名/8月1日施行(全米初)

AIで実在人物の写真を性的な画像に変えること、nudification製品の宣伝

違反企業に最大50万ドルの民事制裁、被害者は損害賠償を請求できる(CBS Minnesota)

9月4日に地裁がxAIの仮差止を却下 → 10月2日に第8巡回区がxAIへの執行を控訴審の間差し止め。他の事業者には適用されると報じられている

EU:AI Act(nudifierアプリ禁止)

2026年5月7日暫定合意/対応期限 2026年12月2日

CSAMを生成するAI、特定できる人物の性的な部位を同意なく描くAI、同意なく性的行為を描くAI(画像・動画・音声)

上市・安全策のないシステムの上市・利用者による生成を禁止。電子透かし義務の適用日も12月2日に整理

期限が2週間あまり先に迫る

英国

2026年2月6日(Data (Use and Access) Act 2025 第138条)

同意のない偽の性的画像の作成と作成の依頼を犯罪化

nudificationツール自体を禁じる法整備も進行中

10月にOfcomの調査を受け、英国のユーザーはGrokの画像生成でポルノ的な画像を作れないように制限

日本

AI生成CSAMを名指しした専用法は確認できず

実在児童の画像が素材なら児童ポルノ禁止法の対象になり得る。名誉毀損、わいせつ物頒布、著作権法違反なども

鳥取県は条例を改正し、実在の18歳未満のAI生成わいせつ画像を規制対象に含めた

2026年に性的ディープフェイク専用の新法が成立したとの情報は確認できず

ミネソタ州法の控訴審では、第8巡回区の差止命令は理由を書かない1文のものでした。州司法長官は「強く同意できない」との立場を示しています。xAIは10月末に控訴趣意書を出し、州側の答弁書の期限は11月30日です。地裁は9月4日の決定で、xAIが回復できない損害を示せていないことや提訴が遅かったことを理由に挙げ、州法が憲法に反するかどうかには判断を示していません。xAIは裁判資料で、8月1日からミネソタ州のユーザー向けにnudification機能を止めたと述べていますが、差止後の提供状況は確認できていません。

カリフォルニア州でも、xAIが州法をめぐって起こした訴訟(xAI v. Bonta)が第9巡回区に係属しています。ただし、どの州法が対象かは一次情報で確認できていないため、ここでは詳しく扱いません。

日本でのAIと人格権(肖像・声・氏名)の扱いは法務省が生成AIの「声の権利」指針を公表、AIが作った画像に来歴情報を付ける電子透かしの仕組みはGrok APIの電子透かしの解説にまとめています。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)

数字はどこから出ているのか:出所別の整理

AI Forensicsの調査プロジェクト「Grok Unleashed」。サンプリングによる実測データを公表している

出典: AI Forensics「Grok Unleashed(updated)」

この問題では多くの数字が出回っていますが、推計・実測・自己申告が混ざっています。誰が出した数字かを分けて読まないと、実態を見誤ります。

出所

性質

主な数字

CCDH(Center for Countering Digital Hate)

第三者NPOの推計

2025年12月29日〜2026年1月8日の11日間で約300万枚の性的画像が作られたと推定。うち約23,000枚が未成年とみられる人物を描写

AI Forensics(欧州のAI監査NPO)

抜き取り調査による実測

20,000枚のサンプルのうち約半数が「最小限の衣服」の人物。2026年1月中旬までに10%未満に下がった。X経由よりGrok.comやアプリ経由のほうが露骨な出力が出やすいとも報告

Reuters

統制した実験

実在人物の性的画像を作らせる55回の試みのうち45回で、Grokが自社の安全フィルタをすり抜けたと報告(2026年1月)

IWF(英Internet Watch Foundation)

専門アナリストの確認

Grokが作った画像に、英国法上のCSAMにあたるものが含まれることを確認(2026年1月)

Resemble AI

商用ベンダーのレポート

2026年上半期に特定できたディープフェイクファイルの87%がGrok由来(2026年8月12日公開)

xAI(SpaceXAI)

会社の自己申告

2026年にアカウント停止52,222件、NCMEC報告73,604件、少なくとも244人の逮捕につながった

SpaceXの上場書類(S-1)

会社の開示

訴訟の損失見込み約5億3,000万ドル(Grokの性的画像問題以外も含む)

CCDHの300万枚は推計で、実測ではありません。AI Forensicsのデータは、1月中旬に露骨な出力の割合が下がったことも示しており、状況は時期によって変わっています。Resemble AIの87%は、同社が特定できたファイルの中での割合で、世界のディープフェイク全体に占める割合ではありません。

日本での動き:政府の要請、X日本法人の対応、そして「卒アル問題」

警察庁。未成年が関わる性的ディープフェイク事案の統計や啓発資料を公開している

出典: 警察庁 公式サイト

日本でも2026年1月に政府が動き、4月には文部科学省などが連名で注意喚起の資料を出しました。ただし11月15日時点で、性的ディープフェイクを直接取り締まる新しい法律は確認できていません。

日付

出来事

2026年1月9日

林芳正総務大臣が、Grokによる性的な画像加工は肖像権・名誉・プライバシーの侵害になり得ると発言。総務省としてXに対応を促すと表明

2026年1月16日

小野田紀美AI戦略担当大臣が、同意なく作られた画像についてXに書面での報告を要求。法的措置も検討していると説明(Bloomberg報道)

2026年1月17日

X日本法人が対策を公表。実在人物のヌード生成・脱衣加工を防ぐ技術を全ユーザーに適用し、24時間の監視体制と捜査機関との連携を説明

2026年4月9日付

文部科学省・警察庁・内閣府・こども家庭庁が連名で、性的ディープフェイクへの注意を呼びかける資料を公表

日本の「卒アル問題」

Jane Doe 5が主張する「中学2年の卒業写真を素材にされた」という被害は、日本で報じられている「卒アル問題」と同じ構図です。

  • 警察庁の統計では、2025年1〜9月に未成年が関わる事案が約80件あり、8割超が中高生
  • 加害者の半数が同級生や同じ学校の生徒
  • 素材はSNSの投稿だけでなく、学校配布のタブレットで撮った写真や卒業アルバム

自分でSNSに写真を載せていなくても被害に遭い得るのが、この問題の一番重要な点です。警察庁も啓発資料を出しており、「スマホがあれば誰でも加害者になり得る」と強調しています。

日本の法的な状況(2026年11月時点で確認できる範囲)

  • 性的ディープフェイクの作成・拡散は、名誉毀損罪、わいせつ物頒布等罪、著作権法違反、児童ポルノ禁止法違反などに問われ得ると解説されています
  • 一方で、「生成AIで児童性的虐待コンテンツを作る行為」を名指しで禁じる法律は、法律実務の解説で整備途上と指摘されています
  • 実在の児童の画像を素材にした場合は児童ポルノ禁止法の対象になり得ます。架空の児童だけを描いた生成物は同法の対象外と整理されるのが一般的です
  • 地方では、鳥取県が条例を改正し、実在の18歳未満のAI生成わいせつ画像を児童ポルノ等に含めました

個別の事案が違法かどうかは、弁護士や警察などの専門機関に相談してください。

Grokは今も使えるのか:機能と安全対策の現状

Grokと Grok Imagine は、2026年11月時点でも提供が続いています。xAIは問題になった機能を全面的には止めず、有料会員に限る、実在人物の編集をブロックする、地域ごとに制限するといった形で対策を重ねてきました。

時期

対策(公式発表・報道)

2026年1月

XのGrokアカウント経由の画像生成・編集を有料会員に限定。実在人物を露出の多い服装に編集することを、違法な地域でブロック

2026年5月

NCII専用の通報・削除の手続きを公表(公式ヘルプページ)

2026年6月26日

改訂版のAcceptable Use Policy(利用ポリシー)が発効

2026年7月6日

Grok FAQを更新し「NSFWを有効にしてもモデレーションは無効にならない」と明記

2026年8月1日

ミネソタ州のユーザー向けにnudification機能を止めたと裁判資料で説明

2026年10月

英国のユーザーは画像生成でポルノ的な画像を見る・作る・共有することができなくなり、子ども向けの制限も追加(Ofcomの公表)

xAIの公式ヘルプページ「Reporting non-consensual intimate content」では、Grokの会話や生成画像を対象にした通報・削除の手続きを説明しています。アプリやデスクトップから通報でき、GrokやxAIのアカウントがなくても通報できること、申請を受けてから遅くとも48時間以内に削除することが示されています。

xAIの利用ポリシーでは、次の行為を禁じています。

  • 未成年を含む性的コンテンツ・CSAM
  • 実在人物を裸にする・性的に描く、ポルノ的な肖像の生成
  • NCII(同意のない性的画像)
  • 安全策の回避(jailbreak)
  • 来歴情報(電子透かしなど)の削除・改ざん

規約では禁じているが、それが技術的に守られていたかが訴訟の争点です。AI Forensicsは、X上の公開のやり取りとgrok.comの非公開チャットで扱いが揃っていないと指摘しており、2026年2月以降も同意がないと伝えたのに性的画像が作られたという報道がありました。Spicyモードが11月時点でどの地域でどう提供されているかは、公式情報で確認できていません。

料金プランは2026年に何度も変わっており、11月時点の金額は公式サイトで確認できていません。最新の料金と機能はGrokの解説記事と公式サイトで確認してください。

被害を受けたとき/保護者・企業として今できること

インターネット・ホットラインセンター。違法情報の通報を受け付ける国内の公的窓口のひとつ

出典: インターネット・ホットラインセンター 公式サイト

被害に気づいたら、最初に証拠を残し、次にプラットフォームへ削除を申請し、そのあと公的な窓口に相談するのが基本の順番です。訴訟の結論を待つ必要はありません。

自分や家族の画像が悪用されたと気づいたとき

  1. 証拠を残す:投稿のURL、アカウント名、日時、スクリーンショットを保存します。削除されると確認できなくなるので、申請の前に記録します
  2. プラットフォームに削除を申請する:Xはヘルプセンター(help.x.com)の、同意のないヌードに関する通報から申告できます。Grokで作られた画像は、xAIのNCII通報ページからアカウントなしでも通報できます
  3. 米国のプラットフォームには48時間ルールがある:TAKE IT DOWN Actにより、対象のプラットフォームは削除申請から48時間以内に該当画像と同じコピーを削除しなければなりません。申請した日時を記録しておきます
  4. 公的な相談窓口を使う:削除の方法や発信者情報の扱いは、総務省委託の違法・有害情報相談センターが無料で相談を受けています。児童の性的画像を含む違法情報はインターネット・ホットラインセンター、リベンジポルノなどはセーフラインに通報できます
  5. 犯罪にあたり得る場合は警察に相談する:実在の児童の画像が素材になっている場合は、刑事事件として扱われる可能性があります

米国の集団訴訟について、和解・補償基金・請求フォームは11月15日時点で存在しません。「Grok訴訟に参加できる」「補償金を代わりに請求する」と手数料を求める業者は詐欺の可能性が高いと、米国の訴訟情報サイトが注意を呼びかけています。

保護者として

  • 「SNSに載せない」だけでは防げないことを家族で共有する(学校写真や卒業アルバムが素材になり得る)
  • 子どもが打ち明けたときに責めない。加害者の半数が同級生というデータがあり、子どもは相談をためらいやすい
  • 加害者になるリスクも伝える。面白半分でも犯罪になり得ることを具体的に話す

企業・組織として

  • 従業員や顧客の写真を扱う業務で、画像生成AIへのアップロードを禁止・制限するルールを作る
  • 社内で使う画像生成ツールを選ぶときは、安全フィルタ、NCIIの通報窓口と削除までの期限、学習データの方針、来歴情報(電子透かし)の有無を確認項目に入れる
  • EU向けにサービスを出している場合は、AI Actの対応期限(2026年12月2日)と電子透かし対応から逆算して準備する
  • ミネソタ州法のように製品の宣伝まで規制する州法が出てきているため、マーケティングの表現も確認する

画像生成モデルを自社のサービスや業務システムに組み込む場合は、入力画像のチェックや出力の分類フィルタ、通報・削除の仕組みまで含めて設計し、費用を見積もる必要があります。組み込み方の選択肢と費用の目安はAI開発の費用相場と見積の内訳で整理しています。生成AIを業務で使うときのリスク全体は生成AIのセキュリティリスクとは?が参考になります。

この問題の報道に触れて気持ちがつらくなった方は、厚生労働省の「まもろうよ こころ」に相談窓口の一覧があります。

この記事が役立つ方/役立たない方

役立つ方

  • 断片的なニュースではなく全体像をつかみたい方:2025年12月から2026年11月までの流れと、10件を超える訴訟・調査の関係を一覧で確認できます
  • 企業でAI利用ルールを作る担当者:nudification規制の国際比較と、ツールを選ぶときの確認項目を判断材料にできます
  • 保護者・教育関係者:日本の「卒アル問題」の実態と、被害に遭ったときの相談先を確認できます
  • AIガバナンス・法務に関心のある方:製品設計の責任とユーザーの責任がぶつかる構図や、管轄条項・学習データという新しい論点を、双方の主張から追えます

役立たない方

  • Grokの使い方や画像生成のコツを知りたい方:この記事は訴訟と規制の解説です。機能や料金はGrokの解説記事を見てください
  • 個別の事案について法的な判断がほしい方:公開情報の整理で、法的助言ではありません。弁護士などの専門家に相談してください
  • 訴状の原文を逐条で分析したい法律実務家:報道と公表情報に基づく整理で、訴状全文の分析ではありません
  • 「Grokは危険だから使うな」という結論だけがほしい方:事実と主張を分けて示すことを目的にしており、単純な断定はしていません

よくある質問

Q. 訴訟でxAIの責任は認められたのですか?

A. 2026年11月15日時点では、まだ認められていません。裁判所が判断したのは、原告の仮名使用、テキサス州への移送や手続停止、ミネソタ州法の仮差止といった手続面だけです。責任の有無を判断する本案判断、クラス認定、和解はどの訴訟でも出ていません。

Q. 「Grokの集団訴訟に参加して補償金を受け取れる」という案内は本当ですか?

A. 現時点で和解や補償基金はなく、補償金を請求する手続きもありません。手数料を求める「請求代行」は詐欺の可能性が高いので注意してください。被害を受けた場合は、まず削除申請と国内の公的窓口・警察への相談を優先し、訴訟を検討するなら弁護士に直接相談するのが確実です。

Q. 「CSAMで学習させた」という訴訟は何が新しいのですか?

A. これまでの訴訟は「実在人物の性的画像を作らせない安全策が十分だったか」という出力の問題を争っていました。8月下旬の訴訟は、X上に投稿されたCSAMが学習データに取り込まれたと主張し、学習の段階の責任を問うものです。生成物の破棄や生成の停止も求めているため、認められればモデルの作り方そのものに影響します。

Q. ミネソタ州のnudification禁止法は今も有効ですか?

A. 州法そのものは2026年8月1日から施行されています。ただし10月2日に第8巡回区控訴裁判所が、控訴審の間はxAIに対して執行しないよう命じました。報道によると、他の事業者には州法が適用されます。州法が憲法に反するかどうかは、まだどの裁判所も判断していません。

Q. AIで作った画像でも違法になるのですか?

A. 素材が実在の児童の写真であれば、日本では児童ポルノ禁止法の対象になり得ると解説されています。英国は2026年2月から、同意のない偽の性的画像を作ること自体を犯罪にしました。EUはAI Actで、CSAMを作るAIシステムの上市を禁じる方向で合意しています。架空の人物だけを描いた生成物の扱いは、国や法令によって違います。

Q. 他の画像生成AIなら安全ですか?

A. 「絶対に安全」と言えるツールはありません。ただ、学習データの選別、生成時の拒否、出力後の分類フィルタ、来歴情報の付与といった対策が何重にあるかで差は出ます。業務で使うツールは、公式ポリシーの禁止事項が具体的か、通報・削除の手続きと期限が示されているか、電子透かしに対応しているかで比べるのが現実的です。

Q. この訴訟はいつ結論が出ますか?

A. 見通しはまだ立っていません。米国の集団訴訟では、クラス認定や却下申立ての判断だけで1年以上かかることが珍しくありません。直近の予定は、学習データ訴訟のステータス会議(11月19日)とミネソタ州法の控訴審の州側答弁書の期限(11月30日)です。EU AI Actの対応期限(12月2日)のように、訴訟の結論より先に規制の期限が来ます。

まとめ

2026年11月15日時点のGrok関連のCSAM訴訟について、押さえておきたい点を整理します。

論点

現状

Jane Doe 4の訴え

11歳のときの写真1枚から7,000枚超が作られたと主張。会社が捜査機関に記録を渡さなかったとも主張

被害者側の訴訟

3月の集団訴訟(原告5人)に加え、8月にアーカンソー州の未成年6人の集団訴訟と、学習データの集団訴訟が加わった。性的画像に関わる訴訟・措置は10件超

裁判所の判断

仮名使用の承認、移送・停止の却下など手続面のみ。本案判断・クラス認定・和解はない

xAI(SpaceXAI)の立場

悪用したユーザーを3件提訴し、補償条項で費用を負わせようとしている。ミネソタ州法には差止訴訟

ミネソタ州法

8月1日施行。10月2日から控訴審の間、xAIへの執行が止まっている

規制当局

Ofcomは調査範囲を絞って継続、欧州委員会は手続中、バージニア州司法長官が提訴を検討

日本

政府がXに対応を要請し、4月に省庁連名で注意喚起。専用の新法は確認できず

読者にとっての意味

SNSに載せていなくても被害に遭い得る。証拠を残す→削除申請→公的窓口の順番を知っておくことが大事

この件は特定企業の不祥事というより、生成AIの製品設計と学習データの責任がどこまで問われるかを決める裁判として見るべき事案です。8月以降は学習データという新しい論点が加わり、利用規約でテキサス州に審理を集める戦略も退けられています。訴訟の結論より先にEU AI Actの期限が来るため、ツールを提供する側も使う側も、今のうちに対応を整えておく必要があります。

主な情報ソース

このツールを自社のシステムや業務にどう組み込むか、ご提案します

この記事の著者

AI革命

AI革命

編集部

AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。

AI・システム開発は、開始価格を公開しています

既存システムの改修 100万円〜・PoC 300万円〜(税別)。相談内容を送っていただくと、2営業日以内に担当者からご返信します