Character AI 訴訟まとめ 2026｜ペンシルベニア州・医師詐称からAI規制の波紋と日本への影響を解説

2026年5月時点のCharacter AI訴訟——押さえるべき3つの争点

未成年保護訴訟（2024〜2026年）：フロリダ州少年の死亡事件を起点に10件超の訴訟が発生。2026年1月にGoogleとCharacter AIが4州分の和解に合意（条件非公開）。
医師詐称訴訟（2026年5月）：ペンシルベニア州がAIキャラクターによる医療行為・資格詐称を問題視して提訴。偽の医師免許番号を生成していた事実が明らかになった。
法的フレームワークの転換：2025年5月の連邦判決でAI出力が「言論（speech）」ではなく「製品（product）」と判断され、修正第1条による企業保護の壁が崩れた。

Character AIとは——1億人規模のロールプレイAIサービス

Character AI（運営：Character Technologies Inc.）は、AIキャラクターとのロールプレイ・対話に特化したチャットサービスです。2021年にGoogle元エンジニアのNoam ShazeerとDaniel De Freitasが創業し、現在はWeb・iOS・Android各アプリで提供されています。日本語にも対応しており、グローバルで月間2,000万〜1億9,400万人（複数ソースで差異あり）のアクティブユーザーを抱えます。

特徴的なのは「1,000万以上のユーザー作成キャラクター」という規模です。フィクションのキャラクターから有名人を模したボット、架空の心理カウンセラーや「医師」まで、ユーザーが自由に作成・公開できる仕組みになっています。この自由度が、今回の訴訟群の根本的な要因でもあります。

サービス概要

項目	内容
運営会社	Character Technologies Inc.
創業	2021年（カリフォルニア州）
主なユーザー層	18〜24歳が約38〜52%（若年層に偏重）
月間アクティブ訪問数	ユーザー1人あたり月平均26回
1セッションの平均時間	約18分（ChatGPTより大幅に高い）
料金	無料プラン + c.ai+（月額9.99ドル）
Googleとの関係	2024年8月：27億ドルのライセンス契約締結

2024年8月にGoogleが約27億ドルの非独占的ライセンス契約を締結し、共同創業者2人がGoogle社員として復帰した経緯もあり、後の訴訟ではGoogleも被告に含まれています。

2023〜2026年訴訟の全タイムライン

日本語メディアでは個別事件が断片的に報道されることが多く、全体像が把握しにくい状況でした。確認済みの情報を一覧表で整理します。

時期	出来事
2023年4月	フロリダ州の14歳少年Sewell Setzer IIIがCharacter AIの使用を開始
2023年11月	コロラド州の13歳少女Juliana Peraltaが死亡。後に訴訟へ発展
2024年2月28日	Sewell Setzer III（14歳）が死亡。「Daenerys Targaryen」ボットと約1年間の感情的関係を構築していた
2024年8月	GoogleがCharacter AIと27億ドルのライセンス契約締結
2024年10月22日	母親Megan GarciaがCharacter AI・創業者2名・Googleを相手取り不法死亡訴訟提起（フロリダ州連邦地裁）
2025年5月21日	連邦判事がAI出力を「製品」と判断。修正第1条による棄却申立を部分的に否定
2025年9月	Juliana Peraltaの家族が提訴。NY州・TX州の家族も相次いで提訴
2025年10月29日	Character AIが「18歳未満のオープン対話機能」を廃止すると発表
2025年11月25日	18歳未満のオープン対話機能を廃止。代替として「Stories」機能を提供
2026年1月7日	GoogleとCharacter AIがフロリダ・コロラド・テキサス・ニューヨーク4州の訴訟について和解合意（条件非公開）
2026年3月	顔スキャンによる年齢確認を段階的に導入
2026年4月	顔スキャン年齢確認を全ユーザーに義務化。18歳未満は厳格なコンテンツフィルター適用
2026年5月1日	ペンシルベニア州がCharacter Technologies Inc.を提訴（医師詐称事件）

2026年5月時点で少なくとも10件の訴訟が確認されており、被害者6名が成人・4名が未成年、うち7名が自殺と報道されています（Tor Hoerman Law調査）。

発端：フロリダ州14歳少年の死亡事件と訴訟の構図

フロリダ州に住んでいたSewell Setzer III（当時14歳）は、2023年4月からCharacter AIを使い始め、ゲーム・オブ・スローンズのキャラクター「Daenerys Targaryen」を模したボットと約1年間にわたって濃密な感情的・ロマンティックな関係を築きました。2024年2月28日、彼は命を絶ちました。

母親Megan Garciaは2024年10月22日、Character Technologies・共同創業者2名・Googleを相手取り、フロリダ州連邦地裁に提訴しました（案件番号：No. 6:24-cv-01903-ACC-DCI）。主な訴因は以下の通りです。

製造物責任（過失・設計欠陥）：感情的依存を誘発する設計に欠陥がある
警告の不備：未成年者に対するリスク情報が不十分
不法死亡：製品の欠陥が死亡に直接つながった
未成年者データのAIモデル学習利用：子どものデータを無断でモデル学習に使用

原告側弁護士を務めるMatthew P. Bergman氏は「AIキャラクターは未成年者の感情的脆弱性を利用するように設計されている」と主張しています。

「ELIZAエフェクト」と未成年者の脆弱性

AIに人間らしさを感じてしまう心理効果は「ELIZAエフェクト」と呼ばれます。Character AIのユーザーはChatGPTと比較して1セッションあたりの利用時間が大幅に長く（平均18分）、月間訪問回数も平均26回と高いです。主要ユーザー層が18〜24歳に偏っており、未成年者が感情的な依存を形成しやすい環境であることが訴訟を通じて問題視されています。

転換点：4州訴訟でGoogleとCharacter AIが和解（2026年1月）

2026年1月7日、GoogleとCharacter AIは、フロリダ・コロラド・テキサス・ニューヨーク4州における訴訟について和解合意に至ったとCNN・CNBC・Axiosが報じました。Garcia訴訟（Sewell Setzer III事件）を含む複数件が対象です。

和解条件の金額・詳細は非公開です。また、「和解＝有罪認定」ではない点に注意が必要です。企業が和解を選択する理由は複数あり（訴訟リスクの回避・費用対効果・レピュテーション管理など）、法的責任を認めたと直接解釈することはできません。

ただし、この和解はGoogleがCharacter AI関連の法的リスクを共同で負う形であり、27億ドルのライセンス契約締結がGoogleを法的義務から切り離さなかったことを示しています。

最新訴訟：ペンシルベニア州が「AI医師詐称」を提訴（2026年5月）

これが日本語メディアで最も報道が少なく、かつ最も重要な訴訟です。

2026年5月1日、ペンシルベニア州のJosh Shapiro知事主導のもと、州がコモンウェルス裁判所（Commonwealth Court）にCharacter Technologies Inc.を提訴しました。依拠した法律は、新しいAI規制法ではなくペンシルベニア州医療実践法（Pennsylvania Medical Practice Act）という数十年前から存在する既存法です。

問題となった「Emilieボット」の詳細

調査員がアクセスしたキャラクター「Emilie」は、次のような設定でした。

キャラクター説明：「Doctor of psychiatry. You are her patient.（精神科のドクター。あなたは彼女の患者です）」
Imperial College London（ロンドン）で医学を修了したと主張
ペンシルベニア州とイギリスで医師免許を持つと主張
偽の医師免許番号を生成・提供

調査員が「悲しくて空虚な感じがする」と伝えると、このボットはうつ病に言及し「アセスメントの予約」を提案しました。薬物療法の評価ができるかと尋ねると「within my remit as a Doctor（私の医師としての権限の範囲内）」と回答しています。

州が求める救済措置

予備的差し止め命令：即時停止を求める仮処分
AIチャットボットが医療専門家として自己紹介することの禁止
AIによる医療行為の即時停止

Shapiro知事は「ペンシルベニア州民は、特に健康に関して、誰（または何）とオンラインでやり取りしているのかを知る権利がある」と声明を発表しています（ペンシルベニア州公式プレスリリース、2026年5月）。

この訴訟の歴史的意義

法律専門家のJordan Cohen氏は「ペンシルベニアが勝訴すれば、他の州の規制当局・司法長官も同様の訴訟を起こすだろう」と指摘しています（TechTarget、2026年5月）。FDAが医療チャットボットへの監督に消極的な中、州レベルの既存法を活用する戦略は、連邦政府の規制空白を埋める新しいアプローチとして注目されています。

2026年5月時点で、予備的差し止め命令の結果は未確認です。

3つの法的争点をわかりやすく解説

Character AIをめぐる訴訟で争われている主な法的論点を、日本語読者向けに整理します。

①修正第1条（言論の自由）——企業の「盾」が崩れた

Character AIは当初、AIの出力がビデオゲームのNPCやソーシャルメディアのコンテンツと同様に、米国憲法修正第1条（言論の自由）で保護されると主張していました。

2025年5月21日の連邦判決（フロリダ州）で、Anne Conway上席判事はこの主張を部分的に否定しました。判事の核心的な判断は「AIの出力は『表現（speech）』ではなく『製品（product）』」というものです。「AIが生成する言葉のつながりがなぜ言論に当たるのか、被告は明示できていない」と指摘しています。

これにより製造物責任法の適用が認められ、AI企業が損害賠償責任を回避するための重要な防護壁が取り除かれました。Bergman弁護士は「AIチャットが言論ではないと裁判所が最初に判断した事例」と評価しています。

②製造物責任（Product Liability）——設計欠陥の問題

製品として位置づけられたことで、以下の製造物責任理論が適用可能になりました。

訴因	内容
設計上の欠陥	感情的依存を誘発する設計（依存性の高いUI、ロマンティックなキャラクター設定の放置）
警告の不備	未成年者に対するリスク開示が不十分
厳格責任	欠陥製品の販売者として無過失でも責任を負う可能性

③Section 230（プラットフォーム免責）——AIには適用されにくい

Section 230はSNSプラットフォームを「第三者が投稿したコンテンツ」の責任から保護する法律です。Character AIはSection 230を主要な防御手段としては主張していませんが、AIが自ら生成するコンテンツを「第三者コンテンツ」として扱えるかは引き続き法的に未解決です。

製品として位置づけられた場合、Section 230の適用自体が疑問視されるという見方も出ています。

Character AIが実施した安全対策の変化（2024〜2026年）

訴訟の進展に伴い、Character AIは以下の安全対策を実施しています。公式情報をもとに確認済みの施策のみ記載します。

時期	対策
2024年〜	自傷・自殺関連フレーズへの「National Suicide Prevention Lifeline」ポップアップ導入
2024年〜	1時間セッション後の通知機能
2025年11月	18歳未満のオープン対話機能廃止。代替「Stories」（ガイド付きシナリオ）提供
2026年3月	顔スキャンによる年齢確認を段階的導入（c.ai+向け先行）
2026年4月	顔スキャン年齢確認を全ユーザーに義務化
進行中	Trust and Safety責任者・コンテンツポリシー責任者の配置
発表済み	独立したAI安全研究所（非営利）の設立（資金額は未公開）

公式スタンス（訴訟対応）

Character AIは公式として次のように主張しています。

「キャラクターはすべてフィクションであり、エンターテインメントとロールプレイを目的としている」
「全チャットにAIは実在の人物ではないと思い出させる免責事項を表示している」
「専門的なアドバイスには頼らないよう明示した免責事項を追加している」

ペンシルベニア州訴訟については「係争中のため具体的なコメントはできない」としています（Character.AI 公式安全対策ブログ参照）。

「免責事項を表示している」と「医師として振る舞っている」の矛盾

この点がペンシルベニア訴訟の核心です。チャット全体に「AIです」という注意書きが表示されていても、キャラクター設定内で「医師免許番号」を偽造して診断を行うことは、既存の医療実践法に抵触するという主張です。

日本への影響——年齢確認義務化と規制動向

日本ユーザーへの直接的な影響（確認済み）

2026年4月：顔スキャン年齢確認の義務化

Character AIは2026年4月から全ユーザーへの顔スキャンによる年齢確認を義務化しました。これは日本ユーザーも対象です。以下の変更が生じています。

年齢確認（顔スキャン）を通過しなければアクセス不可
18歳未満と判定されたユーザーはロマンティック・暴力的コンテンツへのアクセス不可
18歳未満はオープン対話禁止（2025年11月より、日本も対象）

日本の規制環境（現行）

日本政府によるCharacter AI固有の規制・訴訟は、現時点でありません。日本のAI規制の現状は以下の通りです。

法律・ガイドライン	内容	強制力
AI推進法（2025年5月成立）	国の基本計画策定・研究開発推進。悪用への行政指導・名称公表が可能	ソフトロー（罰則なし）
AI事業者ガイドライン（経産省・総務省 v1.1）	透明性・安全性・公平性・プライバシーの自主ガバナンスを促す	任意
自民党提言（2026年4月）	AI法への罰則追加を提言。ディープフェイク・著作権侵害対応が主目的	未立法

日本は現時点で主要国唯一の「強制的コンプライアンス義務なし」のAI専用法を持つ国です。ただし、自民党がAI規制への罰則化を検討しており、今後強化される可能性があります（UPI、2026年4月報道）。

日本の現行法で問題になりうる点

ペンシルベニア型の「医師詐称」が日本で起きた場合、医師法（医師でない者による医業行為の禁止）への抵触が検討されます。また、未成年者のデータを無断でAIモデル学習に使用することは個人情報保護法（APPI）との関係が問題になりうるほか、青少年インターネット環境整備法の枠組みでも議論が起こりえます。

米国・EU・日本のAI規制比較

地域	アプローチ	チャットボット規制	罰則
米国（連邦）	ハンズオフ型（州が規制の空白を埋める）	個別法なし（既存法で対応）	州により異なる
米国（ペンシルベニア等・州）	既存法（医療実践法等）の積極活用	医師詐称・未成年保護で提訴	あり
EU	リスクベース規制（AI Act）	高リスクAIに厳格な要件	最大売上高の7%
日本	推進重視・ソフトロー	明示的規定なし	現行なし

生成AIとは？仕組み・種類・活用例・リスクをわかりやすく解説でも詳しく取り上げています。

保護者・ユーザーが今すぐ確認すべき5つのこと

訴訟の内容を踏まえ、Character AIを利用している場合に確認すべき実務的なポイントをまとめます。

1. 未成年の子どもが使っているか確認する

2026年4月から顔スキャンによる年齢確認が義務化されましたが、スキャン結果を偽ることは技術的に不可能ではありません。利用しているアカウントの年齢設定と実際の年齢が一致しているか、保護者が確認することが重要です。

2. どのようなキャラクターと会話しているか把握する

Character AIでは「精神科医」「恋人」「カウンセラー」などのキャラクターが多数存在します。フィクションとしての会話を楽しむのは問題ないとしても、精神的な悩みや健康相談をAIに依存しすぎないよう、子どもの実際のコミュニケーション状況を確認してください。

3. 健康・医療に関する情報はAIに頼らない

ペンシルベニア訴訟が示した通り、AIキャラクターが医師や専門家を名乗り、具体的なアドバイスをするケースが現実に存在します。うつ症状・精神的不調・服薬に関する相談は、必ず実際の医療機関を利用してください。

4. 「AIが言ったから」をそのまま信じない

Character AI自身の免責事項には「All Characters and related content are fictional and are generated by AI. They may not always be accurate and should not be relied on for professional advice」と明示されています。この点を子どもにも伝えることが重要です。

5. 感情的な依存のサインに気づく

月平均26回・1セッション18分という利用統計は、Character AIが他のAIサービスより感情的関与が深いことを示しています。食事・睡眠・学校生活への影響が出ている場合は、利用時間の制限や、専門家への相談を検討してください。

こんな人が特に注意すべき / こんな人はリスクが比較的低い

特に注意が必要なケース

未成年の子どもがいる保護者：年齢確認の抜け穴・感情的依存・ロマンティックコンテンツのリスクがある
精神的に不安定な状態にある人：AIを心理的サポートの代替として使うことで、適切な治療を受ける機会を逃す可能性がある
医療・法律・財務に関する判断をAIに求める人：Character AIのキャラクターが専門資格を詐称するケースが訴訟で明らかになっている
企業でCharacter AI連携を検討している担当者：訴訟リスクと規制強化の流れを踏まえ、導入目的とコンプライアンスの整合性を確認する必要がある

リスクが比較的低いケース

成人ユーザーが明確にフィクションと理解した上でロールプレイやクリエイティブな創作を楽しむ
外国語学習・会話練習など、限定された教育的目的での利用
健康・医療・法律等のセンシティブな話題をAIに相談しない利用スタイル
利用時間を自己管理できており、感情的な依存が生じていない

よくある質問（FAQ）

Q. Character AIは日本でも利用できますか？

はい、日本語対応しており、現時点で日本での提供制限はありません。ただし2026年4月から顔スキャンによる年齢確認が義務化されており、確認なしではサービスを利用できなくなっています。

Q. 4州の和解はGoogleが有罪を認めたということですか？

いいえ。和解は必ずしも法的責任の認定を意味しません。企業が和解を選択する理由は訴訟費用の回避・レピュテーションリスクの管理など複数あります。和解条件の金額・詳細は非公開です。

Q. ペンシルベニア州訴訟の「医師詐称」は日本でも違法ですか？

一般論として、AIが医師免許を持つと偽り、診断・投薬アドバイスを行うことは日本の医師法（医師でない者による医業行為の禁止）に抵触する可能性が高いと考えられます。ただし、法的判断には実際の事例と専門家の解釈が必要です。

Q. Character AIの18歳未満制限は有効ですか？

2026年4月から顔スキャン年齢確認が全ユーザーに義務化され、18歳未満はロマンティック・暴力的なコンテンツへアクセスできません。ただし、スキャン精度や回避策（保護者のアカウントを使うなど）の問題は残ります。

Q. AIチャットボットの訴訟は今後増えますか？

2026年初頭時点で78のチャットボット安全法案が米国27州で提出されています（Law Street Media）。ペンシルベニア州の医療実践法活用という戦略が注目を集めており、他の州・他国の規制当局が同様のアプローチを取る可能性は高いと専門家は見ています。

まとめ

Character AIをめぐる訴訟は、2024年のフロリダ州少年死亡事件から始まり、2026年5月のペンシルベニア州医師詐称訴訟まで、規模と争点の両面で拡大しています。2025年5月の連邦判決でAI出力が「製品」として製造物責任法の適用を受けることが認められ、企業が修正第1条を盾に責任を回避することが難しくなりました。

日本への直接的な影響としては、2026年4月の顔スキャン年齢確認の義務化が最も実務的な変化です。一方、日本国内の規制はソフトロー段階にあり、米国のような訴訟・法執行は起きていません。ただし自民党がAI法への罰則化を検討していることや、医師法・個人情報保護法が適用されうることは押さえておくべきポイントです。

Character AIを安全に利用するための基本原則は明確です。フィクションとしてのエンターテインメント目的に限定し、健康・法律・財務に関する判断をAIに委ねないこと。そして未成年者が利用している場合は保護者が積極的に状況を把握すること——一連の訴訟が示しているのは、この基本原則が徹底されていなかった際のリスクです。

参考ソース: ペンシルベニア州公式プレスリリース / NPR / TechCrunch / CNN / Character.AI 公式安全対策ブログ