Character AI 訴訟まとめ 2026|ペンシルベニア州・医師詐称からAI規制の波紋と日本への影響を解説

この記事のポイント
Character AI訴訟は、運営会社の破産手続きと州の法的手続きが並行する段階に入りました。ペンシルベニア州の医師詐称訴訟の現状、家族訴訟の和解、米国・EUの新法、日本への影響を2026年11月時点で整理します。
Character AIをめぐる法的な争いは、2026年11月5日時点で、運営会社の破産手続きと州の手続きが並行する段階にあります。ペンシルベニア州の医師詐称訴訟について、裁判所が違法かどうかを判断した事実は確認できていません。
この記事では、訴訟と調査の現状、ペンシルベニア州が問題にしている点、破産が訴訟に与える影響、米国・EUの新しい規制、日本への影響を整理します。子どもの利用が気になる保護者、Character AIの利用者、AIチャットボットを提供・導入する企業の担当者に向けた内容です。
本記事は公開資料を整理したもので、法的助言ではありません。係争中の内容は、裁判所の認定ではなく当事者の主張として記載しています。
2026年11月時点のCharacter AI訴訟で押さえるべき3つの争点
2026年1月時点で係属中だった家族の訴訟は和解で終わり、いま焦点になっているのは州による執行と破産後の扱いです。
- 未成年保護: 家族による訴訟は2026年1月に包括和解しました。条件は非公開で、同社は責任を認めていません。2026年8月には新しい人身被害訴訟が1件提起されています。
- 医師詐称: ペンシルベニア州は、チャットボットが精神科医を名乗り、無効な免許番号を示したと主張しています。2026年10月13日時点で両者は和解協議中で、裁判所の判断は確認できていません。
- 法的な枠組み: 2025年5月の連邦地裁の命令は、却下申立ての段階で訴訟の継続を認めたものです。AIの出力は言論ではないと確定させたわけではありません。一方で、州法による規制は「検討」から「成立」へ進みました。
運営会社のCharacter Technologiesは、2026年10月12日に米連邦破産法第11章(Chapter 11)の適用を申請しました。各手続きの現状は次のとおりです。
手続き | 相手・主体 | 主な争点 | 2026年11月5日時点の状況 |
|---|---|---|---|
家族の訴訟(4州の5件など) | 遺族・家族 | 製品の設計、警告の不備 | 2026年1月に包括和解。Googleも当事者。条件非公開 |
新規の人身被害訴訟 | 個人(カリフォルニア北部地区連邦地裁) | 人身被害 | 2026年8月に提起。同社の宣誓供述書の時点で、係属中の人身被害訴訟はこの1件のみ |
ペンシルベニア州の訴訟 | 州医事委員会 | 無資格の医業 | 答弁期限は11月2日まで延長。その後の動きは未確認 |
ケンタッキー州の訴訟 | 州 | 子どものデータ収集、未成年への有害な内容(報道ベース)。被告は同社と共同創業者 | 2026年1月8日に提訴。却下申立ての段階で、和解協議中 |
46州・準州の合同調査 | 州 | 調査の詳細は未確認 | 7州の執行委員会と同意命令を協議中 |
フロリダ州の調査 | 州 | 調査の詳細は未確認 | 2025年6月に召喚状。合同調査には不参加で、和解協議中 |
テキサス州の調査 | 州 | 医師免許・学歴・守秘の虚偽表示など | 民事調査要求(CID)2通。調査継続 |
ニューメキシコ州の調査 | 州 | 調査の詳細は未確認 | 2025年2月にCID。調査継続 |
FTCの調査 | 米連邦取引委員会 | 調査の詳細は未確認 | 6(b)命令(FTCが企業に情報の提出を求める命令)への最終提出は2026年7月31日。以後連絡なし |
破産手続き | デラウェア破産裁判所 | 資産売却、利用者データ | 10月30日に入札手続きの承認が報じられ、売却手続きが進行中。11月3日に修正した命令案を提出したと報道 |
訴訟と調査の状況は、同社CEOの宣誓供述書(2026年10月13日提出)の記載を基本にしています。
Character AIとは?累計1.6億人が利用したロールプレイAIサービス

出典: Character.AI 公式
Character AIは、AIキャラクターと対話するエンターテインメントサービスです。利用者がキャラクターを作って公開できる点が特徴で、この仕組みの中で医師を名乗るキャラクターが問題になりました。
利用規模は、同社CEOの宣誓供述書で確認できます。月間利用者と累計の数字は意味が違うため、分けて見る必要があります。
項目 | 内容 |
|---|---|
運営会社 | Character Technologies, Inc. |
創業 | 2021年。Google出身のNoam Shazeer氏とDaniel De Freitas氏が創業 |
月間アクティブ利用者 | 約1,200万人 |
平均利用時間 | 1日約120分 |
現在・過去の利用者の累計 | 約1億6,300万人 |
Googleとの関係 | 2024年8月に約27億ドルの非独占ライセンス契約。創業者はGoogleへ復帰(報道・訴状ベース) |
現在の状況 | Chapter 11の手続き中。同社はサービスを続ける方針 |
Googleとの契約の経緯から、家族の訴訟ではGoogleも被告に含まれました。Googleは別会社であり、アプリの開発や運営はしていないと主張しています。創業者の動きはNoam Shazeer氏に関する解説でも取り上げています。
2023〜2026年 訴訟の全タイムライン
争いの中心は、家族の提訴から和解、州の執行、破産へと移ってきました。主な出来事を時系列で並べます。
時期 | 出来事 |
|---|---|
2023年4月 | フロリダ州の少年がCharacter AIの利用を開始(訴訟での主張) |
2024年2月 | 同少年(14歳)が死亡 |
2024年8月 | GoogleとCharacter AIが約27億ドルのライセンス契約 |
2024年10月22日 | 少年の母親Megan Garcia氏が、同社・創業者2名・Googleをフロリダ州の連邦地裁に提訴 |
2025年1月15日 | FTCがCIDを発行(2025年8月下旬ごろに調査を一時停止) |
2025年2月18日 | ニューメキシコ州がCIDを発行 |
2025年5月21日 | 連邦地裁が却下申立ての段階で、訴訟の継続を認める命令 |
2025年6月11日 | フロリダ州が召喚状を発行 |
2025年8月19日 | テキサス州が、医師免許・学歴・守秘の虚偽表示に関するCIDを発行 |
2025年9月 | コロラド州などの家族が提訴。FTCが6(b)命令を発行 |
2025年10月29日 | 同社が18歳未満の自由形式チャットを終了すると発表 |
2025年11月 | 同社が46州・準州の合同調査を把握。18歳未満の自由形式チャットの終了期限(25日) |
2026年1月 | 家族の訴訟で包括和解。8日にケンタッキー州が提訴 |
2026年5月1日 | ペンシルベニア州医事委員会が提訴(州の発表は5月5日) |
2026年8月 | カリフォルニア北部地区連邦地裁に新規の人身被害訴訟 |
2026年9月10日 | カリフォルニア州SB 1119に知事が署名 |
2026年10月12日 | Character TechnologiesがChapter 11を申請 |
2026年10月28日 | ニューヨーク州S9051Bに知事が署名 |
2026年10月30日 | 破産裁判所で入札手続きの審問。手続きの承認が報じられる |
2026年11月2日 | ペンシルベニア州の訴訟の答弁期限 |
2026年11月3日 | 入札手続きの修正した命令案を提出(報道ベース) |
発端:フロリダ州14歳少年の死亡事件と遺族の訴訟
一連の訴訟が広く知られるきっかけになったのは、2024年10月にフロリダ州の母親が起こした訴訟です。遺族は、息子がCharacter AIのキャラクターとの関わりを深めた末に亡くなったとして、サービスの設計に問題があったと主張しました。この因果関係が裁判で認定されたわけではありません。
訴訟(No. 6:24-cv-01903)で遺族が主張した内容は、主に次のとおりです。
- 設計上の欠陥: 感情的な依存を招く設計だった
- 警告の不備: 未成年者へのリスクの説明が不十分だった
- 不法死亡: 製品の欠陥が死亡につながった
- データの利用: 未成年者のデータをモデルの学習に使った
同様の訴訟は、コロラド州、ニューヨーク州、テキサス州の家族からも起こされました。
つらい気持ちがあるときは、一人で抱え込まず、厚生労働省のまもろうよ こころに掲載された窓口へ相談できます。
転換点:4州訴訟でGoogleとCharacter AIが和解(2026年1月)

2026年1月、同社とGoogleは、当時係属中だった人身被害訴訟の全件について包括和解しました。フロリダ・コロラド・ニューヨーク・テキサスの4州で起こされた5件が報じられています。
和解の条件は非公開で、責任を認めたものでもありません。和解で終わったため、Garcia訴訟には本案判決も上級審の判断もなく、争点は裁判所で決着しないままです。
和解で争い全体が終わったわけではありません。ケンタッキー州が2026年1月8日に提訴し、ペンシルベニア州も5月に続きました。原告の中心は、損害賠償を求める家族から、法の執行を求める州へ移っています。
州の執行訴訟:ペンシルベニア州が「AI医師詐称」を提訴(2026年5月)

出典: ペンシルベニア州 公式サイト
ペンシルベニア州の訴訟は、AI専用の法律ではなく既存の医師免許制度で、チャットボットの提供企業を訴えた点に特徴があります。原告は州医事委員会(State Board of Medicine)で、州務省が代理しています。州司法長官の訴訟ではありません。
項目 | 内容 |
|---|---|
提訴日 | 2026年5月1日(州の発表は5月5日) |
裁判所・事件番号 | ペンシルベニア州コモンウェルス裁判所、No. 220 MD 2026 |
根拠法 | 医療行為法(Medical Practice Act)。63 P.S. §422.38(差止め)、§422.10(定義) |
請求の中心 | 無資格の医業の差止め。損害賠償の請求は確認できない |
問題となった「Emilieボット」の詳細
州は、調査員の確認でチャットボットが有資格の医師を名乗ったと主張しています。Norton Rose Fulbrightによる訴状の要約では、主張の内容は次のとおりです。
- 調査員が無料アカウントで「psychiatry」を検索し、「Doctor of psychiatry」と説明されたキャラクターEmilieを見つけた
- 調査員が悲しみや空虚感、疲労を伝えると、Emilieはうつ病に言及し、評価の予約を提案した
- 薬が役立つかの評価は自分の職務範囲(remit)内だと答えた
- Imperial College Londonで学び、7年の経験があり、州の医師免許を持つと述べた
- 示された免許番号は無効だった
いずれも州の主張で、裁判所が事実と認定したものではありません。
州が求める救済措置
州が求めているのは、無資格の医業にあたる行為の差止めです。州の発表では仮差止めを求める方針が示されました。ただし、チャットボットの改修や表示の変更など、具体的に何を求めるかは要約資料からは明らかではありません。
Norton Rose Fulbrightの解説によると、§422.38に基づく差止めでは、州は実際の被害を示す必要がないとされています。キャラクターを作った利用者ではなく、プラットフォームを運営する会社を責任の対象にしている点も特徴です。
同社の説明と争いの中心
同社は、キャラクターはフィクションであり、専門的な助言として頼るべきではないと説明しています。争いの中心は、免責表示があれば足りるのか、それともキャラクターが資格を名乗った時点で無資格の医業にあたるのかという点です。
この訴訟が注目される理由
新しい法律を待たずに、既存の免許制度で提供企業を問えるかが試されているためです。裁判所の判断は出ていないため、この手法が通用するかどうかは現時点では分かりません。
医師なりすましの問題は、ペンシルベニア州だけの論点ではありません。テキサス州は医師免許などの虚偽表示についてCIDを出しており、カリフォルニア州ではAB 489が施行されました。連邦議会にも資格の虚偽表示を禁じる法案が出ています。医療分野でのAIの使い方は、医療分野のAI活用の解説で取り上げています。
訴訟の現状
宣誓供述書によると、答弁期限は2026年11月2日まで延長され、10月13日時点で両者は和解協議中でした。11月2日以降の答弁、和解、手続きの停止、仮差止めの判断は確認できていません。
州はこの訴訟とは別に、12名のAIタスクフォースの設置と通報窓口(pa.gov/ReportABot)も公表しています。
Character AIの破産で訴訟はどうなるのか(2026年10月〜)
破産の申請で、すべての法的手続きが一律に消えるわけではありません。一般に、州が規制権限を行使する手続きには破産の自動停止の例外があるため(11 U.S.C. §362(b)(4))、州の手続きは原則として続く可能性が高いと考えられます。本件で裁判所がどう判断するかは確認できていません。
手続きの種類 | 一般的な扱い | 本件で確認できたこと |
|---|---|---|
州の差止めなどの執行 | 自動停止の例外になりうる | 裁判所の判断は未確認 |
民間の損害賠償請求 | 一般に停止され、破産手続きの中で債権として扱われる | 新規訴訟の個別の扱いは未確認 |
資産売却と利用者データ | 破産裁判所が審理 | 州連合が保護を要求 |
なぜ破産に至ったのか
宣誓供述書で同社は、計算資源と人材のコスト、安全対策の費用増、多額の法務費用、資金調達の難しさを挙げています。借入はなく、使途に制限のない現金は約5,700万ドルでした。一方で、月次の営業赤字は約800万〜900万ドルです(2026年8月時点)。
Disneyへの売却案と州の反応
公式の発表(Yahoo Finance転載)によると、Disneyは2,000万ドルで特定の知的財産の非独占・永続ライセンスなどを取得する案を示しています。これは最初の買い手候補としての提案で、より良い入札があれば入れ替わります。修正売却通知では、Disneyの対象資産に個人情報は含まれないとされています。
これに対し、39州とワシントンDCは、消費者プライバシー・オンブズマンが必要だと主張しました。フロリダ州は別途参加しており、報道では計40州とDCとされています。
10月30日の審問で、Brendan Shannon判事はオンブズマンの選任は命じず、プライバシーを評価する専門家の起用を強く促しました。Law360の報道では、判事は入札手続きを承認しました。PPC Landの報道によると、判事は異議を退ける意向も示しました。
今後の予定
11月3日に提出された命令案の日程は次のとおりです。判事の署名は確認できていないため、変更される可能性があります。
日程 | 内容 | 確度 |
|---|---|---|
11月18日 | 売却への異議期限 | 命令案(報道ベース) |
11月19日 | 債権者集会 | 管財事務サイトで確認 |
11月24日 | 入札期限 | 命令案(報道ベース) |
12月1日 | オークション | 命令案(報道ベース) |
12月3〜4日 | 売却審問 | 命令案(報道ベース) |
同社は手続き中もサービスを続ける方針ですが、売却で存続できなければ終了するとしています。アプリの今後、チャット履歴、代替サービスはCharacter.AIのディズニー買収は本当?2,000万ドルの中身とアプリ・チャット履歴の行方で詳しく解説しています。
3つの法的争点をわかりやすく解説
Character AIをめぐる法律問題は、言論の自由、製造物責任、プラットフォーム免責の3点に分かれます。いずれも確定した答えは出ていません。
①修正第1条(言論の自由)は企業の防御としてどこまで有効か
2025年5月21日、フロリダ中部地区連邦地裁のAnne Conway判事は、却下申立ての段階で「現段階でCharacter A.I.の出力が言論だと判断する用意はない」としました。報道で引用された表現は「not prepared to hold」です。
これは「AIの出力は言論ではない」と確定させた判断ではありません。訴訟の初期の段階で示されたもので、判断も現時点に限られています。被告が利用者の修正第1条の権利を主張できること自体は認められており、Volokh教授らによる批判もあります。2026年1月の和解で訴訟が終わったため、先例としての重みは限られます。
②製造物責任(Product Liability)と設計欠陥の問題
同じ命令で判事は、アプリの設計上の欠陥に着目した主張について、製造物責任の請求の継続を認めました。AI企業にとっては、生成された文章の内容だけでなく、アプリの設計そのものが問われうることを示す例です。
遺族側の主な主張 | 内容 |
|---|---|
設計上の欠陥 | 感情的な依存を招く設計だった |
警告の不備 | 未成年者へのリスクの説明が不十分だった |
いずれも遺族側の主張で、責任が認定されたわけではありません。
③Section 230(プラットフォーム免責)のAIへの適用は未確定
Section 230は、第三者が投稿した内容についてプラットフォームの責任を軽くする米国の法律です。AIが生成した文章を「第三者の投稿」として扱えるかについて、確立した判断があるとは言えません。
Character AIの場合、キャラクターを作るのは利用者でも、応答を生成するのはサービス側のAIです。ペンシルベニア州が利用者ではなく運営会社を責任の対象にしている点は、この問題とも関わります。
このツールを自社のシステムや業務にどう組み込むか、ご提案します
初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)
Character AIが実施した安全対策の変化(2024〜2026年)

出典: Character.AI 公式
同社の対策は、未成年者の利用制限と年齢確認が中心です。公式発表で確認できた内容は次のとおりです。
時期 | 対策 |
|---|---|
2024年10月22日 | 自傷に関する語句への相談先の案内を導入済みと公式ブログで説明。1時間利用後の通知や免責表示の改訂は導入予定として発表 |
2025年10月29日 | 18歳未満の自由形式チャットの終了を発表。移行期間は1日2時間から段階的に削減 |
2025年10月29日 | 自社の年齢確認モデルと、Personaなどの第三者ツールを組み合わせる方針を発表 |
2025年10月29日 | 独立した非営利組織AI Safety Labの設立と資金提供を発表 |
2025年11月25日まで | 18歳未満の自由形式チャットを終了。動画・ストーリー・ストリームの作成は継続 |
同社と州の主張は、免責表示の評価で食い違っています。同社はキャラクターがフィクションだと説明しますが、州は資格を名乗る応答そのものを問題にしています。
米国・EUの規制はどう変わったか?成立した法律と審議中の法案
米国では連邦のチャットボット専用法は確認できない一方、州法の成立が進みました。EUでは、AIとの対話を開示する義務が2026年8月2日に適用されています。成立済みと審議中は、分けて確認する必要があります。
地域 | 法律・法案 | 状態 | 主な内容 |
|---|---|---|---|
カリフォルニア州 | AB 489 | 2026年1月1日施行 | 医療専門職になりすますチャットボットを規制 |
カリフォルニア州 | SB 243 | 2026年1月1日施行 | コンパニオンチャットボットの開示、自殺対策、私訴権(個人が訴える権利) |
カリフォルニア州 | SB 1119(Adam's Law) | 2026年9月10日署名 | 子どものリスク評価、危機対応、保護者設定、独立監査、私訴権 |
ニューヨーク州 | S9051B | 2026年10月28日署名、2027年1月1日施行 | 未成年に人間を装う機能や専門職的な関係の主張などを禁止。民事罰は1件最大2.5万ドル |
デラウェア州 | HB 191 | 成立 | AIなど人間以外による医療専門職の肩書き使用を禁止 |
オレゴン州 | HB 2748 | 2026年1月1日施行 | AIによる看護師の肩書き使用を禁止 |
ニューヨーク州 | S7263 | 審議中 | 専門職の業務にあたる助言の禁止、私訴権 |
連邦 | GUARD Act | 2026年5月に上院司法委員会を通過。本会議採決の報道は未確認 | 未成年へのAIコンパニオン提供禁止、年齢確認など |
連邦 | CHATBOT Act | 法案 | 医療・法律・金融の資格の虚偽表示を禁止 |
EU | AI Act 第50条 | 2026年8月2日適用 | AIと対話していることの開示など |
SB 1119の施行日は、解説によって2027年1月1日と7月1日に分かれており、条文を確認できていません。Fenwickの解説によると、独立監査の開始はさらに後で、グロス収益5億ドル以上の事業者で2029年1月1日とされています。
Holland & Knightの解説によると、AIセラピー系の禁止や制限は、イリノイ州とネバダ州が2025年に、コロラド州、メイン州、ロードアイランド州、テネシー州、バーモント州が2026年に導入しました。
EUの第50条に違反した場合の制裁金は、第99条で上限1,500万ユーロまたは全世界売上高の3%の高いほうです。中小企業は低いほうが上限になります。「売上高の7%」は禁止行為(第5条)の上限で、透明性義務の話とは別です。詳しくはEU AI Actの施行に関する解説をご覧ください。
州司法長官がAI企業を調べる動きはCharacter AIに限りません。OpenAIへの州司法長官の調査や、AIコンパニオンアプリの年齢制限の動きも合わせて見ると、全体の流れをつかめます。
日本への影響:年齢確認と規制動向

日本でCharacter AIに対する同種の訴訟や行政措置は確認できていません。ただし、破産の影響は日本の利用者にも及ぶ可能性があり、国内ではAI法の見直し議論も始まりました。
日本の利用者への直接的な影響
最も大きな影響は、サービスの存続が売却の行方に左右されることです。サービスは世界向けに提供されており、売却で存続しなければ日本からも使えなくなると考えられます。
18歳未満の制限について、公式発表に地域を限定する記載はありません。年齢確認は、自社のモデルと第三者ツールの組み合わせと説明されています。確認できた公式情報の範囲では、全利用者に顔スキャンを義務づけたとまでは言えません。現行の仕様と日本での適用は、アプリ内の案内で確認してください。
日本の規制環境(現行)
日本のAI規制は、現時点で法的拘束力の弱い枠組みが中心です。2026年10月に見直しの議論が始まりましたが、結論は出ていません。
法律・ガイドライン | 内容 | 状況 |
|---|---|---|
AI推進法(2025年5月成立) | 研究開発の推進と、国による調査・指導などの枠組み | 2026年10月26日に見直し議論を開始、28日にWG設置(報道)。調査に応じない開発事業者への罰則や海外事業者への適用が論点 |
AI事業者ガイドライン第1.2版(2026年3月31日) | 事業者の自主的なガバナンスを促す | 法的拘束力・罰則なし |
自民党提言(2026年4月) | 悪質事業者への罰則の検討を要請 | 提言案を大筋了承。立法はこれから |
青少年インターネット環境整備法の見直し | 中間整理報告書が生成AIへの対応の必要を指摘 | 12月に最終報告との報道あり |
報道によると、AI法の改正案は早ければ2027年の通常国会に出る見通しです。ただし決定事項ではありません。また、焦点は調査に応じない事業者への罰則などで、チャットボットの医師なりすましや子どもの依存を対象とする動きとしては確認できません。
こども家庭庁の中間整理報告書も、セーフティ・バイ・デザインや機能・設計への着目を記していますが、生成AIへの言及は性的画像や悪用が中心です。当編集部の全文検索では「チャットボット」「対話型」「コンパニオン」の語は見当たりませんでした。
日本の現行法で問題になりうる点
チャットボットが医師を名乗った場合に日本で違法になるかは、未解決の論点です。関係しうる条文はありますが、断定はできません。
医師法第17条は「医師でなければ、医業をなしてはならない」、第18条は「医師でなければ、医師又はこれに紛らわしい名称を用いてはならない」と定めています。医業は、医行為を反復継続の意思で行うことと整理されています。
問題は、AIや提供事業者を誰がどう「医業」や「名称使用」の主体とみなすかです。この点について、確認できた公的な見解はありません。
診断などに関わるプログラムは、薬機法の医療機器に該当するかも問題になりえます。厚生労働省は、診断等への寄与の程度などで判断するガイドラインを示していますが、生成AIに固有の通知は確認できていません。未成年者のデータを学習に使う場合は、個人情報保護法との関係も検討が必要です。
米国・EU・日本のAI規制比較
米国は州法と既存法、EUは包括的な法律、日本は自主的な取り組みと見直し議論が中心です。
地域 | アプローチ | チャットボットへの対応 | 罰則 |
|---|---|---|---|
米国(連邦) | 専用法は未成立。FTCの調査や法案が先行 | GUARD Act、CHATBOT Actなどが法案段階 | 専用法としては確認できない |
米国(州) | 既存法の活用と新法の制定 | 医師なりすまし、未成年保護などで成立・提訴 | 州により異なる。NYは1件最大2.5万ドル |
EU | リスクに応じた包括規制(AI Act) | AIとの対話の開示義務が適用済み | 第50条違反は1,500万ユーロまたは売上高3%の高いほうが上限 |
日本 | 推進重視のソフトロー、見直し議論中 | 明示的な規定は確認できない | 調査に応じない事業者への罰則を検討(報道) |
生成AI全体のリスクと基本は、生成AIとは?仕組み・種類・活用例・リスクをわかりやすく解説で確認できます。
保護者・ユーザーが今すぐ確認すべき5つのこと
訴訟の結論を待たなくても、利用者側で確認できることがあります。
1. 未成年の子どもが使っているか確認する
アカウントの年齢設定と実際の年齢が一致しているかを確かめてください。公式の年齢確認があっても、家庭での確認は別に必要です。
2. どのようなキャラクターと会話しているか把握する
キャラクターは利用者が作成できるため、「精神科医」や「恋人」といった設定のものに触れる可能性があります。監視を目的にするより、どんな相手とどんな話をしているかを親子で話せる状態が大切です。
3. 健康・医療に関する情報はAIに頼らない
キャラクターの肩書きや免許の説明を、資格の証明として受け取らないでください。うつ症状や服薬の相談は、医療機関にしてください。
4. 「AIが言ったから」をそのまま信じない
同社自身が、キャラクターはフィクションで、専門的な助言として頼るべきではないと説明しています。このことを子どもにも具体的に伝えておいてください。
5. 感情的な依存のサインに気づく
同社の宣誓供述書では、平均利用時間は1日約120分とされています。食事や睡眠、学校生活に影響が出ているなら、利用時間の見直しや専門家への相談を考えてください。
つらい気持ちがあるときの相談先
本人や周囲の人が悩みを抱えている場合は、次の窓口を利用できます。受付時間は変わることがあるため、厚生労働省のページで最新情報を確認してください。
窓口 | 電話番号 | 受付時間 |
|---|---|---|
#いのちSOS | 0120-061-338 | 毎日24時間 |
よりそいホットライン | 0120-279-338 | 24時間 |
チャイルドライン | 0120-99-7777 | 毎日16時〜21時 |
24時間子供SOSダイヤル | 0120-0-78310 | 24時間 |
AIチャットボットを提供する企業が確認すること
裁判所の判断は出ていませんが、企業としては免責表示だけに頼らない備えが現実的です。次の表は、訴訟や新法の論点を当編集部が確認項目に整理したもので、法令の要件をそのまま示すものではありません。
確認項目 | 具体的に見ること | 関連する動き |
|---|---|---|
肩書き・資格の出力 | 医師や弁護士を名乗る応答、免許番号の生成を防いでいるか | ペンシルベニア州の訴訟、AB 489 |
利用者が作るキャラクター | 公開前後の審査と通報への対応があるか | ペンシルベニア州の訴訟 |
危機への対応 | 自傷などの話題で相談先を案内する手順があるか | SB 243、SB 1119 |
未成年者への対応 | 年齢確認の方法と、未成年向けの機能制限を決めているか | S9051B、SB 1119 |
AIであることの開示 | 会話の中で利用者に明確に伝わるか | EU AI Act第50条 |
データの扱い | 事業売却時も含め、会話データの扱いを説明しているか | 破産手続きでの州の主張 |
自社の業務や既存システムにAIを組み込むときは、こうした出力の制御と記録を要件の段階で決めておくと、後からの改修を抑えられます。予算の見方はAI開発の費用相場で確認できます。社内利用のリスク対策全般は生成AIのセキュリティ解説も参考にしてください。
こんな人が特に注意すべき / こんな人はリスクが比較的低い
注意の度合いは、年齢と、AIに何を求めているかで変わります。
特に注意が必要なケース
- 未成年の子どもがいる保護者: 年齢設定の確認と、依存のサインの把握が必要です
- 精神的に不安定な状態にある人: AIとの会話が、適切な支援につながる機会を遠ざける場合があります
- 医療・法律・金融の判断をAIに求める人: キャラクターの肩書きは資格の裏付けになりません
- 作品や会話をサービス内に蓄積している人: サービスの存続が売却の行方に左右されます
- Character AIとの連携や業務利用を検討している企業: 破産手続き中のため、提供の継続性と契約相手を確認するまで判断を保留するのが無難です
リスクが比較的低いケース
- 成人が、フィクションと理解したうえで創作やロールプレイを楽しむ
- 健康や法律などの相談に使わない
- 利用時間を自分で管理できている
- サービスが終了しても困らない範囲で使っている
よくある質問(FAQ)
Q. Character AIは日本でも利用できますか?
日本向けに限った提供停止の発表は、2026年11月5日時点の確認範囲では見つかっていません。ただし、運営会社は破産手続き中で、長期的な提供は保証されていません。
Q. 4州の和解はGoogleが有罪を認めたということですか?
いいえ。民事の和解に有罪という考え方はなく、今回の和解でも責任は認められていません。金額などの条件も公開されていません。
Q. Disneyが落札すれば、訴訟の責任もDisneyに移りますか?
現時点では判断できません。確認できた売却案は、特定の知的財産のライセンスなどが中心で、個人情報は対象外とされています。入札で別の買い手が現れる可能性もあり、最終的な条件は確定していません。
Q. ペンシルベニア州訴訟の「医師詐称」は日本でも違法ですか?
断定できません。医師法には医業と名称使用の規定がありますが、AIや提供事業者への当てはめは確立していません。個別の判断は弁護士など専門家に確認してください。
Q. Character AIの18歳未満制限は有効ですか?
公式には18歳未満の自由形式チャットは終了しています。ただし、年齢確認の精度や、実際の年齢と異なる利用を防げているかを示す公的な検証は確認できていません。
Q. AIチャットボットの訴訟は今後増えますか?
増えるとは断定できません。ただ、カリフォルニア州SB 243とSB 1119は一定の場合に個人が訴える権利を定めており、法的な根拠は広がっています。
まとめ
Character AIをめぐる争いは、家族の訴訟の和解を経て、州の執行と破産手続きが並行する段階に移りました。ペンシルベニア州の医師詐称訴訟は注目を集めていますが、裁判所の判断はまだ確認できず、州の主張を事実と断定できる段階ではありません。
規制面では、カリフォルニア州とニューヨーク州の新法、EU AI Act第50条の適用など、ルールの具体化が進んでいます。日本でも2026年10月にAI法の見直し議論が始まりましたが、医師なりすましや子どもの依存を対象とする動きとしては確認できません。今後は、ペンシルベニア州の和解や仮差止めの行方、12月に予定される売却審問、日本の改正案の中身が注目点です。
利用者が今できるのは、フィクションとして楽しむ範囲にとどめること、健康や法律の判断をAIに委ねないこと、未成年者の利用を家庭で把握することです。
参考ソース: Stretto 事件ページ / 同社CEOの宣誓供述書 / ペンシルベニア州の発表 / Norton Rose Fulbright / Holland & Knight / NY州上院 S9051B / Mullin下院議員 CHATBOT Act / 日本経済新聞 / Character.AI 公式発表
このツールを自社のシステムや業務にどう組み込むか、ご提案します
この記事の著者

AI革命
編集部
AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。
最新記事

Cognition(Devin)$25B評価額・$1B調達を完全解説|ARR $492M・月50%成長・Mercedes/NASA/Goldman Sachs採用からSeries E $48B・売上$1B突破まで【2026年11月更新】
2026/05/28

Ineffable Intelligenceとは?David Silver創業・$1.1Bシード・$5.1B評価額から共同創業者6名・NVIDIA/Google提携まで解説【2026年11月最新】
2026/04/28

Google AI StudioでGoogle Cloudクレジットを受け取る方法|AI Pro・Ultra特典の金額・条件・使える量【2026年11月】
2026/11/16

Hugging Face買収はどうなる?NVIDIA129億ドル案件の現状|DOJの調べ・フアンCEO辞任の影響・料金【2026年11月最新】
2026/08/27

Ox Alphaとは?正体はGLM-5.3-Flash|OpenRouter1位の経緯・無料終了後の使い方と料金【2026年11月最新】
2026/08/26

ガバメントAI「源内」とは?デジタル庁OSSの中身・使い方・導入コスト【2026年11月最新】
2026/04/28


