ファインチューニングとRAGの比較｜社内データをAIに学習させる方法と費用【2026年9月最新】

社内の規程・マニュアル・過去の事例をAIに答えさせたいなら、AIそのものを追加で鍛える「ファインチューニング」より、資料を読ませてから答えさせる「RAG」のほうが正確で安く、AIとクラウドの利用料は社員300名規模の例で月約3万〜7万円です。ファインチューニングは学習の計算費こそ数千円ですが、Azureで常時使える形に置いておくだけで質問がゼロでも月約19万円かかり、正解例づくりと土台のAIが引退するたびの作り直しが費用の本体になるため、選ぶ意味があるのは「知識」ではなく「書き方や判断の型」をそろえたい場合に限られます。

さらに2026年は、選択肢そのものが変わりました。OpenAIは2026年5月7日、開発者向けの有料サービス（API）で提供してきたファインチューニングの段階的な終了を告知し、一度も使ったことのない会社は、すでに新しく始められません。「ChatGPTに自社のデータを学習させる」という計画は、前提から見直す必要があります。

本記事では、社内データをAIに使わせたい経営者・事業責任者・情報システム部門の方に向けて、方式ごとの毎月の費用・合う業務・データの置き場所を、各社の公式単価をもとに比較します。当社も受託開発で社内データを使うAIを作っています（小さく試す検証（PoC）300万円〜／小規模改修 30万円〜／本開発は個別見積、すべて税別）。ただし、資料の量によってはどちらも作らなくていい会社もあります。 その判断の目安も数字で書きます。金額は特記のない限り税別、ドル建ての料金は1ドル＝153円で換算しています。

「AIに社内データを学習させる」方法は3つある

「社内データをAIに学習させたい」という相談の中身は、大きく3つの方法に分かれます。技術の名前ではなく、AIに何をさせるかで見ると違いがはっきりします。

言葉としては同じ「学習させる」でも、①と③はAI本体に手を加えず、②だけがAIを作り替えます。「社内データを学習させたAI」と呼ばれているものの中には、実際は①の読ませる方式のものも多いという指摘もあります。どちらの意味で話しているかによって、費用の構造も、できることも大きく変わります。

仕組みの技術的な違いはRAGとはで解説しています。本記事では、どれを選ぶといくらかかり、何ができて何ができないかに絞ります。

2026年の最新事情｜OpenAIは新規受付を終了、Azureの学習済みAIは2027年10月に引退

出典: OpenAI Developers 公式

比較に入る前に、2026年に起きた変化を押さえておいてください。

OpenAI：自社APIでのファインチューニングを段階的に終了

出典：OpenAI Deprecations、OpenAI Supervised fine-tuning

すでに学習させたAIは、土台になっているAI（gpt-4.1など）が廃止されるまでは引き続き使えます。終了の理由について、OpenAIは開発者向けの連絡で「新しい世代のAIは指示や書式に従う力が高く、指示文（プロンプト）で対応するほうが安く速くなった」という趣旨を説明したと報じられています。

Microsoft（Azure）とGoogleは継続。ただし「作り直しの期限」がある

Microsoft Foundry（Azure OpenAI）とGoogle Cloud（Vertex AI）では、2026年9月時点でもファインチューニングを提供しています。ただしMicrosoftは、学習させたAIの提供終了日を公式に示しています（2026年7月24日更新）。

出典：Microsoft Foundry モデルのライフサイクル

つまり、2026年に学習させたAIは約1年で土台ごと引退し、新しい土台で学習し直すことになります。ファインチューニングは「1回払えば終わり」の投資ではありません。これに対してRAGは、答えを書くAIを新しいものに差し替えても、整えた資料はそのまま使えます。

Googleは、Gemini 3以降のAIを学習させた場合、使うときの料金が元のAIの1.5倍になると料金表に明記しています（Vertex AI 料金）。Amazon Bedrockでは、学習させたAIを使った分だけの料金で動かせるのは米国のデータセンター地域（リージョン）に限られ、東京リージョンは対象外です（2026年9月20日時点、AWS公式ドキュメント）。Claude（Anthropic）については、現在ファインチューニングを使える経路を公式情報で確認できなかったため、Claudeは原則として学習させられない前提で計画するのが安全です。

ベンダー各社の見解も同じ方向を向いています。AWSは、社内文書への質問応答はRAGから始めることを推奨しています（AWS 規範ガイダンス）。IBMは、AIの性能を上げる手順を「①用途に合うAIを選ぶ→②指示文と渡す情報を設計する→③RAG→④AIが使える機能を増やす→⑤ファインチューニング」の5段階で示し、ファインチューニングを最後に置いています（TechTarget、2026年7月30日）。

目的別の比較｜知識を答えさせるならRAG、書き方をそろえるならファインチューニング

経営判断に関わる項目で並べると、次のとおりです。

「覚えさせる」のは苦手だと、研究で分かっている

「社内規程をAIに丸暗記させたい」という発想でファインチューニングを検討する会社は少なくありません。しかし、研究の結果はこの使い方に否定的です。

• 知識をAIに足す方法を比べた論文「Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs」（Ovadiaほか、2024年1月改訂）では、資料をそのまま学習させる方式と比べて、学習時に見たことのある知識でも、まったく新しい知識でも、RAGが一貫して上回りました。論文は「AIは学習によって新しい事実を身につけるのに苦労する」と結論づけています（arXiv:2312.05934）
• Google Researchなどの研究チームによる論文（Gekhmanほか、国際学会EMNLP 2024採択）では、AIがもともと知らない知識を含む正解例は覚えるのが遅く、覚えるにつれて、もっともらしい誤答が増えていくことが示されました。同論文は「事実の知識は主に最初の大規模な学習で身につき、ファインチューニングはその使い方を教えるもの」としています（arXiv:2405.05904）
• OpenAIの公式ガイドも、ファインチューニングの用途として挙げているのは分類、特定の書式での出力、指示への従い方の矯正などで、「知識を足す」ことは挙げていません。関連する情報は指示文の中で渡すよう案内しています

業務の言葉にすると、学習で身につくのは「知識」ではなく「型」です。社内規程を正しく答えさせたいなら、学習させるより読ませるほうが正確で、安く済みます。

社内データのAI活用は、どこに時間と手間がかかっているか

方式を比べる前に、発注前に知っておきたい現場の事実が3つあります。

1. ファインチューニングの時間は「学習」ではなく「正解例づくり」に消える

学習の計算そのものは数時間〜数日で終わります（AWS 規範ガイダンス）。時間がかかるのは、「この問い合わせはこの部署に回す」「この報告書はこう書く」という正解例を作る作業です。何が正解かを判断できるのは、その業務を知っている社員だけです。

仮に正解例を1,000件、1件あたり5〜10分で作るとすると、約83〜167時間かかります。時給3,000〜5,000円で換算すると、約25万〜83万円分の社内の作業です。後述する学習の計算費（この例で約2,300円）の100倍以上にあたります。これに、学習後に期待どおり答えるかを確かめる作業と、土台のAIが引退するたびの学習し直しが加わります。

2. RAGで精度が出ない原因の9割近くは「資料」と「探し方」

キヤノンITソリューションズの社内検証では、RAGの回答が役に立たなかった原因は、文書の不備・不足が46%、資料の該当箇所を探し当てられなかったことが42%で、AIがうまくまとめられなかったのは12%でした（キヤノンITソリューションズ、2025年4月）。「RAGがうまくいかないから、ファインチューニングに切り替える」という判断では解決しません。 原因の大半は、AIを作り替えても直らない資料と探し方の側にあるからです。

3. 「どこまで正確なら使うか」が決まっていないと、比べられない

RAGとファインチューニングのどちらが自社に合うかは、実際の業務の質問で答えさせ、採点してみないと分かりません。そのためには、評価に使う質問と、何問中何問正解なら合格とするかの基準を先に決める必要があります。これを決められるのも、発注側の業務担当者です。

費用の比較｜学習の計算費は数千円、本体は「置いておく費用」と「人の作業」

出典: Microsoft Learn 公式

毎月のクラウド・AI利用料（公式単価からの試算）

各社の公式単価（2026年9月20日時点）から、同じ規模で毎月の利用料を計算しました。前提は月15,000問（社員300名×1人月50問）、答えは1問あたり800トークンです。トークンは、AIの利用料を数える単位です。AIに読ませる量は、ファインチューニングは資料を渡さないため1問1,000トークン、RAGは探し当てた資料の抜粋を含めて1問約8,000トークンとしています。

学習費は、正解例1,000件×1件1,000トークン×3周＝300万トークンの例です。出典：Microsoft FoundryとAzureの公式価格表、Vertex AI 料金、さくらインターネット 高火力 VRT。RAG側の内訳はRAG導入の費用で詳しく解説しています。為替や単価の改定で金額は変わります。

この表から読み取ってほしいのは、次の3点です。

• 学習の計算費は数千円で、費用の本体ではありません。 見積もりで「学習費」が安く見えても、判断の材料にはなりません
• Azureで学習させたAIは、置いておくだけで課金されます。 1時間1.70ドルで、Microsoftは「呼び出しの有無にかかわらず、時間単位の費用がかかる」と明記しています。1か月（730時間）で約19.0万円、年間で約228万円です。用途ごとに別のAIを学習させれば、その数だけ増えます。置いておく費用がかからない「Developer」という置き方もありますが、公式に「評価用で本番用ではない」「稼働の保証なし」とされ、15日間使われないと自動で削除されます
• Googleの学習させたAIは、使った分だけの料金で、Azureのような置いておく費用の記載はありません。ただしGemini 3.5 Flashなどは学習・提供とも米国・欧州に限られ、自社で管理する暗号鍵（CMEK）にも対応していません。正解例で学習させる方式は、Googleの稼働保証（SLA）の対象外です

1年間で比べると、クラウドとAIの利用料だけでRAGは約38万〜86万円、Azureのファインチューニングは約233万円です。

費用の本体は人の作業と作り直し

前の章の試算のとおり、正解例を1,000件作るだけで社内の作業は約25万〜83万円分にのぼります。そこに、①学習後の出来栄えの確認、②学習させたAIを置いておく費用、③土台のAIが引退するたびの学習し直し（Azureのgpt-4.1系なら2027年10月まで）が乗ります。

RAGも、資料の整備と答えの確認という人の作業が費用の大半を占める点は同じです。違いは、AIを作り直す支払いが繰り返し発生しないことです。

開発会社の公開相場は、初期150万〜3,000万円と20倍の幅

第三者の統計ではなく、開発会社が自社サイトで示している相場です。ノーコードソリューションズは、指示文の設計を中心に済ませる場合を初期10万〜80万円・月5万〜50万円としています。

この幅を生んでいるのは学習の計算費ではなく、正解例をどれだけ作るか、出来栄えをどこまで確かめるか、学習させたAIをどこに置いて運用するかです。公開相場の中には、学習させたAIを動かす基盤の費用を月0〜5万円と見込んでいるものもありますが、Azureの公式単価で常時使える形に置くと、それだけで月約19万円です。自社のサーバーに置くのか、どのクラウドのどの置き方なのかで、運用費は桁が変わります。

見積もりで確認すべき5項目

見積もりの読み方全般はAI開発の見積もり比較、運用費の中身はシステム保守運用費の相場をご覧ください。

ファインチューニングが必要なケース・不要なケース

出典: デジタル庁 公式Techブログ

ファインチューニングを検討してよいケース

各社の公式ドキュメントとIBMの見解をまとめると、ファインチューニングが意味を持つのは次のような場合です。

• 大量の案件を、同じ基準で速く安く振り分けたい：問い合わせの振り分け、帳票の項目の判定など
• 書式・文体・要約の型を毎回そろえたい：報告書の型、敬語のトーンなど。ただしGoogleは「指示文で明確に指示でき、毎回その通りに出るなら、元のAIで十分」としています。指示文とお手本数件で崩れないなら不要です
• 社内のサーバーで小さなAIを速く安く動かしたい：大きなAIの振る舞いを小さなAIに移す使い方です（IBM）
• 応答の速さが欠かせない：音声での自動応答など（IBM）
• 正誤がはっきり判定できる作業：正解・不正解を機械的に判定できる作業では、採点結果を使って鍛える方式も使われています（OpenAI・Microsoft・IBM）

ファインチューニングを選ばないほうがいいケース

• 規程・マニュアル・過去の事例の内容を答えさせたい → RAG
• 答えの根拠を示す必要がある → RAG
• 部署や役職によって見せる範囲を変えたい → RAG（閲覧範囲の整理は社内AIチャットボットの費用相場で解説しています）
• 個人情報を含み、後から特定のデータを消せる必要がある → RAG
• 「この申請は今どの段階か」「在庫はいくつか」など、今の状態を答えさせたい → どちらでもなく、社内システムとの連携が必要

どちらも作らなくていいケース

デジタル庁は「数百程度のQAや数万文字程度のマニュアルに則って回答させるだけなら」、一度に大量の文章を読める最新のAIを使えば「RAGなしでも十分実用的」としています（デジタル庁、2026年5月）。IBMも、100万トークンを超える入力を扱えるAIが出てきたことを、ファインチューニングが不要になってきた理由に挙げています。資料が少なければ、仕組みを作らずに資料ごとAIに渡すだけで足ります。

目的別の選び方

データを国外に出せない会社の選び方（医療・金融・インフラ）

出典: NTT 公式サイト

医療機関・金融機関・インフラ企業のように、データの置き場所が厳しく問われる会社では、方式より先にどこで学習させ、どこに置くかが制約になります。

各クラウドの公式ドキュメントを確認した範囲では、大手クラウドのファインチューニングで、日本国内だけで学習と保管を完結させる方法は見つかりませんでした。

国内で完結させるなら、国内のGPUサーバー（AIの計算に使う高性能な装置を積んだサーバー）で小型のAIを学習させる形になります。たとえば、さくらインターネットの「高火力 VRT」はNVIDIA H100を1基載せた構成で月38.5万円（税込）で、これに運用・保守の人件費が加わります。1基で動く国産のAIもあり、NTTの「tsuzumi 2」は、2級ファイナンシャル・プランニング技能検定の合格基準に届くまでに必要な追加学習の問題数が、比較対象のAIの約10分の1（200問 対 1,900問）だったと公表しています（NTT 発表、2025年10月）。国産AIの選択肢は国産LLM 7選、詳細はtsuzumi 2とはをご覧ください。

一方のRAGは、国内のデータセンターを選んで構成でき、閲覧範囲も資料単位で設定できます。医療機関や薬局で患者情報を扱うAIは、厚生労働省「医療情報システムの安全管理に関するガイドライン 第7.0版」（令和8年6月）の対象になり、データの置き場所や委託先の管理方法を決める必要があります。現実的なのは、最初は患者情報を含まない院内規程・手順書をRAGで読ませるところから始め、患者情報を扱う段階で置き場所を設計し直す進め方です。

費用の目安｜比較検証を当社に依頼する場合

ここまでの比較で方式が決まらない場合は、実際の業務の質問で試し、合格ラインに届くかを確かめるのが確実です。当社に依頼する場合の価格は次のとおりです。

当社のPoC 300万円〜は、RAGのPoCの公開相場（50万〜300万円、RAG導入の費用参照）と比べると上端です。この金額には、開始前に「どの質問に、どの水準で答えられたら合格とするか」を決め、終了時に本番へ進むかどうかを判断できる材料をそろえることが含まれます。前半で見たとおり、どちらの方式が合うかは採点してみないと分かりません。反対に、資料が少ない会社にはPoCではなく30万円〜の改修を提案します。

対応範囲と進め方は受託開発サービスのページにまとめています。PoCの工程と費用配分はAIのPoC費用、受託開発全体の費用内訳はAI受託開発の費用相場もあわせてご覧ください。

実際にやった事例｜学習させず「読ませる」形で作った医療機関のケース

守秘の関係で社名は出せませんが、当社が担当した案件の構造をお伝えします。

課題：蓄積されている文書や記録は多いのに、必要な情報を探すのに時間がかかっていました。

作ったもの：AIを学習させるのではなく、手元の資料をAIに読ませ、質問すると根拠となる箇所を示しながら答える仕組み（RAG）です。いきなり全部門に展開せず、対象を1部門・1業務に絞ったPoC（300万円〜の価格帯）として進めました。期間の内訳は次のとおりです。

何がどう変わったか：開始前に合格ラインを文書で決めていたため、終了時には合格ラインに対する実測値、本開発の概算見積、本番移行時の運用体制案がそろい、拡大するかどうかを2週間で判断できました。 ここが曖昧な案件は、この判定だけで1〜2か月延びます。根拠となる箇所を示しながら答えることは、本記事の比較でいえばファインチューニングでは満たせない条件で、資料が改定されても差し替えるだけで済みます。

インフラ企業のケース｜資料にもAIの学習にもない「今の状態」を答える

課題：「この申請は今どの段階か」「この設備の登録情報はどうなっているか」といった質問に答えるため、担当者が複数のシステムを開いて調べてから返していました。こうした質問は、資料を読ませても、AIを学習させても答えられません。答えがシステムの中にあるからです。

作ったもの：AIが社内文書を参照するだけでなく、必要に応じて別のシステムに照会して現在の状態を取ってきたうえで答える仕組みです。承認や決裁そのものはAIに行わせず、人が判断するための情報をそろえるところまでにしています。

何がどう変わったか：「調べれば分かるが、調べるのに時間がかかる」種類の質問が、担当者の手を煩わせずに解決するようになりました。RAGかファインチューニングかという二択の外側に答えがあった例です。

相談から判断までの流れと期間

目的の切り分けだけで方式が決まり、PoCを経ずに小規模改修で終わる案件もあります。最も遅れやすいのは資料の提供で、理由は技術ではなく「どれが最新版か社内で決まらない」「提供の承認が下りない」ことです。期間が延びる原因と対策はAI開発の期間で解説しています。

要件が固まっていない段階でも、受託開発の無料相談で整理から始められます。進め方は要件が固まっていない段階での開発相談もご覧ください。

よくある質問

Q1. ChatGPTの「学習に使わない」設定と、ここでいう「学習させる」は何が違いますか。

まったく別の話です。ChatGPTなどの「学習に使わない」設定は、入力した内容を提供元がAIの改良に使ってよいかどうかを決めるものです。本記事の「学習させる（ファインチューニング）」は、自社が正解例を用意して、自社専用のAIに作り替えることを指します。前者をオフにしたからといって、社内データを答えられないAIになるわけではありませんし、オンにしたからといって社内データを答えられるようになるわけでもありません。社内で「学習させたい」「学習させたくない」という話が出たら、どちらの意味かを最初に確認すると議論が早くなります。

Q2. 「自社データで学習済み」とうたうAIサービスが、どちらの方式か見分ける方法はありますか。

提供会社に3つ質問すると、おおよそ見分けられます。①資料を差し替えたら、その日から新しい内容で答えるか。②答えと一緒に、根拠の資料名と箇所を出せるか。③部署ごとに参照できる資料を分けられるか。3つとも「はい」なら、中身は資料を読ませる方式（RAG）の可能性が高いといえます。反対に「内容の更新には再学習が必要」という答えなら、AIを作り替える方式です。その場合は、再学習の費用と頻度、学習させたAIを置いておく費用が料金に含まれているかを、契約前に確認してください。

Q3. すでにOpenAIでファインチューニングしたAIを業務で使っています。どうすればいいですか。

すぐに止まるわけではありません。学習済みのAIは、土台のAIが廃止されるまで使えます。ただし新しい学習の受付は2027年1月6日で終わり、過去60日間に学習済みのAIを使っていなければ、すでに新しい学習はできません。まず、学習に使った正解例のデータを社内で保管し直してください。これが次のどの選択肢でも材料になります。そのうえで、①最新のAIに指示文とお手本数件を渡すだけで同じ水準が出るか、②出ない場合はAzureやGoogleなど他の提供元で学習し直すか、の順で比べるのが無駄の少ない進め方です。評価用の質問と合格ラインが手元にあれば、この比較は短期間で済みます。

Q4. 正解例（学習データ）は何件用意すればいいですか。

OpenAIの公式ガイドの目安では、最低10件から学習でき、50〜100件で改善が見え始めるのが一般的とされ、まず良質な50件で効果を確かめるよう案内しています。ただし必要な件数は、AIの種類と業務の難しさで大きく変わります（前述のtsuzumi 2の例では、同じ水準に届くのに必要な問題数が10倍違いました）。件数より先に決めるべきなのは、誰が正解を判断するかと、何問中何問できれば合格かです。この2つがないまま件数だけを集めると、学習させても良くなったかどうか判断できません。

Q5. 患者情報や顧客情報を学習させてもいいですか。

おすすめしません。生成AIを使ったアプリの主要なセキュリティリスクをまとめたOWASPの「LLM Top 10」（2025年版）は、学習データに含めた機密情報が、AIへの問いかけを通じて抜き出されたり復元されたりする危険を挙げ、学習前に個人情報を取り除く・匿名化することを対策としています（OWASP LLM02:2025）。個人情報を扱う業務でAIを使うなら、学習させずにRAGで資料単位の閲覧制限をかけ、必要な人だけが参照できる形にするのが基本です。ファインチューニングを使う場合も、正解例から個人を特定できる情報を除いてから学習させてください。

Q6. RAGを作ったあとで、ファインチューニングを足すことはできますか。

できます。RAGで整えた資料はそのまま使い、答えを書くAIの側だけを学習させる形になります。Microsoftの研究者らが農業分野で行った検証（査読前の論文）では、ファインチューニングで精度が6ポイント超、そこにRAGを組み合わせるとさらに5ポイント上がり、効果は足し算で積み上がりました（arXiv:2401.08406、2024年1月）。開発会社の公開相場では、組み合わせる場合の初期費用を400万〜1,000万円としている例があります（AQUA）。足すかどうかは、RAGの採点結果を見て、間違いの原因が「資料と探し方」ではなく「書き方や判断の型の崩れ」にあると分かってから決めてください。

Q7. 正解例づくりは、開発会社に任せられますか。

一部は任せられますが、全部は任せられません。開発会社が担えるのは、正解例の書式を決める、過去の記録から下書きを作る、採点の仕組みを用意する、といった部分です。「この問い合わせはこの部署に回すのが正しい」「この報告書はこの書き方が正解」を最終的に判断できるのは、その業務を担当している社員だけです。見積もりの段階で、発注側の担当者が週に何時間、何週間関わる想定かを必ず確認してください。社内でどこまで担うかの考え方は生成AIの内製と外注で解説しています。

Q8. 補助金は使えますか。

自社向けに作る受託開発は、原則として対象外です。 デジタル化・AI導入補助金2026は、事務局に登録されたITツールの導入が対象で、個別に開発するシステムは対象になりません。登録されている既製のサービスであれば対象になり得ます。公式サイトで公表されている1次締切は2026年9月29日（火）17:00、交付決定は2026年11月9日（予定）、事業実施と実績報告の期限は2027年4月30日17:00（予定）です（公式スケジュール、2026年9月20日確認）。2次締切以降の日程は本記事執筆時点で未発表のため、公式サイトで最新の情報を確認してください。補助金は後払いなので、いったん全額を自社で支払う前提で資金繰りを組む必要があります。詳しくはAI導入補助金の対象と補助金の入金時期をご覧ください。

社内データのAI活用でお悩みの方へ

社内の資料をAIに答えさせたいなら、ファインチューニングよりRAGのほうが正確で安く、クラウドとAIの利用料は社員300名規模の例で月約3万〜7万円です。ファインチューニングは学習費が数千円でも、Azureで常時使える形に置くと月約19万円かかり、正解例づくりと土台のAIが引退するたびの作り直しが加わります。資料が数万文字程度なら、どちらも作らずに済むこともあります。

• 「AIに社内データを学習させたい」と社内で言われたが、何を頼めばいいか分からない
• 開発会社からファインチューニングを提案されたが、RAGとどちらが合うのか判断できない
• データを国外に出せず、どの方式・どのクラウドなら使えるのか確かめたい
• 見積もりに、置いておく費用や作り直しの費用が入っているか分からない

このいずれかに当てはまるなら、初回相談は無料です。当社の価格はPoC 300万円〜、小規模改修 30万円〜、本開発は個別見積（すべて税別）で、医療機関・調剤薬局・インフラ企業での実績があります。要件が固まっていない段階からご相談いただけます。

ご相談の際は、①AIに答えさせたい質問、またはそろえたい書式の例、②対象の資料のおおよその量と置き場所、③国外に出してよいデータかどうか、の3点をお聞かせください。RAG・ファインチューニング・資料を丸ごと渡す方法のどれが合うかを、概算の費用とあわせてお伝えします。作らないほうがいいと判断した場合は、そう申し上げます。

▶ 社内データのAI活用・方式選びの無料相談はこちら

関連記事：RAGとは／RAG導入の費用／社内AIチャットボットの費用相場／AIのPoC費用／AI受託開発の費用相場