AIツール2026年10月更新

DeepSeek DeepInferとは？できること・動作環境・公開範囲・自社で使うべきかを整理【2026年10月】

公開日: 2026/10/20

この記事のポイント

DeepSeek DeepInferは、DeepSeekが自社APIの本番運用で使っている推論フレームワークをApache-2.0で公開したものです。対応モデル・必要なGPU・公開されなかった部分・vLLMや公式APIとの違い、自社で使うべきかの判断基準をまとめます。

DeepSeek DeepInfer（ディープインファー）は、DeepSeekが自社のAPIサービスで実際に使っている推論フレームワークを、2026年10月20日にオープンソース（Apache License 2.0）として公開したものです。ただし現時点で動かせるモデルは DeepSeek-V4.1-Flash だけで、NVIDIAのBlackwell世代GPUかHuaweiのAscend 950を大量に並べる前提のため、一般の企業や個人がすぐ使う道具ではありません。

この記事でわかること

DeepInferが何をするソフトで、何が公開され、何が公開されなかったか
動かすのに必要なハードウェアと、実際にかかる費用の目安
vLLM・SGLang・Ollama・DeepSeek公式APIとの違いと選び分け
日本の企業が使う前に確かめておきたいセキュリティ・規制の論点

こんな方に向けた記事です

DeepInferのニュースを見て「自社でも使えるのか」を知りたい情報システム担当者・エンジニア
DeepSeekのモデルを自社環境で動かすことを検討しているクラウド事業者・GPU事業者
AIの推論コストの動向を追っている企画・経営層

なお、「DeepInfer」で検索すると、深層学習モデルの予測の信頼性を判定する同名の研究論文（ICSE 2024）が出てきます。推論APIを提供する米国の事業者「DeepInfra」とも名前が似ていますが、どちらも今回のDeepSeekのDeepInferとは関係ありません。

DeepSeekという会社やモデル全体については「DeepSeekとは」で整理しています。

DeepSeek DeepInferとは：DeepSeekの本番環境を支える推論エンジンのOSS版

GitHubで公開されたDeepSeek DeepInferのリポジトリ（deepseek-ai/DeepInfer）

出典: DeepSeek 公式（GitHub: deepseek-ai/DeepInfer）

DeepInferは、DeepSeekが自社の大規模な本番サービスで使ってきた推論フレームワークです。GitHubのREADMEでは「DeepSeekの大規模な本番サービスを支える高性能な推論フレームワーク」と説明されており、今回の公開版には「オフライン推論と、大規模運用向けの中核機能」が含まれています。

項目	内容
開発元	DeepSeek（中国・杭州）
公開日	2026年10月20日（公式Xで発表、同日GitHubで公開）
ライセンス	Apache License 2.0（モデルの重みは別でMITライセンス）
対応モデル	DeepSeek-V4.1-Flash のみ（既定は DeepSeek-V4.1-Flash-1017）
対応ハードウェア	NVIDIA SM100世代GPU（B200などBlackwell世代のデータセンター向け）、Huawei Ascend 950 NPU
動作環境	Linux、Python 3.12、GCC 13.0以上、CUDA 13（NVIDIA）／CANN 9.2（Ascend）
提供形態	ソースコードのみ（pipパッケージ・Dockerイメージ・ホスティング版は現時点で確認できない）
公開先	GitHub: deepseek-ai/DeepInfer

公式Xの発表文（TNW・Gizmodoが引用）では「社内の推論フレームワークを完全にオープンソース化した。DeepSeek-V4.1-Flashを高スループット・低遅延で大規模に動かしている」とし、公開の目的を「コミュニティの計算コストとエネルギー消費を下げ、AIをより手頃にするため」と説明しています。GitHubのStarは公開翌日（10月21日）の時点で1万を超えました。

「推論フレームワーク」とは何か

推論フレームワークは、学習済みのAIモデルを受け取り、実際に文章を生成させるためのソフトウェアです。モデルの重み（パラメータ）だけでは回答は返ってきません。GPUのメモリにどう載せるか、複数のGPUにどう分けるか、大量の依頼をどう束ねて処理するかを決める仕組みが必要です。その出来によって、同じモデルでも速さとコストが大きく変わります。

ChatGPTやClaudeを使う側からは見えない部分ですが、AIサービスの原価の多くはこの推論の段階で生まれます。Gizmodoは、McKinseyが今後のデータセンターの計算の大半が推論に向かうと予測していることを紹介しています。DeepInferは、その原価を左右する部分をDeepSeekが自社の分まで公開したという点で注目されています。

開発の経緯と、同時に公開された deepseek-recipe

READMEの謝辞によると、DeepInferは当初、オープンソースの推論エンジン vLLM をもとに作られ、SGLang と TensorRT-LLM からも着想を得ています。2025年の時点でDeepSeekは、推論エンジンを丸ごと出すのではなく、部品をライブラリとして公開して既存のOSSに協力する方針を示していました。今回はエンジン本体を出したので、方針が一歩進んだ形です。

同時に公開された deepseek-recipe は、V4 / V4.1系のモデルに渡すプロンプトの組み立てと、出力の読み取りを行うライブラリです（Rust実装＋Pythonバインディング）。公式APIと同じ処理を、他の事業者が自分の環境で再現できるようにするためのものです。

DeepInferが動かすモデルそのものについては「DeepSeek-V4.1-Flash-1017とは」、V4.1全体は「DeepSeek V4.1とは」で解説しています。

DeepInferでできること

DeepInferでできるのは、DeepSeek-V4.1-Flashを多数のGPU（またはNPU）にまたがって、速く・安く動かすことです。主な機能は次のとおりです（READMEと公式の運用Q&Aより）。

機能	何をするものか
DeepSeek向けの専用カーネル	FlashMLA・DeepGEMM・DeepEP・TileKernelsなど、DeepSeekのモデル構造に合わせて最適化した計算処理を組み込んでいる
並列化（DP・CP・EP・EPLB）	Attention部分をデータ並列、MoE（専門家の組み合わせ）部分をエキスパート並列で分担し、エキスパートの負荷も均す
DSpark（投機的デコーディング）	先に複数のトークンを「下書き」し、まとめて検証することで生成を速くする。信頼度に応じて検証する長さを変える（下書きは既定で最大5トークン）
SWA bounded replay	スライディングウィンドウ注意の状態を保存し、末尾128トークンだけ計算し直す。公式Q&Aでは、デコード側のプリフィル計算が約半分になるとしている
非同期バッチスケジューリング	依頼を束ねる処理をGPUの計算と並行して行い、待ち時間を減らす（既定でオン）
バッチ不変推論・決定論的サンプリング	同じ入力なら同じ出力を再現できる設定（NVIDIAのみ）
構造化出力	正規表現・JSON Schema・EBNF文法に沿った出力を強制できる

業務システムでよく求められる「JSONで必ず返してほしい」「同じ入力で結果がぶれると困る」といった要件には、構造化出力と決定論的サンプリングで応えられる作りになっています。

主な用語のかんたんな説明

用語	ひとことで言うと
プリフィル／デコード	プリフィルは入力文を読み込む段階、デコードは1トークンずつ回答を書き出す段階。性質が違うため、大規模運用では別々のGPU群に分けることが多い
KVキャッシュ	読み込んだ文脈の計算結果を保存しておく仕組み。同じ前置きの依頼が来たときに計算を省ける
PD分離	プリフィルとデコードを別のサーバー群に分ける構成
MoE・エキスパート並列（EP）	モデル内の多数の「専門家」から一部だけを使う構造と、その専門家をGPUごとに分担して持たせる方法
投機的デコーディング	速い方法で先に候補を書き、本体のモデルでまとめて確かめる高速化の手法

DeepInferの強み

DeepInferのいちばんの強みは、APIとして大量のトラフィックをさばいてきた構成をそのまま元にしている点です。研究用の試作ではなく、実際に課金しているサービスの中身です。

本番の実績がある：公式Q&Aによると、DeepSeekは1クラスタで1日約155兆トークンを処理し、閑散時の料金で GPU1時間あたり約38ドルの売上を上げているとしています（コストや利益ではなく売上の数字です）
社内版との差が小さい：公式Q&Aでは、公開版は社内版と比べて FlashMLA の手調整された最適化が1つ欠けており、デコードのカーネル単体で5〜10%遅いものの、全体の差は最大5%としています
NVIDIAとHuaweiの両方に対応：READMEはAscend 950をNVIDIAのGPUと並ぶ正式な対象として挙げています。The New Stackもこの点を見出しで取り上げました
商用利用しやすいライセンス：Apache-2.0なので、改変・再配布・商用利用ができます（著作権表示などの条件あり）
プロンプト処理の安全面の工夫：deepseek-recipeは特殊トークンをIDで挿入するため、利用者の入力に含まれる制御用の文字列は普通のテキストとして扱われます。公式Q&Aは、これでプロンプトインジェクションの一部を防げると説明しています

TNWの報道では、vLLMのプロジェクトがDeepSeekに謝意を示し、DeepInferの考え方を自分たちのV4.1-Flash対応に取り入れると表明したとされています（vLLM側の一次投稿は未確認）。DeepInferを直接使わない人にも、vLLMなどを通じて間接的に恩恵が届く可能性があります。

DeepInferの弱みと制約：公開されなかった部分がある

発表文は「fully open source（完全なオープンソース）」としていますが、READMEには「今回の公開に含まれないもの」が3つ明記されています。DeepSeekの本番環境と同じものがそのまま手に入るわけではありません。

区分	内容
公開されたもの	推論エンジン本体、専用カーネル、並列化、DSpark、SWA bounded replay、バッチスケジューラ、構造化出力、オフライン推論のサンプル、性能測定・評価用のスクリプト
公開されなかったもの	①KVキャッシュのシステム ②プリフィル／デコードなどの処理段階を別サーバーに分ける構成（READMEの表記は「VE/Prefill/Decode disaggregation」。必要なエンジン機能の大半は実装済みと記載） ③データ並列のレプリカ間でのプリフィル／デコードの負荷分散

公式Q&Aは、KVキャッシュの管理と負荷分散が社内の基盤と密に結びついているため、まだ完全には公開していないと説明しています。DeepSeekの社内では、3FSという分散ファイルシステムで約100PiBのSSDをKVキャッシュに使い、エージェント用途は3日、チャット用途は7日保持しているとのことです。この大規模なキャッシュ基盤も、低価格のAPIを支える部分の一つと考えられます。

そのほかの制約は次のとおりです。

オフライン推論のみ：APIサーバーは同梱されていません。dev.toの筆者がコードを確認したところ、HTTPの口はプロファイル用だけだったとしています。社内向けに「OpenAI互換のAPIを立てる」用途には、そのままでは使えません
対応モデルは1つだけ：DeepSeek-V4.1-Flashのみです。DeepSeek V4 Proや、Llama・Qwenなど他社のモデルには対応していません
対応ハードウェアが限られる：SM100世代のNVIDIA GPUとAscend 950のみが記載されています。H100・H200・A100や、RTXなどのコンシューマ向けGPUについては記載が無く、動くかどうかは現時点で未確認です
OSはLinuxのみ：WindowsやmacOSには対応していません
性能は自社測定のみ：READMEに載っているのはプリフィル・デコードの性能のグラフで、測定はDeepSeek自身によるものです。vLLMやSGLangより何%速いといった比較の数値は、公式・報道ともに出ていません
配布パッケージやリリースが無い：現時点ではソースからビルドする形で、リリース（タグ）も作られていません

READMEと報道によると、DeepSeekは今後のモデルの推論コードも同じリポジトリで公開する方針です。V4-Proへの対応や、より小さい構成への対応は、今後の更新で確かめる必要があります。

料金とかかる費用：ソフトは無料、GPUは100基規模が目安

DeepInferの対応GPUであるNVIDIA Blackwell世代を搭載したDGX B200

出典: NVIDIA 公式サイト

DeepInfer自体は無料です。Apache-2.0のOSSで、有料プランもありません。実際にかかるのはGPU（またはNPU）・ストレージ・ネットワーク・運用する人の費用で、こちらの規模が大きくなります。

公式Q&Aの目安では、効率よく動かせる最小単位は プリフィル用64基＋デコード用64基の計128基 です（デコードをEP64以上で動かす前提で、プリフィルとデコードの比率は約1:1）。プリフィル1基・デコード1基の構成でも動かせますが、効率は落ちます。ストレージはGPU1基あたり論理14.4TBが目安とされています。

費用感の一例として、dev.toの筆者は、Google CloudのB200の料金で128基を借りると 1時間あたり約634〜1,423ドル（1日あたり約1.5万〜3.4万ドル） になると試算しています。これは筆者自身の計算で、ストレージ・ネットワーク・人件費は含まれていません。

DeepSeek公式APIの料金との比較

同じDeepSeek-V4.1-Flashを使うなら、DeepSeekの公式APIを使う方が、多くの場合ははるかに安く済みます。中国語版の公式料金ページでは、次のように示されています（2026年10月21日確認）。

モデル名（API）	中身	入力・キャッシュヒット	入力・キャッシュミス	出力	コンテキスト
deepseek-flash	DeepSeek-V4.1-Flash-1017	0.02 / 0.04元	1 / 2元	4 / 8元	100万トークン
deepseek-v4-pro	DeepSeek-V4-Pro-0813	0.15 / 0.30元	4.5 / 9.0元	13.5 / 27.0元	100万トークン

※単位は人民元／100万トークン。左が閑散時、右がピーク時。ピーク時間帯は北京時間の平日（中国の祝日を除く）9:00〜12:00と14:00〜18:00で、それ以外はピーク時の半額です。米ドル建ての料金は英語版の公式ページで確認してください。

たとえば deepseek-flash で1日10億トークンを出力しても、ピーク時の料金で8,000元、閑散時なら4,000元です。1日1.5万ドル以上かかるGPUを借りて自前で動かす意味が出てくるのは、APIでは扱いきれない量がある場合や、データを社外に出せない・独自の改変が必要といった条件がある場合に限られます。API料金の最近の動きは「DeepSeek APIの値上げ」でまとめています。

依頼範囲と費用の目安を30分で整理します

初回相談は無料・30分（オンライン）。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜（税別）

開発について相談する開発の資料を受け取る

DeepInferの使い方：導入手順と動作環境

出典: DeepSeek 公式（Hugging Face）

READMEに書かれている手順は短いものの、前提となる環境（Linux・SM100世代のGPU・CUDA 13など）をそろえるのが一番のハードルです。

空の Python 3.12 の環境を作って有効にする
使うハードウェアを指定してビルドする（NVIDIAは export DEEPINFER_ACCELERATOR=nvidia、Ascendは export DEEPINFER_ACCELERATOR=ascend を設定してから ./build.sh を実行）
python examples/offline_inference.py でオフライン推論を試す

初回の実行時に、モデルの重み（deepseek-ai/DeepSeek-V4.1-Flash-1017）がHugging Faceからダウンロードされます。総パラメータが7,630億のモデルなので、ダウンロードと保存にもかなりの容量と時間が要ります。手元にある重みを使う場合は、環境変数 DEEPINFER_HF_MODEL_DIR で場所を指定します。

性能を再現するスクリプト（examples/sweep/run_sweep.sh）、プロファイル用の examples/benchmark.py、評価用の eval/README.md も用意されています。決定論的サンプリングを使う場合は、DEEPINFER_BATCH_INVARIANT=1 と DEEPINFER_ENABLE_MTP_VARLEN=0 を設定し、SamplingParams に seq_seed を固定します（NVIDIAのみ）。

vLLM・SGLang・Ollama・DeepSeek公式APIとの違い

出典: vLLM 公式（GitHub）

DeepInferは「DeepSeek-V4.1-Flashを最大規模で動かす」ことに特化した道具で、汎用の推論エンジンやローカル実行ツールとは役割が違います。主な違いを比べると次のようになります。

項目	DeepInfer	vLLM / SGLang	Ollama	DeepSeek公式API
対応モデル	DeepSeek-V4.1-Flashのみ	多数のオープンモデル	量子化した多数のモデル	DeepSeekの各モデル
想定する規模	GPU数十〜128基以上	1基〜大規模まで	PC1台・小型サーバー	規模を気にせず使える
主なハードウェア	NVIDIA SM100世代／Ascend 950	NVIDIAなど幅広いGPU	一般的なPC・Mac・GPU	不要
APIサーバー	同梱なし（オフライン推論）	OpenAI互換のサーバーあり	ローカルAPIあり	あり
導入の難しさ	非常に高い	中〜高	低い	低い
データの置き場所	自社環境	自社環境	自社環境	DeepSeekのサーバー
費用	ソフト無料／GPU費が大きい	ソフト無料／GPU費	ソフト無料／PC代	従量課金

※vLLM・SGLangのV4.1-Flash対応の状況は、各プロジェクトの最新情報で確認してください。DeepInferとの性能の比較数値は、現時点で公表されていません。

選び分けの目安は次のとおりです。

DeepSeekのモデルを試したい・業務に使いたい → まずは公式API、または他社のクラウドが提供するホスティング版
データを社外に出さずに、自社のGPUサーバーでオープンモデルを動かしたい → vLLM・SGLang（モデルの選択肢も広い）
PC1台で手軽に試したい → Ollama（使い方は「Ollamaとは」）
V4.1-Flashを大量のトラフィックで提供する事業者・研究者 → DeepInfer

セキュリティと、社内で使う前に確かめること

出典: DeepSeek 公式サイト

DeepInferは自社の環境で動かすソフトなので、APIを使うときと違い、推論の入力や出力がDeepSeekのサーバーへ送られる仕組みにはなっていません。データの流れの面では、公式APIより管理しやすいと言えます。ただし、それだけで安全とは言い切れないため、次の点を確かめておく必要があります。

外部への通信：初回にHugging Faceから重みを取得する動作はREADMEに書かれていますが、それ以外の外部通信の有無について公式の明記は確認できていません。閉じたネットワークで動かす場合は、自社で通信を確かめてください
コードと依存パッケージの確認：OSSの監査は利用者の責任です。中国企業が開発したOSSを社内の規程やサプライチェーン審査でどう扱うかを、事前に決めておく必要があります
米国の規制：報道によると、米国土安全保障省（DHS）は2026年10月、連邦の民間機関に対してDeepSeek製品と、DeepSeekを組み込んだ第三者製品の調達・利用を禁止し、撤去を求める命令を出しました。民間企業の利用を禁じるものではありませんが、OSSの推論エンジンが「DeepSeek製品」に当たるかは明らかになっていません。米国政府と取引のある企業は、法務の確認が必要です
ライセンスの違い：DeepInferはApache-2.0、モデルの重みはMITです。どちらも商用利用はできますが、表示の義務などは別々に確認してください

新しいモデルや推論の仕組みを自社の業務システムに組み込む場合、API連携にするか自前のGPUで運用するか、PoCで止めるか本開発まで進むかで、費用は大きく変わります。方法ごとの費用の目安は「AI開発の費用相場（AI受託開発の改修・PoC・本開発の価格と見積の内訳）」で整理しています。

DeepSeekがOSSの公開を続けている流れは、エージェント向けの「DeepSeek Harnessとは」もあわせて読むとつかみやすくなります。

DeepInferをおすすめする人・おすすめしない人

DeepInferを使う意味があるのは、V4.1-Flashを自分で大規模に提供する立場の組織に限られます。それ以外の多くの企業や個人には、APIか汎用の推論エンジンの方が向いています。

こんな人・組織におすすめ

DeepSeek-V4.1-Flashを顧客に提供しているクラウド事業者・GPU事業者
B200などのSM100世代GPUやAscend 950を100基規模で持ち、V4.1-Flashを自社で大量に動かす企業
データを社外に一切出せず、APIが使えない大規模な利用がある組織
推論の高速化（投機的デコーディング、MoEの並列化など）を研究・検証したいエンジニアや研究者
vLLMやSGLangの開発に関わり、DeepSeekの実装を参考にしたい人

おすすめしない人

DeepSeekのモデルを業務で試したいだけの企業・個人（公式APIの方が早く、安く始められる）
手元のPCやH100など少数のGPUで動かしたい人（対応が確認されていない）
社内向けにOpenAI互換のAPIをすぐに立てたい人（APIサーバーが同梱されていない）
V4-Proや他社のモデルを動かしたい人（対応はV4.1-Flashのみ）
Linuxや大規模GPUクラスタを運用できる人員がいない組織

判断の目安

状況	おすすめの選択
まずDeepSeekの性能を試したい	公式API
データを社外に出したくないが、GPUは数基まで	vLLM / SGLangで動くオープンモデルを検討
PCで試したい	Ollama
SM100世代GPUを100基規模で持ち、V4.1-Flashを大量に提供する	DeepInfer
推論の仕組みを学びたい・研究したい	DeepInferのコードと公式Q&Aを読む

よくある質問

DeepInferは無料で使えますか？

ソフトウェアは無料です。Apache-2.0なので商用利用もできます。ただし、効率よく動かすには公式の目安で128基規模のGPUが必要なため、ハードウェアの費用は非常に大きくなります。

手元のPCや、H100のサーバーで動かせますか？

READMEに記載があるのは、NVIDIAのSM100世代（B200など）とHuaweiのAscend 950だけです。H100・H200やコンシューマ向けGPUについては記載が無く、現時点では動くかどうか確認できていません。PCで試すならOllamaなど別のツールが現実的です。

日本語は使えますか？

DeepInferはモデルを動かすためのソフトウェアなので、日本語の扱いは動かすモデル（DeepSeek-V4.1-Flash）の性能で決まります。DeepInfer自体に言語の制限はありません。

DeepSeekの本番環境とまったく同じものですか？

同じではありません。KVキャッシュのシステム、プリフィル／デコードなどの分離構成、レプリカ間の負荷分散は公開されていません。エンジン部分も、公式Q&Aによると社内版に比べて全体で最大5%遅いとされています。

自前で動かせば、データが中国に送られる心配はありませんか？

推論の入出力をDeepSeekに送る仕組みはありません。ただし外部通信の有無が公式に明記されているわけではないため、閉じたネットワークで運用する場合は、自社で通信やコードを確かめることをおすすめします。

DeepInfraやDeepInferという論文と関係はありますか？

関係ありません。DeepInfraは推論APIを提供する別の事業者で、同名の論文は深層学習モデルの予測の信頼性を判定する研究です。

まとめ

DeepSeek DeepInferは、DeepSeekが自社APIの本番運用で使う推論フレームワークを、2026年10月20日にApache-2.0で公開したもの
対応モデルはDeepSeek-V4.1-Flashのみ、対応ハードウェアはNVIDIA SM100世代GPUとAscend 950のみ。OSはLinuxだけで、APIサーバーは同梱されていない
KVキャッシュのシステム、PD分離などの構成、レプリカ間の負荷分散は公開されておらず、「本番環境がそのまま手に入る」わけではない
ソフトは無料だが、効率よく動かす最小単位は128基規模。V4.1-Flashを使うだけなら、多くの場合は公式APIの方が安い
向いているのはクラウド・GPU事業者や大規模推論の研究者。一般の企業は公式API、vLLM・SGLang、Ollamaから選ぶ方が現実的
自前で動かせばデータは社外に出にくいが、外部通信・コード・社内規程・米国の規制は別に確かめる必要がある

対応モデルや対応GPUは今後広がる見込みです。V4-Proへの対応や、より小さい構成で動くかどうかは、GitHubのリポジトリと公式の運用Q&Aで確認してください。