AIツール2026年11月更新

NVIDIA Nemotron 3.5 Lightningとは?性能・料金・Nemotron 3シリーズとの違い【2026年11月最新】

公開日: 2026/08/13
更新日: 2026/11/12
NVIDIA Nemotron 3.5 Lightningとは?性能・料金・Nemotron 3シリーズとの違い【2026年11月最新】

この記事のポイント

NVIDIA Nemotron 3.5 Lightningは、AIエージェントの実行処理を速く安く回すための30B-A3BオープンMoEモデルです。Qwen3.6・Nemotron 3 Superとのベンチマーク比較、Bolt・Super VLなど3.5世代の新モデルとの違い、2026年11月時点のAPI料金とローカル実行の注意点を整理しました。

NVIDIA Nemotron 3.5 Lightning は、NVIDIAが2026年8月11日に公開した、長く動き続けるAIエージェントの「実行」部分を速く安く回すためのオープンウェイトの小型MoEモデルです。正式名称は NVIDIA-Nemotron-3.5-Lightning-30B-A3B で、総パラメータ300億(30B)・アクティブパラメータ30億(3B)、ライセンスは商用利用できる OpenMDW-1.1。モデルの重みに加えて、学習データと学習レシピも公開されています。

2026年10月以降、3.5世代には画像・動画を扱う Nemotron 3.5 Super VL、ローカルPC向けの Nemotron 3.5 Bolt、Lightningをもとにした音声モデル Nemotron 3.5 Transcribe が加わりました。現在のLightningは「3.5世代のうち、テキストの高速処理を受け持つモデル」です。

この記事でわかること

  • Nemotron 3.5 Lightningが「何をするためのモデル」なのか
  • 前世代 Nemotron 3 Nano との性能差と、Qwen3.6 35B-A3B・Gemma 4・Nemotron 3 Superとのベンチマーク比較
  • Nemotron 3 / 3.5 ファミリー全体(Super VL・Bolt・Transcribeを含む)での位置づけと選び分け
  • 「4倍速い」の中身と、速い理由
  • 2026年11月時点のAPI料金、無料で試す方法、実際のエージェント運用でかかる費用
  • Ollamaでの起動コマンドと、VRAM別に変わるコンテキスト長
  • 導入前に知っておきたい制約(thinking設定とツール呼び出し、日本語、探索タスクのコストなど)

AIエージェントを常に動かしておきたい開発者、ローカルLLMでAPI代を抑えたいエンジニア、オープンウェイトモデルの社内導入を検討している技術責任者に向けた解説です。

Nemotron 3.5 Lightningとは

NVIDIA Nemotron 3.5 Lightning 公開時の発表ビジュアル

出典: NVIDIA 公式ブログ

Nemotron 3.5 Lightningは、AIエージェントが使うトークンの大半は「考える」より「実行する」処理に使われる、という前提で作られたモデルです。ツールの呼び出し、返ってきた結果の確認、サブエージェントへの作業の受け渡しといった、回数の多い地味な処理を速く大量にこなすことを狙っています。NVIDIAの技術ブログは「Nemotron 3 ファミリーで最も小さいメンバー」と紹介しています。

項目

内容

正式名称

NVIDIA-Nemotron-3.5-Lightning-30B-A3B(BF16 / NVFP4 / Base-BF16 の各チェックポイント)

開発元

NVIDIA

公開日

2026年8月11日

パラメータ

総300億(30B)/アクティブ30億(3B) ※Artificial Analysisは総31.6B/アクティブ3.6Bと表記(数え方の違い)

MoE構成

128エキスパートから1トークンごとに6つを選択

アーキテクチャ

Mamba-2 + MoE + Attention のハイブリッド(全52層=Mamba 23層・MoE 23層・Attention 6層)

コンテキスト長

公式は最大100万(1M)トークン。NVIDIAの推論レシピでは1Mを既定として検証。実際に使える長さはランタイム・VRAM・APIプロバイダによって変わる

入力

テキストのみ

ライセンス

OpenMDW-1.1(商用利用可・利用分野の制限なし)

公開物

モデルの重み + 学習データ + 学習レシピ

対応言語

英語・スペイン語・フランス語・ドイツ語・イタリア語・日本語 + プログラミング言語

学習規模

20兆トークン超で事前学習

データカットオフ

事前学習:2025年9月/事後学習:2026年5月

学習データの作り方

強い教師モデルの推論過程や解答を蒸留した合成データを使用(モデルカードは教師の例としてGPT-OSS-120Bを挙げている)

出典: Hugging Face モデルカード、NVIDIA 技術ブログ

「実行レイヤー専用」という位置づけ

NVIDIAが想定しているのは、Lightning1つですべてをこなす使い方ではありません。計画や全体の指揮は Nemotron 3 Ultra のような大きなモデルが担い、そこから降りてくる大量の実作業をLightningが処理するという役割分担です。2026年10月のNVIDIA公式ブログも「Lightningは高スループットの処理、Ultraは最も難しい推論、Boltはエッジ」と整理しています。

そのため、このモデルを評価するときの基準は「どれだけ賢いか」ではなく、「同じ作業をどれだけ速く安く、精度を落とさず繰り返せるか」です。汎用チャットモデルとして比べると、評価を見誤ります。

AIエージェントの仕組みから確認したい場合は、AIエージェントとは何かを解説した記事も参考にしてください。

Nemotron 3シリーズとの違い

NVIDIA Nemotron 3 ファミリーの製品ページのビジュアル

出典: NVIDIA Nemotron 公式サイト

Nemotron 3.5 Lightningは、前世代の Nemotron 3 Nano と同じ「30B-A3B」のサイズ・同じMamba-2ハイブリッド構成のまま、エージェント関連の性能を大きく伸ばしたモデルです。サイズを大きくしたのではなく、学習データと事後学習(エージェント向けの強化学習など)を入れ替えています。

前世代(Nemotron 3 Nano)からのベンチマーク差分

ベンチマーク

Nemotron 3 Nano 30B-A3B

Nemotron 3.5 Lightning(BF16)

差

SWE-bench Verified(コーディング)

34.08

51.56

+17.5pt

Terminal-Bench 2.1(ターミナル操作)

8.29

24.58

約3倍

PinchBench(エージェント)

66.11

85.37

+19.3pt

GDPval-AA-V2(実務タスク)

473

832

+359

SWE-bench Multilingual

14.07

39.33

+25.3pt

Artificial Analysis Intelligence Index

15

24

+9pt

出典: Hugging Face モデルカード(NVIDIA統一ハーネスでの測定)、Intelligence IndexはArtificial Analysis

Artificial Analysisは「Nemotron 3 Nanoとほぼ同じ出力トークン数で、Intelligence Indexを9ポイント伸ばした」と評価しています。推論を長く出し続けて点数を稼いだのではなく、同じトークン量で結果が良くなったということです。エージェントを常に動かす用途では、出力が長くならないことがそのまま費用の差になります。

なお、前世代のマルチモーダル版である Nemotron 3 Nano Omni は画像・音声・動画も扱う別の性格のモデルです(Nemotron 3 Nano Omniの解説記事)。

ファミリー内の位置づけ

2026年11月時点で確認できる Nemotron 3 / 3.5 の主なモデルは次のとおりです。

モデル

世代

総パラメータ/アクティブ

入力

主な役割

公開

Nemotron 3 Nano

3

30B / 3B

テキスト

小型。Lightningの前世代

公開済み

Nemotron 3 Nano Omni

3

30B / 3B

テキスト・画像・音声・動画

知覚を担うサブエージェント

公開済み

Nemotron 3 Super

3

120B / 12B

テキスト

推論・コーディング・エージェント

公開済み

Nemotron 3 Ultra

3

550B / 55B

テキスト

最も難しい推論・計画

2026年6月4日

Nemotron 3.5 Lightning

3.5

30B / 3B

テキスト

エージェントの実行を高速処理

2026年8月11日

Nemotron 3.5 Super VL

3.5

120B / 12B

テキスト・画像・動画

マルチモーダルの常時稼働エージェント

2026年10月15日

Nemotron 3.5 Bolt 74B-A9B 24GB

3.5

74B / 9B(Super VLを圧縮)

テキスト・画像

ローカルPC(RTX Spark / DGX Spark)向け

2026年10月15日

Nemotron 3.5 Bolt E4B 4GB

3.5

実効約4B

–

エッジ・会話向け

2026年10月23日予定と発表

Nemotron 3.5 Transcribe

3.5

約34B / 4.3B

音声

文字起こし(Lightningをもとに構築)

2026年10月28日(技術レポート)

出典: NVIDIA ブログ(Super VL / Bolt)、NVIDIA Nemotron ページ、NVIDIA Research(Bolt 24GB)

公開当初の8月時点では、3.5世代はLightningだけでした。10月に Super VL と Bolt、続いて Transcribe が出たことで、3.5世代は「テキスト高速処理のLightning」「画像・動画も扱うSuper VL」「ローカルPC向けのBolt」「音声のTranscribe」に分かれています。一方で、「Nemotron 3.5 Ultra」は2026年11月時点で公式に確認できません。最上位の推論は引き続き Nemotron 3 Ultra が担っています。

Boltの詳しい仕様はNemotron 3.5 Boltの解説記事、音声エージェントが必要ならNemotron VoiceChatの解説記事も参考になります。

Lightning・Bolt・Super VL・Qwen3.6の選び分け

「どれを選ぶか」は、何を優先するかで決まります。同じ条件で全モデルを並べた公式データはないため、各社の公表値と役割からの目安です。

優先したいこと

第一候補

理由

エージェントのツール呼び出しを大量・高速に回したい

Nemotron 3.5 Lightning

30B-A3Bで速く、PinchBench・GDPvalでNemotron 3 Superを上回る

ローカルPCで賢さ・画像入力も欲しい

Nemotron 3.5 Bolt 24GB

Super VLを24GBに圧縮。NVIDIAの公表では速度はQwen3.6やGemma 4より遅いが精度で上回る

画像・動画を含む業務を常時処理したい

Nemotron 3.5 Super VL

3.5世代で唯一の大型マルチモーダル

同サイズ帯で精度を最優先したい

Qwen3.6 35B-A3B

公式比較表の多くの項目でLightningより高い

1モデルで計画まで任せたい

Nemotron 3 Super / Ultra、商用フロンティアモデル

Lightningは単体での計画立案に向かない

性能:「4倍速い」の中身と、なぜ速いのか

Nemotron 3.5 Lightning の精度と出力速度の位置づけを示すチャート

出典: NVIDIA 公式ブログ

速さはこのモデルの最大の売りですが、数字は測定条件とセットで読む必要があります。同じ「速い」でも、誰がどの環境で測ったかによって数字の意味が変わります。

指標

数値

測定条件・出典

出力速度

最大4倍

同サイズ帯のオープンモデル比/NVIDIA測定

エージェントのタスク完了時間

約30%短縮

NVIDIA測定

PinchBench 10,000タスク

精度86%を保ちつつ30%速く完了

Qwen3.6 35Bとの比較/NVIDIA測定

Intelligence Index 1タスクあたりの所要時間

約0.5分(Qwen3.6 35B-A3Bは約3.5分、gpt-oss-120bは約3.4分)

Artificial Analysis(2026年8月)

クラウドでの出力速度

約670トークン/秒

DeepInfra公開前版・NVFP4/Artificial Analysis測定

DGX Spark 単発

79.59 t/s →(DSpark併用)115.75 t/s

Classmethod DevelopersIO 実機検証

DGX Spark 8並列

331.97 t/s →(DSpark併用)421.85 t/s

同上

DGX Spark 最初のトークンまでの時間

0.071秒(単発)

同上

RTX 5070 12GB×2(WSL2)

単発 約101 t/s、4並列 211 t/s、192Kコンテキスト

Qiita 個人検証

いちばん直感的なのは、Artificial Analysisの「1タスク約0.5分」です。同じ評価をQwen3.6 35B-A3Bは約3.5分かけて解いており、精度では負けても、かかる時間は7分の1ほどです。

なぜここまで速いのか

速さは1つの工夫ではなく、4つの設計が重なった結果です。

  1. マルチトークン予測(MTP)を事前学習の段階から組み込んでいる:後付けの高速化ではなく、専用の学習段階でモデルに入れています。
  2. 投機的デコード用のドラフトモデルを用意している:DSpark(DGX Sparkや低並列のデータセンター向けに推奨)と DFlash(負荷によっては最速)。中〜高並列ではMTPを使い、並列数が増えるほど最適なドラフト長は短くなるとNVIDIAは説明しています。
  3. NVFP4量子化:Nemotron 3 Ultraと同じNVFP4カーネルで動き、Blackwell / Hopper / Ampere世代のGPUに対応しています。
  4. Attention層が52層中6層しかない:速さへの影響が最も大きい部分です。Attention層が少ないほど、会話の履歴を保持するKVキャッシュが小さくなります。Classmethodの計測ではKVキャッシュに載るトークン数が18,448,384トークンに達し、個人検証(Qiita)でも1トークンあたりのKV消費が同クラスの別モデルの約8分の1でした。長いコンテキストや高並列処理が回るのは、この構造の余裕によるものです。

同じ30B級のオープンモデルとの比較は、Gemma 4の解説記事やMuse Glimmerの解説記事もあわせて見ると整理しやすくなります。

精度ベンチマーク(BF16 / NVFP4)

NVIDIAのモデルカードには、他のオープンモデルと同じ評価環境で比べた表が載っています。太字は各行の最高値です。

ベンチマーク

Lightning BF16

Lightning NVFP4

Qwen3.6 35B-A3B

Gemma 4 26B-A4B

Nemotron 3 Nano

Nemotron 3 Super

GPT-OSS 20B

MMLU Pro(一般知識)

81.94

81.62

85.63

85.20

78.46

83.89

76.40

GPQA Diamond(科学推論)

75.44

75.57

83.40

79.61

74.05

78.60

71.46

HLE text(難問)

11.72

10.47

19.56

17.42

10.89

20.30

13.76

AA-Omniscience(知識)

17.50

16.63

19.47

22.17

20.15

26.68

16.62

SciCode(科学コード)

32.60

31.38

35.33

40.28

30.08

35.11

38.63

SWE-bench Verified

51.56

52.80

70.12

57.40

34.08

63.08

52.44

SWE-bench Multilingual

39.33

36.47

63.40

43.40

14.07

49.80

41.93

Terminal-Bench 2.1

24.58

23.46

44.38

37.22

8.29

39.61

15.17

PinchBench(エージェント)

85.37

83.43

88.07

74.70

66.11

80.36

57.20

BrowseComp(調べ物)

36.97

36.81

48.74

26.30

13.74

22.77

–

τ³-bench Banking

9.28

9.48

10.52

14.02

7.01

12.37

–

GDPval-AA-V2(実務タスク)

832

865

1015

807

473

746

–

IFBench loose(指示追従)

71.88

72.88

63.71

77.25

72.17

71.92

68.50

AA-LCR(長文読解)

52.00

49.19

61.06

57.56

32.75

58.44

32.88

出典: Hugging Face モデルカード(NVIDIA統一ハーネスでの測定)

数字を並べると、Lightningの得意と不得意がはっきり分かれます。

  • 精度だけならQwen3.6 35B-A3Bが多くの項目で上です。特にSWE-bench・Terminal-Benchのようなコーディング系では差が大きく、Lightningは「同サイズ帯で最も賢いモデル」ではありません。
  • PinchBench・GDPval・BrowseCompでは、4倍大きいNemotron 3 Super(120B)を上回ります。エージェントとしての実務処理に絞れば、サイズ以上の働きをします。
  • 4bit量子化(NVFP4)でもBF16からほとんど落ちません。SWE-bench VerifiedやGDPvalでは量子化版のほうが高く出ています。本番推論はNVFP4版が基本です。

独立評価での立ち位置(総合知能は中位、エージェントは上位)

モデル

Artificial Analysis Intelligence Index(2026年8月の公開時点)

GPT-5.6 Luna(max)

52

Gemini 3.5 Flash-Lite

37

Muse Glimmer(high)

35

Qwen3.6 35B-A3B

32

Nemotron 3 Super(120B-A12B)

26

Nemotron 3.5 Lightning

24

gpt-oss-120b

24

Nemotron 3 Nano

15

出典: Artificial Analysis

総合知能の指標では中位です。一方、Artificial Analysisが測ったGDPval-AA(実務タスク)ではElo 824で、Nano比+334と大きく伸びています(モデルカードの832 / 865とは測定者が異なる別の値です)。

「総合知能は中位、エージェント実行は上位」という偏った性格が、このモデルの正しい理解です。汎用チャットの賢さを期待するとがっかりしますが、ツール実行を繰り返す用途では評価が変わります。Qwen3.6系と比べている場合はQwen3.6の解説記事も参照してください。

料金:モデル本体は無料、コストは「どこで動かすか」で決まる

モデルそのものは無料です。OpenMDW-1.1により、ダウンロード・改変・商用配布まで認められており、NVIDIAへの申請や支払いは要りません。かかるのはAPIの利用料か、自前で動かすハードウェアの費用です。

ホスティングAPIの料金(2026年11月時点)

OpenRouterでは複数のプロバイダが並んでおり、2026年11月12日時点の表示は次のとおりです。

プロバイダ(OpenRouter経由)

入力(100万トークン)

出力(100万トークン)

Darkbloom

$0.025

$0.12

Fireworks

$0.05

$0.20

DeepInfra

$0.06

$0.16

CoreWeave

$0.07

$0.20

出典: OpenRouter

このほか、Amazon SageMaker JumpStart、Google Cloud、Microsoft Foundry、OCI Enterprise AI、Baseten、Together AI、Nebius、Crusoe、FriendliAI、GMI Cloudなどでも提供されています。

同じモデル名でもプロバイダによって速度・コンテキスト上限・量子化形式が違うことは、見落としやすい点です。公開直後のArtificial Analysisの計測でも、プロバイダ間で出力速度に数倍、コンテキスト上限に大きな開きがありました。「1M対応」と思って契約したAPIの上限が数万トークンだった、ということが起こり得ます。料金も含めて改定が速いため、契約前に各プロバイダの最新の表示を確認してください。

無料で試すルート

  1. build.nvidia.com:NVIDIAの試用ページで、OpenAI互換のAPIから試せます(無料クレジットの条件は公式ページで確認してください)。
  2. OpenRouterの無料版:「NVIDIA: Nemotron 3.5 Lightning (free)」が用意されています。レート制限やデータの扱いは有料版と異なる可能性があるため、社内データを入れる前に利用条件を確認してください。
  3. ローカル実行:Ollama・LM Studio・llama.cppなどで、手元のGPUがあればソフト代は0円です。

実際のエージェント運用でかかる費用

トークン単価が安いことと、エージェントの運用費が安く済むことは別の話です。Classmethod DevelopersIOがHermes Agentで測った結果が参考になります。

タスクの種類

結果

単発のツール呼び出し

1回約0.14円(DeepSeek-v4-flashは約0.36円)

RSS要約などの定型ジョブ

1回約0.92〜0.96円。DeepSeek-v4-flashより20〜30%安い

調べながら進める探索タスク

ツール呼び出しが22〜90回とぶれ、費用は最大9.7倍に

出典: Classmethod DevelopersIO

同じ検証では、存在しないURLを作る、固有名詞を間違える、指示と違う言語で出力するといった誤りも確認されています。結論は「手順が決まっていて、使うツールを絞れ、出力形式が決まっているタスクに任せる」でした。探索型の仕事を丸ごと任せると、ターン数が増えて単価の安さが打ち消されます。

ローカル実行のコスト

GPUまたはPCの費用だけで、ソフト側の追加費用はありません。公式に動作が確認されているのは GB200、DGX Spark(GB10)、H100 / H200、A100、Jetsonなどで、H100 1枚またはDGX Spark 1台で動きます。個人検証では RTX 5070 12GB×2枚の構成でも192Kコンテキストで動いた例があります。RTX 5090はモデルカード上でまだ「確認中」の扱いです。ローカル環境の選択肢はNVIDIA DGX Spark / RTXの解説記事にまとめています。

使い方:ローカル実行とエージェント連携

Ollama公式ライブラリに掲載された Nemotron 3.5 Lightning のモデルページ

出典: Ollama 公式モデルライブラリ

最も手軽なのはOllamaで、1行のコマンドでチャットやエージェントを起動できます。本番のサーバー運用ならvLLM・SGLang・TensorRT-LLMが選択肢です。

Ollamaで動かす

# 単体でチャットとして使う
ollama run nemotron-3.5-lightning

# OpenClaw をこのモデルで起動する
ollama launch openclaw --model nemotron-3.5-lightning

# Claude Code / Hermes Agent / OpenCode も同じ形で指定できる
ollama launch claude --model nemotron-3.5-lightning
ollama launch hermes --model nemotron-3.5-lightning
ollama launch opencode --model nemotron-3.5-lightning

Ollama自体の導入はOllamaの解説記事、OpenClaw側の初期設定はOpenClawとはとOpenClawセットアップガイド、Hermes AgentはHermes Agentの解説記事を参照してください。API代をかけずにエージェントを常時動かしたい場合、現時点で最も現実的な組み合わせの1つです。

Ollamaのタグと容量

2026年11月時点のOllamaライブラリには11個のタグがあります。

タグ

容量

コンテキスト上限

:latest / :30b / :30b-a3b

19〜25GB

1M

:30b-a3b-q4_K_M

25GB

1M

:30b-a3b-q8_0

35GB

1M

:30b-a3b-bf16

66GB

1M

:30b-a3b-mlx / :30b-mlx(Apple Silicon)

19GB

256K

:30b-a3b-nvfp4(MLX)

19GB

256K

:30b-a3b-mxfp8(MLX)

34GB

256K

:30b-a3b-mlx-bf16(MLX)

66GB

256K

出典: Ollama タグ一覧

VRAM別のコンテキスト自動設定(実務上の見落としやすい点)

Ollamaは使えるメモリ量に応じて、コンテキスト長を自動で決めます(モデルカード記載)。

使えるVRAM/統合メモリ

自動設定されるコンテキスト長

24GB未満

4K

24〜48GB

32K

48GB以上

256K

つまり、「最大1Mトークン対応」のモデルでも、VRAM 16GBの家庭用GPUで動かすと使えるのは4Kトークンです。コーディングエージェントでは数万トークン以上の文脈を使うことが多いため、長いログやコードを読ませる用途なら、事前にVRAMとコンテキスト設定を確かめてください。

推奨設定

モデルカードが示す推奨値は次のとおりです。

  • temperature 1.0 / top_p 0.95
  • thinking(推論モード)は既定でON。chat_template_kwargs で enable_thinking: False にするとOFF
  • 例では max_tokens=16000。出力上限を4,096程度に絞ると、内部の推論だけで使い切って答えが出ないことがある
  • コーディングエージェントでは force_nonempty_content: True を推奨

サーバー推論・クラウド

  • サーバー推論ランタイム:vLLM、SGLang、TensorRT-LLM、Transformers
  • ローカルランタイム:Ollama、LM Studio、llama.cpp、Unsloth、Docker Model Runner
  • クラウド:Amazon SageMaker JumpStart、Google Cloud Gemini Enterprise Agent Platform、Microsoft Foundry、OCI Enterprise AI、build.nvidia.com(NIM)
  • 配布:Hugging Face、ModelScope、OpenRouter
  • 想定エージェント:NVIDIAはOpenClawとHermes Agent向けに設計したと明記。ほかにOpenHands、Cline、OpenCode、Kilo Codeなどがパートナーに名を連ねています

どのエージェントフレームワークを選ぶかはAIエージェントフレームワークの比較記事が参考になります。

同時公開された NeMo Switchyard との組み合わせ

NeMo Switchyard によるモデルルーティングのコスト効率を示すチャート

出典: NVIDIA 公式ブログ

NeMo Switchyard は、タスクの難しさに応じて安いモデルと高いモデルを振り分けるモデルルーターです。Lightningと同じ日に公開されました。ライセンスはApache 2.0で、2026年11月時点ではまだ1.0前の段階です。

項目

内容(2026年11月時点)

開発段階

Pre-1.0。ライブラリ(libsy)はBeta、クライアントと実行部はAlpha、サーバーはDemo(本番利用は非対応)

ライセンス

Apache 2.0

ルーティング方式

Auto(既定)、Task(LLMで分類)、Execution(直近のツール操作を見る)、Composite、エスカレーション(安いモデルから始めて難しければ上位へ)、prefill router など

使い方

自前で動かすほか、OpenRouterで nvidia/switchyard を指定して使える。Claude Code向けの手順もあり。LiteLLM連携は実験段階

出典: GitHub NeMo Switchyard

NVIDIA公式ブログで紹介されている効果は次のとおりです。

  • NVIDIA:Claude Opus 4.8だけで処理する場合に比べ、タスク完了コストを約3分の1に
  • LangChain:145件の複数ターンのタスクでコスト74%減。上位モデルへの呼び出しは全体の7%で、精度は6%下がった
  • Boomi:振り分けの精度100%、通信の約59%を5倍速いモデルへ回し、後半ターンの遅延を21%短縮
  • Cognition(Devin Desktop):すべて上位モデルに送る場合よりコスト28%減
  • Classmethod:初期検証でコスト27%減
  • Ramp:コスト58%減・実行時間33%短縮

出典: NVIDIA 公式ブログ

コストは下がりますが、精度とのトレードオフです。LangChainの「74%減・精度6%低下」を自社のタスクで許せるかが判断の分かれ目になります。サーバー部分がDemo扱いのうちは、本番の業務フローにそのまま載せるのは早いと考えてください。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)

弱み・導入前に知っておくべき制約

好意的な数字が多いモデルですが、実務では次の制約が影響してきます。

制約

内容

対処

総合知能は最上位ではない

Intelligence Index 24。同サイズ帯のQwen3.6 35B-A3B(32)に多くの項目で負ける

計画・調査は上位モデルに任せ、実行だけを担当させる

BF16版は本番推論向けではない

モデルカードはBF16版を「カスタマイズと事後学習の出発点」と明記

本番はNVFP4版+最適化されたランタイムを使う

出力上限が小さいと答えが出ない

4,096程度に絞ると内部の推論だけで使い切ることがある

推奨の16,000トークン前後まで広げる

thinking OFFとツール呼び出しの相性

個人検証(Qiita)で、enable_thinking=False を送るとツール呼び出しが8回中0回成功、OFFを強制しない修正で8回中8回成功

エージェント用途ではthinking OFFを安易に強制せず、自社環境で確認する

投機的デコードの設定が繊細

Classmethodの検証で、ドラフトトークン数を増やすと逆に遅くなった(115.75→93.54 t/s)

推奨設定から始め、変えるときは計測しながら

VRAM次第でコンテキストが縮む

Ollamaでは24GB未満だと4K

長い文脈が必要なら48GB以上、または複数GPU

探索タスクでコストがぶれる

ツール呼び出し回数がぶれ、費用が最大9.7倍に

手順・ツール・出力形式を決めた定型ジョブに絞る

日本語性能の公式データがない

対応言語に日本語は含まれるが、日本語ベンチマークは非公開。数式やコードを考えるときに出力が英語に寄る、数値の列を気づきにくい形で間違えるという個人報告もある

日本語の業務では自社データで事前に測る

テキストのみ

画像・動画・音声は入力できない

画像は3.5 Super VL / Bolt、音声は3.5 TranscribeやNano Omni

日本語の性能比較を重視する場合は、国内向けLLMの比較記事も判断材料になります。

ライセンスと安全性の扱い

  • ライセンスは OpenMDW-1.1(Linux Foundation系の Open Model, Data and Weights ライセンス)。利用分野の制限がなく、別の商用ライセンスやロイヤリティも不要です。重み・データ・レシピを1つのライセンスでまとめて扱う点が、重みだけを配る形式との違いです。
  • 公開されているデータセット Nemotron-RL-Agentic-Terminal-Pivot は CC BY 4.0 で、二次利用するときはクレジット表記が必要です。
  • 学習データのバイアスもNVIDIA自身が開示しています。データの出どころによって64〜99%のサンプルには年齢・性別・民族の明示的な言及がありません。文書系のデータでは「male」への言及が「female」より多く、民族に触れた箇所のうち「White」が約43〜44%で最多です。NVIDIAはバイアスの監査と緩和策を勧めています。
  • 教師モデルが出した推論過程のうち、特定の政治勢力やナショナリズムに寄ったものは、キーワードと正規表現のフィルタで取り除いたとモデルカードに書かれています。
  • モデルカードは、導入前にユースケースに合わせたテストを行うこと、組み込みのガードレールを外す場合は同等の仕組みを自前で用意することを求めています。

セキュリティ観点:ローカル実行という選択肢

ローカルで動かせば、入力したデータは端末の外に出ません。顧客情報や社内コードを扱うエージェントを常時動かす場合、この点は料金以上に大きな判断材料です。

一方で、常時動くエージェントには権限の管理、操作ログ、実行環境の隔離が別に必要です。NVIDIAはそのためのOSSスタック NemoClaw(OpenClawにサンドボックスとポリシー制御を足したもの)を出しており、Lightningは「NemoClawがサポートするモデル」と公式に書かれています。ただしNemoClaw自体はまだ初期段階で、OpenClawの脆弱性をすべて解消するものではありません(NemoClawの解説記事)。運用ルールの決め方はAIエージェントのセキュリティガイドやOpenClawのセキュリティガイドを参考にしてください。

導入企業のカスタマイズ事例

Nemotron 3.5 Lightning を用いたエージェンティックAIのイメージ

出典: NVIDIA 技術ブログ

公開されている事例は、どれも汎用チャットではなく、特定業務の反復処理にモデルを合わせ込む使い方です。

企業

領域

内容

CrowdStrike

サイバーセキュリティ

セキュリティ向けにカスタマイズ

Harvey × Trajectory

法務

法務サービス向けにカスタマイズ

CodeRabbit × Baseten

コードレビュー

領域特有の精度を重視して調整

Lila Sciences

物理・生命科学

エージェントタスクの推論を強化

Fastino Labs

ソフトウェア開発・金融・ヘルスケア

カスタマイズ後に高い精度を報告

出典: NVIDIA 公式ブログ

このほか技術ブログには、事後学習のパートナーとして Prime Intellect、Thinking Machines Lab、Thoughtworks など、システム導入のパートナーとして Accenture、TCS、Wipro などの名前が並んでいます。追加学習には NeMo Automodel・NeMo Megatron Bridge(LoRAや全体の微調整)、NeMo RL・NeMo Gym(強化学習と評価)が使えます。

学習レシピと学習データが公開されているため、自社の業務データで追加学習する前提の導入が現実的です。これは重みだけを公開しているモデルにはない利点です。社内の業務システムやワークフローに組み込む場合は、モデル代よりも、連携部分の開発・精度検証・運用監視の費用が大きくなりがちです。組み込み方と費用の目安はAI開発の費用相場(改修・PoC・本開発の価格と見積の内訳)で整理しています。

こんな人におすすめ

  • エージェントを24時間動かしたいが、API代を抑えたい人:OpenRouterでは100万トークンあたり入力$0.025〜$0.07・出力$0.12〜$0.20(2026年11月時点)、ローカルならソフト代0円で動かせます。
  • 手順が決まった定型ジョブを大量に回したい人:要約、分類、決まったツールの呼び出しなど、ターン数がぶれない処理ほど安さと速さが生きます。
  • 社内データを外に出せない環境でエージェントを組みたい人:H100 1枚またはDGX Spark 1台で動き、ローカル実行ならデータは端末の外に出ません。
  • OpenClaw・Hermes Agent・OpenCodeなどをローカルモデルで動かしたい人:Ollamaのlaunchコマンドで1行で接続できます。
  • 自社の業務向けに追加学習したい開発チーム:重み・学習データ・レシピがそろい、OpenMDW-1.1で商用配布まで認められています。
  • Nemotron 3 Nanoを使っていて性能に不満がある人:同じサイズのまま、SWE-bench Verifiedで+17.5pt、PinchBenchで+19.3pt伸びています。

おすすめしない人

  • 1つのモデルで難しい計画立案まで任せたい人:総合知能は同サイズ帯のQwen3.6 35B-A3Bにも劣ります。上位モデルとの併用が前提です。
  • 調べながら進める探索型の仕事を丸ごと任せたい人:ツール呼び出しの回数がぶれ、費用が数倍に膨らむ検証結果があります。
  • 日本語の品質を最優先する人:日本語ベンチマークの公式スコアがなく、出力が英語に寄るという報告もあります。検証なしの本番投入は避けてください。
  • VRAM 24GB未満で長い文脈を扱いたい人:Ollamaではコンテキストが4Kまで縮みます。
  • 画像・音声を扱いたい人:Lightningはテキストのみです。画像ならNemotron 3.5 BoltやSuper VLが候補です。
  • 設定に手をかけたくない人:thinkingの扱い、出力上限、投機的デコードなど、性能を出すには調整が要ります。手軽さならマネージドなチャットサービスのほうが確実です。

よくある質問

Q. 商用サービスに組み込んで再配布しても問題ありませんか?

OpenMDW-1.1はロイヤリティ不要で、利用分野の制限もありません。自社製品への組み込みや、追加学習した派生モデルの配布まで認められており、NVIDIAへの個別申請も要りません。ただし公開データセット Nemotron-RL-Agentic-Terminal-Pivot は CC BY 4.0 で、二次利用時はクレジット表記が必要です。契約判断ではOpenMDW-1.1の原文を法務部門で確認してください。

Q. 「30B」は300億ですか、3000億ですか?

総パラメータが300億(30B)、実際に計算に使うアクティブパラメータが30億(3B)です。MoE構造のため、1トークンごとに128のエキスパートのうち6つだけが動きます。「30B級の知識量を、3B級の計算量で動かす」と考えるとわかりやすくなります。

Q. Nemotron 3 Nanoから乗り換えるときに、何を変える必要がありますか?

サイズはほぼ同じなので、Ollamaならモデル名を差し替えるだけで動きます。見直したいのは2点です。1つは出力上限で、4,096程度のままだと推論だけで使い切ることがあるため、16,000前後まで広げます。もう1つはthinkingの設定で、エージェント用途でOFFを強制するとツール呼び出しが失敗する報告があるため、既定のONで動作を確かめてから調整します。

Q. Nemotron 3.5 Boltとはどう使い分けますか?

速さと大量処理ならLightning、ローカルPCで賢さや画像入力も欲しいならBoltです。Bolt 24GBはSuper VLを24GBに圧縮したモデルで、NVIDIAの公表では速度ではQwen3.6やGemma 4に及ばない一方、精度で上回るとしています。両者を同じ条件で比べた公式データはないため、自分のタスクで両方を試すのが確実です。

Q. NeMo Switchyardは必須ですか?

必須ではありません。Lightning単体でもOllama・vLLM・各社APIからそのまま使えます。Switchyardは難しいタスクだけを上位モデルに回して費用を下げる仕組みで、複数モデルを組み合わせるときに意味を持ちます。サーバー部分はまだDemo扱いなので、まずLightning単体で自社タスクの精度を測り、上位モデルとの併用が必要だとわかってから検討する順番が安全です。

Q. Macでも動きますか?

動きます。Apple Silicon向けのMLX形式タグ(:30b-a3b-mlx / :30b-mlx、約19GB)があり、コンテキスト上限は256Kです。ただし実際に使える長さは統合メモリの量で変わるため、長い文脈を扱うなら48GB以上のメモリを積んだMacが望ましいです。

Q. 出力速度が「4倍」と聞きましたが、必ずその速度が出ますか?

出ません。4倍は同サイズ帯のオープンモデルと比べたNVIDIAの測定値です。実際の速度は、量子化形式、GPUの世代、並列数、投機的デコードの設定、APIプロバイダによって大きく変わります。Ollamaで投機的デコードの高速化がそのまま効くかも、2026年11月時点では確認できていません。

まとめ

Nemotron 3.5 Lightningは、「賢さ」より「同じ作業を速く安く繰り返す力」を優先したオープンウェイトモデルです。総合知能では同サイズ帯のQwen3.6 35B-A3Bに及びませんが、エージェントの実務処理では4倍大きいNemotron 3 Superを上回る項目があります。

導入を判断するときに押さえたい点は次のとおりです。

  • サイズは前世代Nemotron 3 Nanoと同じ30B-A3Bのまま、エージェント性能が大きく伸びた(SWE-bench Verified +17.5pt、PinchBench +19.3pt)
  • 3.5世代はLightningだけではなくなった。画像・動画はSuper VL、ローカルPCで賢さ重視ならBolt、音声はTranscribeと役割が分かれている
  • API料金は100万トークンあたり入力$0.025〜$0.07・出力$0.12〜$0.20(2026年11月時点・OpenRouter)。ローカルならソフト代は0円
  • 単価が安くても、探索型のタスクではターン数が増えて費用が逆転する。手順の決まった定型ジョブに向く
  • 速い理由は構造にある(Attention層が52層中6層、MTPの事前学習への組み込み、DSpark / DFlash、NVFP4)
  • VRAM 24GB未満ではOllamaのコンテキストが4Kに縮むなど、公称値と実際の値の差に注意する

社内データを外に出さずにエージェントを常時動かしたい、しかもAPI代を抑えたい、という条件に合うなら、2026年11月時点でも有力な候補です。まずはbuild.nvidia.comやOpenRouterで自社のタスクを試し、精度と1タスクあたりの費用を確かめてからローカル実行へ移る流れが安全です。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

この記事の著者

AI革命

AI革命

編集部

AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。

AI・システム開発は、開始価格を公開しています

既存システムの改修 100万円〜・PoC 300万円〜(税別)。相談内容を送っていただくと、2営業日以内に担当者からご返信します