NVIDIA Nemotron 3.5 Boltとは？必要スペック・性能・使い方・Qwen3.6との違いを整理

NVIDIA Nemotron 3.5 Boltは、NVIDIAが2026年10月15日（米国時間）に公開したオープンウェイトのAIモデルです。テキストに加えて画像も読め、2bit量子化でモデル本体を約24GBまで小さくしてあります。RTX Spark搭載PCやDGX Sparkの上で、Web調査・文章作成・コードのデバッグといったエージェント作業をクラウドに送らずに動かすことを狙っています。

ただし、24GBはモデルファイルの大きさです。実際に動かすときは作業用のメモリも要るため、公式の手順では32GB以上のメモリを積んだNVIDIA GPUを前提にしています。

この記事でわかること

• Nemotron 3.5 Boltの仕組み（74B-A9B・2bit量子化とは何か）と、2つのモデルの違い
• できること・強み・弱み（NVIDIAの公式ベンチマークと、NVIDIA以外による評価）
• 料金とライセンス（OpenMDW-1.1・商用利用）
• 自分のPCで動くかどうかの判定表（RTX Spark・DGX Spark・RTX 5090・RTX 4090・Mac）
• Ollama・LM Studio・llama.cppでの使い方と、OpenClaw・Claude Codeをローカルで動かすコマンド
• Nemotron 3.5 Lightning、Qwen3.6、Gemma 4との違い

こんな方に向けた記事です

• ローカルLLMやAIエージェントを自分のPCで動かしたい開発者・技術者
• RTX Spark搭載PCやDGX Sparkの購入・活用を考えている方
• 機密データを社外に出さずにAIを業務で使う方法を探している情報システム担当者

Nemotron 3.5 Boltの要点

ローカルで動くAIエージェントの全体像はAIエージェントとはで整理しています。

NVIDIA Nemotron 3.5 Boltとは

出典: NVIDIA 公式（Hugging Face）

Nemotron 3.5 Boltは、NVIDIAのオープンモデル群「Nemotron」の最新世代（3.5）のうち、PC・デスクトップで動かす用途に絞ったモデルです。同時に発表されたデータセンター向けの大型モデル「Nemotron 3.5 Super VL（120B-A12B）」を圧縮して作られています。

出典: NVIDIA公式ブログ、Hugging Face モデルカード

「74B-A9B」と「2bit量子化」の意味

名前の「74B-A9B」は、全体で740億個のパラメータを持ちながら、1つの単語（トークン）を出すたびに働くのは90億個だけという意味です。

Boltは「MoE（Mixture of Experts）」という構造を採っています。得意分野の違う小さなネットワーク（エキスパート）をたくさん持ち、入力ごとに必要なものだけを呼び出す仕組みです。知識の量は大きなモデル並みに持ちつつ、計算量は小さなモデルに近く抑えられます。中身はMamba-2とTransformerを組み合わせた構成で、画像の読み取りには「C-RADIO v4-H」という視覚エンコーダーを使っています。

もう一つの特徴が2bit量子化です。通常、モデルの重みは16bitなどの数値で保存されますが、Boltはエキスパート部分の重みを約2bit（IQ2_XXS形式、1要素あたり2.0625bit）まで圧縮しています。精度が落ちやすい部分（Attention、埋め込み層など）は8bit、Mamba層はNVFP4と、部分ごとにビット数を変えています。

圧縮すると普通は性能が落ちます。そこでNVIDIAは、「Star Elastic」と呼ぶ手法で24GB未満に収まる構成を探し、圧縮で弱った画像の読み取り能力を追加学習で戻し、最後に強化学習でエージェント作業（推論・ツール実行）を鍛え直しています。量子化も、圧縮を前提にした蒸留（QAD）で行っています。

さらに、1.13Bパラメータの小さな「下書きモデル（LiLiCorr）」が次の7トークン分を先に予想し、本体がそれをまとめて確かめることで生成を速めています（投機的デコード）。下書きは平均4〜5トークンが採用されると公表されています。

出典: NVIDIA Research「Nemotron 3.5 Bolt 24GB」

Boltは2種類ある（74B-A9Bと E4B）

「Bolt」の名前が付くモデルは2つ発表されています。2026年10月20日時点で公開されているのは74B-A9Bだけです。

E4Bのベンチマークや詳しい仕様は、公開時点で改めて確認が必要です。この記事で「Bolt」と書く場合は74B-A9Bを指します。

Nemotron 3.5 Boltでできること

出典: NVIDIA Blog 公式

Nemotron 3.5 Boltは、自分のPCの中で動く「画像も読めるAIエージェントの頭脳」として使えます。NVIDIAは想定用途として、Web調査、文章作成、コードのデバッグといった日常的なエージェント作業を挙げています。

対応言語は、英語とプログラミング言語が主要で、日本語・スペイン語・フランス語・ドイツ語・イタリア語もサポート対象としてモデルカードに記載されています。日本語は「主要言語」の扱いではありません。

Nemotron 3.5 Boltの強み

強みは、同じくらいのメモリで動くモデルの中で、エージェント作業の成績が高いことです。NVIDIAは「PinchBench（エージェント作業の評価）で同クラス1位、BrowseComp（Web調査の評価）で2位のオープンモデル」としています。

公式ベンチマーク（Bolt・2bit版）

出典: Hugging Face モデルカード

モデルカードでは、比較相手のQwen3.6-35B-A3B（16bitの非圧縮版）を多くの項目で上回っています。逆にPinchBenchはQwen3.6が88.07でわずかに上でした。2bitに圧縮したBoltが、圧縮していない同クラスのモデルと並ぶか上回っている点が、このモデルの一番の売りです。

これらはNVIDIA自身が測った数値です。NVIDIA以外の評価では、AIモデル評価サイトのArtificial Analysisが総合指標「Intelligence Index」でBoltに21を付け、同じ規模のモデル67件中4位（このクラスの中央値は8）としています。

そのほかの強み

• データを外に出さずに使える: 公式ブログも「作業をクラウドに送らずに」動かせる点を打ち出しています。社外秘の資料や顧客データを扱う作業と相性がよいモデルです
• 画像が読めるローカルモデル: 画面のスクリーンショットや図表を見ながら作業できるため、ブラウザ操作や書類チェックのエージェントに使いやすい
• OpenClawやClaude Codeとすぐつなげられる: Ollamaの公式ページに、OpenClaw・Claude Code・OpenCode・Hermesをこのモデルで起動するコマンドが用意されています
• 長いコンテキスト: メモリに余裕があれば最大256Kトークンまで扱えます
• 入手経路が多い: Hugging Face、Ollama、LM Studio、llama.cpp、vLLM、Docker Model Runnerなどで配布・対応されています

Nemotron 3.5 Boltの弱み・注意点

弱みは、速さ・コーディングの安定性・動かせる機材の幅の3点です。導入前に次の点を確認しておくと失敗を避けられます。

速度はQwen3.6・Gemma 4より遅い

NVIDIA自身が公開した速度比較で、BoltはQwen3.6やGemma 4より遅い結果になっています。測定はRTX Spark搭載のSurface Laptop Ultra（128GB）、Windows 11、llama.cppです。

出典: NVIDIA Research

「Qwen3.6やGemma 4より賢いが、速さでは負ける」と見るのが妥当です。ただし毎秒80トークン超は、人が読むには十分な速さです。参考値として、NVIDIAの開発者フォーラムではDGX Spark 1台で毎秒約140トークン出たというユーザー報告もあります（報告は1件で、条件によって変わります）。

出力が長くなりやすい

Artificial Analysisの評価では、テストの間に出力したトークン数が約2.3億と、同じ条件のモデルの中央値（約1億）の2倍を超えました。推論モードがONだと考える過程も出力に含まれます。思考トークンと回答は同じ max_tokens の枠を使うため、上限が小さいと回答の途中で切れることがあります。

コーディングは安定しない場面がある

AIツール企業MindStudioが独自に試した結果では、画像を使った推論（回路図の読み取りなど）は高い評価でした。一方、Docker Composeアプリに仕込まれたバグを見つけられずに誤った処理を「正しい」と判断したり、HTML Canvasのアニメーションが崩れたりと、コーディングでは失敗が出ています。翻訳では、話者の少ない言語で事実と違う内容を作ったり、同じ文を繰り返したりする例もありました。

日本語性能はまだ第三者の検証がない

日本語はサポート対象ですが、日本語に絞った第三者のベンチマークは2026年10月20日時点で見当たりません。日本語の文章を業務で使うなら、自社の実際のタスクで出来を確かめてから判断してください。

Macでは使えない・24GBのGPUでは足りない

Ollamaの公式ページには「Apple Silicon／Metalは現在非対応」と明記されています。また「24GB」はモデルファイルの大きさで、24GBのGPUにそのまま載るという意味ではありません。公式手順で最も小さい構成でも「32GB以上のRTX GPU」が条件です。

Nemotron 3.5 Boltの料金とライセンス

モデル自体は無料です。重みはHugging Faceなどで配布されており、利用料はかかりません。費用はほぼ動かす機材の代金と電気代です。

OpenMDW-1.1は、Linux Foundationが2026年5月に公開したライセンスで、モデルの重み・データ・コード・文書をまとめて扱えます。報道によると、利用料は不要で、用途や地域の制限もなく、改変したものを公開する義務もありません。再配布するときはライセンスと著作権表示を残す必要があります。2026年8月にOSI（オープンソースの定義を管理する団体）へ承認を申請しており、10月20日時点で承認は確認できていません。

業務で使う場合は、ライセンスについて次のことを確かめておきましょう。

• ライセンスの細かい条件は、配布ページに添付されたライセンス本文で確認する
• 第三者が変換・再配布したモデルは、ライセンス表記が本家と食い違う例が過去のNemotronでもあった。商用利用では本家の nvidia/ リポジトリの表記を基準にする

RTX Spark搭載PCの機種や価格はNVIDIA RTX Sparkとはで詳しく整理しています。

Nemotron 3.5 Boltを動かすのに必要なスペック

出典: NVIDIA DGX Spark 公式サイト

目安は「NVIDIA GPUで32GB以上のメモリ」です。モデル本体の約24GBに加えて、会話の記憶にあたるKVキャッシュや下書きモデルの分がいるためです。公式の手順（Hugging FaceのGGUF版のレシピ）は2通り用意されています。

出典: Hugging Face（GGUF版）

GGUF版が対応するのはAda Lovelace世代（RTX 40シリーズなど）とBlackwell世代（RTX 50シリーズなど）のGPUで、OSはWindowsとLinuxです。vLLMで動かす場合は、A100（Ampere）やH100（Hopper）などのデータセンター向けGPUも対象になります。

自分のPCで動くかの判定表

Macで手軽にローカルモデルを試したい場合は、Apple Siliconで動かす手段がそろった別のモデルを選ぶほうが確実です。候補としてはGemma 4やQwen3.8があります。

Nemotron 3.5 Boltの使い方

出典: Ollama 公式サイト

一番手軽なのはOllamaです。コマンド1行でダウンロードから会話まで進みます。細かく速度を詰めたい場合は、NVIDIAが公式に配布しているGGUF版をllama.cppで動かします。

Ollamaで動かす

Ollamaをインストールしたら、次のコマンドを実行します。初回は約25GBのダウンロードが入ります。

ollama run nemotron-3.5-bolt

画像も読ませられます。Ollama版の入力はテキストと画像で、動画は読めません。

OpenClaw・Claude Codeをローカルモデルで動かす

Ollamaの公式ページには、エージェントツールをBoltで起動するコマンドが載っています。

# OpenClaw をBoltで動かす
ollama launch openclaw --model nemotron-3.5-bolt

# Claude Code をBoltで動かす
ollama launch claude --model nemotron-3.5-bolt

# OpenCode / Hermes も同様
ollama launch opencode --model nemotron-3.5-bolt
ollama launch hermes --model nemotron-3.5-bolt

クラウドのAPI料金をかけずにOpenClawを常時動かしたい人にとって、ここが一番実用的な使い道です。ただし、クラウドの最上位モデルと比べるとコーディングの精度は落ちるため、重要なコードはテストやレビューを通してから使ってください。

LM Studio・llama.cpp・vLLMで動かす

設定のコツ

• サンプリング: モデルカードの推奨は temperature 1.0、top_p 0.95
• 推論モードのON／OFF: OpenAI互換APIでは、リクエストの chat_template_kwargs で切り替えます。簡単な質問や速さを優先したいときはOFFにすると、待ち時間と出力の長さを抑えられます

{
  "model": "nemotron-3.5-bolt",
  "messages": [{"role": "user", "content": "この画像の表を要約して"}],
  "temperature": 1.0,
  "top_p": 0.95,
  "chat_template_kwargs": {"enable_thinking": false}
}

• max_tokensは大きめに: 推論モードON時は、考える過程と回答が同じ上限を分け合います。回答が途中で切れる場合は上限を上げてください
• コンテキスト長は必要な分だけ: 256Kをそのまま指定するとメモリを大きく使います。64GB以下の機材では64K程度から始めると安定します

Nemotron 3.5 Boltと他のモデルの違い

選び方の目安は、賢さ重視ならBolt、速さ重視ならQwen3.6・Gemma 4やNemotron 3.5 Lightning、企業のサーバーで大規模に動かすならSuper VLです。

Nemotron 3.5ファミリー内の違い

Artificial AnalysisのIntelligence Indexでは、Super VLが26.5、Boltが21、Lightningが13です。Boltは「Super VLの賢さを、PCに載る大きさまで縮めたモデル」と考えるとわかりやすいでしょう。

Nemotronの前の世代のマルチモーダルモデルはNemotron 3 Nano Omni、音声対話に特化したモデルはNemotron VoiceChatで解説しています。

Qwen3.6・Gemma 4・Qwen3.8との比較

速度と所要時間はNVIDIA Researchの同一条件での測定値です。賢さの比較もNVIDIAの自社測定なので、自分の作業で試して確かめるのが確実です。

用途別のおすすめ

業務で使うときのセキュリティと注意点

ローカルで動くことは安全面の大きな利点です。ただし、データが社外に出ないことと、エージェントが安全に動くことは別の話です。業務で使うときは、特に次のことに気をつけてください。

1. 権限はモデルではなくエージェントツール側で決まる: OpenClawやClaude Codeと組み合わせると、モデルの判断でファイル編集・コマンド実行・ブラウザ操作が行われます。作業フォルダを限定し、サンドボックスの中で動かし、危険な操作の前には確認を挟む設定にしてください。OpenClawを組織で管理する仕組みとしては、NVIDIAのNemoClawがあります
2. 入力する画像・動画の権利を確認する: モデルカードは、入力する画像・動画について利用者が権利や許可を持っていることを求めています。また、出力は画像に写った人物や健康情報、知的財産をぼかしたり保護したりしません
3. 安全のための仕組みを外さない: モデルカードは、用途に合った代わりの対策なしに安全ガードレールを回避しないよう求めています
4. モデルの入手元を確認する: 量子化版は第三者からも配布されています。業務ではNVIDIA公式（nvidia/ リポジトリ）か、Ollamaなど信頼できる配布元から入手してください

ローカルモデルで作った試作やツールを業務で使い続けるには、社内の実データや既存システムとの安全なつなぎ方、権限管理、障害時の対応、保守を誰が担うかといった体制も決めておく必要があります。その段階の進め方はAIで作ったアプリを開発会社へ引き継ぐにはで整理しています。

NVIDIAがオープンモデルと安全性をどう両立させようとしているかは、Open Secure AI Allianceの記事も参考になります。

Nemotron 3.5 Boltはこんな人におすすめ

おすすめな人

• RTX Spark搭載PC、DGX Spark、32GB以上のメモリを積んだRTX GPUをすでに持っている、または購入予定の人
• 社外秘の資料や顧客データを、クラウドに送らずAIで処理したい企業・チーム
• スクリーンショットや図表を読ませながら作業するローカルエージェントを作りたい開発者
• OpenClawやClaude Codeを、API料金を気にせずローカルモデルで動かしてみたい人
• 商用利用できるオープンモデルを、自社製品やサービスに組み込みたい人

おすすめしない人

• Macで使いたい人（現時点でOllamaは非対応）
• 24GB以下のGPUしか持っていない人
• コーディングの精度を最優先する人（クラウドのClaudeやGPT系のほうが安定）
• 日本語の高品質な文章生成が主な目的の人（日本語の第三者評価がまだない）
• 応答の速さを最優先する人（Qwen3.6、Gemma 4、Nemotron 3.5 Lightningのほうが速い）
• ハードウェアを新しく買わずに手軽に試したい人（機材代が数十万円単位になる）

よくある質問

Q. インターネットにつながっていなくても使えますか？

モデルを一度ダウンロードしてしまえば、推論そのものはPCの中だけで完結します。ただし、Web調査やブラウザ操作のように外部の情報を取りに行く作業には、ネット接続が必要です。完全にオフラインの環境で使う場合は、文書の要約や画像の読み取りなど、手元のデータだけで済む作業に絞ることになります。

Q. Nemotron 3 Nano・Super・Ultraとはどういう関係ですか？

2025年12月に公開されたNemotron 3世代（Nano／Super／Ultra）の後継にあたるのが、今回のNemotron 3.5世代です。3.5世代では、データセンター向けのSuper VL、PC向けのBolt、軽量なLightningという分け方になりました。Boltは3.5世代のSuper VLを元に作られています。

Q. 動画はどのくらいの長さ・画質まで読めますか？

モデルカードでは、MP4形式で最大2分までです。Unslothのガイドによると、1080pなら1秒に1コマ・最大128コマ、720pなら1秒に2コマ・最大256コマに間引いて読み込みます。llama.cppで使う場合は、動画の処理にffmpegが必要です。

Q. 学習データはいつ時点までのものですか？

モデルカードによると、事前学習のデータは2026年2月24日まで、事後学習のデータは2026年5月までです。それ以降の出来事や新しい製品・料金については知らないため、最新の情報が必要な作業ではWeb検索と組み合わせてください。

Q. Bolt E4Bは何が違い、いつ使えるようになりますか？

E4Bはモデル本体が約4GBの小型版で、Jetsonなどの組み込み機器も対象にした会話向けモデルです。公開は2026年10月23日の予定とされています。74B-A9Bほどの考える力は求めず、音声アシスタントのように素早く返す用途を想定しています。

まとめ

• Nemotron 3.5 Boltは、NVIDIAが2026年10月15日に公開した、画像も読めるローカル向けのオープンウェイトモデル。総74B・有効9BのMoE構造と2bit量子化で、モデル本体を約24GBに収めている
• 同じくらいのメモリで動くモデルの中ではエージェント作業の成績が高い。一方、速度はQwen3.6・Gemma 4より遅く、コーディングでは失敗も報告されている
• モデルは無料でOpenMDW-1.1ライセンス（商用利用可）。かかる費用は主に機材代
• 動かすにはNVIDIA GPUで32GB以上のメモリが目安（256Kコンテキストなら48GB以上）。Macは現時点で非対応
• Ollamaなら ollama run nemotron-3.5-bolt で始められ、ollama launch openclaw でOpenClawのローカルモデルとしても使える
• 業務ではデータを外に出さない利点を活かしつつ、エージェントツール側の権限管理とライセンス確認を忘れずに

ローカルAIを含む生成AIの全体像は生成AIとは、Boltと組み合わせるエージェントツールはOpenClawとはで詳しく解説しています。