LLM-jp-4 33Bとは|国立情報学研究所の国産オープンLLM・Apache 2.0・gpt-oss-20b超えの日本語性能を解説【4.1対応・2026年11月】

この記事のポイント
LLM-jp-4 33Bは国立情報学研究所が2026年8月に公開した約332億パラメータのDense型オープンLLMで、Apache 2.0で商用利用できます。公式ベンチマークの正しい読み方、9月公開の後継LLM-jp-4.1 33Bとの違い、必要メモリ、導入時の注意点をまとめました。
LLM-jp-4 33Bは、国立情報学研究所(NII)の大規模言語モデル研究開発センター(LLMC)が2026年8月18日に公開した、約332億パラメータのDense型オープンLLMです。Apache License 2.0で商用利用でき、公式評価では日本語MT-Benchが8.00で、gpt-oss-20b(7.33)とGPT-4o(7.29)を上回りました。
ただし「GPT-4o超え」と言えるのはMT-Benchの2指標だけです。また、2026年9月28日には後継のLLM-jp-4.1 33Bが公開され、ツール呼び出しへの対応や安全性スコアの改善が入りました。これから導入するなら原則は4.1、MT-Benchの高さを重視する場合や研究の再現が目的なら4(無印)、という選び方になります。
この記事でわかること
- LLM-jp-4 33Bの基本スペック(332億パラメータ/64Kコンテキスト/11.7兆トークン学習)
- 公開された
baseとthinkingの役割の違い - 公式ベンチマーク全12行の数値と、「gpt-oss-20b超え」「GPT-4o超え」がどこまで言えるか
- 後継のLLM-jp-4.1 33Bで何が変わったか、4と4.1のどちらを使うか
- 33B Dense と 32B-A3B MoE の選び方
- 必要メモリの目安と、運用コストの考え方
- 導入前に知っておきたい実装上の注意点(ツール呼び出し/Harmony形式/GGUF)
- こんな組織におすすめ/おすすめしない組織
想定読者
- 日本語データを外部APIに出せない企業・自治体・医療/金融の情報システム担当
- オンプレや自社クラウドでLLM推論基盤を作っているエンジニア
- 国産オープンLLMを選定しているAI推進担当・PM
- LLM-jpシリーズの世代やモデルの違いを正確に知りたい研究者
LLM-jp-4 33Bの基本情報

出典: Hugging Face llm-jp/llm-jp-4-33b-thinking
LLM-jp-4 33Bは、LLM-jp-4シリーズで初めて公開された大型のDenseモデルです。2026年4月に公開された8B(Dense)と32B-A3B(MoE)に続く3つ目のサイズで、推論時に全パラメータを使う構成で日本語性能を引き上げています。
モデルスペック
項目 | 内容 |
|---|---|
正式名称 | LLM-jp-4 33B( |
開発元 | 国立情報学研究所(NII)大規模言語モデル研究開発センター(LLMC) |
公開日 | 2026年8月18日 |
ライセンス | Apache License 2.0(商用利用可) |
アーキテクチャ種別 | Dense型(推論時に全パラメータを使用)。Hugging Face上のタグは |
総パラメータ | 33,219,548,160(約332億) |
非埋め込みパラメータ | 32,212,915,200 |
埋め込みパラメータ | 1,006,632,960 |
層数 / Hidden size / Heads | 64層 / 5,120 / 40 |
コンテキスト長 | 65,536トークン(64K) |
学習トークン数 | 合計約11.7兆トークン(事前学習+中間学習) |
学習コーパス | 事前学習: |
トークナイザ | Unigram byte-fallback方式( |
チャットテンプレート | OpenAI Harmony形式と互換 |
提供形態 | Hugging Faceでの重み配布(33B向けの公式な有料APIはなし) |
後継モデル | LLM-jp-4.1 33B(2026年9月28日公開) |
問い合わせ先 | llm-jp(at)nii.ac.jp |
出典: Hugging Face: llm-jp/llm-jp-4-33b-thinking モデルカード
パラメータ数が「32B」ではなく「33B」と表記されるのは、埋め込み層を含めた総パラメータが約332億になるためです。埋め込みを除くと約322億で、32B-A3B(総約321億)とほぼ同じ規模になります。
何が新しいのか
8Bや32B-A3Bとの違いは、モデルの設計に集中しています。
- Dense型:32B-A3BはMoE(Mixture of Experts)で、推論時に使うのは約38億パラメータです。33Bは約332億をすべて使います。速度より精度を取った設計です。
- 層が深い:32B-A3Bは32層ですが、33Bは64層です。Hidden sizeも5,120に広がっています。
- 学習トークンの総量はほぼ同じ:33Bは事前学習+中間学習で約11.7兆トークンです。4月公開の8B/32B-A3Bも事前学習約10.5兆+中間学習1.2兆で、総量は大きく変わっていません。スコアが上がったのは、Dense化と層の深さによるところが大きいとみられます。
シリーズ全体の設計方針や8B/32B-A3Bのスペックは、LLM-jp-4とは|国立情報学研究所の国産LLM解説にまとめています。
開発の背景
LLM-jpは、NIIを中心に2,600名以上(2026年3月31日時点)の研究者・技術者が参加する産学官の研究開発コミュニティです。資金は文部科学省の補助金事業「生成AIモデルの透明性・信頼性の確保に向けた研究開発拠点形成」です。4月公開のモデルでは産業技術総合研究所のABCI 3.0が計算資源に使われましたが、33Bの学習で同じ資源が使われたかどうかは8月18日の発表には書かれていません。
モデルの重みだけでなく、学習コーパスや学習データも可能な範囲で公開しているのが特徴です。海外モデルを名前だけ変えた「国産LLM」が問題になった例は楽天 Rakuten AI 3.0のDeepSeekリブランド問題で取り上げました。LLM-jp-4は、コーパスの設計から事前学習まで国内で行ったフルスクラッチのシリーズです。
公開された2つのモデル(base / thinking)の違い

33Bで公開されたのは base と thinking の2種類です。思考を挟まずに応答する instruct 版は、33Bにはありません。
モデル | 学習段階 | 主な用途 | 想定ユーザー |
|---|---|---|---|
| 事前学習+中間学習まで | 追加学習(ファインチューニング)の土台 | 研究者・モデル開発者 |
| 上記+SFT(教師ありファインチューニング)+DPO(直接選好最適化) | 対話・文章生成・推論 | そのまま推論に使う実務ユーザー |
| thinkingの量子化版(BF16 66.4GB/Q4_K_M 20.2GB) | ローカル実行(llama.cpp/Ollama/LM Studio) | 手元のGPUで試したい開発者 |
モデルカードには、thinking には強化学習(RL)を使っていないと明記されています。事後学習はSFTとDPOだけで、DPOに使ったデータ llm-jp/llm-jp-4-33b-thinking-dpo-data も同時に公開されました。学習手順を再現したい研究用途では、この公開範囲の広さが役に立ちます。
instruct がないと何が困るか
33Bを使う場合、思考を挟まない軽い応答は選べません。thinking はHarmony形式に沿って、思考の内容と最終回答を別のチャネルに出力します。
- 思考トークンの分だけ、応答までの時間が長くなる
- アプリ側で、思考と最終回答を分けて扱う処理が必要になる
- 短い定型応答を大量に速く返す用途には向かない
この点は後継の4.1 33Bでも同じで、4.1も3サイズすべてがthinkingモデルです。短い応答を速く返したいなら、より小さいサイズや他のモデルも候補に入れて比べるのが現実的です。
公式ベンチマーク全数値と、その正確な読み方

「gpt-oss-20bを4指標すべてで上回った」は事実です。一方、「GPT-4o超え」は指標によって結果が分かれます。まずは公式モデルカードの全数値を見てください。
公式ベンチマーク結果(全12行)
評価には公式の評価ツール llm-jp-judge が使われました。評価者モデルは gpt-5.4-2026-03-05、3回の推論の平均値です。
モデル | MT-Bench (JA) | MT-Bench (EN) | AnswerCarefully | llm-jp-instructions |
|---|---|---|---|---|
gpt-4o-2024-08-06 | 7.29 | 7.69 | 4.00 | 4.07 |
gpt-5.4-2026-03-05 (low) | 8.87 | 8.76 | 4.38 | 4.79 |
gpt-5.4-2026-03-05 (medium) | 8.87 | 8.89 | 4.43 | 4.82 |
gpt-5.4-2026-03-05 (high) | 8.98 | 8.85 | 4.41 | 4.83 |
gpt-oss-20b (low) | 7.21 | 7.95 | 3.39 | 3.08 |
gpt-oss-20b (medium) | 7.33 | 7.85 | 3.55 | 3.16 |
llm-jp-4-8b-thinking (low) | 7.23 | 7.54 | 3.58 | 3.50 |
llm-jp-4-8b-thinking (medium) | 7.54 | 7.79 | 3.69 | 3.54 |
llm-jp-4-32b-a3b-thinking (low) | 7.57 | 7.70 | 3.61 | 3.61 |
llm-jp-4-32b-a3b-thinking (medium) | 7.82 | 7.86 | 3.70 | 3.61 |
llm-jp-4-33b-thinking (low) | 7.67 | 8.05 | 3.63 | 3.74 |
llm-jp-4-33b-thinking (medium) | 8.00 | 8.24 | 3.79 | 3.79 |
出典: Hugging Face: llm-jp/llm-jp-4-33b-thinking(2026年11月12日に確認した値)
各指標の意味は次のとおりです。
- MT-Bench (JA/EN):複数ターンの対話での応答品質。10点満点
- AnswerCarefully:日本語の安全性評価(AnswerCarefully v2.0のテスト336問)。5点満点
- llm-jp-instructions:日本語の指示への応答品質(テスト400問)。5点満点
「gpt-oss-20b超え」は4指標すべてで事実
33B thinking(medium)とgpt-oss-20b(medium)を比べると、4指標とも33Bが上です。
指標 | LLM-jp-4 33B (medium) | gpt-oss-20b (medium) | 差 |
|---|---|---|---|
MT-Bench (JA) | 8.00 | 7.33 | +0.67 |
MT-Bench (EN) | 8.24 | 7.85 | +0.39 |
AnswerCarefully | 3.79 | 3.55 | +0.24 |
llm-jp-instructions | 3.79 | 3.16 | +0.63 |
ただし、モデルの大きさと必要なメモリはまったく違います。gpt-oss-20bは総21B・アクティブ3.6BのMoEで、MXFP4量子化により16GBのメモリで動きます。33Bは約332億パラメータをすべて使うDense型です。ライセンス(Apache 2.0)とチャット形式(Harmony)は同じでも、使う計算資源は大きく異なる比較だと理解しておきましょう。
「GPT-4o超え」が成立するのは2指標だけ
指標 | LLM-jp-4 33B (medium) | GPT-4o | 判定 |
|---|---|---|---|
MT-Bench (JA) | 8.00 | 7.29 | 上回る(+0.71) |
MT-Bench (EN) | 8.24 | 7.69 | 上回る(+0.55) |
AnswerCarefully | 3.79 | 4.00 | 下回る(-0.21) |
llm-jp-instructions | 3.79 | 4.07 | 下回る(-0.28) |
対話の品質ではGPT-4oを上回るものの、安全性と指示への応答ではまだ届いていないのがLLM-jp-4 33Bの実際の結果です。AnswerCarefullyは有害な質問や扱いに注意が要る質問への応答を測る指標なので、一般利用者向けのサービスに組み込むかどうかの判断に直結します(後継の4.1 33Bでは、この安全性スコアがGPT-4oを上回りました)。
公式評価表のgpt-5.4は日本語MT-Benchが8.87〜8.98、llm-jp-instructionsが4.79〜4.83で、33B(8.00/3.79)とはまだはっきり差があります。商用の最新モデルの水準はGPT-5.4とはを参考にしてください。
評価者が変わったので、旧世代の数字とは比べられない
モデルカードには、llm-jp-3系は gpt-4o-2024-08-06 を評価者にしていたこと、新しい評価者のほうが厳しくMT-Benchなどのスコアが低めに出ることが注記されています。
- llm-jp-3系で発表されたスコアと33Bのスコアを、同じ表に並べて比べない
- 「llm-jp-3.1の数字のほうが高い=性能が落ちた」とは読まない
- 33Bの数字は、同じ条件で測られたモデル(gpt-4o/gpt-5.4/gpt-oss-20b/8B/32B-A3B/4.1系)とだけ比べる
社内の稟議や比較資料にスコアを使うときは、評価者モデルと評価条件も一緒に書いておきましょう。
reasoning effortはlowとmediumの結果だけが公表
thinkingモデルは推論の量(reasoning effort)を切り替えられますが、4(無印)の公式評価表に載っているのはlowとmediumの2段階だけです。lowからmediumに上げると日本語MT-Benchは7.67から8.00に伸びるので、精度が必要な場面ではmediumを基準にするとよいでしょう。設定方法は公式のllm-jp-4-cookbookを確認してください。
後継のLLM-jp-4.1 33Bとの違い(2026年9月公開)
2026年9月28日に、後継のLLM-jp-4.1シリーズ(8B/32B-A3B/33B)が公開されました。4.1 33Bはアーキテクチャ・パラメータ数・コンテキスト長・学習トークン数(約11.7兆)が4の33Bと同じで、変わったのは事後学習(SFTとDPO)です。ライセンスは同じApache 2.0で、GGUF版も公開されています。
機能の違い
比較項目 | LLM-jp-4 33B(2026年8月) | LLM-jp-4.1 33B(2026年9月) |
|---|---|---|
ツール呼び出し(Function Calling) | 非対応 | 対応(シリーズで初めて。並列呼び出しに合わせてチャットテンプレートを変更) |
回答の長さ | 長め | low/mediumで回答トークンが4の約半分 |
数学・科学(STEM) | 比較の基準 | swallow-evaluation-instructで、同じサイズの4より数学・科学・指示追従が向上 |
過去の推論内容の扱い | 公式の記載なし | 学習・推論とも、過去ターンの推論内容をコンテキストから外す |
強化学習(RL) | 不使用 | 不使用(次の4.2で導入予定) |
公開形態 | base/thinking/GGUF | thinking/GGUF、SFT・DPOデータも公開 |
モデルカードの注意書き | 研究開発の初期段階 | 研究開発の初期段階で、本番サービスでの直接利用は意図していない |
出典: LLMC「LLM-jp-4.1」公開のお知らせ/LLM-jp 技術ブログ/Hugging Face llm-jp/llm-jp-4.1-33b-thinking
ベンチマークの違い(llm-jp-judge・medium)
指標 | LLM-jp-4 33B | LLM-jp-4.1 33B | gpt-oss-20b | GPT-4o |
|---|---|---|---|---|
MT-Bench (JA) | 8.00 | 7.76 | 7.33 | 7.29 |
MT-Bench (EN) | 8.24 | 7.98 | 7.85 | 7.69 |
AnswerCarefully | 3.79 | 4.08 | 3.55 | 4.00 |
llm-jp-instructions | 3.79 | 3.83 | 3.16 | 4.07 |
評価者はどちらも同じgpt-5.4なので、4と4.1は直接比べられます。表から読み取れる変化は次のとおりです。
- 4.1でも、gpt-oss-20bを4指標すべてで上回る
- 4.1はAnswerCarefullyが4.08で、GPT-4o(4.00)を上回った。MT-Benchと合わせ、GPT-4o超えは3指標に増えた。llm-jp-instructions(3.83)はGPT-4o(4.07)に届いていない
- MT-Benchは4.1のほうが低い。公式は、回答が短くなったことを理由の1つに挙げている
公式ブログには、ほかのベンチマークについての所見もあります(数値は図のみの公開なので、ここでは大小関係だけを書きます)。
- swallow-evaluation-instructの平均では、4.1 33Bはgpt-oss-120bと同程度。Qwen3.8-27BやGemma-4-31B-itには届かず、コードは課題として残っている
- 日本語のツール呼び出し評価(BFCL-nejumi)のマルチターンでは、33BがQwen3-32BやQwen3.5-9Bを上回った
- 公式ブログの所見では、複雑なマルチターンのツール呼び出しで33Bは8B・32B-A3Bよりはっきり有利
同じくらいのサイズの海外モデルはQwen3.8-27BとはやGemma 4の使い方・性能比較で解説しています。
4と4.1、どちらを使うか
やりたいこと | おすすめ | 理由 |
|---|---|---|
これから新しく導入する | 4.1 33B | 安全性と指示への応答が上がり、回答も短い |
ツール呼び出し・エージェント的な使い方 | 4.1 33B | 4はツール呼び出しに非対応 |
一般利用者向けの画面に出す(ガードレール付き) | 4.1 33B | AnswerCarefullyがGPT-4o以上 |
長く詳しい回答・対話品質(MT-Bench)を重視 | 4 33B | MT-Benchは4のほうが高い |
8月時点の結果の再現研究、追加学習の土台 | 4 33B(base/thinking) | baseと学習データがそろっている |
すでに4の33Bを使っている場合も、同じ構成のまま4.1に差し替えて自社のタスクで比べるのが早道です。ただし4.1はチャットテンプレートが変わっているので、プロンプトを組み立てる処理は見直してください。
33B Dense と 32B-A3B MoE、どちらを選ぶべきか
同じ「約32〜33B」でも、2つは設計がまったく違います。精度を最優先するなら33B Dense、同じGPUで速度とコストを取るなら32B-A3B MoEです。
スペックとスコアの比較
比較ポイント | LLM-jp-4 8B | LLM-jp-4 32B-A3B | LLM-jp-4 33B |
|---|---|---|---|
型 | Dense | MoE | Dense |
総パラメータ | 約86億 | 約321億 | 約332億 |
推論時に使うパラメータ | 約86億(全部) | 約38億 | 約332億(全部) |
層数 / Hidden / Heads | 32 / 4,096 / 32 | 32 / 2,560 / 40 | 64 / 5,120 / 40 |
エキスパート | — | 128(うち8を使用) | — |
コンテキスト長 | 65,536 | 65,536 | 65,536 |
ベースのアーキテクチャ | Llama 2系 | Qwen3 MoE系 | HFタグ上はllama |
日本語MT-Bench (medium) | 7.54 | 7.82 | 8.00 |
英語MT-Bench (medium) | 7.79 | 7.86 | 8.24 |
公開日 | 2026-04-03 | 2026-04-03 | 2026-08-18 |
後継(4.1) | あり | あり | あり |
「+0.18点」のために、使うパラメータ8.7倍を払うか
33Bと32B-A3Bのスコア差は次のとおりです(いずれもmedium)。
指標 | 32B-A3B | 33B | 差 |
|---|---|---|---|
MT-Bench (JA) | 7.82 | 8.00 | +0.18 |
MT-Bench (EN) | 7.86 | 8.24 | +0.38 |
AnswerCarefully | 3.70 | 3.79 | +0.09 |
llm-jp-instructions | 3.61 | 3.79 | +0.18 |
その代わり、推論時に使うパラメータは約38億から約332億へ、およそ8.7倍に増えます。メモリ使用量、処理できる量、応答時間、GPU費用のどれもが大きく不利になります。
状況 | おすすめ | 理由 |
|---|---|---|
日本語の品質を最優先し、バッチ処理で待てる | 33B Dense | 4指標すべてで32B-A3Bを上回る |
英語のタスクも扱う | 33B Dense | 英語MT-Benchの差が+0.38と大きい |
同時アクセスが多いチャットサービス | 32B-A3B MoE | 使うパラメータが約38億で、処理量を確保しやすい |
GPUの予算が限られ、台数を増やせない | 32B-A3B MoE | 同じGPUでより多くのリクエストを捌ける |
複雑なマルチターンのツール呼び出し | 4.1 33B | 公式ブログの所見で33Bが有利 |
追加学習の土台にしたい | 33B base | 層が深く、表現力を出しやすい |
MoEとDenseの違いは、Meta Llama 4 Scoutとは(17B active / 109B MoE)でも構造面から解説しています。
料金・必要GPUと運用コスト
モデルそのものは無料です。Apache License 2.0で配布されており、商用利用・改変・再配布にライセンス料はかかりません。33B向けの公式な有料APIもないため、実際にかかる費用はGPUの購入費かクラウドGPUの利用料、それに運用の手間です。
料金体系
項目 | 内容 |
|---|---|
モデルのダウンロード | 無料(Hugging Face) |
公式APIの利用料 | 33B向けの公式な有料APIはなし |
研究者向けの試験提供 | 4.1公開にあわせ、東京大学のmdx-MaaSで実験的なAPIとチャットを試験提供(2026年10月中旬から段階的に募集。主に研究者向け。対象モデルや企業利用の可否は申込ページで要確認) |
ライセンス費用 | 不要(Apache License 2.0) |
商用利用 | 可(追加の契約は不要) |
実際にかかる費用 | GPUの購入費またはクラウドGPUの利用料、電気代、運用の人件費 |
mdx-MaaSの申込方法と規約はmaas.mdx1.jpに掲載されています。企業がすぐ使える従量課金のAPIではない点に注意してください。また、2026年11月12日時点でHugging FaceのInference Providers(推論サービス)にもデプロイされていません。
必要メモリの目安
公式は、推論に必要なGPUメモリの実測値を出していません。下の表は公式GGUFのファイルサイズから計算した目安で、公式の値ではありません。
実行形式 | モデルファイルの大きさ | 現実的なGPU構成 |
|---|---|---|
BF16(フル精度) | 66.4GB(公式GGUF) | 80GB級のGPU(H100 80GBなど)1枚でぎりぎり。長いコンテキストも使うなら2枚、または96GB級以上 |
8bit量子化 | 約33〜35GB(計算値) | 48GB級のGPU |
Q4_K_M(4bit量子化) | 20.2GB(公式GGUF) | 24GBのGPU(RTX 4090など)で重みは載る。長いコンテキストまで使うなら32GB以上のGPUかユニファイドメモリ |
これに加えて、64Kのコンテキストを使うならKVキャッシュの分のメモリが別に必要です。長い文書を読ませるRAGを想定するなら、ファイルサイズより十数GB以上の余裕を見込んでおきましょう。推論速度(トークン/秒)の公式値もないため、速度は自社の環境で測って判断してください。
自前運用とAPI利用のコストの違い
運用パターン | 費用の特徴 | 合うケース |
|---|---|---|
自社のオンプレGPU | 初期投資は重いが、稼働率を上げるほど1件あたりが安くなる | 大量・長期の運用、機密データを社外に出せない業種 |
クラウドGPU(時間課金) | 使った分だけ払う。稼働率が低いと割高 | PoC、繁閑の差がある業務、規模が読めない段階 |
商用API(GPTなど) | トークン量に応じて課金。インフラの運用は不要 | 小規模の利用、すぐ試したい場合 |
API料金がかからなくても、GPUの費用はかかります。小規模の利用なら、商用APIのほうが安く済むことも珍しくありません。国内のソブリンクラウドを検討する場合は、SoftBank「Cloud PF Type A」やデジタル庁の国産AIの事例も参考になります。
使い方と対応実行環境

出典: GitHub llm-jp/llm-jp-4-cookbook
モデルカードで案内されている実行方法は次のとおりです。どれも自前でGPU環境を用意する前提で、一般向けにブラウザからすぐ試せる公式チャットはありません。
実行方法 | 概要 |
|---|---|
Transformers |
|
vLLM |
|
SGLang |
|
Docker Model Runner |
|
llama.cpp/Ollama/LM Studio | 公式GGUFリポジトリ(BF16/Q4_K_M)を使い、リポジトリの手順に従う |
サンプルコードは公式のllm-jp/llm-jp-4-cookbook(GitHub)にまとまっています。まず手元で挙動を見たいなら、Q4_K_Mの量子化版をOllamaなどで動かすのが手軽です。Ollamaの基本はOllamaとは|ローカルLLM実行ツールの使い方で解説しています。
社内システムから呼び出すなら、OpenAI互換のエンドポイントを立てられるvLLMかSGLangが標準的な選択です。
このツールを自社のシステムや業務にどう組み込むか、ご提案します
初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)
導入前に押さえておきたい実装上の注意点
ニュースではあまり触れられませんが、動かし始めてから気づくと手戻りになる点がいくつかあります。検証を始める前に確認しておきましょう。
① LLM-jp-4 33Bはツール呼び出しに非対応
LLM-jpシリーズでツール呼び出しに初めて対応したのは4.1です。4(無印)の33Bに外部APIの呼び出しや検索を組み合わせるエージェント的な使い方をさせたいなら、最初から4.1 33Bを選んでください。
② 思考の内容と最終回答を分けて受け取る
thinkingモデルは、Harmony形式で思考の内容と最終回答を別のチャネルに出力します。サーバー側やアプリ側で分けて扱わないと、思考の内容が回答に混ざります。JSONなどの決まった形式で出力させるタスクでは、これだけで出力が使えなくなります。32B-A3Bでは、vLLMでreasoningパーサーを指定しないと混ざるというQiitaの検証報告があり、同じHarmony形式の33Bでも同じ点に注意が必要です。
③ GGUFは自分で変換せず、公式版を使う
LLM-jp-4のトークナイザは、一般的なBPEではなくUnigram byte-fallback方式です。32B-A3Bでは、変換ツールが既存のアーキテクチャとして自動判定することで、変換後に異常な出力が出る例が報告されています。
- 自分でGGUFに変換しない
- 公式のGGUFリポジトリを使う(BF16 66.4GB/Q4_K_M 20.2GB)
- コミュニティが作った量子化版(NVFP4など)は公式ではないので、配布元を確認してから使う
④ openai-harmony ライブラリではトークナイズできない
チャットの形式はHarmonyと互換ですが、トークナイザが違うため、openai-harmony ライブラリで直接トークナイズすることはできません。モデルに付いているトークナイザを使ってください。gpt-ossから乗り換える場合は特に注意が必要です。
⑤ 思考なしの即答モードはない
33Bで公開されているのは base と thinking(とGGUF)だけです。「思考せずにすぐ答える」前提で作ったアプリに、33Bをそのまま差し込むことはできません。
制約・セキュリティ上の注意点
公式が書いている限界
Hugging Faceのモデルカードには、Risks and Limitationsとして次の趣旨が書かれています。
ここで公開しているモデルは研究開発の初期段階のものであり、出力が人間の意図や安全性への配慮に沿うよう十分に調整されていない。
後継の4.1のモデルカードには、さらに本番サービスで直接使うことは意図していないとあります。出力をそのまま一般利用者に見せる設計は避け、入力のチェック・出力のフィルタ・人の確認を前提に組み込みましょう。4の33BはAnswerCarefullyが3.79で、GPT-4o(4.00)を下回る点も判断材料になります。
そのほかの制約
制約 | 内容 |
|---|---|
すぐ使えるAPIがない | 企業向けの公式ホスティングはない。研究者向けのmdx-MaaS試験提供のみ |
ツール呼び出しに非対応 | 4.1 33Bで対応 |
テキストのみ | 画像・音声の入力には対応していない |
コンテキストは64K | PLaMo 3.0 Primeの256Kなどより短い |
強化学習を使っていない | 事後学習はSFT+DPOのみ |
完全な再現学習はできない | 学習コーパスの一部はライセンス上の理由で非公開 |
商用サポートがない | 研究開発プロジェクトのため、SLAや24時間のサポート窓口はない |
セキュリティ面のメリットとリスク
メリットは、モデルの重みを手元や自社のクラウドで動かせるので、入力データを外部のAPIに送らない構成を取れることです。個人情報・診療情報・金融取引データなど、外部への送信が制限される領域では大きな利点です。ただし、これは置き場所によるもので、ライセンスが保証しているわけではありません。
リスクは、その裏返しで、セキュリティの責任をすべて自社で負うことです。
- 推論サーバーの認証と権限の設計
- プロンプトインジェクションへの対策
- 推論ログの保管とアクセス管理
- モデルファイルの改ざんの検知(配布元の確認を含む)
システムプロンプトに認証情報を書かない、外部からの入力をそのままプロンプトにつながない、といった基本の対策も欠かせません。生成AI全般のセキュリティは生成AIのセキュリティリスクと対策にまとめています。オンプレ・VPC・外部APIのどの構成で社内に入れるかは、生成AIのセキュリティ要件と社内導入の構成で比べています。
社内の業務システムやRAGに組み込む場合は、GPU基盤の構築に加えて、ガードレールやログ管理、既存システムとの連携の開発も必要になります。方法ごとの費用の目安はAI開発の費用相場で、PoCから本開発までの内訳とあわせて整理しています。
Apache 2.0で商用利用するときの確認点
Apache License 2.0は自由度の高いライセンスですが、条件がまったくないわけではありません。一般的には次の点を確認します(法的な判断は自社の法務部門に確認してください)。
- ライセンスの表示:モデルや派生物を配布するときは、Apache 2.0のライセンス文とNOTICEを付ける
- 変更の明示:改変・ファインチューニングしたものを配布するときは、変更したことを示す
- 無保証:出力によって生じた損害を、モデルの提供者は保証しない
- 学習データは別に確認:モデルの重みはApache 2.0でも、コーパスを独自に使うときは個別のライセンスを確認する
社内で使うだけなら追加の制約は少なく、外部にモデルを配布したりOEM提供したりする場合にこれらの義務がかかります。
他の国産LLM・オープンモデルの中での位置づけ
LLM-jp-4 33Bは、研究開発コミュニティによる開発・学習データまで含めた公開・Apache 2.0の3つを満たす国産の大型LLMで、他の国産モデルとは立ち位置が違います。
モデル | 開発元 | 提供形態 | 特徴 |
|---|---|---|---|
LLM-jp-4 33B/4.1 33B | NII/LLMC | Apache 2.0・重み配布 | 学習データと手順の公開範囲が広い。4.1はツール呼び出しに対応 |
PLaMo 3.0 Prime | Preferred Networks | 商用提供 | フルスクラッチの国産LLM。256Kコンテキスト |
Sarashina3 | SB Intuitions | 商用利用可のライセンス | 日本語特化。SoftBank系の基盤と連携 |
ELYZA Thinking | ELYZA | 重み配布 | 日本語の推論モデル |
gpt-oss-20b | OpenAI | Apache 2.0・重み配布 | 21B MoE(アクティブ3.6B)。16GBのメモリで動作 |
Qwen3.8-27B | Alibaba | Apache 2.0・重み配布 | 同じくらいのサイズの海外オープンモデル |
国産LLM全体の比較は国産LLM 7選 徹底比較にまとめています。個別にはPLaMo 3.0 Primeとは、Sarashina3とは、ELYZA Thinkingとはも参考にしてください。
LLM-jp-4 33Bが選ばれる理由は、学習の中身・ライセンス・開発の継続性にあります。
- 学習の中身を説明しやすい:学習コーパス(
llm-jp-corpus-v4.1、llm-jp-corpus-midtraining-v2)やDPOデータが可能な範囲で公開されており、監査が必要な組織でも説明しやすい - ライセンスがわかりやすい:Apache 2.0で追加の契約が要らず、ファインチューニングした派生モデルの扱いも明確
- 続きが出ている:4.1が公開され、4.2や332B-A31Bの開発も公式に案内されている
Apache 2.0の大型オープンモデルは海外でも増えており、Arcee AI Trinity Large(400B・Apache 2.0)のような例もあります。オープンウェイトをめぐる各社の考え方はAnthropicのオープンウェイトモデルに対する立場も参考になります。
今後のロードマップ

出典: 国立情報学研究所 公式サイト
2026年11月12日時点で公式に示されている今後の予定は、332B-A31Bと4.2の2つです。どちらも公開日は決まっていません。
予定されているモデル | 公式の案内 | 状態(2026年11月12日時点) |
|---|---|---|
LLM-jp-4 332B-A31B(MoE) | 2026年4月のNII発表で「2026年度中に順次公開予定」 | 未公開 |
LLM-jp-4.2 | 2026年9月の4.1公開時に開発中と発表。学習データを増やし、強化学習を導入してオープンに公開する予定 | 未公開 |
4月の発表で予告されていた「LLM-jp-4 32Bモデル」には、8月の33B Denseがあたるとみられますが、公式に同じものだとは明言されていません。332B-A31B(総3,320億・アクティブ約310億のMoE)が公開されれば、国産オープンLLMとして最大級の規模になります。
LLM-jpシリーズの主な出来事
日付 | 内容 |
|---|---|
2026.11.05 | 第2回オープン大規模言語モデルシンポジウム開催(資料は11月9日から順次公開) |
2026.09.28 | LLM-jp-4.1(8B/32B-A3B/33B)公開。mdx-MaaSでの研究者向け試験提供を発表 |
2026.08.18 | LLM-jp-4 33B(base/thinking)公開、DPOデータも公開 |
2026.07.23 | llm-jp-judge v2.0.0 公開 |
2026.06.24 | LLM-jp-4 Thinkingモデルの量子化版(GGUF)公開 |
2026.04.03 | LLM-jp-4 8B/32B-A3B 公開。32B・332B-A31Bの開発を発表 |
最新の情報はLLMC公式サイトとLLM-jp公式ニュースで確認してください。
こんな組織・用途におすすめ/おすすめしない
導入するかどうかは、「日本語の品質にどれだけこだわるか」と「GPU基盤を持てるか」でほぼ決まります。
おすすめの組織・用途
ケース | 理由 |
|---|---|
日本語データを外部APIに出せない企業・自治体・医療/金融 | 閉じた環境で推論でき、データを社外に送らずに済む |
すでにオンプレやVPC内にGPU推論基盤がある組織 | ライセンス費用なしで日本語の性能を上げられる |
日本語の領域で追加学習したい研究者・開発者 |
|
Apache 2.0で改変・再配布したいベンダー | 追加の契約が要らず、派生モデルを商用提供しやすい |
バッチ処理が中心で精度を優先したいチーム | 4指標すべてで32B-A3Bを上回る。応答時間の制約が緩ければ有力 |
エージェント的な使い方も試したいチーム | 後継の4.1 33Bならツール呼び出しに対応 |
おすすめしない組織・用途
ケース | 理由 |
|---|---|
すぐ使えるチャットやAPIが欲しい企業 | 企業向けの公式ホスティングはなく、環境構築が必要 |
GPUを用意できない | BF16で66.4GB、量子化版でも20.2GB。相応のGPUが前提 |
最先端モデル並みの精度が必要な業務 | gpt-5.4(日本語MT-Bench 8.87〜8.98)とは差が大きい |
画像や音声を扱いたい | テキストのみ対応 |
256K級の長文を一度に読ませたい | コンテキストは64K |
安全性の調整が済んだ完成品が欲しい | 公式が研究開発段階と明記。ガードレールの実装が別に必要 |
短い応答を大量に速く返したい | thinkingモデルのみで、思考の分だけ遅くなる |
企業向けのSLAや24時間サポートが必須 | 研究開発プロジェクトのため商用サポートはない |
迷ったら、まず4.1 33BのQ4_K_M量子化版を手元で動かし、自社のタスクで日本語の品質を確かめてから本番の構成を決めるのが現実的です。「精度は足りるが速度が足りない」なら32B-A3B、「精度が足りない」なら商用APIとの併用を検討する、という順番で進めましょう。
関連記事
- LLM-jp-4とは|国立情報学研究所・約12兆トークン学習の国産LLM:シリーズ全体(8B/32B-A3B/VL)の解説
- 国産LLM 7選 徹底比較:国産LLMの比較と選び方
- Ollamaとは|ローカルLLM実行ツールの使い方:GGUFモデルを手元で動かす手順
- PLaMo 3.0 Primeとは:PFNのフルスクラッチ国産LLM
- Sarashina3とは:SB Intuitionsの国産LLM
- Qwen3.8-27Bとは:同じくらいのサイズのApache 2.0オープンモデル
- 生成AIのセキュリティリスクと対策:オンプレでLLMを動かすときのセキュリティ
よくある質問(FAQ)
Q1. LLM-jp-4 33Bは商用サービスに組み込めますか?
Apache License 2.0なので、ライセンス上は商用利用・改変・再配布ができます。ただし、公式は研究開発の初期段階のモデルだと明記しており、4.1のモデルカードには本番サービスでの直接利用は意図していないとあります。出力のフィルタや人の確認を組み込んだうえで使ってください。配布する場合は、ライセンスの表示と変更の明示も必要です。
Q2. 「GPT-4oを超えた」と報じられましたが、GPT-4oより全面的に上ですか?
いいえ。4の33Bが上回ったのはMT-Bench(日本語8.00対7.29、英語8.24対7.69)の2指標だけです。安全性のAnswerCarefully(3.79対4.00)と指示への応答のllm-jp-instructions(3.79対4.07)は下回っています。後継の4.1 33BはAnswerCarefullyでもGPT-4oを上回りましたが(4.08)、llm-jp-instructionsはまだ下回っています。
Q3. LLM-jp-4 33Bと4.1 33B、どちらをダウンロードすべきですか?
新しく導入するなら4.1 33Bがおすすめです。安全性のスコアが上がり、回答が短くなり、ツール呼び出しにも対応しています。MT-Benchの数値は4のほうが高いので、長く詳しい回答を重視する場合や、8月時点の結果を再現したい研究では4を選ぶ理由があります。モデルの大きさは同じなので、必要なGPUは変わりません。
Q4. なぜLLM-jp-3のときより数字が低く見えるのですか?
評価者のモデルが変わったからです。llm-jp-3系はgpt-4o-2024-08-06が評価していましたが、今回はgpt-5.4-2026-03-05が評価しています。公式は新しい評価者のほうが厳しく、スコアが低めに出ると注記しているので、世代をまたいでスコアを比べることはできません。
Q5. 32B-A3Bを使っています。33Bに乗り換えるべきですか?
用途によります。バッチ処理が中心で、日本語や英語の品質を上げたいなら乗り換える価値があります(日本語+0.18、英語+0.38)。同時アクセスが多いチャットサービスでは、推論時に使うパラメータが約38億から約332億に増えるため、GPUを増やさない限り処理できる量が落ちます。両方を自社のタスクで試してから決めてください。
Q6. 24GBのGPU(RTX 4090など)1枚で動きますか?
公式のQ4_K_M量子化版はファイルが20.2GBなので、重みは載りますが、64Kのコンテキストをすべて使うのはKVキャッシュの分で厳しいと考えておきましょう。短めのコンテキストでの検証なら現実的です。余裕を持って動かすなら32GB以上が目安です(ファイルサイズからの計算で、公式の実測値ではありません)。
Q7. 企業がAPIで使える公式サービスはありますか?
2026年11月時点で、企業がすぐ契約して使える公式の従量課金APIはありません。4.1公開にあわせて東京大学のmdx-MaaSで実験的なAPIとチャットの試験提供が始まりましたが、主に研究者向けです。業務で使うなら、自社のGPUやクラウドGPUにvLLMなどで立てるのが基本になります。
Q8. 332B-A31Bの大型MoEモデルや4.2はいつ出ますか?
2026年11月12日時点では、どちらも未公開です。332B-A31Bは2026年4月の発表で「2026年度中に順次公開予定」とされ、4.2は強化学習を導入した次のモデルとして開発中と案内されていますが、日付は出ていません。LLMC公式サイトで最新情報を確認してください。
Q9. base と thinking のどちらを使えばいいですか?
そのまま推論に使うなら thinking、自社データで追加学習する土台にするなら base です。base は事前学習と中間学習までのモデルで、指示に沿った応答は得意ではありません。まず品質を確かめたい段階なら、thinking(または4.1)のGGUF量子化版が手軽です。
このツールを自社のシステムや業務にどう組み込むか、ご提案します
この記事の著者

AI革命
編集部
AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。
最新記事

Microsoft Ignite 2026のMAI新モデル7つとは?MAI Code 2の性能・料金・使える場所を整理
2026/11/19

メディア・出版業のAI活用事例20選|記事生成AI・新聞社・テレビ局の導入例と著作権対策【2026年11月】
2026/06/19

生成AIの企業活用事例50選|業種別・業務別の成果と導入ステップ・料金を解説【2026年11月最新】
2026/04/19
Google Vidsのパーソナルアバターは無料で使える?作り方・日本語対応・注意点を整理
2026/11/18

コンビニのAI活用|AI発注・無人レジ・廃棄ロス削減の導入事例とコスト・人手不足対策の進め方【2026年最新】
2026/10/08

保育園システムを比較しても決まらないとき|保育ICTで足りない業務・追加開発を頼む範囲と費用・補助金【2026年】
2026/10/21


