AIツール2026年11月更新

LLM-jp-4 33Bとは|国立情報学研究所の国産オープンLLM・Apache 2.0・gpt-oss-20b超えの日本語性能を解説【4.1対応・2026年11月】

公開日: 2026/08/20
更新日: 2026/11/12
LLM-jp-4 33Bとは|国立情報学研究所の国産オープンLLM・Apache 2.0・gpt-oss-20b超えの日本語性能を解説【4.1対応・2026年11月】

この記事のポイント

LLM-jp-4 33Bは国立情報学研究所が2026年8月に公開した約332億パラメータのDense型オープンLLMで、Apache 2.0で商用利用できます。公式ベンチマークの正しい読み方、9月公開の後継LLM-jp-4.1 33Bとの違い、必要メモリ、導入時の注意点をまとめました。

LLM-jp-4 33Bは、国立情報学研究所(NII)の大規模言語モデル研究開発センター(LLMC)が2026年8月18日に公開した、約332億パラメータのDense型オープンLLMです。Apache License 2.0で商用利用でき、公式評価では日本語MT-Benchが8.00で、gpt-oss-20b(7.33)とGPT-4o(7.29)を上回りました。

ただし「GPT-4o超え」と言えるのはMT-Benchの2指標だけです。また、2026年9月28日には後継のLLM-jp-4.1 33Bが公開され、ツール呼び出しへの対応や安全性スコアの改善が入りました。これから導入するなら原則は4.1、MT-Benchの高さを重視する場合や研究の再現が目的なら4(無印)、という選び方になります。

この記事でわかること

  • LLM-jp-4 33Bの基本スペック(332億パラメータ/64Kコンテキスト/11.7兆トークン学習)
  • 公開された base と thinking の役割の違い
  • 公式ベンチマーク全12行の数値と、「gpt-oss-20b超え」「GPT-4o超え」がどこまで言えるか
  • 後継のLLM-jp-4.1 33Bで何が変わったか、4と4.1のどちらを使うか
  • 33B Dense と 32B-A3B MoE の選び方
  • 必要メモリの目安と、運用コストの考え方
  • 導入前に知っておきたい実装上の注意点(ツール呼び出し/Harmony形式/GGUF)
  • こんな組織におすすめ/おすすめしない組織

想定読者

  • 日本語データを外部APIに出せない企業・自治体・医療/金融の情報システム担当
  • オンプレや自社クラウドでLLM推論基盤を作っているエンジニア
  • 国産オープンLLMを選定しているAI推進担当・PM
  • LLM-jpシリーズの世代やモデルの違いを正確に知りたい研究者

LLM-jp-4 33Bの基本情報

Hugging Faceで公開されているllm-jp-4-33b-thinkingのモデルページ

出典: Hugging Face llm-jp/llm-jp-4-33b-thinking

LLM-jp-4 33Bは、LLM-jp-4シリーズで初めて公開された大型のDenseモデルです。2026年4月に公開された8B(Dense)と32B-A3B(MoE)に続く3つ目のサイズで、推論時に全パラメータを使う構成で日本語性能を引き上げています。

モデルスペック

項目

内容

正式名称

LLM-jp-4 33B(llm-jp-4-33b-base / llm-jp-4-33b-thinking)

開発元

国立情報学研究所(NII)大規模言語モデル研究開発センター(LLMC)

公開日

2026年8月18日

ライセンス

Apache License 2.0(商用利用可)

アーキテクチャ種別

Dense型(推論時に全パラメータを使用)。Hugging Face上のタグは llama

総パラメータ

33,219,548,160(約332億)

非埋め込みパラメータ

32,212,915,200

埋め込みパラメータ

1,006,632,960

層数 / Hidden size / Heads

64層 / 5,120 / 40

コンテキスト長

65,536トークン(64K)

学習トークン数

合計約11.7兆トークン(事前学習+中間学習)

学習コーパス

事前学習: llm-jp-corpus-v4.1(ライセンス上の理由で一部は非公開)/中間学習: llm-jp-corpus-midtraining-v2

トークナイザ

Unigram byte-fallback方式(llm-jp-tokenizer v4.0 の語彙を変換)

チャットテンプレート

OpenAI Harmony形式と互換

提供形態

Hugging Faceでの重み配布(33B向けの公式な有料APIはなし)

後継モデル

LLM-jp-4.1 33B(2026年9月28日公開)

問い合わせ先

llm-jp(at)nii.ac.jp

出典: Hugging Face: llm-jp/llm-jp-4-33b-thinking モデルカード

パラメータ数が「32B」ではなく「33B」と表記されるのは、埋め込み層を含めた総パラメータが約332億になるためです。埋め込みを除くと約322億で、32B-A3B(総約321億)とほぼ同じ規模になります。

何が新しいのか

8Bや32B-A3Bとの違いは、モデルの設計に集中しています。

  1. Dense型:32B-A3BはMoE(Mixture of Experts)で、推論時に使うのは約38億パラメータです。33Bは約332億をすべて使います。速度より精度を取った設計です。
  2. 層が深い:32B-A3Bは32層ですが、33Bは64層です。Hidden sizeも5,120に広がっています。
  3. 学習トークンの総量はほぼ同じ:33Bは事前学習+中間学習で約11.7兆トークンです。4月公開の8B/32B-A3Bも事前学習約10.5兆+中間学習1.2兆で、総量は大きく変わっていません。スコアが上がったのは、Dense化と層の深さによるところが大きいとみられます。

シリーズ全体の設計方針や8B/32B-A3Bのスペックは、LLM-jp-4とは|国立情報学研究所の国産LLM解説にまとめています。

開発の背景

LLM-jpは、NIIを中心に2,600名以上(2026年3月31日時点)の研究者・技術者が参加する産学官の研究開発コミュニティです。資金は文部科学省の補助金事業「生成AIモデルの透明性・信頼性の確保に向けた研究開発拠点形成」です。4月公開のモデルでは産業技術総合研究所のABCI 3.0が計算資源に使われましたが、33Bの学習で同じ資源が使われたかどうかは8月18日の発表には書かれていません。

モデルの重みだけでなく、学習コーパスや学習データも可能な範囲で公開しているのが特徴です。海外モデルを名前だけ変えた「国産LLM」が問題になった例は楽天 Rakuten AI 3.0のDeepSeekリブランド問題で取り上げました。LLM-jp-4は、コーパスの設計から事前学習まで国内で行ったフルスクラッチのシリーズです。

公開された2つのモデル(base / thinking)の違い

Hugging Face上のLLM-jp公式組織ページ(base・thinking・GGUFが並ぶ)

出典: Hugging Face llm-jp 組織ページ

33Bで公開されたのは base と thinking の2種類です。思考を挟まずに応答する instruct 版は、33Bにはありません。

モデル

学習段階

主な用途

想定ユーザー

llm-jp-4-33b-base

事前学習+中間学習まで

追加学習(ファインチューニング)の土台

研究者・モデル開発者

llm-jp-4-33b-thinking

上記+SFT(教師ありファインチューニング)+DPO(直接選好最適化)

対話・文章生成・推論

そのまま推論に使う実務ユーザー

llm-jp-4-33b-thinking-gguf

thinkingの量子化版(BF16 66.4GB/Q4_K_M 20.2GB)

ローカル実行(llama.cpp/Ollama/LM Studio)

手元のGPUで試したい開発者

モデルカードには、thinking には強化学習(RL)を使っていないと明記されています。事後学習はSFTとDPOだけで、DPOに使ったデータ llm-jp/llm-jp-4-33b-thinking-dpo-data も同時に公開されました。学習手順を再現したい研究用途では、この公開範囲の広さが役に立ちます。

instruct がないと何が困るか

33Bを使う場合、思考を挟まない軽い応答は選べません。thinking はHarmony形式に沿って、思考の内容と最終回答を別のチャネルに出力します。

  • 思考トークンの分だけ、応答までの時間が長くなる
  • アプリ側で、思考と最終回答を分けて扱う処理が必要になる
  • 短い定型応答を大量に速く返す用途には向かない

この点は後継の4.1 33Bでも同じで、4.1も3サイズすべてがthinkingモデルです。短い応答を速く返したいなら、より小さいサイズや他のモデルも候補に入れて比べるのが現実的です。

公式ベンチマーク全数値と、その正確な読み方

LLM-jp-4 33Bを公開したLLM-jp(国立情報学研究所)の公式サイト

出典: LLM-jp 公式サイト(国立情報学研究所)

「gpt-oss-20bを4指標すべてで上回った」は事実です。一方、「GPT-4o超え」は指標によって結果が分かれます。まずは公式モデルカードの全数値を見てください。

公式ベンチマーク結果(全12行)

評価には公式の評価ツール llm-jp-judge が使われました。評価者モデルは gpt-5.4-2026-03-05、3回の推論の平均値です。

モデル

MT-Bench (JA)

MT-Bench (EN)

AnswerCarefully

llm-jp-instructions

gpt-4o-2024-08-06

7.29

7.69

4.00

4.07

gpt-5.4-2026-03-05 (low)

8.87

8.76

4.38

4.79

gpt-5.4-2026-03-05 (medium)

8.87

8.89

4.43

4.82

gpt-5.4-2026-03-05 (high)

8.98

8.85

4.41

4.83

gpt-oss-20b (low)

7.21

7.95

3.39

3.08

gpt-oss-20b (medium)

7.33

7.85

3.55

3.16

llm-jp-4-8b-thinking (low)

7.23

7.54

3.58

3.50

llm-jp-4-8b-thinking (medium)

7.54

7.79

3.69

3.54

llm-jp-4-32b-a3b-thinking (low)

7.57

7.70

3.61

3.61

llm-jp-4-32b-a3b-thinking (medium)

7.82

7.86

3.70

3.61

llm-jp-4-33b-thinking (low)

7.67

8.05

3.63

3.74

llm-jp-4-33b-thinking (medium)

8.00

8.24

3.79

3.79

出典: Hugging Face: llm-jp/llm-jp-4-33b-thinking(2026年11月12日に確認した値)

各指標の意味は次のとおりです。

  • MT-Bench (JA/EN):複数ターンの対話での応答品質。10点満点
  • AnswerCarefully:日本語の安全性評価(AnswerCarefully v2.0のテスト336問)。5点満点
  • llm-jp-instructions:日本語の指示への応答品質(テスト400問)。5点満点

「gpt-oss-20b超え」は4指標すべてで事実

33B thinking(medium)とgpt-oss-20b(medium)を比べると、4指標とも33Bが上です。

指標

LLM-jp-4 33B (medium)

gpt-oss-20b (medium)

差

MT-Bench (JA)

8.00

7.33

+0.67

MT-Bench (EN)

8.24

7.85

+0.39

AnswerCarefully

3.79

3.55

+0.24

llm-jp-instructions

3.79

3.16

+0.63

ただし、モデルの大きさと必要なメモリはまったく違います。gpt-oss-20bは総21B・アクティブ3.6BのMoEで、MXFP4量子化により16GBのメモリで動きます。33Bは約332億パラメータをすべて使うDense型です。ライセンス(Apache 2.0)とチャット形式(Harmony)は同じでも、使う計算資源は大きく異なる比較だと理解しておきましょう。

「GPT-4o超え」が成立するのは2指標だけ

指標

LLM-jp-4 33B (medium)

GPT-4o

判定

MT-Bench (JA)

8.00

7.29

上回る(+0.71)

MT-Bench (EN)

8.24

7.69

上回る(+0.55)

AnswerCarefully

3.79

4.00

下回る(-0.21)

llm-jp-instructions

3.79

4.07

下回る(-0.28)

対話の品質ではGPT-4oを上回るものの、安全性と指示への応答ではまだ届いていないのがLLM-jp-4 33Bの実際の結果です。AnswerCarefullyは有害な質問や扱いに注意が要る質問への応答を測る指標なので、一般利用者向けのサービスに組み込むかどうかの判断に直結します(後継の4.1 33Bでは、この安全性スコアがGPT-4oを上回りました)。

公式評価表のgpt-5.4は日本語MT-Benchが8.87〜8.98、llm-jp-instructionsが4.79〜4.83で、33B(8.00/3.79)とはまだはっきり差があります。商用の最新モデルの水準はGPT-5.4とはを参考にしてください。

評価者が変わったので、旧世代の数字とは比べられない

モデルカードには、llm-jp-3系は gpt-4o-2024-08-06 を評価者にしていたこと、新しい評価者のほうが厳しくMT-Benchなどのスコアが低めに出ることが注記されています。

  • llm-jp-3系で発表されたスコアと33Bのスコアを、同じ表に並べて比べない
  • 「llm-jp-3.1の数字のほうが高い=性能が落ちた」とは読まない
  • 33Bの数字は、同じ条件で測られたモデル(gpt-4o/gpt-5.4/gpt-oss-20b/8B/32B-A3B/4.1系)とだけ比べる

社内の稟議や比較資料にスコアを使うときは、評価者モデルと評価条件も一緒に書いておきましょう。

reasoning effortはlowとmediumの結果だけが公表

thinkingモデルは推論の量(reasoning effort)を切り替えられますが、4(無印)の公式評価表に載っているのはlowとmediumの2段階だけです。lowからmediumに上げると日本語MT-Benchは7.67から8.00に伸びるので、精度が必要な場面ではmediumを基準にするとよいでしょう。設定方法は公式のllm-jp-4-cookbookを確認してください。

後継のLLM-jp-4.1 33Bとの違い(2026年9月公開)

2026年9月28日に、後継のLLM-jp-4.1シリーズ(8B/32B-A3B/33B)が公開されました。4.1 33Bはアーキテクチャ・パラメータ数・コンテキスト長・学習トークン数(約11.7兆)が4の33Bと同じで、変わったのは事後学習(SFTとDPO)です。ライセンスは同じApache 2.0で、GGUF版も公開されています。

機能の違い

比較項目

LLM-jp-4 33B(2026年8月)

LLM-jp-4.1 33B(2026年9月)

ツール呼び出し(Function Calling)

非対応

対応(シリーズで初めて。並列呼び出しに合わせてチャットテンプレートを変更)

回答の長さ

長め

low/mediumで回答トークンが4の約半分

数学・科学(STEM)

比較の基準

swallow-evaluation-instructで、同じサイズの4より数学・科学・指示追従が向上

過去の推論内容の扱い

公式の記載なし

学習・推論とも、過去ターンの推論内容をコンテキストから外す

強化学習(RL)

不使用

不使用(次の4.2で導入予定)

公開形態

base/thinking/GGUF

thinking/GGUF、SFT・DPOデータも公開

モデルカードの注意書き

研究開発の初期段階

研究開発の初期段階で、本番サービスでの直接利用は意図していない

出典: LLMC「LLM-jp-4.1」公開のお知らせ/LLM-jp 技術ブログ/Hugging Face llm-jp/llm-jp-4.1-33b-thinking

ベンチマークの違い(llm-jp-judge・medium)

指標

LLM-jp-4 33B

LLM-jp-4.1 33B

gpt-oss-20b

GPT-4o

MT-Bench (JA)

8.00

7.76

7.33

7.29

MT-Bench (EN)

8.24

7.98

7.85

7.69

AnswerCarefully

3.79

4.08

3.55

4.00

llm-jp-instructions

3.79

3.83

3.16

4.07

評価者はどちらも同じgpt-5.4なので、4と4.1は直接比べられます。表から読み取れる変化は次のとおりです。

  • 4.1でも、gpt-oss-20bを4指標すべてで上回る
  • 4.1はAnswerCarefullyが4.08で、GPT-4o(4.00)を上回った。MT-Benchと合わせ、GPT-4o超えは3指標に増えた。llm-jp-instructions(3.83)はGPT-4o(4.07)に届いていない
  • MT-Benchは4.1のほうが低い。公式は、回答が短くなったことを理由の1つに挙げている

公式ブログには、ほかのベンチマークについての所見もあります(数値は図のみの公開なので、ここでは大小関係だけを書きます)。

  • swallow-evaluation-instructの平均では、4.1 33Bはgpt-oss-120bと同程度。Qwen3.8-27BやGemma-4-31B-itには届かず、コードは課題として残っている
  • 日本語のツール呼び出し評価(BFCL-nejumi)のマルチターンでは、33BがQwen3-32BやQwen3.5-9Bを上回った
  • 公式ブログの所見では、複雑なマルチターンのツール呼び出しで33Bは8B・32B-A3Bよりはっきり有利

同じくらいのサイズの海外モデルはQwen3.8-27BとはやGemma 4の使い方・性能比較で解説しています。

4と4.1、どちらを使うか

やりたいこと

おすすめ

理由

これから新しく導入する

4.1 33B

安全性と指示への応答が上がり、回答も短い

ツール呼び出し・エージェント的な使い方

4.1 33B

4はツール呼び出しに非対応

一般利用者向けの画面に出す(ガードレール付き)

4.1 33B

AnswerCarefullyがGPT-4o以上

長く詳しい回答・対話品質(MT-Bench)を重視

4 33B

MT-Benchは4のほうが高い

8月時点の結果の再現研究、追加学習の土台

4 33B(base/thinking)

baseと学習データがそろっている

すでに4の33Bを使っている場合も、同じ構成のまま4.1に差し替えて自社のタスクで比べるのが早道です。ただし4.1はチャットテンプレートが変わっているので、プロンプトを組み立てる処理は見直してください。

33B Dense と 32B-A3B MoE、どちらを選ぶべきか

同じ「約32〜33B」でも、2つは設計がまったく違います。精度を最優先するなら33B Dense、同じGPUで速度とコストを取るなら32B-A3B MoEです。

スペックとスコアの比較

比較ポイント

LLM-jp-4 8B

LLM-jp-4 32B-A3B

LLM-jp-4 33B

型

Dense

MoE

Dense

総パラメータ

約86億

約321億

約332億

推論時に使うパラメータ

約86億(全部)

約38億

約332億(全部)

層数 / Hidden / Heads

32 / 4,096 / 32

32 / 2,560 / 40

64 / 5,120 / 40

エキスパート

—

128(うち8を使用)

—

コンテキスト長

65,536

65,536

65,536

ベースのアーキテクチャ

Llama 2系

Qwen3 MoE系

HFタグ上はllama

日本語MT-Bench (medium)

7.54

7.82

8.00

英語MT-Bench (medium)

7.79

7.86

8.24

公開日

2026-04-03

2026-04-03

2026-08-18

後継(4.1)

あり

あり

あり

「+0.18点」のために、使うパラメータ8.7倍を払うか

33Bと32B-A3Bのスコア差は次のとおりです(いずれもmedium)。

指標

32B-A3B

33B

差

MT-Bench (JA)

7.82

8.00

+0.18

MT-Bench (EN)

7.86

8.24

+0.38

AnswerCarefully

3.70

3.79

+0.09

llm-jp-instructions

3.61

3.79

+0.18

その代わり、推論時に使うパラメータは約38億から約332億へ、およそ8.7倍に増えます。メモリ使用量、処理できる量、応答時間、GPU費用のどれもが大きく不利になります。

状況

おすすめ

理由

日本語の品質を最優先し、バッチ処理で待てる

33B Dense

4指標すべてで32B-A3Bを上回る

英語のタスクも扱う

33B Dense

英語MT-Benchの差が+0.38と大きい

同時アクセスが多いチャットサービス

32B-A3B MoE

使うパラメータが約38億で、処理量を確保しやすい

GPUの予算が限られ、台数を増やせない

32B-A3B MoE

同じGPUでより多くのリクエストを捌ける

複雑なマルチターンのツール呼び出し

4.1 33B

公式ブログの所見で33Bが有利

追加学習の土台にしたい

33B base

層が深く、表現力を出しやすい

MoEとDenseの違いは、Meta Llama 4 Scoutとは(17B active / 109B MoE)でも構造面から解説しています。

料金・必要GPUと運用コスト

モデルそのものは無料です。Apache License 2.0で配布されており、商用利用・改変・再配布にライセンス料はかかりません。33B向けの公式な有料APIもないため、実際にかかる費用はGPUの購入費かクラウドGPUの利用料、それに運用の手間です。

料金体系

項目

内容

モデルのダウンロード

無料(Hugging Face)

公式APIの利用料

33B向けの公式な有料APIはなし

研究者向けの試験提供

4.1公開にあわせ、東京大学のmdx-MaaSで実験的なAPIとチャットを試験提供(2026年10月中旬から段階的に募集。主に研究者向け。対象モデルや企業利用の可否は申込ページで要確認)

ライセンス費用

不要(Apache License 2.0)

商用利用

可(追加の契約は不要)

実際にかかる費用

GPUの購入費またはクラウドGPUの利用料、電気代、運用の人件費

mdx-MaaSの申込方法と規約はmaas.mdx1.jpに掲載されています。企業がすぐ使える従量課金のAPIではない点に注意してください。また、2026年11月12日時点でHugging FaceのInference Providers(推論サービス)にもデプロイされていません。

必要メモリの目安

公式は、推論に必要なGPUメモリの実測値を出していません。下の表は公式GGUFのファイルサイズから計算した目安で、公式の値ではありません。

実行形式

モデルファイルの大きさ

現実的なGPU構成

BF16(フル精度)

66.4GB(公式GGUF)

80GB級のGPU(H100 80GBなど)1枚でぎりぎり。長いコンテキストも使うなら2枚、または96GB級以上

8bit量子化

約33〜35GB(計算値)

48GB級のGPU

Q4_K_M(4bit量子化)

20.2GB(公式GGUF)

24GBのGPU(RTX 4090など)で重みは載る。長いコンテキストまで使うなら32GB以上のGPUかユニファイドメモリ

これに加えて、64Kのコンテキストを使うならKVキャッシュの分のメモリが別に必要です。長い文書を読ませるRAGを想定するなら、ファイルサイズより十数GB以上の余裕を見込んでおきましょう。推論速度(トークン/秒)の公式値もないため、速度は自社の環境で測って判断してください。

自前運用とAPI利用のコストの違い

運用パターン

費用の特徴

合うケース

自社のオンプレGPU

初期投資は重いが、稼働率を上げるほど1件あたりが安くなる

大量・長期の運用、機密データを社外に出せない業種

クラウドGPU(時間課金)

使った分だけ払う。稼働率が低いと割高

PoC、繁閑の差がある業務、規模が読めない段階

商用API(GPTなど)

トークン量に応じて課金。インフラの運用は不要

小規模の利用、すぐ試したい場合

API料金がかからなくても、GPUの費用はかかります。小規模の利用なら、商用APIのほうが安く済むことも珍しくありません。国内のソブリンクラウドを検討する場合は、SoftBank「Cloud PF Type A」やデジタル庁の国産AIの事例も参考になります。

使い方と対応実行環境

LLM-jp-4の公式サンプルコード集llm-jp-4-cookbookのGitHubリポジトリ

出典: GitHub llm-jp/llm-jp-4-cookbook

モデルカードで案内されている実行方法は次のとおりです。どれも自前でGPU環境を用意する前提で、一般向けにブラウザからすぐ試せる公式チャットはありません。

実行方法

概要

Transformers

pip install -U transformers accelerate のあと、AutoModelForCausalLM と apply_chat_template で読み込む

vLLM

vllm serve "llm-jp/llm-jp-4-33b-thinking"(OpenAI互換API。標準はポート8000)

SGLang

python3 -m sglang.launch_server --model-path "llm-jp/llm-jp-4-33b-thinking" --port 30000(Dockerでも可)

Docker Model Runner

docker model run hf.co/llm-jp/llm-jp-4-33b-thinking

llama.cpp/Ollama/LM Studio

公式GGUFリポジトリ(BF16/Q4_K_M)を使い、リポジトリの手順に従う

サンプルコードは公式のllm-jp/llm-jp-4-cookbook(GitHub)にまとまっています。まず手元で挙動を見たいなら、Q4_K_Mの量子化版をOllamaなどで動かすのが手軽です。Ollamaの基本はOllamaとは|ローカルLLM実行ツールの使い方で解説しています。

社内システムから呼び出すなら、OpenAI互換のエンドポイントを立てられるvLLMかSGLangが標準的な選択です。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)

導入前に押さえておきたい実装上の注意点

ニュースではあまり触れられませんが、動かし始めてから気づくと手戻りになる点がいくつかあります。検証を始める前に確認しておきましょう。

① LLM-jp-4 33Bはツール呼び出しに非対応

LLM-jpシリーズでツール呼び出しに初めて対応したのは4.1です。4(無印)の33Bに外部APIの呼び出しや検索を組み合わせるエージェント的な使い方をさせたいなら、最初から4.1 33Bを選んでください。

② 思考の内容と最終回答を分けて受け取る

thinkingモデルは、Harmony形式で思考の内容と最終回答を別のチャネルに出力します。サーバー側やアプリ側で分けて扱わないと、思考の内容が回答に混ざります。JSONなどの決まった形式で出力させるタスクでは、これだけで出力が使えなくなります。32B-A3Bでは、vLLMでreasoningパーサーを指定しないと混ざるというQiitaの検証報告があり、同じHarmony形式の33Bでも同じ点に注意が必要です。

③ GGUFは自分で変換せず、公式版を使う

LLM-jp-4のトークナイザは、一般的なBPEではなくUnigram byte-fallback方式です。32B-A3Bでは、変換ツールが既存のアーキテクチャとして自動判定することで、変換後に異常な出力が出る例が報告されています。

  • 自分でGGUFに変換しない
  • 公式のGGUFリポジトリを使う(BF16 66.4GB/Q4_K_M 20.2GB)
  • コミュニティが作った量子化版(NVFP4など)は公式ではないので、配布元を確認してから使う

④ openai-harmony ライブラリではトークナイズできない

チャットの形式はHarmonyと互換ですが、トークナイザが違うため、openai-harmony ライブラリで直接トークナイズすることはできません。モデルに付いているトークナイザを使ってください。gpt-ossから乗り換える場合は特に注意が必要です。

⑤ 思考なしの即答モードはない

33Bで公開されているのは base と thinking(とGGUF)だけです。「思考せずにすぐ答える」前提で作ったアプリに、33Bをそのまま差し込むことはできません。

制約・セキュリティ上の注意点

公式が書いている限界

Hugging Faceのモデルカードには、Risks and Limitationsとして次の趣旨が書かれています。

ここで公開しているモデルは研究開発の初期段階のものであり、出力が人間の意図や安全性への配慮に沿うよう十分に調整されていない。

後継の4.1のモデルカードには、さらに本番サービスで直接使うことは意図していないとあります。出力をそのまま一般利用者に見せる設計は避け、入力のチェック・出力のフィルタ・人の確認を前提に組み込みましょう。4の33BはAnswerCarefullyが3.79で、GPT-4o(4.00)を下回る点も判断材料になります。

そのほかの制約

制約

内容

すぐ使えるAPIがない

企業向けの公式ホスティングはない。研究者向けのmdx-MaaS試験提供のみ

ツール呼び出しに非対応

4.1 33Bで対応

テキストのみ

画像・音声の入力には対応していない

コンテキストは64K

PLaMo 3.0 Primeの256Kなどより短い

強化学習を使っていない

事後学習はSFT+DPOのみ

完全な再現学習はできない

学習コーパスの一部はライセンス上の理由で非公開

商用サポートがない

研究開発プロジェクトのため、SLAや24時間のサポート窓口はない

セキュリティ面のメリットとリスク

メリットは、モデルの重みを手元や自社のクラウドで動かせるので、入力データを外部のAPIに送らない構成を取れることです。個人情報・診療情報・金融取引データなど、外部への送信が制限される領域では大きな利点です。ただし、これは置き場所によるもので、ライセンスが保証しているわけではありません。

リスクは、その裏返しで、セキュリティの責任をすべて自社で負うことです。

  • 推論サーバーの認証と権限の設計
  • プロンプトインジェクションへの対策
  • 推論ログの保管とアクセス管理
  • モデルファイルの改ざんの検知(配布元の確認を含む)

システムプロンプトに認証情報を書かない、外部からの入力をそのままプロンプトにつながない、といった基本の対策も欠かせません。生成AI全般のセキュリティは生成AIのセキュリティリスクと対策にまとめています。オンプレ・VPC・外部APIのどの構成で社内に入れるかは、生成AIのセキュリティ要件と社内導入の構成で比べています。

社内の業務システムやRAGに組み込む場合は、GPU基盤の構築に加えて、ガードレールやログ管理、既存システムとの連携の開発も必要になります。方法ごとの費用の目安はAI開発の費用相場で、PoCから本開発までの内訳とあわせて整理しています。

Apache 2.0で商用利用するときの確認点

Apache License 2.0は自由度の高いライセンスですが、条件がまったくないわけではありません。一般的には次の点を確認します(法的な判断は自社の法務部門に確認してください)。

  1. ライセンスの表示:モデルや派生物を配布するときは、Apache 2.0のライセンス文とNOTICEを付ける
  2. 変更の明示:改変・ファインチューニングしたものを配布するときは、変更したことを示す
  3. 無保証:出力によって生じた損害を、モデルの提供者は保証しない
  4. 学習データは別に確認:モデルの重みはApache 2.0でも、コーパスを独自に使うときは個別のライセンスを確認する

社内で使うだけなら追加の制約は少なく、外部にモデルを配布したりOEM提供したりする場合にこれらの義務がかかります。

他の国産LLM・オープンモデルの中での位置づけ

LLM-jp-4 33Bは、研究開発コミュニティによる開発・学習データまで含めた公開・Apache 2.0の3つを満たす国産の大型LLMで、他の国産モデルとは立ち位置が違います。

モデル

開発元

提供形態

特徴

LLM-jp-4 33B/4.1 33B

NII/LLMC

Apache 2.0・重み配布

学習データと手順の公開範囲が広い。4.1はツール呼び出しに対応

PLaMo 3.0 Prime

Preferred Networks

商用提供

フルスクラッチの国産LLM。256Kコンテキスト

Sarashina3

SB Intuitions

商用利用可のライセンス

日本語特化。SoftBank系の基盤と連携

ELYZA Thinking

ELYZA

重み配布

日本語の推論モデル

gpt-oss-20b

OpenAI

Apache 2.0・重み配布

21B MoE(アクティブ3.6B)。16GBのメモリで動作

Qwen3.8-27B

Alibaba

Apache 2.0・重み配布

同じくらいのサイズの海外オープンモデル

国産LLM全体の比較は国産LLM 7選 徹底比較にまとめています。個別にはPLaMo 3.0 Primeとは、Sarashina3とは、ELYZA Thinkingとはも参考にしてください。

LLM-jp-4 33Bが選ばれる理由は、学習の中身・ライセンス・開発の継続性にあります。

  1. 学習の中身を説明しやすい:学習コーパス(llm-jp-corpus-v4.1、llm-jp-corpus-midtraining-v2)やDPOデータが可能な範囲で公開されており、監査が必要な組織でも説明しやすい
  2. ライセンスがわかりやすい:Apache 2.0で追加の契約が要らず、ファインチューニングした派生モデルの扱いも明確
  3. 続きが出ている:4.1が公開され、4.2や332B-A31Bの開発も公式に案内されている

Apache 2.0の大型オープンモデルは海外でも増えており、Arcee AI Trinity Large(400B・Apache 2.0)のような例もあります。オープンウェイトをめぐる各社の考え方はAnthropicのオープンウェイトモデルに対する立場も参考になります。

今後のロードマップ

LLM-jp-4 33Bを開発した国立情報学研究所(NII)の公式サイト

出典: 国立情報学研究所 公式サイト

2026年11月12日時点で公式に示されている今後の予定は、332B-A31Bと4.2の2つです。どちらも公開日は決まっていません。

予定されているモデル

公式の案内

状態(2026年11月12日時点)

LLM-jp-4 332B-A31B(MoE)

2026年4月のNII発表で「2026年度中に順次公開予定」

未公開

LLM-jp-4.2

2026年9月の4.1公開時に開発中と発表。学習データを増やし、強化学習を導入してオープンに公開する予定

未公開

4月の発表で予告されていた「LLM-jp-4 32Bモデル」には、8月の33B Denseがあたるとみられますが、公式に同じものだとは明言されていません。332B-A31B(総3,320億・アクティブ約310億のMoE)が公開されれば、国産オープンLLMとして最大級の規模になります。

LLM-jpシリーズの主な出来事

日付

内容

2026.11.05

第2回オープン大規模言語モデルシンポジウム開催(資料は11月9日から順次公開)

2026.09.28

LLM-jp-4.1(8B/32B-A3B/33B)公開。mdx-MaaSでの研究者向け試験提供を発表

2026.08.18

LLM-jp-4 33B(base/thinking)公開、DPOデータも公開

2026.07.23

llm-jp-judge v2.0.0 公開

2026.06.24

LLM-jp-4 Thinkingモデルの量子化版(GGUF)公開

2026.04.03

LLM-jp-4 8B/32B-A3B 公開。32B・332B-A31Bの開発を発表

最新の情報はLLMC公式サイトとLLM-jp公式ニュースで確認してください。

こんな組織・用途におすすめ/おすすめしない

導入するかどうかは、「日本語の品質にどれだけこだわるか」と「GPU基盤を持てるか」でほぼ決まります。

おすすめの組織・用途

ケース

理由

日本語データを外部APIに出せない企業・自治体・医療/金融

閉じた環境で推論でき、データを社外に送らずに済む

すでにオンプレやVPC内にGPU推論基盤がある組織

ライセンス費用なしで日本語の性能を上げられる

日本語の領域で追加学習したい研究者・開発者

base が公開され、学習データの一部も確認できる

Apache 2.0で改変・再配布したいベンダー

追加の契約が要らず、派生モデルを商用提供しやすい

バッチ処理が中心で精度を優先したいチーム

4指標すべてで32B-A3Bを上回る。応答時間の制約が緩ければ有力

エージェント的な使い方も試したいチーム

後継の4.1 33Bならツール呼び出しに対応

おすすめしない組織・用途

ケース

理由

すぐ使えるチャットやAPIが欲しい企業

企業向けの公式ホスティングはなく、環境構築が必要

GPUを用意できない

BF16で66.4GB、量子化版でも20.2GB。相応のGPUが前提

最先端モデル並みの精度が必要な業務

gpt-5.4(日本語MT-Bench 8.87〜8.98)とは差が大きい

画像や音声を扱いたい

テキストのみ対応

256K級の長文を一度に読ませたい

コンテキストは64K

安全性の調整が済んだ完成品が欲しい

公式が研究開発段階と明記。ガードレールの実装が別に必要

短い応答を大量に速く返したい

thinkingモデルのみで、思考の分だけ遅くなる

企業向けのSLAや24時間サポートが必須

研究開発プロジェクトのため商用サポートはない

迷ったら、まず4.1 33BのQ4_K_M量子化版を手元で動かし、自社のタスクで日本語の品質を確かめてから本番の構成を決めるのが現実的です。「精度は足りるが速度が足りない」なら32B-A3B、「精度が足りない」なら商用APIとの併用を検討する、という順番で進めましょう。

関連記事

よくある質問(FAQ)

Q1. LLM-jp-4 33Bは商用サービスに組み込めますか?

Apache License 2.0なので、ライセンス上は商用利用・改変・再配布ができます。ただし、公式は研究開発の初期段階のモデルだと明記しており、4.1のモデルカードには本番サービスでの直接利用は意図していないとあります。出力のフィルタや人の確認を組み込んだうえで使ってください。配布する場合は、ライセンスの表示と変更の明示も必要です。

Q2. 「GPT-4oを超えた」と報じられましたが、GPT-4oより全面的に上ですか?

いいえ。4の33Bが上回ったのはMT-Bench(日本語8.00対7.29、英語8.24対7.69)の2指標だけです。安全性のAnswerCarefully(3.79対4.00)と指示への応答のllm-jp-instructions(3.79対4.07)は下回っています。後継の4.1 33BはAnswerCarefullyでもGPT-4oを上回りましたが(4.08)、llm-jp-instructionsはまだ下回っています。

Q3. LLM-jp-4 33Bと4.1 33B、どちらをダウンロードすべきですか?

新しく導入するなら4.1 33Bがおすすめです。安全性のスコアが上がり、回答が短くなり、ツール呼び出しにも対応しています。MT-Benchの数値は4のほうが高いので、長く詳しい回答を重視する場合や、8月時点の結果を再現したい研究では4を選ぶ理由があります。モデルの大きさは同じなので、必要なGPUは変わりません。

Q4. なぜLLM-jp-3のときより数字が低く見えるのですか?

評価者のモデルが変わったからです。llm-jp-3系はgpt-4o-2024-08-06が評価していましたが、今回はgpt-5.4-2026-03-05が評価しています。公式は新しい評価者のほうが厳しく、スコアが低めに出ると注記しているので、世代をまたいでスコアを比べることはできません。

Q5. 32B-A3Bを使っています。33Bに乗り換えるべきですか?

用途によります。バッチ処理が中心で、日本語や英語の品質を上げたいなら乗り換える価値があります(日本語+0.18、英語+0.38)。同時アクセスが多いチャットサービスでは、推論時に使うパラメータが約38億から約332億に増えるため、GPUを増やさない限り処理できる量が落ちます。両方を自社のタスクで試してから決めてください。

Q6. 24GBのGPU(RTX 4090など)1枚で動きますか?

公式のQ4_K_M量子化版はファイルが20.2GBなので、重みは載りますが、64Kのコンテキストをすべて使うのはKVキャッシュの分で厳しいと考えておきましょう。短めのコンテキストでの検証なら現実的です。余裕を持って動かすなら32GB以上が目安です(ファイルサイズからの計算で、公式の実測値ではありません)。

Q7. 企業がAPIで使える公式サービスはありますか?

2026年11月時点で、企業がすぐ契約して使える公式の従量課金APIはありません。4.1公開にあわせて東京大学のmdx-MaaSで実験的なAPIとチャットの試験提供が始まりましたが、主に研究者向けです。業務で使うなら、自社のGPUやクラウドGPUにvLLMなどで立てるのが基本になります。

Q8. 332B-A31Bの大型MoEモデルや4.2はいつ出ますか?

2026年11月12日時点では、どちらも未公開です。332B-A31Bは2026年4月の発表で「2026年度中に順次公開予定」とされ、4.2は強化学習を導入した次のモデルとして開発中と案内されていますが、日付は出ていません。LLMC公式サイトで最新情報を確認してください。

Q9. base と thinking のどちらを使えばいいですか?

そのまま推論に使うなら thinking、自社データで追加学習する土台にするなら base です。base は事前学習と中間学習までのモデルで、指示に沿った応答は得意ではありません。まず品質を確かめたい段階なら、thinking(または4.1)のGGUF量子化版が手軽です。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

この記事の著者

AI革命

AI革命

編集部

AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。

AI・システム開発は、開始価格を公開しています

既存システムの改修 100万円〜・PoC 300万円〜(税別)。相談内容を送っていただくと、2営業日以内に担当者からご返信します