AIツール2026年10月更新

Gemma 4 12Bとは?Google製ノートPC対応マルチモーダルAI・16GB VRAM動作・性能比較・使い方を解説【2026年10月】

公開日: 2026/06/17
更新日: 2026/10/25
Gemma 4 12Bとは?Google製ノートPC対応マルチモーダルAI・16GB VRAM動作・性能比較・使い方を解説【2026年10月】

この記事のポイント

Gemma 4 12Bは、Googleが2026年6月に公開したApache 2.0のマルチモーダルLLMです。4ビット量子化なら16GBのGPUやMacで動きます。必要メモリ、公式ベンチマーク、日本語の実測、Qwen3.8-27Bとの比較、Ollamaなどでの使い方、注意点を2026年10月時点の情報で整理しました。

Gemma 4 12Bは、Google DeepMindが2026年6月3日に公開したオープンウェイトのマルチモーダルLLMです。テキスト・画像・音声・動画を1つのモデルで扱えて、4ビット量子化版ならVRAM 16GBのGPUや16GBのMacでローカル実行できます。 ライセンスはApache 2.0で、商用利用・改変・再配布ができます。

この記事でわかることは次のとおりです。

  • Gemma 4 12Bの基本情報と、Gemma 4の5サイズの中での位置づけ
  • 「16GBで動く」の条件(量子化の形式・必要メモリ・自分のPCで動くかの目安)
  • 公式ベンチマークと、日本語での実測値
  • Qwen3.8-27B・Meta Muse Glimmerなど2026年10月時点のオープンモデルとの比較
  • Ollama・LM Studio・LiteRT-LM・Transformersでの使い方と、ツールごとに使える入力の違い
  • できないこと、ローカル実行でも残るセキュリティリスク

ローカルLLMを個人で試したい人、機密データを外に出さずにAIを使いたい企業の担当者、音声や画像を扱うローカルエージェントを作りたい開発者に向けた記事です。

Gemma 4 12Bとは

Gemma 4の公式バナー画像

出典: Google AI for Developers - Gemma

Gemma 4 12Bは、約120億パラメータのデコーダのみのトランスフォーマーに、画像と音声を直接取り込む仕組みを組み込んだモデルです。画像用・音声用の専用エンコーダを持たない「エンコーダフリー」の構造で、公式はノートPCでのローカル実行を想定しています。Gemmaの中型モデルとして初めて、音声をそのまま入力できるようになりました。

重みはHugging FaceとKaggleで無料公開されています。Gemma 4からは独自の利用規約をやめてApache 2.0に移っており、商用製品への組み込みも追加の申請なしでできます。

基本情報

項目

内容

正式名称

Gemma 4 12B(リリースノート上は「Gemma 4 12B Unified」)

モデルID

google/gemma-4-12B-it(指示調整版)。事前学習版もあり

開発元

Google DeepMind

リリース日

2026年6月3日

パラメータ数

11.95B(約120億)・48層

構造

エンコーダフリーのDense(全パラメータが毎回動く)デコーダ

コンテキスト長

256Kトークン

入力

テキスト・画像・音声(最大30秒)・動画(最大60秒)

出力

テキストのみ

対応言語

35以上の言語にそのまま対応(事前学習は140以上の言語)

ライセンス

Apache 2.0

ダウンロード数

直近1か月で約172万件(2026年10月26日時点のHugging Face表示)

公式ブログによると、12B公開時点でGemma 4は累計1.5億ダウンロードを超えていました。2026年8月には、Gemmaシリーズ全体で累計10億ダウンロードを超えたと報じられています。6月3日のあと、12B本体の新しい版は出ていません(2026年10月時点)。

Gemma 4全体の特徴はGemma 4とは|Google製オープンウェイトLLMで解説しています。

Gemma 4ファミリー内での位置づけ

12Bは、エッジ向けのE4Bと、サーバー向けの26B A4B・31Bの間にあるモデルです。 5サイズのうち、音声を入力できるのはE2B・E4B・12Bの3つだけで、256Kの長いコンテキストと音声入力を両方持つのは12Bだけです。

モデル

種類

入力

コンテキスト

主な用途

E2B

実効2B

テキスト・画像・動画・音声

128K

スマートフォン・ブラウザ・組み込み

E4B

実効4B

テキスト・画像・動画・音声

128K

スマートフォン・軽量なPC

12B

12B Dense・エンコーダフリー

テキスト・画像・動画・音声

256K

ノートPCでのマルチモーダル処理

26B A4B

MoE(1トークンあたり約4Bが動く)

テキスト・画像・動画

256K

高性能なワークステーション・サーバー

31B

Dense

テキスト・画像・動画

256K

最高品質を求めるサーバー用途

26B A4Bは1トークンあたりの計算量こそ約4B分ですが、26B分の重みをすべてメモリに載せる必要があります。そのため、4ビット量子化でも重みだけで14.4GBになり、16GB環境では余裕がありません。12Bは計算量では26B A4Bより重いものの、必要メモリが半分ほどで済むのが実用上の違いです。

リリースの流れは、2026年3月31日にE2B・E4B・26B A4B・31B、4月16日にそれらの高速化用ドラフター(MTP)、6月3日に12Bの順です。10月6日には埋め込みモデルのEmbeddingGemma 2も出ています。

Gemma 4 12Bでできること

マルチモーダル処理(テキスト・画像・音声・動画)

1つのモデルで4種類の入力を受け取り、テキストで答えます。 入力の種類ごとに別のモデルを用意しなくて済むのが利点です。

入力

仕様(モデルカード)

主な使い道

テキスト

256Kトークン

文書の要約・質疑応答・翻訳・コード生成

画像

アスペクト比・解像度は可変。1枚あたりのトークン枠は70/140/280/560/1120から選ぶ

書類の読み取り・図表の説明・画面の理解

音声

最大30秒・16kHz

短い音声の文字起こし・話者の区別・内容の要約

動画

最大60秒(1秒1フレームで取り出す前提)

短い動画の内容説明・シーンの把握

公式のデモでは、5分の動画を1秒1フレーム(313フレーム)・音声付きで処理しています。ただしこれは画像トークンを最小の70に絞った特別な設定で、モデルカードの通常の上限(動画60秒・音声30秒)とは分けて考えてください。

プロンプトでは、画像はテキストの前、音声はテキストの後に置くことが推奨されています。

推論・エージェント機能

  • 思考モード: システムプロンプトの先頭に <|think|> を入れるとオン、外すとオフになります。オフでも12Bは空の思考ブロックを出力します
  • 関数呼び出し(ツール呼び出し): 外部ツールを呼ぶエージェントを組めます。複数ターンの会話では、ツール呼び出しのターン以外は過去の思考を履歴から外すよう案内されています
  • MTP(マルチトークン予測)ドラフター: 12B専用の下書きモデルが同時に公開されました。次の数トークンを先に予想させて、生成を速くします
  • Gemma Skills: Gemmaでエージェントを作るためのスキル集がGitHubで公開されています

公式のエージェント系ベンチマーク(Tau2の3領域平均)では、12Bが69.0%で、26B A4Bの68.2%をわずかに上回っています(Googleの公表値)。

主な活用領域

  • 会議の短い音声や議事録から要点とタスクを抜き出す(ローカルで完結)
  • 契約書・社内文書など、外に出せない資料の要約や検索
  • 画像やPDFの画面を読み取って質問に答えるローカルエージェント
  • コード生成・レビュー(ローカルで動くコーディング支援)
  • 多言語の翻訳・ローカライズ
  • LoRAなどによる自社データでの微調整(Unslothの手順が公式に案内されています)

Encoder-freeアーキテクチャとは

12Bは、画像と音声を「専用エンコーダを通さずに」LLM本体へ直接入れる構造です。 公式はこれによって、エンコーダを別に持つ構造より遅延とメモリ使用量が小さくなると説明しています。

従来型との比較

項目

他のGemma 4(エンコーダあり)

Gemma 4 12B

画像の取り込み

27層・約5.5億パラメータの画像エンコーダ(ViT)

約3,500万パラメータの埋め込み部(行列演算1回)

音声の取り込み

E2B・E4Bは12層・約3億パラメータの音声エンコーダ

専用エンコーダなし。生の音声をLLMの入力空間へ直接写す

本体

―

31B Denseと同じ構造のデコーダ1本

微調整

エンコーダとLLMを分けて考える必要がある

重みを共有しているので、マルチモーダル全体を一度に更新できる

画像の処理: 画像を48×48ピクセルのパッチに分け、1回の行列演算でLLMの隠れ次元に写します。位置はX・Y座標の参照表で与えます。

音声の処理: 16kHzの音声を40ms(640個の値)ごとに区切り、それぞれをLLMの入力空間へ線形に写します。

テキスト・画像・音声で重みを共有しているため、LoRAや全体の微調整をすると、画像や音声の扱いも含めて一度に更新されます。

必要なハードウェア・VRAM要件

「16GBで動く」は4ビット量子化(Q4_0やQAT版)を使った場合の話です。 BF16のままだと重みだけで26.7GBが必要で、16GBには載りません。8ビットも重みだけで13.4GBあり、会話の履歴を保持するKVキャッシュが上乗せされるので16GBでは余裕がありません。

フォーマット別VRAM要件

公式の必要メモリは次のとおりです。重みの読み込みに20%の余裕を見た値で、KVキャッシュや周辺ソフトの分は含みません。

形式

Gemma 4 12B

参考: 26B A4B

参考: 31B

BF16(量子化なし)

26.7GB

57.7GB

69.9GB

8ビット(SFP8)

13.4GB

28.8GB

34.9GB

Q4_0(4ビット)

6.7GB

14.4GB

17.5GB

コンテキストを長くするほどKVキャッシュでメモリが増えます。256Kのコンテキストをいっぱいに使う前提なら、16GBでは足りなくなる場合があります。

自分のPCで動くかの目安

公式の必要メモリとOllamaのファイルサイズから見た目安です。実際の速さは機種・ツール・コンテキスト長で変わります。

手元の環境

おすすめの形式

目安

GPUのVRAM 8GB

12Bは厳しい。E4B(Q4_0で約4.5GB)を推奨

12BのQ4(約7〜8GB)は重みだけでほぼ埋まり、一部をCPUに回すと遅くなる

GPUのVRAM 12GB

12BのQAT版(約7.2GB)

短めのコンテキストなら動く

GPUのVRAM 16GB/Macのユニファイドメモリ16GB

12BのQAT版(約7.2GB)

公式が想定する環境。M4(16GB)で毎秒約15トークンという計測例あり

VRAM 24GB以上/Mac 32GB以上

8ビット(約13GB)

精度を上げたい場合。長いコンテキストも余裕が出る

VRAM 32GB以上/Mac 48GB以上

BF16(約25〜27GB)

微調整の検証など、量子化しない精度が必要な場合

GPUなし(CPUのみ・メモリ16GB)

Q4

起動はできても応答がとても遅く、日常の利用には向かない

Macの速度はomlx.aiに投稿されたコミュニティの計測値(M4・16GBで文脈1Kのとき毎秒約14.7トークン、M5 Max・64GBで約36.9トークン)で、あくまで目安です。

16GB対応の代表的なハードウェア

  • Mac(Appleシリコン): ユニファイドメモリ16GB以上のMacBook Air・MacBook Pro。メモリはOSや他のアプリと共有するので、重い作業と同時に使うとメモリに余裕がなくなります
  • Windows・Linux(NVIDIA GPU): VRAM 16GBのGPU(デスクトップのRTX 4060 Ti 16GB版・RTX 4070 Ti SUPER・RTX 4080、ノートのRTX 4090 Laptop GPUなど)
  • Copilot+ PCなどのNPU: 12BをNPUで速く動かせるかは、現時点で公式情報がありません

Windowsのノートでは「システムメモリ16GB」と「GPUのVRAM 16GB」は別のものです。公式の想定は後者(またはMacのユニファイドメモリ)なので、購入前に確認してください。大きいモデルまで手元で動かしたい場合は、NVIDIA RTX Sparkのような大容量メモリの機種も選択肢になります。

QAT版とは(省メモリ実行の決め手)

QAT(Quantization-Aware Training)は、量子化することを前提に学習させる手法です。 学習が終わってから量子化する通常のQ4より、精度の落ち方が小さくなります。Googleは「4ビットで使うなら、同じサイズの一般的なQ4よりQAT版を選ぶ」よう案内しています。

12BのQAT版は、本体の公開直後にGoogleの公式リポジトリから出ています(正確な公開日は公式資料で確認できませんでした)。

形式

Hugging FaceのID

使うツール

GGUF Q4_0

google/gemma-4-12B-it-qat-q4_0-gguf

llama.cpp・LM Studio・Ollama

Compressed-tensors W4A16

google/gemma-4-12B-it-qat-w4a16-ct

vLLM・SGLang

量子化前のQAT重み

google/gemma-4-12B-it-qat-q4_0-unquantized

MLXへの変換・投機的デコード

Ollamaでは gemma4:12b-it-qat(7.2GB)として配布されています。

MTPドラフターで速くする(投機的デコード)場合は、ドラフター側も同じ精度のQAT版(-qat-q4_0-unquantized-assistant)にそろえる必要があります。

性能・ベンチマーク

Google DeepMindによるGemma 4の紹介ビジュアル

出典: Google DeepMind - Gemma 4

12Bの公式スコアは26B A4B・31Bより下ですが、前世代のGemma 3 27Bと比べると、すべての項目で上回っています。 エージェント系のTau2だけは、26B A4Bをわずかに上回りました。

Gemma 4 12B・26B A4B・31Bの公式ベンチマーク比較

Hugging Faceのモデルカードに載っている、指示調整版の公式値です(Googleの公表値)。

ベンチマーク

31B

26B A4B

12B

E4B

Gemma 3 27B

MMLU Pro(幅広い知識)

85.2%

82.6%

77.2%

69.4%

67.6%

GPQA Diamond(科学の専門問題)

84.3%

82.3%

78.8%

58.6%

42.4%

AIME 2026(数学・ツールなし)

89.2%

88.3%

77.5%

42.5%

20.8%

LiveCodeBench v6(コーディング)

80.0%

77.1%

72.0%

52.0%

29.1%

Codeforces ELO

2150

1718

1659

940

110

Tau2(エージェント・3領域平均)

76.9%

68.2%

69.0%

42.2%

16.2%

MMMLU(多言語)

88.4%

86.3%

83.4%

76.6%

70.7%

MMMU Pro(画像を含む推論)

76.9%

73.8%

69.1%

52.6%

49.7%

MATH-Vision(図を含む数学)

85.6%

82.4%

79.7%

59.5%

46.0%

OmniDocBench 1.5(文書の読み取り。低いほど良い)

0.131

0.149

0.164

0.181

0.365

MRCR v2 8-needle 128k(長文から情報を探す)

66.4%

44.1%

43.4%

25.4%

13.5%

BigBench Extra Hard

74.4%

64.8%

53.0%

33.1%

19.3%

26B A4Bとの差は、項目によって大きく違います。

  • 知識・数学・コーディングでは、26B A4Bより3〜11ポイントほど低い(差が最も大きいのは数学のAIME)
  • 長文から情報を探す力(MRCR)とエージェント系(Tau2)は、26B A4Bとほぼ同じ
  • E4Bとの差は大きく、特に数学(AIME)とコーディングでは12Bを選ぶ意味がある

日本語での実測

公式は日本語単体のスコアを出していないため、クラスメソッドのDevelopersIOによる実測(2026年6月5日、DGX Spark上で測定)を紹介します。

測定

E2B

E4B

12B

31B

JCommonsenseQA(日本語の常識問題・1,116問)正答率

87.7%

94.1%

94.6%

97.7%

1問あたりの時間(中央値)

0.08秒

0.15秒

0.32秒

4.84秒

  • 日本語のテキスト常識問題では、12BとE4Bの差はほとんどありません
  • 日本語の画像理解(JMMMU・300問)は45.7%。コンピュータ科学や心理学は得意な一方、機械工学・建築など図面系の問題は正答できませんでした
  • 日本語の文字起こし(FLEURS 100件)の文字誤り率は中央値16.1%で、Whisperなどの専用の音声認識には及ばないという評価です
  • 生成速度は、MTPを使うと毎秒7.7トークンから21.5トークン(約2.8倍)に上がりました

この検証の結論は「日本語のテキストだけならE4Bで足りる。テキスト・画像・音声をまとめて扱うなら12B。精度を最優先するなら31Bか26B A4B」というものです。

競合ローカルLLMとの比較

2026年10月時点で、16GB前後の環境で候補になるオープンモデルと比べます。

比較項目

Gemma 4 12B

Qwen3.8-27B

Meta Muse Glimmer

Gemma 4 26B A4B

Gemma 4 E4B

開発元

Google

Alibaba

Meta

Google

Google

公開

2026年6月3日

2026年8月14日

2026年8月10日

2026年3月31日

2026年3月31日

規模

12B Dense

27B Dense

30B Dense

MoE 26B(稼働約4B)

実効4B

ライセンス

Apache 2.0

Apache 2.0(報道)

Apache 2.0(報道)

Apache 2.0

Apache 2.0

16GBでの実用

◎(Q4で約7〜8GB)

△(Q4_K_Mで約16.5GB。快適には20〜24GB)

×(4ビットで24〜32GB級と報道)

△(Q4_0で14.4GB+KVキャッシュ)

◎(Q4_0で約4.5GB)

音声入力

あり

未確認(テキスト・画像・動画と報道)

未確認

なし

あり

コンテキスト

256K

―

―

256K

128K

向いている使い方

16GBで音声・画像まで扱う

メモリに余裕があり性能を優先

24GB以上のGPUで高性能を狙う

16GB超の環境で精度を上げる

軽さ優先・日本語テキスト中心

性能だけを見ると、Qwen3.8-27Bが12Bを上回るという第三者の評価が多く出ています。ただし同じ量子化での直接比較は見当たりません。選ぶときは「16GBに収まるか」と「音声を扱うか」の2点で絞るのが現実的です。16GBで音声まで扱いたいなら12B、メモリに余裕があり性能を優先するならQwen3.8-27Bが候補になります。

それぞれの詳細はQwen3.8とはとMeta Muse Glimmerとはで解説しています。コーディング用途でツールまで含めて選びたい場合はAIコーディングツールのおすすめも参考になります。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)

Gemma 4 12Bの動かし方・使い方

ノートPCでローカルAIを動かしているイメージ

手軽さならOllamaかLM Studio、音声入力まで使いたいならTransformersかLiteRT-LMを選びます。 ツールによって使える入力が違う点に注意してください。

ツールごとに使える入力

ツール

テキスト

画像

音声

備考

Hugging Face Transformers

○

○

○

モデルカードどおり全入力を扱える(動画も可)

LiteRT-LM(Google公式)

○

今後対応予定

○

現行版はテキストと音声のみ。MTPも今後対応

Ollama

○

○

未確認

タグ一覧の入力表示は「Text, Image」のみ

LM Studio

○

未確認(モデル情報の表示で確認)

未確認

GGUF(QAT版)で手軽に試せる

vLLM・SGLang

○

○

実装による

サーバー向け。Google CloudではvLLMの手順が公開

方法1:Ollama(最も簡単なローカル実行)

コマンド1つで動かせる、いちばん手軽な方法です。Mac・Windows・Linuxに対応しています。最新版をOllama公式サイトから入れてください。

# QAT版(Google推奨の4ビット・7.2GB)
ollama run gemma4:12b-it-qat

# 既定のタグ(7.7〜8.0GB)
ollama run gemma4:12b

# 画像を渡す例(プロンプトの中にファイルのパスを書く)
ollama run gemma4:12b-it-qat "この画像の内容を説明してください ./receipt.jpg"

12Bの主なタグは次のとおりです(2026年10月26日時点)。

タグ

サイズ

用途

gemma4:12b-it-qat

7.2GB

16GB環境の第一候補

gemma4:12b(既定)

7.7〜8.0GB

標準の4ビット

gemma4:12b-mlx

7.7GB

Mac向け(MLX)

gemma4:12b-it-q8_0

13GB

24GB以上で精度を上げたい場合

gemma4:12b-it-bf16

24GB

量子化なし

起動すると http://localhost:11434 でAPIが立ち上がり、OpenAI互換の形式でも呼び出せます。このAPIは既定で認証がないため、インターネットから接続できる状態にしないでください。Ollamaの基本はOllamaとはにまとめています。

方法2:LM Studio(GUIで手軽に試す)

画面操作だけで試したい人向けです。モデルの検索・ダウンロード・チャットがアプリ内で完結します。

  1. LM Studio公式サイトからダウンロードしてインストール
  2. 検索欄に「gemma-4-12B」と入力
  3. Google公式のQAT版(google/gemma-4-12B-it-qat-q4_0-gguf)を選んでダウンロード
  4. チャット画面でモデルを読み込んで会話を始める

LM StudioもOpenAI互換のローカルAPIサーバーとして動くので、既存のアプリの接続先をローカルLLMに切り替える用途にも使えます。

方法3:LiteRT-LM(音声を使うローカルAPI)

Google公式のランタイムLiteRT-LMでは、litert-lm serve でターミナルからOpenAI互換のローカルAPIを立てられます。現行版はテキストと音声に対応しており、画像入力は今後のアップデートで対応予定です。

curl http://localhost:9379/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "gemma4-12b,gpu", "messages": [{"role": "user", "content": "Gemma 4 12Bの特徴を3行で"}]}'

公式はOpenClaw・OpenCode・Continue・Aider・Open WebUIなどとの連携を案内しています。Macでは、同じく6月に出たGoogle AI Edge Gallery(macOS版)でも試せます。

方法4:HuggingFace Transformers(Python・開発者向け)

画像・音声・動画まですべての入力を扱えるのはTransformersです。 量子化しないBF16では約27GBのメモリが必要です。16GB環境では、OllamaやLM StudioでQAT版のGGUFを使うか、メモリの多いGPUのマシンでTransformersを動かします。

pip install -U transformers torch accelerate

読み込みと推論のサンプルコードは、Hugging Faceのモデルカードに入力の種類ごとに載っています。ライブラリの版によってクラス名や引数が変わることがあるので、最新のサンプルに合わせてください。

  • 推奨サンプリング: temperature=1.0、top_p=0.95、top_k=64(公式推奨値)
  • 思考モードを使うときは、システムプロンプトの先頭に <|think|> を入れる
  • 微調整はUnslothのLoRAが公式に案内されています

Google AI StudioやGoogle Cloudでは使える?

2026年10月26日時点で、Gemini API(Google AI Studio)から12Bは使えません。 Gemini APIで提供されているGemmaは gemma-4-31b-it と gemma-4-26b-a4b-it の2つだけです。ブラウザでGemma 4を手軽に試したいなら、この2つを使うことになります。

12Bをクラウドで動かすなら、Google CloudのModel Garden(Gemini Enterprise Agent Platform)、Cloud Run、GKEで自分でサーバーを立てます。Cloud RunとGKEはvLLMでの手順が公開されています。料金はGPUなど各サービスの課金体系によります。

ローカル実行ツール比較

ツール

特徴

合う用途

Ollama

コマンド1つで起動

個人での試用・開発の入り口

LM Studio

GUIで操作

プログラミングをしない人の試用

LiteRT-LM

Google公式。音声に対応

音声を使うローカルアプリ・エージェント

llama.cpp

軽量でCPUにも対応

VRAMが足りない環境・組み込み

MLX

Appleシリコン向けに最適化

Macでの高速実行

vLLM・SGLang

同時に多くのリクエストを処理

社内向けAPIサーバー・本番運用

Transformers

全入力に対応・微調整の起点

研究・検証・独自モデルづくり

できないこと・制約・注意点

出力はテキストだけで、音声は30秒・動画は60秒までが上限です。 長い会議の録音や長尺の動画は、分割するか専用ツールと組み合わせます。

制約

内容

画像・音声の生成

できない。理解して文章で答えるだけ

音声入力の上限

最大30秒。長い音声は分割が必要

動画入力の上限

最大60秒(1秒1フレーム)。長尺や細かい動きの把握は苦手

ツールごとの対応差

Ollamaは表示上テキスト・画像のみ、LiteRT-LMは現状テキスト・音声のみ

Gemini APIでの提供

なし(APIで使えるのは26B A4Bと31B)

16GB環境

4ビット量子化が前提。長いコンテキストではKVキャッシュでメモリが増える

CPUのみでの実行

動くが遅く、日常の利用には向かない

最高品質の推論

26B A4B・31B、クラウドの大型モデルには及ばない

日本語の画像理解

JMMMUで45.7%(実測)。図面系は特に弱い

日本語の文字起こし

文字誤り率は中央値16.1%(実測)。文字起こし専用ならWhisperなどが有利

モデルカードは、このほかの限界として次の点を挙げています。

  • 学習データの偏りや抜けの影響を受ける
  • 曖昧で複雑な指示は苦手
  • 皮肉や比喩を取りこぼすことがある
  • 知識ベースではないため、古い情報や誤った情報を答えることがある

業務で使う前に、自社の実データで精度を確かめる小さな検証(PoC)をしておくと安心です。

ローカル実行でも残るセキュリティリスクと業務利用の注意点

ローカル実行ならデータは外に出ませんが、実行ツールの設定や安全対策は使う側の責任になります。 クラウドAPIのように提供側が入出力をフィルタしてくれる仕組みはありません。

  • Ollamaを外部に公開しない: OllamaのAPIは既定で認証がありません。11434番ポートをインターネットに公開したままのサーバーが多数見つかっています。ファイアウォール・VPN・認証付きのプロキシで守ってください
  • Ollamaを最新版にする: CVE-2026-7482(通称Bleeding Llama)は、GGUFモデルを読み込む処理の脆弱性です。0.17.1より前のすべての版が対象で、プロンプトや環境変数、APIキーがメモリから漏れるおそれがあります。0.17.1で修正済みです
  • 出所の分からないGGUFを読み込まない: Google公式の google/ リポジトリかOllama公式ライブラリから取得します
  • 入出力のチェックを足す: 社内向けに公開するなら、安全分類モデルのShieldGemmaなどで入出力をチェックする仕組みを組み合わせます
  • クラウド経由ではデータが外に出る: Google Cloudや第三者のホスティングを使う場合はデータが外部に送られ、各サービスの規約も適用されます

AIコーディングでの同様のリスクはAIコーディングのセキュリティリスクで整理しています。

12Bのような新しいモデルを自社の業務システムに組み込む場合、ローカルで動かすかクラウドで立てるか、既存システムとどうつなぐかで費用が大きく変わります。方法ごとの費用の目安はAI開発の費用相場が参考になります。

GeminiとGemmaの違い(クラウドAI vs ローカルLLM)

クラウドAIとローカル実行の違いを表すイメージ

GeminiはGoogleのクラウドで動く非公開モデル、Gemmaは手元で動かせるオープンモデルです。 どちらもGoogle DeepMindが開発していますが、使いどころが違います。2026年10月時点のGeminiの最新モデルはGemini 4 Argon(10月13日に一般提供開始)です。

比較ポイント

Gemini 4 Argon(クラウド)

Gemma 4 12B(ローカル)

実行場所

Googleのクラウド

自分のPC・サーバー

データの外部送信

あり

なし(ローカル実行の場合)

性能

Googleの最上位モデル

12Bクラス。最上位のクラウドモデルとは差がある

コンテキスト

100万トークン

256Kトークン

料金

100万トークンあたり入力$2・出力$10(11月30日までの導入価格)。その後は入力$4・出力$20

モデルは無料。ハードウェア代と電気代のみ

カスタマイズ

限られる

LoRAなどで自由に微調整できる

オフライン利用

できない

できる

ライセンス

APIの利用規約に従う

Apache 2.0

使い分けの目安は次のとおりです。

  • Gemini 4 Argonが合う場合: 最高品質の回答が必要、長い資料を一度に読ませたい、すぐにAPIで組み込みたい、機密性の低いデータを大量に処理する
  • Gemma 4 12Bが合う場合: 機密情報や個人情報を扱う、ネットにつながない環境で動かしたい、自社データで微調整したい、API料金を毎月払いたくない

Gemini 4 Argonの詳細はGemini 4 Argonとはで解説しています。API料金を下げる方法はLLMのAPI利用料を削減する方法を参考にしてください。Gemmaの派生モデルでは、拡散方式でテキストを生成するDiffusionGemmaもあります。

ライセンスと商用利用

Hugging FaceのGemma 4 12B(gemma-4-12B-it)モデルページ

出典: Hugging Face - google/gemma-4-12B-it

Gemma 4 12BはApache 2.0で提供されており、商用利用・改変・再配布ができます。 Gemma 3までの独自の利用規約(Gemma Terms of Use)は、Gemma 4で廃止されました。

Apache 2.0で認められることには、たとえば次のものがあります。

  • 商用の製品・サービスへの組み込み
  • 微調整した派生モデルの作成と再配布(有償・無償を問わない)
  • 社内システムへの導入

利用規模による制限(月間ユーザー数での許可制など)もありません。守る必要があるのは、著作権表示とライセンス文の同梱など、Apache 2.0の基本的な条件です。

ただし、Google Cloudなど、Googleのサービス経由で使う場合は、そのサービスの規約も適用されます。また法令に反する使い方は、ライセンスとは関係なく許されません。

Gemma 4 12Bがおすすめな人・おすすめしない人

こんな人・組織におすすめ

1. 機密データを外部に送りたくない業務担当者

医療・法律・金融・人事など、外に出せない情報をAIで処理したい場合に向いています。ローカルで動かせば、データは社外のサーバーに送られません。

2. VRAM 16GBのGPUや16GBのMacを持っている人

QAT版(7.2GB)なら公式が想定する環境で動きます。クラウドAPIの料金をかけずにマルチモーダルAIを試せます。

3. 音声や画像を扱うローカルエージェントを作りたい開発者

16GBに収まり、音声入力と256Kのコンテキストを持つオープンモデルは、2026年10月時点でも多くありません。エージェント系のスコア(Tau2)も26B A4Bと同等です。

4. 自社データで微調整したい人

Apache 2.0なので、微調整したモデルを自社製品に組み込めます。テキスト・画像・音声で重みを共有しているため、まとめて調整できます。

こんな場合はおすすめしない

1. とにかく最高品質の回答が欲しい場合

Gemini 4 Argonのようなクラウドの大型モデルには及びません。品質が最優先ならクラウドを選んでください。

2. 日本語のテキスト処理だけが目的の場合

日本語の常識問題ではE4Bとほぼ同じ正答率でした。軽さと速さを考えると、E4Bで足りる場合が多いです。

3. メモリに余裕があり、性能を優先したい場合

24GB以上のGPUがあるなら、Qwen3.8-27BやGemma 4 26B A4Bのほうが高い性能を期待できます。

4. 長い音声の文字起こしが主な目的の場合

音声は30秒が上限で、日本語の文字誤り率も専用ツールに及びません。Whisperなどの音声認識モデルのほうが向いています。

5. GPUのないPCしかない、またはブラウザで手軽に使いたいだけの場合

CPUのみでは遅く、Gemini APIでも12Bは提供されていません。手軽さを求めるなら、GeminiアプリやAI Studioの26B・31Bを使うほうが早いです。

よくある質問(FAQ)

Q1. Gemma 4 12BはGeminiと同じモデルですか?

違います。GeminiはGoogleのクラウドでだけ使える非公開モデルです。Gemma 4 12Bは重みが公開されていて、自分の環境にダウンロードして動かせます。開発元はどちらもGoogle DeepMindです。

Q2. MacBook Air(16GB)で動きますか?

QAT版(Ollamaの gemma4:12b-it-qat、7.2GB)なら動きます。Mac向けには gemma4:12b-mlx タグもあります。コミュニティの計測ではM4・16GBで毎秒約15トークンが目安です。メモリをOSと共有するため、ブラウザのタブを大量に開くなど他の作業と重ねると遅くなります。

Q3. VRAM 8GBのGPUでも動きますか?

量子化版でも重みだけで約7〜8GBあるため、8GBではほぼ余裕がありません。一部をCPU側に回せば動きますが、かなり遅くなります。8GBならE4Bを選ぶほうが快適です。

Q4. 無料で使えますか?

モデル自体は無料で、ローカル実行のコストはハードウェア代と電気代だけです。Google AI Studioの無料枠は12Bには使えません(APIで提供されていないため)。Google Cloudで動かす場合はGPUなどの料金がかかります。

Q5. 日本語は使えますか?

使えます。日本語の常識問題(JCommonsenseQA)では94.6%という実測があります。一方で、日本語の画像理解(JMMMU 45.7%)や文字起こしにはまだ弱さがあるので、用途によっては事前に試してください。

Q6. 商用アプリに組み込めますか?

組み込めます。Apache 2.0なので、規模や用途による追加の許可は不要です。Google Cloudなどのサービス経由で使う場合は、そのサービスの規約も確認してください。

Q7. OllamaやLM Studioで音声入力は使えますか?

2026年10月時点で確認できていません。Ollamaのタグ一覧では、12Bの入力は「Text, Image」とだけ表示されています。音声を使うなら、TransformersかLiteRT-LMが確実です。

Q8. QAT版と通常のQ4量子化の違いは何ですか?

通常のQ4は学習が終わったモデルを後から量子化するため、精度が落ちやすくなります。QAT版は量子化を前提に学習させているので、同じ4ビットでも精度の落ち方が小さくなります。Googleも4ビットならQAT版を選ぶよう案内しています。

Q9. E4Bと12B、どちらを選べばいいですか?

日本語のテキストが中心で、軽さと速さを重視するならE4Bです。画像・音声をまとめて扱いたい、数学やコーディングの精度が欲しい、長いコンテキストを使いたいなら12Bを選びます。サイズごとの違いはGemma 4とはでも比べています。

まとめ

Gemma 4 12Bは、16GBのGPUやMacで動くサイズに、テキスト・画像・音声・動画の入力をまとめたGoogleのオープンモデルです。2026年10月時点でも、16GBに収まって音声まで扱えるオープンモデルは限られています。

Gemma 4 12Bを選ぶ主な理由は次のとおりです。

  • QAT版(7.2GB)ならVRAM 16GB・Mac 16GBで動く
  • テキスト・画像・音声・動画を1つのモデルで処理できる
  • 公式ベンチマークでGemma 3 27Bを全項目で上回り、エージェント系では26B A4Bと同等
  • Apache 2.0で商用利用・改変・再配布ができる
  • ローカル実行なら機密データを外に出さずに済む

注意したいのは、Gemini APIでは使えないこと、音声30秒・動画60秒の上限、日本語の画像理解と文字起こしの弱さです。Ollamaなど実行ツールの設定や更新も、使う側で管理する必要があります。メモリに余裕があるならQwen3.8-27Bや26B A4B、日本語テキストだけならE4Bも比べてみてください。

まずはOllamaで gemma4:12b-it-qat を動かしてみるのが、いちばん手軽な始め方です。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

この記事の著者

AI革命

AI革命

編集部

AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。

AI・システム開発は、開始価格を公開しています

既存システムの改修 100万円〜・PoC 300万円〜(税別)。相談内容を送っていただくと、2営業日以内に担当者からご返信します