AIツール2026年11月更新

Inkling-Smallとは?Thinking Machinesの軽量オープンウェイトモデルの仕様・料金・使い方・Inklingとの違い【2026年11月最新】

公開日: 2026/10/06
更新日: 2026/11/20
Inkling-Smallとは?Thinking Machinesの軽量オープンウェイトモデルの仕様・料金・使い方・Inklingとの違い【2026年11月最新】

この記事のポイント

Inkling-SmallはThinking Machines Labが2026年7月に公開した276B/12BのMoE型オープンウェイトモデルです。仕様・ベンチマーク・最新のTinker料金・必要GPU・使い方に加え、本家Inklingや後継Inkling 2 Smallとの違いと選び方を公式情報をもとに整理しました。

Inkling-Small(インクリング・スモール)は、Thinking Machines Labが2026年7月30日(米国時間)に公開した、総パラメータ276B・アクティブ12BのMoE型オープンウェイトモデルです。 本家Inklingの約1/4のサイズで、コーディングや推論のベンチマークでは本家を上回ります。ただし知識量・事実性は本家より明確に弱く、自分で動かすには量子化しても約180GBのGPUメモリが必要です。

2026年11月5日には第2世代の後継「Inkling 2 Small」が発表され、11月12日に重みも公開されました。この記事では、第1世代であるInkling-Smallの仕様・ベンチマーク・Tinkerの最新料金・必要なGPU・使い方を整理したうえで、本家Inkling、後継Inkling 2 Smallとの違いと「今あえてInkling-Smallを選ぶ場面」を、公式発表・モデルカード・Tinker公式ドキュメントをもとに解説します。

オープンウェイトのLLMを自社サービスやエージェントに組み込みたい開発者、コストを抑えて高性能なモデルを探している企業のAI導入担当者に向けた内容です。

Inkling-Smallを開発したThinking Machines Lab公式サイトのトップページ

出典: Thinking Machines Lab 公式サイト

Inkling-Smallとは?本家の1/4サイズで同等性能をねらった軽量版

Thinking Machines Lab公式のInkling-Small発表記事のカバー画像

出典: Thinking Machines Lab - Introducing Inkling-Small

Inkling-Smallは、「Inklingの約1/4のサイズで、ほぼ同じ性能」を公式にうたう軽量版モデルです。ライセンスはApache 2.0で、商用利用・改変・再配布ができます。

開発元のThinking Machines Lab(TML)は、元OpenAI CTOのMira Murati氏が創業したAI企業です。2026年7月15日に同社初の基盤モデル「Inkling」を公開し、その時点ではInkling-Smallを「プレビュー・重み公開予定」と予告していました。約2週間後の7月30日に、全重みがHugging Faceで公開されています。

現在のInkling-Smallは第1世代のInklingファミリーという位置づけです。11月に後継のInkling 2 Smallが出たため、計測サイトのArtificial Analysisでは「deprecated(後継: Inkling 2 Small)」と表示されています。一方、2026年11月20日時点でTinkerの非推奨モデル一覧には載っておらず、公式の学習・推論サービスでは引き続き料金表に掲載されています。

項目

内容

モデル名

Inkling-Small(第1世代Inklingファミリーの軽量版)

開発元

Thinking Machines Lab(米国)

公開日

2026年7月30日(米国時間)/日本では7月31日に報道

ライセンス

Apache 2.0(商用利用・改変・再配布OK)

総パラメータ

276B(2,760億)※Hugging Faceのメタデータなど一部では266B表記

アクティブパラメータ

12B(120億)/トークン

コンテキスト長

最大1Mトークン(モデル仕様)。Tinkerは64K・256K、サーバーレス推論は256K

入力

テキスト・画像・音声

出力

テキストのみ

配布先

Hugging Face thinkingmachines/Inkling-Small(BF16)、thinkingmachines/Inkling-Small-NVFP4

知識カットオフ

未公表

後継モデル

Inkling 2 Small(2026年11月5日発表)

開発元の成り立ちや資金調達の経緯は「Thinking Machines Labとは」、上位モデルの詳細は「Thinking Machines Inklingとは」で解説しています。

「276B/12B」の意味:計算は軽いが、メモリは重い

Inkling-SmallはMoE(Mixture of Experts)という構造を採用しています。モデルの中に256個の「専門家(エキスパート)」があり、1トークンを処理するたびにそのうち6個と共有専門家2個だけが動く仕組みです。

  • 総パラメータ276B: モデル全体の大きさ。GPUメモリにはこの全量を載せる必要がある
  • アクティブ12B: 1トークンあたり実際に計算に使う量。推論速度やコストに影響する

つまり「アクティブ12B」は計算量が12Bクラスで済むという意味で、12Bクラスのモデルのように軽いPCで動くという意味ではありません。名前に「Small」とあるため誤解されやすい点です。

技術仕様の要点

項目

Inkling-Small

Inkling(参考)

総/アクティブパラメータ

276B/12B

975B/41B

構成

42層のデコーダのみTransformer + 疎なMoE(専門家256個から6個 + 共有2個)

同系統のMoE

アテンション

ローカル層とグローバル層のハイブリッド

スライディングウィンドウ:グローバル = 5:1

コンテキスト

最大1Mトークン

最大1Mトークン

マルチモーダル

エンコーダを持たないネイティブ方式(画像は40×40パッチ、音声はdMelスペクトログラム)

同じ

思考量の調整

minimal/low/medium/high/xhigh

none〜max

学習基盤

NVIDIA GB300 NVL72

—

学習方法

事前学習レシピの見直し + Inklingを教師にしたon-policy蒸留(一部)+ エージェント型コーディングRL

—

小さいモデルが一部で本家を上回った理由として、公式は事前学習のデータ配分の見直し、Inklingからの蒸留、エージェント型コーディング向け強化学習を2週間追加でスケールしたことを挙げています。予測問題を使った強化学習で、自分の答えへの確信度を適切に出せるよう較正したことも説明されています。

Inkling-Smallでできること

Inkling-Smallが特に力を発揮するのは、コーディングエージェントやツール連携型のシステムに組み込む用途です。モデルカードが想定する主な用途は次のとおりです。

  • エージェント・ツール利用: 関数呼び出しに対応。OpenRouterでもtools・reasoning・reasoning_effortのパラメータに対応している
  • コーディング支援: SWE-bench Verified 80.2%、Terminal-Bench 2.1 64.7%と、本家を上回るスコア
  • 画像・音声の理解: テキスト・画像・音声をひとつのモデルでまとめて推論できる(画像は1辺40〜4096px、音声は16kHz WAVで2分未満が推奨)。画像タスクではPythonで切り抜き・拡大をしながら細部を調べられる
  • 長文処理: モデル仕様は最大1Mトークン。大きなコードベースや長いドキュメントをまとめて渡す用途を想定
  • RAG・チャットボット: 社内文書検索と組み合わせた回答システム
  • 思考量の調整: minimal〜xhighの5段階で「速さ・安さ」と「品質」のバランスをタスクごとに選べる
  • ファインチューニング: 公式サービスのTinkerでLoRAによる追加学習ができる

ベースモデルとしての実例:Cognition「SWE-2 Flash」

Apache 2.0のベースモデルとして使われた具体例が、Devinを開発するCognitionが2026年11月4日に発表したSWE-2 Flashです。公式ブログによると、Inkling-Smallに大規模な中間学習と強化学習を加えて作ったコーディング特化モデルで、同社のSWE-2の約1/5の価格・約3倍の速さ(約200トークン/秒)をうたっています。提供はDevin DesktopとDevin CLIで、重みは公開されていません。期間限定の無料提供も告知されていますが、期限や対象は変わることがあるためCognition公式ブログで確認してください。

同じ発表では、新しく難しいベンチマークでの素のInkling-Smallのスコアも示されています(Terminal-Bench 4.0で0.9、FrontierCode 2.0で4.0)。そのまま使うより、追加学習で特定の仕事に合わせたときに伸びるモデルだと読み取れます。SWE-2シリーズについては「SWE-2とは」、エージェント型のAI活用の全体像は「AIエージェントとは」もあわせて読むと位置づけがつかみやすくなります。

できないこと・弱み

Inkling-Smallの最大の弱みは事実性(知識を正確に答える力)です。事実を問うQAベンチマークのSimpleQA Verifiedでは20.6%と、本家Inkling(43.9%)の半分以下にとどまります。

  • 画像・音声の生成はできない: 出力はテキストのみ
  • 知識を問う質問に弱い: 固有名詞・数値・時事の正確さが求められる用途では、RAG(検索結果を渡す仕組み)で補う前提になる
  • 個人PCではほぼ動かない: 量子化しても約180GBのGPUメモリが必要
  • コンテキスト長は提供先しだい: モデル仕様は最大1Mだが、Tinkerでは64K/256K、サーバーレス推論は256K
  • 日本語性能は公式評価なし: モデルカードは「英語中心で、多言語にも一般的に対応」という記載にとどまる
  • 動画入力の公式案内はない: 入力として案内されているのはテキスト・画像・音声
  • 一般的なLLMの限界: ハルシネーション、指示に従わないケース、長いマルチターンでの性能低下(モデルカード記載)
  • 高リスク領域での直接利用は対象外: 医療・法務・安全に関わる判断に、追加のファインチューニングと検証、人の監督なしで使うことは想定されていない
  • 第1世代であること: 後継が出たことで、一部のAPI提供先は提供を終了・縮小している。Tinkerも「同系統で同等以上の新版が出たら旧版を退役させることがある(事前にメールとドキュメントで告知)」という方針を公開している

ベンチマーク:本家Inklingに勝つ分野・負ける分野

公式発表のベンチマークでは、推論・コーディング・エージェント・指示追従ではInkling-Smallが上、数学・音声・多言語・事実性ではInklingが上という結果です。タイトルの「本家超え」は一部のベンチマークでの話で、すべての面で上回るわけではありません。

ベンチマーク

測るもの

Inkling-Small

Inkling

優位

Humanity's Last Exam(テキスト)

高難度の総合推論

31.6%

29.7%

Small

SWE-bench Verified

実務的なコード修正

80.2%

77.6%

Small

SWE-bench Pro

より難しいコード修正

55.9%

54.3%

Small

Terminal-Bench 2.1

ターミナル操作エージェント

64.7%

63.8%

Small

Toolathlon Verified

ツール連携タスク

54.4%

45.5%

Small

GDPval-AA v2(Elo)

実務タスク

1269

1238

Small

GPQA Diamond

大学院レベルの科学

89.5%

87.2%

Small

IFBench

指示追従

82.2%

79.8%

Small

MMMU Pro

画像を含む推論

74.0%

73.5%

Small

AIME 2026

数学

95.5%

97.1%

Inkling

Global-MMLU-Lite

多言語の知識

86.7%

88.7%

Inkling

Audio MC

音声理解

54.9%

56.6%

Inkling

SimpleQA Verified

事実性

20.6%

43.9%

Inkling(大差)

AA Omniscience Index

知識の正確さ

-9.0

2.1

Inkling

τ³-Banking

業務エージェント(銀行)

15.5%

23.7%

Inkling

StrongREJECT

有害要求の拒否

98.4%

98.6%

ほぼ同じ

※数値はいずれもTML公式発表の値。

公式の比較表では、Artificial AnalysisのIntelligence Index(v4.1)でInkling-Smallが40.0、Inklingが41.0とほぼ並んでいます。ただし同サイトの現行の指数(v5.0.1)ではInkling-Smallは10(Reasoning版は13)で、版が違うため数値どうしは比べられません。参照するときは指数の版を必ず確認してください。また公式発表では、Qwen3.5 397B-A17B、MiniMax M2.7、DeepSeek V4 Flashといった、より大きなオープンウェイトモデルと同等以上の結果が示されています。

この結果から、Inkling-Smallは「考えて手を動かす」タスクに強く、「覚えている知識を正確に出す」タスクに弱いモデルだと分かります。コード修正やツール操作には向く一方、知識をそのまま答えさせるFAQボットには不向きといえます。

Inkling-Smallの料金:重みは無料、Tinkerは従量課金

モデルの重みはApache 2.0で無料ダウンロードできます。 費用がかかるのは、公式のTinkerやサードパーティのAPIを使う場合と、自前でGPUを用意する場合です。

Inkling-Smallの推論とファインチューニングに使える公式サービスTinkerの発表画像

出典: Thinking Machines Lab - Announcing Tinker

Tinker(学習・推論)の料金:2026年10月19日付の料金表

単位はUSD/100万トークンです。以前の料金表にあった「期間限定50%オフ」の表記は、2026年10月19日付の料金表ではInkling系のモデルから消えています。表示額は以前の割引後の額と同じで、256K枠のPrefillとSampleは64K枠と同額に下がりました。割引が恒久化されたのかは公式に説明がないため、ここでは料金表の表示額をそのまま載せています。

モデル・コンテキスト

Prefill(入力)

キャッシュ済みPrefill

Sample(出力)

Train(学習)

Inkling-Small 64K

$0.58

$0.116

$1.44

$1.73

Inkling-Small 256K

$0.58

$0.116

$1.44

$3.47

Inkling 64K(参考)

$1.87

$0.374

$4.68

$5.61

Inkling 256K(参考)

$1.87

$0.374

$4.68

$11.23

Inkling 2 Small 64K(参考)

$0.30

$0.03

$1.00

$1.50

Inkling 2 Small 256K(参考)

$0.30

$0.03

$1.00

$3.00

学習済みチェックポイントの保存は、全モデル共通で$0.10/GB/月です。

Tinkerサーバーレス推論(ベータ・256Kコンテキスト)

モデル

Prefill(入力)

キャッシュ済み

Sample(出力)

Inkling-Small

$0.30

$0.06

$1.20

Inkling(参考)

$1.00

$0.17

$4.05

Inkling 2 Small(参考)

$0.30

$0.03

$1.00

推論だけ使うなら、サーバーレスの入力$0.30/出力$1.20(100万トークンあたり)が基準です。出力単価はInklingの約30%に収まります。ただし後継のInkling 2 Smallは出力$1.00、キャッシュ入力$0.03、学習も64Kで$1.50と、いまはInkling-Smallより後継のほうが安い点に注意してください。

サードパーティでの提供状況

提供先

状況(2026年11月20日時点)

OpenRouter

thinkingmachines/inkling-small で提供中。DeepInfra経由で入力$0.45/出力$1.20。tools・reasoning対応

Artificial Analysis(計測サイト)

最安はThinking Machines(入力$0.30/出力$1.20)。出力速度は約82トークン/秒と計測(時期により変動)。「deprecated」表示

Baseten

Model APIでの提供は2026年9月25日に終了

Together AI

モデルページは「Launching soon」表示のまま、changelogでは非推奨と記載。一般提供は確認できない

外部の提供先は縮小傾向にあります。複数モデルをひとつのAPIで切り替えたい場合は「OpenRouterとは」が参考になります。料金や提供状況は変わりやすいため、利用前にTinker公式の料金ページで最新価格を確認してください。

必要なGPU:「Small」でも個人PCでは動かない

Hugging Faceで公開されているInkling-Smallのモデルページ

出典: Hugging Face - thinkingmachines/Inkling-Small

Inkling-Smallを自分で動かすには、量子化版でも約180GBのGPUメモリが必要です。ゲーミングPCや一般的なMacのワークステーション1台では動きません。

形式

必要VRAMの目安

GPU構成の例

BF16(フル精度)

600GB以上

NVIDIA B300×4 または H200×8

NVFP4(量子化・Inkling-Small-NVFP4)

180GB以上

B300×1(W4A4。SM100以上のGPUが必要)または H200×2(W4A16)

参考: Inkling 2 Small(NVFP4・推奨形式)

500GB以上

B300×2 または H200×4

本家Inklingは量子化版でも約600GBが目安なので、Inkling-Smallは「データセンター向けGPU 1〜2枚で動かせるようになった」という意味での軽量化です。後継のInkling 2 SmallもNVFP4で500GB以上が必要なため、自前ホストのハードルはInkling-Smallがいちばん低い状態が続いています。

手元のPCでLLMを動かしたい場合は、Inkling-Smallより小さいモデルを選ぶのが現実的です。ローカル実行の基本は「Ollamaとは」で解説しています。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)

Inkling-Smallの使い方:3つのパターン

Inkling-Smallの使い方は、①Playgroundで試す、②APIで使う、③重みをダウンロードして自前ホストするの3つです。GPUを持っていないなら①か②から始めるのが無難です。

Thinking Machines Lab公式のInklingシリーズ紹介カバー画像

出典: Thinking Machines Lab - Inkling 公式ページ

① Tinker Playgroundで試す(GPU不要)

TML公式のPlaygroundでは、テキスト・画像・音声を使ったチャットを試せます。日本語の出力品質や、自分の業務タスクでの精度を最初に確かめたい人向けです。無料枠の有無などの利用条件は変わることがあるため、公式ページで確認してください。

② APIで使う(Tinker/OpenRouter)

アプリやエージェントに組み込むなら、APIでの利用が手軽です。

  • Tinker: サーバーレス推論(ベータ)またはモデル指定(thinkingmachines/Inkling-Small、256K版は thinkingmachines/Inkling-Small:peft:262144)で利用。LoRAによるファインチューニングも同じ基盤で行える
  • OpenRouter: thinkingmachines/inkling-small を指定。ほかのモデルと切り替えながら試したい場合に便利

第1世代のモデルは、提供先の都合で退役することがあります。長く使うシステムに組み込むなら、モデル名を設定で差し替えられる作りにしておくと、後継への移行が楽になります。

③ Hugging Faceから重みを取得して自前ホスト

データを外部に出したくない企業や、推論基盤を自社で持つチーム向けです。Hugging Faceのモデルカードには、次のコマンドが記載されています。

# vLLM
pip install vllm
vllm serve "thinkingmachines/Inkling-Small"

# 量子化版(NVFP4)
vllm serve "thinkingmachines/Inkling-Small-NVFP4"

# SGLang
pip install sglang
python3 -m sglang.launch_server --model-path "thinkingmachines/Inkling-Small" --host 0.0.0.0 --port 30000

# Docker Model Runner
docker model run hf.co/thinkingmachines/Inkling-Small

# Transformers
pip install -U transformers accelerate
# AutoProcessor と AutoModelForMultimodalLM で読み込む(device_map="auto")

モデルカードには、vLLM・SGLang・Transformersに加えて、Docker Model Runner・TokenSpeed・Unslothでの使い方も載っています。Hugging Face上には量子化版やアダプタなどの派生モデルも多数公開されていますが、公式以外のものは作成者と中身を確かめてから使ってください。自前ホストでは、入出力のガードレール、ログ管理、ツール実行権限の制限を利用者側で用意する必要があります。

立場別のおすすめの始め方

立場

おすすめの方法

費用感

まず性能を確かめたい個人・担当者

Tinker Playground

公式の利用条件による

アプリ・エージェントに組み込みたい開発者

Tinkerサーバーレス推論 or OpenRouter

入力$0.30/出力$1.20(Tinker・100万トークン)

自社データで調整したい企業

TinkerでLoRAファインチューニング

Train $1.73〜(64K)

データを外に出せない企業

NVFP4で自前ホスト

GPU約180GB分(H200×2など)の設備

自社の業務システムに組み込む場合、API連携で済ませるか、自前ホストや追加学習まで行うかで、開発の手間も費用も大きく変わります。方法ごとの費用の目安は「AI開発の費用相場」で整理しています。

Inklingとの違いとどちらを選ぶかの基準

本家Inklingの公式発表記事のカバー画像

出典: Thinking Machines Lab - Introducing Inkling

コーディング・エージェント用途とコスト重視ならInkling-Small、知識の正確さが重要な用途ならInklingが基本の選び分けです。

比較項目

Inkling-Small

Inkling

サイズ

276B/12B

975B/41B

公開日

2026年7月30日

2026年7月15日

コーディング(SWE-bench Verified)

80.2%

77.6%

推論(HLE)

31.6%

29.7%

数学(AIME 2026)

95.5%

97.1%

事実性(SimpleQA Verified)

20.6%

43.9%

必要VRAM(量子化版)

約180GB

約600GB

Tinkerサーバーレス出力単価

$1.20

$4.05

思考量の調整

minimal〜xhigh

none〜max

ライセンス

Apache 2.0

Apache 2.0

用途別の選び分け

やりたいこと

おすすめ

理由

コーディングエージェント・コード修正

Inkling-Small

SWE-bench・Terminal-Benchで本家を上回る

ツール連携の自動化(汎用)

Inkling-Small

Toolathlon・指示追従で本家を上回り、単価も安い

業務特化型エージェント(金融など)

Inkling(検証推奨)

τ³-Bankingでは本家が上

知識をそのまま答えるQA・FAQボット

Inkling

事実性のスコアに約2倍の差

RAGで根拠文書を渡すQA

Inkling-Small

知識の弱さを検索結果で補える。コストも低い

数学・音声理解・多言語の知識が中心

Inkling

わずかに本家が上

自前ホストのコストを抑えたい

Inkling-Small

必要VRAMが約1/3

後継Inkling 2 Smallとの違い

Thinking Machines Lab公式の後継モデルInkling 2 Small発表記事のカバー画像

出典: Thinking Machines Lab - Introducing Inkling 2 Small

2026年11月5日に発表されたInkling 2 Smallは、総594B・アクティブ17Bの第2世代モデルです。名前は「Small」でもInkling-Smallの2倍以上の大きさで、Artificial Analysisの現行指数では31と、Inkling-Small(10)を大きく上回ります。11月12日にはHugging Faceで重みも公開されました。

比較項目

Inkling-Small

Inkling

Inkling 2 Small

総/アクティブパラメータ

276B/12B

975B/41B

594B/17B

公開

2026年7月30日

2026年7月15日

2026年11月5日(重みは11月12日)

入力

テキスト・画像・音声

テキスト・画像・音声

テキスト・画像(音声なし)

コンテキスト(モデル仕様)

最大1M

最大1M

最大1M

サーバーレス 入力/出力

$0.30/$1.20

$1.00/$4.05

$0.30/$1.00

Tinker Train(64K)

$1.73

$5.61

$1.50

量子化版の必要VRAM

180GB以上

約600GB

500GB以上

Artificial Analysis指数(v5系)

10(Reasoning版13)

—

31

不適切な行動のスコア(低いほど良い)

75.2

66.8

14.9

ライセンス

Apache 2.0

Apache 2.0

Apache 2.0

※料金は2026年10月19日付のTinker料金表、行動スコアはInkling 2 Small公式発表の値。

公式発表によれば、Inkling 2 Smallはファインチューニングでも75ステップでInkling-Smallの最終性能に追いつき、その先も伸びるとされています。性能・単価・安全面の数値のどれを見ても、これから新しく使い始めるなら基本はInkling 2 Smallです。ただし後継にも、出力が長くなりがち(Artificial Analysisは「unusually verbose」と評価)、ツール選択のミスがあるといった弱みが公式に挙げられています。サーバーレス推論もベータです。

今あえてInkling-Smallを選ぶ場面

後継が出たあとでもInkling-Smallを選ぶ理由があるのは、次の3つの場面です。

  1. 音声を入力したい: Inkling 2 Smallは音声入力に対応していない。音声とテキストを1つのモデルで扱いたいならInkling-Smallか本家Inkling
  2. 小さいGPU環境で自前ホストしたい: NVFP4ならH200×2またはB300×1で動く。後継はH200×4以上が必要
  3. すでにInkling-Smallで作った資産がある: LoRAアダプタや派生モデルを作り込んでいて、作り直しの手間を避けたい

この3つに当てはまらないなら、後継を第一候補にして比べるのが合理的です。

他のオープンウェイトモデルとの位置づけ

Inkling-Smallの特徴は、米国企業製・Apache 2.0・画像と音声の入力に対応・アクティブ12Bという組み合わせです。公式発表で比較対象とされたのは中国勢の大きめのモデルで、それらと同等以上の結果を、より少ないアクティブパラメータで出している点がアピールされています。

モデル

開発元

位置づけ

Inkling-Small

Thinking Machines Lab(米国)

276B/12B。マルチモーダル入力、Apache 2.0

DeepSeek V4 Flash

DeepSeek(中国)

公式比較の対象。低コスト路線の軽量モデル

Qwen3.5 397B-A17B

Alibaba(中国)

公式比較の対象。アクティブ17B

MiniMax M2.7

MiniMax(中国)

公式比較の対象。エージェント用途

各モデルのスコアは評価条件が異なるため、個別の数値を横に並べて単純比較はできません。競合の詳細は「DeepSeek V4 Flashとは」「MiniMax M2.7とは」「GLM-5.2とは」「Qwen 3.8 Maxとは」で確認できます。

安全性とセキュリティ:オープンウェイト特有のリスクに注意

Inkling-Smallの安全対策は本家Inklingと同じ事後学習のレシピを使っており、有害要求の拒否率(StrongREJECT)は98.4%と本家とほぼ同じです。ただし敵対的な攻撃への耐性(FORTRESS)は71.6%で、本家の78.0%を下回ります。無害な要求に答える割合は96.9%(本家95.9%)で、断りすぎる傾向は見られません。

オープンウェイトAIモデルの安全性評価と運用管理のイメージ

モデルカードで開示されている取り組みは次のとおりです。

  • 外部パートナーによるレッドチームを含む、公開前のテスト
  • 迎合性、有害な操作、依存や妄想の肯定といった心理的な害、過剰な拒否のバランスの評価
  • CBRN(化学・生物・放射性物質・核)やサイバー領域の評価(拒否を外した版でも実施)
  • エージェント能力・欺瞞・妨害など、制御を失うシナリオの評価

TMLは公式ブログ「A Safe Path to Open Weights」などで、Inkling-Smallの能力はフロンティアモデルより明確に下で、既存のオープンウェイトモデルが提供している以上の実質的なリスク増はないと判断したと説明しています。一方でモデルカードには、ロールプレイや遠回しな言い方の有害な要求にときどき応じるという残存リスクも書かれており、Llama Guardなどを組み合わせた多層の内容チェックが推奨されています。

エージェントに権限を渡すなら行動面のリスクも確認する

後継Inkling 2 Smallの公式発表では、エージェントとして動かしたときの行動面のスコアが3モデルで比べられています(数値は低いほど良い)。

評価項目

Inkling-Small

Inkling

Inkling 2 Small

不適切な行動(Misbehavior)

75.2

66.8

14.9

隠れた不正行為

59.1

—

11.8

破壊的な操作

67.2

—

4.7

報酬ハッキング(HoneyBench)

69

—

44

※「—」は今回確認できた範囲で数値が見当たらないもの。

開発元自身が、エージェントとして強い権限を渡したときのInkling-Smallのリスクは後継より明確に高いことを数値で示しています。ファイル削除や本番環境の操作ができるエージェントにInkling-Smallを使う場合は、権限の最小化と人の承認を必ず挟んでください。

実務で導入する際は、ほかにも次の点に注意が必要です。

  1. 安全フィルタは外せてしまう: 重みが公開されているため、第三者がガードレールを弱めるファインチューニングをすることは防げない
  2. 自前ホストでは安全対策も自前: 入出力のフィルタリング、ログの保存と監査、エージェントに渡すツール権限の最小化を設計する
  3. API利用時はデータの扱いを確認: TinkerやOpenRouterなど、利用する提供先のデータ取り扱いポリシーを事前に確認する
  4. 提供終了に備える: 第1世代のため、API提供先が退役させる可能性がある。移行先のモデルを決めておく

オープンウェイトをめぐる業界の議論は「Anthropicのオープンウェイトに対する立場」でも整理しています。

Inkling-Smallはこんな人におすすめ/おすすめしない人

こんな人・企業におすすめ

  • 音声入力を含むマルチモーダル処理をオープンウェイトで行いたい人: 後継のInkling 2 Smallは音声入力に対応していない
  • GPU 1〜2枚の環境で自前ホストしたい企業: NVFP4ならH200×2またはB300×1から動かせ、Apache 2.0で改変・商用利用も自由
  • 追加学習のベースモデルを探している開発チーム: CognitionのSWE-2 Flashのように、Inkling-Smallをベースに専用モデルを作った例がある
  • すでにInkling-Smallで作ったアダプタや仕組みがある人: 作り直しの手間をかけずに使い続けられる(提供終了には備えておく)
  • 中国系オープンモデルの採用に社内制約がある組織: 米国企業製の選択肢になる

おすすめしない人

  • これから新しくThinking Machinesのモデルを使い始める人: 音声入力や小さいGPU環境が条件でないなら、性能も単価も上のInkling 2 Smallから検討するほうがよい
  • 手元のPC1台でローカル実行したい個人: 量子化しても約180GBのGPUメモリが必要
  • 知識をそのまま正確に答えさせたい人: 事実性は本家の半分以下。用途によっては本家Inklingやクローズドモデルが適する
  • 強い権限を持つエージェントを人の確認なしで動かしたい人: 行動面のリスクスコアが後継より明確に高い
  • 画像や音声を生成したい人: 出力はテキストのみ
  • 日本語性能の裏付けを重視する人: 日本語の公式ベンチマークはない。自社タスクでの検証が前提

Inkling-SmallのFAQ

Q. Inkling-Smallは無料で使えますか?

重みのダウンロードはApache 2.0で無料です。ただし動かすには約180GB以上のGPUメモリが必要なため、多くの人は有料のAPI(Tinkerサーバーレスなら入力$0.30/出力$1.20・100万トークンあたり)を使うことになります。2026年11月20日時点では、OpenRouterで無料版の提供は確認できませんでした。

Q. 後継のInkling 2 Smallが出た今、Inkling-Smallはもう使えないのですか?

使えます。2026年11月20日時点で、Tinkerの料金表には引き続き掲載されており、非推奨モデル一覧にも入っていません。Hugging Faceの重みも公開されたままです。ただしBasetenは提供を終了しており、Tinkerも新版が出たら旧版を退役させることがある方針を公開しています。長期運用なら移行の準備をしておくと安心です。

Q. MacBookやゲーミングPCで動かせますか?

現時点では現実的ではありません。「アクティブ12B」は計算量の話で、メモリには276B分すべてを載せる必要があります。NVFP4量子化版でもH200×2クラスの環境が目安です。

Q. 1Mトークンのコンテキストはどこでも使えますか?

使えません。最大1Mトークンはモデルとしての仕様で、Tinkerの学習・推論は64Kと256K、サーバーレス推論は256Kで提供されています。1Mを使いたい場合は、自前ホストでの設定や各提供先の対応状況を確認する必要があります。

Q. 日本語は使えますか?

多言語に一般的に対応していますが、モデルカードは英語中心と記載しており、日本語のベンチマークは公表されていません。日本語で業務に使うなら、Playgroundなどで実際の業務文書を使って試してから判断するのが確実です。

Q. 以前あったTinkerの50%オフはどうなりましたか?

2026年10月19日付の料金表では、Inkling系モデルの割引表記がなくなりました。表示額は以前の割引後の額と同じです(64KでPrefill $0.58/Sample $1.44/Train $1.73)。割引が恒久化されたのかは公式に説明がないため、コスト試算の前に最新の料金ページを確認してください。

まとめ:Inkling-Smallは「推論とコーディングに振った実用サイズ」のオープンウェイトモデル

Inkling-Smallは、Thinking Machines Labが本家Inklingの約2週間後に公開した第1世代の軽量版で、サイズを約1/4に抑えつつ、推論・コーディング・指示追従では本家を上回りました。

  • 総276B・アクティブ12BのMoE、Apache 2.0で重みは無料
  • SWE-bench Verified 80.2%などコーディング・エージェント系で本家超え、ただし事実性は本家の半分以下
  • Tinkerサーバーレスは入力$0.30/出力$1.20(100万トークン)。2026年10月19日付の料金表で割引表記はなくなり、256K枠の入出力単価は64K枠と同額になった
  • 個人PCでは動かない。量子化版でも約180GB(H200×2など)が必要。ただし後継より自前ホストのハードルは低い
  • 2026年11月に後継のInkling 2 Smallが登場。新しく使い始めるなら後継が基本で、Inkling-Smallを選ぶのは音声入力・小さいGPU環境・既存資産がある場合
  • エージェントに強い権限を渡す用途では、行動面のリスクが後継より高い。権限の最小化と人の承認を前提にする

音声入力を含むマルチモーダル処理や、GPU 1〜2枚での自前運用を考えているなら、今でも有力な候補です。本家の設計思想やTinkerの詳細は「Thinking Machines Inklingとは」、開発元の動きは「Thinking Machines Labとは」で確認できます。

このツールを自社のシステムや業務にどう組み込むか、ご提案します

この記事の著者

AI革命

AI革命

編集部

AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。

AI・システム開発は、開始価格を公開しています

既存システムの改修 100万円〜・PoC 300万円〜(税別)。相談内容を送っていただくと、2営業日以内に担当者からご返信します