ミラ・ムラティ氏のThinking Machinesが、約20GBのメモリで動く264億パラメータの無料オープンウェイトモデル「Inkling 2 Mini」を公開した。
OpenAIの元最高技術責任者ミラ・ムラティ氏が創業したサンフランシスコのスタートアップ、Thinking Machines Labは11月20日、「Inkling 2 Mini」を公開した。オープンウェイトモデル、つまり誰でもファイルをダウンロードして自分のハードウェアで動かせるモデルで、寛容なApache 2.0ライセンスのもとHugging Faceで配布されている。総パラメータ数は264億だが、専門家混合(MoE)設計により、トークン(テキストの小さな単位)ごとに使うのは34億にとどまる。特徴的なのはループ構造で、24層のうち中央の12層をトークンごとに3回実行する。これにより重みを増やさずに推論の深さを確保している。同社によると、モデル全体は約20GBのメモリに収まるという。
Thinking Machinesによると、Inkling 2 Miniは複数のエージェント型コーディングテストで、1000億パラメータ未満のオープンウェイトモデルの中で首位に立つ。DeepSWE v1.1で48.2%、SWE-bench Verifiedで79.2%を記録し、後者ではAlibabaのQwen3.8-27Bの77.8%を上回ったとしている。独立評価機関のArtificial Analysisは同社のIntelligence Indexで20点をつけた。VentureBeatによればQwen3.8-27Bと同点だが、テスト1件あたりのコストは約0.59ドルで、Qwenモデルの3.53ドルを大きく下回る。同社は弱点も明らかにしている。複数ターンの会話や複雑な指示ではQwenに劣り、知識量はモデルの規模に制約される。Artificial Analysisは出力が非常に冗長だと指摘し、VentureBeatは英語以外の一部言語で文が途切れることがあると報じている。今回の公開は、11月5日に登場した5940億パラメータの大型モデル「Inkling 2 Small」に続くものだ。
開発者はHugging Faceから重みを無料でダウンロードし、Ollama、vLLM、llama.cppといった人気のローカルツールで利用できる。報道によれば、32GB以上のメモリを搭載したMacで十分動作し、UnslothによるコミュニティのGGUF版はさらに少ないメモリの環境を想定している。クラウドを好む利用者向けには、Thinking Machinesが自社APIで提供しており、Artificial AnalysisとVentureBeatによると料金は入力100万トークンあたり0.15ドル、出力100万トークンあたり0.50ドル。同社のファインチューニング基盤Tinkerでカスタマイズも可能だ。対応言語の公式リストはまだ公表されていないため、モロッコや周辺地域のアラビア語利用者は、まず自分の用途で試すのがよいだろう。Apache 2.0ライセンスは、利用規約(AUP)のもとで商用利用を認めている。



