米拉·穆拉蒂创立的Thinking Machines发布Inkling 2 Mini,这是一款264亿参数的免费开放权重模型,仅需约20GB内存即可运行。

由OpenAI前首席技术官米拉·穆拉蒂创立的旧金山初创公司Thinking Machines Lab于11月20日发布了Inkling 2 Mini。这是一款开放权重模型,也就是说任何人都可以下载模型文件并在自己的硬件上运行。该模型以宽松的Apache 2.0许可证发布在Hugging Face上。模型总参数量为264亿,但得益于混合专家架构,每个token(即一小段文本)只调用34亿参数。它最与众不同之处在于循环结构:在24层中,中间的12层会对每个token运行三次,从而在不增加权重的情况下加深推理。该实验室表示,整个模型只需约20GB内存。

Thinking Machines称,Inkling 2 Mini在多项智能体编程测试中领先所有参数低于1000亿的开放权重模型,在DeepSWE v1.1上得分48.2%,在SWE-bench Verified上得分79.2%,而阿里巴巴的Qwen3.8-27B在后者上为77.8%。独立评测机构Artificial Analysis在其Intelligence Index中给出20分,据VentureBeat报道与Qwen3.8-27B持平,但该机构发现它完成每项测试任务的成本约为0.59美元,而Qwen模型为3.53美元。实验室也坦承其短板:在多轮对话和复杂指令方面落后于Qwen,事实性知识受规模所限。Artificial Analysis认为它的输出非常冗长,VentureBeat则报道它在部分非英语语言中会出现语句截断。此次发布距离规模大得多的5940亿参数模型Inkling 2 Small于11月5日推出仅约两周。

开发者可以从Hugging Face免费下载权重,并通过Ollama、vLLM和llama.cpp等常用本地工具运行。据报道,内存不少于32GB的Mac即可运行,而Unsloth社区制作的GGUF版本面向内存更小的设备。对于偏好云端的用户,据Artificial Analysis和VentureBeat,Thinking Machines通过自有API提供该模型,每百万输入token收费0.15美元,每百万输出token收费0.50美元,还可在公司的微调平台Tinker上进行定制。官方尚未公布支持语言列表,因此摩洛哥及周边地区的阿拉伯语用户最好先用自己的任务进行测试。Apache 2.0许可证允许商业使用,但需遵守可接受使用政策。