Компания Миры Мурати Thinking Machines выпустила Inkling 2 Mini — бесплатную открытую модель на 26,4 млрд параметров, которой нужно лишь около 20 ГБ памяти.

Thinking Machines Lab, стартап из Сан-Франциско, основанный бывшим техническим директором OpenAI Мирой Мурати, 20 ноября выпустил модель Inkling 2 Mini. Это модель с открытыми весами: любой может скачать её файлы и запустить на собственном оборудовании. Она опубликована на Hugging Face под свободной лицензией Apache 2.0. Всего у модели 26,4 млрд параметров, но благодаря архитектуре «смеси экспертов» на каждый токен, то есть небольшой фрагмент текста, она задействует лишь 3,4 млрд. Её необычная черта — циклическое выполнение: из 24 слоёв средние 12 прогоняются трижды для каждого токена, что даёт больше глубины рассуждений без добавления новых весов. По словам лаборатории, вся модель помещается примерно в 20 ГБ памяти.

Thinking Machines утверждает, что Inkling 2 Mini опережает все открытые модели размером до 100 млрд параметров в нескольких тестах агентного программирования: 48,2% в DeepSWE v1.1 и 79,2% в SWE-bench Verified против 77,8% у Qwen3.8-27B от Alibaba в последнем. Независимая компания Artificial Analysis оценила модель в 20 баллов по своему Intelligence Index, что, по данным VentureBeat, равно результату Qwen3.8-27B, но выяснила, что одна тестовая задача обходится примерно в 0,59 доллара против 3,53 доллара у модели Qwen. Лаборатория открыто называет слабые места: модель уступает Qwen в многоходовых диалогах и сложных инструкциях, а её фактические знания ограничены размером. Artificial Analysis называет её очень многословной, а VentureBeat сообщает об обрывочных формулировках на некоторых языках, кроме английского. Релиз последовал за гораздо более крупной Inkling 2 Small на 594 млрд параметров, вышедшей 5 ноября.

Разработчики могут бесплатно скачать веса с Hugging Face и запускать их с помощью популярных локальных инструментов — Ollama, vLLM и llama.cpp. По имеющимся данным, достаточно Mac с памятью не менее 32 ГБ, а версии GGUF от сообщества Unsloth рассчитаны на менее мощные машины. Для тех, кто предпочитает облако, Thinking Machines предлагает модель через собственный API по цене 0,15 доллара за миллион входных токенов и 0,50 доллара за миллион выходных, по данным Artificial Analysis и VentureBeat; дообучить её можно на платформе компании Tinker. Официального списка поддерживаемых языков пока нет, поэтому арабоязычным пользователям в Марокко и регионе стоит сначала проверить её на своих задачах. Лицензия Apache 2.0 разрешает коммерческое использование с учётом политики допустимого использования.