미라 무라티의 Thinking Machines가 약 20GB 메모리만 있으면 되는 264억 파라미터 무료 오픈 웨이트 모델 Inkling 2 Mini를 공개했다.

OpenAI 최고기술책임자 출신 미라 무라티가 세운 샌프란시스코 스타트업 Thinking Machines Lab이 11월 20일 Inkling 2 Mini를 공개했다. 오픈 웨이트 모델, 즉 누구나 파일을 내려받아 자신의 하드웨어에서 실행할 수 있는 모델로, 허용 범위가 넓은 Apache 2.0 라이선스로 Hugging Face에 게시됐다. 전체 파라미터는 264억 개지만 전문가 혼합(MoE) 설계 덕분에 토큰, 즉 텍스트의 작은 조각 하나당 34억 개만 사용한다. 가장 독특한 점은 루프 구조다. 24개 층 가운데 가운데 12개 층을 토큰마다 세 번씩 실행해, 가중치를 늘리지 않고도 추론의 깊이를 더한다. 회사 측은 모델 전체가 약 20GB 메모리에 들어간다고 밝혔다.

Thinking Machines는 Inkling 2 Mini가 여러 에이전트 코딩 테스트에서 1000억 파라미터 미만 오픈 웨이트 모델 가운데 1위라고 주장한다. DeepSWE v1.1에서 48.2%, SWE-bench Verified에서 79.2%를 기록했으며, 후자에서 알리바바의 Qwen3.8-27B는 77.8%였다. 독립 평가 기관 Artificial Analysis는 자체 Intelligence Index에서 20점을 부여했는데, VentureBeat에 따르면 이는 Qwen3.8-27B와 같은 점수다. 다만 테스트 과제 하나를 처리하는 비용은 약 0.59달러로 Qwen 모델의 3.53달러보다 훨씬 낮았다. 회사는 약점도 숨기지 않았다. 여러 차례 주고받는 대화와 복잡한 지시에서는 Qwen에 뒤지고, 사실 지식은 모델 크기에 따라 제한된다. Artificial Analysis는 답변이 매우 장황하다고 평가했고, VentureBeat는 영어 외 일부 언어에서 문장이 끊기는 현상을 전했다. 이번 공개는 11월 5일 나온 훨씬 큰 5940억 파라미터 모델 Inkling 2 Small에 이은 것이다.

개발자는 Hugging Face에서 가중치를 무료로 내려받아 Ollama, vLLM, llama.cpp 같은 인기 로컬 도구로 실행할 수 있다. 보도에 따르면 메모리 32GB 이상인 Mac이면 충분하고, Unsloth의 커뮤니티 GGUF 버전은 더 적은 메모리의 기기를 겨냥한다. 클라우드를 선호하는 사용자를 위해 Thinking Machines는 자체 API로 모델을 제공하며, Artificial Analysis와 VentureBeat에 따르면 가격은 입력 100만 토큰당 0.15달러, 출력 100만 토큰당 0.50달러다. 회사의 파인튜닝 플랫폼 Tinker에서 맞춤 조정도 가능하다. 지원 언어 공식 목록은 아직 나오지 않아, 모로코와 인근 지역의 아랍어 사용자는 먼저 자신의 작업으로 시험해 보는 것이 좋다. Apache 2.0 라이선스는 허용 가능한 사용 정책과 함께 상업적 이용을 허용한다.