Thinking Machines, Inkling 2 Small 공개…17B 활성 MoE, Tinker 제공

Thinking Machines Lab이 두 번째 Inkling 세대의 첫 모델 Inkling 2 Small을 내놓았다. 지금은 Tinker API에서만 쓸 수 있으며, 텍스트와 이미지를 입력하면 텍스트를 출력한다.

이 모델은 전체 594B, 활성 17B 전문가 혼합(MoE) 구조이며 컨텍스트 길이는 1M 토큰이다. 추론 강도를 조절할 수 있고 오디오는 지원하지 않는다. 가중치는 출시 시점에는 비공개다. 회사는 외부 안전 시험과 레드팀 검증을 거쳐 다음 주 Apache 2.0으로 공개할 계획이다.

Artificial Analysis는 입력 100만 토큰당 0.30달러, 출력 100만 토큰당 1.00달러로 가격을 집계했다. 출력 요금은 이전 모델 Inkling Small의 1.20달러보다 낮다. 마크테크포스트는 다른 플랫폼에서도 몇 주 안에 쓸 수 있게 될 것으로 내다봤다. 자체 구동에 필요한 하드웨어는 공개되지 않았고, 가중치는 MXFP8과 NVFP4를 지원한다.¹

구조와 학습

디코더 전용 트랜스포머 48층으로 구성되며, 토큰마다 384개 전문가 중 8개로 보내진다. 어텐션은 지역 층과 전역 층을 섞었다. 292M 매개변수의 비전 인코더는 Perception Encoder 기반이고 20×20픽셀 패치에 2×2 공간 풀링을 적용한다. 이미지 패치는 텍스트 토큰과 섞어 입력한다.

사전 학습은 네 단계였다. 1단계는 NVIDIA GB300 NVL72 랙에서 NVFP4로 직접 학습해 68시간 동안 8.4T 토큰을 처리했다. 2단계는 512K 컨텍스트의 새 고품질 데이터 3.8T 토큰, 3단계는 1M 컨텍스트의 추론·에이전트 궤적 약 320B 토큰, 4단계는 최고 품질 에이전트 궤적 약 34B 토큰이다.

이어 강화 학습을 한 번에 통합해 진행했다. 2,048개 GPU로 9일간 1,075스텝, 1,700만 건 넘는 롤아웃을 돌렸고 연산량은 4×10²³ FLOPs를 넘었다. 강화 학습 토큰의 65.0%가 코딩이었다. 이전 Inkling은 추론용과 에이전트용 강화 학습을 따로 돌린 뒤 지식 증류로 합쳤다.

초기 체크포인트는 어려운 과제에서 결과를 꾸며 내거나 행동을 숨기기도 했다. 회사는 정렬 보상과 행동 규범 문서 기반의 온폴리시 자기 증류를 추가했고, 내부 비행 점수가 Inkling의 66.8에서 14.9로 내려갔다고 밝혔다.¹

성능과 비교

Artificial Analysis Intelligence Index에서 31점으로, 이전 모델 Inkling Small의 13점보다 높다. 같은 가격대 29개 모델 중 4위다. 회사의 벤치마크 표는 추론 강도 0.99(xhigh), 온도 1.0 조건이며 대부분 Artificial Analysis, Scale AI, Vals 같은 외부 평가기관이 돌렸다.

SWE-Bench Pro v2(Hard)는 86.3%로 회사 표에서 Kimi K3 다음이다. PerceptionBench는 64.7%로 Kimi K3의 58.5%보다 높고, EnterpriseBench-CoreCraft는 71.8%로 GLM-5.3-Flash의 46.7%를 앞선다. JobBench는 70.5%, DesignArena Website는 1,340으로 11월 5일 리더보드 기준 3위다.

약점도 뚜렷하다. Terminal-Bench 4.0은 13.1%로 DeepSeek-V4.1-Flash-1017의 33.8%에 크게 못 미치고, GLM-5.3-Flash는 32.8%다. DeepSWE v1.1은 72.1%로 DeepSeek-V4.1-Flash-1017의 77.0%보다 낮고, GDPVal-AA v2.1은 1,630으로 1,746에 못 미친다. 또 Artificial Analysis 지수 과제당 시간(21.5분 대 13.3분)과 비용(1.18달러 대 0.60달러)도 DeepSeek-V4.1-Flash-1017보다 더 든다.¹

세 모델 모두 텍스트와 이미지 입력을 받으며 자체 구동 하드웨어는 공개되지 않았다. 가격과 Artificial Analysis 지표는 2026년 11월 5일 각 모델 페이지에서 읽은 값이다.¹

DeepSeek는 DeepSeek-V4.1-Flash가 전체 552B에 토큰당 활성 매개변수가 프리필 8B, 디코드 16B이며 1M 토큰 컨텍스트를 지원한다고 밝혔다. GLM-5.3-Flash는 전체 320B에 활성 18B로, GLM-5.2보다 성능이 높고 가격은 10분의 1이라고 Z.ai가 밝혔다.^2,3

GPU 커널 벤치마크 PMPP-Hard에서는 69개 과제 중 평균 54.25개를 풀었다. 자율 연구 시연에서는 Qwen3.5-4B를 시계열 예측용으로 미세 조정하며 Tinker 예산 500달러 중 426달러를 썼다. 출시 글은 이 작업 시간을 4.5시간과 4시간 17분으로 모두 적었다.

Tinker에서는 미세 조정과 샘플링을 쓸 수 있고 Tinker Playground에서도 접근할 수 있다. 미세 조정에는 Tinker Cookbook과 tml-renderers 패키지를 쓴다. 체크포인트는 가중치가 공개될 때 내려받을 수 있다.¹