StepFun이 Step 5 Preview의 가중치를 공개했다. FP8와 BF16 체크포인트를 Hugging Face와 ModelScope에서 받을 수 있다. 이 모델은 총 600B 파라미터 가운데 토큰당 27B만 활성화하는 희소 전문가 혼합 구조이고, 컨텍스트 창은 최대 100만 토큰이다.
API는 9월 20일에 먼저 나왔고 가중치는 10월 14일에 풀렸다. API 요금은 입력 100만 토큰당 1.00달러, 출력 2.70달러이며 캐시 적중분은 0.10달러다. 출력 요금에는 추론 토큰이 포함된다. API는 low, medium, high 세 단계의 추론 강도, 도구 호출, JSON Schema 출력을 지원한다.
StepFun은 이 모델을 소프트웨어 엔지니어링, 전문 지식 업무, 금융용 주력 모델로 내세운다. 큰 코드베이스를 탐색하고 여러 파일의 수정을 조율하며, 코드를 실행해 결과에 따라 고쳐 나간다. 긴 문서, 차트, 스크린샷, 영상을 분석해 구조화된 보고서를 만드는 용도도 내세운다.
구조와 실행 환경
StepFun 기술팀이 밝힌 내부 구조는 폭이 좁고 깊은 트랜스포머 블록 92개다. 게이트가 붙은 슬라이딩 윈도 어텐션과 전체 어텐션 층을 3대 1로 섞었고, 전체 어텐션 층은 쿼리마다 과거 토큰 4,096개를 8개 단위 블록으로 점수를 매겨 고른다. MTP-3 헤드를 쓰는 추측 디코딩으로 종단 속도가 약 30% 빨라진다고 한다. 학습에는 FP8 혼합 정밀도와, 검증 가능한 에이전트 환경 100만 개 규모의 강화 학습을 썼다.
데이터센터급 GPU가 필요하다. FP8 체크포인트만 650.32GB다. FP8은 vLLM이나 SGLang에서 B300 4장 또는 H200 8장(각 1노드)으로 돌리고, BF16은 vLLM에서 B300 8장 1노드 또는 H200 16장 2노드가 필요하다. vLLM과 SGLang은 전용 Docker 이미지를 내놓았고 OpenAI 호환 API를 제공한다. Blackwell GPU에서 expert-parallel 모드는 MegaMoE 백엔드를 쓴다. Transformers는 오프라인 생성만 지원하며, BF16 전체 샤드 워크플로는 끝까지 검증을 마치지 못했다. 권장 샘플링은 온도 1.0, top_p 0.95, top_k 0이다.
벤치마크와 비교
StepFun은 자체 평가를 High 추론 설정에서 돌렸고, 비교 차트의 경쟁 모델은 Max 설정이어서 조건이 같지 않다. Hugging Face 모델 카드의 수치는 DeepSWE v1.1 67.7(SWE-agent 하네스, 온도 1.0), Terminal-Bench 4.0 33.3, Agents' Last Exam(ALE-CLI) 29.5다. 금융 평가 FrontierFinance는 66.4%로 GLM-5.3과 Kimi K3를 앞서지만 Claude Opus 5의 69.7%에는 못 미친다.
독립 수치는 Artificial Analysis가 OpenRouter를 통해 잰 결과다. Intelligence Index 43.7, 긴 문맥 추론 AA-LCR 88.3%, Humanity's Last Exam 46.5%, GDPval-AA 54.3%다. Vals AI 평가에서는 SRE Bench 0.4%, Harvey의 Legal Agent Benchmark 9.2%로 약점이 드러났다. 한편 Terminal-Bench 4.0에서 Step 5 Preview 33.3%와 GLM-5.3 41.9%는 독립 측정이 아니라 StepFun 비교 차트에 실린 수치다.
| 항목 | Step 5 Preview | GLM-5.3 | Kimi K3 |
|---|---|---|---|
| 총 파라미터 | 600B | 753B(HF 파일 크기 기준) | 2.8T |
| 활성 파라미터 | 27B | 미공개 | 104B |
| 컨텍스트 | 1M | 1M | 1M |
| 입력 | 텍스트, 이미지(API는 영상 추가) | 텍스트 | 텍스트, 이미지 |
| 가중치 형식 | FP8, BF16 | BF16, FP8 | MXFP4 |
| 라이선스 | StepFun Model License 1.0 | GLM-5.3 license | Kimi K3 License |
| DeepSWE v1.1 | 67.7 | 66.9 | 67.5 |
| Terminal-Bench 4.0 | 33.3 | 41.9 | 12.6 |
| FrontierFinance | 66.4 | 64.1 | 62.6 |
| API 가격(입력/출력, 100만 토큰) | $1.00 / $2.70 | 미공개 | $3.00 / $15.00 |
같은 차트에서 코딩 성능은 공개 가중치 모델인 GLM-5.3, Kimi K3와 비슷하고 GPT-6 Astra와 Claude Opus 5에는 뒤진다. 자체 호스팅 최소 구성은 표에서 Step 5 Preview만 B300 4장(FP8)으로 올라 있고, GLM-5.3과 Kimi K3는 미공개로 표시돼 있다.
API 가격은 Kimi K3가 입력 3.00달러, 출력 15.00달러이고 Step 5 Preview는 입력 1.00달러, 출력 2.70달러다. GLM-5.3의 API 가격은 표에 미공개로 적혀 있다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.