Ricursive, 코딩 에이전트용 Ripple-65B 공개, Terminal-Bench 2.1 80.5점

Ricursive가 코딩 에이전트용으로 처음부터 사전 학습한 650억 매개변수 오픈 웨이트 모델 Ripple-65B Preview를 공개했다. 이 모델은 Terminal-Bench 2.1에서 80.52점을 받았다고 회사가 밝혔고, 가중치는 Apache 2.0 라이선스로 Hugging Face에서 받을 수 있다.

공개 파일은 세 가지다. 지시 학습을 마친 BF16 모델, 양자화한 NVFP4 버전, BF16 기반 모델이다. 데이터센터 GPU에서는 BF16으로 돌리며, 양자화하기 전 기준으로 B200 두 장에 배치 8을 걸면 초당 250토큰을 낸다고 한다. 실험 단계인 NVFP4 빌드는 MLP 층만 양자화하고 어텐션은 BF16으로 두며, Ricursive는 이를 NVIDIA DGX Spark 같은 로컬 장비용으로 내세웠다. DFlash2 변형도 함께 올라와 있다.

서비스 쪽에서는 Together AI, GMI Cloud, OpenRouter가 출시 시점의 제공처로 올라 있고 Fireworks는 나중에 추가된다. 다만 Together AI 페이지에는 아직 이 모델이 '곧 제공'으로 표시돼 있다.

설계와 학습 방식

Ripple-65B는 전문가 혼합이 아닌 밀집 트랜스포머라서 활성 매개변수가 총 매개변수와 같은 650억 개다. Ricursive는 인프라 복잡도를 줄이려고 이 구조를 골랐다고 밝혔다. 12조 토큰으로 사전 학습했고 컨텍스트는 최대 100만 토큰이다. 말뭉치는 텍스트만으로 이뤄졌고 영어와 코드가 대부분이며 시퀀스 길이는 8K였다. 이 모델은 회사의 AI 반도체 설계 플랫폼에 쓰는 독점 모델의 범용 변형이다.

모델은 d_model 5120에 80개 층으로 얇고 깊게 짰다. OLMo 3의 Llama 계열 배치에서 출발해 안정성을 위해 Gemma 3N 계열 설계로 옮겼다. 추론용으로 어텐션 헤드를 넉넉히 두는 대신 슬라이딩 윈도 층을 늘리고 윈도를 줄였으며, 게이트 어텐션, 전역 NoPE, 값 잔차를 썼다. gpt-oss에도 쓰인 FFN 활성값 클리핑도 넣었다. 학습은 단순한 샤딩만 썼고 맞춤 커널과 양자화 없이 MFU 40%를 유지했다고 한다.

사후 학습은 미드트레이닝, 긴 컨텍스트 단계, 지도 미세 조정, 긴 컨텍스트 SFT, 혼합 강화 학습 순으로 했다. 긴 컨텍스트 단계들은 2M 시퀀스 길이로 학습했다. 사후 학습 데이터는 사들이지 않고 자체 합성 데이터 파이프라인으로 만들었다. 강화 학습에는 절단 중요도 샘플링, 점수 중심화, 선형 길이 페널티를 조합했고, 롤아웃 140만 건으로 80.5점에 이르렀다. Ricursive는 이를 1억 건이 넘는 롤아웃을 보고한 Beam의 약 70분의 1이라고 설명했다.

Ricursive는 전체 연구개발비가 3,200만 달러라고 밝혔다. 사다리 실험, 데이터 배합, 평가, 합성 데이터, 최종 학습이 모두 들어간 금액이며, 이전 오픈 웨이트 코딩 에이전트 선두 모델의 10분의 1 수준으로 추산했다. 레시피는 OLMo 3의 사다리 실험에서 출발한 사다리 실험으로 다듬었고, 4B 규모에서 유지되지 않은 변경은 2-stream mHC처럼 기각했다. 회사의 기술 글은 4B 규모에서 코드 컴퓨트 효율이 16배 올랐다고 보고했다.

벤치마크 비교

표의 수치는 모두 자체 보고다. Ripple 점수는 Ricursive 모델 카드에서, 경쟁 모델 점수는 각 업체 자료에서 가져왔고, 빠진 평가는 Ricursive가 OpenCode로 직접 돌렸다. SWE-bench Pro v2.0 Hard와 DeepSWE 1.1은 Terminus 2로 실행했다. Ricursive는 80.5점이 미국 오픈 웨이트 모델 가운데 자체 보고 최고점이라고 주장한다. Ricursive 자체 보고에 따르면 이 시험에서 Ripple이 앞선 MoE 경쟁 모델은 모두 총 매개변수가 501B에서 975B다.

SWE-bench Pro v2.0 Hard는 79.1점으로 Ricursive 표에서 가장 높았다. 수학은 AIME 2025 98.3점, HMMT Feb 2026 90.5점이다. 반면 SciCode 39.4점은 이 표의 다섯 모델 중 가장 낮고, DeepSWE 1.1 44.3점, MCP Atlas 71.67점, GPQA Diamond 85.2점도 약한 편이다. SWE-bench Verified 76.5점은 Beam과 Inkling보다 낮다.

공식 Terminus 2 하네스에서 128K로 Terminal-Bench 2.1을 다시 돌렸을 때는 대부분의 경쟁 모델 점수가 내려갔다. Beam은 70.8점으로 떨어졌고, Muse Spark Open은 78.7점으로 올랐지만 Ripple의 80.5점에는 못 미쳤다고 Ricursive는 밝혔다.