Mistral AI가 Large 4(별칭 Le Chonk)의 개선판을 모든 사용자에게 공개했다. 같은 달 앞서 공개 미리보기로 제공한 모델이며, Mistral은 이번 버전을 코딩에 가장 뛰어난 오픈 웨이트 모델이라고 주장한다. The Verge의 보도는 2026년 10월 29일 23시 36분(시간대 미표기)에 올라왔다.1
가중치는 Hugging Face 저장소 mistralai/Mistral-Large-4-1T-A52B에 올라 있고, API에서는 mistral-large-4라는 이름으로 쓸 수 있다. 라이선스는 MIT를 고친 Mistral Ecosystem Open-Weight License로, 상업·비상업 용도 모두 허용한다. 다만 모델을 서비스 형태로 제공하는 사업(Model-as-a-Service)을 하려면 Mistral과 별도의 상업 라이선스를 맺어야 한다. 같은 날 Hugging Face의 transformers v5.22.0이 이 모델 지원을 새 모델 항목에 넣었다.2,3
구조와 기능
Large 4는 네이티브 멀티모달 전문가 혼합 모델로, 총 매개변수가 약 1조 개이고 토큰당 활성 매개변수는 490억 개(임베딩과 출력층까지 합치면 520억 개)다. 128개 라우팅 전문가 중 토큰마다 4개가 작동하고 공유 전문가 1개가 더해진다. Mistral은 유럽에 있는 자체 데이터센터에서 NVIDIA Grace Blackwell GPU 3,800장으로 처음부터 학습했다고 밝혔다.
멀티모달 입력으로 텍스트와 이미지를 받고 출력은 텍스트다. 크기와 가로세로 비율이 다양한 이미지를 처리하도록 학습한 Pixtral 방식 비전 인코더를 쓴다. 컨텍스트 창은 100만 토큰이고, 지시 수행·추론·코딩·에이전트 작업을 가중치 한 벌로 처리한다고 한다. 160개 넘는 언어를 지원하며 유럽연합 공식 언어를 모두 포함한다.2
추론 강도는 요청마다 low, medium, high(기본값) 중에서 고른다. 함수 호출, JSON 출력, 엄격한 JSON Schema 강제를 기본 지원하고 시스템 프롬프트를 잘 따른다고 한다. Mistral은 사이버 보안, 금융, 법률 업무에서 특히 성능이 좋고 시각 그라운딩에서는 폐쇄형 최상위 모델을 앞선다고 주장한다. 보안 분야에서는 오픈 웨이트 모델 가운데 최고 수준이면서 악의적 요청은 거절한다는 설명이다. 취약점 재현과 패치 작성 같은 작업이 나아졌다는 점도 The Verge가 Mistral의 설명으로 전했다.1,2
성능 수치
Mistral은 Artificial Analysis Coding Agent Index에서 Large 4가 48%를 기록해 선두 오픈 웨이트 모델 GLM-5.3과 사실상 같고, 작업당 토큰은 평균 47% 적게 쓴다고 밝혔다. Artificial Analysis Intelligence Index v5에서는 26점으로 서구 오픈 웨이트 모델 중 가장 높다고 Mistral은 주장한다. 중국의 선두 오픈 웨이트 모델은 이 종합 지수에서 더 높은 점수를 받았고, Mistral은 코딩과 사이버 보안에서는 Large 4가 특히 강하다고 설명했다.2
쓰는 방법
Mistral은 vLLM을 권장 배포 도구로 꼽았고 SGLang, transformers, llama.cpp도 지원한다. 미세 조정은 Axolotl, Unsloth, TRL로 할 수 있다. 저장소의 vLLM 예시는 전용 Docker 이미지에 GPU 8장 텐서 병렬(tensor-parallel-size 8)을 쓴다. 도구 호출과 추론 내용 분리를 위해 mistral 파서 옵션이 필요하다. GPU 메모리가 모자라면 최대 모델 길이나 동시 요청 수를 낮추라고 안내한다.
권장 샘플링은 모든 추론 강도에서 샘플링 온도 1.0, top_p 0.95다. 복잡한 프롬프트와 에이전트 작업에는 high, 빠른 대화에는 low, 일상 용도에는 medium을 권한다. 도구는 필요한 최소한으로 명확히 정의하라는 조언도 있다. Blackwell GPU용 양자화 NVFP4 체크포인트도 있으며, 메모리를 덜 쓰고 추론이 빠르면서 성능은 같다고 Mistral은 밝혔다. vLLM과 SGLang이 지원한다.
체크포인트에는 DSpark 추측 디코딩 초안 헤드가 들어 있다. BF16 밀집 MLA 초안 층 3개가 토큰 3개 단위로 후보를 제시하며, 출력은 바뀌지 않는다. Mistral이 측정한 처리량은 단독 서빙보다 최대 1.9배 높고, 실제 이득은 하드웨어와 작업에 따라 다르다. 코딩 에이전트가 필요하면 Mistral이 Large 4로 구동하는 오픈소스 CLI 도구 Mistral Vibe를 쓸 수 있고, 로컬 vLLM 서버에도 연결된다.
공식 데모 Space는 출시 첫 주 동안 방문자마다 소액의 공용 무료 사용량을 주며, 자신의 Mistral API 키를 써도 된다. Le_chonk 태그가 붙은 Space는 Le Chonk Gallery에 모인다.2
transformers v5.22.0
transformers v5.22.0은 새 모델로 Large 4를 넣었다. 저장소의 파이썬 예시를 쓰려면 transformers를 main 브랜치에서 설치해야 한다. 예시는 AutoModelForMultimodalLM을 쓰고 torchrun으로 GPU 8장에서 돌린다. 이번 릴리스에는 FP8 양자화 모델로 어댑터 학습(LoRA 등)을 할 수 있게 하는 변경도 있다. FP8 행렬곱에는 역전파가 추가됐다. 별개로 역전파가 전문가를 청크 단위로 역양자화하고 추론 때는 autograd를 건너뛰면서, MoE 계층 역전파의 최대 메모리가 8k 토큰 기준 약 28.9GiB에서 2.8GiB로 줄었다. 전문가 병렬 로직은 별도 파일로 분리했고, 이는 호환성을 깨는 변경으로 분류됐다. Nemotron 3.5 Transcribe 모델도 이번 버전에 추가됐다.2,3