llama.cpp, DeepSeek-V4.1-Flash 지원 추가 빌드 b11870 공개

llama.cpp 프로젝트가 빌드 b11870에 DeepSeek-V4.1-Flash 모델(deepseek41) 지원을 넣었다. 풀 리퀘스트 번호는 #31086이며, 릴리스는 2026년 10월 25일 11시 15분에 올라왔다.

빌드는 macOS, Ubuntu, Android, Windows용 압축 파일로 배포되고, iOS는 XCFramework로 내려받는다. UI 아카이브도 따로 제공한다. CUDA 12와 13, Vulkan, ROCm 10.0, OpenVINO, SYCL 버전이 있고, Snapdragon용 빌드는 CPU, Adreno GPU, Hexagon NPU를 지원한다. Apple Silicon용 KleidiAI 빌드와 openEuler 빌드는 비활성화 상태다.¹

DeepSeek-V4.1-Flash 구현 내용

b11870의 DeepSeek-V4.1-Flash 구현에서는 MXFP8을 뺐고, Engram 테이블은 BF16으로 변환한다. Engram 행을 호스트에서 모으던 방식을 없애고 그래프 안에서 모으도록 바꿨으며, 이는 qwen4exp 방식과 같다. Engram 해시 상수는 hparams.ple_*에 두고 Engram 층마다 모듈을 하나씩 둔다.

압축 KV 읽기 층은 캐시에서 한 번만 계산하도록 바꿨다. 공유 기록 확인에는 get_cells()를 쓰고 llama_kv_cache::seq_pos_tok_le는 없앴으며, LLAMA_DSV41_KV_MIRROR 토글도 제거했다. 희소 모음(sparse gather) 전에 Top-k 행을 정렬하고, build_hc_mixes에서는 il을 마지막에 둔다. Metal 융합 기준 테스트에도 deepseek41을 추가했다. 공동 작성자로 Daniel Han이 올라 있다.¹

b11870보다 먼저 나온 빌드

b11868(2026년 10월 25일 5시 23분)은 b11870보다 먼저 나왔다. Hexagon 백엔드의 멀티코어 HMX 플래시 어텐션에 KV 헤드 단위 분할을 넣었고, FA_HEAD_SPLIT와 FA_SPLIT 플래그는 GGML_HEXAGON_FA_SPLIT 하나로 합쳤다. 값 0은 토큰 분할만 쓰고, 1은 헤드 분할을 쓰되 KV 헤드 수가 코어 수보다 적으면 팀 분할도 함께 써서 놀던 코어를 참여시킨다. 예로 Gemma 4는 KV 헤드가 2개이고 코어가 4개다. 헤드가 코어에 고르게 나뉘면 헤드 분할만 쓴다.²

b11869(같은 날 6시 18분)도 b11870보다 앞선 빌드로, Jinja 템플릿의 select와 selectattr 인자 처리 오류를 고쳤다.³