llama.cpp 프로젝트가 b11710 빌드에서 CUDA 백엔드에 그룹 전문가 top-k 융합 기능을 추가했다. 변경 항목의 제목은 'cuda : add grouped experts top-k fusion'이고 풀 리퀘스트 번호는 #29181이다. 이 릴리스의 발행 시각은 2026-10-17 21:45로 표기돼 있으며 시간대는 적혀 있지 않다.1
변경 내역에는 'fuse grouped experts', 'add tests', 'add to graph_optimize' 항목이 적혀 있다. 이어 'hip fix' 커밋이 여러 차례 나왔고, 마지막은 HIP 버전 기준으로 게이트 처리하는 커밋('gate on hip version instead')이다. 무엇을 게이트했는지는 릴리스 노트에 적혀 있지 않다. 릴리스 노트에는 성능 수치나 속도 향상폭도 없다.
이 빌드는 macOS, iOS, Linux(Ubuntu), Android, Windows용 바이너리를 함께 배포한다. CUDA 사용자는 Ubuntu x64의 CUDA 12.8과 13.4, Ubuntu arm64의 CUDA 13.4, Windows x64의 CUDA 12.4와 13.4, Windows arm64의 CUDA 13.4 빌드를 받을 수 있다. Vulkan, ROCm 10.0, OpenVINO, SYCL 등 다른 백엔드 빌드도 같은 목록에 있다.1
약 20분 뒤인 같은 날 22시 4분에 b11711이 나왔다. CUDA의 fattn vec dispatch 코드에서 나던 -Wtautological-compare 컴파일러 경고를 고친 수정(#30519)으로, Signed-off-by에 Adrien Gallouët 이름이 올라 있다. 배포 파일 구성은 b11710과 같다.2
출처
- ggml-org/llama.cpp b11710 github.com
- ggml-org/llama.cpp b11711 github.com