llama.cpp, ARM SVE 행렬 연산 커널 추가하고 Pixtral 토크나이저 교체

llama.cpp가 2026년 10월 22일 b11811, b11812, b11813 세 빌드를 잇달아 공개했다. b11811은 KleidiAI 경로에 Q8_0 SVE 내적 기반 GEMV 커널과 SVE i8mm 기반 GEMM 커널을 더했다. b11812는 모든 Granite 모델의 층 입력(layer inputs) 기록 방식을 바꿨고(#30957), b11813은 Pixtral의 사전 토크나이저를 Llama 3용에서 Tekken용으로 교체했다.

세 빌드 모두 같은 형태의 실행 파일을 배포한다. macOS(Apple Silicon, Intel)와 iOS XCFramework, Ubuntu x64·arm64·s390x CPU 빌드, Windows x64·arm64 CPU 빌드, Android arm64 빌드가 있다. 가속 백엔드로는 Vulkan, CUDA 12와 13, ROCm 10.0, OpenVINO, SYCL 빌드가 제공된다. Snapdragon용 빌드는 CPU, Adreno GPU, Hexagon NPU를 지원하며 별도 설정 안내 문서가 붙어 있다.^1,2,3

빌드별 변경 내용

b11811은 PR #30808로 kleidiai 항목에 Q8_0 SVE dotprod GEMV 커널과 SVE i8mm GEMM 커널을 추가했다.¹

b11812(#30957)는 브랜치 이름이 GraniteSpeculatorSupport이고, IBM 소속 Gabe Goodhart가 서명했다. 커밋 설명의 AI 사용 표시는 AI-usage: full (Claude + Sonnet 5.5)이며, 여기서 Claude가 언급된다.²

b11813(#30960)은 Pixtral이 Llama 3 대신 Tekken 사전 토크나이저를 쓰도록 바꿨다.³

세 빌드 모두 macOS Apple Silicon의 KleidiAI 활성 빌드가 비활성(DISABLED)으로 표시돼 있고 PR 23780이 링크돼 있다. openEuler 빌드도 세 빌드 모두 PR 23705와 함께 비활성으로 표시됐다.^1,2,3