llama.cpp b11604의 변경 목록에 'kleidiai: add SME2 Q4_K and Q6_K matmul support'(#29219) 항목이 올랐다. SME2는 Arm 프로세서의 행렬 연산 확장 기능이고, Q4_K와 Q6_K는 모델 가중치를 낮은 비트로 줄여 저장하는 양자화 형식이다. 항목 제목은 Arm의 KleidiAI를 가리키는 'kleidiai:'로 시작하며, 서명자는 Arm의 Charles Xu다.
b11604는 GitHub 릴리스에 2026-10-14 07:18에 올라왔다. macOS, iOS, Ubuntu, Android, Windows용 빌드가 함께 올라와 있다.
macOS Apple Silicon의 KleidiAI 활성화 빌드는 'DISABLED'로 표시돼 있으며 별도 풀 리퀘스트(#23780)로 연결된다. 이번 변경이 어느 빌드에 담겨 실제로 쓸 수 있는지, 성능 수치나 지원 기기가 무엇인지는 릴리스 페이지에 나와 있지 않다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- ggml-org/llama.cpp b11604 github.com