llama.cpp 프로젝트가 10월 20일 올린 b11751 빌드에서 Snapdragon 툴체인을 v0.8로 올리고 Hexagon v85를 활성화했다. 변경은 풀 리퀘스트 #30854로 반영됐다.
CPU, Adreno GPU, Hexagon NPU를 함께 쓰는 Snapdragon용 바이너리는 Android arm64와 Linux arm64 두 가지로 배포되며, 각각 설치 안내 문서가 따로 연결돼 있다. Windows arm64용으로는 CPU, OpenCL Adreno, CUDA 13, Vulkan 빌드가 올라와 있고, Snapdragon 이름이 붙은 빌드는 없다.
세부 변경은 빌드와 도구 쪽에 몰려 있다. CI와 빌드 스크립트의 툴체인을 v0.8로 올렸고, 아키텍처 버전 상한을 v85로 바꿨다. 일부 IoT 기기에서 필요한 swiv용 작은 Python 스크립트도 추가됐다.
개발 환경도 손봤다. TOOLS_ROOT를 유연하게 지정하도록 한 항목이 있고, 빌드·실행 스크립트가 adb 전송 방식의 Ubuntu 환경을 지원한다. flake8 경고를 고치고 이름 규칙을 snake_case로 통일했으며 옛 툴체인 참조도 정리했다.
이번 변경과는 별개로, 같은 릴리스 목록에서 macOS Apple Silicon의 KleidiAI 빌드와 openEuler 빌드는 DISABLED로 표시돼 있다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- ggml-org/llama.cpp b11751 github.com