에이전트와 개발

llama.cpp, LoRA 접힌 가중치와 dflash 입력 스케일 지원 추가

llama.cpp가 10월 22일 빌드 b11806에서 prism.hadamard로 접힌 LoRA 가중치를 지원하고, b11808에서 dflash의 선택적 입력 스케일 읽기를 추가했다.

루카스 ·

llama.cpp 프로젝트가 2026년 10월 22일 두 차례 빌드를 내놓았다. b11806은 LoRA 어댑터에서 prism.hadamard 방식으로 접힌 가중치를 읽도록 했고, b11808은 dflash가 선택 항목인 FC 입력 스케일을 불러오게 했다.

b11806은 한국 시각 15시 29분, b11808은 15시 47분에 올라왔다. 두 빌드 모두 Windows, macOS, Ubuntu, Android용 실행 파일과 iOS XCFramework가 함께 배포됐다. 다만 macOS Apple Silicon의 KleidiAI 빌드와 openEuler 빌드는 비활성(DISABLED) 상태다.

GPU 계열 빌드는 CUDA 12·13, Vulkan, ROCm, OpenVINO, SYCL로 나뉜다. Ubuntu x64용 SYCL은 FP32와 FP16 두 종류이고 Windows x64용은 SYCL 하나다. Snapdragon(CPU, Adreno GPU, Hexagon NPU) 빌드는 Linux arm64와 Android arm64용이며, Windows arm64에는 OpenCL Adreno 빌드가 따로 있다.1,2

두 빌드의 변경 내용

  • b11806: 변경 번호 #30910으로 LoRA가 prism.hadamard 접힌 가중치를 지원한다. 같은 변경에서 test-llama-archs 안에 있던 LoRA 테스트는 뺐다.
  • b11808: 변경 번호 #30945로 dflash가 선택 사항인 FC 입력 스케일을 읽는다. 커밋에는 Assisted-by: Codex라고 적혀 있다.

릴리스 노트는 접힌 가중치나 입력 스케일이 무엇인지, 어떤 모델에서 쓰이는지 설명하지 않는다. 성능 수치도 싣지 않았다.1,2

댓글

기사에 대한 의견이나 틀린 내용 제보를 남겨 주세요.

댓글을 불러오고 있습니다.