llama.cpp, Snapdragon NPU 플래시 어텐션 멀티스트림 허용·긴 문맥 겨냥 변경

llama.cpp 프로젝트가 2026년 10월 19일 빌드 b11722와 b11723을 잇따라 내놓고 Hexagon 백엔드의 플래시 어텐션(어텐션 연산을 처리하는 FLASH_ATTN_EXT 연산) 처리를 바꿨다. b11722(#30218)는 10시 51분에 멀티스트림 플래시 어텐션을 허용했고, b11723(#30731)은 11시 6분에 긴 문맥과 SWA 모델을 겨냥한 변경을 담았다.

두 빌드의 변경 대상은 Hexagon 백엔드이며, 이를 쓸 수 있는 패키지는 Android arm64용과 Linux arm64용 Snapdragon 패키지다. 릴리스 페이지는 이 패키지를 'CPU, Adreno GPU, Hexagon NPU'를 지원하는 것으로 소개한다. 릴리스 페이지에는 Android용과 Linux용 설정 안내 문서가 각각 연결돼 있다.^1,2

b11723에는 세 가지 변경이 들어 있다. 마스크가 걸린 블록을 건너뛰는 기능은 DMA로 데이터를 가져오는 양을 줄이기 위해 넣었다. hmx에서 hvx로 넘어가는 전환(crossover) 기준값도 조정했는데, 변경 기록에는 이 항목에 'boosting gemma-4'라고 적혀 있어 gemma-4 모델의 성능을 높이려는 조정으로 보인다. 다만 실제로 성능이 올랐는지는 릴리스 기록에 나와 있지 않다. 또 HMX 사용 조건이 mdev.count를 반영하도록 고쳤다.²

b11722는 Hexagon 백엔드에서 플래시 어텐션을 멀티스트림으로 실행하도록 허용하는 변경 하나를 담았다.¹

두 빌드 모두 속도나 메모리 사용량 같은 성능 수치를 공개하지 않았다.^1,2