Ollama가 v0.40.6 시험판에서 GGUF 형식에 q2_0 텐서 타입과 파일 타입을 추가했다. 개발자 jmorganca가 올린 변경이다.
이번 빌드는 GitHub에 시험판으로 올라왔다. 변경 목록에 q2_0 외에 세 가지가 더 있다. Windows에서 러너가 고아 프로세스로 남지 않게 막는 수정, Ollama 클라우드에서 clef를 시작하는 변경, --ask 모드의 질문 키에 식별자를 쓰도록 한 변경이다.
Ollama 프로젝트는 q2_0의 용도나 성능, 지원 모델을 이번 목록에 적지 않았다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- ollama/ollama v0.40.6 github.com