추론 과제에서 파라미터 효율 미세 조정(PEFT)의 성능 격차를 줄이는 방법 NormTune이 논문으로 공개됐다. 논문은 2026년 10월 21일 arXiv에 올라왔다. NormTune은 LoRA, Bone, MoRA 같은 기존 PEFT 방식에 덧붙여 쓰는 전략으로, 업데이트가 부족한 층을 가중치 업데이트 노름에 따라 적응적으로 더 강하게 학습시킨다.
연구진은 S1K-1.1 데이터로 학습한 랭크 8 LoRA, Bone, MoRA에 NormTune을 넣으면 AIME 2024, MATH 500, GPQA, AIME 2025 네 벤치마크의 평균 정확도가 각각 24.24%, 11.33%, 16.21% 개선됐다고 밝혔다. 논문은 이 수치가 퍼센트포인트인지 상대 증가율인지 초록에서 따로 밝히지 않았다. 또 NormTune을 적용한 랭크 256 LoRA, Bone, MoRA는 S1 전체 미세 조정과 비슷한 성능을 보였으며, 연구진은 이 S1 전체 미세 조정 기준선 대비 평균 이득이 각각 2.17%, 0.93%, 3.00%라고 설명했다.
전체 미세 조정은 추론 과제에서 좋은 성과를 냈지만 GPU 자원을 많이 쓴다. PEFT는 이 비용을 줄이는 대안이지만, 연구진은 추론 과제에서 전체 미세 조정과 비교해 상당한 성능 격차가 관찰된다고 지적했다. 연구진은 이 격차가 노름 관련 과소 적응과 밀접하다고 설명했다. PEFT가 전체 미세 조정보다 눈에 띄게 작은 가중치 업데이트 노름을 만든다는 것이다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.