추측 디코딩의 수락률이 사고 사슬이 길어질수록 떨어진다는 통념이 실제 측정에서는 나타나지 않았다는 논문이 2026년 10월 22일 arXiv에 올라왔다. 연구진은 MATH-500의 500문제 전체에서 생성 위치별 수락률을 쟀고, 탐욕 디코딩의 반복 병리(repetition pathology)를 분리한 뒤 지원 범위 안에서는 네 가지 설정 모두 위치에 따른 감소가 없었다고 밝혔다.
실험은 대상 모델 DeepSeek-R1-Distill-Qwen-7B에 서로 독립적인 초안 모델 두 개를 붙여 진행했다. 같은 계열인 DeepSeek-R1-Distill-Qwen-1.5B와 다른 계열인 Qwen2.5-1.5B-Instruct이며, 탐욕 디코딩과 샘플링 디코딩을 모두 썼다. 검증 라운드는 약 178만 번이다. 지원 범위는 탐욕 디코딩 0~8K, 샘플링 0~12K 토큰이다.
측정 결과
연구진은 같은 문제 안에서 앞뒤를 짝지어 비교하는 검정을 썼다. 탐욕 디코딩에서 나타나는 반복 병리를 분리하자 위치에 따른 수락률 하락이 사라졌고, 각 풀이의 후반부 수락률은 전반부보다 근소하지만 유의하게 높았다.
샘플링 모드에서 고엔트로피 반성 토큰의 수락이 나빠 보이던 현상은 샘플링 온도를 바꿔 가며 통제 실험을 한 결과, argmax 일치만 보면 그렇게 보이는 가시성 착시(visibility artifact)로 드러났다. 기대 수락 확률이 실제로 떨어진 것은 아니라고 연구진은 설명했다.
거절은 "wait", "however", "check" 같은 반성 유발 토큰에 높은 정밀도로 몰렸다. 연구진이 균등, 반성 표시, 엔트로피 가중의 세 방식으로 LoRA 궤적 정렬을 가볍게 적용해 봤지만 평균 수락 길이는 개선되지 않았다.
이 통념은 초안 모델 공동 설계와 위치 인식 학습의 근거로 쓰여 왔다. 기존 증거 대부분은 오프라인 학습 길이가 추론 때보다 훨씬 짧은 학습형 초안 모델에서 나왔다. 연구진은 이번 결과가 독립 초안-대상 쌍에 없던 위치 기준선이며, 남은 실패는 위치가 아니라 결정 지점의 엔트로피에 있다고 주장한다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.