추론 비용을 줄이는 방법으로 알려진 토큰 신뢰도 점수 가운데 2048토큰 구간 평균 신뢰도의 최솟값을 쓰는 방식이 정답 여부보다 추론 체인의 길이를 주로 재고 있다는 분석 논문이 2026년 10월 27일 arXiv에 공개됐다. 소형 모델 실험에서 체인을 길이순으로만 줄 세워도 이 신뢰도 점수와 같거나 더 나은 결과가 나왔고, 길이를 통제하면 점수에는 정답을 가리는 정보가 남지 않았다.
추론 모델은 긴 사고 과정을 써서 수학 문제를 푼다. 문제 하나에 여러 체인을 만들어 다수결로 답을 고르면 정확도가 오르지만 생성하는 글의 양이 크게 늘어난다. 이 비용을 줄이려는 방법은 모델이 쓰는 각 토큰에 대한 신뢰도를 매기고, 2048토큰 구간의 평균 신뢰도가 가장 낮은 값을 기준으로 체인을 남기거나 중간에 멈춘다.
신호 처리 도구로 점검
연구진은 토큰별 신뢰도 기록을 오디오나 전파 같은 신호로 보고 스펙트럼 분석과 급변 지점 검출 통계 검정으로 이 방법을 살폈다. 작은 오픈 추론 모델로 수학 벤치마크 두 곳에서 500문제를 골라 문제마다 체인 16개를 뽑았다.
구간 최솟값 점수는 대체로 체인이 얼마나 긴지를 나타냈다. 연구진은 서서히 변하는 신호는 관찰 구간이 길수록 최솟값이 우연만으로도 낮아지는데, 신뢰도 신호가 천천히 변해서 이 효과가 지배적이라고 설명했다.
스펙트럼에는 길이로 설명되지 않는 작은 신호가 있었다. 오답 체인에서 토큰 사이 신뢰도 변동이 더 빠르게 나타났다. 다만 이 신호가 너무 약해서 다수결 결과를 개선하지는 못했다.
체인을 일찍 멈추는 용도에서도 이동 평균 방식과 고전적인 변화 검출기 모두 체인 수를 줄여 뽑는 단순한 선택을 넘지 못했다.
이 결과는 소형 모델 하나와 수학 벤치마크 두 곳에서 얻은 것이다. 더 큰 모델이나 다른 과제에서도 같은 결론이 나오는지는 이 논문만으로 판단할 수 없다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.