연구진이 추론 모델의 풀이 과정을 다른 모델이 베끼는 지식 증류를 막으면서도 원래 모델의 성능을 지키는 기법 Conflict-Aware Logit Adapters(CALA)를 제안했다. 논문은 2026년 10월 22일 arXiv에 공개됐다.
CALA는 모델 학습 단계에서 적용하는 방어 기법이다. 이미 학습된 교사 모델은 그대로 얼려 두고 작은 잔차 어댑터만 붙여 이 어댑터만 학습시킨다. 추론할 때 생기는 추가 부담은 보통 수준이며 별도의 보조 모델은 필요 없다고 연구진은 밝혔다.
작동 방식은 이렇다. 대리 학생 모델이 흉내 내기에 가장 민감한 위치를 찾으면, 어댑터는 그 위치에서 출력 확률 분포를 흔들되 확률이 높은 범위 안에서만 움직인다. 증류 방지 목표와 성능 유지 목표가 부딪칠 때는 충돌을 고려한 최적화 전략으로 균형을 잡고, 규제 항으로 교사의 성능과 문장의 자연스러움을 지킨다.
연구진은 추론 과정이 모델 능력을 끌어올리지만 동시에 후속 증류의 학습 신호가 된다는 점을 문제로 짚었다. 기존의 초기 대응은 디코딩 단계에 개입하는 방식이었는데, 추론 부담이 크고 교사 모델의 자연스러운 문장을 해칠 수 있다고 한다.
연구진은 추론 벤치마크 실험에서 CALA가 학생 모델의 모방 성공을 크게 줄였고, 교사의 성능과 생성 품질은 원래에 가깝게 유지됐다고 밝혔다. 연구진은 CALA를 디코딩 단계 방식의 실용적이고 효율적인 대안이라고 주장했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.