SST, 새 분야 학습 때 옛 능력 잃는 망각 줄이는 후학습 기법 제안

언어 모델을 새 분야에 맞춰 후학습할 때 이미 갖춘 능력이 떨어지는 파국적 망각을 줄이는 방법으로 Skill Schema Transport(SST)가 제안됐다. 새 도메인의 지식을 모델이 이미 가진 기술 공간으로 옮겨 익숙한 절차로 배우게 하는 틀이다. 논문은 2026-10-20자로 arXiv에 올라왔다.

연구진은 3B 규모의 지시 튜닝 모델 두 종류로 실험했다. 도메인을 순서대로 이어 학습시키는 지속 도메인 적응 환경에서 SST는 일반 순차 후학습보다 스트림 전체의 최종 평균 성능이 2.53~5.75점 높았다고 밝혔다. 평가한 모든 설정에서 최대 하락폭 기준 망각도 낮아졌다. 가장 크게 줄어든 경우는 Qwen-3B의 MATH 스트림으로, 42.41점에서 7.10점이 됐다. 순차 업데이트가 일으킨 분포 밖(OOD) 성능 저하도 상당히 회복했다고 한다.

기존 방식과 다른 접근

기존 방지책은 대체로 망각을 모델이 지나치게 변한 탓으로 본다. 그래서 이전 출력을 보존하거나 옛 데이터를 다시 학습하거나 파라미터와 표현의 변화를 규제해, 갱신된 모델이 이전 상태에서 멀어지지 않게 묶는다. SST는 갱신된 모델을 옛 상태로 끌어당기는 대신 새 도메인을 모델이 아는 지식 공간으로 번역한다.

각 예제 유형을 기술 스키마로 추상화하는 것이 핵심 단계다. 스키마에는 필수 연산, 의존 관계, 검증 단계를 남기고 분야별 표면 형식은 제거한다. 새 예제를 재사용 가능한 절차의 사례로 바꿔 쓰므로, 지식 갱신이 풀이 궤적을 외우는 일에서 절차를 재사용하는 일로 달라진다고 연구진은 설명했다. 관련 과제에 대한 일반화도 함께 좋아졌다고 밝혔다.