LLM 에이전트가 쌓은 경험에서 지식을 뽑아 쓰고 모델에도 반영하는 학습 프레임워크 SPLICE가 arXiv에 공개됐다(2026년 10월 22일 게재). 연구진은 여러 분야 실험에서 SPLICE의 평균 정확도가 지식 진화 기법보다 최대 7.1점, 모델 학습 기법보다 최대 4.6점 높았다고 밝혔다.
SPLICE로 만든 지식을 쓰면 정답 하나를 내는 데 드는 출력 토큰이 최대 44% 줄었다. 이 지식은 모델 크기와 모델 계열이 달라도 옮겨 쓸 수 있었다고 연구진은 밝혔다.
같은 경험, 다른 지식
기존 방법은 경험에서 스킬이나 메모리 같은 외부 지식을 추출해 이후 과제 풀이에 쓴다. 일부는 이 지식을 모델 학습으로 모델에 내재화하기도 한다. 연구진은 같은 경험이라도 분석하고 변환하는 방식에 따라 지식의 효용이 크게 달라진다고 지적했다. 겉보기에 그럴듯한 지침이어도 마찬가지라는 것이다.
작동 방식
SPLICE는 일관성 정규화(consistency regularization)에서 착안했다. 하나의 분석 방식에 기대지 않고, 같은 경험을 다르게 분석해도 효용 이득이 일관되게 나타나는 지식을 가려낸다. 이를 위해 경험을 분석하는 방식을 바꿔 가며 여러 진화 관점을 만들고, 관점마다 다른 지식 후보를 얻는다. 지식 갱신은 효용 이득과 관점 간 일관성을 함께 반영하는 공통 이득을 기준으로 이뤄진다.
모델 쪽에서는 강화 학습과 함께 자기 증류로 진화한 지식을 모델에 내재화한다. 이때 효용이 일관되게 떨어진 지식은 대조 기준으로 쓴다. 지식 진화와 모델 진화는 번갈아 진행되며, 모델이 갱신되면 다시 지식 진화를 이끈다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.