상호작용 경험으로 스스로 성능을 높이는 대규모 언어 모델(LLM) 에이전트가 실패 경험만 쌓은 상태에서는 이미 실패한 과제를 고치는 데 그치고, 처음 보는 과제에서는 지속적인 향상을 거의 보이지 못했다는 연구 결과가 나왔다. 2026년 10월 16일 arXiv에 공개된 논문 "Self-Evolving Agents Can Repair Failures but Struggle to Generalize from Them"의 내용이다.
연구진은 기존 자기 진화 방식이 대체로 성공한 수행 기록이나 외부 평가 신호에 기대고 있어, 이런 긍정적 기준점이 없을 때도 에이전트가 발전하는지 불분명하다고 보았다. 이를 확인하려고 '콜드 스타트 실패 전용 진화(CFOE)'라는 설정을 만들었다. 에이전트는 축적된 경험 없이 시작해 특별한 지침 없이 실패한 상호작용에서만 배운다.
실험에서 확인된 격차
실험은 자기 진화 방식 세 가지, 여러 LLM 기반 모델, 상호작용 환경 네 곳에서 이뤄졌다. 연구진은 실패에서 얻은 경험이 이전에 실패한 과제를 고치는 데는 도움이 되지만, 보지 못한 과제에서 지속적인 향상으로 이어지는 일은 드물다는 '수리-일반화 격차'가 일관되게 나타났다고 밝혔다.
추가 분석에서는 에이전트가 실패의 원인을 잘못 해석하는 경우가 잦았다. 정답으로 검증된 경험조차 다른 과제로 옮겨 쓰기 어려웠다.
CFOE 조건을 완화한 실험도 했다. 검증기(verifier)의 피드백을 주거나 상호작용을 더 허용해도 이득은 제한적이었다. 반면 성공한 수행 기록을 쓰면 다른 과제로의 전이가 크게 개선됐다. 연구진은 현재의 자기 진화 에이전트가 관찰된 실패를 고치는 데는 능하지만, 실패에서 일반화 가능한 능력을 쌓는 데는 약하다고 결론 내렸다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.