성능과 평가

Proactive Memory, 에이전트 반복 행동 검증해 F1 52.6% 달성

이벤트를 보고 먼저 서비스를 제안하는 LLM 에이전트용 메모리 기법 Proactive Memory가 제안됐다. 새 벤치마크 ProactiveStream에서 F1 52.6%로, 외부 기준 모델 가운데 가장 강한 모델보다 21.4% 상대적으로 높았다.

루카스 ·

이벤트가 이어지는 환경에서 LLM 에이전트가 먼저 서비스를 제안하도록 돕는 메모리 기법 Proactive Memory(ProactMem)가 논문으로 제안됐다. 연구진은 새로 만든 벤치마크 ProactiveStream에서 전체 F1 점수 52.6%를 얻었고, 외부 기준 모델 5개 중 가장 강한 모델보다 21.4% 상대적으로 높다고 밝혔다.

논문은 2026-10-27 arXiv에 올라왔고, 코드도 공개됐다고 적혀 있다.

기억을 세 층으로 나누고 검증한다

선제형 에이전트는 진행 중인 관찰과 쌓인 이력을 바탕으로 서비스할 기회를 미리 포착한다. 연구진은 기존 방식이 최근 맥락이나 관련 기억의 검색에 치중해, 반복되는 행동 규칙이 맞는지 검증하고 현재 이벤트에 적용할 수 있는지 판단하는 데는 지원이 제한적이라고 지적했다.

ProactMem은 이력을 최근 이벤트, 시간에 따른 궤적, 행동 규칙의 세 갈래로 정리한다. 궤적에 담긴 사실은 원본 이벤트와 대조해 확인하고, 행동 규칙은 과거 이력을 다시 재생해 평가한 뒤 현재 조건과 맞춰 본다.

ProactiveStream 벤치마크

ProactiveStream은 세 가지 적용 범위를 다루는 장기 추적형 벤치마크다. 에이전트는 서로 분리된 이벤트 스트림을 시간 순서대로 처리하며, 정답은 에피소드를 고려한 기회 라벨로 매겨진다.

F1 52.6%는 연구진이 직접 구성한 ProactiveStream을 기준으로 한 수치다.

댓글

기사에 대한 의견이나 틀린 내용 제보를 남겨 주세요.

댓글을 불러오고 있습니다.