SCOPE, 자연어 정책을 소형 모델 프로그램으로 바꿔 에이전트 규칙 집행

연구진이 자연어로 쓴 정책을 실행 가능한 프로그램으로 바꿔 LLM 에이전트의 규칙 준수를 판정하는 방법 SCOPE를 arXiv에 공개했다. 소형 모델이 실행하는 신경 술어, 결정론적 추출기, 이들의 출력을 조합하는 코드로 프로그램을 구성한다. 논문은 2026년 10월 22일자로 게재됐다.

연구진은 가장 약한 실행 모델로 최적화한 프로그램이 추가 최적화 없이 다른 모델로 옮겨 가며, 이 덕분에 저렴한 모델에 실제 서비스용으로 배포해도 최첨단 추론 모델에 견줄 정확도를 낸다고 밝혔다. 요금이나 코드 공개 여부는 논문 초록에 나오지 않는다.

기존 방식의 한계

연구진에 따르면 LLM 에이전트의 정책 집행은 한 번의 응답을 거르는 콘텐츠 검열에서, 여러 차례 오간 대화와 도구 호출 기록을 대상으로 하는 복합적인 서비스별 정책 판정으로 옮겨 왔다. 미세조정한 가드레일 모델은 효율적이지만 복합 정책에서 성능이 떨어진다. LLM 평가자 방식은 정확도가 더 높은 대신 추론 비용이 크고 예측이 불안정한 경향이 있다고 논문은 지적한다.

정책을 좁은 신경망 판단 여러 개로 쪼개 명시적 논리로 엮는 신경기호 방식도 있다. 그러나 기존 기호 계층은 표현력이 부족하고, 정책 자체가 아니라 고정된 데이터를 기준으로 최적화된다는 것이 연구진의 진단이다.

작동 방식과 평가 결과

SCOPE는 프로그램을 학습 데이터와 함께 최적화한다. 이 과정에서 프로그램이 정책에서 벗어나는 지점을 겨냥한 반례를 적대적으로 생성한다. 각 판정은 그 결과를 낳은 술어 출력으로 해석할 수 있다.

연구진은 실제 정책 과제로 구성한 벤치마크에서 프롬프트 최적화, 과제 분해, 워크플로 생성 방식과 비교했다. SCOPE의 평균 정확도가 과제와 모델 전반에서 가장 높았다고 한다. 최첨단 추론 모델 같은 단일체 모델과 견주면 SCOPE의 예측이 상당히 더 안정적이라고 밝혔고, 핵심 구성 요소의 효과는 제거 실험으로 확인했다고 설명했다. 구체적인 수치는 초록에 없다.