Hermit 공개, 모델·하네스 고정하고 외부 어댑터만 학습

Infini-AI-Lab이 에이전트의 모델과 하네스를 고정한 채 바깥에 붙는 '하네스 어댑터'만 학습하는 오픈소스 프레임워크 Hermit를 공개했다. 첫 버전 v0.1.0은 2026년 10월 25일 나왔고, CMU 박사후연구원 Haizhong Zheng이 10월 27일 X에 소개했다.

Hermit는 파이썬 프레임워크로 Apache-2.0 라이선스이며 pip install hermit-harness로 설치한다. 팀은 개발자가 Codex나 Claude Code 에이전트를 미세 조정하거나 하네스를 포크하지 않고도 새 작업에 맞출 수 있다고 내세운다. 오프라인 빠른 시작은 GPU, 모델 계정, 데이터셋이 필요 없다. 실제 학습은 API 백엔드나 로컬 vLLM, SGLang, Ollama 서버에서 돌린다.

어댑터의 구성과 학습 방식

하네스 어댑터는 학습할 수 있는 외부 하네스다. LoRA 같은 모델 어댑터가 모델을 맞춘다면, 하네스 어댑터는 이미 있는 에이전트를 맞춘다. 지시문, 스킬, 메모리, 도구, 실행 코드, 에이전트 간 협업 로직을 담을 수 있고 저장소 전체도 될 수 있다. 어떤 부분을 학습할지와 갱신 검증 방법은 어댑터 명세가 정한다.

팀은 하네스 상당수가 비공개이고, 공개된 하네스를 고치면 세심하게 맞춘 구성요소 간 상호작용이 깨질 수 있으며, 학습된 어댑터는 호환되는 다른 모델과 하네스로 옮길 수 있다는 점을 이런 설계의 이유로 든다.

학습은 강화 학습과 비슷한 루프로 돌아간다. Trainer가 현재 어댑터를 단 에이전트에게 작업 묶음을 시키면 심사자가 결과를 채점한다. Evolver가 수행 기록과 피드백을 읽고 새 어댑터를 제안하면, Trainer가 템플릿에 맞는지 검사해 다음 버전으로 확정한다. 모든 버전은 git 트리에 남아 살펴보거나 되돌리거나 배포할 수 있다. 학습 프로그램을 샌드박스에서 돌리려면 bubblewrap이 있는 Linux가 필요하다.

기본 제공 진화 방식은 GEPA, SkillOpt, MetaWorld Model(MWM), Harness², Continual Harness 다섯 가지다. ACE와 ReHarness는 곧 추가될 예정이고, 직접 Evolver를 작성할 수도 있다.

공개된 실험 결과

아래 수치는 모두 GLM 5.3 Flash를 에이전트 모델로 쓴 결과이며, 저장소 예제 README에 실린 자체 보고다. 대부분 한 번 돌린 결과다.

GEPA와 SkillOpt는 질문 50개로 학습한 뒤 고정해 시험했고, Continual Harness와 Harness²는 테스트 세트를 한 번 흘려 보내며 학습했다. 팀은 Harness²가 기준 실행보다 7.6점 높았고 95% 구간은 +1.7~+13.4라고 보고했다.

Continual Learning Bench 논문의 상태 유지 환경을 쓰는 CL-Bench의 데이터베이스 탐색에서 MWM은 정확도 0.795로, 문맥 내 학습 기준선 0.580을 웃돌았다. 같은 환경에서 프롬프트만 바꾸는 어댑터는 0.470으로, 문맥 내 학습 기준선 0.580에도 못 미쳤다. 착취 가능한 포커에서는 MWM이 한 판당 3.08 빅블라인드를 땄고 문맥 내 학습은 2.51이었다.

소매 고객 지원 요청 624건이 바뀌는 숨은 정책 아래 흘러가는 ServeLearnBench에서는 MWM이 숨은 정책 시험에서 45.3점을 받았다. 리더보드의 최고 학습 방식 CH는 28.7점, 정책을 알려 준 Oracle은 89.2점이었다.

배포와 다른 도구와의 차이

CLI는 check, train, eval, deploy, convert 명령을 제공한다. 모델은 <백엔드>/<모델 ID> 형식으로 지정하며 Fireworks, OpenAI, Anthropic, DeepSeek, vLLM, SGLang, Ollama 등을 지원한다. hermit deploy는 Codex, Claude Code, Pi용 작업 공간을 만들고, hermit convert는 학습된 어댑터를 Codex, Claude Code, Pi, Hermes의 기본 플러그인으로 내보낸다. 완성된 Lean 협업 어댑터는 Codex 에이전트 5개가 하나의 정리를 함께 증명하도록 조율한다.

비교 대상 가운데 GEPA는 프롬프트나 코드 같은 텍스트 매개변수를 반사적 진화와 파레토 선택으로 최적화한다. 모델 가중치는 건드리지 않으며 DSPy로 배포하고 MIT 라이선스다. 보고된 대표 성과는 AIME 2025에서 GPT-4.1 Mini 기준 정확도가 46.6%에서 56.6%로 오른 것이다.

ACE는 문맥 플레이북을 다루고 Generator, Reflector, Curator로 구성되며 Apache-2.0 라이선스다. ACE는 AppWorld에서 +10.6%를 보고했으며, 퍼센트 포인트인지 상대 향상인지는 밝히지 않았다. 모델 가중치 변경 여부도 공개하지 않았다. Agent Lightning은 강화 학습, 프롬프트 최적화, SFT로 모델 가중치를 바꾸며 LangChain, OpenAI Agents SDK, AutoGen, CrewAI 등에 배포하고 MIT 라이선스다. Hermit와 GEPA는 가중치를 바꾸지 않는다.

다만 이번 비교 수치는 Hermit 저장소 예제 README에 실린 자체 보고이며, 대부분 한 번 돌린 결과다.