FedSkillGit, 원본 데이터 없이 에이전트 스킬 진화시켜… 연구진 "기존 기법보다 최대 22% 앞서"

FedSkillGit은 여러 데이터 소유자가 원본 데이터를 합치지 않고도 대규모 언어 모델 에이전트의 스킬을 함께 발전시키는 연합 학습 기법이다. 스킬 문서 전체를 주고받는 대신 규칙별 수정분인 '커밋'만 보내는 방식으로, 세 데이터셋과 세 언어 모델 계열 실험에서 최신 기준 기법을 최대 22% 앞섰다고 연구진이 논문에서 밝혔다. 연구진은 원본 데이터를 공유하지 않고도 중앙 집중식 진화에 근접한다고 설명했다.

논문은 2026-10-15 arXiv에 올라왔다. 에이전트는 실행 경험에서 재사용 가능한 자연어 스킬을 만들어 능력을 높이는데, 현실에서는 이 경험이 원본 데이터를 합칠 수 없는 여러 소유자에게 흩어져 있다는 문제의식에서 출발했다.

가장 먼저 떠오르는 설계는 각 클라이언트가 스킬 문서 전체를 진화시켜 서버로 올리고 서버가 이를 합치는 방식이다. 연구진은 이 방식이 스킬 진화에 맞지 않는다고 봤다. 진화한 문서에도 비공개 실행 기록에서 추린 클라이언트 고유 내용이 남을 수 있고, 거의 바뀌지 않은 문서를 반복 전송하면 이미 모두가 아는 지식에 통신량을 쓰게 되며, 문서 하나에 묻힌 개별 클라이언트의 기여를 서버가 의미 있게 가려낼 수 없다는 것이다.

각 클라이언트는 이름 붙은 규칙에 대한 제한된 개수의 수정분과, 그 라운드에서 배운 내용을 요약한 로컬 경험을 함께 제출한다. 이 한 쌍은 클라이언트를 떠나기 전에 두 단계의 개인정보 필터를 통과한다.

서버는 모든 참여자의 수정분과 로컬 경험에서 중복을 제거하고, 최적화기만 읽는 전역 경험 문서를 갱신한 뒤 살아남은 수정분을 합쳐 후보 스킬을 만든다. 후보는 클라이언트에 배포되고, 각자 자기 검증 세트로 점수를 매겨 보고한다. 보고된 점수가 현재 버전보다 좋아질 때만 후보가 공식 버전으로 게시된다.