Muon 옵티마이저를 차등 프라이버시(DP) 조건에서 쓸 수 있게 바꾼 DP-Muon이 논문으로 공개됐다. 연구진은 이 방법이 확장 가능한 차등 프라이버시 학습을 가능하게 한다고 밝혔다.
논문은 2026-10-17 arXiv에 올라왔다. 직교화한 업데이트 규칙을 쓰는 옵티마이저인 Muon은 성능과 확장성이 좋다고 알려져 있었지만, 차등 프라이버시 아래에서 어떻게 움직이는지는 이해되지 않은 상태였다고 연구진은 설명했다.
예제별 클리핑이 Muon에 미치는 영향
연구진은 Muon의 직교화 업데이트를 선형 최소화 오라클(LMO)이라는 관점에서 분석했다. 차등 프라이버시 학습에서 예제별 클리핑이 일으키는 주된 효과는 기울기의 크기를 양의 값으로 조정하는 것인데, LMO는 이 크기 조정을 감지하지 못한다. 그래서 최적화 오차에 들어오는 것은 중심화한 기울기 분산이 좌우하는 작은 방향 잔차뿐이라는 것이다.
이 분석으로 연구진은 잡음 크기를 고정했을 때 클리핑에 따라 정해지는 영역으로 O(K^-1/4) 속도(로그 항 제외)로 수렴함을 보였다. 잡음을 고정된 (ε, δ) 프라이버시 예산에 맞추면 DP-SGD의 표준 프라이버시-유용성 한계인 (√d/(nε))^(1/2)를 얻는다. 이 결과도 로그 항을 제외한 수렴 결과와 함께 제시됐다. 기울기가 유계라는 가정은 필요 없다고 연구진은 밝혔다.
하이퍼파라미터와 실험 결과
연구진은 DP-Muon의 하이퍼파라미터 지형도 조사했다. 프라이버시를 적용하면 최적의 학습률, 모멘텀, 배치 크기가 어떻게 달라지는지 기록했다.
이미지 분류에서 DP-Muon은 DP-SGD와 DP-Adam에 맞먹거나 앞섰다. 언어 모델링에서는 배치가 작을 때 DP-Muon이, 프라이버시 면에서 최적인 배치 크기 부근에서는 DP-Adam이 가장 좋았다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.