양자화, 가지치기, 모델 병합 중 사용자가 무엇을 적용하든 LLM이 악성 동작을 하도록 만드는 공격 프레임워크가 논문으로 공개됐다. 논문 제목은 'All-in-One: A Composable Attack on LLM Transformations'이며 arXiv에 2026년 10월 23일 게시됐다.
논문은 기존 연구가 보인 위협 모델로, 변환 전 상태에서는 안전 검사를 통과하다가 사용자가 배포를 위해 변환을 적용한 뒤에야 악성으로 바뀌는 모델을 소개한다. 연구진은 여러 공격 시나리오, 모델 계열, 배포 단계의 다양한 변환을 대상으로 한 실험에서 공격 성공률이 높았다고 밝혔다.
연구진은 각 변환의 효과를 모델 가중치에 가해지는 섭동으로 근사할 수 있다고 봤다. 이렇게 섭동으로 모사한 변환 모델마다 악성 동작을 위한 손실을 두고, 원래 모델에는 정상 동작을 위한 손실을 두어 함께 학습한다.
이 섭동은 단순해서 학습 반복마다 여러 변환을 모사할 수 있고, 하나의 학습 목표 안에서 결합할 수 있다. 연구진은 이를 통해 하나의 공격으로 서로 다른 변환을 동시에 겨냥한다고 설명했다.
기존 연구는 양자화처럼 특정 변환 하나를 겨냥했고, 대체로 그 변환에만 맞는 기법에 의존했다. 연구진은 이런 방식이라 여러 변환에 대한 공격을 실제로 합치기 어려웠다고 밝혔다.
논문이 다루는 양자화, 가지치기, 모델 병합은 배포용 모델의 효율과 후속 작업 성능을 높이려고 흔히 쓰는 변환이다. 연구진은 이번 결과가 변환만으로 원래 모델과 크게 다른 동작을 끌어낼 수 있음을 보여 준다고 밝혔다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.