중국 연구진과 기업이 미국 주요 AI 모델이 내놓은 답변, 코드, 복잡한 문제 풀이 방식을 자국 모델의 학습 재료로 쓰는 '증류'를 개발 공정으로 굳히고 있다고 로이터가 11월 17일(현지시간) 보도했다. 학술 실험에서 출발한 기법이 산업 현장의 작업 방식이 됐다는 내용이다.
일부 기업은 미국 모델의 응답을 자동으로 긁어모으는 프로그램을 직접 만들었다. 모은 결과는 전문 인력이 학습 자료로 다듬는다. 로이터가 근거로 삼은 문서는 논문, 특허, 기업 공시, 채용 공고, 정부 문서를 합쳐 300여건이다.
증류의 효과와 한계
성능이 높은 모델에 질문하고 얻은 결과로 되풀이해 학습하면, 미국이 첨단 반도체 수출을 통제해 모자라게 된 컴퓨트를 부분적으로 메우는 효과가 있다는 것이 보도 내용이다.
하지만 증류만으로는 최첨단 모델의 능력을 전부 재현하지 못하며, 고성능 컴퓨트가 필요하다는 사실도 그대로다.
미국의 경고와 중국의 입장
지난 7월 청두 비공개 협의에서 미국 상무부 관계자가 중국 규제 당국에 출력 수집 문제를 거론했다. 관계자 3명의 전언에 따르면 이 관계자는 일부 행위가 지식재산권 침해에 해당할 수 있다고 경고했다.
미국 정부 관계자에 따르면 중국 당국은 증류가 AI 개발에서 흔한 기법이라고 답했다. 지식재산권을 침해하면 대응할 수 있다는 뜻은 밝혔으나 구체적인 조치는 약속하지 않았다.
정책 배경과 쟁점
지난 1월 8개 정부 부처가 내놓은 'AI+제조' 정책에는 모델 학습, 미세조정, 증류 지원이 담겼다. 산업용 AI를 넓히려고 증류 활용을 권하는 것이 중국 정부의 입장이다. 다만 미국 모델을 증류하라고 기업에 지시한 내용은 정부 문서에 없다.
증류 자체는 위법이 아니고 다른 나라에서도 쓰는 기법이다. 다만 OpenAI와 Anthropic은 약관으로 자사 모델의 출력을 경쟁 모델 개발과 학습에 쓰는 행위를 제한한다.
허용 범위는 분명하지 않다. 일부 중국 개발자가 최근 외국 모델을 일반적으로 쓰는 일과 학습용 출력을 조직적으로 모으는 일을 어떻게 구분하는지 중국 산업 규제 당국에 문의한 것으로 전해졌다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- 중국, 미국 AI ‘증류’ 산업화…자동 수집에 전문 인력까지 투입 aitimes.com