비영리 연구단체 Unemployment Labs 소속 윌 드퓌 연구원이 DeepSeek, Moonshot AI, MiniMax, 앤트그룹의 공개 모델 6종에서 미국의 대중국 수출 통제 대상인 NVIDIA 블랙웰 GPU의 흔적을 찾았다는 보고서를 11월 12일(현지시간) 내놓았다. 드퓌 연구원은 OpenAI 출신이다.
대상 모델은 DeepSeek V4-Flash와 V4-Pro, Moonshot AI의 Kimi K3와 K3.1 Pro, MiniMax M3, 앤트그룹의 Ling 3.1 Flash다. V4-Flash와 M3는 B200·B300 구성과 맞았고, 나머지 네 모델은 GB200·GB300 구성과 맞았다.
드퓌 연구원은 6개 모델이 수출 통제 대상 NVIDIA 하드웨어에서 초기화됐다는 강력한 증거를 확보했다며, 특히 DeepSeek V4-Flash는 증거가 명확하다고 밝혔다. 초기화 방식을 보면 같은 하드웨어에서 학습했을 공산이 크다는 것이 그의 판단이다.
드퓌 연구원은 11월 12일 X 게시물에서 상위 4개 중국 AI 연구소가 블랙웰 칩으로 최신 모델을 만들었다는 결정적 포렌식 증거를 찾았다고 주장했다. 다만 이번 분석이 입증한 것은 초기화에 쓰인 GPU 종류까지이고, 블랙웰을 학습 전체에 썼다는 사실까지 확인한 것은 아니다.
호퍼에서 블랙웰로 넘어간 시점
DeepSeek는 2024년에 낸 V3까지 호퍼 계열의 흔적이 나왔으나, 올해 4월 나온 V4부터는 블랙웰 패턴으로 바뀌었다. Moonshot AI는 지난 1월의 Kimi K2.5까지 호퍼 계열이었고, 7월에 내놓은 K3부터 블랙웰 패턴이 보인다.
MiniMax와 앤트그룹도 최신 모델에서 같은 전환이 나타났다. 두 회사는 이번 연구 이전에는 블랙웰 사용 의혹이 구체적으로 제기되지 않았던 기업이다. 연구진에 따르면 앤트그룹의 공개 코드에는 3월 31일 블랙웰 GB300으로 성능을 측정한 기록이 있다.
미국 정부 관계자들은 이전에 DeepSeek와 Moonshot AI를 두고 블랙웰 사용을 의심한 적이 있다. Alibaba Qwen, Z.ai GLM, Tencent, 샤오미, 스텝펀의 일부 최신 모델에서는 호퍼 계열 초기화 흔적이 확인됐다. 다만 호퍼에서 초기화한 뒤 블랙웰로 학습했을 가능성이 있어, 이 흔적만으로 다른 GPU 사용 여부는 판단할 수 없다.
초기화 흔적으로 GPU를 알아내는 원리
학습에 들어가기 전 모델 가중치는 난수로 채워진다. 이때 GPU의 연산 장치가 몇 개인지에 따라 같은 난수도 배치되는 자리가 다르다. 이 배열의 일부는 학습을 마친 뒤에도 가중치에 남을 수 있다고 연구진은 설명했다. 그래서 공개 가중치를 역으로 추적하면 초기화에 쓴 GPU 종류를 가늠할 수 있다. 분석은 공개 가중치만으로 했고 내부 제보나 유출 자료는 쓰지 않았다.
연구진은 난수 생성 조건과 하드웨어 구성을 엮은 약 6조 개의 경우를 대조했다. 통계적 증거는 49~1385시그마로, 수치가 클수록 우연의 일치일 확률이 낮다. B300에서 DeepSeek V4-Flash의 초기 가중치를 재현하자 445개 행이 비트 하나까지 똑같았다. GB200에서 Kimi K3를 재현했을 때도 검사한 13개 행이 모두 맞았다. 호퍼 H100에서는 V4-Flash에 같은 패턴이 생기지 않았다. 개발사가 GPU를 밝힌 기존 AI 모델 24종에 적용한 검증에서도 판별한 하드웨어 구성은 공개 정보와 모두 일치했다.
연구진이 밝힌 한계
- 호퍼 계열 흔적이 나온 모델은 호퍼에서 초기화하고 블랙웰로 학습했을 수 있다. 초기화 패턴만으로는 그 모델이 다른 GPU를 썼는지 알 수 없다.
- 블랙웰을 학습 전체에 썼음을 증명한 것은 아니다. 블랙웰에서 초기 가중치만 만들고 학습은 다른 GPU에서 했을 수 있다.
- 특별하게 설정한 AMD GPU에서도 비슷한 패턴이 나올 수 있는 것으로 확인됐다. 연구진은 추가 분석으로 DeepSeek V4-Flash를 NVIDIA GPU 초기화로 판단했고, 나머지 5개 모델은 AMD일 가능성이 매우 낮다고 평가했다.
- 가중치로는 GPU가 어디에 있고 누구 것이며 어떻게 들여왔는지 알 수 없다. 해외 데이터센터를 빌려 썼을 수도 있어서, 수출 통제를 어겼다고 곧바로 증명하는 자료는 아니다.
이번 방법이 알려 주는 것은 초기화에 쓰인 GPU 종류까지다. 규제 위반 여부를 가리려면 칩이 어디서 어떻게 들어왔고 어디서 돌았는지를 따로 밝혀야 한다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- 딥시크·문샷 등 중국 4개사, 수출 통제 '블랙웰' 사용 흔적 발견 aitimes.com