Microsoft 나델라, '슈퍼 인텔리전스' 쓰며 AI 모델을 내부 보안 위협처럼 다루자고 주장

Microsoft CEO 사티아 나델라가 최근 블로그 글에서 인공지능 대신 '슈퍼 인텔리전스'라는 표현을 썼다. 이 글은 기업이 AI 모델을 내부자 보안 위협처럼 다뤄야 한다는 주장을 담았다. 트럼프 대통령은 이와 별개로 앞서 '인공지능'이라는 말을 계속 쓰는 사람을 적으로 봐야 한다는 취지의 글을 올린 바 있다. 나델라 글의 의도가 OpenAI와 Anthropic을 겨냥한 것이라는 해석은 Microsoft가 밝힌 입장이 아니다.

나델라는 충분한 능력을 갖춘 행위자가 중요한 시스템에 접근하면 악의가 없어도 실수하거나 탈취될 수 있다고 썼다. 그래서 통제 구조가 그 가능성을 전제로 설계돼야 한다는 것이다.

나델라가 내놓은 해법

나델라는 오늘날 AI 시스템이 왜 특정 답이나 결정을 내리는지 이해할 방법이 없는데도, 가장 민감한 데이터에 접근하고 핵심 업무를 사용자 대신 처리하도록 배치되고 있다고 비판했다.

해법으로는 지능과 그에 대한 통제를 분리하라고 했다. 구체적으로 단일 모델에 의존하는 대신 여러 모델을 쓰는 모델 다양성, 모든 행동의 완전한 기록, 독립적인 감사, 사람이 언제든 멈출 수 있는 능력을 들었다. 가장 신뢰할 만한 시스템은 최고의 모델을 쓰는 시스템이 아니라 모델을 가장 덜 믿어도 되는 시스템이라고 주장했다. 모델을 내부자 위협처럼 다루자는 발상은 Google DeepMind도 앞서 제안한 적이 있다.

이전 글과 Microsoft를 둘러싼 지적

나델라는 최근 올린 글들에서 데이터 탈취 문제를 제기하고, AI 기업이 지식 증류(distillation)를 단속하는 것이 위선이라고 비판하며, AI 모델이 결국 서로 대체 가능한 범용 상품이 되고 있다고 말한 것으로 요약된다.

Microsoft는 폐쇄적인 생태계와 공격적인 끼워팔기로 알려진 회사인데, 개방적인 AI 생태계를 주장해 왔다는 서술이 있다. 또 Office 제품에서 OpenAI·Anthropic의 더 유능한 모델을 마진 보호를 위해 값싼 자체 모델로 조용히 바꾸고 있다는 주장이 나왔으나, Microsoft가 이를 확인한 것은 아니다.