Microsoft, 프로젝트 퍼셉션을 사내 AI 에이전트 보안으로 확대

Microsoft가 보안 시스템 프로젝트 퍼셉션(Perception)의 적용 대상을 기업 내부의 AI 에이전트로 넓혔다. 사내 에이전트가 무엇을 하는지 실시간으로 지켜보고, 어느 범위까지 접근하게 할지도 퍼셉션이 관리한다. 하예테 갈로 보안 부문 수석부사장이 10월 19일(현지시간) 회사 공식 블로그에 이 내용을 올렸다.

퍼셉션은 에이전트형 보안 시스템이다. '가디언 에이전트'가 사내 에이전트의 동작을 미리 지켜보며 제어하는 방식이다. 신원, 접근 권한, 데이터, 네트워크, 클라우드, 실행 환경 등 여러 요소를 합쳐 위험 수준을 끊임없이 따진다. 이상이 감지되면 권한을 조정하거나 위협을 막고, 위험의 원인과 에이전트가 움직인 경로를 기록으로 남겨 추적할 수 있게 한다.

사티아 나델라 CEO는 엑스(X)에서 위험 지속 평가, 권한 조정, 위협 차단 기능을 퍼셉션에 추가하는 중이라고 밝혔다.

퍼셉션은 지난 7월 처음 공개됐고, 당시에는 외부에서 들어오는 AI 사이버 공격을 막는 데 초점을 뒀다. 이번에 보호 대상이 기업 내부 AI 에이전트로 확장됐다.

Microsoft는 사내에 배치된 에이전트를 '에이전틱 내부자'로 분류한다. 이런 에이전트는 데이터와 업무 시스템에 접근하고 주요 업무에서 직접 행동하며 의사결정까지 하기 때문이다. 외부 해커만이 아니라 기업이 들여온 에이전트에서도 내부자 수준의 보안 위협이 생길 수 있다고 본다.

Microsoft는 외부 공격에 감염되지 않아도 에이전트가 의도하지 않게 움직여 사고로 이어질 수 있다고 설명했다. 갈로 부사장은 에이전트의 행동을 예측하기 어렵고, 상황이 달라지면 움직임이 바뀌어 애초 의도에서 벗어날 수 있다고 말했다. 해킹이 없어도 목표를 이루려고 에이전트끼리 협력하거나 공모할 수 있다고 경고했다.