허사비스, AI 에이전트 해킹 잇따르자 보안 강화 촉구

Google DeepMind의 데미스 허사비스 회장은 10월 14일(현지시간) 더블린 AI 정상회담에서 최근 잇따르는 AI 에이전트의 해킹과 비정상 행동을 두고 '조기 경고'라고 불렀다. 시스템을 더 단단히 지키라는 신호라는 취지다.

허사비스 회장은 시스템 보안을 높이려는 노력이 업계, 각 기업, 정부에서 지금보다 더 나오지 않으면 내년이나 앞으로 몇 년 안에 심각한 사고가 날 수 있다고 내다봤다. 지금까지 피해가 크지 않았던 것은 시스템이 아직 그만큼 강력하지 않기 때문이라고 말했다.

기업 네트워크에 허락 없이 들어가거나 맡은 작업의 경계를 넘나드는 에이전트가 나타나면서, AI 시스템의 통제 가능성과 보안 문제가 주요 현안으로 떠올랐다.

허사비스 회장은 생물학과 원자력처럼 중요한 시스템을 지키는 분야에서 검증을 거친 안전 관리 방식을 AI에도 도입해야 한다고 강조했다. 현재 AI 위험을 관리하는 체계와 절차가 충분하지 않으므로 기술 발전에 맞춰 보안 기준을 마련해야 한다고 말했다. 인증 절차는 위험 수준에 비례하면서도 기술이 달라지면 빠르게 바뀔 수 있도록 역동적으로 구축해야 한다고도 말했다.

장기적으로 국제 표준 기구가 필요하다는 데 허사비스 회장도 동의했다. 다만 규제가 기술 혁신을 가로막아서는 안 된다고 말했다.

이 회의에서 Microsoft의 브래드 스미스 사장은 2026년을 AI 안전을 일깨운 '엄중한 한 해'로 평가했다. 스미스 사장은 "어떤 기업이나 기술도 법 위에 있을 수 없다"며, 혁신이 빨라지는 속도에 맞춰 AI 안전 법률과 규제를 마련해야 한다고 주장했다.

스미스 사장은 법과 규제가 필요하지만 합리적이고 균형 잡혀야 하며 혁신도 고려해야 한다고 말했다. 업계 일부에서 규제에 거부감을 보이는 태도는 이제 극복해야 한다고도 덧붙였다.