GLM 5.3, Firefox 6개 버전 해킹 시연, 버전당 약 1,000달러

AI 연구기관 Epoch가 통제된 테스트에서 오픈 웨이트 모델 GLM 5.3으로 Firefox 6개 버전을 침해하는 데 성공했다고 11월 11일자 소식지에서 밝혔다. 모델은 아직 사용자에게 배포되지 않은 패치를 역분석해 작동하는 익스플로잇을 스스로 만들었고, 비용은 버전당 약 1,000달러였다. Epoch는 널리 구할 수 있는 오픈 웨이트 모델로 이런 결과가 나온 것을 고급 사이버 능력이 확산되는 증거로 본다고 설명했다.

실험은 오프라인 샌드박스에서 진행됐다. 대상인 Firefox는 활성 사용자가 2억 명이 넘는 브라우저다. GLM 5.3은 방문자가 접속하면 그 사람의 컴퓨터에서 파일을 읽어 공격자에게 보내는 웹페이지를 사람의 개입 없이 만들었다.

패치 격차를 노린 공격

소프트웨어 개발자는 보안 수정 사항을 정기적으로 공개한다. 그런데 수정본이 사용자에게 닿기 전에 AI 모델이 이 공개 내용을 이용해 공격 도구를 만들 수 있다. Epoch는 이를 '패치 격차'라 부르며, 소프트웨어 배포 관행의 알려진 약점이라고 설명했다.

지금까지 이런 공격에는 상당한 시간과 전문 지식이 필요했고, 그렇지 않으면 고급 사이버 능력을 갖춘 최첨단 모델에 특별히 접근해야 했다. 이번 실험은 널리 구할 수 있는 오픈 웨이트 모델도 심각한 패치 격차 공격을 수행할 수 있음을 보였다.

한계와 전망

Epoch는 Chrome에서는 같은 결과를 재현하지 못했다. 다만 더 나은 프롬프트나 더 강한 모델이 쓰이면 달라질 수 있다고 덧붙였다.

패치 격차는 다른 브라우저, 휴대전화 운영체제, 공유기 펌웨어 등 소프트웨어 전반에 있다. Epoch는 더 유능한 오픈 웨이트 모델이 나올수록 패치 격차 공격이 늘어날 것으로 예상한다고 밝혔다.