Google의 Mandiant와 GTIG(Google Threat Intelligence Group)가 'LLM 재킹' 위협을 분석한 보고서를 공개했다. 기업이 계약한 대규모 언어 모델(LLM) 이용 권한을 훔쳐 AI 자원을 무단으로 쓰는 공격으로, 사용료는 피해 기업 계정에 청구된다.
하루 무단 사용 요금이 10만달러(약 1억3천400만원)를 넘은 사례가 있었고, 일부 기업은 접근이 막힐 때까지 100만달러(약 13억4천만원)가 쌓였다. 한 공격자는 8시간 안에 LLM API를 50만 건 넘게 호출했다.
재판매 구조와 금액의 의미
공격자는 탈취한 접근 권한을 중계 서버로 묶어 낮은 가격에 되판다. 구매자는 싼값에 AI 서비스를 쓴다.
보고서에 나온 금액은 무단 사용으로 생긴 요금이다. 기업이 실제로 납부한 최종 손실액과 같은 개념이 아니다.
공격 방식과 분석 범위
분석 대상은 올해 북미, 남미, 아시아태평양의 금융, 유통, 기술, 운송 업종 등에서 발생한 사고다. 공격자는 공개 GitHub 저장소에 올라온 API 키를 수집하거나 로그인 상태를 가로채 인증정보를 얻는다. 이를 이용해 기업 클라우드 환경에 침투한 뒤 AI 서비스를 직접 쓰거나 접근 권한을 되판다.
요청 횟수 제한은 서비스 계정을 짧게 쓰고 지우기를 되풀이하는 방법으로 피한다.
보고서가 제시한 대응
보고서는 AI 접근 권한을 꼭 필요한 범위로만 주고, 소스코드에 드러난 인증정보를 자동 탐지 도구로 찾아내라고 권했다. GTIG의 존 헐트퀴스트 수석 애널리스트는 기업이 들여온 AI 모델과 컴퓨팅 자원을 꼼꼼히 점검하고 지키지 않으면 제3자가 악용할 수 있다고 밝혔다. 사용 내역을 샅샅이 살피고, 다중 인증을 켜고, 계정 정보를 신중하게 다루라는 당부도 덧붙였다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
