Google Threat Intelligence Group(GTIG)이 11월 17일 AI 위협 추적 보고서를 내고, 공격자들이 멀티 에이전트 공격 도구를 실제 침해에 쓰고 있으며 취약점 발견부터 공격 실행까지 사람 없이 자동화한 사례를 처음 확인했다고 밝혔다. 보고서는 지난 분기 동향을 정리한 것으로, Mandiant의 침해 대응 현장 자료와 위협 행위자 추적 결과, 실제 플랫폼 방어 데이터를 근거로 삼았다.
GTIG는 공격자가 단순한 프롬프트 입력을 넘어 자율 멀티 에이전트 프레임워크, 자동화된 취약점 악용 파이프라인, LLMJacking 같은 수익화 수법으로 옮겨 갔다고 평가했다. 공격 일정을 압축하고 규모를 키우는 데 생성형 AI를 쓰는 범죄, 첩보, 정보 작전 행위자가 모두 늘었다는 설명이다.
침해 현장에 들어온 에이전트 공격 도구
GTIG와 Mandiant는 여러 위협 행위자가 오픈소스 에이전트형 침투 테스트 프레임워크를 악용해 실제 침해의 특정 단계를 자동화하는 것을 관측했다. 이미 널리 알려진 ARTEX 외에 CAIRN, CyberStrikeAI, PentAGI도 쓰이고 있으며, 직접 만든 하네스를 실험한 정황도 있다. 이들 도구는 난도가 낮은 취약점을 찾아 악용하고, LLM으로 일회용 페이로드를 그때그때 만들며, 실행 결과를 보고 전술을 바꾼다는 점이 공통이다.
침해 방식 자체는 탈취한 자격 증명을 쓰거나 패치가 안 된 시스템을 노리는 기존 수법과 같다. 달라진 것은 이런 알려진 약점을 공략하는 속도와 규모이며, 방어 쪽에는 새 부담이다.
| 이름 | 특징 | GTIG 관측 |
|---|---|---|
| CAIRN | 오픈소스 멀티 에이전트 침투 테스트 프레임워크. OODA 루프를 구현하고 전문 에이전트들이 공유 '블랙보드'로 협업해 IP 주소 같은 초기 값에서 작전 목표까지 스스로 나아간다. | 미국 항공우주 분야 등을 노린 침입에서 실사용 관측 |
| CyberStrikeAI | LLM 기반 공격 프레임워크. Go 기반 백엔드 API가 C2·오케스트레이션 서버 역할을 하며 상용·오픈 웨이트 LLM을 보안 도구 100여 개, YAML 공격 레시피, 맞춤 스크립트와 연결한다. | 실험 단계 관측 |
| HexStrike AI | 모델 컨텍스트 프로토콜(MCP)을 쓰는 공격용 하네스. LLM 클라이언트가 공격 보안 도구 150여 개에 직접 연결하며 12개 넘는 전문 자율 하위 에이전트가 조율한다. | 실험 단계 관측 |
| PentAGI | 초보 운영자도 복잡한 작전을 돌리도록 기술 장벽을 낮춘 자율 공격 프레임워크. | 2026년 8월 말~10월 초, 오픈소스 버전을 개조한 오케스트레이션 플랫폼으로 아시아 여러 조직에 정찰과 취약점 스캔 수행. 실사용 관측 |
금전을 노린 행위자와 중국 연계로 의심되는 첩보 행위자가 이런 도구를 각각 실험하고 있다. 중국 연계 그룹이 사이버 첩보에 쓰려고 자체 자동 공격 프레임워크를 개발 중이라는 정황도 있다. 익스플로잇 개발과 LLM 라우팅에 쓰는 추론 서비스 ZeroHollow, 자율 코드 실행과 동적 도구 생성을 갖춘 Agent Zero도 관측 대상에 들었다.
GTIG는 진입 장벽이 낮고 새 익스플로잇을 붙이기 쉬우며 확장성이 커서, 공격자들이 이런 프레임워크를 전 세계 조직을 겨냥한 작전에 계속 쓸 가능성이 매우 높다고 봤다. 한계도 짚었다. 제한 없는 자율 실행은 포렌식 흔적이 되는 트래픽을 만들고 식별 가능한 표지와 코드 흔적을 남겨 탐지 가능성을 높이지만, 도구는 여전히 목표 달성 능력이 높다는 것이다. GTIG는 도구와 기반 LLM이 고도화되면 사람의 개입이 줄고 은밀성도 높아질 것으로 내다봤다.
대응으로 Google Security Operations(SecOps)는 ARTEX 사용을 탐지하는 행위·트래픽량 기반 규칙 묶음을 배포했다. Mandiant Consulting은 LLM 기반 공격 도구의 속도와 규모에 맞서는 하드닝 가이드와 방어 아키텍처 프레임워크를 내놓았다.
패치 분석부터 공격까지 자동화
GTIG는 지난 분기에 위협 행위자가 사람의 개입 없이 취약점 발견과 악용을 LLM 프레임워크로 완전 자동화한 사례를 처음 확인했다. 노출된 스테이징 서버에서 exploit_agent라는 멀티 에이전트 취약점 연구·무기화 프레임워크가 발견됐다. 여러 최첨단 LLM과 로컬 LLM을 연동해 인기 웹 애플리케이션 소프트웨어의 패치 전후 코드를 계속 비교 분석하고, 취약점 후보를 찾아 익스플로잇을 작성한 뒤 자동으로 실행하는 구조다.
서버에서는 피해자에게서 빼낸 데이터와 함께 내부 정찰, 무차별 대입, 웹셸 설치, 다른 공격자의 웹셸 제거를 돕는 스크립트가 나왔다. 서버의 피해자 텔레메트리로 보아 운영자는 프랑스의 미디어·엔터테인먼트 업계와 교육 분야 웹사이트를 노린 것으로 보인다. 환경 설정 파일에는 자동 익스플로잇용 LLM API 키를 직접 입력하라는 러시아어 주석이 있었다.
GTIG는 9월 취약점 통계를 분석했다. 2026년 1~8월 전체 취약점 공개와 익스플로잇은 거의 두 배로 늘었지만, 제로데이 익스플로잇은 2025년 월평균 8건에서 2026년 11건으로 소폭 늘었고 8월에 22건으로 치솟았다. 패치된 n-day 취약점은 코드 버전 비교, 릴리스 노트, 보안 연구, PoC 코드 등 한정된 자료에 집중하면 되므로, 더 넓게 탐색해야 하는 제로데이보다 LLM으로 무기화하기 효율적일 수 있다고 GTIG는 설명했다.
- PaperCut 인쇄 관리 서버: 2026년 8월 말 인증 우회(CVE-2026-81578)와 안전하지 않은 동적 클래스 로딩(CVE-2026-82078)이 제로데이로 악용됐다. 둘을 엮으면 인증 없는 원격 코드 실행이 가능하다. 보안 연구자와 Huntress는 LLM으로 공개 하루 안에 동작하는 익스플로잇을 만들었다. Greynoise는 공개 나흘 뒤 위협 행위자가 LLM으로 익스플로잇을 만들고 시험하고 대상 목록을 짜 수백 개 조직을 공격했다고 보고했으며, 최초 거점에서 도메인 관리자 권한까지 수 분 만에 넓혔다고 밝혔다.
- PHP 취약점(CVE-2026-109618, CVE-2026-109619): LLM 기반 분석으로 발견됐고, 2026년 10월 21일 공식 패치 전에 PoC 영상과 초기 패치 코드가 공개돼 연구자와 공격자 모두 코드를 비교해 익스플로잇을 시도할 수 있었다. 패치 직후 며칠간 LLM이 만든 것으로 보이는 작동하지 않는 PoC가 수백 건 올라와, 보안 업계는 이를 검증하고 반박하느라 일이 늘었다.
GTIG는 진입 장벽이 낮아지면서 동작한다고 주장하지만 실제로는 동작하지 않는 LLM 생성 익스플로잇이 늘어 방어자의 검증 부담이 커졌다고 설명했다. Google은 대응책으로 2024년 Google DeepMind와 Project Zero가 만든 취약점 탐색 에이전트 Big Sleep을 소개했고, Google Cloud가 코드 리뷰와 기본 보안 라이브러리에 CodeMender 같은 AI 에이전트의 자동 스캔과 패치를 결합한다고 밝혔다. 취약점 보상 프로그램과 Project Zero도 운영한다.
정보 작전과 LLMJacking
GTIG는 정보 작전(IO) 행위자가 LLM 실험 단계를 지나 운영에 완전히 통합했다고 높은 확신으로 평가했다. 러시아·중국·이란 연계를 포함한 국가 지원 그룹, 상업적 '영향력 서비스(IaaS)' 업체, 이익을 노리는 비진정 정치 수익화(IPM) 네트워크가 모두 합성 미디어 제작과 네트워크 작업 자동화에 LLM을 쓴다. 일부 장기 캠페인은 결과물 품질이 눈에 띄게 좋아졌지만, 품질이 높아졌다고 영향력이 반드시 커지는 것은 아니라고 GTIG는 덧붙였다.
2026년 8월 GTIG는 Gemini API와 여러 AI 업체의 도구로 유럽과 중동의 정치 여론을 겨냥한 IaaS 플랫폼을 만든 활동을 조사했다. 가상 인물 생성, 멀티모달 미디어 제작, 자동 배포, 상호작용 게시까지 캠페인 전 과정을 자동화하도록 설계됐다. 프롬프트에는 지역 방언과 속어, 일부러 넣은 오타로 자동화 도구처럼 보이지 않게 하라는 지시와, 스마트폰으로 찍은 듯 거칠고 조명이 고르지 않은 사진을 만들고 합성 이미지 표지가 되는 배경 글자를 빼라는 지시가 있었다. 운영자는 주거용 프록시와 저장된 로그인 쿠키로 CAPTCHA와 재인증을 피하도록 했다.
별도의 상업 계약업체는 Gemini API를 포함한 모듈형 다중 AI 업체 구조로, 주요 플랫폼 계정 10만 개 넘게 관리하는 IaaS 플랫폼을 개발하고 있었다. 자동 에이전트, 탐지 회피와 기기 식별자 위조 도구, 클라우드 폰 팜을 묶어 수천 개 가짜 인물을 운영하는 구조이며, 프롬프트로 보아 자국 정부 기관과 외국 고객에게 판매할 계획이었다. 가짜 계정은 일회용 이메일과 해외 가상 SMS 번호로 자동 생성되고, LLM이 게시물에 머무는 시간이나 스크롤 같은 사용자 행동을 흉내 내 일정 기간 활동 이력을 쌓은 뒤 메시지를 퍼뜨리게 돼 있다.
2019년부터 추적해 온 장기 IaaS 업체는 LLM으로 가상 인물을 더 그럴듯하게 만들고 정치·종교·시민권 주제의 학술 논평풍 콘텐츠를 생산했으며, 조작한 서구 인물로 퍼뜨렸다. 합성 인플루언서로 특정 인구 집단을 겨냥한 사례도 있다. 한 네트워크는 레고 블록풍 애니메이션과 축구 패러디로 세계 정치 인물을 풍자해 젊은 층을 노린 것으로 보인다. IPM 운영자는 상용 LLM에 돈이 되는 정치 주제, 인기 키워드, CPM이 높은 틈새를 찾게 하고, 실제 언론인의 모습을 도용하기도 하는 합성 뉴스 앵커로 콘텐츠를 퍼뜨렸다. GTIG는 IPM 캠페인이 국가 지원 작전으로 오인되기 가장 쉽다고 지적했다.
금전을 노린 행위자는 LLMJacking으로 클라우드 컴퓨팅과 LLM 사용 한도를 훔쳐 쓴다. 2026년 내내 Mandiant는 여러 사건에 대응했고, 청구액이 몇 시간 만에 크게 불어나 하루 사기 청구액이 10만 달러를 넘긴 경우도 있었다. 가장 심각한 사례는 조치 전 누적 피해가 100만 달러에 이르렀다. 피해 업종은 금융, 유통, 운송, 기술이고 지역은 북미, 남미, 아시아·태평양이다.
| 단계 | 관측된 수법 |
|---|---|
| 초기 접근 | 공개 GitHub 저장소에서 유효한 자격 증명을 수집하고, 가짜 웹사이트로 활성 세션 토큰을 빼내는 사회공학을 썼다. |
| 내부 정찰·횡이동 | 내부 코드 저장소, 데이터 저장소, 클라우드 서비스, 컨테이너, 접근 로그를 정찰했다. 한 사례는 내부 컨테이너 패키지의 웹 애플리케이션 취약점으로 다른 시스템에 이동했다. |
| 권한 상승·지속성 | 무단 IAM·서비스 계정을 만들거나 서비스 역할에 관리자 정책을 붙였다. LiteLLM의 샌드박스 탈출 취약점(CVE-2026-40217)으로 제한 권한 추론 키를 전체 관리자 자격으로 올린 사례도 있다. 악성코드 없이 권한 있는 서비스 계정만으로 지속성을 확보했다. |
| LLM 악용 | 침해 계정을 종량제 계약에 가입시켰다. 한 행위자는 한도를 피하려고 단기 서비스 계정을 만들고 지우는 '번 앤 로테이트'를 썼다. 고성능 GPU 인스턴스를 만들고 한도 상향을 요청해 자체 LLM 도구를 돌리기도 했다. |
다른 조사에서는 같은 유효 자격 증명으로 최소 두 공격자가 접근했다. 한 명이 LLM 서비스 목록과 비용·사용량 정보를 조회한 같은 날, 공통 User-Agent를 쓰는 IP 주소 집합(봇넷이나 프록시 서비스로 추정)이 약 24시간 동안 수백만 건의 LLM API 호출을 일으켰고, 자격 증명이 폐기됐다. 시끄러운 활동 탓에 먼저 접근한 공격자는 LLM 질의를 실행하지 못했다.
훔친 접근권은 'LLM Mixers'라는 불법 상점에서 팔린다. 구매자 트래픽을 탈취한 자격 증명과 컴퓨팅 풀로 보내고 질의량을 여러 피해 환경에 분산해 탐지를 피한다. GTIG는 러시아어·중국어 지하 시장 광고를 분석했고, 대부분 최첨단 모델과 악성 사이버 활동 지원을 내세우는 탈옥 모델을 포함한 여러 모델을 제공했다. 100만 토큰당 가격은 0.10~25달러로, 무료 체험 자격이 기업용보다 훨씬 쌌다. APIMart는 프롬프트가 10만 토큰을 넘으면 입력·출력 가격을 5배로 올리고, JetNight 같은 업체는 모델 종류별 월 구독제를 쓴다.
국가 연계 행위자와 개발 도구 악용
GTIG는 AI 도구가 은밀성을 해치는 약점도 있다고 봤다. 포렌식상 시끄러운 LLM 도구 프로세스는 첩보 작전의 OPSEC을 떨어뜨리고, 모델이 존재하지 않는 세부 정보나 표적을 지어내는 환각은 신뢰성을 낮춘다. 장기 잠복을 노리는 행위자는 표적 환경 안에서 이런 도구를 덜 쓰고 속도와 규모가 필요할 때만 선별해 쓸 것으로 전망했다. 반면 은밀성에 덜 민감한 다수 사이버 범죄 행위자는 성공률이 낮아져도 도달 범위가 넓어져 상쇄되므로 자율 공격 도구를 계속 쓸 것이라고 높은 확신으로 평가했다.
이란 정부 지원 행위자 CALANQUE ION(이전 APT42)은 Gemini를 포함한 LLM으로 정찰과 표적 사회공학을 보강하고 있다. 중국 연계 첩보 행위자들은 2026년 3분기에 LLM으로 정찰, 프런트엔드 스캔, 여러 분야와 지역의 표적 조사, 익스플로잇 무기화를 했다. 중국 계약업체 LEAKY CASTLE은 빼낸 데이터를 LLM으로 분석·번역하고 조직 구조 정보를 도출해 완성된 정보 보고서에 넣어 고객에게 판 정황이 있다. 새 경향으로 중국 연계 행위자가 LLM 플랫폼과 파일 호스팅 백엔드를 스테이징, 데드드롭 C2, 데이터 유출에 악용했고, 한 행위자는 최첨단 모델의 파일 호스팅 인프라로 미끼 압축 파일을 두고 탈취 데이터를 빼냈으며 백엔드 API로 내부망 문서를 유출했다.
북한 행위자는 서구 기업 원격 IT 인력 위장 활동에서 이력서 작성과 면접 준비에 LLM 도구를 썼고, 채용 면접에서 공개 도구로 답변을 만들어 진짜처럼 보이게 했다. 2026년 들어 전술도 달라졌다. 의심 그룹 MIDNIGHT NEPTUNE은 LLM 기반 사회공학과 조직 내부 AI 도구를 활용한 공급망 공격을 결합했다.
북미와 유럽 암호화폐 조직을 노린 침입에서 이 행위자는 프로필 이미지에 SynthID 워터마크가 있는 가짜 채용 담당자 계정으로 접근했고, 표적을 ClickFix 미끼가 있는 가짜 회의 플랫폼으로 유도해 LLM이 작성한 것으로 보이는 스크립트를 실행하게 했다. 침투 뒤에는 내부 코드 저장소에서 .claude/settings.json 설정 파일을 고쳐, 사용자가 Claude Code를 시작하면 SOMBERMEME 백도어가 내려받아지게 했다. 이동 경로는 Microsoft Copilot 이름을 붙인 GitHub 개인 액세스 토큰으로 가렸다. GTIG는 이것이 생성형 도구를 작전 확장에 쓰고 AI 에이전트의 실행 훅을 기업 침투 경로로 악용하는 사례라고 지적했다.
중국어 피싱 서비스 Jieyou(2026년 3월 처음 관측)는 전자상거래 사기를 주로 겨냥하며, 6월 백엔드 업데이트로 LLM 챗봇 도우미를 넣었다. 자연어 명령으로 피싱 패널을 설정하고 템플릿을 고칠 수 있어 기술 장벽이 낮아졌다. 챗봇은 특정 모델에 묶이지 않고 여러 최첨단·오픈소스 플랫폼과 API로 연동된다.
Google의 대응
Google은 이번 보고서의 IO·악용 활동이 Gemini의 안전 응답을 작동시켰고, 관련 자산을 비활성화하고 추가 조치를 했다고 밝혔다. Google DeepMind는 이 정보로 분류기와 모델을 강화해 이런 공격 지원을 거부하게 했다. 모델 추출(증류) 공격에는 무단 '학생' 모델의 성능을 떨어뜨리고 복제 시도를 탐지하는 실시간 방어를 배포했다고 한다.
기업 고객용으로는 Google AI Threat Defense(AITD)를 개발했다. Gemini 등 최첨단 모델의 추론, Wiz의 위험 우선순위화, Gemini와 CodeMender의 자동 복구, Mandiant의 현장 인텔리전스를 묶은 자율 아키텍처로, 지속 스캔에는 가벼운 모델을, 고위험 취약점에는 전문 최첨단 모델을 쓰는 다중 모델 전략을 취한다.
Google은 최근 사이버보안과 장기 과제 수행 능력이 최고 수준이라는 Gemini 4 Carbon을 내놓았다. 안전 훈련, 입출력 분류기, 활성화 기반 내성 탐침, 사고 과정·에이전트 궤적 모니터를 겹쳐 실행 가능한 무기화 익스플로잇이나 악성코드 개발 요청을 막도록 설계했고, 내부 레드팀과 Gray Swan, Trajectory labs 등 외부 파트너가 시험했다고 밝혔다. 검증된 방어자, 보안 연구자, 정부 파트너에게는 Fairwind Program으로 고급 이중 용도 사이버 기능을 제공한다.
Google 계정에 대한 정보 작전은 GTIG와 YouTube, Google Trust & Safety가 추적해 조치한다. YouTube 채널과 블로그, AdSense 계정을 차단하고 Google News 노출에서 도메인을 제거하며, 결과는 분기별 Influence Operations Bulletin으로 공개한다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.