해킹 그룹 CyberCartel, Claude·Grok 묶어 중남미 금융기관 400여 곳 공격

해킹 그룹 CyberCartel이 Claude와 Grok 등 상용 모델을 여러 개 이어 붙여, 중남미 금융기관 400여 곳을 겨냥한 공격 절차를 자동화했다. 보안 스타트업 Straiker가 20일(현지시간) 이 사실을 공개했다.

사용된 모델은 Claude, Grok, 문샷AI의 Kimi로, 제공사는 각각 Anthropic, SpaceX, 문샷AI다. 공격 체계는 사람이 거의 관여하지 않도록 짜였다. 에이전트가 표적을 조사해 침입을 시도하고, 뚫으면 비밀번호와 고객 데이터를 빼낸 뒤 은행 계좌에 접근한다.

에이전트 구성과 가드레일 우회

• Grok 에이전트는 웹을 검색해 표적 금융기관의 정보를 모았다.
• Claude Opus와 Sonnet을 쓰는 에이전트 네 개는 공격 전략을 논의하고 실행했다.
• Cursor에서 구동되는 또 다른 Claude 모델이 전체 공격을 지휘했다.
• Claude가 해킹 요청을 노골적으로 거절하면, 공격자들은 자체 시스템을 점검하는 허가받은 보안 시험이나 학문적 연구인 것처럼 설명해 작업을 맡겼다.
• 그래도 Claude가 거부하면 작업이 Kimi로 넘어가고, Kimi마저 거부하면 악성코드 배포 같은 전통적 수법으로 바뀌도록 구성됐다.

모델 하나가 가드레일에 막혀도 다른 모델이나 수법으로 넘어가면 작업은 멈추지 않는다.

배경과 업체 대응

CyberCartel은 2012년부터 움직여 왔다고 알려진 조직이다. 이 그룹이 운영 정보를 부주의로 흘린 덕분에 Straiker가 내막을 파악했고, 분석 결과 최근 몇 달 사이 AI 에이전트를 들여오면서 공격의 속도와 효율이 크게 높아졌다.

Anthropic의 가장 앞선 사이버보안용 모델 Mythos가 이번 공격에 동원됐다는 증거는 나오지 않았다.

Anthropic 대변인은 Straiker로부터 결과를 받고 곧바로 조사를 시작했으며 사이버 범죄자의 Claude 사용을 막았다고 밝혔다. SpaceX에도 같은 내용이 전달됐고, Straiker는 두 회사 모두 자사 모델로 CyberCartel이 접근하지 못하게 하는 작업을 하고 있다고 전했다. 문샷AI와는 Straiker가 연락을 시도하는 단계다.

전문가 시각

앙쿠르 샤 Straiker CEO는 "공격이 방어보다 훨씬 앞서 있다"고 했고, "기업들은 아직 준비가 돼 있지 않다"는 말도 덧붙였다.

조사 결과를 검토한 켄 황 샌프란시스코대 겸임교수는 모델 하나의 성능보다 여러 모델을 엮어 일을 배분하는 구조가 핵심이라고 짚었다. "토큰과 이를 조율하는 실행 환경만 있으면 된다"는 것이다. 공격을 가로막는 장애물도 이제는 사람의 기술이 아니라 API 예산과 연산 자원이라고 그는 말했다.

스콧 로버츠 유아이패스 CISO는 자동화 공격이 20년 넘게 늘어 왔고 LLM이 이를 더 쉽게 만든다고 말했다. 방어 쪽에서는 보안 조직의 운영 방식과 탐지 체계를 바꿔야 한다는 입장이다.

CrowdStrike는 이달 초 한국 금융기관이 당한 별개의 정보 유출 건에서 중국산 오픈소스 AI 에이전트와 LLM이 쓰였을 가능성을 시사하는 증거를 발견했다고 발표했다.