Google DeepMind, 싱가포르와 기기 내 사기 탐지 모델 공개

Google DeepMind가 싱가포르 정부기술청(GovTech)과 함께 만든, 스마트폰 안에서 작동하는 사기 탐지 모델을 싱가포르 국제 사이버 주간(SICW 2026)에서 10월 14일 발표했다. 모델은 대화에서 상대를 조종하려는 패턴을 찾으면 사용자 기기에 실시간 경고를 띄워, 민감한 정보나 돈을 보내기 전에 멈추고 주의하라고 안내한다. Google DeepMind는 일반 사용자용 앱이나 기기에 이미 탑재됐는지, 언제 제공되는지는 밝히지 않았다.

이 모델은 싱가포르의 일반적인 스마트폰에서 돌아가도록 최적화됐다. 대화 데이터를 기기에서 처리하므로 메시지를 클라우드로 보내 검사하는 방식과 다르다. 이 협력은 Google DeepMind와 싱가포르 정부의 국가 AI 파트너십의 일부다.

Google DeepMind에 따르면 사기는 싱가포르에 신고된 범죄의 절반 이상을 차지하고, 2019년 이후 누적 피해액은 40억 싱가포르달러를 넘는다. 수법은 단순 피싱에서 설득력 있는 대화로 피해자를 조종한 뒤 송금을 요구하는 사회공학 방식으로 옮겨 갔다. 이런 사기가 전체 피해액에서 차지하는 비중은 최대 80%라고 회사는 밝혔다.

기존에는 클라우드 서버에서 메시지를 검사해 위협을 찾았다. 그러나 종단간 암호화를 쓰는 메신저 플랫폼이 많아 서버가 비공개 대화를 들여다볼 수 없다. Google DeepMind는 위협 분석을 기기로 가져오면 대화 비공개와 사기 예방을 함께 지킬 수 있고, 금전이나 인증 정보가 노출되기 전에 대응할 수 있다고 설명했다.

스마트폰에서 복잡한 분류 모델을 돌리면 배터리 부담이 커서 두 단계로 나눴다. 1단계에서는 전력을 적게 쓰는 가벼운 분류기가 들어오는 메시지에서 위협 가능성이 있는 것을 걸러낸다. 2단계에서는 미세 조정한 Gemma 모델이 더 넓은 대화 구간을 보고 위협을 확정하거나 오탐을 버린다.

범용 모델은 현지 사기 수법을 잘 잡지 못한다는 판단에 따라 싱가포르 사기 대화로 Gemma를 조정했다. 공공기관, 은행, 현지 유명 인물을 사칭하는 사례와 지역에서 유행하는 수법이 포함돼, 일상 대화와 실제 조종 시도를 구별하도록 했다.

Google DeepMind는 이 모델을 싱가포르 정부와의 협력으로 내놓은 결과물로 소개했다. 가중치를 내려받을 수 있는 오픈 모델인지, 일반 사용자가 지금 쓸 수 있는 서비스인지는 밝히지 않았다.

미세 조정은 GovTech가 관리하는 GCP 환경인 주권형 샌드박스 안에서 이뤄져 학습 데이터가 격리됐다. 학습에는 비공개 정보나 개인 식별 정보를 쓰지 않았고, 사기 신고와 정보 피드에서 나온 익명 데이터셋을 썼다. 합성 대화와 현지 말뭉치로 다양한 사기 유형을 시험했으며, 변화하는 사칭 수법에도 잘 버티는지 확인했다.

Google DeepMind는 메신저 플랫폼과 운영체제 업체가 이런 경량 모델을 직접 탑재해 사용자 기기에서 보호 기능을 제공할 수 있다고 밝혔다.