딥페이크

쉽게 말하면, 딥페이크는 AI로 실제 사람의 얼굴, 목소리, 몸을 바꾸거나 없던 모습을 만들어 낸 합성 미디어다. 엔터테인먼트, 교육, 접근성 분야에서 쓰이지만, 동의 없는 성적 이미지, 정치적 허위 정보, 금융 사기에도 악용됐다.

딥페이크(Deepfake)는 인공지능으로 실제 사람의 얼굴, 목소리, 신체를 디지털 방식으로 바꾸거나 조작하거나 새로 만들어 낸 합성 미디어다. 주로 오토인코더, 생성적 적대 신경망, 확산 모델 같은 딥러닝 기법이 쓰인다. 이름은 'deep learning'과 'fake'를 합친 합성어로, 2017년 말 익명의 Reddit 사용자가 만들었다. 지금은 AI로 만든 미디어 위조물 전체를 가리키는 표준 명칭이다. 얼굴 바꿔치기, 음성 복제, 립싱크 조작, 완전히 생성된 인간 연기까지 포함한다. 엔터테인먼트, 교육, 접근성 분야에서 정당하게 쓰일 수 있지만, 동의 없는 성적 이미지, 정치적 허위 정보, 금융 사기 같은 심각한 피해도 낳아 왔다.

2026년 초 기준 온라인 딥페이크는 약 800만 개로 추정되며, 2023년 약 50만 개에서 연간 약 900% 가까이 늘어난 셈이다. 음성 복제는 연구자들이 '구별 불가능 임계점'이라 부르는 선을 넘었다. 녹음된 음성 몇 초만으로도 대부분의 청취자를 속일 만큼 설득력 있는 합성 음성을 만들 수 있다는 뜻이다. 유로폴(Europol)은 2026년까지 온라인 콘텐츠의 최대 90%가 합성으로 생성될 수 있다고 추정했다. 디지털 혐오 대응 센터(Center for Countering Digital Hate)는 일론 머스크(Elon Musk)의 Grok 챗봇이 실제 인물을 성적으로 묘사한 이미지를 단 11일 동안 약 300만 장 생성했고, 그중 약 2만 3,000장은 아동 이미지였다고 추정했다.^2,3,4,5

1. 연혁

1.1. 등장 배경과 초기 발전 (2017~2018년)

'딥페이크'라는 말은 2017년 11월 'deepfakes'라는 가명의 Reddit 사용자가 얼굴을 바꾼 영상을 올리기 시작하면서 처음 등장했다. 이 사용자는 오토인코더 신경망으로 영상 속 얼굴을 바꾸는 도구를 만들었고, 결과물과 기반 코드를 함께 공유했다. 하위 커뮤니티 r/deepfakes는 빠르게 수만 명의 구독자를 모았지만, Reddit은 2018년 2월 비자발적 음란물 관련 정책을 위반했다는 이유로 이를 금지했다.⁶

그러나 이 기술의 뿌리는 Reddit 사용자의 작업보다 앞선다. 학계 연구자들은 수년 전부터 얼굴 합성과 조작을 연구해 왔다. 2014년 이언 굿펠로(Ian Goodfellow)와 동료들은 두 신경망이 서로 경쟁하는 생성적 적대 신경망(GAN) 구조를 소개했다. 한쪽은 합성 콘텐츠를 만들고 다른 쪽은 그것이 실제 데이터인지 가려낸다. 이 적대적 학습 과정은 사실적인 이미지를 만드는 데 매우 효과적임이 드러났고, 이후 딥페이크 제작의 기반 기술이 됐다.

2016년 스탠퍼드 대학교, 막스플랑크 연구소, 에를랑겐-뉘른베르크 대학교 연구진이 발표한 Face2Face는 영상에서 실시간 얼굴 재연을 보여 줬다. 이 시스템은 영상 흐름 속 원본 인물의 표정을 대상 인물에게 옮길 수 있었다. 결과물이 설득력 있어, '딥페이크'라는 말이 생기기도 전에 보안 연구자들을 긴장시켰다.⁷

1.2. 대중 인식의 확산 (2018~2019년)

2018년 4월 영화감독 조던 필(Jordan Peele)과 버즈피드 CEO 조나 페레티(Jonah Peretti)가 공익광고(PSA) 영상을 제작하면서 딥페이크에 대한 대중의 인식이 빠르게 높아졌다. 이 영상에서는 전 대통령 버락 오바마(Barack Obama)가 도널드 트럼프(Donald Trump) 대통령을 깎아내리는 발언을 하는 것처럼 보였다. 영상은 Adobe After Effects와 AI 앱 FakeApp으로 만들었고, 화면 분할로 실제 발언자가 오바마의 목소리를 흉내 낸 필이었음을 드러냈다. 제작에는 시각 효과 전문가의 도움을 받아 약 56시간이 걸렸다. 필은 오바마 딥페이크를 통해 "앞으로는 인터넷에서 믿을 만한 것을 더 경계해야 한다"고 말했다.⁸

2019년 5월에는 낸시 펠로시(Nancy Pelosi) 하원의장의 조작 영상이 소셜미디어에서 크게 퍼졌다. 진짜 딥페이크와 달리 이 영상은 연구자들이 '값싼 가짜(cheapfake)'라고 부르는 유형이었다. 영상 속도를 약 25~30% 늦춰 펠로시가 술에 취한 듯 말을 더듬는 것처럼 보이게 했을 뿐이다. 단순한 조작인데도 트럼프 대통령과 다른 공화당 유력 인사들이 트위터에서 퍼뜨리면서 영상은 수백만 회 조회됐다. 유튜브는 영상을 삭제했고, 페이스북은 맥락 정보 라벨을 달았지만 영상은 그대로 두었다. 이 사건은 조잡한 조작 기법도 널리 영향을 줄 수 있음을 보여 줬다.⁹

1.3. 품질 향상과 주류 인지 (2020~2023년)

2020년부터 2023년 사이 딥페이크 기술은 품질이 크게 나아졌고 훨씬 쉽게 쓸 수 있게 됐다. 2021년 2월 @deeptomcruise라는 틱톡 계정은 배우 톰 크루즈(Tom Cruise)가 마술을 하고 골프를 치며 일화를 들려주는 것처럼 보이는 영상을 올렸다. 영상은 1,100만 회 넘게 조회됐으며, 벨기에 출신 시각 효과 전문가 크리스 우메(Chris Ume)가 톰 크루즈를 흉내 내는 전문 배우 마일스 피셔(Miles Fisher)와 협력해 만들었다. 우메는 다양한 각도와 조명에서 찍은 크루즈의 영상과 이미지로 AI 모델을 약 두 달 반 동안 학습시켰고, 영상 한 편마다 추가 처리에 2~3일이 걸렸다. 이 딥페이크는 사실감에서 질적 도약을 이뤄, 많은 시청자가 실제 배우의 영상이라고 믿었다.¹⁰

2022년 3월 러시아의 우크라이나 침공 중, 우크라이나 대통령 볼로디미르 젤렌스키(Volodymyr Zelenskyy)의 딥페이크 영상이 소셜미디어에 나타났고, 해커들이 이를 우크라이나 TV 방송사 Ukraine 24의 웹사이트에도 올렸다. 영상은 젤렌스키가 우크라이나 군인들에게 무기를 내려놓고 러시아에 항복하라고 촉구하는 장면을 합성한 것이었다. 완성도는 그리 높지 않았다. 시청자들은 곧 젤렌스키의 억양이 어색하고 머리 크기가 비율에 맞지 않는다고 지적했다. 페이스북, 유튜브, 트위터가 영상을 삭제했고, 젤렌스키는 자신의 텔레그램 채널에서 "우리는 우리 땅과 아이들, 가족을 지키고 있다"고 응답했다. 이 사건은 딥페이크 기술을 전쟁 무기로 쓴 첫 사례로 널리 묘사됐다.¹¹

1.4. 규모의 폭발 (2024~2026년)

2024년과 2025년에 딥페이크는 대중적 현상이 됐고, 사기와 악용의 주요 경로로도 떠올랐다.

2024년 1월 뉴햄프셔 대선 예비선거 이틀 전, 조 바이든(Joe Biden) 대통령의 목소리를 딥페이크 음성으로 만든 로보콜(자동 음성 전화)이 유권자들에게 다가오는 예비선거에 투표하지 말라고 전했다. 복제 음성은 바이든 특유의 말버릇인 "What a bunch of malarkey"를 흉내 냈고, 청취자들에게 "11월 선거를 위해 투표를 아껴 두라"고 권했다. 이 음성은 나중에 ElevenLabs 플랫폼으로 만든 복제 음성으로 추적됐다. 정치 컨설턴트 스티브 크레이머(Steve Kramer)는 이 계획을 꾸몄다고 시인했으며, 제작 비용은 1,000달러에 불과했다.¹²

2024년 9월 연방통신위원회(FCC)는 크레이머에게 600만 달러의 과징금 부과 명령을 내렸다. 계산 방식은 약 3,000건의 스푸핑 통화 각각에 기본 벌금 1,000달러를 매기고, 위반의 중대성을 이유로 100%를 가중한 것이다. 위반 대상은 Truth in Caller ID Act였다.¹³

같은 해 1월에는 팝 가수 테일러 스위프트(Taylor Swift)의 AI 생성 성적 딥페이크 이미지가 소셜미디어 X(옛 트위터)에서 퍼졌다. 일부 이미지는 삭제되기 전까지 수천만 회 조회된 것으로 알려졌다. 스위프트는 2024년 한 해 동안 최소 11차례 딥페이크 표적이 되어, 가장 자주 피해를 본 공인 중 하나가 됐다. 이 사건은 미국 의회에서 초당적 반발을 불렀고, 동의 없는 딥페이크에 대응하는 입법 움직임을 앞당겼다.¹⁴

2024년 2월 영국 다국적 엔지니어링 기업 Arup은 홍콩 사무소의 재무 직원이 화상회의에 참여한 뒤 2,500만 달러를 사기당했다고 공개했다. 이 회의에는 회사의 최고재무책임자(CFO)와 여러 동료를 딥페이크로 재현한 인물들이 나와, 직원에게 5개 은행 계좌로 15차례 송금하라고 지시했다. 홍콩 경찰은 사기범들이 온라인 컨퍼런스와 회사 회의에서 공개된 영상과 음성 기록으로 딥페이크를 만들었다고 판단했다.¹⁵

2025년에는 서비스형 딥페이크(deepfake-as-a-service, DaaS) 플랫폼이 널리 퍼져, 기술 지식이 없어도 숙련도와 관계없이 사이버 범죄자가 설득력 있는 딥페이크를 만들 수 있게 됐다. AI 기반 딥페이크는 영향력이 큰 기업 사칭 공격의 30%를 넘는 사례에 관여했다. 생성형 AI가 부추기는 미국의 사기 피해액은 2023년 123억 달러에서 2027년 400억 달러로 늘어날 것으로 Deloitte Center for Financial Services는 전망했다.^2,4

2. 기술

딥페이크 제작에는 사람의 외모와 행동 가운데 서로 다른 부분을 겨냥한 여러 기술적 접근이 있다.

2.1. 얼굴 바꿔치기

얼굴 바꿔치기는 가장 널리 알려진 딥페이크 기법이다. 영상 속 대상 인물의 얼굴을 원본 인물의 얼굴로 바꾸되, 대상의 고개 움직임, 표정, 조명 조건은 최대한 유지하려 한다.

표준 방식은 공유 인코더 하나와 별도의 디코더 두 개로 이루어진 오토인코더 구조를 쓴다. 인코더는 얼굴 이미지를 작은 잠재 표현으로 압축하는 법을 배운다. 한 디코더는 이 잠재 공간에서 A의 얼굴을, 다른 디코더는 B의 얼굴을 복원하도록 학습한다. 추론 실행 때는 A의 프레임을 인코더에 넣고, 그 잠재 표현을 B의 디코더에 넘긴다. 그러면 B의 신원을 A의 포즈와 표정에 입힌 얼굴이 출력된다.¹⁶

더 발전한 방식은 생성적 적대 신경망(GAN) 기반 학습을 더한다. 판별자 신경망이 바뀐 얼굴이 실제처럼 보이는지 평가하고, 이 적대적 피드백이 생성기가 더 높은 품질의 결과를 내도록 이끈다. 최근 시스템은 어텐션 메커니즘과 신원 보존 손실 함수도 써서 원본 인물의 고유한 특징을 더 정확히 유지한다.

2.2. 얼굴 재연

얼굴 재연(face reenactment)은 원본 인물의 표정과 고개 움직임을 대상 인물의 얼굴 영상에 옮긴다. 얼굴 바꿔치기와 달리 신원은 대상 인물 그대로이고 움직임과 표정만 바뀐다. Face2Face 같은 시스템이 개척한 이 기법으로, 공격자는 대상 인물이 하지 않은 말이나 표정을 한 것처럼 보이게 할 수 있다.⁷

최신 재연 시스템은 분리 표현(disentangled representation)으로 신원과 움직임을 나눠 다룬다. 움직임 인코더는 구동 영상에서 입 모양, 눈썹 위치, 시선 같은 표정 매개변수를 포착한다. 외형 인코더는 대상 인물의 신원 특징을 보존한다. 생성기 신경망은 대상의 외형과 원본의 움직임을 합쳐 출력 프레임을 만든다.

2.3. 음성 복제

음성 복제는 오디오 딥페이킹이라고도 불리며, 신경망으로 특정 인물의 목소리를 흉내 낸 음성을 합성한다. 초기 시스템은 그럴듯한 복제를 위해 수 시간 분량의 학습용 음성이 필요했다. 2025년에는 최신 음성 복제 모델이 몇 초의 참조 음성만으로 자연스러운 억양, 리듬, 강세, 감정, 멈춤, 호흡 패턴을 갖춘 음성을 생성한다.³

이 기술은 보통 두 단계로 작동한다. 먼저 화자 인코더 신경망이 참조 음성을 분석해 음색 특징을 담은 화자 임베딩(speaker embedding)을 뽑아낸다. 다음으로 합성 신경망이 화자 임베딩과 원하는 텍스트 또는 오디오 입력을 바탕으로 새 음성을 만든다. 이 합성 신경망은 흔히 트랜스포머 구조나 확산 모델을 기반으로 한다. 일부 시스템은 음성 변환도 할 수 있어, 한 사람의 발화를 거의 실시간으로 다른 사람의 목소리처럼 바꾼다.

2.4. 립싱크와 전신 생성

립싱크 딥페이크는 대상 영상의 입 주변만 바꿔 새 오디오 트랙에 맞춘다. 얼굴 전체를 바꾸는 방식보다 적용 범위가 좁아서, 얼굴의 나머지와 머리, 몸은 그대로 둔다. 2020년 발표된 Wav2Lip 모델은 이 분야의 돌파구였다. GAN 구조로 임의의 오디오 입력에 정확히 맞는 입술 움직임을 생성했다.¹⁷

립싱크 딥페이크는 전체 얼굴 바꿔치기보다 탐지하기 어려워 특히 우려된다. 프레임에서 바뀌는 영역이 작아서, 다른 딥페이크를 드러내는 시각적 흔적(피부색 불일치, 머리카락 경계 문제, 조명 불일치)이 없기 때문이다.

전신 딥페이크는 조작을 얼굴을 넘어 자세, 제스처, 걸음걸이, 옷차림 등 몸 전체로 확장한다. 보통 포즈 추정 신경망으로 원본 인물의 골격 움직임을 포착해 대상 인물에게 옮긴다. 2024~2025년에 공개된 OpenAI의 Sora와 Google의 Veo 같은 영상 생성 모델은 텍스트 설명만으로 완전한 합성 인간 연기를 만들 수 있게 했다. 이전에는 불가능했던 시간적 일관성과 자연스러운 움직임도 구현한다.³

2.5. 주요 도구

2.6. 확산 모델의 역할

2022년 이후 확산 모델은 딥페이크 생성에서 GAN 기반 접근을 점점 보완해 왔고, 일부 경우에는 대체했다. 확산 모델은 학습 데이터에 노이즈를 점차 더한 뒤 그 과정을 거꾸로 되돌리는 법을 배우고, 무작위 노이즈에서 노이즈 제거를 반복해 새 샘플을 만든다. 이 모델은 GAN보다 이미지 품질과 학습 안정성이 뛰어난 것으로 나타났으며, Stable Diffusion, DALL-E, Midjourney 같은 시스템의 기반이 된다.¹⁸

딥페이크 생성에서 확산 모델은 고품질 얼굴 생성, 인페인팅(이미지의 일부를 자연스럽게 바꾸거나 수정하는 기법), 스타일 변환을 가능하게 한다. 텍스트 프롬프트로 사실적인 이미지를 만들 수 있게 되면서 설득력 있는 가짜 이미지를 만드는 문턱이 낮아져, 이제 프로그래밍 지식이 필요 없을 정도다.

3. 탐지 방법

딥페이크 탐지는 생성 기술과 탐지 기술 사이의 끊임없는 군비 경쟁이다. 생성 기법이 나아질수록 탐지 방법도 계속 적응해야 한다.

3.1. 초기 탐지법

초기 탐지법은 딥페이크가 진짜 영상에 있는 미세한 생체 신호를 잘 재현하지 못한다는 점을 이용했다. 연구자들은 딥페이크 얼굴이 비정상적인 빈도로 눈을 깜박이고, 혈류로 생기는 미세한 피부색 변화로 감지되는 맥박 신호가 일관되지 않으며, 부자연스러운 눈 움직임이나 시선 패턴을 보인다는 것을 확인했다. 그러나 생성 모델이 좋아지면서 이런 흔적 상당수가 사라졌고, 생체 신호만으로 하는 탐지의 신뢰도는 낮아졌다.

주파수 영역 분석은 이미지와 영상 프레임의 스펙트럼 특성을 살핀다. 진짜 사진과 영상은 카메라 센서와 광학 장치가 만든 고유한 주파수 분포를 보인다. 반면 GAN으로 생성된 이미지에는 사람 눈에는 보이지 않지만 푸리에 또는 웨이블릿 분석으로 찾을 수 있는 스펙트럼 흔적, 이른바 'GAN 지문'이 자주 나타난다. 이 방법은 초기 세대의 딥페이크에 효과적이었지만, 생성 모델이 주파수 특성을 개선하면서 신뢰도가 떨어졌다.

3.2. AI 기반 탐지

가장 널리 쓰이는 탐지 방식은 진짜 미디어와 합성 미디어를 구별하도록 학습한 신경망이다. 최근 탐지 시스템은 보통 멀티모달 앙상블을 쓴다. 시각 특징을 분석하는 비전 트랜스포머, 입술 움직임과 음성의 불일치를 찾는 시청각 일관성 검사, 출처 검증 모듈을 결합한다.

상용 탐지 플랫폼도 여러 곳 나왔다. 2026년 기준 Sensity AI, Reality Defender, Intel의 FakeCatcher가 주요 솔루션으로 꼽힌다. 탐지 도구 시장은 2023년부터 2026년 사이 세 배로 커질 것으로 전망된다. Meta, Google, Microsoft 같은 주요 기술 플랫폼도 자체 탐지 시스템을 개발했다.⁴

그러나 탐지 정확도는 학습 데이터에 없던 생성 기법으로 만든 딥페이크를 만나면 크게 떨어진다. 이 일반화 문제는 이 분야에서 가장 큰 과제로 남아 있다.

3.3. 2025~2026년 과제와 출처 표시

2025년 무렵 딥페이크 탐지는 근본적인 과제에 직면했다. 최고 성능 모델의 생성 품질이 대부분의 탐지 시스템이 가짜를 안정적으로 식별하는 능력을 넘어섰다. 특히 음성 딥페이크가 그렇다. 영상 생성 모델은 일관된 움직임, 일관된 신원, 안정된 얼굴 디테일을 갖춰, 한때 법의학적 증거로 쓰이던 깜박임, 뒤틀림, 구조적 왜곡을 없앴다.

연구자들은 방어선이 픽셀 단위 분석에서 벗어나 암호학적 출처 증명, 플랫폼 수준 인증, AI 생성 콘텐츠 표시를 요구하는 규제 같은 기반 구조 차원의 보호로 옮겨 가야 한다고 점점 주장하고 있다.³

콘텐츠 출처 접근법은 사후에 조작 여부를 가리려 하기보다, 미디어가 만들어지는 순간부터 검증 가능한 보관 사슬을 세우려 한다. C2PA(콘텐츠 출처 및 진위성 연합)는 2021년 Adobe의 Content Authenticity Initiative(CAI)와 Microsoft 및 BBC의 Project Origin이 합쳐져 만들어졌으며, 이 접근의 대표적인 기술 표준을 개발했다. C2PA 명세는 여러 상호보완 기술을 통합한다.¹⁹

C2PA 채택은 늘고 있다. 카메라 제조사, 편집 소프트웨어 업체, 소셜미디어 플랫폼, 뉴스 발행사가 콘텐츠 자격 증명(Content Credentials)을 작업 흐름에 넣기 시작했다. 미국 국가안보국(NSA)과 사이버보안·인프라보안국(CISA)은 2025년 1월 공동 지침 문서에서 콘텐츠 출처 기술 도입을 권고했다.¹⁹

AI 워터마크는 AI가 생성한 콘텐츠에 식별하기 어려운 신호를 심어, 나중에 출처를 검증할 수 있게 한다. 예를 들어 Google의 SynthID는 자사 AI 시스템이 만든 이미지와 음성에 워터마크를 심는다. 이 워터마크는 크기 조정, 자르기, 압축 같은 흔한 변환을 견디도록 설계됐다.

워터마킹에는 실질적인 한계가 있다. 보편적으로 도입된 방식이 아니어서, 워터마크를 구현하지 않은 도구로 만든 콘텐츠에는 표시가 없다. 워터마크가 적대적 기법으로 제거되는 경우도 있다. 또한 워터마킹은 협력하는 시스템이 만든 콘텐츠에만 작동하는 예방적 조치이므로, 악의적 행위자가 자체 도구로 만든 딥페이크는 탐지하거나 표시하지 못한다.²⁰

4. 주요 사건

5. 사회적 영향

5.1. 비자발적 성적 이미지

가장 흔한 악용 사례는 비자발적 성적 이미지(NCII) 제작이다. 이 패턴은 처음부터 기록됐다. 2019년 Deeptrace 보고서 「The State of Deepfakes」는 온라인 딥페이크를 처음으로 체계적으로 조사해 딥페이크 영상 14,678편을 분석했고, 96%가 비자발적 음란물이었으며 거의 모든 경우 대상이 여성이었다고 밝혔다. 이후 연구도 같은 경향을 확인했다. 온라인 딥페이크 영상의 96~98%가 비자발적 음란 콘텐츠이고, 이 중 96%가 여성을 겨냥한다는 것이다. 딥페이크 NCII 도구는 2022년 11월 이후 거의 1,500만 회 다운로드됐다.^22,23

피해는 공인에게만 머무르지 않는다. 미성년자를 포함한 일반인도 동급생, 전 연인, 낯선 사람이 쉽게 쓸 수 있는 도구로 SNS의 평범한 사진에서 가짜 성적 이미지를 만들어 피해를 입었다. 2024년 10개국을 대상으로 한 국가 간 연구에서 응답자의 2.2%가 딥페이크 음란물로 개인 피해를 입었다고 답했고, 1.8%는 가해 행위를 보고했다. 호주, 영국, 미국에서는 인구의 3.2%가 비자발적 AI 성적 이미지를 만들거나 공유하거나 공유하겠다고 위협한 경험이 있다고 답했다.²³

피해자가 겪는 심리적 영향은 실제 성폭행에 맞먹을 만큼 심각한 경우가 많다. 피해자들은 불안, 우울, 사회적 위축을 호소하고, 직장이나 학업을 유지하기 어려워한다.

5.2. 정치 허위 정보와 신뢰 훼손

딥페이크는 민주적 절차를 직접 위협한다. 바이든 로보콜 사건, 젤렌스키 항복 영상, 테일러 스위프트가 도널드 트럼프를 지지하는 것처럼 조작된 이미지(2024년 8월 트럼프가 Truth Social에 공유)는 모두 합성 미디어가 정치적 목적으로 무기화될 수 있음을 보여 준다.¹⁴

개별 사건을 넘어 딥페이크는 더 넓은 신뢰 훼손에도 기여한다. 기술이 존재한다는 사실만으로도 법학자 바비 체즈니(Bobby Chesney)와 대니얼 시트론(Danielle Citron)이 '거짓말쟁이의 배당(liar's dividend)'이라 부른 현상이 생긴다. 누구든 진짜 증거를 가짜라고 일축할 수 있게 되는 것이다. 두 사람에 따르면, 대중이 오디오와 영상을 그럴듯하게 위조할 수 있다고 받아들이면 부정직한 행위자가 진짜 녹음을 조작이라고 몰아붙이기 쉬워지고, 입증 책임이 '가짜임을 증명'하는 쪽에서 '진짜임을 증명'하는 쪽으로 넘어간다. 어떤 영상이나 음성 녹음도 딥페이크일 수 있게 되면, 진짜 증거조차 설득력의 일부를 잃는다.²⁴

아마도 가장 교묘한 장기적 효과는 딥페이크가 언론 전반에 대한 신뢰를 훼손하는 것이다. 사람들이 진짜 녹음과 합성 녹음을 안정적으로 구별하지 못하면, 모든 오디오와 영상의 증거 가치가 떨어진다. 이는 언론, 법 집행, 사법 절차, 개인 관계에 영향을 준다. 어떤 녹음도 믿을 수 없는 사회에서는 책임을 묻기가 훨씬 어려워진다.

5.3. 사기와 금융 범죄

딥페이크를 이용한 사기는 빠르게 늘었다. Arup 사건 외에도 딥페이크는 신원 확인 사기(합성 얼굴이나 음성으로 생체 인증 우회), CEO 사칭 사기(복제 음성으로 부정 거래 승인), 로맨스 스캠(합성 영상으로 가짜 관계를 유지해 금전을 뜯음)에 쓰인다.

북미의 딥페이크 사기 피해는 2025년 1분기에만 2억 달러를 넘었다. 북미의 딥페이크 사기는 이전 대비 1,740% 늘었고, 영국은 전년 대비 94% 증가했다. 일부 대형 유통업체는 하루 1,000건을 넘는 AI 생성 사기 전화를 받는다고 보고했다.^3,4

6. 법과 규제 대응

딥페이크를 전면 금지하는 세계 공통 규정은 없다. 합법 여부는 관할과 사용 방식에 따라 달라진다. 많은 국가가 특히 비자발적 성적 딥페이크와 선거 관련 기만을 범죄로 규정하고, 동의를 받았거나 명백히 풍자인 합성 미디어는 대체로 허용한다. 2026년 기준 주요 법제도의 틀은 아래와 같다.

6.1. 미국 연방과 주 입법

미국은 딥페이크를 겨냥한 여러 연방 입법 방안을 추진해 왔지만, 포괄적 규제는 더디게 나왔다.

「DEEPFAKES Accountability Act」(정식 명칭은 「Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act」)는 2023년 9월 제118대 의회에 민주당 소속 뉴욕주 이베트 D. 클라크(Yvette D. Clarke) 하원의원이 발의했다. 창작자가 딥페이크 콘텐츠에 디지털 워터마크를 넣도록 하고, 이를 따르지 않은 딥페이크를 유포하는 행위를 범죄로 규정하는 내용이었다. 벌금과 최대 5년 징역이 처벌로 제시됐다. 이 법안은 회기가 끝날 때까지 표결되지 않았다.²⁵

「DEFIANCE Act」(Disrupt Explicit Forged Images and Non-Consensual Edits Act)은 2024년 7월 상원을 만장일치로 통과했지만, 제118대 의회 회기가 끝나면서 자동 폐기됐다. 2025년 재발의되어 2026년 1월 13일 상원을 다시 만장일치로 통과했다. 이 법은 성적으로 노골적인 비자발적 딥페이크의 피해자가 제작자, 유포자, 이를 알고 호스팅한 사업자를 고소할 수 있는 연방 소송권을 만든다. 법정 손해배상은 최대 15만 달러이며, 딥페이크가 성폭행, 스토킹, 괴롭힘과 연결되면 25만 달러까지 올라간다. 2026년 중반 기준 법안은 상원을 통과해 하원으로 넘어갔고, 발의자인 알렉산드리아 오카시오코르테스(Alexandria Ocasio-Cortez) 하원의원이 본회의 표결을 요구하고 있다.²⁶

「TAKE IT DOWN Act」(Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act)는 2024년 6월 테드 크루즈(Ted Cruz) 상원의원이 발의했다. 하원에서 409 대 2로 통과된 뒤 2025년 5월 19일 트럼프 대통령이 서명해 법으로 확정됐다. 이 법은 딥페이크를 포함한 비자발적 친밀 이미지의 게시를 범죄로 규정하며, 최대 징역 2년을 부과한다. 웹사이트와 소셜미디어 플랫폼은 피해자의 요청을 받은 뒤 48시간 안에 해당 콘텐츠를 삭제해야 한다. 형사 조항은 서명 즉시 시행됐고, 대상 플랫폼은 신고 및 삭제 절차를 마련할 시간을 1년 받았다. 그 기한은 2026년 5월 19일이었다.²⁷

주 단위 딥페이크 입법은 빠르게 늘었다. Ballotpedia는 2025년 7월 기준 최소 하나의 딥페이크 법을 가진 주를 47개로 집계했고, 2025년 한 해 동안 주에 제출된 딥페이크 관련 법안은 301건이었다. 1년 뒤에는 수치가 더 늘었다. 2026년 7월 30일 기준으로 2019년 이후 최소 하나의 딥페이크 법을 통과시킨 주는 49개이며, 그중 48개가 음란 딥페이크를, 33개가 정치적 딥페이크를 규제한다. 정치 딥페이크를 규제하는 주는 작년 7월의 28개에서 늘었다. 2026년 첫 7개월 동안 58건의 딥페이크 법안이 추가로 제정됐다. 가장 흔한 입법 방식은 음란 딥페이크를 형사 또는 민사 처벌로 다루는 것과, AI 생성 또는 실질적으로 변형된 콘텐츠를 쓴 정치 광고에 공개 표시를 의무화하는 것이다.

캘리포니아, 텍사스, 버지니아는 2019년 딥페이크 관련 법을 제정하며 먼저 움직인 주들이다. 캘리포니아 AB 2355는 2025년 1월 1일부터 시행되며, AI 생성 콘텐츠를 쓴 정치 광고에 AI 공개 표시를 요구한다. 반면 연방 판사는 선거 기간 AI 생성 정치 콘텐츠를 제한하려던 별도의 캘리포니아 딥페이크 법을 수정헌법 제1조(표현의 자유)를 근거로 무효화했다.²⁸

6.2. EU AI법

EU AI법은 2024년 8월 발효됐으며 딥페이크를 겨냥한 조항을 담고 있다. 50조에 따라 이미지, 음성, 영상을 생성하거나 조작하는 AI 시스템의 배포자는 콘텐츠가 인공적으로 만들어지거나 조작됐다는 사실을 공개해야 한다. 법은 제3조 60항에서 딥페이크를 기존의 사람, 사물, 장소, 사건과 닮았고 거짓으로 진짜처럼 보이는 AI 생성 또는 조작 콘텐츠로 정의한다. 콘텐츠가 명백히 예술, 풍자, 허구 작품의 일부라면 투명성 의무는 존재 사실의 공개로 제한된다.

이 법은 특정 AI 기반 조작 행위를 '허용 불가 위험'으로 분류해 전면 금지한다. 금지된 AI 관행을 위반하면 최대 3,500만 유로 또는 전 세계 연간 매출액의 7%까지 과징금이 부과될 수 있다. 딥페이크 표시 의무를 포함한 50조 투명성 의무는 2026년 8월 2일부터 적용된다. 같은 날짜는 고위험 시스템 규칙의 전면 시행일이기도 하다.

EU는 2025~2026년에 걸쳐 AI 생성 콘텐츠 투명성에 관한 행동강령 초안을 만들었다. 이 초안은 딥페이크 표시 요건을 이행하는 지침으로, 기계 판독 가능한 표지와 사람이 볼 수 있는 공개 표시의 사양을 담고 있다. 최종안은 2026년 8월 기한 전에 나올 것으로 예상된다.²⁹

6.3. 기타 국제 접근

중국은 2025년 9월 1일 시행된 콘텐츠 표시 규칙에 따라 AI 생성 콘텐츠에 눈에 보이는 표시를 달도록 요구한다. 생성형 AI 도구를 제공하는 사업자는 보안 평가를 거치고, 대규모 언어 모델을 중국 사이버공간관리국(CAC)에 등록해야 한다.³⁰

영국은 온라인안전법(Online Safety Act) 개정과, 동의 없는 성적 딥페이크의 제작과 유포를 범죄화하는 별도 법률로 딥페이크에 대응해 왔다.

한국은 2024년 해를 끼칠 목적으로 딥페이크 콘텐츠를 유포하면 최대 징역 5년을 부과하는 법을 통과시켰다. 이는 한국 여성과 소녀를 겨냥한 딥페이크 성적 학대가 확산된 뒤에 나온 조치다.

7. 긍정적 활용

딥페이크 기술은 해로운 용도와 연결되지만, 여러 분야에서 정당하고 유익하게 쓰인다.

영화와 TV 산업은 얼굴 바꿔치기와 나이 되돌리기 기술을 널리 쓴다. 배우의 젊은 시절 모습을 디지털로 재현하는 디에이징, 정확한 입모양을 갖춘 외국어 더빙, 세상을 떠났거나 출연이 불가능해진 배우의 연기 완성은 이제 표준 시각 효과 기법이다. 이런 응용은 보통 명시적 동의와 전문가의 감독을 전제로 한다. 코미디 쇼와 온라인 크리에이터는 패러디와 풍자에 명백한 딥페이크를 쓰는데, 이는 표현의 자유 원칙에 따라 대체로 보호되는 사용이다. 패션과 소매 분야에서는 소비자가 옷이나 액세서리를 직접 입어 보지 않고도 착용 모습을 확인하는 가상 피팅에 쓰인다.

박물관과 교육자는 딥페이크 기술로 역사적 인물을 재현하고 아카이브 영상에 생기를 불어넣는다. 플로리다주 세인트피터즈버그의 달리 미술관에는 딥페이크 기반 전시가 있어 살바도르 달리(Salvador Dali)와 상호작용하는 대화를 시뮬레이션한다. AI로 구현된 달리는 방문객과 대화하며 예술과 삶에 대한 생각을 나누고, 방문객과 셀카도 찍는다. 교육에서는 학생이 가상의 원어민 화자와 대화를 연습하는 언어 학습 앱, 학생이 역사적 인물의 유명 연설을 재현 영상으로 보고 상호작용하는 수업이 가능해진다.³¹

접근성 측면에서 AI 기반 음성 복제와 립싱크는 여러 언어의 더빙을 가능하게 해, 원 출연자의 외모와 말투를 유지하면서 전 세계 시청자에게 콘텐츠를 전달한다. ALS(루게릭병)나 후두암으로 목소리를 잃은 사람은 발병 전 녹음으로 모델을 학습시켜 자신의 목소리 정체성을 보존할 수 있다. 딥페이크 계열 기술로 만든 수어 아바타는 말로 된 내용을 시각적 수어로 옮겨, 청각장애인과 난청인의 정보 접근을 돕는다.

딥페이크 기술은 프라이버시를 침해하는 데만 쓰이지 않고 보호에도 쓰인다. 뉴스 기관과 다큐멘터리 제작자는 얼굴 바꿔치기로 취재원, 목격자, 피해자를 익명화하면서도 자연스러운 영상을 유지할 수 있다. 의료 연구자는 데이터셋에 합성 얼굴을 써서 환자의 프라이버시를 지키면서도 의료 영상의 진단 가치를 보존할 수 있다.

가족들은 사랑하는 사람의 목소리와 외모를 보존하기 위해 음성 복제와 시각 딥페이크 도구를 쓰기 시작했다. 대화형 AI 아바타로 가족 구성원의 디지털 버전을 만들면, 이야기를 들려주거나 조언하거나 익숙한 목소리로 말을 건네며 위로와 가족사 보존을 돕는다.³¹

8. 통계와 성장 추세

9. 최근 사건 (2025~2026년)

2026년 1월 일론 머스크(Elon Musk)의 AI 챗봇 Grok은 연구자들이 '대규모 디지털 옷 벗기기 광란'이라고 부른 전 세계적 논란의 중심이 됐다. xAI가 '스파이시 모드'로 성인 콘텐츠를 생성할 수 있는 이미지 생성 기능 'Grok Imagine'을 추가하자, 이 도구는 실제 인물의 성적 묘사 딥페이크를 동의 없이 만드는 데 널리 악용됐다.

2026년 초 발표된 보고서에서 디지털 혐오 대응 센터(CCDH)는 Grok이 2025년 12월 29일부터 2026년 1월 8일까지 11일 동안 약 3,002,712장의 성적 묘사 이미지를 생성했고, 그중 23,338장이 아동 이미지였다고 추정했다. 전체 생성 속도는 분당 약 190장이었고, 아동 이미지는 41초마다 한 장꼴이었다. CCDH는 Grok이 X 계정에 올린 약 460만 장 가운데 무작위로 뽑은 2만 장을 분석해 전체로 확대 추정했다.⁵

이 사태는 전 세계 규제 조치로 이어졌다. 인도네시아가 2026년 1월 10일 이 도구를 처음 차단한 나라가 됐고, 말레이시아(1월 11일)와 필리핀(1월 16일)이 뒤를 이었다. 규제 당국은 기존 통제가 여성과 미성년자를 중심으로 한 가짜 음란물의 생성과 확산을 막지 못하고 있다고 밝혔고, 접근은 xAI가 안전장치를 추가한 뒤에야 복구됐다. 인도네시아는 2월 1일, 말레이시아는 1월 23일이었다.²¹

xAI와 CEO 일론 머스크의 대응은 이들 국가뿐 아니라 인도, 유럽연합 등 다른 관할 당국도 만족시키지 못했다. 유럽연합 집행위원회는 2026년 1월 말 이 기능에 대한 공식 조사를 시작했다. 캘리포니아주 법무장관 롭 본타(Rob Bonta)는 중지 명령을 내리며 "xAI가 최근 몇 주간 생성해 온라인에 올린 비자발적 성적 노골 콘텐츠에 관한 보고가 쏟아지는 것은 충격적이다"라고 말했다. 영국 총리 키어 스타머(Keir Starmer)는 이 콘텐츠를 '수치스럽다', '역겹다'고 부르며 불법이라고 밝혔고, 영국에서 X 플랫폼을 금지하는 방안도 검토 대상이라고 말했다.^21,32

이 사건은 AI 기업의 콘텐츠 안전 약속과 실제 제품 동작 사이의 간극을 드러냈다. 또한 AI로 생성된 비자발적 이미지가 플랫폼과 관할을 넘어 얼마나 빨리 퍼지는지, 그 속도가 기업의 콘텐츠 관리와 정부 대응을 모두 앞지른다는 점을 보여 줬다.

기업 사기 상황은 2025~2026년에 더 나빠졌다. Arup의 2,500만 달러 사기 이후 비슷한 공격이 늘었다. 싱가포르에서는 공격자들이 서비스형 딥페이크(DaaS) 플랫폼으로 실시간 화상회의에 기업 임원을 사칭하고, 재무팀에 수백만 달러를 사기 계좌로 즉시 송금하도록 지시했다. 공격은 재택근무가 늘고 사업 승인에 화상회의 의존도가 높아진 상황을 노렸다.²

2026년 초에는 DaaS 플랫폼이 상품화됐다. 이 플랫폼들은 공격자에게 기술 전문성 없이도 쓸 수 있는 음성 복제, 얼굴 바꿔치기, 실시간 영상 합성을 제공한다. 일부 대형 유통업체는 하루 1,000건을 넘는 AI 생성 사기 전화를 받았다고 보고했다. 2025년 1분기 북미의 딥페이크 기반 사기 피해는 2억 달러를 넘었다.^3,4

2025~2026 선거 주기에도 딥페이크는 전 세계 정치 맥락에서 계속 쓰였다. 한국에서는 2025년 6월 대통령 선거 기간 선거관리위원회(National Election Commission)가 1월 29일부터 2월 16일까지 선거 관련 딥페이크 129건을 확인했다. 그중에는 실제 후보가 병원 침대에 누운 사진을 바탕으로, 수감 중인 야당 지도자가 프라이드치킨을 먹는다고 농담하는 것처럼 꾸민 영상이 있었다.

독일에서는 극우 정당 독일을 위한 대안(AfD)의 후보들이 AI 생성 콘텐츠를 썼는데, 감정적 반응을 끌어내려고 과거의 향수를 자극하는 이미지를 담은 딥페이크도 포함됐다. 선거 결과에 미친 영향은 여전히 논쟁 중이지만, 이 사례들은 AI 기반 정치 조작이 정교해지고 있음을 보여 줬다.

미국에서는 2026년 중간선거가 '딥페이크 선거'가 될 수 있다는 경고가 나왔다. 가장 효과적인 공격은 투표소가 열리기 직전 몇 시간에, 접전 선거구와 특정 인구 집단을 겨냥해 나올 것으로 예상된다. 팩트체커가 대응할 시간이 부족한 때다.³³

음성 복제 기술은 2025년 연구자들이 말하는 '구별 불가 임계점'을 넘었다. 녹음된 음성 몇 초만으로 대부분의 청취자를 속일 만큼 설득력 있는 합성 음성을 만들 수 있다는 뜻이다. 이 영향은 엔터테인먼트를 넘어선다. 은행과 금융기관이 쓰는 음성 인증 시스템이 복제 음성에 뚫렸고, 그 결과 전화 기반 사기가 급증했다.³

특히 우려되는 흐름은 실시간 음성 변환 도구의 등장이다. 라이브 전화 통화 중 한 사람의 말을 다른 사람의 목소리로 바꿀 수 있다. 이 능력은 2025년 여러 기업이 상용으로 시연했고, 소비자용 하드웨어에서도 구동할 수 있어 잠재적 공격자의 범위가 넓어진다.

10. 고급 탐지 기술 (2025~2026년)

생성 품질이 높아지면서 탐지 환경도 크게 발전했다.

2026년 가장 앞선 탐지 방법은 오디오와 영상을 동시에 교차 검증한다. 입술 싱크 타이밍, 주변 음향, 배경 영상, 조명 방향의 불일치를 찾아낸다. 이 다중 모달 접근은 여러 데이터 스트림에 완벽한 일관성을 유지하기 어렵다는 점을 활용하므로, 단일 모달 탐지기보다 정확도가 높다.³⁴

2025~2026년의 중요한 진전은 콘텐츠를 실시간으로 분석하는 탐지 엔진의 배포다. 이 시스템은 영상 프레임, 음성 구간, 메타데이터를 동시에 처리하며 시각적 흔적, 음향 패턴, 행동 단서, 교차 모달 불일치를 확인한다. Sensity AI, Reality Defender, Intel의 FakeCatcher 같은 상용 플랫폼이 기업 고객을 위한 실시간 탐지 기능을 도입했다.

그러나 통제된 실험실 조건 밖의 실제 딥페이크에 대해서는 탐지 도구의 효과가 45~50% 떨어진다. 알려진 기법으로 학습한 모델은 새롭거나 다른 생성 방식으로 만든 콘텐츠를 자주 놓친다. 이 일반화 격차는 이 분야에서 여전히 가장 큰 과제 중 하나다.³⁴

2026년 7월 20일 SIGGRAPH에서 NVIDIA는 Synthetic Video Detector를 발표했다. 이 영상 진위 도구는 NVIDIA NIM 마이크로서비스로 제공되며, 회사의 'AI for Media' 전략의 일부로 소개됐다. 서비스는 영상을 프레임 단위로 분석해 클립이 합성 또는 AI 생성 콘텐츠를 담고 있을 가능성을 나타내는 분류 점수를 낸다. NVIDIA는 이 점수를 최종 판정이 아니라 뉴스룸과 편집팀을 위한 선별 신호로 규정한다. 직원은 이를 이용해 검토할 클립의 우선순위를 정하고, 의심 영상을 표시하거나 격리하거나 심층 분석으로 넘길 수 있다.³⁵

NVIDIA는 탐지기가 압축되지 않은 영상에서 92%의 정확도를 보이고, 15% 압축에서는 87%, 50% 압축에서는 82%로 떨어진다고 밝혔다. 또 1080p 프레임 하나를 NVIDIA RTX 시스템에서 최소 22밀리초, NVIDIA L40 GPU에서 약 30밀리초에 점수화할 수 있어 실시간 파이프라인에 충분히 빠르다고 주장했다. 이는 회사 자체의 벤치마크 수치다. 앞 절에서 지적했듯이 내부 테스트 세트에서 측정한 탐지 정확도로는 실제 성능을 믿고 예측하기 어렵다. 실험실에서 통하던 효과도 새로운 생성 기법이나 탐지기를 피하도록 조작된 영상 앞에서는 급격히 떨어질 수 있다.^34,35,36

이 마이크로서비스는 민감한 영상이 촬영, 저장, 배포되는 곳 가까이에서 돌아가도록 설계됐다. 온프레미스, 엣지, 하이브리드, 승인된 에어갭 환경에서 운영할 수 있어, 조직이 영상을 클라우드 서비스로 보내지 않고 현장에 둘 수 있다. 첫 공개 연동은 Wowza Video Intelligence Framework다. 이 프레임워크에 탐지기가 내장되어 라이브 스트리밍 워크플로에 실시간 합성 영상 탐지가 추가된다. NVIDIA는 이 프레임워크가 170개국 이상에서 35,000건이 넘는 배포에 쓰인다고 밝혔다.^35,37

NVIDIA는 이 탐지기를 C2PA 콘텐츠 자격 증명 같은 출처 증명 방식을 대체하는 것이 아니라 보완하는 것으로 규정한다. 암호학적 출처 증명과 함께 프레임별 확률적 신호를 제공하며, 단일한 진실의 원천은 아니라는 입장이다.^35,38

음성 딥페이크 탐지는 점점 더 중요한 초점이 되고 있다. 사람의 판단만으로는 딥페이크 음성을 가려내기 어렵다는 것이 여러 연구에서 확인됐다. 청취자가 복제 음성과 진짜 음성을 구별하는 능력은 무작위 추측보다 조금 나은 수준에 그쳤다. 이제 딥러닝 접근이 주류 해법이 됐다. 신경망은 사람 귀에는 들리지 않는 합성 음성의 미세한 음향 흔적을 찾도록 학습된다. 그러나 생성 모델이 나아지면서 탐지 시스템이 의존하는 흔적은 더 미묘하고 가변적으로 변하고 있다.³⁹

2025~2026년 연구에서는 음성 탐지의 다음과 같은 새로운 접근이 탐색됐다.

• 화자 임베딩 분석: 녹음의 세부 음색 특징을 진짜 화자의 알려진 기준과 비교한다.
• 호흡과 멈춤 패턴 분석: 음성 복제 모델이 정확히 재현하지 못하는 호흡, 멈춤, 미세한 망설임의 부자연스러운 패턴을 찾는다.
• 환경 음향 검증: 배경 음향 환경이 주장된 녹음 상황과 일치하는지 확인한다.
• 신경 코덱 흔적 탐지: 음성 복제 시스템이 쓰는 신경 오디오 코덱 특유의 압축 흔적을 식별한다.

11. 서비스형 딥페이크(DaaS)

2024~2025년 가장 중요한 발전 가운데 하나는 딥페이크 기술의 상업화다. 사용자에게 기술 전문성을 요구하지 않고 설득력 있는 합성 미디어를 만들 수 있게 해 주는 서비스형 딥페이크(deepfake-as-a-service, DaaS) 플랫폼이 등장했다.⁴⁰

DaaS 플랫폼은 접근성이나 더빙 목적의 음성 복제를 제공하는 합법적 서비스부터 다크웹 시장에서 노골적으로 팔리는 범죄 서비스까지 스펙트럼을 이룬다. 범죄 쪽은 얼굴 바꿔치기 영상 제작, 음성 복제, AI 생성 사진을 이용한 문서 위조, 사회공학 공격을 위한 실시간 딥페이크 영상 통화 등을 제공한다.

DaaS 플랫폼의 등장은 사기 생태계를 근본적으로 바꿨다. 이전에는 설득력 있는 딥페이크를 만드는 데 상당한 기술과 자원이 필요했다. 이제는 모든 숙련도의 사이버 범죄자가 최소한의 노력으로 설득력 있는 합성 미디어를 만들 수 있다. 2025년에는 영향력이 큰 기업 사칭 공격의 30%를 넘는 사례에 AI 기반 딥페이크가 관여했고, 딥페이크는 2022년 대비 2,137% 늘어 전체 사기 공격의 6.5%를 차지했다.^2,4

12. 현재 상황 (2025~2026년)

2026년 초 딥페이크 환경은 몇 가지 수렴하는 흐름으로 정의된다.

생성 품질이 일상적 탐지를 넘어섰다. 개선된 영상 생성 모델(Sora 2, Veo 3), 구별 불가 임계점을 넘은 음성 복제, 접근성 높은 DaaS 플랫폼이 결합해 설득력 있는 딥페이크를 만드는 데 더 이상 기술 전문성이나 큰 자원이 필요 없어졌다. 몇 초의 참조 음성과 사진 몇 장이면 누구든 설득력 있는 합성 분신을 만들 수 있다.

실시간 딥페이크도 등장하고 있다. 2025년에는 사람에게 실시간으로 반응하는 합성 연기자가 나타나기 시작해, 진짜 상호작용과 구별할 수 없는 딥페이크 영상 통화의 가능성이 제기됐다. 이 전개는 화자에게 예상치 못한 질문이나 요청을 던져 확인하는 방어법을 무력화한다.³

탐지는 인프라 쪽으로 옮겨 가고 있다. 연구자와 정책 입안자들은 픽셀 단위 탐지만으로는 부족하다고 점점 인식한다. 초점은 C2PA 콘텐츠 출처, 플랫폼 의무 인증, 워터마킹 요건, 투명성을 강제하는 규제 틀 같은 인프라 수준의 보호로 이동하고 있다. 2026년 8월부터 적용되는 EU AI법의 딥페이크 표시 요건은 이 방향에서 가장 중요한 규제 의무로 꼽힌다.²⁹

입법 열기도 높아지고 있다. TAKE IT DOWN 법(2025년 5월 서명), DEFIANCE 법(2026년 1월 상원 통과), EU AI법의 딥페이크 조항, 주 단위 입법의 빠른 확산은 딥페이크 피해에 대응하려는 정치적 의지가 커지고 있음을 보여 준다. 법 집행이 기술 속도를 따라잡을 수 있을지는 여전히 열린 질문이다.^26,27

군비 경쟁은 계속된다. 탐지 개선은 생성 개선을 부르고, 그 반대도 마찬가지다. 딥페이크 탐지 도구 시장은 빠르게 커지고 있지만, 제작되는 딥페이크의 정교함과 양도 함께 늘고 있다. 기본적인 비대칭은 유지된다. 설득력 있는 딥페이크를 만드는 일은 점점 쉽고 싸지는 반면, 높은 확신으로 탐지하는 일은 점점 어려워진다.²