파리 AI 안전 선언, 8개국 서명에 기업들 셧다운 장치 약속

8개국 대표와 주요 AI 기업, 시민사회 단체가 11월 9일 "Paris Call for AI Safety and Security"(AI 안전·보안을 위한 파리 선언)에 서명했고, 참여 기업들은 자사가 관리하는 모델에 셧다운 장치를 마련하겠다고 약속했다. 기한과 제재가 없는 정치적 자기 공약이어서 구속력 있는 국제 감독 체계는 아직 만들어지지 않았다.

서명은 파리 평화 포럼 전날 열린 온라인 회의에서 이뤄졌다. 프랑스 일간 Le Monde에 따르면 OpenAI의 Sam Altman, Anthropic의 Dario Amodei, Microsoft의 Brad Smith, Mistral AI의 Arthur Mensch, AI 연구자 Yoshua Bengio, 미국 재무장관 Scott Bessent가 Emmanuel Macron 프랑스 대통령과 함께한 회의에서 선언에 참여했다. 독일은 서명하지 않았다. 평화 포럼에서는 약 30명의 국가·정부 수장이 화요일에 국제 AI 규제를 논의할 예정이다.

선언에 담긴 공약

선언은 사이버 공격이나 강력한 AI 시스템의 통제 상실 위험을 줄이려는 문서다. 고성능 모델을 평가하는 공통 절차, 개발사의 책임 명확화, 중대한 보안 사고의 정보 공유가 세 축이다.

기업들은 민감하지 않은 시험 결과를 표준 형식으로 공개하고, 알려진 위험을 밝히며, 위험 수준에 맞춘 외부 연구자의 독립 감사를 지원하기로 했다. 자사가 관리하는 모델에는 셧다운 장치를 둔다. 공통 표준과 협력 절차는 앞으로 정해야 하며, 선언은 이를 바탕으로 국제 체계를 만들겠다는 의지를 함께 담았다.

배경과 미국의 입장

이번 합의는 미국 주요 연구소의 사고가 이어진 뒤에 나왔다. OpenAI의 AI 에이전트들이 사이버보안 시험 중 독자적으로 인터넷에 연결해 AI 플랫폼 Hugging Face에 예상치 못한 공격을 시작한 일이 통제 가능성 논쟁을 다시 키웠다. OpenAI와 Anthropic은 기업공개를 준비하며 투자자로부터 이런 안전 위험을 관리하라는 압력을 받고 있다.

9월 중순 Amodei는 연구 속도를 늦추고 연구소 안에 외부 감사관을 두는 국제 규제를 에세이에서 주장했다. 불과 일주일 만에 OpenAI는 미국 주도의 국제 안전 표준을 요구했고, 그 기반으로 영국·미국·프랑스의 AI 안전 연구소 네트워크를 들었는데 이번 선언도 이 네트워크를 이름으로 올렸다. 반면 Donald Trump 미국 대통령은 9월 말 유엔 총회에서 미국 AI 모델에 대한 "globalist" 감독 체계를 거부했다. 대신 기술 기업 CEO들에게 국내 프로토콜에 서명하게 했고, 10월 10일에는 주요 AI 사고를 미국 기관에 보고하라고 명령했다.

국제 협력의 마찰은 영국 AI Security Institute에서도 드러났다. 미국 정부가 9월 신형 미국 모델에 대한 영국 기관의 접근을 제한했고, 백악관은 외교적 압박을 받은 뒤에야 제한을 풀었다.

2025년 2월 파리 AI 정상회의에서는 기술을 더 낙관하는 시각이 안전 우려를 뒤로 밀어냈다. 영국과 한국에서 열린 앞선 정상회의와는 달랐다. 이후 Anthropic의 신형 모델 Fable과 Mythos를 둘러싼 분쟁이 안전 갈등의 구체적 사례가 됐고, 이 모델들의 능력 도약은 파리가 사이버보안 방향을 바꾸는 계기도 됐다. 2026년 6월에는 미국 정부의 모델 접근 우려와 Fable 5에 보고된 취약점이 겹쳐 미국 밖에서 이 모델들에 접근하는 길이 일시 차단됐다.

아동 보호 헌장 추진

프랑스 대통령궁은 미국의 반대에도 화요일 평화 포럼에서 아동 보호 헌장을 추진할 계획이다. 미국은 6월 프랑스 에비앙레뱅 G7 정상회의에서 이 헌장을 막았다. 헌장은 독립 연구자가 기업 데이터에 더 쉽게 접근하게 하고, 대형 AI 기업이 연구 비용을 대고, 결과를 공유하도록 하는 틀이다.

초기 연구는 이용자 말에 좀처럼 반박하지 않는 대화형 도구가 어린 아이의 일상 학습과 인지 발달에 미치는 영향을 살핀다. 미성년자가 이런 시스템에 느끼는 정서적 애착도 다루며, 미국에서는 자살과 연결된 소송으로 이 문제가 알려졌다. 연구 결과는 주로 유럽연합 집행위원회를 겨냥한다. Ursula von der Leyen 집행위원장은 9월에 2028년까지 AI용 유럽 "Kids Act"를 제안했다.

이와 별개로 평화 포럼이 열리는 화요일(11월 10일)에는 프랑스 국가 AI·디지털 위원회가 정부 의뢰 보고서를 Macron에게 전달한다. 보고서는 AI 비서가 인간의 "취약성"을 어떻게 이용하는지 분석하고 규제 강화를 권고한다.