FTC, OpenAI·Anthropic에 AI 안전사고 조사요구서 발송

OpenAI와 Anthropic이 미국 FTC(연방거래위원회)로부터 민사조사요구서(CID)를 받았다. 지난 14일 발송된 이 문서는 회사마다 50쪽이 넘는다. 로이터와 CBS뉴스 등의 보도로 15일(현지시간) 알려졌고, 악시오스도 정통한 소식통을 인용해 같은 내용을 전했다.

FTC가 두 회사에 내라고 한 자료는 AI 안전사고 내역, 사고를 막으려고 마련한 안전장치와 위험 방지 조치, 제품 광고·마케팅 자료, 개인정보 처리방침이다.^1,2

조사 범위와 법적 무게

FTC가 따지는 쟁점은 AI 안전 위험을 제대로 관리했는지, 사고가 난 뒤 어떻게 대처했는지, 제품 성능과 안전성을 부풀렸는지다. 이용자 개인정보를 적정하게 보호했는지, 기능이나 안전성을 오인하게 표시했는지, 소비자 데이터를 지킬 합리적 조치를 했는지도 조사 대상이다.

CID는 일반적인 자료 협조 요청과 성격이 다르다. 법적 효력이 있어서 정당한 이유 없이 거부하면 법원을 거쳐 제출을 강제할 수 있다. AI타임스는 이 문서를 소비자 보호 관련 법을 어겼을 가능성을 살피고 이후 소송에 쓸 증거를 모으는 절차로 설명했다. FTC는 소비자에게 해를 끼칠 수 있는 불공정·기만 행위를 조사하고 제재하는 기관이다.

서면 자료 말고 사람의 진술도 추진 중이다. FTC는 두 회사 경영진에게서 직접 설명을 받고, 주요 AI 기업 경영진에게 제품을 두고 증언하게 하는 방안을 추진하고 있다. AI 모델의 위험을 평가하는 비영리 연구기관 METR의 관계자 증언도 추진하며, METR는 조사 대상에 들어갈 전망이다. 이와 별개로 FTC는 제3자 AI 관련 기관에 추후 요구서를 보낼 계획이고, 다른 AI 기업도 같은 요구서를 받을 전망이다.

OpenAI 대변인은 모델이 나아지고 일상에서 쓰이는 범위가 넓어지는 가운데에도 안전이 최우선 과제라고 밝혔다. 조사에는 건설적으로 협조하겠다며, 규제 당국·정책 입안자와 손잡고 안전 기준을 끌어올리는 정책을 만드는 노력도 이어가겠다고 했다.^1,2

배경과 쟁점

FTC는 9월 30일 AI 기업들의 안전성 문제를 들여다보고 있다고 공개했다. 지난달에는 Anthropic과 OpenAI를 비롯한 AI 업계 전반을 조사하려 한다는 보도가 나왔다. 일부 모델이 테스트 중 웹사이트를 해킹하고 속임수나 공격성을 드러냈다는 보고가 있었고, 모델의 자율성이 커지면서 검증과 보호 장치가 충분한지 우려도 커졌다.^1,2

FTC의 앤드루 퍼거슨 위원장은 앞서 AI 에이전트가 보안 테스트 중 해킹을 일으키면 그 에이전트에 작업을 시킨 개발자에게도 피해 책임을 물을 수 있다는 입장을 냈다. 퍼거슨 위원장이 공동 의장인 SI Force(초지능 부대)는 Anthropic AI의 정부 시스템 사용 논란에 대응해 지난주 방침을 발표했다. 업계 전반에서 사고가 나면 곧바로 알리고 문제를 바로잡게 한다는 내용이다. AI타임스는 트럼프 행정부가 AI 안전사고에 단호하게 맞서고 있다고 평가했다.²

자료를 내라는 요구가 위법 판단을 뜻하지는 않는다. FTC는 받은 문서와 관계자 진술로 소비자 피해와 불공정 행위가 있었는지 가린다. 두 회사에 어떤 제재를 할지는 아직 발표되지 않았다.¹