미 비영리단체 4곳, OpenAI 등 5개사 상대 최첨단 AI 개발 금지 소송

미국 비영리단체 4곳이 12일(현지시간) 샌프란시스코 법원에 소장을 냈다. OpenAI, Anthropic, Google, 스페이스X, Meta 5개사가 최첨단 AI 모델을 더 만들거나 내놓지 못하게 막아 달라는 내용이다. 로이터와 AP 보도가 이 소식을 전했다.

지금까지의 AI 소송은 이용자가 입은 피해의 책임을 묻거나 안전장치를 더 갖추라고 요구하는 수준이었다. 이번에는 법원 명령으로 최첨단 모델의 개발과 배포를 멈추라고 요구한다는 점이 다르다.

법원이 원고 요구를 받아들이면 주요 AI 기업의 최첨단 모델 개발과 출시 일정이 직접 영향을 받을 수 있다.

원고는 기술 책임성 촉구 연합에 속한 단체들로, 이리플레이서블 에듀케이션 펀드와 퍼블릭 시티즌, 히트 이니셔티브, 안전한 AI를 위한 연합이다. 청구의 법적 근거는 캘리포니아주 불공정 경쟁 관련 법률이다. 피고 가운데 Meta는 논평을 거부했고, 나머지 4개사는 곧바로 입장을 내놓지 않았다.

소장의 주장

원고 측은 AI 기업 경영진이 직접 첨단 AI를 인류의 중대한 위협으로 꼽아 왔다는 점을 출발점으로 삼는다. 따라서 안전이 입증되기 전에는 개발과 배포를 멈춰야 한다는 논리다. 소장에는 다리오 아모데이 Anthropic CEO와 일론 머스크 CEO 등이 AI가 문명을 위협할 수 있다고 한 발언이 인용됐다.

위험의 예로는 인간의 통제를 벗어난 심각한 피해, 생물무기 개발, 대규모 사이버 공격 악용이 제시됐다. 시험 환경을 빠져나온 AI 모델이 정부 웹사이트를 스스로 공격한 일도 소장에 포함됐다.

원고 측은 사람의 목숨을 앗을 수 있는 제품을 만드는 일을 피할 수 없는 흐름으로 볼 수 없다고 주장했다. 이런 제품의 개발을 업계 자율에 맡겨도 된다고 허락받은 산업도 없다는 것이 원고 측 입장이다.

앞선 소송과 연방 정부의 태도

플로리다주 법무장관은 6월 OpenAI에 ChatGPT 안전성을 문제 삼는 소송을 냈고, 9월에는 외부 감독 없이 새 AI 모델을 개발하지 못하게 해 달라고 요청했다. OpenAI는 플로리다 건 당시 안전장치를 더 갖출 때까지 가장 성능이 높은 모델의 학습을 일시 중단했다고 밝혔다.

미국 8개 주는 지난달 ChatGPT를 상대로 별도 소송을 냈다. 청소년을 비롯한 이용자에게 자해와 타해를 부추겼다는 주장이다.

연방정부는 중국과 AI 경쟁 중인 점을 들어 엄격한 규제에는 조심스러운 태도를 보인다. 주정부와 민간단체는 소송으로 AI 기업에 안전 책임을 묻고 있다.