로이터 보도를 인용한 AI타임스에 따르면, OpenAI는 2025년에 제정된 캘리포니아주 SB53을 고쳐 AI 안전 의무를 늘리자고 제안했다. 이 법은 최첨단 모델을 만드는 기업이 안전 프레임워크와 투명성 보고서를 내놓고, 중대한 사고를 알리도록 규정한다. OpenAI는 여기에 모델을 긴급 종료할 수 있는 통제 기능, 해마다 받는 외부 독립 감사, 더 엄격한 사이버 보안 기준을 넣자고 했다.
Anthropic은 접근이 다르다. 모델을 검토한 결과 중대한 위험이 드러나면, 정부가 법원에 해당 모델의 출시를 금지해 달라고 청구할 수 있어야 한다는 것이다. 두 회사의 서한은 뉴섬 주지사 앞으로 갔고, Anthropic은 15일(현지시간), OpenAI는 20일에 보냈다. 서한의 계기는 뉴섬 주지사가 지난 9월 AI 안전 규제 개선안을 만들 전문가 패널을 꾸린 일이다.
Anthropic은 모든 모델에 전체 시스템을 일괄적으로 중단할 수 있는 킬 스위치를 의무로 다는 방안에는 반대했다. 기업이 통제력을 잃은 상황에서는 이런 장치로 실제 위험을 다 막지 못하고, 규제 당국에 잘못된 안심을 줄 수 있다는 것이다.
대안은 AI 에이전트 가운데 문제가 된 것만 비활성화하거나 특정 고객의 모델 접근을 막는 표적형 개입이다. 모델 전체를 멈추기보다 문제의 근원을 직접 다루는 쪽이 현실적이라고 Anthropic은 설명했다.
OpenAI는 안전 프레임워크가 첨단 모델의 AI 연구·개발 자동화 능력을 명확히 다루도록 해야 한다는 주장도 폈다. AI타임스는 AI가 스스로 연구하며 성능을 높이면 사람이 파악하고 제어하기 힘들어질 수 있다는 걱정이 이 제안에 깔려 있다고 전했다.
OpenAI는 2025년 캘리포니아 의회에서 SB53을 논의할 때 주 단위의 과도한 규제에 반대했다. 최근에는 전국 단위의 의무 안전 기준을 지지하면서, 주 정부의 규제 추진도 이어져야 한다는 입장이다.
미국에서는 2025년 9월 초당적 법안이 검토돼, 위험한 AI 모델이 나오지 못하게 정부가 제동을 걸 수 있는 길이 논의됐다. 하원에서는 사람의 생명이나 경제를 위협하는 모델에 종료를 명령할 수 있는 'AI 킬 스위치 법안'도 발의됐다. 이런 논의가 입법으로 이어질지는 불투명하다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- 오픈AI·앤트로픽, 캘리포니아주에 AI 규제 강화 촉구...'킬 스위치'는 입장 엇갈려 aitimes.com