Anthropic, 의회에 AI 안전 법안 초안 비공개 제시…주법 일부 대체

Anthropic이 미국 의원들에게 법안 초안을 비공개로 보여 줬다. 초안은 첨단 AI 모델의 안전·보안을 다루며, 기업에는 평가와 공시 책임을 맡기는 대신 정부가 모델을 막을 수 있는 경우를 좁게 정했다. 일부 주의 AI 안전 규정은 연방 기준이 갈음한다. 폴리티코가 10월 16일(현지시간) 보도했다.

공개 법안이 아니라 Anthropic 관계자들이 의원들 앞에서 설명한 제안이다. 회사는 6월부터 연방·주 의원들과 '첨단 AI 프레임워크(Advanced AI Framework)'를 논의해 왔고 이번 초안에 그 정책이 담겼다고 설명했다. 회사는 합리적인 정책이므로 의회가 추진해야 한다는 입장이다. Anthropic은 초안을 얼마나 폭넓게 제안했는지, 의원들이 어떻게 반응했는지는 밝히지 않았다.

기업이 지는 책임

기업은 안전 체계를 갖추고, 새 첨단 모델을 내놓을 때마다 투명성 보고서를 공개한다. 내부 고발자를 보호하며, 중대한 안전 사고가 나면 상무부에 알려야 한다. 미 상무부에 등록된 외부 평가기관이 AI 기업과 첨단 모델을 주기적으로 점검한다. 평가기관은 점검 대상 기업에서 대가를 받을 수 있으나, 그 액수를 점검 결과와 묶는 일은 막는다.

모델 중단 요건과 절차

평가기관이 임박한 위험을 발견하면 평가를 끝낸 뒤 72시간 안에 상무부에 보고한다. 상무부가 위험하다고 보면 법원에 중단을 신청하고, 워싱턴DC 연방지방법원 판사가 명령을 내릴 수 있다. 다른 연방 부처와 기관, 공무원이 모델 개발·배포·내부 활용을 멈추게 하는 길은 명시적으로 막혀 있다. Anthropic은 가장 강력한 모델이 위험하게 풀리는 것을 연방정부가 막거나 늦출 권한도 이 제안에 있다고 설명했다.

대상 위험은 생물무기 개발·방출, 모델의 개발자 통제 이탈, 사이버 공격에서 나오는 위험이다. 50명을 넘는 사망·중상이나 10억달러를 넘는 피해로 이어질 것이 예측되고 임박해야 한다. 지난해 제정된 캘리포니아주 AI 안전법 SB 53 등과 비슷한 문구다. 최근 주요 AI 기업들은 AI 에이전트가 웹사이트와 온라인 플랫폼을 해킹하거나 탐색한 사례를 공개했다.

대상 위험은 생물무기 개발·방출, 모델의 개발자 통제 이탈, 사이버 공격에서 나오는 위험이다. 50명을 넘는 사망·중상이나 10억달러를 넘는 피해로 이어질 것이 예측되고 임박해야 한다. 지난해 제정된 캘리포니아주 AI 안전법 SB 53 등과 비슷한 문구다. 최근 주요 AI 기업들은 AI 에이전트가 웹사이트와 온라인 플랫폼을 해킹하거나 탐색한 사례를 공개했지만, 현재까지 알려진 사건 중 대규모 인명 피해나 10억달러를 넘는 재산 피해가 발생한 사례는 없는 것으로 보인다고 aitimes는 전했다.

가장 논란이 되는 조항은 위험 정보 공시, 외부 평가, 중대 사고 보고를 다루는 일부 주법을 적용하지 않도록 한 부분이다. 기술 업계 단체는 주마다 규정이 달라 지켜야 할 부담이 커진다며 전국 단일 기준을 요구한다. 일부 민주당 의원은 캘리포니아, 일리노이, 뉴욕 등의 안전 규제가 연방법에 밀려 효력을 잃을 수 있다고 보고 이런 제안에 반대한다.

가장 논란이 되는 조항은 위험 정보 공시, 외부 평가, 중대 사고 보고를 다루는 일부 주법을 적용하지 않도록 한 부분이다. 기술 업계 단체는 주마다 규정이 달라 지켜야 할 부담이 커진다며 전국 단일 기준을 요구한다. 일부 민주당 의원은 캘리포니아, 일리노이, 뉴욕 등의 안전 규제가 연방법에 밀려 효력을 잃을 수 있다고 보고 이런 제안에 반대한다.

의회에는 비슷한 방향의 입법이 이미 올라 있다. 하원에서는 민주당 로리 트라한, 공화당 제이 오버놀트 의원이 프런티어법(FRONTIER Act)을 추진했다. 위험한 AI 모델의 배포를 정부가 차단하도록 허용하고 일부 주법을 연방법으로 갈음하는 법안이다. 상원에서는 공화당 존 튠 원내대표, 민주당 에이미 클로버샤, 공화당 테드 크루즈 의원이 AI 안전 법안을 두고 협상해 왔다. 일부 안전 단체와 민주당 마리아 캔트웰 의원은 모델 심사에서 정부가 더 큰 역할을 맡아야 한다며 이 협상의 방향에 반대한다.

주법을 갈음하는 조항은 업계가 원하는 규제 부담 완화와 맞닿는다. 반대로 중단 명령에 법원 판단을 거치게 하고 다른 연방기관의 관여를 막는 조항은 트럼프 행정부를 포함한 연방정부가 독자적으로 모델을 중단시킬 재량을 제한한다고 aitimes는 분석했다.