호주 정부가 자국에서 영업하는 최첨단 AI 기업에 의무 안전 규칙을 부과할 법안을 발표했다. 아직 제안 단계로 시행 전이며, 통과되면 호주가 AI 기업에 의무 안전 규칙을 적용하는 첫 사례가 된다.
적용 대상은 위험도가 가장 높은 최첨단 모델을 만드는 기업이다. 법안에 따르면 이 기업들은 모델을 독립 감사에 열어 두고, 안전 점검을 계속 유지하며, 안전 프레임워크를 공개해야 한다. 보안 사고는 정부에 즉시 보고해야 한다. 이 보고 의무는 통제를 벗어난 AI 에이전트의 초기 징후를 포착하려는 취지도 있다.
새 감독 기구가 호주 AI 안전 연구소(Australian AI Safety Institute)와 협력해 규정 준수를 집행하고, 위반 기업에는 무거운 벌칙을 부과할 예정이다. 이 규칙은 정부의 'AI in Australia's Interests' 의제에 속한다.
앤서니 앨버니지 총리, 리처드 말스 부총리, 토니 버크 장관, 팀 에어스 장관은 국제 협상에 들어가기 전에 국내 가드레일을 먼저 갖추겠다고 밝혔다. 국민과 국익을 지키고, 투자를 끌어들이는 신뢰와 규제의 안정성을 쌓아 경제와 의료에서 AI의 혜택을 얻겠다는 것이다. 세부 사항은 의견 수렴이 끝난 뒤 공개된다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.