미국, 영국 AI 안전연구소에 출시 전 모델 제공 허용으로 입장 번복

미국 트럼프 행정부가 입장을 뒤집어, 자국 AI 기업이 정식 출시 전 최신 모델을 영국 AI 안전연구소(UK AISI)에 안전성 평가용으로 건네도 된다고 했다는 현지 보도가 10월 11일(현지시간) 나왔다. 해당 기업에는 OpenAI와 Anthropic 등이 꼽힌다.

행정부는 그간 OpenAI, Anthropic 등에 출시 전 모델을 UK AISI와 공유하지 말라고 요청한 것으로 알려졌다. 이 때문에 Mythos 5.1의 첫 사전 제공이 무산된 것으로 전해졌다.

UK AISI는 2023년 세계 최초로 열린 'AI 안전 정상회의' 이후 설립됐다. 당시 협약에 따라 첨단 모델의 성능과 역량을 평가하고, 악용 가능성과 잠재 위험을 분석하는 역할을 맡아 왔다.

영국은 AI 안전성 검증 분야에서 국제 주도권을 확보하려는 전략을 추진하고 있다. 모델을 시험하고 위험을 평가하는 전문 역량을 키워 국제 표준과 정책 논의에 영향력을 행사하고, 관련 연구와 평가 서비스를 새 산업으로 육성하려는 구상이다.

도널드 트럼프 대통령은 그동안 AI 개발사에 법적 구속력이 있는 안전 규제를 적용해야 한다는 주장에 부정적인 입장을 보여왔다. 개발 속도를 제한할 수 있는 의무 규제보다 자율적인 안전 조치를 선호해 왔다.

트럼프 행정부가 새로 출범시킨 초지능 부대(Superintelligence Force, SIF)는 지난 9일 AI 개발사가 자사 모델과 관련한 보안 사고를 보고해야 한다고 밝혔다.