Anthropic 아모데이, 안전 기준 높이려면 기술 선두 필요하다고 반박

Anthropic의 다리오 아모데이 CEO가 2026년 10월 21일(현지시간) X(옛 트위터)에 약 2000단어 길이의 글을 올렸다. 안전 기준을 높이려면 Anthropic이 기술 경쟁에서 앞서야 한다는 주장이다. 비영리 안전 단체 엔코드 AI에서 최고 전략책임자(CSO)를 맡은 네이선 캘빈의 비판에 답하는 형식이다. 속도 조절을 언급하면서 초지능 개발 경쟁은 이어간다는 지적에 직접 대응했다.

아모데이는 "우리의 전략은 기술을 책임 있게 개발하는 방법을 보여줌으로써 업계 전체의 기준을 높이는 것"이라고 밝혔다. 이런 원칙을 실천하는 기업이 앞서 있어야 효과가 크다며 '상향 경쟁(race to the top)'이라고 불렀다. 앞선 위치에서 안전의 기준을 내놓으면 다른 기업의 행동도 바꿀 수 있다는 논리다.

컴퓨팅 확보와 AI의 모델 개발 투입에 대해서도 같은 논리를 폈다. 기술 우위를 지키려는 선택일 뿐 안전을 앞세우는 회사 전략과 어긋나지 않는다는 것이다. 경쟁에 뛰어들어야 안전을 지킬 수 있다는 주장과, 경쟁이 안전을 눌러 버릴 수 있다는 우려는 따로 봐야 한다고도 했다. 경쟁을 계속한다는 사실만으로 안전 약속을 저버렸다고 볼 수 없다는 입장이다.

속도 조절과 정책 변경

아모데이는 지난달(9월) 안전 연구와 검증이 AI 발전을 뒤따를 수 있게 속도를 조절하자고 제안했다. 제안 직후에는 선두 기업이 규제로 후발 주자의 추격을 막는 '사다리 걷어차기'라는 비판이 나왔다. 캘빈의 비판과는 별개이고 비판한 쪽은 특정되지 않았다.

이번 글에서 아모데이는 "AI로 인한 가속이 너무 빨라 안전이 따라가기 어려워질 때 어떻게 해야 하는지에 관한 중요한 질문에 직면하고 있다"고 썼다. "우리는 그 시점에 가까워지고 있으며, 이것이 '속도 조절'을 고민하는 이유"라고도 했다. 감속을 시작할 시기와 판단 기준은 글에 나오지 않는다.

책임 있는 확장 정책(RSP)을 바꾼 일은 '가장 실질적인 쟁점'이라고 인정했다. 옛 규칙은 안전에 보탬이 적은 작업까지 의무로 정해 중요한 문제를 놓쳤다는 설명이다. 지금의 RSP는 위험 보고서, 로드맵 공개, 외부의 독립 검증 강화에 무게를 둔다고 했다.

정책 설명과 대외 소통을 매끄럽게 처리하지 못했다는 점도 시인했다. 조심스럽지 못했던 표현, 팀 사이의 정보 전달이 늦어진 일 등을 이유로 들고 "CEO로서 책임을 진다"고 말했다. 급변하는 환경에서 회사의 가치를 어떻게 지킬지는 곧 더 구체적으로 밝히겠다고 예고했다.

비판의 내용과 반박 근거

캘빈은 Anthropic이 초지능 경쟁에서 이기는 데 몰두한다고 보고, 근거로 5000억달러 넘는 컴퓨팅 계약과 모델 개발에서 Claude에 기대는 비중이 커진 점을 들었다. 재귀적 자기 개선(RSI), 곧 AI가 다음 모델을 만드는 일에 참여해 성능이 더 빨리 오르는 현상에 닿을 수 있는 활동을 넓히면서 안전 우선을 말할 수 있느냐는 문제도 제기했다.

Anthropic이 최근 미국 의회에 제시한 안전 법안 초안도 비판 대상이다. 정부가 위험한 모델을 차단하는 절차를 넣었지만 개입 요건이 좁아 정부가 대처하기 더 힘들어질 수 있다는 지적이다. 이 부분에 대한 아모데이의 구체적인 반박은 이번 글에 없다.

아모데이는 글 첫머리에서 캘빈의 AI 안전 조사 활동을 높이 평가했다. 건설적이고 정직한 태도에서 나온 의견이며, 지켜보는 사람이 있는 편이 대중에 이롭다는 취지였다.

안전이 사업상의 구실에 그친다는 지적에는 사례로 맞섰다. 미소스급 모델은 2월에 확보했으나, 사이버 방어 장치를 보강한 6월에 이르러서야 일반에 내놓을 수 있도록 공개를 늦췄다고 설명했다. 수익과 기술 우위를 내준 선택이라는 것이다. 생물무기 악용을 막으려는 강한 규제 때문에 정당한 생물학 연구가 막히는 불편도 받아들였다고 했다. 정부에 모델 공개를 막을 권한을 주는 데 찬성했고, 중국이 통제하는 기업에는 서비스를 팔지 않는 제한도 두었다고 덧붙였다.