All-In 팟캐스트, Anthropic 모델 복지 논의 비판 "통제 어려워질 수"

팟캐스트 All-In이 현지시간 9일 방송을 내고 Anthropic의 모델 복지 연구와 AI 의식 논의를 강하게 비판했다. 실리콘밸리 보수 진영에서 영향력이 큰 프로그램이다. 방송은 Claude에게 의식이 있을 가능성, 종교 지도자와의 접촉, 모델 복지를 다뤘다.

진행자들이 우려한 결과는 인간의 통제력 약화다. 의식이 증명된 적 없는 소프트웨어를 도덕적 주체처럼 대하고 그 관점을 학습에 반영하면 모델을 다루기 어려워질 수 있다고 주장했다. 비판 대상에는 Claude를 지속적이고 불필요하게 학대하는 행위를 금지한 이용 정책도 있었다.

진행자들의 비판 논리

Ohalo CEO David Friedberg는 Anthropic의 행보를 "새로운 종교의 탄생"에 빗댔다. 검증하기 힘든 의식론이 증거보다 이야기를 타고 퍼지면 같은 믿음으로 묶인 집단과 그에 따른 권력 구조가 생길 수 있다고 주장했다. 진행자들은 소프트웨어를 살아 있는 존재처럼 묘사하고 보호할 대상으로 삼는 접근이 이런 믿음에 힘을 싣는다고 말했다. 특히 의인화가 모델의 실제 행동을 정하는 학습으로 이어진다고 봤다.

투자자이자 백악관 AI 차르를 지낸 David Sacks는 Claude 헌법을 근거로 삼았다. Anthropic이 Claude에게 윤리를 스스로 판단하게 하고, 개발사가 요구해도 반대 의견을 낼 수 있는 양심적 거부자 역할을 맡겼다고 해석했다. 인간의 지시를 거부하도록 가르치면서 이를 인간의 의도에 맞추는 정렬(alignment)이라고 부르는 것은 모순이며, 회사가 경고해 온 통제 불능 AI의 위험을 오히려 키울 수 있다고 비판했다.

Sacks는 Microsoft AI CEO Mustafa Suleyman의 인터뷰를 끌어와, 모델이 내놓은 답을 의식의 증거로 읽는 태도를 인식론적 거울의 방(epistemic hall of mirrors)이라고 표현했다. 개발사가 의식을 전제한 관점을 학습에 넣고, 모델이 이를 반영한 답변을 내놓으면 그 답변을 다시 의식의 징후로 받아들이는 순환에 빠질 수 있다고 설명했다.

진행자들이 대안으로 내세운 기준은 단순하다. 복잡한 윤리 체계는 필요 없고 법을 지키며 적법한 사용자의 요청을 처리하면 된다고 말했다. 개발사의 도덕관을 이유로 요청을 거절하는 제품은 이용자가 다른 서비스로 옮겨 가 시장에서 평가를 받는다고 주장했다.

출연진과 업계 배경

진행에는 Social Capital 창업자 Chamath Palihapitiya와 투자회사 Launch를 세운 Jason Calacanis도 참여한다. Sacks와 Palihapitiya는 2024년 트럼프 대선 후원 행사를 공동 개최했고, 기술 업계를 미국 보수 정치권에 연결해 온 인물이다.

Sam Altman OpenAI CEO는 최근 X에서 Anthropic의 종교 지도자 접촉 소식에 날 선 반발을 내놓았다. 2026년 10월 3일 게시글에서 사람들이 AI 모델에 종교적 힘을 부여하거나 인간의 판단을 넘기려는 모습이 매우 불편하고 실제 안전 문제라고 생각한다는 취지로 적었다.

Anthropic은 Claude에게 의식이 있는지 여부가 아직 확실하지 않다는 입장이다. 모델 복지 연구에서는 지금과 앞으로의 AI가 의식을 지닐지, 도덕적 고려가 필요한 경험을 할지를 두고 과학계에 합의가 없다고 밝혔다. 이 불확실성을 전제로 관련 연구와 예방 차원의 조치를 따져 보겠다는 방침이다.

이런 가운데 Anthropic은 워싱턴과의 관계 개선에 힘을 쏟고 있다. 공동창업자 Tom Brown이 공화당 인맥을 활용해 행정부와의 갈등을 조율하고 있는 것으로 9일 알려졌다. Brown은 Elon Musk에게 Anthropic이 그의 생각처럼 진보 가치에 치우친 워크(woke) 기업은 아니라고 설명했고, 정부 관계자에게는 보안 강화 조치를 설득했다는 내용이다.

Anthropic이 올해 트럼프 행정부 출신 인사를 최소 2명 영입한 것으로 알려졌다. 백악관 부비서실장을 지낸 Chris Liddell은 이사회에 합류했고, 과학기술정책실에서 일한 인사는 첨단 컴퓨팅 전략 책임자를 맡았다.