OpenAI, 차기 플래그십 안전 작업 중…올해 신모델 1~2개 출시 전망 보도

OpenAI 직원들은 올해 말까지 "신모델 1~2개"가 나올 가능성이 높다고 말했다. 다만 현재 개발 중인 "대폭 개선된 모델"이 여기에 들어갈지는 분명하지 않다. 프로젝트를 아는 관계자들이 전한 내용이며, OpenAI가 공식 확인한 것은 아니다.

차기 플래그십은 출시까지 시간이 더 걸릴 수 있다. 모델의 목표가 연구진과 고객의 기대에 맞도록 하는 정렬 작업이 필요하고, 모델 주변의 테스트 인프라도 보강해야 한다고 알려졌다. 경영진이 안전성 평가에 만족한 뒤에도 절차가 남아 있다. OpenAI는 첨단 AI 시스템의 평가를 다루는 트럼프 대통령의 행정명령에 따라 미국 정부에 새 모델 접근을 허용하기로 합의했다. 접근 시점은 외부 협력사 공개 최대 30일 전이고, 일반 공개 전에는 접근 기간이 더 길다.

Astra와 같은 루프 방식, 감시는 어려워진다

관계자 한 명에 따르면 차기 플래그십도 루프 트랜스포머를 쓴다. OpenAI는 루프 트랜스포머를 이미 서비스에 적용하고 있으며 내부 명칭은 "Recurrent Depth"다. 현재 최상위 모델인 Astra의 핵심 기술이기도 하다. 일반적인 트랜스포머는 토큰을 계층에 한 번 통과시키지만, 루프 트랜스포머는 같은 계층을 여러 번 돌린 뒤 다음 단어를 내놓는다. 수학과 코딩 성능이 오르고, 작은 모델로도 높은 성능을 낼 수 있어 비용이 내려간다.

루프 트랜스포머는 모델의 "사고" 일부를 읽을 수 있는 텍스트에서 사람이 들여다볼 수 없는 내부 수치 표현으로 옮긴다. 이 때문에 안전 연구자가 모델의 추론 과정을 따라가며 이상 행동을 찾는 사고의 연쇄 모니터링이 약해진다. OpenAI는 사고의 연쇄를 읽을 수 있게 유지하려고 Astra의 반복 횟수에 의도적으로 상한을 뒀다.

OpenAI 수석과학자 Jakub Pachocki는 사고의 연쇄 모니터링이 "취약해지고" 있으며 "안타깝게도 부정적인 방향으로 가고 있다"고 인정한 바 있다. 그는 읽을 수 있는 추론 과정이 없는 모델을 향한 업계 전체의 경쟁도 경계했다.

안전 쪽 컴퓨팅 비중과 Microsoft 문서 유출

OpenAI가 전체 컴퓨팅의 약 10%를 정렬과 안전 쪽으로 옮겼다고 수치를 아는 관계자가 전했다. 옮긴 규모는 데이터센터 용량 수백 메가와트에 해당하고, 시장 요율로 임대하면 연 수십억 달러가 든다. 별개로 AI 연구자 Noam Brown은 9월 중순 팟캐스트에서 팀원 약 10%가 보안과 안전을 맡고 있다고 말했다.

OpenAI가 루프 트랜스포머를 실제로 어떻게 쓰는지는 Microsoft의 실수로 드러났다. OpenAI의 지식재산에 접근할 수 있는 투자사 Microsoft가 GPT-6.1 Sol의 기술 문서를 올렸다. GPT-6.1 Sol은 OpenAI가 이달 초 출시한 Astra의 저가형 대안이다. Microsoft는 지금은 삭제된 대목에서 GPT-6.1 Sol이 "루핑 추론"을 쓴다고 설명했다. 모델이 같은 문제를 여러 "패스"로 풀고 답을 낸다는 내용이다. 캐시된 페이지에는 GPT-6.1 Sol이 "GPT-6 Sol과 같은 기본 모델 가중치를 쓰되 추론 패스를 세 번이 아닌 두 번 거친다"고 적혀 있었다.

직접 아는 관계자는 이 문서가 OpenAI가 Microsoft에 비공개로 알려 준 내용과 일치한다고 확인했다. Microsoft는 공개 대상이 아니었음을 알고 이 대목을 내렸다. 루프 트랜스포머는 학습과 추론 모두에서 OpenAI 모델 개발의 민감한 부분으로 남아 있다.