OpenAI, GPT-6.1 솔 기본 컨텍스트 50만 토큰으로 약 80% 확대

OpenAI는 Codex와 ChatGPT 워크에서 쓰는 GPT-6.1 솔의 기본 컨텍스트 길이를 50만 토큰으로 높였다. 기존 기본값인 27만2000 토큰보다 약 80% 늘어난 규모다. Codex와 ChatGPT 워크로 GPT-6.1 솔을 쓰는 경우에 적용되며, 소티오는 이미 상향했다고 적었다. 요금제별 적용 범위는 공개되지 않았다. 컨텍스트 압축이 발생하는 빈도를 낮추는 것이 이번 변경의 목적이다.

기본값은 사용자가 직접 바꿀 수 있는 상태로 유지된다. 50만 토큰보다 큰 컨텍스트가 필요하면 값을 높이고, 자원 사용을 줄이려면 낮출 수 있다. 이 모델이 지원하는 최대치는 100만 토큰이다.

컨텍스트 길이는 모델이 한꺼번에 불러와 다룰 수 있는 정보의 양을 뜻한다. 이 값이 크면 큰 코드베이스, 긴 대화, 여러 단계를 거치는 작업에서 앞부분의 정보와 세부 조건을 계속 쥐고 갈 수 있다. 다루는 정보가 한도를 넘으면 기존 내용을 요약해 공간을 확보해야 하며, 이 과정에서 중요한 세부 사항이나 미묘한 맥락이 누락될 수 있다.

OpenAI 제품 담당 책임자 티보 소티오는 10월 11일(현지시간) X 게시물로 변경 내용을 공개했다. 소티오는 충분한 테스트를 거쳐 50만 토큰을 대부분의 사용자에게 가장 적합한 지점으로 정했다고 밝혔다. 게시물에는 "We will go higher in the future"라고 쓰고, 압축 발생이 줄어 많은 맥락을 유지해야 하는 작업에 도움이 된다고 적었다. 이번 조치는 OpenAI가 28일 연속으로 여는 Codex 개선 행사의 7일 차 발표에 해당한다.