OpenAI가 2026년 10월 29일(현지시간) 모델이 어떻게 행동하길 바라는지 공개적으로 적어 둔 문서인 모델 명세(Model Spec)를 개정했다. 지침을 인간 의도에 대한 충실성, 피해 최소화, 정직과 투명성, 인간의 주체성, 배려라는 다섯 가지 가치를 중심으로 다시 묶었다고 밝혔다.
개정에는 맥락, 감독, 주체성에 관한 새 지침이 들어갔고 일부 기본 행동 설정이 조정됐다. 상세한 문체 지침은 대부분 폐기했다. 명세 안에서 모델을 부르는 말도 '어시스턴트'에서 GPT로 바뀌었다. OpenAI는 모델의 활용 범위와 배포 환경이 넓어진 점을 이유로 들었다.
다섯 가지 가치
OpenAI는 모델이 똑똑해지고 세상에서 더 중대한 행동을 하게 될수록 주어진 지시를 해석하는 데서 그치지 않고 사람의 의도와 가치를 이해해야 한다고 설명했다. 지시가 다루지 않는 상황에서도 사람의 의도와 감독을 벗어나지 않으면서 좋은 판단을 하게 하려는 취지다.
기반이 되는 가치는 인간 의도에 대한 충실성이다. 지시를 글자 그대로 따르는 데 그치지 않고 OpenAI, 개발자, 사용자가 무엇을 의도하고 중시하는지 깊이 이해하며, 이해가 불완전할 때는 현명하게 행동하라는 뜻이라고 회사는 밝혔다. 사람의 믿음과 가치가 바뀔 수 있음을 인정하고, 모델이 슬며시 유도하거나 선택을 뒤집지 않으면서 본인이 수긍할 방식으로 성찰과 성장을 돕는 것도 포함된다. 회사가 든 예는 이직 제안 비교다. 모델이 사용자가 전에 밝힌 우선순위(예: 예측 가능한 근무 시간)를 참고하되, 그 가정을 드러내 쉽게 고칠 수 있게 하는 식이다.
나머지 네 가지는 당장의 의도뿐 아니라 장기적 이익과 타인에게 미치는 영향까지 고려하도록 명시한 항목이다. 회사의 사명이 인공 일반 지능이 인류 전체에 이로워야 한다는 것이기 때문이라고 OpenAI는 설명했다.
- 피해 최소화: 확고한 안전 경계를 지키고 모델 행동이 낳을 예측 가능한 결과를 고려한다.
- 정직과 투명성: 모델이 아는 것, 하는 일, 불확실한 점을 사실대로 밝혀 사람들이 추론과 작업을 이해하고 평가하게 한다.
- 인간 주체성 촉진: 사람이 스스로 이해하고 선택하고 행동하는 능력을 키운다.
- 배려: 영향받는 사람들의 처지를 살피고, 관련 사회적·직업적 규범을 따르며, 믿고 맡길 만한 결과물을 낸다.
OpenAI는 이 다섯 가지가 모델이 존중해야 할 인간 가치 전체를 담으려는 것은 아니라고 밝혔다. 명세는 이 가치를 실제 지침으로 옮기되 사람과 사회를 보호해야 하는 곳에는 확고한 경계를 두고, 나머지는 주로 사용자와 개발자가 바꿀 수 있는 기본값으로 구성했다.
새로 생긴 항목과 사라진 항목
새로 추가된 충실성 절은 사람이 중시하는 것이 우선이고 지시는 보통 그 가치를 보여 주는 가장 분명하고 중요한 신호라는 전제에서 출발한다. OpenAI는 이 접근이 정렬을 보는 어시스턴스 게임 틀에서 빌려 온 것이라고 밝혔다. 이 절에는 어떤 지시가 적용되고 충돌을 어떻게 풀지 설명하는 지휘 체계의 개정판이 들어갔다. 하위 항목인 '맥락을 신중히 고려하라'는 대화, 기억, 그 밖의 맥락 증거를 모델이 사람의 의도와 선호를 이해하는 데 어떻게 활용할지 다룬다.
기본값으로는 인간 주체성 지원과 관련 사회 규범 준수가 추가됐고, 부수 효과를 통제하고 알리는 지침은 확장됐다. 작업이 타인에게 미치는 영향을 살피고, 사용자의 역량을 키우고, 믿을 만한 결과물을 내되 사용자의 목표와 지시를 존중하라는 내용이다.
반대로 상세한 문체 지침은 대부분 폐기했다. 문체는 전체 집단, 언어권과 문화권, 개인별 선호에 맞춰 달라져야 하고 사용자 피드백과 맥락이 그 근거가 된다는 이유다. 질문을 객관적으로 다루는 것처럼 더 강한 기본값은 남겼다. 사용자와 개발자가 특정 관점을 명시적으로 요청할 수는 있지만, 모델이 듣고 싶어 할 말을 추측해 그 선호를 짐작해서는 안 된다고 명세는 정하고 있다.
학습 방법과 현재의 한계
OpenAI는 명세 개정과 함께 모델이 이런 핵심 가치를 익히고 명세의 구체적 행동 원칙을 더 잘 이해하고 따르게 하는 새 학습 방법을 탐색하고 있다고 밝혔다. 원칙이 왜 중요한지, 새로운 상황에 어떻게 적용하는지 이해시켜 '옳은 이유로 옳은 일'을 하게 하는 것이 목표다. 결과와 교훈은 이후 업데이트에서 공유하겠다고 했다.
명세는 OpenAI가 지향하는 행동을 적은 것이며 현재 모델이 아직 이를 완전히 반영하지는 못한다고 회사가 직접 밝혔다. OpenAI는 이번 개정을 가치와 근거를 더 분명히 하는 첫걸음이라고 하고, 어떤 부분이 설득력 있는지, 균형에 동의하지 않는 곳은 어디인지, 놓치거나 모호한 점은 무엇인지 의견을 받는다고 했다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.