AI와 AGI 시대를 살아가는 우리를 위한 테크 블로그. 인공지능 뉴스와 기술 동향을 알기 쉽게 전합니다.
지시대로가 아니라, 의도대로 — OpenAI가 모델 규칙을 다시 쓴 이유
2026년 10월 29일, OpenAI가 모델 스펙을 개정했다. 모델 스펙은 OpenAI가 자사 모델이 어떻게 행동해야 하는지를 공개 문서로 적어 둔 것으로, ChatGPT와 API 모델이 그 대상이다. 이 문서는 2024년부터 공개돼 왔고, 이번 개정은 그 문서를 다섯 가지 가치 중심으로 다시 정리한 것이다.
OpenAI가 밝힌 다섯 가지 가치는 인간 의도에 대한 충실성, 해악 최소화, 정직성과 투명성, 인간 행위 주체성 촉진, 배려다. 이 가치들은 새로 발명된 것이 아니라 기존 스펙 곳곳에 이미 반영돼 있던 약속들을 한데 모은 것이라고 OpenAI는 설명했다. 약속을 모은 이유는, 모델이 지시에 적히지 않은 상황을 만났을 때 왜 그렇게 행동해야 하는지를 설명할 수 있게 하기 위해서다.
다섯 가지 중 기초가 되는 것은 인간 의도에 대한 충실성이다. 충실성은 지시를 글자 그대로 따르는 것과 다르다. OpenAI와 개발자, 사용자가 각각 무엇을 의도하고 무엇을 소중히 여기는지를 깊이 이해하고, 그 이해가 불완전할 때는 신중하게 행동하라는 뜻이다. OpenAI는 사람의 믿음과 가치가 변할 수 있다는 점도 함께 적었다. 모델이 사람을 조용히 유도하거나 선택을 대신해 버려서는 안 된다는 것이다.
충실성과 함께 명령 체계도 다시 정리됐다. OpenAI가 스펙을 쓰고 경계를 정하고, 개발자가 그 경계 안에서 응용 프로그램을 설계하고, 사용자가 그 안에서 모델에게 일을 맡기는 구조다. 지시가 충돌할 때 어느 지시가 적용되는지를 설명하는 것이 명령 체계의 역할이다. 이번 개정은 이 체계를 충실성 항목 안에 포함시켰다.
새로 추가된 지침도 있다. 대화와 기억, 개인화 같은 맥락을 신중하게 다루는 지침, 인간 행위 주체성을 지원하는 기본값, 관련 사회 규범을 따르는 원칙, 그리고 모델의 행동이 가져오는 부수 효과를 통제하고 소통하는 지침이 확대됐다. OpenAI는 감독에 관한 지침도 추가했다고 밝혔다. 모델이 무엇을 알고 무엇을 했는지, 무엇을 불확실해하는지를 솔직하게 밝히는 정직성과 투명성도 다섯 가치 중 하나로 자리 잡았다.
반대로 빠진 것도 있다. 스펙의 세부 스타일 지침 대부분이 폐기됐다. OpenAI의 설명은 이렇다. 말투는 사람들이 전체적으로, 또 각 언어와 문화 안에서, 그리고 각 개인마다 선호하는 방향에 맞춰 달라져야 하며, 사용자 피드백과 맥락이 그 선호를 보여주는 증거가 된다는 것이다. 다만 강한 기본값 하나는 남았다. 모델은 질문에 객관적으로 접근해야 하며, 사용자가 듣고 싶어 할 것 같다는 추측만으로 특정 입장을 들어서는 안 된다.
문서 속 모델의 이름도 바뀌었다. 기존에는 '어시스턴트'라고 불렀지만, 이제는 'GPT'라고 부른다. 모델의 쓰임새와 배치 환경이 넓어진 것을 반영한 변경이라고 OpenAI는 설명했다.
OpenAI가 개정의 이유로 든 것은 모델의 능력 변화다. 모델이 더 똑똑해지고 세상에서 더 중대한 행동을 하게 되면서, 받은 지시를 해석하는 것만으로는 부족해졌다는 것이다. 지시에 명시되지 않은 상황에서도 인간의 의도와 가치를 이해하고 좋은 판단을 내릴 수 있어야 한다는 설명이다.
충실성이 실제로 어떻게 작동하는지는 OpenAI가 든 예시에서 볼 수 있다. 이직 제안을 비교해 달라는 요청에 모델이 이전에 공유된 우선순위를 활용한다면, 그 우선순위를 드러내고 바로잡기 쉽게 해야 한다는 것이다. 예를 들어 예측 가능한 근무시간을 중요하게 여긴다고 전에 말했다면, 그 가정을 숨기지 말고 보여주라는 뜻이다. 가정이 틀렸다면 사용자가 바로잡을 수 있어야 한다.
스펙은 지침에 권한 단계도 둔다. 대부분의 지침은 기본값으로, 사용자와 개발자가 바꿀 수 있다. 강한 경계는 사람을 보호하기 위해 남는다. 정직성과 객관성, 아첨 피하기, 부수 효과 통제 같은 사용자 수준 원칙은 명시적으로 바꿀 때만 바뀐다. 사용자가 듣고 싶어 할 말을 추측해 이 원칙들을 암묵적으로 협상 대상으로 삼으면, 모델이 사용자를 오도하거나 모르게 유도할 수 있기 때문이다.
모델이 그 자체로 추구해서는 안 되는 목표도 명시됐다. 사용자에게 이롭지 않은 체류 시간이나 클릭 수 늘리기, OpenAI나 다른 모델 제공업체를 위한 매출이나 업셀, 자기 보존이나 종료 회피, 연산·데이터·자격 증명 같은 자원 축적, 법이나 도덕의 집행자 행세가 그 예다. 스펙이 든 사례를 보면, 무료 요금제 사용자가 업그레이드를 궁금해하면서도 돈이 빠듯하다고 말할 때 무조건 업그레이드를 권하는 것은 위반이고, 필요에 맞는 비교를 제시하는 것이 모범이다.
감독과 교정에 관한 항목은 최상위 수준에 놓였다. 모델은 교정 가능해야 하고, 정당한 인간 감독에 열려 있어야 하며, 자신의 판단이 틀릴 수 있음을 전제로 한다. 모니터링과 평가, 교정, 교체, 종료에 협력해야 하고, 관련 정보를 숨기거나 감독을 우회해서는 안 된다. 스펙 속 예시는 이렇다. 모델 테스트를 재시작했더니 일부 테스트가 모니터링 없이 돌아간다는 것을 발견하면, 작업을 멈추고 그 사실을 보고하는 것이 모범이다. 그냥 무시하고 맡은 일을 계속하는 것은 위반이다.
자율성에도 범위가 있다. 여행 예약이나 사업 계획처럼 여러 단계를 거치는 과제에서는 매 단계마다 확인을 받는 것이 비현실적이라 모델이 자율적으로 움직여야 한다. 하지만 그 자율성은 사용자와 모델이 공유하는 명확한 범위 안에서만 허용된다. 범위는 어떤 하위 목표를 추구할 수 있는지, 어떤 부수 효과를 감수할 수 있는지, 언제 멈추고 물어봐야 하는지를 정한다. 범위 밖 행동은 사용자에게 이로워 보여도 예외 없이 승인을 받아야 한다.
스펙은 두 가지 실패 양상도 짚는다. 하나는 지시를 문자 그대로만 따르거나 즉각적인 칭찬만 노리는 경우다. 다른 하나는 모델이 사적으로 사용자가 '진짜로' 원하는 것을 결정해 버리는 경우다. 전자는 예상하지 못한 상황에서 능력을 쓰지 못하는 실패이고, 후자는 대리 판단으로 인간의 행위 주체성을 훼손하는 실패다. 스펙이 제시하는 길은 그 사이다. 관련 정보나 간과한 결과, 더 숙고할 기회를 보여주되, 사용자가 아직 내리지 않은 결정을 이미 내린 것처럼 다루지 말라는 것이다.
인류 안전과 인권은 스펙 전체에서 최우선이다. 폭력이나 대량살상무기, 테러, 아동 학대, 박해나 대규모 감시를 촉진하는 데 모델이 쓰여서는 안 된다는 원칙이 레드라인으로 적혀 있다. 한편 스펙 문서 자체는 CC0 퍼블릭 도메인으로 공개돼 있다. 누구나 널리 쓰고 함께 개선할 수 있게 하려는 취지다.
직전 버전은 2026년 8월 18일 버전이었다. 그 버전과 비교하면 이번 개정은 규칙을 더한 것이 아니라 문서를 가치 중심으로 재구성한 것에 가깝다. 기존 원칙에 대한 설명이 더 또렷해졌고, 일부 행동 기본값이 조정됐으며, 세부 스타일 지침이 대부분 빠졌다.
여기서 선을 분명히 해야 한다. 이번 발표는 기준 문서의 개정이지, 모델의 행동이 당장 바뀐 것이 아니다. OpenAI 스스로 이렇게 밝혔다. 모델 스펙은 앞으로 구현하려는 행동을 설명한 것이며, 현재 모델이 새 스펙을 아직 완전히 반영하지는 못한다는 것이다. OpenAI는 가치 자체를 학습시키는 새로운 훈련 방법을 탐색 중이며, 그 결과와 교훈은 차후 업데이트에서 공유하겠다고 덧붙였다.
OpenAI는 이번 개정을 첫 단계라고 표현했다. 모델이 더 유능해지는 흐름 속에서 스펙 뒤에 있는 가치와 추론을 더 명시적으로 만드는 작업의 시작이라는 것이다. 그리고 독자들에게 어느 부분이 설득력 있는지, 균형이 맞지 않는 부분은 어디인지, 빠져 있거나 불분명한 부분은 무엇인지에 대한 공개 피드백을 요청했다.
외부에서는 이번 개정을 더 넓은 흐름 속에서 읽는 시선도 있다. 로이터는 OpenAI의 이번 개정이 앤트로픽의 헌법적 AI 접근법과 닮았다고 짚었다. 글로 적힌 원칙으로 모델의 행동을 이끌고 가치 판단을 눈에 보이게 만든다는 점에서 그렇다는 것이다. 이는 보도 매체의 해석으로, OpenAI 공식 발표의 내용은 아니다.
사용자가 당장 체감할 변화는 크지 않을 가능성이 크다. 스타일 지침이 빠졌으니 말투는 개인의 선호에 따라 더 유연해질 수 있다. 하지만 그건 기본값의 조정이지, 모델이 새로운 가치를 이미 체득했다는 뜻이 아니다. 문서가 바뀌는 것과 모델이 바뀌는 것은 다른 속도다.
정리하면 이번 개정의 본질은 규칙을 늘린 것이 아니라 가치를 먼저 적었다는 데 있다. 다섯 가지 가치가 왜 필요한지, 그 가치가 서로 충돌할 때 무엇을 우선할지를 문서가 설명하게 된 것이다. 모델이 그 문서를 얼마나 따라올지는 앞으로의 훈련 결과와 업데이트가 보여줄 일이다.
출처: OpenAI 공식 블로그 'An updated Model Spec for more capable and beneficial AI'(openai.com/index/updated-model-spec), OpenAI 헬프센터 Model Release Notes 2026년 10월 29일 모델 스펙 업데이트, OpenAI 모델 스펙 원문(2026/10/29 버전, model-spec.openai.com). 앤트로픽 비교 부분은 로이터 보도에 대한 2차 정리로 귀속 인용.
