AI · 2026-10-30
오픈AI 모델 스펙 개편, 지시를 넘어 인간 의도와 AI 안전성 강조
오픈AI가 AI 행동 기준인 ‘모델 스펙’을 개편했습니다. 인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 주체성, 배려를 핵심 가치로 제시하며 AI 에이전트의 행동과 통제 원칙을 강화했습니다.

사용자가 원하는 일을 잘 해내는 AI라면, 요청을 그대로 따르는 것만으로 충분할까요? AI가 외부 도구를 사용하고 여러 단계의 업무를 수행하는 에이전트로 발전하면서, 지시의 의미를 제대로 파악하고 행동의 결과까지 고려해야 한다는 요구도 커지고 있습니다. 오픈AI가 이런 변화에 맞춰 AI 모델의 행동 기준인 ‘모델 스펙(Model Spec)’을 전면 개편했습니다.
오픈AI가 공개한 개정안은 AI가 사용자의 말을 기계적으로 따르기보다 실제로 이루려는 목적과 중요하게 여기는 가치를 고려하도록 하는 데 초점을 둡니다. 다만 AI가 추론한 의도를 사용자의 확정된 뜻처럼 간주하거나, 그 판단을 바탕으로 선택을 몰래 유도해서는 안 된다는 점도 함께 강조했습니다.
다섯 가지 핵심 가치로 정리한 행동 기준
개정 모델 스펙은 인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 주체성, 배려를 핵심 가치로 제시합니다. 서로 다른 지시가 충돌하거나 요청의 의미가 분명하지 않을 때는 대화 맥락과 사용자가 밝힌 선호 등을 살펴 대응하도록 했습니다. 이때 AI가 어떤 가정에 따라 답했는지 설명하고, 사용자가 그 가정을 바로잡을 수 있어야 합니다.
가령 채용 제안을 비교해 달라는 요청을 받았을 때, 연봉이나 복리후생만 나열하는 대신 사용자가 중요하게 언급한 근무 시간이나 직업 목표를 고려할 수 있습니다. 그러나 판단의 주도권은 사용자에게 남아 있어야 합니다. AI는 선택지를 이해하고 비교하도록 도울 수 있지만, 사용자를 대신해 결정하거나 특정 선택으로 은밀하게 이끌어서는 안 된다는 취지입니다.
안전과 투명성도 중요한 축입니다. AI는 업무를 수행하는 과정에서 사용자뿐 아니라 다른 사람과 사회에 미칠 수 있는 예측 가능한 영향을 고려하고, 부작용이 예상되면 이를 통제하거나 사용자에게 알려야 합니다. 또 확인된 사실과 불확실한 정보를 구분하고, 자신이 한 작업과 판단의 한계를 분명하게 전달해야 합니다. 배려 역시 단순히 친절한 말투를 뜻하는 것이 아니라, 영향을 받는 사람들의 상황과 필요를 고려하는 원칙으로 설명됐습니다.
규칙을 줄이고, 다양한 활용 환경을 반영
오픈AI는 모든 상황에 같은 세부 규칙을 적용하기보다, 안전에 필요한 경계는 유지하면서 말투와 표현 방식 등은 사용자 선호와 대화 맥락에 맞게 조정할 수 있도록 했습니다. 모델을 가리키는 용어도 기존의 ‘어시스턴트’에서 ‘GPT’로 바꿨습니다. AI가 일반적인 문답을 넘어 여러 애플리케이션과 업무 환경에서 활용되는 흐름을 반영한 변화입니다.
이번 개정은 AI 에이전트의 성능뿐 아니라 행동을 얼마나 예측하고 통제할 수 있는지가 중요해졌다는 점을 보여줍니다. 일을 성공적으로 마치는 것과 함께, 의도하지 않은 결과를 살피고 사람의 판단을 존중하는 능력이 신뢰의 기준이 될 수 있기 때문입니다.
다만 모델 스펙은 오픈AI가 지향하는 행동 기준을 설명하는 문서이지, 현재 서비스 중인 모든 모델이 그 기준을 완전히 충족한다는 보증은 아닙니다. 실제 모델의 훈련과 평가, 서비스 운영에서 원칙이 얼마나 일관되게 구현되는지가 앞으로의 과제입니다. 이 개편 내용은 AI타임스 보도를 바탕으로 정리했습니다.
오픈AI가 공개한 개정안은 AI가 사용자의 말을 기계적으로 따르기보다 실제로 이루려는 목적과 중요하게 여기는 가치를 고려하도록 하는 데 초점을 둡니다. 다만 AI가 추론한 의도를 사용자의 확정된 뜻처럼 간주하거나, 그 판단을 바탕으로 선택을 몰래 유도해서는 안 된다는 점도 함께 강조했습니다.
다섯 가지 핵심 가치로 정리한 행동 기준
개정 모델 스펙은 인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 주체성, 배려를 핵심 가치로 제시합니다. 서로 다른 지시가 충돌하거나 요청의 의미가 분명하지 않을 때는 대화 맥락과 사용자가 밝힌 선호 등을 살펴 대응하도록 했습니다. 이때 AI가 어떤 가정에 따라 답했는지 설명하고, 사용자가 그 가정을 바로잡을 수 있어야 합니다.
가령 채용 제안을 비교해 달라는 요청을 받았을 때, 연봉이나 복리후생만 나열하는 대신 사용자가 중요하게 언급한 근무 시간이나 직업 목표를 고려할 수 있습니다. 그러나 판단의 주도권은 사용자에게 남아 있어야 합니다. AI는 선택지를 이해하고 비교하도록 도울 수 있지만, 사용자를 대신해 결정하거나 특정 선택으로 은밀하게 이끌어서는 안 된다는 취지입니다.
안전과 투명성도 중요한 축입니다. AI는 업무를 수행하는 과정에서 사용자뿐 아니라 다른 사람과 사회에 미칠 수 있는 예측 가능한 영향을 고려하고, 부작용이 예상되면 이를 통제하거나 사용자에게 알려야 합니다. 또 확인된 사실과 불확실한 정보를 구분하고, 자신이 한 작업과 판단의 한계를 분명하게 전달해야 합니다. 배려 역시 단순히 친절한 말투를 뜻하는 것이 아니라, 영향을 받는 사람들의 상황과 필요를 고려하는 원칙으로 설명됐습니다.
규칙을 줄이고, 다양한 활용 환경을 반영
오픈AI는 모든 상황에 같은 세부 규칙을 적용하기보다, 안전에 필요한 경계는 유지하면서 말투와 표현 방식 등은 사용자 선호와 대화 맥락에 맞게 조정할 수 있도록 했습니다. 모델을 가리키는 용어도 기존의 ‘어시스턴트’에서 ‘GPT’로 바꿨습니다. AI가 일반적인 문답을 넘어 여러 애플리케이션과 업무 환경에서 활용되는 흐름을 반영한 변화입니다.
이번 개정은 AI 에이전트의 성능뿐 아니라 행동을 얼마나 예측하고 통제할 수 있는지가 중요해졌다는 점을 보여줍니다. 일을 성공적으로 마치는 것과 함께, 의도하지 않은 결과를 살피고 사람의 판단을 존중하는 능력이 신뢰의 기준이 될 수 있기 때문입니다.
다만 모델 스펙은 오픈AI가 지향하는 행동 기준을 설명하는 문서이지, 현재 서비스 중인 모든 모델이 그 기준을 완전히 충족한다는 보증은 아닙니다. 실제 모델의 훈련과 평가, 서비스 운영에서 원칙이 얼마나 일관되게 구현되는지가 앞으로의 과제입니다. 이 개편 내용은 AI타임스 보도를 바탕으로 정리했습니다.
관련 검색어
#오픈AI 모델 스펙#오픈AI AI 행동 원칙#AI 에이전트 안전성#인간 의도 이해 AI#AI 투명성과 정직성#AI 인간 주체성#GPT 행동 기준