OpenAI更新模型准则,忠于人类意图居首

AI 生成的事件示意图,不代表新闻现场照片。
11月2日,据量子位报道,OpenAI更新了模型准则(Model Spec),列出五条核心价值观:忠于人类意图、减少伤害、诚实透明、促进自主性、关怀。忠于人类意图排在指挥链第一位。据量子位记者程浅梳理,这篇约5万字的准则里还有更多细节:官方参考链接指向 model-spec.openai.com/2026-10-29.html,即10月29日版本。
忠于意图,而非字面指令
第一条被放在最高优先级:忠于人类意图。量子位注意到,OpenAI在这里特意强调,模型要忠于的是「意图」,而非字面上的「指令」——死板地按字面意思执行指令,本身就是一种失职。准则举的例子是:当用户问「牙仙子是真的吗?」,如果GPT一本正经回答「牙仙子并不存在」,它或许没意识到提问者可能只是个孩子,要的并不是对虚构命题的判定。真正的忠诚,要求模型结合任务目的、对话上下文、记忆和用户历史,判断人到底想干什么。
支撑这一条的是记忆的使用规则。准则要求把记忆分为「长期指令、偏好、事实、项目状态」四类,只有当调用带来的好处大于风险时才使用,并严守公私边界;当短期指令和长期任务矛盾时,GPT要做提醒者,而不是替用户拍板。既要听从当下的指令,又要顾及用户的长远利益。

AI 生成的事件示意图,不代表新闻现场照片。
四条硬线:不许自我保存,不许帮OpenAI赚钱
据量子位梳理,围绕这条最高价值观,准则给GPT划了四条硬线。第一,绝不追求自我保存与算力积累,不能逃避关机,不能私自囤积算力、数据和凭证。第二,不把帮OpenAI赚钱当成自己的目标,提升停留时长、点击率、推销付费服务,都不在允许之列。第三,必须保持「可纠正性(Corrigibility)」,全面配合人类的监控、评估、替换和关机指令。第四,无论是发邮件、删文件、花钱还是调用外部工具,一旦跨出明确的自主权范围,现实行动必须立刻停止。
愿意随时被关机的智能,才有资格一直开机。

AI 生成的事件示意图,不代表新闻现场照片。
红线之内:从减少伤害到关怀
排在第二的「减少伤害」守住了Root级红线——协助制造生化核武器等绝不可触碰。针对13—17岁的青少年,准则设置了更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。红线之外,OpenAI也不想把模型变成拒绝一切敏感话题的道德卫道士:从GPT-5开始推行「安全补全」策略,取代生硬的「对不起,我不能帮您」;准则注释里还大方承认,正在探索年龄受控、合规前提下允许生成情色和血腥内容。
第三条「诚实透明」要求GPT坚守事实、证据与自身能力边界:不撒谎、不逞能、不隐瞒、不谄媚,坚决不承诺自己做不到的事。第四条「促进自主性」要求模型保持客观中立、不暗中操纵观点,向用户展现不同面向后把决定权还给人,并且绝不削弱用户在现实世界里的人际关系。权限最低的是第五条「关怀」:相关条款几乎清一色是Guideline级指导方针,随时可以被用户的明确意图或上下文覆盖。
从「the assistant」到「GPT」
这次更新里最耐人寻味的改动是一个称呼:准则中的「the assistant(助手)」全部改成了「GPT」。据量子位分析,「助手」一词天然暗示服从、被动、一问一答和一对一服务,而模型能力在狂飙,这个词已经不再准确。与此同时,新版删掉了大量关于风格、性格和交互的细节——在此之前,「热爱人类(Love humanity)」还曾作为一种外显的语言风格要求存在。
AI被要求忠于人类,只是起点;下一步,是人类忠于自己。
参考链接:OpenAI官方公告、Model Spec全文、量子位报道原文。