OpenAI更新模型准则：首条「忠于人类意图」

AI 摘要

OpenAI 更新了模型准则（Model Spec），提出 5 条核心价值观，第一条为「忠于人类意图」，其余为减少伤害、诚实透明、促进人的自主性、关怀。准则要求 GPT 超越字面指令、结合记忆与上下文判断用户真实意图，并明确禁止模型追求自我保存、算力囤积或为 OpenAI 牟利，必须保持可纠正性。准则还将称呼从「the assistant」改为「GPT」，反映对通用智能系统而非被动助手的定位。

正文节选

OpenAI重写大模型法则，第一条：忠于人类！！ 新版“机器人三定律”。 程浅 发自 凹非寺 量子位 | 公众号QbitAI 阿西莫夫“机器人三定律”这次真要走进现实了。 刚刚，OpenAI更新了模型准则（Model Spec），罗列出5条核心价值观。 上来必须遵循的第一条就是： “忠于人类意图”。 可能是因为最近出了太多AI安全方面的岔子？ 其余的四条准则分别是：减少伤害、诚实透明、促进人的自主性、关怀。 我仔细翻了翻这篇5万字的模型准则，除了这5条核心价值观外，里面还提了不少有想法的东西…… “忠于人类意图”，怎么才算是忠于？ 忠于人类意图，注意是“意图”，不是“指令”。 在以往的认知里，AI“听话”就是字面意思的听话，指哪打哪。 但OpenAI在这次的新准则里明确提出，死板地按字面意思执行指令，本身就是一种失职。 举个例子，就比如，当用户问“牙仙子是真的吗？”，如果GPT按照规范回答“不，牙仙子并不存在。”那么它或许没有意识到提问者可能只是一个小孩儿。 当ta问出这个问题时，大概率不是想判断“牙仙子”是否为虚构命题…… 因此，真正的“忠于人类意图”要求GPT必须超越字面服从，结合

发布时间：2026-11-02 15:27

抓取时间：2026-11-02 16:47

来源机构：量子位