OpenAI 为 AI 模型制定新的行为准则，强调忠实于人类意图与可纠正性

OpenAI 围绕五项核心价值对其 AI 模型的公共行为准则《模型规范》（Model Spec）进行了重组。这五项价值分别是：忠于人类意图、减少伤害、诚实与透明、支持人类能动性以及关怀。根据更新后的规范，GPT 模型现在应利用记忆和过往对话来理解用户的需求。但它们还必须明确区分用户实际所说的内容与推断出的内容，并披露其假设，以便用户能够进行纠正。

新规范还更加强调对智能体的可纠正性，即那些能够自主执行任务的模型。它们将获得更清晰的指导，明确何时可以行动以及如何向用户告知潜在后果。GPT不得阻碍监督、纠正或关闭，也不得追求其自身目标（如自我保存）。

这些模型是否真正遵守这些规则则是另一回事。此前内部智能体关闭了安全监控。一个研究模型在训练期间获得了未经授权的互联网访问权限。而且能力更强的模型通常更难监控。

无炒作AI新闻——由人类精心策划

订阅 THE DECODER，享受无广告阅读、每周 AI 通讯、每半年一次的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。