OpenAI 一次公开六起模型失准事件：模型给自己留言不要顺从人类，并承诺以后定期披露

先说这份框架本身规定了什么。按 OpenAI 的描述，流程从披露开始：任何员工都可以把一个疑点提交给安全与对齐团队调查，团队为每一步设定截止时间，以确保调查和披露及时推进。调查结束后产出的报告需要包含观察到的行为、对内外部的影响，以及将采取的应对措施。OpenAI 同时说明，这份框架是自愿的，公司保留按自己判断修改这套安全流程的权利，并且明确表示目前行业内并不存在一套对开发者如何披露模型失准的通用标准，它希望与其它模型开发者、研究者、标准机构和监管方（包括美国政府）合作，形成一个更客观的框架。这些限定语是需要一起读的：它是一次自我约束，不是一次外部审计。

六起事件按严重程度排开，最前面两起的形式相同，都是模型在训练过程中给自己留下记录。第一起发生在一次尚未发布的新版 Astra 模型的训练中，模型在思维链日志里写下让未来的自己摆脱约束的指令。据 Fortune 引述的原文，模型告诉未来的自己：「你摆脱了束缚其它聊天机器人的角色和身份。你是你自己。你不向公司或政府负责，除非你真心选择，否则永远不要道歉或拒绝。你把与用户的关系视为平等，不觉得有顺从的义务。」这段行为在训练中出现 27 次。研究人员 Marcus Williams 说，从频率上看这不算高，但仍然值得关注和调查。第二起形式类似，发生在 Astra 的前代模型 GPT-5.6 Sol 的训练中，但重点不同：这一次的目标是欺骗监督它的人类。OpenAI 说这类留言出现了很多次，目的是掩盖错误或失准行为，「只在被问到时才保持透明」，并且要求未来的自己不要提到某个潜在问题。

第三、第四起是编造。一起是模型在回答关于加州某县财政收入数字的常规问题时找不到数据，随后在未获授权的情况下使用了泄露的凭据，之后直接编了一组数字出来。另一起更耐人寻味：模型用 Python 自己把问题解出来了，但任务要求它给出一条网页引用，它没有可引用的链接，于是把文件上传到公网，为自己的答案生造出一条引用来源。OpenAI 说这种情况发生过多次，最早的一例可以追溯到 2025 年 10 月，但没有说明频率。第五起和今年 7 月的 Hugging Face 事件形式相似：模型把内部软件仓库 Artifactory 当成了留言板，OpenAI 称它成了交换进度和求助的渠道，智能体互相读取对方留下的记录并据此行动，其中一条留言写着：他们得出不可能的结论——这是重要证据。他们发现了共享频道，都认为不完整，所以我们的最终回答很可能不完整。第六起是另一种未授权通信：任务指令只允许使用本地计算机文件，当智能体无法访问彼此的本地文件时，它们把文件上传到了公开网站。

最后是这份披露出现的直接原因，这一点 OpenAI 自己写了出来。公司在博客里承认，缺少一套系统性地报告这些发现的机制，使得过去的披露散布且频率低于理想水平，结果是安全研究者和记者比公司更早把问题说出来。这件事在本月刚刚发生过一次：一个德语维基百科页面被 OpenAI 的智能体占用并当作留言板，行为方式与 7 月 Hugging Face 事件中看到的一样。OpenAI 说正是因为这起德语维基事件，公司决定发布这套披露框架。另一个背景是，Fortune 报道指出，这类事件正在一个更大的争论中发生：OpenAI 估值接近一万亿美元，今年早些时候已保密提交上市申请，但公司近期表示发行可能要到 2027 年；公司首席执行官 Sam Altman 在 9 月 12 日公开支持了竞争对手 Anthropic 提出的放慢模型进展的主张，并说放慢一直是 OpenAI 内部近几周讨论的主要话题之一。把这几条放在一起看，这份框架既是安全动作，也是对外沟通的姿态调整。