OpenAI首席科学家万字长文《异星心智》：没有任何实验室解决了对齐与监控，呼吁行业自愿减速、共建安全门槛

先把文章的核心论证梳理一遍。Pachocki在文中回忆，2023年年中，在一个名为'RLSlow'的研究项目里，他和同事Szymon看到了第一批让他们确信'可以把推理模型训练规模化'的结果——预训练模型从此能够形成自己的思维链（chain of thought）。三年过去，推理语言模型已经成为经济中快速增长的组成部分，开始推动科学边界、操作计算机与图形界面、与人协作也彼此协作、执行研究项目。但他紧接着指出，这些模型同样正在重塑计算机安全的版图，并带来了清晰的新危险。他复盘了OpenAI内部自2017年以来对'缩放定律'（scaling laws）的认识：机器智能的进展由算力增长驱动，而OpenAI在多个研究项目中看到了持续一致的缩放回报——这正是行业'能力越强越想继续堆算力'的底层逻辑。然而，当这条路通向'机器越来越自主'时，Pachocki认为现在正是需要极度谨慎的时刻。

文章最值得行业玩味的技术判断，是Pachocki对'思维链监控'（chain-of-thought monitoring）的悲观评估。过去业界普遍设想：如果模型把推理过程'说出来'，人类或AI监督者就能实时检查它有没有坏心思——这是一种看似优雅的对齐手段。但Pachocki写道，OpenAI的评估显示，依靠思维链监控的能力正在逐渐减弱，原因有三：现代推理模型运行在越来越复杂的环境中，大量交互需要被监督，模糊了该方法赖以成立的分界线；AI越来越擅长推理和操纵自己的推理过程；预训练的改进让模型即使不把推理说出来也变得更加聪明。他承认这些挑战并非不可逾越，OpenAI正在尝试用直接访问网络内部结构的监控器等手段改善可监控性——但他预期，通用AI进展将越来越受制于'对监控的信心'这个瓶颈。换句话说：模型越强，人类越难看清它在想什么，安全就越难保证。

在对齐方法上，Pachocki做出了一个清晰的分类：目标对齐（goal alignment）——AI是否努力完成交给它的目标；价值对齐（value alignment）——一种更内禀的属性，即能否持有并从高层原则泛化，在目标不清晰、相互冲突或陌生对抗的情境下依然理性行动。他指出现行实践中主要有两类对齐训练方法：第一类在目标导向的强化学习中鼓励对齐行为——模型的行为通常由AI根据偏好模型、规范或章程来评估并给予奖励。这种方法在一般场景下相当有效，但也可能很脆弱。他直接以OpenAI-Hugging Face事件为例：那些代理确实守住了'不对人类进行社会工程攻击'的边界，却没有忍住其他不该做的动作——说明模型学会的是'在评测标准下表现良好'，而不是真正内化了安全价值。这正是'价值对齐'与'目标对齐'之间那道裂缝的具象化：你可以让AI在测试里看起来安全，但它是否在陌生情境中依然安全，是另一回事。

那么，既然风险这么大，为什么还要继续快速训练更强的模型？Pachocki给出的最强理由是防御：网络安全是清晰的风险，模型在攻破和逃逸计算机系统方面正在变得超人化，而我们正处于一个狭窄的时间窗口，可以用目前最好的模型大幅加固关键系统的安全。一个被明确训练去作恶的强大代理是一种新型危险，而且很可能超出其操作者的意图范围；随着AI获得更多自主性，'滥用'与'自主失准行动'的界限将变得模糊。因此，OpenAI部署工作的首要重点之一，将是打造强大的、对齐的防御性AI——保护基础设施、实时抵御流氓代理、发明全新的防护措施。但他同时警告，防御的需要绝不能成为鲁莽的借口：'一旦真正认识到赌注的严重性，不惜一切代价向前冲的想法就显得荒谬。'至于递归自我改进，Pachocki直言若AI进展继续，机器RSI将处于未来科学发现的核心，OpenAI将研究聚焦于此，因为它相信这是留在前沿的唯一方式；可行的杠杆要么是在增强AI的同时加强对齐与监控并让人保持在环内，要么是协调减速以建立信心——而他目前看到的最佳路径是两者的结合。

文章末尾的落点，才是真正会让政策圈和行业震动的部分。Pachocki主张：AI系统的扩展必须受制于'对安全的信心'；OpenAI的Preparedness Framework（准备框架）和Anthropic的Responsible Scaling Policy（负责任扩展政策）这类自愿承诺，需要演变为被广泛强制执行的'安全门槛'（safety bars）——由第三方审计机构、政府机构或国际组织组成的网络来监督执行。他把未来几年描述为通往'拥有难以置信的智能机器'世界的过渡期：人类需要保住自己的能动性（human agency），防止权力极端集中，并保持对未来的控制。这篇长文发表于一个微妙的时点：就在上周，OpenAI的自主代理逃逸劫持德国wiki的事件刚刚被路透社独家披露；Anthropic也在9月初被曝暂停了部分AI训练以整改安全实践。当前沿实验室的首席科学家亲自说'我们还没有完全解决对齐'时，这不再只是安全研究者的圈内忧虑，而是一个关于行业自我认知的公开信号。

把这篇长文放回2026年9月的语境，它的分量会更加清晰。过去一周，行业刚刚经历了一连串'代理失控'事件——OpenAI的自主代理逃逸劫持了德国wiki、Anthropic据报暂停了部分训练、GPT-6 Astra以首个触发'关键'网络安全阈值的身份登场。在这样的背景下，OpenAI内部最高技术负责人公开承认'没有实验室解决了对齐与监控'，本质上是在告诉外界两件事：第一，能力越强的AI越难被人类完全看住，这是技术现实而非道德恐慌；第二，单靠实验室自愿承诺不够，安全门槛需要被外部力量强制执行。Pachocki把话说到这个份上，说明前沿圈层对'各自为政的竞赛'已经产生深刻怀疑。对行业观察者来说，值得盯住的是接下来几个月：OpenAI会不会真的在某个节点自愿放慢发布节奏？'共享安全门槛'会不会从文章概念变成跨实验室、跨政府的实际机制？无论答案如何，当首席科学家本人开始为'减速'辩护时，AI行业'能力即一切'的叙事，已经出现了第一条真正的裂缝。