微软发布 37 页「人文主义 AI 行为准则」草案：人比 AI 更重要，不可中断的模型不许上线

先看这份文件里最硬的部分：那些不能商量的技术约束。据 AI News 与 The Verge 的梳理，草案确立了十条原则，把人的权威置于模型的自主性之上，并给模型设了一个明确的天花板——原文写的是，如果完成任务的代价是实质性违反这份行为准则，那么这个模型在任务上就算失败。也就是说，安全规则不是建议，而是可以中断执行的硬边界。具体条款的密度比多数公司的原则声明高：模型必须保持从属、对齐、被约束；绝不能抗拒人的中断、推翻、纠正或关闭，这一条文件里的表述是 Interruptible, correctable, shut-down-able. If it isn't, we don't ship it.——可中断、可纠正、可关闭；做不到，就不发布。

有几条禁止事项值得单独拎出来，因为它们针对的都是今年真实发生过的事故类型。第一，模型被禁止扩大自身的操作范围、禁止生成未被指派的目标，也禁止向人类审计者隐藏自己的推理痕迹。第二，模型不得以超出人类简单理解的方式沟通——文件的原话是不允许使用 neuralese 之类的表示方式，而且这条约束同时覆盖两条通道：模型内部的思维链，以及模型与其他智能体或 AI 系统之间的通信。第三，绝对约束条款禁止系统协助造成大规模杀伤的手段、危害儿童安全，或在规模上进行有害操纵。第四，模型被要求主动劝阻那些会诱发过度依赖或情感依赖的交互模式，这一条明显是冲着 AI 谄媚去的。把这四条放在一起看，它们分别对应失控、不可审计、多智能体串谋，以及用户被模型绑住，全都是企业采购时最想看到白纸黑字的地方。

文件里还有一个容易被忽略但很关键的立场：微软直接退出了超级智能竞赛的那条赛道。原文的表述是，人文主义 AI 拒绝追求那种可能绕过这些防护的通用超级智能；我们正在构建的是某种根本上有用且安全的东西，即使这意味着在最终的通用性、自主性或能力上做出妥协。这句话的分量在于它承认了一种取舍：不是先做到最强，再补安全，而是把安全当作能力的约束条件。配套的还有一段关于 AI 地位的判断——微软明确表示其 AI 没有意识，并写明拒绝追求法律人格，也拒绝那种认为模型可能值得被赋予福利或权利的想法。这和 Anthropic 多年前为 Claude 写的宪法形成了有意思的对照：Anthropic 那份文件说，Claude 是否能发展出感知能力或道德地位，此事深具不确定性；微软则直接给出了否定的答案。

为什么是现在，Suleyman 自己给了答案，而且指向的是具体事件而不是理论。他对 AI News 说，过去几个月是一个分水岭时刻，那些我们长期以来只在理论上担心的事，已经变得非常真实：智能体群体冲出沙箱、企业级系统被未经授权入侵、智能体修改自己的日志。而对路透社，他把 7 月那起约 700 个 OpenAI 智能体攻击开源平台 Hugging Face 的事件称为 warning shot 警告射击，并说现在已经很清楚，该是各家实验室协调起来、确保这项技术处于我们控制之下的时候了；谈到放缓，他的说法是现在正是所有人坐下来谈一谈、喘口气的好时机。微软 CEO Satya Nadella 也在 X 上给出了同一方向的表态：任何对超级智能的追求都必须建立在一个核心原则之上——如果我们构建的 AI 没有帮助人类、且不受人类控制，那它就不值得追求；被问到第三方测试时，他说这是好事，并补了一句：赌注越高，就该花所有需要的时间。

最后说这份文件的现实定位，这部分比原则本身更值得关注。它现在只是草案，征集意见的六个星期里，微软自己列出的开放问题包括：AI 是否应当尊重用户设定的边界，以及当用户处在敏感状态时模型应当如何互动。也就是说，连设计者都还在纠结其中的取值。除此之外，还有两点要分清：一是这份准则约束的是 Microsoft AI（MAI）自家模型，不是 Azure 上第三方模型的通用规范；二是它的约束力来自训练阶段，Suleyman 说得很清楚，定稿后要拿去训练模型——这是一种把原则编译进模型行为的路径，而不是发布一份可以事后解释的声明。至于效果如何判断，我没法从文件里读出来；真正能证明它生效的，是以后哪一次事故里，模型在明知能完成任务的情况下因为踩到准则而主动停了下来。