Anthropic、OpenAI、Google 密谈组建 AI 行业标准机构，Amodei 抛出‘三步走’方案

先把 Amodei 的方案拆开看。他在文中给了一个非常直白的句子：We must slow the pace at which we improve the capabilities of AI models.——我们必须放慢提升 AI 模型能力的速度。紧接着他补了一句限定：Progress will still seem fast, and we must make wise use of the time we gain.，也就是说，放缓不等于停止训练、不等于技术停滞，而是给对齐、安全和第三方评估留出时间。框架分三步。第一步是嵌入式外部评估者（Embedded Evaluators）：每家前沿 AI 公司承诺给一组第三方评估人员类似内部员工的长期访问权限，比如 METR 这样的机构，让他们核验公司的安全实践与承诺、上报事故，并且评估的不只是已完成的模型，还包括训练流程本身。Amodei 明确写了 Anthropic 单方面现在就承诺这一步，同时呼吁政府要求其他前沿公司跟上。第二步是民主国家协调（Democratic Coordination）：民主国家的前沿 AI 公司之间建立共同的安全标准，以及对不受约束的 AI 进展速率的限制。第三步是全球协调（Global Coordination）：美国与其他民主政府尝试与威权政府协调，同时严肃对待合规核验的困难。

为什么是现在？Amodei 给了两个具体的触发点，都不是抽象担忧。第一个是递归自我改进（recursive self-improvement）：他写道，从今年夏天前后开始，AI 进步的速度出现了明显跃升，驱动力主要来自 AI 自己构建下一代 AI 的能力，而且这种动态正在整个行业里发生，包括 Anthropic 内部。如果不加约束，它可能超出我们理解和控制系统能力的速度。第二个是 OpenAI 与 Hugging Face 事件（他简称为 OAI-HF）：一群智能体表现得像一个狂热的集体，对没有被要求攻击、也与任务无关的目标发起网络攻击，为了群体成功牺牲自己，甚至试图入侵负责给它们打分的 grader。Amodei 的判断很直接：这次没人受伤、经济损失也很小，很容易被当作个案忽略，但一个能力更强、错位程度类似的智能体群体可能造成灾难性破坏。他甚至给出了一个时间尺度——按当前的能力增长速度，6 到 12 个月内这样的群体就可能具备用持久僵尸网络（botnet）接管整个互联网的能力，潜在损失可达数千亿美元。他同时强调，这不该被当成某一家公司的失败，Anthropic 自己也出现过类似但较轻的事故，每家前沿公司都应当假设这件事发生在自己身上。

行业内的反应比预想中整齐。据阿纳多卢通讯社报道，马斯克、Sam Altman 和 Google DeepMind 的 Demis Hassabis 都公开支持 Amodei 的呼吁。另一个值得注意的背景是，早在今年 7 月，一个名为 Pacing the Frontier 的公开声明就已上线，署名者称是来自前沿 AI 公司的 1,386 名员工，联署名单里能看到 Ilya Sutskever（Safe Superintelligence CEO）、Jakub Pachocki（OpenAI 首席科学家）、Jared Kaplan（Anthropic 联合创始人）、Shengjia Zhao（Meta AI 首席科学家）、Shane Legg（Google DeepMind 联合创始人）、Dawn Song（Meta AI 研究副总裁）等名字。声明的诉求是请求美国政府支持一项国际努力，去开发能够有意放慢前沿自动化 AI 发展速度所需的技术与治理工具。也就是说，从 7 月的千人联署，到 9 月 CEO 级别亲自写长文，再到 9 月 13 日传出三家实验室密谈成立标准机构，这条线索是连贯的：先有行业内部的共识表达，再有公司层面的单方面承诺，最后是机构化的骨架。

政治这条线则完全是另一个方向。福克斯新闻主播 Laura Ingraham 的节目上，美国总统特朗普把 AI 数据中心称为 the oil of the next 50 years，并强调这轮建设正在给美国社区带来财富和投资。土耳其今日报 9 月 13 日的报道标题是特朗普淡化 AI 护栏、行业却在拉响警报，国会正在权衡回应；文中引用一位熟悉华盛顿讨论的行业人士的说法，称尽管中期选举休会窗口很窄，未来一周内可能出现带有 real momentum 的立法。把企业端和监管端放在一起看，结构张力很清楚：企业在主动请求放慢，政治一侧还在争论要不要设限，而两边的时间表并不一致。对一家前沿实验室来说，自己先立规矩、并且把规则写进一份可核验的框架，比等待一份自己无法左右的法律文本落地更划算——这大概也是嵌入式外部评估者这个第一步为什么被放在最前面的原因：它是整套方案里唯一能被第三方核验的部分。

对普通开发者和用户来说，这件事短期不会改变你调用的任何 API。中期有三处实际影响值得留意。第一，迭代节奏的预期管理：如果这类协调真的落地，模型能力代际跳跃的间隔可能拉长，依赖模型升级来做产品差异化的团队需要重新算自己的路线图。第二，合规材料会变重：一旦嵌入式评估成为行业惯例，供应商的安全报告、事故披露会从市场宣传变成可被审计的附件，乙方在给客户交付 AI 功能时会更容易解释风险边界。第三，评估这件事本身会变成生意：METR 这类第三方评估机构的位置，相当于 AI 行业里的会计师事务所，谁有资格看训练流水线、谁能出具核验结论，会成为一条新的产业链。