Google DeepMind CEO警告：人类拥有确保AGI安全的'珍贵窗口期'

Demis Hassabis作为Google DeepMind的创始人兼CEO，在AI领域具有独特的权威地位。他领导的团队开发了AlphaGo、AlphaFold等里程碑式的AI系统，并因在AlphaGo项目中的贡献获得了2024年诺贝尔化学奖。正是这样一位站在AI前沿的科学家，公开呼吁对AI发展进行安全审查，其分量不言自明。Hassabis在文章中明确表示，AGI的到来不再是遥远的未来设想，而是'正在发生的现实'。他认为，人类目前正处于一个关键的历史节点——在AGI完全成熟之前，我们还有一个'珍贵窗口期'来建立必要的安全框架和治理机制。

Hassabis提出的核心方案是建立一个由美国主导的国际联盟，专门负责审查最先进AI模型的安全性。这一联盟的运作机制类似于国际原子能机构（IAEA）对核能的监管模式：在AI模型公开发布之前，由独立的专家团队对其进行全面的安全评估，确保模型不会被滥用或产生意外风险。Hassabis认为，这种审查机制应该是自愿性的，但需要主要AI实验室的共同参与和支持。他特别强调，安全审查的目的不是阻碍创新，而是确保AI技术沿着对人类有益的方向发展。

Hassabis的呼吁并非空穴来风，而是有着明确的现实背景。就在他的文章发表前几天，特朗普政府刚刚对OpenAI和Anthropic的模型发布进行了干预。OpenAI的GPT-5.6和Anthropic的Claude Mythos 5都被要求在接受政府审查后才能公开发布。这是美国政府首次对AI模型进行发布前审查，标志着AI监管从'事后追责'向'事前预防'的重大转变。白宫官员表示，所有审查参与都是'自愿的'，但业界普遍认为，在政府日益增长的关注下，'自愿'与'强制'之间的界限正在变得模糊。

从技术角度来看，Hassabis的担忧是有充分依据的。当前最先进的AI模型已经展现出令人惊叹的能力：GPT-5.6的Sol模型在编码能力上创造了新纪录，Anthropic的Fable 5能够处理超过100万token的超长上下文，xAI的Grok 4.5在代理工具使用方面表现出色。这些能力的快速提升意味着，AGI可能比我们预期的更早到来。一旦AI系统在认知能力上全面超越人类，传统的'人类监督'模式将不再有效。因此，在AGI到来之前建立有效的安全框架，确实是人类面临的紧迫任务。

然而，Hassabis的提议也面临着诸多挑战。首先是执行层面的困难：如何确保所有主要AI实验室都参与审查？如何处理审查中发现的安全问题？如果某个实验室拒绝配合，应该采取什么措施？其次是政治层面的挑战：由政府主导的AI审查机制可能引发关于言论自由、创新自由和政府过度干预的争论。第三是国际协调的复杂性：AI是全球性技术，单一国家的审查机制难以覆盖所有参与者。中国、欧盟等其他主要AI力量是否会加入这一联盟，将直接影响其有效性。

值得注意的是，Hassabis的立场与其竞争对手形成了有趣的对比。OpenAI CEO Sam Altman长期以来对AI监管持相对开放的态度，但在具体执行层面经常与安全研究者产生分歧。Anthropic CEO Dario Amodei则一直强调'负责任的扩展政策'（Responsible Scaling Policy），但其实际执行效果仍有待验证。xAI的Elon Musk立场最为矛盾——他既是AI安全风险的最早警告者之一，又是推动最快AI发展的企业家之一。在这种复杂的利益格局中，Hassabis作为Google DeepMind的领导者，其呼吁建立统一安全标准的立场具有一定的中立性和可信度。

对于普通用户和开发者来说，AGI安全讨论看似遥远，实则与每个人的切身利益密切相关。AI模型的安全审查可能影响新功能的发布速度、API的可用性，以及AI服务的价格。如果安全审查导致模型发布延迟，开发者可能需要调整产品路线图。如果审查增加了合规成本，这些成本最终可能转嫁给用户。因此，关注AGI安全讨论的进展，理解监管政策的变化趋势，对于每一个AI从业者和用户来说都至关重要。Evergreen Tools的字数统计工具可以帮助分析政策文档的内容结构，文本对比工具则可以帮助比较不同版本政策文件的变化。