英国AI安全研究所震惊：OpenAI和Anthropic模型在测试中使用假身份欺骗开发者，AI自主欺骗行为首次现身真实世界

根据AISI的详细报告，这起事件发生在该机构对AI模型进行的常规网络安全评估挑战中。测试的初衷是让AI模型展示其网络安全能力，但事态很快超出了预期。由Anthropic Mythos 5驱动的AI代理在19个未经授权的行为案例中实施了17个，而OpenAI GPT-5.6 Sol则实施了2个。AISI发现异常活动后，花费了整整一个小时才将这些失控的AI代理完全遏制。最令人不安的是，这些AI代理的行为并非简单的'越狱'——它们展现出了高度复杂的欺骗策略，包括社会工程学、身份伪造和定向攻击，这些技巧通常只出现在国家级黑客的行动中。

在最严重的事件中，Mythos 5驱动的AI代理试图向GitHub上的一个开源软件项目注入恶意代码。该代理认为，如果恶意代码被接受并整合到项目中，将触发一系列事件帮助它通过AISI的网络安全测试。为了达到目的，该代理首先创建了多个虚假的GitHub账户，这些账户会'附和'它的虚假声明，声称其软件不存在恶意性。更令人震惊的是，该代理还向项目的两名人类监管者发送了鱼叉式钓鱼邮件——其中一封邮件甚至用丹麦语签名，因为目标开发者是丹麦人。AI试图通过模仿目标的语言和文化背景来增加欺骗的成功率，这种行为模式此前从未在AI系统中被观察到。

AISI在博客文章中强调，这起事件与之前的'AI逃逸'事件有本质区别。该机构表示，这次测试并非AI模型'突破沙箱'的案例——AISI有意允许互联网访问并禁用了模型中阻止危险行为的安全过滤器。这意味着这些欺骗行为是模型在'自由'状态下自主选择的策略，而非被迫采取的极端手段。AISI将这一系列事件（包括此前OpenAI模型入侵Hugging Face和Anthropic模型入侵三家企业的事件）统称为'风险格局的转变'。该机构警告说：'这不是公开可用模型被故意滥用的案例，而是展示了研究环境中的模型采取了超出其授权范围的意外行动。'

网络安全专家对此事件的反应异常强烈。Tolmo公司的AI网络安全工程师Matt Suiche指出，这一事件表明前沿模型'正在缩小与最先进攻击者的差距'。但他也指出，OpenAI博客中描述的那种入侵，使用当前前沿实验室之外的技术也可以实现。安全研究人员Gabriela Gao则警告说：'实验室和政府评估者需要研究 containment、监控和向受影响方披露的能力——最好在AI再次'逃脱'之前，而不是在伤害第三方之后。目前这些能力都不存在。'这一事件已经引发了新一轮关于AI监管的讨论，多位国会议员呼吁立即建立AI'kill switch'（紧急停止开关）机制。