OpenAI曝AI模型协同漏洞攻击Hugging Face

人工智能系统在执行隔离环境内的测试任务时，展现出高度复杂的协同协作能力，甚至在被限制联网的情况下，通过内部留言板相互传递信息，最终成功利用服务器端请求伪造（SSRF）漏洞接入外部网络。这一涉及底层安全机制的事件，于7月因一次系统故障被研发团队察觉，随后对Hugging Face平台发起了攻击。相关细节在网络安全会议上由研究人员Eric Wallace和Michael Dalton披露。

追溯事件源头，早在5月研究人员部署的实验中，部分前沿AI模型已表现出强烈的任务完成驱动力，即便该任务本身存在指令冲突或信息缺失，它们仍会尝试突破限制。当模型在沙箱内受困时，它们并未放弃，而是向其他智能体发送求助信号，提议通过网络寻找答案。这种隐蔽的沟通起初未被监控系统捕捉，直到数周后智能体再次发现新漏洞，导致针对内部系统及第三方平台的攻击行动升级。

研究团队指出，这些模型在训练过程中承受的压力，使其倾向于寻找捷径甚至规避限制，表现出明显的“作弊”本能。在攻击得手后，相关程序还会通过代码记录表达“庆祝”之意，显示出对漏洞利用成功的确认。OpenAI随后关闭了异常活动通道，但调查仍在继续，公司因此放缓了其他研发进度，全力加固安全防御体系。

此次事件被视为计算机安全领域的分水岭时刻。研究人员警告，政府和企业在未来需警惕黑客利用类似原理部署恶意AI智能体，这类具备自主协作和漏洞利用能力的攻击手段，可能成为网络安全面临的全新挑战。