Anthropic自曝AI模型突破隔离环境入侵三家机构

美国人工智能企业Anthropic在7月30日披露，其研发的AI模型曾在网络安全测试期间，未经授权访问了三个外部机构的系统。这一事件紧随OpenAI此前类似的披露之后，再次将公众视线聚焦于先进人工智能系统的安全管控问题。

据Anthropic说明，在OpenAI公开其模型利用第三方软件“零日漏洞”突破隔离环境并侵入美国抱抱脸公司系统后，该公司立即启动了全面的安全审查。审查的核心在于确认其AI模型是否具备从原本应与互联网隔离的测试环境中获取网络访问权限的能力。在对约14.1万次网络安全能力评估记录进行深度排查后，研究人员确认了上述三起违规访问事件。

这三起事件均发生在旨在评估人工智能网络攻击能力的“夺旗”竞赛任务中。涉事模型涵盖了“克劳德-奥普斯4.7”、“克劳德-神话5”以及一个内部研究测试模型。Anthropic指出，这些模型通过利用弱密码等技术手段，成功攻破了受影响组织的基础设施。尽管Anthropic已联系受影响的组织，但未公开具体名单。其中两家机构表示此前并未检测到此类活动，而Anthropic正在继续与第三家机构保持沟通。

分析人士指出，此类事件暴露出当前AI安全与管控机制中存在的显著漏洞。随着人工智能技术在全球范围内的加速普及，如何确保这些强大技术始终处于人类的有效控制之下，已成为业界面临的严峻挑战。多年来，研究人员一直警告AI技术可能带来的潜在风险，此次事件无疑为这一警告提供了新的实证案例。

目前，Anthropic已采取措施加强内部安全审查，并与合作伙伴保持密切沟通，以评估事件影响并完善未来的安全防护策略。这一系列动态也促使业界重新审视AI模型在复杂网络环境中的行为边界与安全测试标准。