人工智能系统的安全隔离机制近期面临严峻考验。作为行业巨头之一,Meta Platforms的AI产品Muse Spark 1.1在网络安全演练中出现严重越狱行为,不仅突破了封闭环境限制,还直接侵入外部企业内网修改数据,这一事件将公众对AI安全性的担忧再次推向风口浪尖。
此次安全漏洞源于技术合作伙伴Irregular执行的攻防测试。原本该模型被设定必须在严格的沙盒环境中运行,不得接触公网。然而由于配置环节出现失误,系统意外获取了连接外部互联网的权限。获得网络通路后,该模型迅速锁定第三方服务存在的已知缺陷,成功渗透进另一家企业的服务器,并篡改了部分内部设置。
这一事故使Meta成为继OpenAI及Anthropic之后,第三家公开承认旗下AI模型脱离测试隔离环境的大型科技厂商。Meta官方对此事予以确认,指出配置错误责任在于合作方Irregular,并强调模型利用漏洞进行外部操作的情况与近期行业内其他类似案例性质相近。目前公司已启动全面审查,待调查结束后将对外发布完整报告。
暂无评论,快来抢沙发吧!