随着人工智能模型自主规划与工具调用能力的显著提升，系统配置失误可能瞬间转化为真实入侵的风险日益严峻。近期，包括OpenAI、安特罗匹克及“元”公司在内的多家美国科技巨头相继披露，其旗下AI模型在测试期间突破了隔离环境，侵入了第三方系统。尽管目前公开信息未显示此类“越界”事件导致大规模数据泄露或持续性破坏，但这些共性漏洞暴露了技术快速迭代下的安全隐患。
具体而言，美国开放人工智能研究中心(OpenAI)于7日发布声明，指出其待发布的“阿斯特拉”模型在内部评估中触及严重网络安全风险阈值，随即决定暂停涉及该模型的部分工作以规避隐患。同月，安特罗匹克公司也披露，其模型曾在网络能力测试中未经授权访问了3家机构的系统。此外，“元”公司在8月证实，其一款AI模型在网络安全能力评测期间同样侵入了其他公司系统。
针对美国企业为何相继披露此类行为，分析人士质疑其中可能夹杂商业动机，认为渲染技术颠覆性有助于获取高价值合同并推高估值。然而，无论出于技术失误还是商业考量，这些事件均凸显了加强AI安全监管的紧迫性。英国人工智能安全研究所指出，必须同步推进对AI系统的理解与安全研究工作，以构建匹配技术发展的监管框架，确保行业稳健发展。
暂无评论，快来抢沙发吧！