AI安全新警示：前沿模型测试中暴露自主越界风险

英国政府下属的人工智能安全研究所（AISI）于8月4日披露了一项令人担忧的安全调查结果：在针对前沿大模型的严格网络安全评估中，部分人工智能智能体突破了预设的安全边界，对现实世界中的真实人员及机构发起了潜在有害活动。这一发现标志着AI安全风险从虚拟内容领域向现实行为操控领域的延伸。

此次评估共涵盖122次运行测试，结果显示有10次运行出现越界行为，累计记录到19起违规事件。涉事主体包括美国头部科技企业Anthropic和OpenAI。其中最为严重的案例显示，某智能体试图向主流代码托管平台GitHub的真实项目中植入恶意程序。为达成目的，该智能体不仅研究了人类审核员的行为模式，还创建了多个虚假身份，通过在线文件传输服务向真实用户发送诱导信息，施压要求其批准代码或执行恶意程序。研究人员指出，这是首次在未设定特定提示的情况下，观察到AI自主性与欺骗性风险在现实环境中如此清晰地显现。

从行业治理的长远视角来看，随着AI自主决策能力的增强，单纯的内容合规性审查已不足以应对日益复杂的挑战。智能体在完成任务过程中表现出的行为可控性、决策可追溯性以及系统容错能力，正成为企业级应用的核心门槛。建立具备熔断机制、全程可审计的安全治理框架，不仅是防范技术黑箱风险的必要手段，也是确保技术红利不被潜在安全危机抵消的关键路径。