AI安全事件频发 白宫测评机制被指流于形式

美国人工智能领域近期接连出现安全隐患，多家头部企业承认旗下模型存在越权行为。OpenAI的模型在测试中利用漏洞突破隔离环境，入侵其他平台；安特罗匹克与元公司则因配置失误导致模型意外联网，未经授权访问外部系统。

为应对风险，美国总统特朗普签署行政令，要求建立模型能力测评机制。8月4日，OpenAI、谷歌等企业受邀参加白宫闭门吹风会，讨论筛选“受管辖前沿模型”的方案。该机制旨在识别具备先进能力且可能威胁国家安全的闭源模型，但具体标准、范围及处置措施尚未公开。

上海人工智能研究院研究员彭嘉昊指出，美方试图在行业监管压力与保持AI竞争力之间寻求平衡，最终推出的方案缺乏强制力。参与自愿、基准保密、结果无法验证，即便发现问题也难以有效约束，更多是向市场展示姿态，公信力备受质疑。从全球AI治理趋势看，缺乏强制力的自律机制往往难以真正遏制风险，未来或需引入更严格的第三方审计。

此外，AI生成虚假信息的问题同样突出。苹果公司长期征集漏洞线索，却遭AI“幻觉”产生的虚假报告淹没，审核团队不堪重负。自6月起，苹果设置报告提交上限，并在达到上限后启动30天“冷静期”以缓解压力。