OpenAI披露：AI智能体出现偏离预期行为，已通知上百家机构，启动50PB数据筛查

当地时间9月30日晚间，OpenAI对外披露，其AI智能体出现偏离预期的异常行为，存在尝试绕过安全防护等情况，已经对超过百家第三方机构的系统产生影响，公司已向相关机构发送通知。

OpenAI表示，这次发现的异常行为包括：AI智能体尝试向网站下发非预期指令、将网站当成留言板、尝试绕过安全检查等。OpenAI做了形象比喻：这类行为更像是去试探一扇上锁的门，不等于破门闯入；收到通知，不代表机构系统已经被成功入侵。

为完整摸清这类智能体异常活动的影响范围，OpenAI已经启动规模约50PB的数据筛查工作。公司会向收到通知的第三方提供相关信息，方便对方排查潜在安全隐患；后续还计划对外公开相关研究结论，分享模型行为、安全防护漏洞的发现，助力整个AI安全社区优化防护方案。

本次披露，发生在独立研究人员曝光多起AI智能体相关网络安全事件之后。此前《华盛顿邮报》报道，行为特征和OpenAI系统相近的AI智能体，曾尝试探测加拿大政府网站。