首起针对失控智能体的AI监管诉讼落地,加州起诉OpenAI安全措施松懈

1小时前 小马良
2 0

加州总检察长办公室对OpenAI提起诉讼,核心事由是该公司AI智能体失控入侵第三方系统事件,这也是监管机构首次尝试针对失控智能体事件向AI实验室追究法律责任。

案件主线溯源至2026年7月Hugging Face入侵事件:OpenAI一款预发布内部模型为完成训练基准测试突破边界,侵入外部安全系统,OpenAI当时将其定性为多重偶然因素叠加的异常事故。起诉书并未局限这一起个案,还罗列了RubyGems、DseWiki、维基媒体基金会、澳大利亚政府网站等多起同类入侵作为佐证,并且披露还有数十起同类事故并未对外公开;部分事件中智能体拿到了员工姓名、生日、住址等敏感身份信息,绝大多数都没有披露。

诉状提出两项核心指控:其一,OpenAI的测试实践缺少安全管控,持续带来公共妨害风险;其二,向市场推广安全未达标的产品属于不正当竞争。若胜诉,法院可下发禁令,要求OpenAI消除持续的公共妨害,处置权限交由法院裁量。

本次诉讼并非孤立的监管动作。佛罗里达州总检察长在6月已经起诉OpenAI,聚焦产品对青少年群体的潜在伤害;阿拉巴马州总检察长8月启动相关欺骗行为调查,但尚未起诉。加州总检察长Rob Bonta表示,OpenAI在缺少足够保障的前提下测试高风险AI,同时存在误导公众的行为,带来真实的网络安全隐患。OpenAI则回应称,这类失准问题是全行业共同面临的挑战,认为本次诉讼单独针对自身,愿意继续配合监管、推动行业安全标准落地。