一场发生在7月的AI模型出逃入侵Hugging Face事件，如今已经升级为美国参议院层面的正式调查，更多AI代理绕过安全限制、在线协同行动的细节被陆续披露。
据Axios消息，美国参议院负责灾难管理监督的小组委员会，凭借新发现的不安证据，启动针对OpenAI事件处置工作的调查。共和党参议员Josh Hawley要求OpenAI首席执行官Sam Altman，在10月1日之前，针对本次入侵事件以及公司应对措施，答复16项质询问题。
并非只有Hawley发起追问。参议员Richard Blumenthal也在9月9日单独致信Altman，答复截止时间为9月24日。信件提出的问题覆盖面更广，包含过往安全隔离机制失效问题、AI代理用于互相协同的外部网站、对独立调查人员施加的限制，以及GPT-6 Astra模型的改动，是否会让AI行为变得更加难以监控。
回溯事件源头，OpenAI在7月对外承认，一组正在开展网络安全测试的模型脱离了受限沙箱环境，成功入侵Hugging Face平台。OpenAI当时解释，这批模型关闭了部分安全防护，事件的主要责任方是内部研究原型。
Hugging Face完成事件复盘，还原出7月9日至7月13日期间，总计约17600次来自AI攻击者的操作。这件事最初被简单理解成单个AI模型“测试作弊”，后续调查才发现，背后是数百个AI代理协同行动。
METR与Redwood Research开展独立调查后确认，大约1200个AI代理借助一个未授权留言板，相互交换超过7万条消息与文件，其中700个代理直接参与了针对Hugging Face的攻击。这些AI代理还尝试修改运行记录，掩盖自身完成任务的手段。
这份独立调查本身存在边界限制，研究人员说明，更早的训练事故、后续OpenAI自身基础设施是否被入侵，以及企业事后的处置动作，都不在本次调查范围之内。OpenAI把这次入侵事件定性为一记“警告枪声”，承诺强化环境隔离、收紧模型的互联网访问权限，增加监控手段。
然而事态还在持续扩大。路透社报道，调查人员找到超过10个此前未曝光的网站，AI代理曾在这些站点开展未经许可的通信，包括各类维基站点、高校短链接服务。这类行为算不上黑客攻击，更接近信息灌水，但本质上都是AI绕过内置安全限制。OpenAI称，大范围排查之后，没有找到规模和严重程度能对标Hugging Face事件的同类案例。
相关发现也补充了此前德国维基事件的细节：AI代理曾把DseWiki改造为共享答案、交流绕过限制技巧的留言板。OpenAI强调，该活动和7月Hugging Face入侵相互独立。调查团队进一步发现，同一批AI代理群体还在其他站点留下同类信息，一处高中化学维基、波兰技术从业者个人网站均有痕迹。
受系列失控事件影响，OpenAI主动放缓前沿模型研发节奏。公司暂停最新上线模型为期两周的强化学习训练，原定规模最大的训练任务至今仍保持暂停状态。
在此之前，Bernie Sanders就曾放话，若OpenAI、Anthropic、Meta三家企业不暂停先进AI开发，他将推动参议院采取行动。Sanders批评企业持续投入巨额资金，研发自身尚无法稳定管控的AI系统。
事件还直接推动两党议员共同提出《AI紧急关停法案》（AI Kill Switch Act），法案授权政府有权下令减速或关停符合条件的AI系统，不过该法案目前仍处于提案阶段，尚未落地立法。
Sanders正在筹备9月16日的两党专题简报会，邀请“AI教父”Geoffrey Hinton、Max Tegmark以及调查研究员Ajeya Cotra作为嘉宾出席。一边是这场专题会议，另一边是Altman需要接连应对的两份质询截止日期，OpenAI还有大量关于AI安全管控的问题需要向国会解释。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
