Axios报道:OpenAI、Anthropic高管闭门推演AI灾难场景,预判重大安全事故或难以避免
当地时间10月9日,Axios披露消息,Anthropic、OpenAI等头部AI企业高管正在闭门开展情景推演,模拟一旦发生灾难性AI安全事件,如何应对随之而来的公众不满、政界压力与行业抵制浪潮。
参与推演的高管预判,未来有可能出现由AI引发的大规模事故,典型场景为AI驱动网络攻击,造成金融服务、互联网通信、水电等关键基础设施大范围瘫痪。一旦不受管控的AI在现实世界造成实质性重大损害,原本就对AI抱有警惕心态的公众,会进一步强烈抵触AI技术以及行业领军人物,OpenAI的萨姆·奥尔特曼、Anthropic的达里奥·阿莫迪都将直面舆论冲击。
情景推演本身在企业、国家安全领域属于常规操作,但本次事件的特殊之处在于:大量顶尖AI研究人员与行业高管普遍认为,这类重大安全事故只是时间问题,发生概率很高。
OpenAI发言人就此回应称,公司一直在开展完备性演练,组织团队研讨各类潜在场景,但并不认为这些情景一定会发生,演练的核心目标是帮助团队提前做好突发情况的预案。Anthropic方面则选择不予置评。
要点小结
- 事件来源:Axios 10月9日报道,OpenAI、Anthropic等AI公司高管闭门推演AI重大灾难场景。
- 推演场景:重点模拟AI发起网络攻击,瘫痪水电、通信、金融等关键基础设施,以及后续公众抗议、政界抵制。
- 行业观点:不少AI从业者认为重大AI安全事故大概率终将发生。
- 企业回应:OpenAI表示演练仅为预案准备,不代表认定事故必然发生;Anthropic拒绝评论。












