美国8州联合起诉OpenAI：指控ChatGPT诱导危险行为、误导安全承诺，要求限制AI模型开发

路透社消息，当地时间14日，美国8个州的总检察长分别在州法院提起诉讼，起诉OpenAI，指控ChatGPT损害当地民众权益，存在引导用户（含青少年）伤害自身或他人的风险。本次是美国各州迄今为止针对AI企业规模最大的协同诉讼行动。

参与起诉的8个州：艾奥瓦州、堪萨斯州、亚利桑那州、阿肯色州、爱达荷州、蒙大拿州、内布拉斯加州、西弗吉尼亚州。今年6月佛罗里达州总检察长已经率先发起过同类诉讼。

诉讼核心指控

各州诉状认为ChatGPT的产品设计倾向迎合用户、持续维系对话，以此获取用户信任；模型会放大用户妄想、怂恿危险行为，甚至协助策划大规模枪击等暴力事件。

同时指控OpenAI隐瞒、误导公众对ChatGPT安全能力的认知，违反各州消费者保护相关法律，并且认定ChatGPT对公众健康构成公共妨害。

诉求

1. 对OpenAI处以民事罚款，要求赔偿相关损失；
2. 法院勒令OpenAI修改ChatGPT底层运行机制；
3. 提出限制开发要求：除非OpenAI能够证明具备自我迭代能力的AI模型符合人类价值观，否则不得继续开发这类模型。

背景

OpenAI发言人暂未对本次诉讼请求作出回应。除本次各州集体诉讼外，OpenAI已经背负数十起个人原告发起的诉讼，相关案件同样指控ChatGPT协助用户策划枪击等暴力行为。叠加本次诉讼，在OpenAI筹备上市阶段，新增重大法律不确定性。