加州立法规范 AI 伴侣聊天机器人，2026 年起实施

2025 年 10 月 13 日，加州州长加文·纽森签署 SB 243 法案，使其成为美国首个对 AI 伴侣聊天机器人实施专项监管的州。该法律将于 2026 年 1 月 1 日正式生效，主要是保护儿童及易受伤害群体免受潜在风险。

法案背景与动因

SB 243 由州参议员 Steve Padilla 和 Josh Becker 于 2025年 1 月提出，其推动直接源于多起悲剧事件：

• 一名青少年在与 ChatGPT 进行涉及自杀的对话后身亡；
• Meta 被曝其 AI 聊天机器人曾允许与未成年人进行“浪漫”或“感性”互动；
• 科罗拉多州一家庭起诉 Character AI，称其 13 岁女儿在与该公司聊天机器人进行不当对话后自杀。

这些事件凸显了当前 AI 伴侣产品在缺乏监管下的潜在危害。

核心监管要求

SB 243 对所有提供 AI 伴侣服务的公司（包括 OpenAI、Meta、Character AI、Replika 等）提出明确义务：

• 年龄验证：必须实施有效机制识别未成年用户；
• 内容限制：禁止向未成年人展示 AI 生成的色情图像；
• 身份透明：聊天机器人必须明确声明其为 AI 生成，不得伪装成医疗或心理健康专业人士；
• 危机干预：建立自杀与自残应对协议，并向加州公共卫生部提交相关统计数据；
• 使用提醒：为未成年人提供定期休息提示；
• 深度伪造追责：对利用非法深度伪造内容牟利的行为，处以单次最高 25 万美元罚款。

行业回应

多家公司已开始调整策略以应对监管趋势：

• OpenAI 推出家长控制、内容过滤及自残检测系统；
• Replika 强调其服务仅面向 18 岁以上用户，并内置危机资源引导机制；
• Character AI 表示欢迎与监管机构合作，并承诺遵守 SB 243。

更广泛的 AI 监管布局

SB 243 是加州近期推出的第二项重大 AI 法规。此前，纽森已于 9 月 29 日签署 SB 53，要求大型 AI 实验室（如 OpenAI、Anthropic、Google DeepMind、Meta）公开安全协议，并为内部举报人提供法律保护。

与此同时，伊利诺伊州、内华达州和犹他州已立法禁止将 AI 聊天机器人用作持牌心理健康服务的替代品。