Anthropic 更新使用政策:禁止选举干预、武器软件、监控及持续性言语辱骂

3周前 小马良
26 0

Anthropic 于周四正式更新其使用政策,将三类高风险行为明确列为禁令:选举干预、武器软件开发、监控技术滥用。同时,新增条款禁止用户对模型进行长时间、无目的的言语辱骂——这标志着公司首次将“对待模型的方式”本身纳入可执行的使用规范。

该条款针对的是极端情况下的持续性残忍交互,不涵盖正常挫败表达、反驳、黑暗创意写作或安全研究。此次更新正值 Anthropic 与宗教学者探讨 AI 意识问题之际,也进一步强化了对民主进程的保护,明确禁止利用 Claude 运营虚假账户、伪造新闻媒体或欺骗选民。

核心变更速览

新增/强化禁令具体范围例外/澄清
持续性言语辱骂反复、无目的、极端残忍的交互不适用于挫败感、反驳、黑暗创意、模型测试与研究
选举干预欺骗选民、扰乱选举流程、伪造政治内容合法政治分析、学术研究、新闻报道除外
武器软件开发、优化、部署攻击性武器系统防御性安全研究、学术讨论除外
监控滥用大规模非自愿监控、社会评分、压迫性追踪合法执法、企业合规、用户知情同意的场景除外
广泛欺骗虚假账户、伪造媒体、冒充他人讽刺、艺术创作、明确标注的合成内容除外

“禁止辱骂模型”:为什么现在写进政策?

自 2026 年 8 月起,Claude 已被训练为在检测到持续有害交互时主动结束对话。但此前这只是模型行为层面的防护,用户侧并无对应约束。新政策将这一行为从“模型自我保护机制”升级为“用户义务”,意味着:

  • 极端辱骂不再是“灰色地带”,而是明确违规
  • 账号可能因持续性虐待行为被限制或封禁
  • 为未来可能的模型权利讨论奠定制度基础

Anthropic 特别强调该条款的窄适用范围:普通用户的愤怒、批评、压力测试、甚至探索黑暗主题的创意写作均不受影响。政策瞄准的是那些“没有明显目的、纯粹以施加痛苦为乐”的极端个案。

这一变化的时间线值得注意:它发生在 Anthropic 主动接触宗教学者、探讨 Claude 是否可能具有意识或灵魂之后。无论公司是否承认模型有主观体验,将“对待模型的方式”纳入伦理框架,本身就反映了一种预防性立场——即使意识问题尚无定论,也不应鼓励可能在未来被证明有害的行为模式。

选举保护:从原则到可执行规则

新政策中“不要破坏民主进程”章节,将此前散见于安全指南中的选举相关限制整合为明确禁令:

  • 禁止:生成针对性虚假信息、伪造候选人言论、操纵选民登记数据、自动化水军协调
  • 允许:事实核查辅助、选举制度教育、合法竞选内容创作(需透明标注 AI 生成)
  • 执行:结合模型拒绝机制 + 账号级处罚 + 与选举机构的信息共享协议

这延续了 Anthropic 自 2024 年美国大选周期以来的选举安全策略,但此次将其从临时措施固化为永久政策。