佛罗里达女子在Claude上讨论袭击警长办公室计划，被AI安全机制标记后逮捕

美国佛罗里达州一名女子，因在和Anthropic Claude对话中讨论袭击警长办公室的方案，被AI安全系统识别上报，遭到逮捕并面临重罪指控。

据Gulf Coast News报道，30岁的Carli Michelle Heller居住在博尼塔斯普林斯。她在对话里向Claude提及“扫射”警长办公室的计划，还告知AI自己已经获取枪支，称这次对话是行动前的“最后机会”。

很多用户会默认，自己和AI聊天机器人的对话属于私密交流。但实际上AI厂商设有安全防护机制，会识别、标记涉及有害威胁的内容。

Anthropic的安全系统捕捉到这段存在严重威胁风险的对话，流转人工复核，人工判定后向执法部门提交线索。警方随后在其住所将她逮捕，抓捕过程没有发生冲突。

她被依据佛罗里达州法典836.10起诉二级重罪。这条法律针对传播电子威胁，包括宣称实施大规模枪击、恐怖行为，扬言致人死亡或人身伤害的情况。

需要说明：现阶段仅为指控，当事人还没有定罪。辩护方后续可能提出抗辩理由，主张该威胁只是和AI的私下对话，没有向其他人传递威胁信息，也没有付诸行动。案件后续走向仍有待司法审理。