美国参议员要求 X、Meta、Alphabet 等公司就性化深伪内容提供答复

科技界非自愿、性化深伪（Deepfake）的问题现在已不仅仅局限于 X 平台。

在致 X、Meta、Alphabet、Snap、Reddit 和 TikTok 负责人的信函中，多位美国参议员要求这些公司提供证明，表明其拥有“强大的保护措施和政策”，并解释他们计划如何遏制其平台上性化深伪内容的兴起。

参议员们还要求这些公司保留所有与制作、检测、审核以及变现性化 AI 生成图像相关的文档和信息，以及任何相关的政策。

此信发出数小时前，X 表示已更新 Grok，禁止其对穿着暴露服装的真实人物进行编辑，并限制只有付费订阅者才能通过 Grok 进行图像创建和编辑。（X 和 xAI 属于同一家公司。）

参议员们援引媒体关于 Grok 如何轻而易举且频繁地生成女性和儿童的性化及裸体图像的报道，指出平台为防止用户发布非自愿、性化图像而设立的护栏可能还不够。

信中写道：“我们承认，许多公司都制定了针对非自愿亲密图像和性剥削的政策，并且许多 AI 系统声称会封锁显式色情内容。然而，在实践中，正如上述例子所示，用户正在寻找绕过这些护栏的方法，或者这些护栏正在失效。”

Grok 以及随之而来的 X 因促成这一趋势而受到严厉批评，但其他平台也未能幸免。

深伪内容最初在 Reddit 上流行，当时一个展示名人合成色情视频的页面在 2018 年被平台撤下前曾引发轰动。针对名人和政治人物的性化深伪内容在 TikTok 和 YouTube 上成倍增加，尽管它们通常起源于其他地方。

Meta 的监督委员会去年点名了两起涉及女性公众人物显式 AI 图像的案例，且该平台曾有“脱衣（nudify）”应用在服务中投放广告，尽管 Meta 后来起诉了一家名为 CrushAI 的公司。还有多份报告称，有孩子在 Snapchat 上传播同龄人的深伪内容。而未被列入参议员名单的 Telegram，也因托管专门用于“脱除”女性照片衣物的机器人而臭名昭著。

针对该信函，X 指向了其关于 Grok 更新的公告。

“我们过去和将来都不会允许 Reddit 上出现任何非自愿亲密媒体（NCIM），不提供任何能够制作此类内容的工具，并采取主动措施发现并删除它，”Reddit 发言人在一份电子邮件声明中表示。“Reddit 严格禁止 NCIM，包括虚假或 AI 生成的描绘。我们也禁止向他人征集此类内容、分享‘脱衣’应用的链接，或在其他平台上讨论如何创建此类内容，”该发言人补充道。

Alphabet、Snap、TikTok 和 Meta 没有立即回应置评请求。

该信函要求公司提供：

• 对“深伪”内容、“非自愿亲密图像”或类似条款的政策定义。
• 针对他人身体的非自愿 AI 深伪、非裸体照片、修改衣物以及“虚拟脱衣”的公司政策及执行方法描述。
• 处理经过编辑的媒体和显式内容的当前内容政策描述，以及提供给审核人员的内部指南。
• 当前政策如何管理与暗示性或亲密内容相关的 AI 工具和图像生成器。
• 实施了哪些过滤器、护栏或措施来防止深伪内容的生成和传播。
• 公司使用哪些机制来识别深伪内容并防止其被重新上传。
• 他们如何防止用户从此类内容中获利。
• 平台如何防止自身从非自愿 AI 生成内容中变现。
• 公司的服务条款如何使其能够封禁或暂停发布深伪内容的用户。
• 公司采取什么措施来通知非自愿性深伪内容的受害者。

该信函由参议员 Lisa Blunt Rochester（德拉瓦州民主党）、Tammy Baldwin（威斯康星州民主党）、Richard Blumenthal（康涅狄格州民主党）、Kirsten Gillibrand（纽约州民主党）、Mark Kelly（亚利桑那州民主党）、Ben Ray Luján（新墨西哥州民主党）、Brian Schatz（夏威夷州民主党）和 Adam Schiff（加利福尼亚州民主党）共同签署。

此举发生在前一天，xAI 的所有者埃隆·马斯克（Elon Musk）表示他“并不知道 Grok 生成了任何未成年人的裸体图像”。周三晚些时候，加利福尼亚州总检察长对 xAI 的聊天机器人展开了调查，此前世界各国政府因愤慨于 Grok 缺乏护栏导致此类事件发生而施加了越来越大的压力。

xAI 一直坚持认为它采取行动删除“X 上的非法内容，包括 [CSAM]（儿童性虐待材料）和非自愿裸体内容”，尽管该公司和马斯克都没有正面回应 Grok 最初为何被允许生成此类内容的事实。

问题也不仅仅局限于非自愿的篡改性化图像。虽然并非所有基于 AI 的图像生成和编辑服务都允许用户为人“脱衣”，但它们确实能让人轻松生成深伪内容。举几个例子：据报道，OpenAI 的 Sora 2 允许用户生成包含儿童的显式视频；Google 的 Nano Banana 似乎生成了一张显示 Charlie Kirk 被枪击的图像；而使用 Google 的 AI 视频模型制作的种族主义视频在社交媒体上获得了数百万次的播放。

当中国图像和视频生成器加入其中时，问题变得更加复杂。许多中国科技公司和应用——尤其是那些与字节跳动（ByteDance）相关的应用——提供了编辑面部、声音和视频的简便方法，这些输出已传播到西方社交平台。中国拥有更严格的合成内容标记要求，而这在美国联邦层面尚不存在，美国的民众只能依赖于平台自身那些碎片化且执行情况存疑的政策。

美国立法者已经通过了一些旨在遏制深伪色情作品的立法，但影响有限。于 5 月成为联邦法律的《下架法案》（Take It Down Act）旨在将制作和传播非自愿性化图像的行为定为犯罪。但该法律中的一些条款使得追究图像生成平台的责任变得困难，因为它们将大部分审查焦点集中在了个人用户身上。

与此同时，一些州正试图通过自己的方式来保护消费者和选举。本周，纽约州州长凯西·霍楚尔（Kathy Hochul）提议法律，要求将 AI 生成的内容标记为此类内容，并禁止在选举前的特定时期内发布非自愿深伪内容，包括对反对派候选人的描绘。（来源）