CivitAI 在万事达卡和 Visa 的压力下收紧内容政策，加强对于名人LoRA模型和成人内容的管理

在支付服务商万事达卡和Visa的压力下，全球最受欢迎的AI模型库之一 CivitAI 近日对其内容政策进行了重大调整，尤其是针对名人LoRA模型和成人内容的管理。这一变化不仅标志着CivitAI在法律和商业压力下的妥协，也反映了AI生成内容领域日益复杂的监管环境。

背景：支付服务商的压力与Deepfake法律的兴起

近年来，随着AI生成内容（尤其是Deepfake技术）的普及，相关法律和道德争议也随之增加。许多国家和地区开始出台针对Deepfake和AI生成色情内容的法律，旨在保护个人隐私和肖像权。与此同时，支付服务商如Visa和万事达卡对涉及成人内容或真人描绘的平台表现出越来越强的警惕性。

CivitAI社区互动经理Alasdair Nicoll在一次Twitch直播中坦言：“这些改变并非我们自愿做出的，而是由于新的和即将出台的立法以及支付处理商的担忧。”他进一步指出，Visa和万事达卡“害怕被起诉”，因此推动了这些政策调整。

新政策的核心内容

CivitAI的新政策主要集中在以下几个方面：

1. 隐藏名人相关内容

   • 所有标记为真人姓名（如“汤姆·克鲁斯”）或被识别为POI（真人）资源的内容将从公共Feed中隐藏。
   • 搜索名人姓名时，系统将不再返回任何结果，以防止名人肖像被滥用。
2. 元数据强制要求

   • 所有图像和视频必须包含元数据，包括使用的模型名称、哈希值及其他生成设置。缺少元数据的内容将在30天内被删除。
   • 用户可以通过手动输入元数据来恢复内容，但这可能导致原有互动数据（如点赞和评论）丢失。
3. 限制BYOI（自带图像）功能

   • 使用BYOI功能生成的图像必须应用至少50%的噪声变化，确保AI显著修改原始图像，从而减少生成几乎完全相同的副本的可能性。
   • 这一规则旨在减少对真实照片的轻微编辑，降低Deepfake滥用的风险。
4. 加强审核与删除机制

   • CivitAI与Clavata AI审核系统合作，提升内容审核能力。Clavata的图像分析工具被认为优于此前使用的Amazon Rekognition和Hive。
   • 新增2257合规声明，明确平台不允许任何非AI生成的内容，确保所有露骨材料均为合成。
5. 货币化限制

   • 描绘真人的图像或资源将无法获得广告支持，且禁用打赏（Buzz）功能。
   • 名人或真人肖像相关的模型将失去Early Access资格，限制其货币化潜力。

名人LoRA的争议与应对

名人LoRA是CivitAI上最受欢迎的用户提交内容之一，但也是争议最大的部分。这些模型允许用户通过简单的下载和配置生成知名人士的图像，甚至包括成人内容。尽管CivitAI此前已禁止使用名人LoRA生成NSFW（不适合工作场所）内容，但新政策进一步加强了限制。

Nicoll提到，CivitAI正在开发一种系统，可以识别并保护“受保护”的人物形象，即使在系统从未见过的图像中也能实现。例如，汤姆·汉克斯等名人已经向CivitAI声明了自己的肖像权，未来他们的形象将受到更严格的保护。

行业影响与未来的不确定性

对用户的冲击

对于CivitAI的用户来说，新政策意味着更高的使用门槛和更多的限制。数千名用户可能需要手动为上传的图像添加元数据，或者重新生成符合规则的内容。此外，名人LoRA的受限使用将直接影响部分内容创作者的工作流程。

行业的连锁反应

CivitAI的调整不仅是其自身的妥协，也可能预示着整个AI生成内容领域的趋势。随着Deepfake法律的逐步完善，其他平台（如Hugging Face、Reddit和Discord）可能也会面临类似的压力。一些用户已经开始寻找替代方案，例如通过torrent或暗网保存被禁止的内容。

加密货币作为潜在出路？

Nicoll提到，CivitAI曾考虑完全转向加密货币支付，但最终认为这并不是一个可行的选择。“没有人会为了使用CivitAI生成器而购买比特币，”他表示。然而，随着传统支付渠道的限制加剧，加密货币可能成为某些边缘化平台的最后选择。