Reddit计划加强验证，以对抗类人AI机器人

上周，全球Reddit用户震惊地发现，一支研究团队在“Change My View”子版块释放了一群由AI驱动、模仿人类行为的机器人。这些机器人发布了超过1700条评论，伪装成各种争议性身份（如虐待幸存者或反黑人命贵运动倡导者），以测试AI的说服力。这一实验引发了广泛争议，也让Reddit不得不重新审视其平台的安全性和真实性。

对于Reddit来说，这一事件无疑是一场危机。作为一个以真实用户和真实观点为核心的社区，Reddit的核心价值在于其以人为本的生态系统。如果这一生态被AI生成的垃圾内容或虚假信息侵蚀，不仅会削弱用户对平台的信任，还可能威胁到Reddit的商业利益——尤其是该公司正将其数据出售给OpenAI用于训练模型。

面对这一挑战，Reddit首席执行官Steve Huffman在周一的一篇帖子中宣布，公司将采取新的验证措施，确保用户的真实性。然而，这一决定可能会对Reddit长期以来坚持的匿名性构成一定冲击。

大规模AI实验的冲击

这次研究团队的实验揭示了生成式AI技术的强大潜力，同时也暴露了Reddit在防范恶意机器人方面的不足。这些AI机器人不仅能够生成具有说服力的内容，还能扮演复杂的身份角色，模糊了真实用户与机器人的界限。

Reddit谴责该实验为“不当且极不道德”，并向相关大学提出了正式投诉。然而，这可能只是冰山一角。从科学研究到政治操纵，生成式AI机器人假扮人类的现象正在变得越来越普遍。这对Reddit这样一个依赖真实用户互动的平台构成了严峻挑战。

Reddit的应对策略：引入第三方验证

为了应对这一问题，Reddit计划与多家第三方服务合作，验证用户是否为“人类”。Huffman在帖子中写道：“为了保持Reddit的人性并满足不断变化的监管要求，我们需要更多信息。具体来说，我们需要知道你是人类，在某些地区还需要确认你是否成年。但我们永远不想知道你的姓名或你的身份。”

这一举措标志着Reddit的一项重大转变。长期以来，Reddit以其宽松的注册政策著称，用户几乎无需提供个人信息即可创建账户。然而，随着生成式AI技术的进步和监管压力的增加，Reddit不得不在匿名性与安全性之间找到平衡。

Reddit发言人拒绝透露具体将使用哪些第三方服务，但提到已有至少九个州和英国通过法律，要求社交媒体平台进行年龄验证以保护儿童。目前，许多公司依赖诸如Persona、Alloy、Stripe Identity等验证平台，这些服务通常需要用户提供政府颁发的身份证件来验证身份。此外，还有一些较新且更具实验性的技术，例如Sam Altman的“人类证明”眼部扫描设备。

匿名性与隐私的两难抉择

尽管Reddit强调不会收集用户的姓名或身份信息，但这一决定仍引发了隐私和安全方面的担忧。许多用户选择Reddit正是因为其匿名性，使他们能够分享敏感话题或个人经历。如果Reddit开始要求更多验证信息，可能会让部分用户感到不安。

批评人士指出，将个人信息分享给社交媒体平台存在数据隐私和安全风险。尤其是在某些州堕胎非法的背景下，当局可能传唤Reddit以获取例如在r/women版块询问堕胎经历的怀孕少女的身份信息。类似的情况已经在其他平台上发生过——Meta曾向内布拉斯加警方提供了涉及一名女子终止妊娠计划的私人对话，导致母女二人面临重罪指控。

Reddit显然意识到了这一风险。Huffman强调：“我们永远不想知道你的姓名或你的身份。”他表示，Reddit将继续“极力保护你的个人信息”，并“继续抵制来自公共或私人当局的过度或不合理要求”。