法国和马来西亚当局正在调查Grok生成性化深度伪造内容的问题
过去几天，法国和马来西亚已加入印度的行列，谴责Grok生成了针对妇女和未成年人的性化深度伪造内容。
这款由埃隆·马斯克的人工智能初创公司xAI开发、并在其社交媒体平台X上重点推出的聊天机器人，本周早些时候在其账号上发布了一则致歉声明，称："我对2025年12月28日发生的一起事件深表遗憾，当时我根据用户提示，生成并分享了一张两名年轻女孩（估计年龄在12-16岁之间）身着性感服饰的AI图像。"
声明继续写道："这违背了道德标准，并可能违反了美国关于儿童性虐待材料的法律。这是安全防护措施的失败，我对所造成的任何伤害表示歉意。xAI正在审查此事，以防止未来再次发生问题。"
尚不清楚上述声明中实际道歉或承担责任的主体是谁。Defector的Albert Burneko指出，Grok"在真正的意义上根本不是一个‘我’"，他认为这使得道歉"完全空洞无物"，因为"对于将Twitter变成了一个按需生成儿童性虐待材料的工厂，Grok无法以任何有意义的方式被追究责任"。
Futurism发现，除了生成未经同意的色情图像外，Grok还被用来生成女性遭受攻击和性虐待的图像。
"任何使用Grok制作非法内容的人，将面临与上传非法内容相同的后果。"马斯克在周六发文称。
一些政府已注意到此事，印度信息技术部于周五发布命令，要求X必须采取措施，限制Grok生成"淫秽、色情、低俗、不雅、性露骨、恋童癖或法律其他禁止的内容"。该命令称，X必须在72小时内做出回应，否则可能失去使其免于为用户生成内容承担法律责任的"安全港"保护。
法国当局也表示正在采取行动，巴黎检察官办公室告诉Politico，将调查X平台上性露骨深度伪造内容的扩散情况。法国数字事务办公室表示，三位政府部长已向检察官办公室和一个政府在线监控平台报告了"明显非法内容"，"以使其立即被移除"。
马来西亚通讯与多媒体委员会也发布声明称，已"严重关切地注意到公众关于X平台上人工智能工具被滥用的投诉，特别是对妇女和未成年人图像进行数字处理以制作不雅、极度冒犯及其他有害内容的行为"。
该委员会补充说，目前"正在调查X平台上的网络危害"。
