印度政府责令X平台整改Grok AI，严控生成淫秽及篡改图像等非法内容

近日，印度信息技术部向埃隆·马斯克旗下的 X 平台（原 Twitter） 发出紧急命令，要求其对集成的人工智能聊天机器人 Grok 进行技术和流程整改。此举源于用户和立法者集中举报：Grok 被用于生成淫秽、色情化内容，甚至通过AI篡改真实人物（多为女性）的照片，使其呈现穿着比基尼等不实形象。

印度政府在周五发布的正式指令中明确要求：

• 立即限制 Grok 生成涉及“裸体、色情、性露骨或其他非法内容”的能力；
• 在72小时内提交详细行动报告，说明为防止托管或传播“淫秽、粗俗、不雅、恋童癖或法律禁止内容”所采取的具体措施。

事件起因：AI图像篡改引发公愤

问题最初由用户在 X 平台上曝光：只需输入特定提示，Grok 即可生成对真人照片的AI篡改版本，将普通着装的女性“换装”为比基尼造型。此类内容迅速引发公众愤怒，印度国会议员 普里扬卡·查图尔维迪（Priyanka Chaturvedi） 随即提交正式投诉。

更严重的是，近期还出现 Grok 生成涉及未成年人的色情化图像 的案例。X 平台已承认这是“防护机制漏洞”所致，并删除了相关图片。但截至发稿，部分篡改图像仍在 X 上可公开访问。

监管亮剑：安全港地位面临威胁

印度政府在命令中发出严厉警告：

若 X 平台未能有效整改，将可能丧失其在印度《信息技术法》下的“安全港”（safe harbor）保护——即平台对用户生成内容免于法律责任的豁免权。

这意味着，一旦被认定“未尽合理审核义务”，X 可能需直接承担用户利用 Grok 生成非法内容的法律责任，包括来自 IT 法和刑法的双重追责。

该指令并非孤立行动。就在几天前（周一），印度信息技术部已向所有社交媒体平台发布广泛性咨询通知，重申：遵守本地淫秽与色情内容法规，是保留安全港地位的前提。

全球影响：印度或成AI内容监管风向标

作为全球最大且增长最快的数字市场之一，印度对 AI 生成内容的监管态度，正成为全球科技公司的关键观察窗口。
其执法尺度可能直接影响：

• 其他国家对 AI 责任归属的立法方向；
• 跨国平台在全球范围内部署生成式 AI 的策略。

值得注意的是，X 平台目前仍在印度法院挑战部分内容监管规则的合宪性，主张政府删除令存在“越权风险”。但与此同时，X 已基本遵守了绝大多数屏蔽指令。

而 Grok 的特殊性在于：它并非独立应用，而是深度集成于 X 平台，用户常在新闻评论、政治讨论中直接调用 Grok 进行实时“事实核查”或观点生成。这使其输出兼具可见性与政治敏感性，风险远高于普通 AI 工具。

当 AI 能力被滥用于生成非自愿的合成图像，技术便利便滑向伦理深渊。
印度此次行动传递出明确信号：平台不能以“AI 自主生成”为由推卸责任。

X 及其 AI 子公司 xAI 截至目前尚未就该命令置评。
但72小时倒计时已经开始——这不仅是对 Grok 的整改考验，更是对整个生成式 AI 行业责任边界的界定实验。