Discord 承认 AI 审核漏洞：8000 多名用户因电子表格等无害图片遭误封

Discord 近日公开承认，其自动化内容审核系统存在严重漏洞，导致在过去两个月内错误地永久封禁了超过 8,000 名用户。此次误封的触发原因并非违规内容，而是一些完全无害的图片，包括电子表格截图、棋盘图案、游戏纹理以及白色或灰色的透明背景图。

事件回顾：从网格图案到“立即封禁”

据 Discord 在 X（原 Twitter）上的官方说明，该问题自今年 5 月起开始影响用户账户，直到上周团队发现并修复漏洞时，仍有约 200 名新用户受到影响。目前，所有受影响的账户正在逐步恢复中。

技术成因分析：

Discord 的自动化安全系统通过将上传内容与已知有害材料数据库进行比对来工作。虽然该系统旨在高效识别非法内容（如儿童剥削材料），但一个逻辑漏洞导致某些特定视觉特征被过度敏感地标记。

• 网格图案敏感性：许多用户反馈，他们仅因上传包含方形网格的图片（如 Excel 表格、国际象棋棋盘）而被封。业界推测，这可能是因为攻击者曾利用网格图案试图干扰或伪装 NSFW 及非法内容，导致 AI 模型将“网格”本身视为高风险特征。
• 缺乏人工复核：正常情况下，AI 标记的内容会进入人工审核队列。然而，此次漏洞绕过了这一缓冲机制，导致系统对特定模式的内容执行了“立即封禁”，剥夺了用户申诉的机会。

用户反响

此次事件在社交媒体上引发了强烈不满。对于许多依赖 Discord 进行工作协作、游戏社区交流或维持远距离社交关系的用户来说，账号的突然丢失造成了实质性困扰。

• 透明度缺失：用户批评平台在封禁时未提供明确解释，且申诉流程漫长。
• 自动化审核的双刃剑：随着平台内容量的激增，依赖 AI 进行大规模审核已成为行业常态。然而，Discord 的案例再次凸显了自动化系统在语境理解上的局限性——它无法区分“用于隐藏非法内容的网格”与“正常的电子表格”。

行业背景：AI 审核的普遍困境

Discord 并非孤例。近年来，各大社交平台均面临类似的自动化审核挑战：

• Meta (Instagram/Facebook)：去年曾出现大规模不明原因的账户暂停，用户普遍归咎于 AI 误判，尽管 Meta 未公开确认具体原因，但其监督委员会正推动提高审核透明度。
• Tumblr：同样曾因账户在无明确解释下被大规模暂停而遭到用户投诉。