Meta推出全新AI工具，识别导流儿童性虐待材料的伪装广告，上线红队AI代理自测安全防线
Meta于周三公布平台儿童安全治理数据，2026上半年在Facebook与Instagram合计处理3320万条儿童性剥削相关内容，并同步上线多款全新AI安全工具，专门识别看似无害、实际用于向外导流非法儿童虐待素材的广告与账号。Meta持续面临全球针对平台儿童安全的监管与诉讼压力，本次更新是一整套AI检测、内部安全自测、违规账号追溯的组合方案。
内容治理数据
在处置的全部违规内容里，超过97%由平台系统主动识别，早于用户人工举报；其中印度区域处置530万条同类内容，主动检出率更高，达到98%。
核心新AI检测能力
新增大语言模型系统，专门识别不良分子所用的“路标广告”。这类广告表面内容合规无害，本身不包含违法素材，但是作为引流入口，引导用户跳转至平台外部的非法网站，传播儿童性虐待材料，是违规方为规避审查演化出的新手段。
这套新机制的核心变化：不再仅审核广告本身图文，同时追踪广告跳转的目标地址，以此封禁违规站点与背后关联账号。配套额外AI扫描，挖掘旧系统容易漏掉的儿童剥削内容，并持续扩充识别信号库。
安全自测与账号追踪工具
推出红队AI代理，用来主动测试Meta自身的安全防护体系，主动挖掘可以绕过平台风控的漏洞，在新型滥用手段大范围扩散之前提前封堵。
同时升级识别机制，打击违规用户在账号被封禁之后，注册新账号重返平台的行为。
背景与其他配套儿童安全举措
Meta长期因平台青少年安全问题遭受诉讼、立法批评。今年8月，Meta达成和解，最高支付180亿美元，了结美国29个州发起的儿童安全相关诉讼。
今年Meta陆续上线多项青少年保护功能：Meta AI家长管控、WhatsApp青少年账户；Instagram检索自残相关内容时向家长推送告警。9月WhatsApp进一步扩容家长权限，家长可以限制青少年使用频道功能、设置状态可见范围、管控群组加入权限，还能接收特定群组活动通知。
要点小结
- 治理数据：2026上半年Meta处理3320万条儿童性剥削内容，97%为系统主动检出；印度区域处置530万条，主动检出率98%。
- 路标广告检测：新LLM系统识别伪装广告，不再只看广告内容，追踪跳转链接，拦截向外导流儿童虐待材料的渠道。
- 安全测试：引入红队AI代理，主动挖掘平台安全漏洞，提前预判新型攻击方式；升级识别封禁后重建账号的违规用户。
- 配套功能：年内陆续上线Meta AI家长管控、Instagram自残搜索告警，WhatsApp青少年账号与群组、状态权限管控。
- 行业背景：Meta面临多国儿童安全诉讼，8月达成最高180亿美元的多州诉讼和解。
