YouTube 将 AI 深度伪造检测扩展到政治家、政府官员和记者

YouTube 周二宣布，将其用于识别 AI 生成的深度伪造内容的肖像检测技术，扩展到由政府官员、政治候选人和记者组成的试点小组。该试点小组的成员将获得一个工具，用于检测未经授权的 AI 生成内容，并可在认为其违反 YouTube 政策时请求删除。

该技术本身于去年在早期测试后，向 YouTube 合作伙伴计划中约 400 万创作者推出。

与 YouTube 现有的用于检测用户上传视频中受版权保护材料的内容 ID 系统类似，肖像检测功能会查找使用 AI 工具制作的模拟面孔。这些工具有时被用来试图传播错误信息并操纵人们对现实的看法，因为它们利用知名人物的深度伪造形象，让这些人物在这些 AI 视频中做出现实生活中未曾有过的言行。

通过新的试点计划，YouTube 旨在平衡用户的自由表达与 AI 技术可能带来的风险，该技术可以生成令人信服的公众人物形象。

"这次扩展确实关乎公共对话的完整性，"YouTube 政府事务和公共政策副总裁 Leslie Miller 在周二发布前的新闻发布会上表示。"我们知道，对于公民领域的人来说，AI 冒名顶替的风险特别高。但是，在提供这种新保护的同时，我们也在谨慎地使用它，"她指出。

Miller 解释说，并非所有检测到的匹配内容都会在请求时被删除。相反，YouTube 将根据其现有的隐私政策指南评估每个请求，以确定内容是否属于受保护的表达形式，如模仿或政治批评。

该公司指出，它也在联邦层面倡导这些保护措施，包括在华盛顿支持《禁止伪造法案》，该法案旨在监管使用 AI 未经授权复制个人声音和视觉肖像的行为。

要使用新工具，符合条件的试点测试者必须首先上传自拍照和政府颁发的身份证件以证明其身份。然后，他们可以创建一个个人资料，查看出现的匹配内容，并选择请求删除。YouTube 表示，计划最终让人们能够在侵权内容上线前阻止其上传，或者可能允许他们像内容 ID 系统那样通过这些视频获利。

该公司不愿证实哪些政治家或官员将成为其初始测试者，但表示目标是随着时间的推移使该技术广泛可用。

这些 AI 视频将被贴上标签，但这些标签的位置并不一致。对于某些视频，标签出现在视频描述中，而针对更"敏感话题"的视频，则会在视频播放前显示标签。这是 YouTube 对所有 AI 生成内容采取的相同方法。

"有很多内容是用 AI 制作的，但这种区别实际上对内容本身并不重要，"YouTube 创作者产品副总裁 Amjad Hanif 在解释标签位置时说道。"它可能是一幅用 AI 生成的卡通画。所以我认为，对于是否属于一个可能值得在显眼位置显示免责声明的类别，需要做出判断，"他说。

YouTube 目前没有透露通过创作者手中的深度伪造检测技术处理了多少此类 AI 深度伪造内容的移除请求，但指出迄今为止移除的内容数量"非常少"。

"我认为对很多创作者来说，这只是让他们意识到正在生成什么内容，但实际上提出移除请求的数量非常非常低，因为大部分内容被证明是无害的，或者对他们整体业务是有益的，"Hanif 说。

对于政府官员、政治家或记者的深度伪造内容，情况可能并非如此。

未来，YouTube 打算将其深度伪造检测技术扩展到更多领域，包括可识别的声音以及其他知识产权，如受欢迎的角色。