OpenAI落地欧盟AI法案要求:隐形文本水印上线,仅欧盟ChatGPT/Codex输出默认添加

3周前 小马良
43 0

OpenAI官宣,为满足《欧盟人工智能法案》的内容透明相关合规要求,将在未来几周,面向欧盟地区符合条件的ChatGPT、Codex文本输出,嵌入机器可识别的隐形文本水印,这项水印技术命名为textGrain(文本粒水印)。

textGrain水印的实现思路比较特殊:在大模型选词生成文本的过程中,嵌入肉眼不可见的统计信号。肉眼阅读看不出任何差异,但专用检测器能够识别这个隐藏信号,用来判定文本是否由OpenAI模型生成。

该水印不会在发布阶段设置为全球默认开启,仅欧盟地区相关产品会部署。

API客户权限

全球所有API开发者从即日起,可自主选择加入水印功能,自行判断是否开启,以此匹配自身合规需求、兼顾终端用户体验。OpenAI也在和云服务商协作,后续为云渠道调用的模型输出增加水印支持。

检测器开放规则

研究人员与专业机构可申请水印检测器访问权限,审核采用逐案审批模式。

检测器仅返回「是否检出OpenAI水印」的判定结果,不会泄露用户身份、提示词、对话原文,用于学术层面的文本溯源评估与技术优化。