【发生了什么】OpenAI 宣布未来几周在欧盟地区为符合条件的 ChatGPT 和 Codex 文本输出加入名为 textGrain 的隐形水印,通过模型选词时嵌入不可见统计信号,检测器可据此判断文本是否由 OpenAI 模型生成。
【为什么值得关注】该功能配合《欧盟人工智能法案》内容透明要求,但 OpenAI 不在发布时设为全球默认,仅对欧盟用户强制启用;API 客户从今天起可全球选择加入,云合作伙伴渠道将在未来几周跟进,研究人员和专家组织可申请探测器访问,检测结果不透露用户身份、提示或对话内容。
【对我们的意义】若团队通过 API 调用 OpenAI 模型向欧盟用户交付内容,需尽快确认所选模型是否支持水印选项,并评估水印对下游检测工具、内容审核流程和客户交付物溯源的影响;使用云合作伙伴渠道的团队应主动询问对方水印上线时间,避免合规窗口期出现输出不可追溯的情况。
──
💡 对你的工作:模型/框架动态直接关联技术选型,先看懂再决定跟不跟。
【原文】
查看原文 →