The Decoder· Matthias Bastian·· 4 小时前AI 评分68
OpenAI 为 ChatGPT 文本添加 invisible watermark 但 API 用户可关闭
OpenAI will watermark ChatGPT text in the EU but makes it optional for API users worldwide
AI 摘要
OpenAI 宣布将在欧盟地区强制启用针对 ChatGPT 和 Codex 的 textGrain 隐形水印以符合 EU AI Act 要求,而全球范围内的 API 用户则可选择是否开启该功能。这一策略与 Anthropic 对 Claude 实施全球强制水印的做法形成对比,OpenAI 允许客户通过云合作伙伴如 Microsoft Azure 访问该选项。
textGrain 技术在内部测试中表现优于 Google 的 SynthID,但其检测效果高度依赖文本长度和内容类型。对于心理学类内容,400 token 时检测率约为 94%,但在数学类内容中仅约 60%;若替换 25% 的词汇,检测率将降至 17% 以下。此外,OpenAI 未提供数据证明长文本能显著增强信号强度,且明确说明水印无法识别用户身份或验证内容准确性。
事实层面,OpenAI 已限制 detector 访问权限,仅向特定研究人员开放申请;推断层面,这种弱检测机制可能促使部分用户转向开源模型以规避标记;猜测层面,未来何时扩大访问范围仍取决于公司对“负责任解读”的判断标准。
来源:The Decoder · the-decoder.com