OpenAI 公布 EU AI Act 下的文本溯源方案,推出 textGrain 文本水印
AI guide
AI 导读
OpenAI 公布应对 EU AI Act 的文本水印方案,发布在模型词选择中加入不可见统计信号的 textGrain 技术,API 客户即日起可对部分模型选择性开启水印,未来数周将在欧盟地区为 ChatGPT 和 Codex 输出添加隐形水印,检测器暂只向获批的研究者和专家机构开放。
Story tracking
事件追踪
OpenAI 公布应对欧盟《人工智能法案》的文本溯源方案,推出名为 textGrain 的文本水印技术,做法是在模型逐词选择过程中加入不可见的统计信号。全球 API 客户即日起可对部分模型选择性开启水印,但 API 中水印默认关闭;未来数周,OpenAI 将在欧盟地区为符合条件的 ChatGPT 和 Codex 文本输出添加隐形水印,覆盖所有套餐,且不设为全球默认。 检测水印的工具暂只向获批的研究者和专家机构开放,OpenAI 称这些机构可帮助其评估和改进该技术;据 IT之家报道,该工具只报告是否检测到 OpenAI 水印,不透露用户或对话内容。The Decoder 称,与 Anthropic 对 Claude 的全球强制水印不同,OpenAI 允许全球 API 客户关闭水印。 OpenAI 同时说明该水印不添加可见标记,不识别作者、组织、账号或对话来源,并称测试中未影响模型能力、速度或阅读体验;但 OpenAI 也承认文本水印存在明显局限:短文本中常难以检测,改写或翻译可完全去除水印。X 账号 Testing Catalog 称,OpenAI 官方测试显示 textGrain 效果追平或超过 SynthID 且质量无明显损失,并将开源;该账号同时表示这仍需实际测试验证。
最新进展:OpenAI 将在欧盟为 ChatGPT 文本添加隐形水印 textGrain
事件时间线
TechCrunch:AI(RSS)
OpenAI 将在欧盟为 ChatGPT 文本添加隐形水印 textGrain
OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本添加隐形水印,以符合 8 月 2 日生效的 EU AI Act 透明度规则,水印将分阶段推送给欧盟所有套餐用户,全球开发者从即日起可在 API 中为部分模型开启,默认关闭。
阅读原始报道 ↗X:Rohan Paul (@rohanpaul_ai)
OpenAI 将在欧盟对 ChatGPT 和 Codex 文本加入隐形水印
OpenAI 为遵守欧盟 AI 法案,将在未来数周对欧盟符合条件的 ChatGPT 和 Codex 文本加入隐形水印,API 客户现已可对部分模型开启。
阅读原始报道 ↗The Verge:AI(RSS)
OpenAI 在 ChatGPT 和 Codex 中推出 textGrain 文本水印,率先面向欧盟用户
OpenAI 向欧盟的 ChatGPT 和 Codex 用户推出不可见、机器可读的 textGrain 文本水印,未来几周覆盖欧盟所有套餐的合格用户,发布时不设全球默认开启。
阅读原始报道 ↗X:OpenAI (@OpenAI)
OpenAI 说明文本水印局限,检测器暂仅向获批研究者开放
OpenAI 表示文本水印存在局限,在短文本中常难以检测,改写或翻译可完全去除水印。因此其检测器暂只向获批研究者开放以帮助评估和改进,文本水印被视为持续研究领域,将结合用户、开发者、政策制定者和研究者的反馈继续测试。详见 https://openai.com/index/eu-text-provenance/
阅读原始报道 ↗X:OpenAI (@OpenAI)
OpenAI 说明文本水印的工作原理与能力边界
OpenAI 说明其文本水印机制,在生成文本时嵌入不可见统计信号,检测器可据此判断文本是否可能由 OpenAI 模型生成。该水印不添加可见标记,不识别作者、组织、账号或对话来源。OpenAI 表示测试中水印未影响模型能力、速度或回复的阅读体验。
阅读原始报道 ↗X:OpenAI (@OpenAI)
OpenAI 为 ChatGPT 和 Codex 文本加水印以遵守 EU AI Act
OpenAI 宣布将内容溯源方法扩展到文本,以响应欧盟监管要求,未来数周内开始对 ChatGPT 和 Codex 中符合条件的文本加水印,以遵守 EU AI Act。OpenAI 同时指出当前文本水印技术存在明显局限;API 客户可从今日起为部分模型在全球开启文本水印。
阅读原始报道 ↗The Decoder:AI News(RSS)
OpenAI 将在欧盟为 ChatGPT 文本添加 textGrain 隐形水印,API 用户全球可选关闭
OpenAI 为遵守欧盟 AI Act,将在未来几周为欧盟的 ChatGPT 和 Codex 用户启用 textGrain 隐形文本水印,API 水印则全球范围为 opt-in,并可通过 Microsoft Azure 等云伙伴使用,与 Anthropic 对 Claude 的全球强制水印不同。
阅读原始报道 ↗X:Testing Catalog (@testingcatalog)
OpenAI 将在未来几周为欧盟地区 ChatGPT 和 Codex 文本启用水印
OpenAI 因应欧盟 AI 法案推出文本水印:API 客户即日起可选启用部分模型的水印,欧盟地区 ChatGPT 和 Codex 文本将在未来几周加入不可见水印。其 textGrain 技术在词选择中嵌入统计信号,官方测试称效果追平或超过 SynthID 且质量无明显损失,并将开源;作者引用官方称在 Astra 模型基准上水印前后无明显性能差异,但表示需要实际测试验证。详情见 https://openai.com/index/eu-text-provenance/
阅读原始报道 ↗IT之家(RSS)
OpenAI 将在欧盟为 ChatGPT 和 Codex 文本输出添加隐形水印
OpenAI 宣布未来几周将在欧盟符合条件的 ChatGPT 和 Codex 文本输出中加入名为 textGrain 的隐形水印,以配合《欧盟人工智能法案》的内容透明要求,发布时不设全球默认。全球 API 客户即日起可选择为部分模型启用水印,获批的研究人员和专家组织可申请探测器访问,该工具只报告是否检测到 OpenAI 水印,不透露用户或对话内容。
阅读原始报道 ↗OpenAI:官网动态(RSS · 排除企业/客户案例) 一手信源
OpenAI 公布 EU AI Act 下的文本溯源方案,推出 textGrain 文本水印
OpenAI 公布应对 EU AI Act 的文本水印方案,发布在模型词选择中加入不可见统计信号的 textGrain 技术,API 客户即日起可对部分模型选择性开启水印,未来数周将在欧盟地区为 ChatGPT 和 Codex 输出添加隐形水印,检测器暂只向获批的研究者和专家机构开放。
阅读原始报道 ↗