智识花园阅读、实践、留下笔记
行业AI 评分 60/100

OpenAI 公布 EU AI Act 下的文本溯源方案,推出 textGrain 文本水印

OpenAI:官网动态(RSS · 排除企业/客户案例)查看原始信源 ↗

AI guide

AI 导读

OpenAI 公布应对 EU AI Act 的文本水印方案,发布在模型词选择中加入不可见统计信号的 textGrain 技术,API 客户即日起可对部分模型选择性开启水印,未来数周将在欧盟地区为 ChatGPT 和 Codex 输出添加隐形水印,检测器暂只向获批的研究者和专家机构开放。

Story tracking

事件追踪

进行中 · 8 个信源 · 10 篇报道

OpenAI 公布应对欧盟《人工智能法案》的文本溯源方案,推出名为 textGrain 的文本水印技术,做法是在模型逐词选择过程中加入不可见的统计信号。全球 API 客户即日起可对部分模型选择性开启水印,但 API 中水印默认关闭;未来数周,OpenAI 将在欧盟地区为符合条件的 ChatGPT 和 Codex 文本输出添加隐形水印,覆盖所有套餐,且不设为全球默认。 检测水印的工具暂只向获批的研究者和专家机构开放,OpenAI 称这些机构可帮助其评估和改进该技术;据 IT之家报道,该工具只报告是否检测到 OpenAI 水印,不透露用户或对话内容。The Decoder 称,与 Anthropic 对 Claude 的全球强制水印不同,OpenAI 允许全球 API 客户关闭水印。 OpenAI 同时说明该水印不添加可见标记,不识别作者、组织、账号或对话来源,并称测试中未影响模型能力、速度或阅读体验;但 OpenAI 也承认文本水印存在明显局限:短文本中常难以检测,改写或翻译可完全去除水印。X 账号 Testing Catalog 称,OpenAI 官方测试显示 textGrain 效果追平或超过 SynthID 且质量无明显损失,并将开源;该账号同时表示这仍需实际测试验证。

最新进展:OpenAI 将在欧盟为 ChatGPT 文本添加隐形水印 textGrain

事件时间线

  1. TechCrunch:AI(RSS)

    OpenAI 将在欧盟为 ChatGPT 文本添加隐形水印 textGrain

    OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本添加隐形水印,以符合 8 月 2 日生效的 EU AI Act 透明度规则,水印将分阶段推送给欧盟所有套餐用户,全球开发者从即日起可在 API 中为部分模型开启,默认关闭。

    阅读原始报道 ↗
  2. X:Rohan Paul (@rohanpaul_ai)

    OpenAI 将在欧盟对 ChatGPT 和 Codex 文本加入隐形水印

    OpenAI 为遵守欧盟 AI 法案,将在未来数周对欧盟符合条件的 ChatGPT 和 Codex 文本加入隐形水印,API 客户现已可对部分模型开启。

    阅读原始报道 ↗
  3. The Verge:AI(RSS)

    OpenAI 在 ChatGPT 和 Codex 中推出 textGrain 文本水印,率先面向欧盟用户

    OpenAI 向欧盟的 ChatGPT 和 Codex 用户推出不可见、机器可读的 textGrain 文本水印,未来几周覆盖欧盟所有套餐的合格用户,发布时不设全球默认开启。

    阅读原始报道 ↗
  4. X:OpenAI (@OpenAI)

    OpenAI 说明文本水印局限,检测器暂仅向获批研究者开放

    OpenAI 表示文本水印存在局限,在短文本中常难以检测,改写或翻译可完全去除水印。因此其检测器暂只向获批研究者开放以帮助评估和改进,文本水印被视为持续研究领域,将结合用户、开发者、政策制定者和研究者的反馈继续测试。详见 https://openai.com/index/eu-text-provenance/

    阅读原始报道 ↗
  5. X:OpenAI (@OpenAI)

    OpenAI 说明文本水印的工作原理与能力边界

    OpenAI 说明其文本水印机制,在生成文本时嵌入不可见统计信号,检测器可据此判断文本是否可能由 OpenAI 模型生成。该水印不添加可见标记,不识别作者、组织、账号或对话来源。OpenAI 表示测试中水印未影响模型能力、速度或回复的阅读体验。

    阅读原始报道 ↗
  6. X:OpenAI (@OpenAI)

    OpenAI 为 ChatGPT 和 Codex 文本加水印以遵守 EU AI Act

    OpenAI 宣布将内容溯源方法扩展到文本,以响应欧盟监管要求,未来数周内开始对 ChatGPT 和 Codex 中符合条件的文本加水印,以遵守 EU AI Act。OpenAI 同时指出当前文本水印技术存在明显局限;API 客户可从今日起为部分模型在全球开启文本水印。

    阅读原始报道 ↗
  7. The Decoder:AI News(RSS)

    OpenAI 将在欧盟为 ChatGPT 文本添加 textGrain 隐形水印,API 用户全球可选关闭

    OpenAI 为遵守欧盟 AI Act,将在未来几周为欧盟的 ChatGPT 和 Codex 用户启用 textGrain 隐形文本水印,API 水印则全球范围为 opt-in,并可通过 Microsoft Azure 等云伙伴使用,与 Anthropic 对 Claude 的全球强制水印不同。

    阅读原始报道 ↗
  8. X:Testing Catalog (@testingcatalog)

    OpenAI 将在未来几周为欧盟地区 ChatGPT 和 Codex 文本启用水印

    OpenAI 因应欧盟 AI 法案推出文本水印:API 客户即日起可选启用部分模型的水印,欧盟地区 ChatGPT 和 Codex 文本将在未来几周加入不可见水印。其 textGrain 技术在词选择中嵌入统计信号,官方测试称效果追平或超过 SynthID 且质量无明显损失,并将开源;作者引用官方称在 Astra 模型基准上水印前后无明显性能差异,但表示需要实际测试验证。详情见 https://openai.com/index/eu-text-provenance/

    阅读原始报道 ↗
  9. IT之家(RSS)

    OpenAI 将在欧盟为 ChatGPT 和 Codex 文本输出添加隐形水印

    OpenAI 宣布未来几周将在欧盟符合条件的 ChatGPT 和 Codex 文本输出中加入名为 textGrain 的隐形水印,以配合《欧盟人工智能法案》的内容透明要求,发布时不设全球默认。全球 API 客户即日起可选择为部分模型启用水印,获批的研究人员和专家组织可申请探测器访问,该工具只报告是否检测到 OpenAI 水印,不透露用户或对话内容。

    阅读原始报道 ↗
  10. OpenAI:官网动态(RSS · 排除企业/客户案例) 一手信源

    OpenAI 公布 EU AI Act 下的文本溯源方案,推出 textGrain 文本水印

    OpenAI 公布应对 EU AI Act 的文本水印方案,发布在模型词选择中加入不可见统计信号的 textGrain 技术,API 客户即日起可对部分模型选择性开启水印,未来数周将在欧盟地区为 ChatGPT 和 Codex 输出添加隐形水印,检测器暂只向获批的研究者和专家机构开放。

    阅读原始报道 ↗
数据来源:AIHOT aihot.news ↗ · 内容版权归原作者所有