OpenAI推出AI文本水印技术,北大数院校友参与研发

AI新闻阅读 0
OpenAI推出AI文本水印技术,北大数院校友参与研发

OpenAI近日推出AI文本水印技术textGrain,通过数学优化方法实现AI生成内容的可追溯性。该技术可检测AI生成内容,检测率高达90%,同时保持模型性能基本不变。

textGrain技术采用最优传输理论,将1781年提出的搬土问题转化为数学模型。通过概率分配和熵约束优化,确保水印不影响模型输出的随机性。检测时仅需原文和密钥即可验证。

技术团队由北大数院校友苏炜杰领衔,联合宾大、耶鲁等高校学者共同研发。苏炜杰为北大数院2007级校友,现为OpenAI研究员,同时担任宾大沃顿商学院教授。

该技术已实现全球API客户即时启用,ChatGPT和Codex将在数周内接入。检测器暂不向公众开放,仅限审核通过的研究者和专业机构使用。textGrain代码将开源。

实验数据显示,GPT-6 Astra模型加水印后,8项核心测试中5项性能提升,最大降幅仅1.12个点。用户生成内容的'点踩率'未受影响,保持自然表达。

技术原理基于概率分配和熵约束优化,通过分组概率分配和Sinkhorn算法实现随机性预算控制。检测时仅需验证选词是否符合密钥指定的偏好分布。

该技术标志着AI写作进入'实名制'时代,谷歌、Anthropic、OpenAI三大厂商均已完成AI生成内容的可追溯性技术部署。

OpenAI推出AI文本水印技术,北大数院校友参与研发 - SmartAITool Blog