AB Kuai Dong
AB Kuai Dong
热爱研究、热爱家庭、热爱分享，2016 年入行从业，现居东京。
0关注中
1,536粉丝
动态
动态
继 Claude 后，ChatGPT 的隐藏水印也来了。
简单来说，水印就是 AI 会按一套只有自己知道的规则，稍微偏向某一类词和格式，给你生成文案，确保之后检测器，能检测出来这是 AI 生成出的内容。
不过有趣的是，它家的公告简直是教你去水印教科书。
例如对话生成出来的文字越短，越难被检测出来。花费 200 个 Token 大约 150 个英文单词，对应中文大约两三百字，也就是一小段话的长度，检测器大约有 80% 的概率能认出水印。
而如果生成的文案，比这个更短，则检测概率会直线下降。
另外 OpenAI 也说，如果生成出来的文案，用户自己手动去改写，就能大幅削弱检测器，检出 AI 文案的可能性。
它们尝试换掉 10% 的词，检出率从 92% 降到 66%，而换掉 25%，则只剩 17%。
不过好消息是，目前只有欧盟地区的 ChatGPT 和 Codex 用户，生成出来的文字，会被悄悄打水印，但这个水印很容易被洗掉，所以 OpenAI 暂时不把检测器公开给所有人。
OpenAI
We're expanding our approach to content provenance to include text in response to EU regulatory requirements, while recognizing the significant limitations of current text watermarking technology.
Our tools already help verify whether an image or audio file was created with our models. This work builds on those efforts to help people better understand when content may have been generated or edited with an OpenAI model.
In the EU, we’ll start watermarking eligible text from ChatGPT and Codex over the coming weeks to comply with the EU AI Act.
Customers using our API can turn on text watermarking for select models worldwide today.
