最近，OpenAI在水印技术上搞了个大新闻。传言已经有一年了，他们手头上有一套能对ChatGPT生成的文本进行水印标记的系统，连检测水印的工具都准备好了。但至今，这项技术还没正式推出，因为公司内部意见不一。
简单来说，这种水印技术通过调整模型预测下一词的方式，来生成一种可以被检测到的模式。说白了，就是在生成的文本中藏一些小秘密，检测系统可以从这些秘密中识别出文本是否由AI生成。不过，这种技术并不复杂，你可以看看Google对其Gemini模型的水印技术的详细解释，理解起来会更透彻。
这项技术看起来对老师们特别有帮助。毕竟，水印能帮助识别那些学生用AI写的作业，防止作弊。OpenAI也发现，水印并没有影响其聊天机器人的文本质量。根据调查，全球大约四分之一的人支持使用AI检测工具。也就是说，大多数人还是希望能有一个有效的方式来辨别AI生成的内容。
不过，OpenAI在这方面的担忧也是实打实的。他们在一篇博客更新中确认了水印的准确性达到了99.9%，而且抗篡改能力强，甚至能抵挡得住“换个说法”的伪装。但是，问题在于有些人通过其他模型重新表述文本，这样水印就可能被绕过了。更让人担心的是，这可能会导致AI工具被污名化，尤其是对非母语用户来说，可能会觉得这些工具不够友好。
另一方面，OpenAI也担心水印会让一部分用户感到不满，调查显示，约30%的用户表示如果加上水印，他们可能会减少使用这款软件。为了迎合这些用户，一些员工提出了更具争议但尚未验证的替代方法。最新的博客更新里，OpenAI提到他们正在探索嵌入元数据的方案，这种方案会进行加密签名，以防止假阳性。
好像发过了 
openai哀其不争啊
1 个赞
我怎么觉得我看过这个帖子了
截屏在OCR一遍水印不就没了
这个方案不是赛博藏头诗么
正是
From #develop:ai to 资源荟萃
1 个赞