据《华尔街日报》报道，OpenAI 已经拥有一个为 ChatGPT 创建的文本加水印的系统和一个检测水印的工具，准备时间大约一年。但公司内部对于是否发布它存在分歧。一方面，这似乎是负责任的事情；另一方面，另一方面，这可能会损害其利润。
OpenAI 的水印被描述为调整模型如何预测最有可能出现在先前单词和短语之后的单词和短语，从而创建可检测的模式。 （这是一个简化，但您可以查看 Google 对 Gemini 文本水印的更深入解释以了解更多信息）。
对于试图阻止学生将写作作业交给人工智能的教师来说，提供任何检测人工智能撰写材料的方法都是一个潜在的福音。 《华尔街日报》报道称，该公司发现水印不会影响其聊天机器人文本输出的质量。 《华尔街日报》写道，在该公司委托进行的一项调查中，“世界各地的人们以四比一的比例支持人工智能检测工具的想法”。
在《华尔街日报》发表其报道后，OpenAI 在TechCrunch发现的一篇博文更新中证实其正在研究文本水印。该公司在其中表示，其方法非常准确（根据《华尔街日报》看到的文件，“有效率为 99.9%”）并且能够抵抗“篡改，例如释义”。但它表示，像用另一个模型改写这样的技术使得“不良行为者的规避变得微不足道”。该公司还表示，它担心人工智能工具对非母语人士的有用性。
但 OpenAI 似乎也担心使用水印可能会关闭接受调查的 ChatGPT 用户，其中近 30% 的用户显然告诉该公司，如果实施水印，他们会减少使用该软件。
尽管如此，据报道，一些员工仍然认为水印是有效的。不过，鉴于用户情绪高涨， 《华尔街日报》表示，一些人建议尝试“可能在用户中争议较小但未经证实”的方法。该公司在今天更新的博客文章中表示，它正处于探索嵌入元数据的“早期阶段”。它表示，现在知道它的效果还“为时过早”，但由于它是经过加密签名的，因此不会出现误报。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除。