OpenAI 周二宣布了一款名为 AI Text Classifier 的新工具,旨在区分 AI 生成的文本和人类编写的文字。
该品牌的最新工具是在其 ChatGPT 文本生成器受到批评后推出的。虽然自 2022 年 11 月发布以来一直很受欢迎,但该聊天机器人一直卷入剽窃问题,该工具已被学校禁止使用。然而,也有报道称学生使用 ChatGPT 为带回家的作业创作论文。
![](https://www.eiefun.com/images/2023/2/2/1875/0.jpg)
提供 AI 文本分类器是 OpenAI 为保持其品牌诚实所做的努力。OpenAI 在一篇博客文章中表示,它希望得到家长和老师对其剽窃检测工具质量的反馈。然而,它确实注意到分类器目前有一些局限性,包括对少于 1,000 个单词的文本效果不佳,对英语以外的语言效果不佳,如果编辑 AI 文本很容易被欺骗,以及产生误报,其中该工具错误地将人类编写的文本识别为 AI 等。
有关的
OpenAI 补充说,分类器将 AI 文本正确识别为可能由 AI 编写(真阳性)的概率约为 26%,将人类文本错误识别为 AI 书写的概率为 9%(误报)。
![](https://www.eiefun.com/images/2023/2/2/1875/0.jpg)
在测试 AI 文本分类器时,我将 ChatGPT 提示“写一篇关于天空中星星数量的 1000 字文章”与我的文章“ChatGPT 目前面临的 6 个最大问题”中的文本进行了比较。
如果您已经拥有 OpenAI 帐户并且服务器不拥挤,则登录分类器很容易。您只需将文本粘贴到文本框中并选择提交。结果将显示在下方。该工具准确地将我文章中的文本识别为人工编写的,将 ChatGPT 编写的文本识别为人工智能编写的。
已经有许多其他的剽窃检测工具可用,它们的准确度各不相同。GPT-2 Output Detector 是 OpenAI 开发的另一个工具。其他包括 Writer AI、Content at Scale、GPTZero 和 Giant Language Model Test Room (GLTR)。我们测试了这些工具,同样发现 ChatGPT 文本和人类文本的识别之间存在不同程度的准确性。
目前尚不清楚 AI 文本分类器未来将如何实施,但 ChatGPT 已经在新闻、商业和技术等多个行业巩固了自己的地位。有了所有适当的工具,这很可能只是一个道德问题。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除。