ChatGPT 背后的人工智能研究公司 OpenAI 发布了一种新工具——人工智能文本分类器——以帮助区分人工智能生成的文本和人类生成的文本。该工具旨在帮助减少关于人类编写由人工智能 (AI) 生成的内容的虚假声明。根据 OpenAI 的 公告，它可以限制自动运行的能力错误信息活动，使用 AI 工具进行学术欺诈，并使用聊天机器人冒充人类。虽然它无法以 100% 的准确率检测 AI 书写的文本，但在对一组英文文本进行测试时，该工具可以在 26% 的情况下正确判断文本是否由 AI 编写。然而，它也有 9% 的时间错误地认为人类书写的文本是由 AI 编写的。 OpenAI 承认其工具在处理较长的文本时效果更好；因此，运行测试需要至少 1,000 个字符。
OpenAI 的新 AI 文本分类器是一个强大的工具，但它也有一些局限性。例如，它可能会错误地标记 AI 生成的文本和人类编写的文本，而微小的编辑可以帮助 AI 生成的文本逃避分类器。此外，它主要针对成人编写的英语内容进行训练，对于儿童或非英语语言编写的文本可能不那么可靠。
要亲自测试 OpenAI AI 文本分类器，请登录 platform.openai.com/ai-text-classifier ，粘贴您要评估的文本，然后点击提交。该工具将评估文本由 AI 生成的可能性有多大，范围从非常不可能到可能或可能不清楚——所有这些都在几秒钟内完成！为了说明这一点，我测试了 ChatGPT 生成一篇关于 SEO 的文章并将其逐字提交给分类器的能力；它认为这篇文章可能是由 AI 生成的。 OpenAI 开发了一种名为 AI 文本分类器的工具，旨在区分人类编写的文本和 AI 生成的文本。 2023 年 1 月的结果 (https://platform.openai.com/ai-text-classifier){rel="nofollow"} 说明了该工具的局限性，因为它不能高度肯定地说 ChatGPT 生成了文本是人工智能写的。然而，通过应用 Grammarly 建议的微小编辑，我将评级从 可能 降低到 不清楚。 OpenAI 正确地指出很容易避开分类器，但它并不是决定文档是否由 AI 生成的唯一证据 (https://platform.openai.com/faq#what_is_the_intended_use_of_the_tool){rel= “nofollow”}。 OpenAI 补充说，该工具尚未经过彻底测试以检测包含人工智能和人工文本组合的内容，因此他们建议在确定文档是由人工智能还是人类编写时依赖其他来源。
AI 文本分类器是识别潜在 AI 生成文本的强大工具。然而，重要的是要注意分类器不应该被用作做出判决的决定性措施。相反，它可以提供有用的见解，了解人工智能程序可能产生了多少文本。