创建ChatGPT的公司OpenAI开发了一种“分类器”工具，可以识别AI编写的内容，但警告说不应该依赖它。

ChatGPT对各种问题做出回答的能力让老师们担心学生可能会将人工智能生成的论文和作业当作自己的。

OpenAI的这个新分类器有可能通过自动识别AI生成的论文和任务来彻底改变教育部门。限制其使用的可能替代解决方案，就像纽约市学校最近所做的那样。ChatGPT已被澳大利亚教育机构禁止。

因为它的版主被有时正确的回复淹没了ChatGPT问题，开发者问答网站Stack Overflow禁止了他们。分类器可能有助于像Stack Overflow这样的组织。

OpenAI声称很难正确识别AI生成的所有文本，并且分类器具有各种限制，降低了其实用性。

分类器的真正阳性率为 26%(它将 AI 编写的文本正确分类为“可能是 AI 编写”的次数百分比)。在 9% 的情况下，它会错误地将人工创作的内容检测为由 AI 生成。从本质上讲，无论哪种方式，它都有相当大的概率错误标记文本，并且很有可能丢失由未显示它是由AI创建的人类提供的内容。然而，该报告称，分类器“对来自更现代人工智能系统的文本更准确”，而不是以前使用的基于 GPT-2 的检测器。

OpenAI在一份新闻稿中表示，它预计该工具将“开始讨论AI素养”，并且它正在公开分类器，以便获得有关像这样的有缺陷的工具是否有益的意见。

在这里，您可以访问免费的在线分类工具。用户只需将复制的内容粘贴到文本字段中，然后单击“提交”即可使用它。它将确定文本是否“极不可能”、“不太可能”、“不清楚它是否”、“可能”或“可能”是由人工智能创建的。

分类器所需的最小输入长度为 1，000 个字符(约 150-250 个句子)。OpenAI警告说，改变AI生成的文本来欺骗检测系统很简单。此外，该工具主要针对成年人制作的英语材料进行培训，使其更容易错误地标记年轻人和非英语语言撰写的文学作品。

当被问及分类器识别与人类作家一起创建的文本的能力时，OpenAI承认它“没有正确检查分类器的性能”。

说明警告说，该软件“不应用作主要决策工具”，而是作为追踪给定文本起源的其他技术的补充。