导读 前两天,我们刚报道了斯坦福大学研究出了一个名为 DetectGPT 模型,该模型可以检测出文本段落是否是由一个给定的大型语言模型(LLM)生成的,斯坦福大学将使用 DetectGPT 来应对学生使用 ChatGPT 等 AI 工具作弊和生成论文的现象。

这才没过几天,ChatGPT 的开发商 OpenAI 就决定亲自上阵发布了一个免费的网络工具 AI Text Classifier(需登录 OpenAI 账号使用),这个工具的目的跟 DetectGPT 一样,也是帮助用户识别某一段文本是由人类还是机器写的。

这个工具的使用方式也很简单,用户只需要将一段文字复制到文本框中,系统会对该文本是由 AI 系统生成的可能性进行判断,判断结果从「非常不可能 —— 很有可能」共分成了 5 个等级。

AI Text Classifier 不仅可以检测 ChatGPT 生成的文本,还可以检测其他同类 AI 工具生成的文本。只不过根据 OpenAI 的说法,该工具的准确性目前似乎不是很高。

AI Text Classifier 可以正确地将 26% 的 AI 生成文本识别为「可能是 AI 写的」,而将人类写的文本错误地标记为是由 AI 写的的情况有 9%。

因此,OpenAI 的负责人 Jan Leike 也强调到,这个工具并不完美,既会产生误报也会产生漏报,用户不应该仅仅依靠这一个工具来确定文本的作者。

除了判断结果不够精确以外,OpenAI 还表示该工具更擅长分析由 1000 个以上字符组成的英语文本。AI Text Classifier 不能可靠地评估更短的或用其他语言写的文本片段。此外,该工具也不能准确检测 AI 生成的计算机代码。

从上面的结果来看,为了避免 “冤案错案”,AI Text Classifier 暂时还不适合老师使用。当然,OpenAI 已经了解到教育和其他领域对 AI 生成文本的担忧,他们正在研究其他方法,以帮助人们区分 AI 生成的文本和人类创作的文本。

原文来自:https://www.oschina.net/news/226778/open-ai-text-classifier

本文地址:https://www.linuxprobe.com/openai-text-classifier.html编辑:roc_guo,审核员:清蒸github

Linux命令大全:https://www.linuxcool.com/

Linux系统大全:https://www.linuxdown.com/

红帽认证RHCE考试心得:https://www.rhce.net/