GPTZeroX,帮教师用AI检测AI抄袭

书接前回,人工智能斗智斗勇精彩继续。

最近一些年,人工智能文本正在充斥教育系统和互联网。一场看起来多少有点像“魔高一尺”与“道高一丈”之间的斗争正在激情上演。

美国纽约州、澳大利亚新南威尔士州、和昆士兰州等多个国家的地方教育行政部门禁止学生在校内使用 ChatGPT,以应对可能泛滥的用人工智能抄袭作业的局面。

不少地方教育行政部门似乎找到了解决学生借助人工智能“写作业”的“灵丹妙药”和“救命稻草”。

在生成性人工智能飞速发展,一日千里的同时,也涌现出来了专门检测文本是否是人工智能生成的人工智能工具,其中,最具代表性的是两个这样的工具是 DetectGPT 和 GPTZeroX。

DetectGPT 是由 Eric Mitchell 所领导的斯坦福大学研究团队开发的。据报道这个想法是由大型语言模型所生成的文本,更“倾向于占据模型对数概率函数的负曲率区域”。研究人员说,这种特性出现在许多大型语言模型中。有关起检测的报道相对介绍。

在不久前,自留地君在《GPTZero:破解AI抄作业的解药?》中,报道和简要评述了1月3日,普林斯顿大学学生 Edward Tian推出的名为 GPTZero 的工具,专门检测一段文本是由人类编写的,还是由人工智能 (AI) 研究公司 OpenAI 的 ChatGPT 平台生成的。

今天,看到媒体报道,我们刚刚推出了 GPTZeroX,这是经过一个月的迭代,为教育工作者打造的全新 AI 检测模型。

GPTZero 团队还推出了一款新产品:GPTZeroX

据称与之前的版本相比基于新的检测模型。

该团队写道,这些模型不断更新,并且最近取得了一些突破。 

GPTZeroX 为批量文本处理提供 API 访问,对文本进行整体评分,并可以突出显示单个 AI 所生成的句子。

https://gptzero.me/

新推出的GPTZeroX 还有一个管道来处理 PDF、Word 或 .txt 等多种格式的文件批量上传,允许用户通过 GPTZero 运行多个文件。

据介绍,新的 GPTZero 会高亮突出显示最有可能由 AI 生成的文本部分。创指人Tian 同学表示,教育工作者强烈要求使用此功能。

GPTZeroX 系统输出文本由 AI 生成的概率。

但是,目前尚未有对 GPTZero 进行科学评估的报道。

在其网站 gptzero.me上,他们声称,GPTZeroX专为教育工作者打造:

在自留地君看来,AI 文本检测器是一种帮助,并不是解决方案。

使用大型语言模型作为文本辅助工具有很多合理的理由。

在未来,文本的内容可以完全由人来构思,但是,文本本身在很大程度上可以由机器来编写。这样的局面正在全面铺开,并且锐不可当。

一线教师、学校和整个教育系统最好为人工智能生成的文本无处不在的未来做好准备,这是我们必将面对的教育新生态。

使用AI文本检测器肯定会在一定程度上阻止学生使用此类工具。

但是,这些人工智能文本探测器也可能会将一些合理使用者以及部分未使用者错误地标记为剽窃者,更重要的和更严重的后果是,这些生成性人工智能新工具所带来的潜在效率提升和创造性将会被搁置一旁,置若罔闻,甚至被扼杀在摇篮里。

by Johnnie Walker via Midjourney