学生或遭误判作弊 AI检测工具准确度惹争议

学生或遭误判作弊 AI检测工具准确度惹争议

图：AI检测工具GPTZero虽然号称“AI克星”，但检测结果依然存在误判情况。网络图片

据彭博社报道，在人工智能盛行的当下，AI工具对教育带来了便利，也带来了新的挑战。如何识别学生是否有使用AI，是否存在抄袭等学术不端行为，教育界仍在摸索。

AI检测工具通常会藉文本的复杂度和变化的多元程度，来判断文章是否由AI生成，这导致写作风格更固定模式化的学生，包括英语作为第二语言的学生，更容易面临被AI检测工具误判的情况。

彭博社使用了500篇大学入学申请文書，对两款知名AI检测工具“GPTZero”和“Copyleaks”进行测试，这些文書确认由真人撰写。结果显示，两款AI检测工具，错误地将1%到2%的文件标记为可能由AI撰写。彭博社还使用GPTZero来检测一篇由人类撰写的论文，GPTZero先错误地将其判定为98.1%概率是由AI生成，但使用了可将文章修改成更像人类写作风格的工具“Hix Bypass”修改后，GPTZero判定论文是由AI生成的概率大幅降至5.3%。

史丹福大学的研究发现，AI检测工具在检查美国八年級学生的作文时，准确度“近乎完美”，但在检查非英语母语学生的作文时，却将超过一半的作文标记为AI生成。由于作业被误判的可能性存在，大学生们现在会采取各种措施来证明自己作品为原创，例如视频记录写作过程、使用Google文件以便教师查阅修改记录，甚至耗費大量心力改变措辞。

也有专家认为，教育工作者也应该增加对AI的认识，引导学生将AI当作学习的辅助工具，而非一项威胁。

本文原文来自大公报