学生或遭误判作弊 AI检测工具准确度惹争议

学生或遭误判作弊 AI检测工具准确度惹争议

引用

大公网

1.

https://www.takungpao.com/news/232111/2024/1118/1032120.html

图：AI检测工具GPTZero虽然号称“AI克星”，但检测结果依然存在误判情况。

在人工智能快速发展的今天，AI工具为教育带来了便利，同时也带来了新的挑战。如何识别学生是否有使用AI，是否存在抄袭等学术不端行为，教育界仍在摸索。

AI检测工具通常会通过分析文本的复杂度和变化的多元程度，来判断文章是否由AI生成。然而，这种检测方式导致写作风格更固定模式化的学生，包括英语作为第二语言的学生，更容易面临被AI检测工具误判的情况。

彭博社使用了500篇大学入学申请文书对两款知名AI检测工具“GPTZero”和“Copyleaks”进行测试，这些文书确认由真人撰写。结果显示，两款AI检测工具错误地将1%到2%的文件标记为可能由AI撰写。进一步测试发现，GPTZero先错误地将一篇人类撰写的论文判定为98.1%概率是由AI生成，但在使用了可将文章修改成更像人类写作的工具“Hix Bypass”进行修改后，GPTZero判定论文是由AI生成的机率大幅降至5.3%。

史丹福大学的研究发现，AI检测工具在检查美国八年级学生的作文时，准确度“近乎完美”，但在检查非英语母语学生的作文时，却将超过一半的作文标记为AI生成。由于作业被误判的可能性存在，大学生们现在会采取各种措施来证明自己作品为原创，例如视频记录写作过程、使用Google文件以便教师查阅修改纪录，甚至耗费大量心力改变措辞。

也有专家认为，教育工作者也应该增加对AI的认识，引导学生将AI当作学习的辅助工具，而非一项威胁。

本文原文来自大公报