事實上,誤控學生使用 AI 作弊可能嚴重影響他們的學業成績和未來職業發展,甚至有學生因此起訴大學。耶魯大學(Yale University)和康乃爾大學發布的指導方針指出,AI 偵測工具不盡完善,存在誤判風險,且對非英語母語者可能帶有偏見,並無法有效阻止學生使用 AI。此外,新興的 AI「人味化」(humanizing)工具,能將 AI 生成的文字改寫得更像人類撰寫,進一步挑戰了偵測器的效用。根據 American Association of Colleges and Universities 和 Elon University 的調查,高達 95% 的大學教職員擔心學生過度依賴 AI 工具。麻省理工學院(MIT)的一份報告也警告,聊天機器人能創造學習的假象,導致學生在遇到困難時「認知投降」(cognitive surrender),直接依賴 AI。
因此,越來越多教育工作者開始重新思考學生的評估方式,例如將帶回家完成的書面作業與口試結合,或是採用影片辯論等形式。哈佛學院(Harvard College)院長 戴維·戴明 (David Deming) 透過電郵向學生表示:「我們都將受益於退出 AI 偵測的業務。」他建議,大學應該在寫作課程中接受或甚至鼓勵學生使用 AI 工具,並停止使用 AI 偵測。