近期多項研究顯示，科學期刊上出現數千篇疑由人工智慧（AI）生成錯誤的論文，特別是偽造引用文獻的情況急遽增加，已嚴重威脅學術研究的嚴謹性與可信度。此一現象引發學術界高度關注，並對現行查核機制提出嚴峻挑戰。

根據《Research & Development World》報導，一項針對250萬篇論文的研究估計，近3,000篇生物醫學論文包含偽造的參考文獻，2025年偽造引文比例更較2023年激增12倍以上。研究共同作者Maxim Topaz直言這些發現可能只是「保守的低估」。這些錯誤不僅存在於普通研究，甚至波及28項臨床試驗和79項系統性回顧文獻。Medical Evidence Project的法醫元科學家詹姆斯·希瑟斯（James Heathers）也發現，Google學術搜尋上約200篇論文有相同且不尋常的錯誤，如數學家安德雷·柯爾莫哥洛夫（Andrey Kolmogorov）姓氏拼錯，疑源自「論文工廠」。詹姆斯·希瑟斯警告，錯誤論文若涉及病患數據，對臨床實務將構成極高危害。

偵測人工智慧生成文本仍是一大難題，2023年研究顯示，研究人員難以辨識ChatGPT生成的醫學摘要，且人工智慧偵測工具對非英語母語作者存有偏見。面對此挑戰，施普林格·自然（Springer Nature）、科學（Science）等主要期刊雖已明文禁止將AI工具列為作者，要求作者聲明AI使用，並強調作者需負全責。部分出版商更將未聲明使用AI視為科學不端行為，可導致論文撤回或出版禁令。然而，目前多數期刊仍主要依賴作者的誠信聲明來維持學術誠信。