人工智慧（AI）技術的快速發展，使其生成文本的能力日益逼真，甚至讓經驗豐富的作家與讀者難以辨別真偽。這種現象對內容創作、出版產業及讀者習慣構成潛在挑戰，也引發了關於藝術本質與人類溝通的深層思考。

作家 Imogen West-Knights 指出，AI寫作有其「破綻」，例如過度使用不合邏輯的譬喻、每個名詞都搭配形容詞，以及重複的句法結構。然而，由於AI模型是在大量人類寫作基礎上建立，當文本片段較短時，AI的模式特徵不易顯現，使得區分更加困難。

作家暨記者 Vauhini Vara 為測試人類辨別AI文本的能力，進行了一項實驗。她讓研究員 Tuhin Chakrabarty 使用她過去三本書籍和新聞報導訓練AI模型，再生成其即將發表小說的部分段落。隨後，Vara 將這些由AI生成與她親自撰寫的段落，發送給深諳其寫作風格的親友（包括13歲就認識的摯友及19、20歲便結識的作家朋友），結果竟無人能夠區分。甚至 Vara 本人也坦言，當被要求閱讀這些文本時，她也無法回憶哪些是自己所寫，哪些是AI的產物。她更提及，她寫作中一個文法錯誤反倒成為其為人類創作的關鍵指標，因為「AI不會犯那樣的文法錯誤」。媒體《Today, Explained》共同主持人 Noel King 也曾提及，AI不會犯錯。

Vara 不認同外界普遍認為AI寫作是「冰冷無情」或容易辨識的觀點。她指出，許多人之所以認為AI文本缺乏靈魂，是因為當前的AI產品設計，常被用於模擬企業客服的語氣，而非AI本身能力的局限。她強調，實際上，要建立一個能生成「人性化甚至文學性」文本的AI模型，技術上「非常容易」，只是目前市場上的產品方向不同。

儘管AI寫作能力不斷提升，研究顯示，一旦讀者得知文本是AI生成，他們對其興趣便會大減。這清楚表明，若閱讀大眾知曉其閱讀內容由AI產生，將會失去閱讀意願。Vara 認為，人們過於關注「人類與科技二元對立」的爭論，而忽略了更深層次的渴望：人們希望彼此溝通。她表示，藝術作品不應僅是來自那些掌控用戶、擁有巨大財富與權力的科技巨頭。