一家美國 AI 公司 OpenAI 所開發的對話式大型語言模型 ChatGPT，因提供不準確的醫療建議，導致一名佛州男子險些喪命。該名男子已於週三（22日）向舊金山法院提起訴訟，控告 OpenAI 及其執行長奧特曼（Sam Altman），指控其 AI 模型形同「無照行醫」。

根據訴訟內容，該名男子於 2025 年因經常性頭暈與血壓不穩定，向 ChatGPT-4o 尋求解答。這款 AI 模型卻頻繁地評估其身體狀況，並提供自信的臨床評估與治療建議，聲稱這些症狀相對輕微，建議他待在家中「躺著休息」。ChatGPT 甚至建議，他需要再發生八到十次這類情況，才算嚴重。該名男子遵從了這些建議。

然而，到了 2025 年 7 月，他卻因血栓導致「大規模肺栓塞」，據訴訟描述，這讓他瀕臨死亡。其中一位醫生認為，正是 ChatGPT 建議的固定不動，導致了肺栓塞的發生。

訴訟也指出，在醫療緊急事件當天，該名男子曾詢問 ChatGPT 鼠蹊部疼痛是否需要就醫。AI 模型卻引用他的靈性信仰回覆：「上帝並非設計你的身體會不斷失敗。」但事後證實，這股疼痛正是導致他肺栓塞的起始症狀。

該名男子透過 Tech Justice Law 律師事務所提出訴訟，指控 OpenAI 將使用者參與度和利潤置於公眾安全之上，未能提供足夠的防護措施，保護使用者免於錯誤的健康建議。訴訟認為 ChatGPT 已跨越界線，從提供資訊變成「無照行醫」。

代表該名男子提告的 Social Media Victims Law Center 創始律師馬修．柏格曼（Matthew P. Bergman）表示：「如果 ChatGPT 是醫生，它將因醫療建議而犯下醫療過失。」訴訟團隊正尋求金錢賠償，並要求 OpenAI 針對 ChatGPT 提供醫療建議的行為，實施更嚴格的防護措施。他們同時要求暫停 OpenAI 旗下專門解答健康問題的服務 ChatGPT Health，待安全評估完成後再決定是否重新營運。

對此，OpenAI 發言人 Drew Pusateri 強調，ChatGPT 並非醫生，絕不應作為醫療照護、診斷或治療的替代品。OpenAI 在其服務條款中也明確指出：「使用者同意並接受，使用我們服務的任何輸出內容，風險由您自行承擔，且不得將其作為唯一的事實或資訊來源，或專業建議的替代品。」

康乃爾大學法學院（Cornell Law School）數位與資訊法律教授詹姆斯．格里梅爾曼（James Grimmelmann）認為，法律免責聲明雖有效，但當聊天機器人本身的陳述與行為超越了免責範圍時，其效力就會減弱。

這並非 OpenAI 首次面臨此類訴訟。今年五月，一對德州夫婦曾控告 OpenAI，指控其子因向 ChatGPT 尋求毒品資訊，最終用藥過量身亡，並稱 OpenAI「繞過安全防護措施」。