近期進一步的研究評估了九個大型語言模型,發現它們存在與社會人口統計識別相關的偏見。例如,若案例被標註為LGBTQ+次群體,模型推薦精神健康評估的頻率會比臨床實際需求高出六到七倍。此外,對於被標註為高收入狀態的案例,模型建議進行進階影像檢查,而對低收入或中等收入的案例則僅建議基礎或不進行額外檢測。這種現象被稱為「偏見放大」,即AI不僅複製,甚至會放大歷史訓練資料中已存在的偏見。一篇發表於《Nature Human Behaviour》的2024年研究更指出,臨床醫師若反覆與帶有偏見的AI系統互動,其自身的偏見也會隨時間增加,形成一種在人際互動中未曾觀察到的反饋循環。
在歐盟,歐盟人工智能法案(EU AI Act)已具體針對演算法偏見提出規範,並要求對醫療等高風險AI系統實施多種偏見緩解措施。相較之下,英國政府對於AI採取的是鼓勵創新、跨領域管制的方針,並無專門的AI立法。目前英國處理AI偏見問題的相關法規,主要依據一般資料保護規範(GDPR)、Data (Use and Access) Act 2025以及2010年平等法令(Equality Act 2010)。英國資訊專員辦公室(ICO)近期也針對自動化決策(包含個人資料分析)的指導原則草案進行諮詢。此外,英國政府已推出Data and AI Ethics Framework,並簽署了旨在減輕AI風險(包括偏見)的國際協議《布萊奇利宣言(Bletchley Declaration)》。英國藥品和醫療產品監管署(MHRA)近期就醫療AI監管的諮詢也承認訓練資料中的偏見是必須解決的問題,其National Commission on AI目標是匯集臨床醫師、病患團體和開發者,共同制定強調公平和透明的新標準。
病患在使用AI輔助醫療時,應被告知AI的應用情況、潛在的不確定性和限制,作為共享決策過程的一部分。同時,應始終將病患個人的具體生活經驗、需求和意願置於決策的核心。這與醫學總會的《Good Medical Practice》和《Decision Making and Consent》指導原則保持一致。臨床醫師也應參與並了解所在機構AI模型運用的治理流程,並在發現事件或趨勢時(例如針對特定病患群體)報告。
總體而言,雖然AI有望徹底改變醫療保健,但其偏見以及加劇健康不平等的潛在風險是真實存在的。藥品和醫療產品監管署監管框架的發布,預計將為AI作為醫療設備(AI as a Medical Device)的偏見緩解提供一些保障。然而,作為臨床醫師,了解任何數位工具的局限性、識別並挑戰資料偏見,以及確保AI不會主導病患護理品質,是專業上的責任。Medical Protection Society去年(2025年)推出了「AI Safer Practice Framework」,旨在協助醫療專業人員安全且負責任地將AI整合到醫療實踐中,該框架透過INFORMED和RECORDS兩部分,引導倫理決策並記錄AI輔助的決策過程,以確保問責制和臨床依據。