一項近期研究更發現,人們普遍對 AI 生成的醫療建議過度信任,許多受訪者難以分辨 AI 與專業醫師提供的資訊差異。此外,AI 系統不受醫師診間所適用的相同隱私法規約束,這意味著用戶向聊天機器人分享的任何敏感健康資訊,都有可能被使用、出售,甚至在資料外洩事件中被竊取,增加個人隱私風險。
為此,消費者報告建議民眾,應將 AI 聊天機器人視為獲取資訊的「起點」,而非用於診斷或治療的工具。同時,強烈建議用戶避免將敏感的個人健康資訊分享給聊天機器人。更重要的是,務必利用可靠來源來驗證 AI 生成的健康資訊,例如美國國立醫學圖書館提供的 MedlinePlus、美國疾病管制與預防中心(Centers for Disease Control and Prevention)的官方網站,或任何其他公認的醫療組織。