根據《Raps.org》報導,美國FDA與歐洲EMA的官員指出,國際間日益頻繁的合作正在影響AI政策的發展。製藥業者也正針對AI政策在實際應用中的有效實施,研擬一套最佳實務規範。默克雪蘭諾(EMD Serono)全球監管與科學政策總監 Junyang Wang 表示,目前已從初期的探索階段邁入更具結構性的實施與協調階段,尤其在AI原則與工作計畫方面。FDA的數位健康卓越中心副總監 Anindita Shah 提到,FDA的AI策略是以合作參與為基礎,早在六年前便成立了AI指導委員會並舉辦工作坊。FDA已在2025年1月發布AI草案指南,並預計在收到超過1,400條意見後,完成最終指南。
此外,FDA與EMA於今年初共同發布了一份文件,確立了藥物開發中AI良好實踐的指導原則。FDA也曾與加拿大衛生部(Health Canada)及英國藥監局(United Kingdom’s MHRA)合作,針對醫療器材的良好機器學習實踐(Good Machine Learning Practices, GMLP)撰寫文件,該文件已於2025年1月獲得 International Medical Device Regulators Forum(IMDRF)的採納。歐洲藥物管理局(EMA)的AI導入負責人 Joaquim Berenguer Jornet 強調,利害關係人參與和國際合作是EMA工作計畫的關鍵重點。International Society for Pharmaceutical Engineering(ISPE)顧問 馬丁·海特曼(Martin Heitmann)則討論了ISPE近期發布的藥品優良作業規範(GAMP)指南,該指南涵蓋了AI在藥品優良作業規範領域的應用,並強調了生產與製程理解、結合品質管理系統的生命週期方法,以及符合目的的數據等概念。
美國政府內部也對AI工具的應用加強監督。根據《Search IT Operations》報導,美國退伍軍人事務部(VA)的監察長辦公室(OIG)發現,VA內部廣泛使用的生成式AI工具(如 VA GPT 和 Microsoft 365 Copilot Chat)缺乏足夠的協調與監督。OIG指出,這些工具可能因AI「幻覺」現象而導致錯誤,對病患安全構成潛在風險,尤其是在臨床護理和病歷紀錄方面。OIG建議VA優先加強對生成式AI工具的監管,實施AI防護措施,並將AI風險監測整合到現有的病患安全計畫中。VA健康事務次長已同意這些建議,並預計在2027年4月完成實施。
在美國國會,眾議院通訊與科技委員會(House Communications and Technology Committee)已推動一項法案,旨在保護在校園中使用AI工具的學生。該法案將建立協定,用於偵測學生與AI工具交流時可能出現的自殺意念及暴力傾向,並導入家長同意的要求。同時,紐約州也正準備實施三項新的AI法案,這些法案將對企業施加新的AI報告與揭露要求,涵蓋AI在招聘、人員配置及客戶服務等方面的應用。依據《JD Supra》報導,紐約州州長凱茜·霍楚爾(Kathy Hochul)去年已指示勞工廳(New York State Department of Labor)開始收集AI導致裁員的相關資訊。其中一項重要的提案要求員工超過50人的企業,需每年向紐約州勞工廳報告AI對勞動力的影響,包括因AI造成的員工裁減、工時增減及職位空缺等數據,違者將面臨每日最高500美元的罰款。此外,一項名為RAISE Act的修正案將於2027年1月1日生效,規範前沿AI模型(frontier AI models)的開發者,並要求生成式AI系統應顯示明確警示,告知使用者AI生成內容可能存在不準確性。