儘管AI的潛力巨大,其應用仍面臨挑戰。美國律師協會(American Bar Association)2025 年的法律產業報告顯示,31% 的法律專業人士已將生成式AI用於個人工作任務,較前一年成長 4 個百分點。然而,律師事務所層級的全面應用率僅有 21%,主要原因在於政策疑慮、資料隱私考量,以及企業級法律AI系統的高昂成本。民事訴訟在律師事務所層級的AI應用方面領先其他業務領域,達到 27%。
AI生成虛假判例的問題也浮出檯面。例如,在 2023 年 6 月,美國紐約南區聯邦地區法院(Southern District of New York)的律師在「Mata v. Avianca」一案中提交的訴狀,援引了 ChatGPT 捏造的六個不存在的法院判例。至今,全球法院已累計發現超過 1,400 起AI「幻覺」(即生成錯誤資訊)案例,且發生頻率加速至每週約兩起。美國一位聯邦法官在 2025 年「Johnson v. Dunn」一案中,更因律師使用AI生成虛假判例,判定罰款不足以遏止此類行為,直接取消涉事律師的代理資格,並知會了其執業州的律師監管機構。
為應對這些新挑戰,美國律師協會於 2024 年發布了正式意見書 512 號,確認律師在使用AI輔助法律工作時,仍須遵守能力、對法庭誠實,以及監督非律師助理等職責。自 2025 年起,紐約州(New York State)已要求律師每年至少修習兩學分的AI能力繼續法律教育課程(CLE credits)。此外,在缺乏足夠資料處理安全措施下,將客戶文件分享給通用型AI工具,恐會導致機密外洩。