隨著人工智慧（AI）技術日益普及，美國司法系統將演算法應用於風險評估的現象引發廣泛關注。這些演算法旨在評估個人再次犯罪或出庭的機率，但近期報告揭露其潛在的偏見問題，恐對司法公正性造成深遠影響。

「Center for Democracy and Technology」這家關注科技與民主議題的組織指出，警務中的演算法風險評估，是指利用統計工具為個人評分，判斷其是否可能出庭或未來再次犯罪。此類工具對個人命運影響巨大，決定著他們是否能在審判前交保，或刑期能否獲得縮減。現代趨勢顯示，風險評估工具正日益仰賴 AI 和機器學習來「發掘資料中隱藏的趨勢」。

這些演算法主要分為兩類：審前風險評估工具，用於判斷獲釋者是否會缺席開庭或在案件審理期間再次被捕；以及再犯預測工具，評估獲釋後再次犯罪的可能性。法官會依據這些評估結果設定保釋金額、限制條件或命令拘留，矯正機構也會用來決定監管程度和釋放日期。這些工具通常由相同供應商開發，並使用類似的輸入特徵，如年齡、就業狀況、居住環境、犯罪紀錄及過往的違規行為。

然而，這些演算法的準確性和公平性遭到質疑。《ProPublica》在 2016 年發現，COMPAS（一套已使用逾二十年的風險評估工具）對於從未再犯的非裔被告，判定為高風險的機率是同等條件白人被告的近兩倍。美國司法部（DOJ）在 2021 年對其使用的 PATTERN 工具進行審查時，也發現同樣模式。PATTERN 工具會過度預測非裔、西語裔和亞裔的風險，導致驚人的錯誤率。特別是 2015 年至 2017 年間，非裔及美洲原住民男性的 PATTERN 錯誤判定率高達或超過 50%。

儘管 PATTERN 工具本身便是透過機器學習來選擇和權衡輸入數據，卻仍存在這種不公平現象。此外，自動化計分在 2021 年前也發現，逾兩成收容者的風險等級與人工記錄結果不同，美國聯邦監獄管理局甚至因為 PATTERN 評分手冊的筆誤，不得不重新評估 1,745 名受刑人的風險等級。這些數據也顯示，演算法在引入機器學習前，其預測能力已被批評為「從差到中等」的範圍。

由於 AI 驅動的演算法系統難以被審查，使得問責變得更加困難。過去辯護律師可以複製分數單，發現錯誤並質疑輸入資料的品質，但機器學習系統的判讀過程不透明，使這些傳統的問責機制失效。AI 系統可從非結構化記錄（例如案件筆記）中讀取資訊，這些筆記中執法人員的隨意評論，可能在無任何出處標示下，成為最終評分的重要組成部分。由於模型可以從相關語言中推斷出種族或貧困等資訊，而無需直接提供這些資料，導致「代理歧視」（proxy discrimination，即模型透過間接資料達到歧視效果）更難被察覺。

美國國家司法研究院認為，未來將有更多風險評估工具轉向 AI。然而，AI 模型的驗證研究需耗時數年，持續更新的模型更意味著，一份完成的驗證報告，對於特定時間點對特定被告進行評分的版本，其參考價值可能微乎其微。持續的評分系統甚至可能整合生物辨識或定位數據，將司法決策移出法庭。因此，現在正是要求 AI 風險評估工具透明化、驗證及限制其使用的關鍵時刻。