審查報告指出,到 2030 年,零售金融服務將經歷四大系統性轉變,包括企業的轉型、消費者體驗的革新、競爭格局的重塑,以及金融犯罪與網路風險的增幅。報告預計,未來的金融系統將建立在基礎模型(foundation models)之上,這些模型結合了神經網路與規則,能夠持續學習並預測行動影響。其中,報告提出 AI 自主性光譜(autonomy spectrum),分為五個層級:從 AI 協助操作者、與人類協同、由 AI 主導但人類提供指導、到 AI 準備決策並由人類簽核、最終由 AI 完全執行任務並由人類監控。
報告也發現,超過五分之一的英國消費者樂意將其金融決策委託給人工智慧處理,顯示「代理型金融」(agent-led journeys,指由 AI 代理人代表消費者處理金融事務)具備發展潛力。然而,AI 實現的超個人化服務(hyper-personalisation)雖能精準匹配產品,卻也可能導致偏見、不透明定價,甚至被用於高度個人化的操縱或欺騙設計。此外,AI 供應鏈的高度集中(少數超大規模業者、模型供應商或晶片製造商)將影響下游企業的競爭,並放大金融犯罪與網路攻擊的規模與速度。
面對這些變化,報告強調,儘管英國現有的原則式監管框架足以為 AI 賦能的金融系統奠定基礎,但隨著共享 AI 依賴性產生生態系統級別的風險,監管模式不能再停留在僅針對單一公司的層面。報告針對英國金融行為監管局董事會提出了七項建議,涵蓋監管框架、協調監督、能力建設及消費者權益等四大領域。這些建議包括:重新檢視並調整監管範圍,特別是對於運作在監管範圍之外的通用大型語言模型;深化與國內外夥伴在應變、數據、競爭、安全和消費者保護方面的協調;監測自主模型的發展,並釐清現行《消費者義務》(Consumer Duty)及《高級經理人制度》(Senior Managers Regime)在 AI 環境下的應用。
為提升自身監管能力,報告建議英國金融行為監管局應擴大其 AI 實驗室(AI Lab)的功能,建立結構化能力來評估金融服務中使用的 AI 模型與系統,並主導建立 Open Finance 框架下的 AI 代理信任架構。同時,英國金融行為監管局也應建構自身的 AI 輔助監管工具,從過往一次性、基於文件的監管方式,轉向持續性、系統性且基於風險與情報的監管模式。此外,也應開發一個由 AI 驅動、為公眾利益服務的金融能力服務,為消費者提供可靠的金融資訊與指引。
審查報告建議各金融機構應評估其 AI 自主性足跡(autonomy footprint),並優先考量如何進行監督。例如,公司應紀錄人類監督者預計扮演的角色、介入時機及升級程序,特別是在信用、申訴和合規決策方面。隨著 AI 自主性提高,公司也應確保其職責聲明、治理及模型風險管理框架隨時更新,以反映高級經理人在 AI 監督上的責任,尤其當 AI 邁向決策簽核(Approver)或完全執行(Observer)模式時。英國金融行為監管局預計將於今年稍晚,根據業界的回饋,發布一份關於金融服務中 AI 應用優良與不良實踐的刊物。