然而,隨著 AI 代理的發展,美國金融監管機構也表達了審慎態度。美國證管會與美國金融業監管局(FINRA)的領導層均已針對 AI 相關風險和考量發出警示,包括對 AI 生成內容準確性的擔憂,以及如何建立有效的 AI 使用監督框架。美國金融業監管局在去年 12 月發布的監管報告中指出,AI 代理能「在環境中互動、規劃、決策,並在沒有預設規則或邏輯程式設計的情況下,採取行動以達成特定目標」。該局進一步強調,AI 代理可能在未經人工驗證下自主行動、超越其預期權限,以及儲存或誤用敏感資訊,這些都可能對投資人、公司或更廣泛的市場造成危害。美國金融業監管局建議,開發和探索 AI 代理的公司應審慎評估其自主性是否帶來新的監管、監督或操作上的挑戰,並可能需要根據 AI 代理的類型和範圍,制定特定的監管流程。