早期的人工智慧模型主要依賴輝達(Nvidia)和超微半導體(AMD)等公司生產的昂貴繪圖處理器,以提供原始的處理能力進行模型訓練。然而,根據《Computerworld》報導,新的代理式人工智慧工具更側重於嵌入式流程,其運作方式與商業流程和工作流程管理高度相關,這使得它們能在更具成本效益的硬體上運行。neXt Curve 首席分析師 Leonard Lee 便指出,人工智慧運算或加速運算,顯然已超越繪圖處理器作為推論加速器的角色。
Tirias Research 首席分析師 Jim McGregor 強調,儘管特殊應用積體電路(ASIC)長期存在,但隨著代理式人工智慧逐漸普及,它們在效率和長期成本效益方面的優勢日益顯現。此外,中央處理器(CPU)也正重新確立其在人工智慧時代不可或缺的基礎地位。Leonard Lee 認為,中央處理器如今扮演著整個 AI 堆疊的編排層(orchestration layer)與關鍵控制平面。FeibusTech 首席分析師 Mike Feibus 也觀察到,中央處理器的相對重要性正在提升。J. Gold Associates 首席分析師 Jack Gold 進一步解釋,這場轉變更關乎模型管理而非模型建構,而中央處理器在工作流程管理中扮演關鍵角色。