高通（Qualcomm）於 9 月 10 日揭曉其新一代 Hexagon NPU（神經處理單元），旨在讓人工智慧（AI）能在行動裝置上實現「常時待命」的助理型運作。這款處理器加入了專為轉換器（Transformer）模型設計的 Element Accelerator，並支援混合專家模型（Mixture-of-Experts, MoE）架構，大幅提升了行動裝置處理複雜 AI 任務的能力。

高通指出，新版 Hexagon NPU 的核心目標是優化助理型 AI (Agentic AI) 的運作，使其能夠理解用戶情境、跨應用程式進行推理，並代表用戶執行多種任務。NPU，即是專為加速類神經網路運算而設計的處理器，能讓裝置在執行 AI 任務時更有效率、更省電。

新版 Hexagon 晶片導入 Element Accelerator，此單元專門處理神經網路中的轉換器模型工作負載。轉換器是生成式 AI 和助理型 AI 的基礎，透過 Element Accelerator，可以加速大型語言模型（LLM）的運算，同時維持行動裝置的功耗效率。此外，Hexagon 的共享記憶體容量增加了 50%，讓更多資訊能直接保留在處理器內部，減少資料往返外部 DRAM 的需求，進而降低延遲、提升 AI 模型的對話上下文理解長度與任務切換速度。

此次更新的另一大亮點是支援混合專家模型 (MoE) 架構。過往的系統多採用單一大型語言模型處理所有任務，而新版 Hexagon NPU 則能串接多個專精於特定任務和情境的 AI 模型。它能執行參數規模高達 300 億的 MoE 模型，但在實際運算時，每個生成的 Token 僅激活約 30 億參數進行計算，有效降低了運算負擔。這項架構結合了智慧 NAND 快閃記憶體至記憶體的管理與快取技術，僅在需要時才從 NAND 快閃記憶體載入特定模型到 DRAM，常用的子模型則保留在快取中，這不僅降低功耗，也以更低的記憶體頻寬實現大型模型的 AI 效能。

新版 Hexagon NPU 支援多種浮點與整數格式，包括 FP16、INT2、INT4、INT8 及 FP8。針對 INT4 模型，預填充（prefill）效能提升高達 50%，回應文字的解碼吞吐量和推測解碼（speculative decoding）也獲得改善，AI 可在 1.5 秒內開始回應。高通 AI 技術產品管理副總裁 Vinesh Sukumar 表示：「我們已為助理型 AI 奠定了基礎。透過下一代高通驍龍旗艦行動平台，我們將在智慧型手機上直接實現助理型 AI 體驗。」

高通強調，新版 Hexagon NPU 將與高通驍龍平台上的其他運算單元更緊密協作。以 Oryon 核心架構為基礎的中央處理器（CPU）將負責協調多步驟 AI 工作流程，並確保資料已準備好供 NPU 使用。而 Adreno 圖形處理單元（GPU）也將導入基於 NPU 架構概念的專用加速技術，實現 Adreno Neural Fusion，直接將 AI 整合至行動遊戲的圖形處理中。

高通預計將在 9 月 22 日至 24 日於美國舉行的 Snapdragon Summit（高通驍龍高峰會）上，公布更多新 Hexagon NPU 的細節。