美國人工智慧(AI)公司 OpenAI 與半導體大廠博通(Broadcom)共同宣布,已成功開發一款名為 Jalapeño 的客製化 AI 晶片,專為大型語言模型(LLM)推論(inference)工作負載設計。這款晶片僅耗時九個月便完成試產(tape-out),展現極高的開發效率,並預計將於今年底部署至微軟(Microsoft)及其他合作夥伴的資料中心。
Jalapeño 晶片設計獨特,採用特殊應用積體電路(ASIC)架構,不同於市面上通用型 AI 處理器或訓練加速器,其核心目標是為現代 LLM 及未來的 Agentic AI 工作負載提供更優異的「每瓦效能」(performance per watt)。OpenAI 指出,該晶片的架構是根據其對 LLM 行為的深入理解所設計,旨在解決大規模推論時的實際瓶頸,包括昂貴的資料移動、運算與記憶體資源平衡、網路效率等問題。早期的內部測試顯示,Jalapeño 的每瓦效能比「現有最先進硬體」大幅提升,能以接近理論最大值的效率執行重要工作負載。
該晶片巨大的運算晶粒(compute die)尺寸約達 840 平方毫米(mm²),接近極紫外光(EUV)微影系統光罩尺寸的極限(858 平方毫米),這比目前市場上多數推論加速器的晶粒更大,反而更接近用於 AI 訓練的處理器規模。博通執行長陳福陽(Hock Tan)表示:「我們與 OpenAI 的合作,代表著對未來十年 AI 所需實體基礎設施擴張的堅定承諾。」他也提到,透過直接與 OpenAI 共同開發業界領先的晶片,博通正協助微軟及其他夥伴從 2026 年開始部署「吉瓦級」(gigawatt-scale)資料中心。