記憶體晶片主要用於儲存數位資料,讓電子裝置得以記憶資訊。TrendForce 研究顯示,目前市場需求超出供給逾 10%,進而推升智慧型手機、個人電腦、平板電腦等產品的價格。由於 AI 數據中心消耗了大量的記憶體晶片,導致消費性電子產品的供應更加吃緊。
DRAM 作為一種揮發性記憶體,在斷電後會遺失資料,主要用於儲存電腦、平板或手機正在使用的資料,例如開啟的應用程式和瀏覽器分頁。至於 NAND 型快閃記憶體,則是一種非揮發性記憶體,斷電後仍可保留資料,廣泛應用於固態硬碟(SSD)和 USB 隨身碟。NAND 快閃記憶體的現貨價格在過去一年也上漲超過 600%,合約價格同樣翻倍。
記憶體晶片過去曾被視為「商品型晶片」,重要性不如客製化晶片。然而,隨著 AI 應用興起,記憶體晶片的需求大幅增加,使得市場供需狀況反轉。各大記憶體晶片廠正積極擴充產能,但需求成長速度更快,即使所有新建工廠如期完工,市場仍可能面臨短缺。
高盛集團(Goldman Sachs)預期,DRAM 供應吃緊和價格上漲的情況,至少會持續兩年。該公司分析師指出,由於 AI 基礎設施需求引發記憶體領域供需嚴重失衡,IT 硬體產業正進入結構性短缺階段。Hynix、三星(Samsung)和 Micron 等主要供應商的產能分配,對低階消費性電子產品和非 AI 領域造成巨大影響。
目前全球 DRAM 市場由三星、Hynix 和 Micron 三大廠掌握 93% 的市佔率,其餘由南亞科技、華邦電子和力積電等台灣廠商分食。這種高度集中的市場結構,使得 AI 需求的任何供應中斷或需求激增,都可能迅速蔓延至整個記憶體市場。對於 AI 數據中心而言,HBM 是「記憶體頻寬牆」,變形器和神經網路需要在記憶體和運算之間移動大量的模型權重和激活。輝達(Nvidia)執行長黃仁勳(Jensen Huang)已將記憶體晶片視為 AI 晶片生產的關鍵制約因素。
最新的高頻寬晶片是 HBM4,將為下一代 AI 和高效能運算(HPC)硬體提供動力,提供約兩倍於 HBM3E 晶片的頻寬和容量。Hynix 在今年 1 月展示了一款 16-high HBM4 堆疊(48GB),其針腳速度約為 11.7 GBps(轉換為 3TB/s 頻寬),目標是下一代 AI 加速器和 GPU。輝達的 Vera Ruben、AMD 的 Instinct MI500 系列 GPU,以及 Google、亞馬遜(Amazon)和微軟(Microsoft)的客製化 AI 晶片,都越來越受記憶體頻寬的限制。HBM4 的設計旨在滿足大型 AI 模型不斷增長的運算需求。
NAND 快閃記憶體市場的集中度略低於 DRAM 市場。三星擁有 40% 的市佔率,Hynix 則為 27%。其他三家廠商,包括日本的鎧俠(Kioxia)、美光(Micron)和 SanDisk,各自擁有 10% 至 12% 的市佔率。快閃記憶體在 AI 生態系統中有多種應用,包括智慧型手機、相機和感測器等邊緣 AI 裝置,這些裝置將模型儲存在 NAND 快閃記憶體上,以便在沒有網路連線的情況下執行推論。快閃記憶體也用於 AI 加速卡,用於韌體、啟動程式碼,有時也用於需要在電源週期中持續存在的模型權重,以及嵌入式 AI 晶片,例如智慧喇叭或穿戴式裝置(如智慧眼鏡或 AI 驅動的耳機),這些裝置依靠它來儲存緊湊的神經網路模型。