NAND 快閃記憶體如何重塑 AI 時代的數據中心儲存？

AI 正在重塑數據中心架構的設計格局，儲存範疇亦迎來全面變革。Sandisk 工程高級副總裁 Mrinal Kochar 撰文指出，無論是配置與優化方式，還是數據中心機架內的物理部署位置，儲存皆迎來新面貌。而 NAND 快閃記憶體正處於上述討論的核心，它建構出高密度、非揮發性的數據通路，為 AI 模型訓練、數據流轉與推理提供支援。

兩種發展路徑

數據中心 eSSD 正朝兩個不同方向發展。運算優化型 eSSD 部署位置更靠近 GPU，以滿足高效能工作負載須高速、低延遲存取大型數據集的要求，亦能應對指數級增長的鍵值快取（KV Cache），這類快取既需要大容量儲存，也需要運算級效能。容量優化型 eSSD 則平衡大容量數據儲存與快閃記憶體的速度及可靠度，服務為 GPU 大規模提供數據的密集型數據湖。

AI 時代的數據分層挑戰

傳統數據中心設計通常形成相對統一的層級，企業級固態硬碟同時支援時延敏感型與通用型儲存需求，但 AI 數據管道的工作負載日趨多樣化，這種模式已不再適用。AI 工作負載涵蓋數據攝取、準備、訓練與推理等多個階段，各階段對效能與容量的要求並不一樣。

模型訓練需要持續的吞吐量，以及對大型數據集的平行存取。推理則引發更碎片化的存取模式，通常需要更小規模、更高頻的數據讀取，亦更重視數據上下文訊息的保留。物理部署方面，時延敏感型數據應靠近運算節點，容量密集型數據則可被分解並重新分區，在遠端網絡儲存等場景中甚至可遷出靠近運算的區域。

近運算型 eSSD：貼近 GPU

靠近運算的 NAND 快閃記憶體（運算型 eSSD）會部署在高價 GPU 與加速器附近，並可繞過 CPU 與系統記憶體實現直接存取。這類固態硬碟專為高並發場景下支援低延遲、高 IOPS 與穩定效能而優化，以應對模型加載、檢查點保存與推理快取等應用場景。

最初，運算型 eSSD 負責處理 AI 模型訓練中的數據流轉與檢查點保存。隨著推理與 AI 智能體日益普及，加上模型與參數規模爆發式增長，鍵值快取卸載成為第二類應用場景，並已成為 NAND 快閃記憶體在 AI 數據中心領域裡最蓬勃的發展機會之一。運算優化型 NAND 快閃記憶體因此常被視為記憶體層級的延伸，佔據 DRAM 與傳統儲存之間的生態位，協助 AI 基礎架構擴展上下文視窗，超越封裝記憶體的物理限制。

容量優化型：擴充數據湖

大容量 NAND 快閃記憶體支撐 AI 數據湖的發展。AI 未必會催生新的數據類型，但改變了數據的存取方式。訓練通常需要高速讀取整個數據集，而非僅查詢子數據集，因而「高速」數據湖應運而生，數據吞吐量與可存取性與儲存容量同等重要。

大容量 eSSD 專為儲存密度與能效而優化，其核心指標不再是延遲的長短，而在於單位功耗下可儲存與傳輸的數據量。隨著數據存取頻率提升，原本屬於「冷」數據的儲存正逐漸升溫，相較於快閃記憶體與機械硬碟混合的傳統分層架構，全快閃記憶體方案能更好地滿足數據存取需求。

QLC NAND 與規模化效益

QLC（四層單元）NAND 在每個儲存單元容納 4 位元數據（對應 16 個電壓狀態），顯著提升儲存密度。儘管效能不及部分高階 NAND 快閃記憶體，但其價值在於規模部署後可實現更低的每位元成本與更高能源效率。

這些特性讓 QLC 成為容量優化型儲存的理想之選，使數據中心能將多塊機械硬碟整合為單一快閃記憶體設備，減少物理佔用空間與能耗。QLC 同時支援更精細的分層記憶體架構，架構師無需依賴單一儲存設備，即可為不同工作負載分配不同層級的 NAND 快閃記憶體。

功耗、密度與擴展

如今功耗對 AI 基礎架構的影響已不亞於物理佔用空間。隨著 GPU 集群規模擴大，每瓦特電力都成為至關重要的資源考量。儲存設備的評估標準也因此改變，產品效能固然重要，但能源效率已成為關鍵考量，許多數據中心會優先選擇每瓦特下能提供最大容量或頻寬的方案，而非單純追求峰值效能。

儲存密度是另一重要因素，NAND 快閃記憶體與封裝技術的升級有助在既定空間內大幅提升儲存容量，使數據中心擴展儲存規模時無需按比例增加功耗與散熱投入。不過，架構師也須謹慎權衡資源配置、擴展規模時機與現有基礎架構整合，資源配置不足仍是常見挑戰，尤其在增長預估偏低且擴展路徑模糊的情況下更為顯著。

重新思考記憶體層級架構

運算優化型與容量優化型 NAND 快閃記憶體的出現，反映數據中心設計層面更廣泛的變化。儲存不再是僅用於存放數據的被動層，透過影響運算資源的利用效率及 AI 工作負載的擴展效果，儲存可以決定系統的效能。

這趨勢催生了重新評估數據中心記憶體層級架構的需求，新架構會以部署臨近度、工作負載適配程度及數據傳輸為核心導向，並將問題從部署儲存量，擴展至部署儲存的位置。

FAQ

運算優化型與容量優化型 eSSD 有甚麼分別？
運算優化型部署在貼近 GPU 的位置，以高速低延遲存取大型數據集，並承擔鍵值快取卸載。容量優化型則兼顧大容量儲存與快閃記憶體的速度及可靠度，服務大規模數據湖。

QLC NAND 有何優勢？
每個儲存單元容納 4 位元數據，提升儲存密度，規模部署後每位元成本更低、能源效率更高，適合容量優化型儲存。

資料來源：Sandisk