圖片人物左起為: 美光副總裁暨雲端記憶體事業群總經理Praveen Vaidyanathan、美光資深副總裁暨核心資料中心事業群總經理Jeremy Werner、美光資深副總裁暨手機和用戶端事業群總經理Mark Montiert
隨著人工智慧工作負載從模型訓練大步跨向大規模推論與 AI 代理系統，半導體生態系正迎來一場結構性的轉型。美光宣布推出全系列 AI 最佳化記憶體與儲存解決方案，正是為了應對這場變革。美光副總裁暨雲端記憶體事業群總經理Praveen Vaidyanathan指出，AI 模型的上下文長度正以每年 30 倍的速度暴增，但單台伺服器的記憶體容量在過去三年僅增長一倍。這種極端的供需差距，讓系統效能前所未有地取決於記憶體的頻寬與容量，也使記憶體與儲存技術從過去的輔助角色，躍升為不可或缺的戰略性資產。
在資料中心的核心戰場，美光構建了一套專為 AI 運算量身打造的記憶體與儲存階層架構。此架構以 HBM驅動高速模型執行與 KV 快取，並由 LPDDR 和 DDR 擔綱系統記憶體，負責調度編排與長上下文擴展。底層則由高效能、高容量的資料中心 SSD 完善整個體系，穩定支撐 KV 快取並打造海量資料湖。在這個分層架構中，美光精準最佳化了延遲、頻寬、功耗、容量與成本，能有效分擔 GPU 的負載，進而最大化資料中心的 Token 產出量。
美光於資料中心領域取得了多項突破性的最新里程碑。首先，其 HBM4 36GB 12H 成功實現頻寬倍增，能讓大型語言模型的推論吞吐量大幅提高 2.6 倍。在低功耗與高密度層面，美光獨家提供全球最高容量的 256GB SOCAMM2，功耗與佔用空間均較標準 RDIMM 驟減三分之二；同時，採用業界領先 1γ（1-gamma）技術的 256GB DDR5 RDIMM 傳輸速度高達 9,200 MT/s。在儲存方面，美光更推出全球首款商用 PCIe Gen6 SSD「美光 9650」，以及容量高達 245TB、可縮減 82% 機架空間並將功耗減半的 6600 ION SSD。
然而，AI 的影響力不僅始於雲端，更必須在邊緣端實現價值。隨著 AI 推論延伸至 PC、智慧型手機、汽車與嵌入式系統，美光的儲存解決方案已進化為「主動作業層」。在終端產品線上，LPCAMM2 搭配 LPDDR5X 可提供高達 9,600 MT/s 的傳輸速度，專為輕薄 PC 設計；GDDR7 則提供 1.5 TB/s 的系統頻寬，使推論吞吐量提升達 33%。
面對由 AI 徹底重塑的記憶體新角色，記憶體與運算單元在設計之初就必須進行緊密的協同合作。美光憑藉橫跨多代的 DRAM 與 NAND 製程領先優勢（如 1γ DRAM 與 G9 NAND），正深化與全球生態系夥伴的技術協作，共同加速 AI 平台的落地與系統級最佳化。與此同時，美光在美國、印度、日本、新加坡及台灣等地的製造擴展投資，也將成為其在全球大規模落實創新成果的堅實後盾，攜手產業夥伴共同推動 AI 的未來發展。
