輝達下一代旗艦晶片Rubin Ultra,最近在產業圈丟出一顆震撼彈。根據近期測試版本揭露的規格,原本市場高度期待會配備高達1 TB的頂級高頻寬記憶體HBM4E,現在竟大幅下修到最低192 GB,甚至比現行Vera Rubin的288 GB還要少。這不是第一次輝達在記憶體配置上「妥協」,先前Vera CPU的總記憶體容量就曾從54 TB腰斬至28 TB。說穿了,原因很簡單,全世界的記憶體都不夠用,製造商真的交不出那麼多貨。
產能算術題:單卡記憶體砍半,出貨量直接暴增五倍
這個調整背後,其實是一道非常現實的產能算術題。按照業界共識,HBM4E的產能到了2027年依然會非常緊張。如果輝達堅持每顆晶片都得塞滿1 TB記憶體,那現有供應量只夠產出極少數的頂級晶片。但把單張晶片記憶體降到192 GB,同樣的記憶體總量就能產出約五倍數量的晶片。
對微軟、Meta這些終端超級客戶來說,他們現在最缺的是「整體能用的算力」。此刻能拿到更多台「稍微瘦一點」的晶片,遠比只拿到少數幾台「滿血頂配」的晶片來得實際。說句老實話,買不到晶片,規格再頂級也是看得到吃不到。
此外,目前的低容量配置很可能只是2027年初期缺貨階段的應急措施。不少分析師指出,只要未來記憶體產能順利開出,高容量版本依然有機會回歸市場。市場不必急著把暫時的測試版當成永久降規格來恐慌。
記憶體縮水就跑不動大模型?輝達用NVLink把576顆晶片串成「超級大腦」
讀者一定會問:單張晶片記憶體變小了,還跑得動現代的大型語言模型嗎?答案是,大型模型本來就不是靠單一晶片運作,而這裡正是輝達展現技術實力的主戰場。
當單張晶片容量縮水,把大量晶片高效率串聯起來的「機櫃級網路」就成了關鍵解法。Rubin Ultra透過輝達專屬的高速互連技術NVLink,把576顆晶片串成一個運算整體。在軟體眼裡,這576顆晶片就像一顆超級大晶片;單卡雖然只有192 GB,但串起來就能共享超過100 TB的記憶體池。而且,少堆幾層記憶體,發熱與耗電也跟著下降,這在單櫃動輒數百千瓦的機房裡同樣是關鍵優勢。
更重要的是,記憶體縮水對不同工作的影響其實不太一樣。AI運作分成兩個階段:「理解問題」階段需要大量運算,對記憶體容量依賴較低;「生成回答」階段則因為要處理超長文章和複雜對話,需在記憶體裡維護大量上下文暫存資料,確實非常吃記憶體容量。
輝達的解法是將任務分層,配給不同等級的記憶體。理解問題吃的是算力,用不到最貴的記憶體,所以輝達另外做了一款晶片Rubin CPX,改用便宜得多的一般記憶體。生成回答時暴增的暫存資料,則往下丟到一層新的快閃記憶體暫放。從晶片、網路到儲存重新分工,這就是輝達所謂的「優化運算、網路和記憶體的組合」——聽起來像公關話術,但背後確實是一套扎實的系統工程。
記憶體成本佔機櫃三成,輝達砍容量順便守住毛利率
除了提升產能與系統效率,這套「優化策略」還順便解決了輝達內部的另一個財務隱憂——成本結構失衡。回看前幾代產品,記憶體占整體硬體成本的比例其實不算高。但隨著記憶體規格越喊越高,價格也被炒翻天。到了Vera Rubin這一代,記憶體成本已經占了整台伺服器機櫃的25%到30%。在某些AI晶片組中,高頻寬記憶體甚至占了高達60%的成本。
如果輝達堅持每顆晶片都塞滿最貴的記憶體,等於客戶買設備的錢,很大一部分會直接流進SK海力士、三星與美光這些記憶體廠商的口袋,輝達自己能賺到的利潤空間就會被嚴重壓縮。
因此,輝達降低單卡高頻寬記憶體用量,改用價格較低的記憶體來分擔工作,等於壓低了記憶體的採購金額。這讓輝達在交付更多設備的同時,順手保護了自己的毛利率,把更多利潤留在自己擁有自主權的晶片與軟體生態系上。
當然,記憶體廠商也不是輸家。因為輝達用同樣的記憶體總量造出了更多晶片,整體市場對記憶體的總需求依然在成長。記憶體的結構性短缺預計會持續到2027年,定價權依然在供應商手裡。只是產品結構會有所轉變,過去那些預測「所有頂級晶片都會裝滿最高階記憶體」的樂觀模型需要修正,未來中階配置的產品占比會明顯提高。記憶體大廠們依然能享受市場缺貨的紅利,只是成長曲線會比最激進的預測稍微平緩一點。
編輯觀點:從產業面來看,輝達這次的「降規」操作,與其說是妥協,不如說是一招漂亮的策略轉向。它把瓶頸變成槓桿,一方面用系統級設計補足單卡劣勢,另一方面順勢壓制記憶體供應商的利潤空間。對照組就是AMD——如果超微只會賣單張晶片,讓客戶用傳統網路線自己拼湊,整體運作效率會直接被輝達的整合生態甩開好幾條街。這也是為什麼AMD最近全力推進自家整機櫃方案,把72顆晶片塞進同一個機櫃架構。說穿了,黃仁勳用一場記憶體缺貨,把比賽從「比單卡規格」硬生生扭轉成「比系統整合能力」,而這個領域恰好是輝達護城河最深的地方。
超微的兩難:不跟進就困在單卡框架,跟進了卻得在別人的主場打仗
理解了這個邏輯,就能明白為什麼超微最近也在全力推進自家的整機櫃方案,把72顆晶片整合在同一個機櫃架構裡。如果AI晶片的競爭只停留在「單張晶片」的規格比較——比誰的運算速度快、誰的記憶體大——超微完全有能力在規格表上與輝達平起平坐。
然而輝達藉由記憶體瓶頸,把比賽規則改寫了。現在客戶採購時,看重的是機櫃層級的整體運算效率。當單張晶片的記憶體變小,晶片之間的溝通效率就成了決定勝負的關鍵。如果超微只賣單張晶片,讓客戶拿傳統的網路線自己拼湊,整體運作效率就會被輝達的整合生態遠遠甩在後頭。
再加上輝達的軟體生態系CUDA,本來就對多晶片串聯與記憶體管理做過大量優化。硬體規格就算變動,軟體也能幫忙緩衝,這對軟體生態相對弱勢的競爭對手來說壓力更大。所以超微必須跨足機櫃設計,去攻克晶片串聯這塊硬骨頭。在今天的AI基礎建設領域,沒有系統級的整體設計,單張晶片規格再亮眼也無法發揮實力。
記憶體短缺不會一夜消失,但產業正在從各個方向找解方
記憶體是目前AI基礎建設最大的瓶頸,這點無庸置疑。供應量、良率與價格,正實實在在地限制著產品的設計與出貨速度。但整個產業並沒有坐以待斃,大家正從不同方向尋找解答。
輝達對Rubin Ultra的調整,就是面對供應限制時的務實做法:在產能有限的情況下,優先確保能出貨更多設備,並透過更完善的系統設計來補足單卡容量的缺口。這不是一個完美的解決方案,但在現實條件的約束下,這可能是當前最聰明的選擇。
記憶體短缺不會在一夜之間消失,但解決問題的方法已經在各個層面同步推進。對投資人來說,與其追逐短期的規格數字震盪,不如把目光放遠,觀察誰能在這波「系統級競爭」中建立起真正的護城河。
你的下一步:如果你手上持有記憶體廠或AI伺服器相關股票,建議重新檢視投資組合中對於「高階記憶體占比」的預期。短期缺貨題材還在,但中長期產品結構的轉變,可能讓某些過度樂觀的獲利預測面臨修正。與其被市場情緒牽著走,不如趁這個機會好好研究各家廠商在系統級整合上的技術實力——這才是未來兩年真正的勝負關鍵。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
輝達Rubin Ultra記憶體降到192 GB,效能會不會明顯變差?
不會直接變差。輝達透過NVLink將576顆晶片串聯成超大記憶體池,單卡容量縮水可被系統級設計補足,且不同運算階段的記憶體需求不同,經分層優化後整體效能影響有限。
記憶體缺貨對SK海力士、三星、美光這些廠商是利空嗎?
不完全利空。總記憶體需求量依然成長,結構性短缺持續到2027年,定價權仍掌握在供應商手中,只是高階配置占比下修,成長曲線會比最樂觀預測稍微平緩。
為什麼超微一定要跟進輝達做整機櫃方案?
因為輝達把競爭從「單卡規格」轉向「系統整合效率」。若不跟進,超微的單張晶片再強,客戶自行組裝後整體效能也會被輝達的NVLink生態系甩開,等於困在過時的競爭框架裡。
輝達降低記憶體規格,對一般企業採購AI伺服器有什麼影響?
短期意味著能買到更多「夠用」的設備,而非少數天價頂配機種;中長期則可能讓AI算力價格更具競爭力。企業採購應更重視機櫃級整體效能,而非只看單卡規格。
HBM4E的高容量版本未來還有機會回歸嗎?
有機會。目前低容量配置被視為2027年產能不足時的應急措施,業界普遍認為只要記憶體產能順利提升,高容量版本仍可能重新導入產品線。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。