廣告
黃仁勳Marvell站台點名AI基建下個市值破兆企業 「想把錢都交它幫我賺」
【編譯于倩若／綜合報導】邁威爾科技（Marvell Technology）董事長兼執行長Matt Murphy今上午10點半在COMPUTEX進行主題演講，輝達執行長黃仁勳前往站台，與Matt Murphy討論AI代理時代「傳輸互連」大商機，黃仁勳一上台就盛讚邁威爾將會成為下個市值破兆美元企業，Matt Murphy當面感謝輝達先前對邁威爾進行投資，黃仁勳笑回他超愛變有錢，「反正我就把錢都交給Matt Murphy，然後在旁邊看他幫我賺錢，這是我最喜歡的事。」
Matt Murphy一開始先恭喜黃仁勳昨天GTC盛大開幕，輝達這周開紅盤、進行得超順利，並表示今天主要在聊「互連技術」（Connectivity）。
黃仁勳馬上回讚：「各位女士先生，下一家市值破兆美元的公司來了！哇！」讓Matt Murphy聽了非常開心：「那真的太讓人興奮了，我們一起努力吧，一起達成。呃，但這一切其實都要從目前整個AI基礎設施的發展講起。」
他問黃仁勳，從大局來看，怎麼看這件事？現在正處在一個非常關鍵的時刻，客戶需求整個爆量，「你認為互連技術在其中扮演了什麼角色？尤其是現在不可或缺的內部互連？」
黃仁勳表示，實用的AI已經實現了，這就是為什麼邁威爾的需求會爆掉、輝達的需求也跟著爆量的原因。在這個讓一切成可能的新運算模式裡，核心關鍵叫做「AI代理」。這些Agent有一種很特別的運算模式，叫做解構（Disaggregated）與分散式（Distributed）運算。
黃仁勳說明：「當你把一個運算問題拆解（解構）成很多個部分，然後把它分散到整個資料中心去跑的時候，最重要的就是互連技術。這就是為什麼Matt（Marvell執行長）現在做得這麼好，也是為什麼Marvell扮演這麼關鍵的角色。我們把運算做分散和解構，讓它可以在這麼龐大的集群裡跑，這樣我們才能把手頭上所有的算力、記憶體和頻寬全部整合在一起。而能做到這件事的幕後功臣，就是互連技術。這就是為什麼他們會是下一家市值破兆美元的公司。」
Matt Murphy請黃仁勳聊聊「規模」，以前都是串聯幾十個GPU、CPU還有XPU，現在是幾千個，未來搞不好某個時間點會變成幾百萬個，在擴展算力和互連規模的時候，雖然提到了像Agent這樣的東西，但如果放大到跨資料中心或資料中心內部來看，他問黃仁勳怎麼看互連技術在宏觀上扮演的角色？覺得哪些技術是最重要的？
黃仁勳表示：「從最根本的底層來看，Agent的運算模式需要一個協調系統，好讓大型語言模型（也就是運算本身）能夠進行思考、推理並規劃方案，但它同時還得去使用工具，像是上網、存取記憶體、撈長期記憶，還要處理短期工作記憶，這所有一切都需要非常強大的互連能力。」
他還談到另一個重點，如果去看輝達推出Vera Rubin的邏輯，Hopper當時是專門為了訓練而設計，Grace Blackwell則帶來NVLink 72，這是輝達首個擴展架構，為那些非常龐大的MoE模型（混合專家模型）提供極速的推論能力，所以說，Grace Blackwell是為了推論而生，而Vera Rubin則是為了運行Agent，這就是為什麼Vera Rubin系統除了包含Vera Rubin思考型AI晶片之外，還內建負責協調的Vera CPU，以及用來做儲存加速、管理長期記憶的Vera ConnectX。
黃仁勳說明，他對這些系統的看法是，有時雲端大廠會想自己設計客製化晶片，私底下與輝達也針對NVLink Fusion展開了合作，這讓大家可以用相同的系統架構，雖然裡面裝的是Vera Rubin，但同時也能融入一些他們的或是輝達的客製化晶片，再加上Marvell的互連技術、矽光子、光學等等，這樣實質上就能打造出一個解構、分散且異質的資料中心，而這就是輝達最核心概念。
黃仁勳說：「而且這樣做的話，他們的系統架構會完全一模一樣，網路技術也能直接套用大量NVIDIA的Stack（技術棧）。CPU可以用Vera，但一樣能整合很多Marvell的Stack。所以NVLink Fusion的精髓就是把NVIDIA的技術與平台，跟Marvell的技術與平台結合，這就是為什麼它叫 Fusion（融合）。」
Matt Murphy表示，與輝達夥伴關係已經合作很久，透過輝達這次的投資來讓關係更穩固，對Marvell來說意義非常重大，深感榮幸。
黃仁勳接話：「我跟你說，誰不喜歡賺錢？能賺錢真的很棒。」
Matt Murphy說：「自從你投資以來，我們股價表現一直很好，所以大家知道了吧，只要Jensen投資了，跟著他買就對了，跟著他就沒錯。」
黃仁勳說：「我超愛變有錢的，反正我就把錢都交給Matt，然後在旁邊看他幫我賺錢，這是我最喜歡的事了。」
Matt Murphy提到，與輝達共同實現的這些成果，NVLink Fusion、還有在光學技術上的合作，這代表Agent的時代以及輝達現在的新平台，是完美絕配。Marvell和NVIDIA攜手合作，給客戶他們想要的彈性，並用Agent時代的浪潮一起把平台做大。
不過黃仁勳也強調，如果不買別的、只買NVIDIA的產品，那也是完全沒問題的。但如果客戶非得設計自己的客製化晶片（ASIC），輝達還是很高興可以融入那個資料中心裡。
他笑稱，不需要每樣東西都跟輝達買，「只要跟我們買一些就好了，我們很樂意挺客戶，所以客戶既能享有通用、效率極高且設計非常完善的系統優勢，但同時，如果想延伸去做一些專用化客製，也完全辦得到，這就是為什麼Marvell的客戶和輝達的客戶都一樣，NVIDIA在AWS裡，Marvell也在AWS裡，NVIDIA存在於各大雲端平台中，而看到Marvell成功擴展到所有這些不同的雲端服務裡，真的非常棒。
