廣告

黃仁勳開講1|NVIDIA從GPU轉型到AI 從300億美元晶片業到逾兆美元AI產業

財經 產業脈動
2025/05/19 15:19
克里夫 文章
分享 分享 連結 APP

【記者蕭文康/台北報導】NVIDIA執行長黃仁勳今在台北沇行音樂中心發表主題演講,他首先敘說NVIDIA的型從GPU晶片到AI基礎建設的歷史進程,黃仁勳一上台,就像現場聽眾介紹他的父母也在觀眾席上,獲現場熱烈掌聲。他說,NVIDIA 來台灣已超過30年,這裡是我們許多珍貴合作夥伴和摯友的家鄉。

黃仁勳今在北流發表主演講。林林攝 zoomin
黃仁勳今在北流發表主演講。林林攝

NVIDIA 的故事是電腦產業的再造

他接著說,多年來,大家見證了 NVIDIA 的成長,見證了我們完成許多令人振奮的成就,並一路以來與我並肩合作。今天,我們將談論產業現況與未來方向,發表令人期待且驚喜的新產品,開拓並創造全新的市場與成長機會。我們也會討論優秀的夥伴關係,以及如何共同發展這個生態系統。

正如大家所知,我們正處於電腦生態系統的核心,這是全球最重要的產業之一。當新的市場必須被創造時,合乎邏輯的是,我們必須從這個電腦生態系統的中心開始創造它。他說準備了一些你們可能無法預料的驚喜,當然,他也保證會談到人工智慧(AI)和機器人。

黃仁勳提到,NVIDIA 的故事是電腦產業的再造,事實上,NVIDIA 的故事也是公司自身的再造,他來這裡已經30年了,很多人參加過他的多場主題演講,有些人甚至全部都參加過,回顧這30年來我們討論過的種種話題,可以明顯看到產業的劇烈變化。

NVIDIA起初是一家晶片公司,目標是創造全新的運算平台,2006 年推出了 CUDA,徹底改變了運算的方式,10年後的 2016 年,我們意識到一種全新的運算方法已經到來,這種新方法需要從技術堆疊的每一層重新發明,處理器是新的,軟體堆疊是新的,系統理所當然也是新的。

黃仁勳主題演講。林林攝 zoomin
黃仁勳主題演講。林林攝

2016 年 GTC發表DGX-1並捐給OpenAI並開啟了 AI 革命

因此,我們發明了一套新系統,在 2016 年 GTC 大會宣布該系統的當天,沒有人理解我在說什麼,也沒有人為此進行公關宣傳。這套系統名為 DGX-1,他把第一套系統捐給一個非營利組織 OpenAI,並開啟了 AI 革命。

幾年後,我們意識到這種新型的軟體運作方式—現在稱為人工智慧—與傳統軟體運行方式完全不同。過去許多應用程式是在大型資料中心的少數處理器上運行,我們稱之為「超級存儲」。而這種新型應用則需大量處理器協同工作,為數百萬人提供查詢服務,資料中心架構因此根本不同。

我們發現網路傳輸有兩種形式,一為南北向(North-South),用於控制存儲、管理控制點及對外連接;另一種則是東西向(East-West),是電腦彼此通訊以解決問題。我們認定 Mellanox 是東西向高性能運算和大規模分散式處理領域中最佳的網路公司,此公司與 NVIDIA 密不可分且非常珍貴,於 2019 年被NVIDIA收購。

黃仁勳指出,我們將整個資料中心轉換成一個運算單元,大家可能聽過他說,現代電腦就是一整個資料中心,資料中心即是運算單元,不再僅是個人電腦或是單台伺服器,而是整個資料中心在運行同一個工作,作業系統也將隨之改變。

這段資料中心的轉型歷程已廣為人知,過去3年,你們已見識到NVIDIA正在構建的一些想法,以及我們如何開始重新認識自己的公司。歷史上,沒有任何公司,尤其是科技公司,能長達5年公開其未來發展路線圖,並將計畫視為高度機密。然而,我們意識到 NVIDIA 已不僅是科技公司,更是基礎設施公司。

如何規劃基礎設施?黃仁勳說,土地、機櫃、電力,所有必要的基礎設施,全球各地如何融資?如果不知道我要打造什麼,怎麼可能做到這些呢?因此,我們以相當詳盡的方式描述公司路線圖,讓全世界的人都能參考並開始建立資料庫。

黃仁勳主題演講。林林攝 zoomin
黃仁勳主題演講。林林攝

10年後回頭看AI 已融入一切

NVIDIA現在是一家 AI 基礎設施公司,全球各地、各個產業及企業都會建構這樣的基礎設施。這些基礎設施其實類似第一次工業革命初期出現的電力系統,當時的喬治·西屋(Westinghouse)、西門子(Siemens)等人意識到電力將帶來全新基礎建設,這些設施成為社會基礎設施核心,這就是今日的電力網路。

數十年後,我們這一代人認識到另一種新的基礎設施—資訊基礎設施。起初沒有人能理解,但後來我們發現它就是網際網路,連結著萬物。現在出現了全新的基礎設施,建立於前兩者之上,那就是智慧基礎設施。

黃仁勳認為,知道現在說智慧基礎設施可能讓人難以理解,但他保證10年後你會回頭看,會發現 AI 已融入一切,並且是所有地區、產業、國家與企業不可或缺的一環。AI 成為這個基礎設施的一部分。這種基礎設施,就像網際網路和電力一樣,需要工廠,而這些工廠正是我們今日所打造的。

這不再是過去的資料中心,一個價值1兆美元,提供資訊與儲存功能,支援企業資源規劃(ERP)系統和員工的資料中心。雖有淵源,但將發展出完全不同的新型態,與傳統資料中心截然分離。

這些 AI 資料中心實際上是 AI 工廠,將能量轉化為極具價值的產出。這些產出被稱為「TOKEN」(AI運算單元)。公司開始討論上季和上月他們產出多少TOKEN,未來不久,還會討論每小時產出多少TOKEN,就像所有工廠一樣。

黃仁勳主題演講。林林攝 zoomin
黃仁勳主題演講。林林攝

NVIDIA從300億晶片產業發展到上兆美元AI產業

因此,整個世界已經根本改變。從 1993 年他創立公司之初,當時他在判斷市場機會大小,得出 NVIDIA 的商機巨大,達到 300 億美元,從一個 300 億美元的晶片產業,到價值約1兆美元的資料中心機會,再到現在規模將以兆美元計量的 AI 工廠與 AI 基礎設施產業。

這是我們將要迎向的令人振奮的未來,在核心基礎技術上,我們所做的一切皆建立於數項重要技術之上,當然,我經常談論加速運算和 AI。黃仁勳透過影片展示幾個新的東西,看到的一切都是模擬、科學和人工智慧,這裡看不到任何藝術作品,全都是模擬,只是碰巧也很美麗。

他說,怎麼可能一個晶片裡突然多了幾個元件,電腦的速度就突然提升了50倍、100倍呢?那毫無道理可言。所以,我們的邏輯是,如果你更了解它,你就能加速應用程式的執行,如果你能建立一個更適合加速運行的架構,能以光速執行99%的程式運行時間,雖然只佔5%的程式碼,這點十分驚人,大多數應用程式中只有小部分程式碼消耗了大部分的運行時間,我們就能做出優化。

因此,我們一個領域接著一個領域地發展,剛剛給大家看的是電腦圖形,我們還有數值運算,這是Coupai數值庫,Coupai是最普遍的數值計算庫,Arial是Shona,Arial是全球首個GPU加速的5G和6G無線信號處理系統。一旦軟體定義化,就能在上面加上AI,現在我們能將AI引進5G和6G。

基因組分析領域有Paragraphs,醫療影像有Monad,氣象預測有Earth 2,量子與經典計算機架構與系統有Quantum。Q-infravariance與Q-tensor負責張量收縮的數學計算。Megatron這一整排,整欄,涵蓋了我們所有深度學習必須的訓練與推理函式庫。它革命化了計算技術,而這一切都始於這些函式庫。

不僅是CUDA,還有QDNN。在QDNN之上,有Megatron;Megatron和Tensor RTLM。最近還有全新為大型AI系統設計的作業系統Dynamo。QDF則用於數據框架,如Spark和SQL,結構化數據也能被加速。QML是經典機器學習。Work是一個用Python描述CUDA核心的框架,極其成功。

還有數學運算和優化問題,比如旅行推銷員問題,以及可用於供應鏈優化的高度約束、多變數優化問題,這是極大的成功。他對QOP非常有信心,QDSS和QSparse是稀疏結構模擬器,用於CAD及其流體力學計算和有限元素分析,這對電子設計自動化(EDA)和CAD產業極為重要。

當然還有QLitho,這是計算光刻領域中最重要的函式庫之一。數學建模過程可能長達一個月,且計算非常密集。現在有了QLitho,計算速度能提升50倍到70倍,因而為未來將AI應用於光刻奠定了基礎。

黃仁勳再度提到有很棒的合作夥伴,台積電大量使用QLitho,ASML和Synopsys也是NVIDIA在QDSS和QLitho方面的優秀合作夥伴,這些函式庫是讓我們能夠針對不同科學領域與物理領域加速應用的關鍵,也為我們開創新市場。

觀察特定地區和市場,認為那些領域能真正被轉型為新型態的計算方式,多年來,通用計算已到達瓶頸,為什麼不會在所有行業都遇到這樣的局限?電信產業當然是其中最重要的行業之一。

正如全球的雲端資料中心已成為軟體定義,我們理應也要讓電信軟體定義化。這就是為什麼我們花了6年時間來精煉和優化全加速無線接入網路(RANSTA),其性能驚人。在每瓦特的傳輸速率方面,我們已經達到最先進的ASIC同等水平,一旦達到這個性能和功能水平,我們就能擴展涵蓋增強現實(AR)的應用。我們有強大的合作夥伴,如SoftBank、T-Mobile、EdoSan和Vodafone進行試驗,Nokia、Samsung、EOSERA與我們合作全棧研發,Fujitsu和Cisco負責系統。

現在,我們具備將AI融入5G和6G的能力,也結合AI與計算領域。我們還在推進量子計算。量子計算仍處於嘈雜中介規模階段,但已有許多可用的良好應用,令人興奮。

黃仁勳主題演講。林林攝 zoomin
黃仁勳主題演講。林林攝

下載知新聞APP

⭐️ 即刻下載《知新聞》App!免費!