廣告

叫陣輝達!OpenAI:自研晶片兩大測試指標領先 強攻「高吞吐、低延遲」推理市場

OpenAI表示,其新款自製AI晶片的效能,優於輝達處理器。圖為OpenAI的LOGO。法新社 zoomin
OpenAI表示,其新款自製AI晶片的效能,優於輝達處理器。圖為OpenAI的LOGO。法新社
分享 分享 連結 訂閱 APP

【編譯張翠蘭/綜合外電】美國科技巨頭OpenAI正挑戰人工智慧(AI)晶片霸主輝達(Nvidia)的地位,近日表示,其新款Jalapeno晶片在測試中的表現,優於輝達現有的系列產品,凸顯該公司在自主研發AI處理器方面的進展。

本文大綱

彭博8月25日報導,OpenAI表示,Jalapeno處理器在測試中的兩項指標上都領先:單位功耗下可處理的AI工作量以及回應速度。

OpenAI晶片負責人何理察(Richard Ho)8月24日在接受採訪時表示,該半導體晶片的競爭對手是輝達的GB300;該款晶片是目前公開基準測試系統上表現最好的選項。

作為熱門AI聊天機器人ChatGPT的研發商,OpenAI計劃在今年稍後開始使用Jalapeno晶片來支援其AI模型,加入目前由輝達主宰的AI晶片市場行列。

OpenAI自研晶片助降成本

何理察25日在彭博的最新訪談中也表示,隨著新晶片的更廣泛應用,將顯著降低OpenAI的成本。他說道:「這是一款非常優秀的晶片,應該能大幅降低成本。」只要OpenAI能夠提高Jalapeno的產量,且成本節約能夠達到預期水平,公司就計劃使用自研晶片處理更多的AI任務。

這款Jalapeno晶片是OpenAI與半導體與基礎設施軟體設計公司博通(Broadcom)合作開發;兩家公司去年宣布合作協議,並在今年6月盛讚該處理器的開發速度,稱其以創紀錄的速度完成。

🔗 延伸閱讀《路透:OpenAI攜手博通、台積電推出自研AI晶片 預計2026年推出》

OpenAI以自主研發的新型晶片,跟輝達GB300處理器進行基準測試。圖為在輝達工作人員2025年5月21日在台北國際電腦展上,展示HGX B300、GB300 RTX Pro伺服器、運算托架和 NVLink交換托架的HGX平台。美聯社 zoomin
OpenAI以自主研發的新型晶片,跟輝達GB300處理器進行基準測試。圖為在輝達工作人員2025年5月21日在台北國際電腦展上,展示HGX B300、GB300 RTX Pro伺服器、運算托架和 NVLink交換托架的HGX平台。美聯社

兼顧高速與省電的AI新晶片

何理察表示,通常情況下,有些晶片更擅長運行AI任務,有些則更擅長快速回應,但Jalapeno晶片兼具兩者優勢。何說:「在實驗室中,Jalapeno晶片在高吞吐量和低延遲兩個方面都表現出色。高吞吐量意味著能夠以更低的成本服務更多客戶,而低延遲則意味著對於那些重視回應速度的客戶來說,速度將非常非常快。」

OpenAI將決定哪些AI模型將在Jalapeno晶片上運行,客戶可以根據自身需求選擇更經濟或更高性能的方案。

同時,由於該晶片在低功耗(700瓦)下就能取得優異的效能表現,Jalapeno可以幫助OpenAI在營運資料中心時省下不少電費成本,畢竟電力是資料中心最主要的開銷之一。

AI推理晶片市場群雄並起

Jalapeno晶片尚未與輝達剛開始出貨的新一代晶片Vera Rubin進行比較測試。此外,Jalapeno晶片也並非專為訓練AI模型而設計,而這正是輝達技術的優勢所在。Jalapeno旨在用於AI的推理階段,即模型已經訓練完成,並可以開始回應提示和處理任務的階段。

其他新創公司也在研究類似產品。 Etched上周宣布完成融資,估值達210億美元(約6687億元台幣),目前已開始出貨一款低電壓晶片。而由兩位Google晶片業務前員工創立的MatX公司,正在研發一種能同時實現高吞吐量和低延遲的半導體裝置。

 

2026michelin

⭐️ 即刻下載!無廣告《知新聞》App

# OpenAI # AI晶片 # Jalapeno
爽夏節 85折