廣告
快訊
KNEWS
⚡
最多降低逾8成輝達H20晶片用量 阿里巴巴旗下阿里雲解決方案「Aegaeon」這樣突破盲點
出版時間：2025/10/19 15:36
【記者李宜儒／台北報導】中國阿里巴巴旗下阿里雲提出計算池化解決方案「Aegaeon」，據稱該解決方案將透過大幅提升GPU利用率的方式，根據目前在阿里雲百鍊平台的應用分析，最多可降低82%輝達H20晶片的採購量。
H20 GPU使用量從1192個降到213個
根據科創板日報報導，阿里雲模型市場在一個為期超過3個月的測試中，Aegaeon系統運作數十個參數量高達720億的大模型，其所需要使用的輝達H20 GPU數量，從1192個降到213個，換言之，節省比率達82%。
根據實驗數據顯示，在阿里雲模型市場中，GPU的資源其實閒置相當多，大約僅有17.7%的GPU算力是僅用於處理1.35%的運作需求，而Aegaeon解決方案則是通過創新的GPU資源池化技術，讓單顆GPU可以動態調整服務不同的AI模型，直接突破原本一個模型綁定一個GPU的低效模式。
而這個技術是由北京大學與阿里雲合作的研究成果，被外解認為是第一個解決大語言模型過高成本的方案。
