良率是產業核心指標，攸關AI基礎設施的未來
Rani Borkar表示，「良率並不是一個華麗的詞彙，但沒有哪個詞比『良率』更能塑造現代世界。良率只問一個簡單的問題：究竟產出了什麼？」半導體產業60多年來持續追問這個問題，現今AI投入資源空前，同樣需要面對「投入」與「產出」如何平衡的課題，「這正是我們今天要探討的：負擔得起的智慧、有價值的實務應用，以及能改善生活的成果。」
她指出，當前AI採用尚處於初期，全球勞動人口中僅約18%使用AI，大多集中於對話聊天等單一任務，未來發展將轉向具備推理、規劃、工具使用等能力的代理型系統（Agentic Systems），帶來更高的Token消耗與基礎設施需求變革。
突破傳統「追加投入」的瓶頸，迎向效率革命
傳統提升基礎設施效能多依賴「追加」，更多矽晶圓、更多記憶體與電力，但這種方法成本快速飆升，類似1950年代農業施加更多肥料卻導致莖稈倒塌的局面。Borkar引用諾曼·布勞格（Norman Borlaug）育種半矮性小麥的故事，指出成功關鍵在於「將『投入』更有效率地轉化為『產出』」，而非盲目追加。AI基礎設施亦需從「如何建造更多」轉向「如何更好地利用現有資源」。
🔗 延伸閱讀《半導體展周三登場規模創新高！三大CSP與晶片巨頭齊聚 引爆10萬人潮》
🔗 延伸閱讀《4大雲端巨頭上修今年資本支出創新高！ 研調示警：財務考驗才開始》
🔗 延伸閱讀《微軟自研AI晶片Maia 300最快9月亮相 最終目標爭取台積電百萬顆代工產能》
從矽晶圓到資料中心，全堆疊優化共創價值
他強調，優化良率必須涵蓋多個層級，從晶圓製造、模型建構，到代理系統架構與協同運作。任何層級的效率損失都會造成整體產出大幅衰減。以微軟內部研發的AI加速器Maya 200為例，Borkar說，「記憶體瓶頸無法在單一層級解決，必須跨越整個技術堆疊來處理。」透過模型架構優化、資料科學、壓縮技術、軟體管理及矽晶設計的協同，成功提升了整體系統的人工智慧交付量。
重新定義網路與電力設計，強化系統可擴展性與效率
面對日益高密度的推理集群，傳統透過提升鏈路速度的方式已不足以維持高效，需從晶片設計、網路架構與系統軟體整合出發。微軟的雙層Scale-up網路架構，將NIC直接整合晶片與傳輸層，成就了高密度推理集群的可擴展性能與一致效能，同時減輕了網路硬體成本，增強了系統的工作負載彈性與利用率。
電力方面，Borkar提到，「電力已不再是系統的下游產物，而是設計核心。」從固態變壓器到800V直流電減少能源損耗，及Cobalt伺服器CPU內建精細電壓與頻率控制，讓同等百萬瓦電力可支持更多伺服器產出，推動電力資源的最大化利用。
兩條未來路徑：演進與轉型並進
Borkar提出，未來必須同時推動：1. 演進路線：持續優化現有架構，提高效率與經濟效益。 2.轉型路線：重新思考基本設計架構、材料與模型建造方法，達成跨越式發展。她說：「當頻率縮放遇到功耗牆，我們轉向多核心；平面NAND邁向3D堆疊。如今，我們再一次面臨重新設計的機會。」
良率提升帶來社會實質價值
將技術提升化為真正成就，最終呈現在人們生活中，如預防疾病、氣象風暴預警、教育輔助與支持小型企業發展。 Borkar感慨，「許多人從未關注晶圓，但它們所承載的設計與努力，正在默默產生數兆個Token，為全球帶來醫療、氣象與生活幫助。」她形容這種隱形影響為「Invisible Lead」─智慧無所不在，平價且自動幫助每個人。
