廣告

台智雲吳漢章:萬人級大型公司年花逾4000萬在AI運算未來還會再增加 華碩透過開源模型切入醫療/藥局產業

台智雲總經理吳漢章。取自華碩官網 zoomin
台智雲總經理吳漢章。取自華碩官網
分享 分享 連結 訂閱 APP

【記者李宜儒/台北報導】華碩旗下台智雲總經理吳漢章表示,萬人級的大型公司,一年花在AI運算上的費用可能高達 4000萬至5000萬元,且未來可能持續增加,因此目前市場上普遍存在降價競爭的趨勢,特別是晶片與模型,促使企業積極尋找開源模型或替代方案來節省成本。

本文大綱

解決多張處方箋用藥檢查與劑量過多的風險

對於客戶而言,只要能提供對應的Token,多數並不在意背後使用的是哪一種模型,這也讓開源或替代方案有了切入的空間。

因此華碩早在10年前就切入醫療/藥局產業,吳漢章說,藥局服務社區老人,常有老年人慢性病共病、拿多張處方箋、用藥檢查與劑量過多的風險,但藥師人力有限無法一一詳查,這是醫療/藥局產業的痛點。

而華碩跟台智雲透過透過合作邊緣運算(Edge AI)模型,讓藥師拍攝處方箋後,系統能自動交叉比對並指出用藥風險與劑量問題,大幅提升藥局與老人的意願。

GPU還是ASIC晶片端看客戶需求

吳漢章分析, 企業對於GPU還是ASIC晶片的選擇,就要看其需求,像是GPU方案,其靈活性高,適用於各種 AI 任務,但若要替換昂貴的設備,企業需要精算第一年的建置成本與後續省下的費用。

至於ASIC方案,它的優勢在於,若企業自行建立客製化晶片,成本可能降至原本的10分之一,且有助於降低 Total Cost of Ownership(TCO,總體擁有成本)。但也有缺點,相較於訓練算力(Training)大多採用通用GPU,推論算力(Inference)使用ASIC 的比例逐漸增加,因為只鎖定特定功能的Token 推論,較能節省成本,且有機會轉換至其他技術或晶片。

談到開源模型(Open Source)的優勢,吳漢章表示,許多企業開始積極擁抱開源模型,其公開資訊與順利執行的特性雖然可以讓毛利率較高,但模型本身的價格也相對高昂。

2026michelin

⭐️ 即刻下載!無廣告《知新聞》App

# 華碩 # 台智雲 # 吳漢章 # AI運算 # 開源模型
爽夏節 85折