解決多張處方箋用藥檢查與劑量過多的風險
對於客戶而言,只要能提供對應的Token,多數並不在意背後使用的是哪一種模型,這也讓開源或替代方案有了切入的空間。
因此華碩早在10年前就切入醫療/藥局產業,吳漢章說,藥局服務社區老人,常有老年人慢性病共病、拿多張處方箋、用藥檢查與劑量過多的風險,但藥師人力有限無法一一詳查,這是醫療/藥局產業的痛點。
而華碩跟台智雲透過透過合作邊緣運算(Edge AI)模型,讓藥師拍攝處方箋後,系統能自動交叉比對並指出用藥風險與劑量問題,大幅提升藥局與老人的意願。
GPU還是ASIC晶片端看客戶需求
吳漢章分析, 企業對於GPU還是ASIC晶片的選擇,就要看其需求,像是GPU方案,其靈活性高,適用於各種 AI 任務,但若要替換昂貴的設備,企業需要精算第一年的建置成本與後續省下的費用。
至於ASIC方案,它的優勢在於,若企業自行建立客製化晶片,成本可能降至原本的10分之一,且有助於降低 Total Cost of Ownership(TCO,總體擁有成本)。但也有缺點,相較於訓練算力(Training)大多採用通用GPU,推論算力(Inference)使用ASIC 的比例逐漸增加,因為只鎖定特定功能的Token 推論,較能節省成本,且有機會轉換至其他技術或晶片。
談到開源模型(Open Source)的優勢,吳漢章表示,許多企業開始積極擁抱開源模型,其公開資訊與順利執行的特性雖然可以讓毛利率較高,但模型本身的價格也相對高昂。


