人物|賴俊豪曾帶領創意電子成功IPO 今轉戰新創Skymizer專注AI推論晶片受關注
【記者蕭文康/台北報導】曾任創意(3443)電子總經理長達13年的賴俊豪,自2016年退休後,應大學同學邀請自2022年擔任AI運算新創Skymizer(台灣發展軟體科技董事長暨執行長,近日正式發表其首款實體AI推論晶片「HTX301」,專注於推論(Inference)與解碼(Decode),由於這款晶片號稱只需要28奈米製程、不需要昂貴的HBM,功耗更僅需325瓦,就可以跑 像DeepSeek-R1(671B)接近兆級參數的超大模型,預期達到每秒20個Token的解碼速率,他更透露明年第1季就會量產出貨,因此受到半導體業界關注。
曾任創意電子總經理13年、2016年退休
賴俊豪1981年畢業於台大電機系,後來前往美國求學獲加大聖塔芭芭拉分校電機碩士,在美國生活期間曾任職LSI Logic及東芝,並創設ASICtronics Solutions公司,後至台積電北美Office負責設計服務及新興客戶群。他2003年返台並出任台積電旗下創意電子總經理逾,期間成功帶領公司掛牌上市,並獲頒2009年國家傑出經理人獎,2016年9月退休並創意電子顧問等。
應大學同學邀請重出江湖任Skymizer董事長暨執行長
2016年自創意電子退休後,他談到這近幾年的發展,透露往AI運算發展,其實是因為自己的大學同學、英特爾前副總裁王文漢,同時也是Skymizer大股東,在2022年時邀請他執掌Skymizer,因此接下董事長暨執行長一職。
量產板晶片容量仍為512GB、參數量近1兆
談到公司最新產品,他很有信心的說,「我們的量產板晶片很簡單,但板卡客戶要提醒考慮量產板的複雜度,目前量產板是一個標準的PCI-E卡,比PCI-E卡稍小一點。標準PCI-E卡可以放四套晶片,四套晶片容量512GB,能處理500BPM模式,之前談到過六套晶片客製卡,比標準卡稍大,但現在我們改變想法,量產板除了可以做四套外,目標做到八套晶片也就是一張卡八套,容量仍為512GB,參數量近1兆,這是一個創舉」,而這個單卡可以跑超大模型,適合企業自主控管,不用靠雲端解決方案,避免月費與資安問題。
賴俊豪指出,雖然目前量產板所採用的晶片架構相對簡單,但為了滿足客戶對板卡性能的嚴格要求,團隊正積極推動技術升級,挑戰超越標準PCI-E卡的硬體規格,打造更高效、更穩定的AI運算解決方案。目前市場上的標準PCI-E卡可支持四套晶片運作,容量達512GB,能處理約500BPM的運算模式。
技術創新滿足企業對大模型運算的剛性需求、實現「自主可控」運算環境
他強調,這項技術創新不僅滿足企業對大模型運算的剛性需求,更實現「自主可控」運算環境。現今多數企業依賴雲端平台跑AI模型,雲端服務雖提供便利,但存在資安疑慮與高昂且不斷累積的月費負擔,而新推出的量產板方案可讓企業在自有機房甚至是桌面端直接部署,避免資料外洩風險,同時不受訂閱Token限制,真正做到「吃到飽」無限制運算。
在硬體設計方面,新量產板採用簡易散熱系統,無需複雜昂貴的冷卻配置,只需基本風扇即可維持良好運作溫度,降成本並提升系統穩定性與維護效率。這使得企業能夠以更低的成本與更少的維護成本使用高性能AI運算卡,大幅提升普及率並加速應用落地。
「HTX301」採用台積電28奈米製程
此外,賴俊豪說明,最特別的是,「HTX301」目前採用台積電28奈米製程就可以滿足需求,不需要太先進的製程,大大降低晶片生產的成本,但未來將有12奈米與6奈米版本,期待在下一屆的COMPUTEX能展現下一代產品,持續引領AI硬體創新。



