廣告
AI幻覺恐致醫療錯誤！ 馬偕臨床輔助系統登輝達GTC Taipei發表
【記者賴昀岫／台北報導】輝達（NVIDIA）執行長黃仁勳來台刮起炫風，GTC Taipei的各項發表，也是外界關注重點。除了科技大廠競逐，馬偕醫院也登上舞台！2名醫師受邀發表專題演講，說明當今醫療產業導入AI的技巧與發展，並點出現在讓醫療界最在意的問題已不只是「AI會不會回答」，而是「能不能相信AI的回答」，並分享院內開發，用於臨床決策輔助的「實證醫學輔助（EBM Guardian）」系統；以及生成式AI於生醫研究、細胞研究與生醫運算等。
生成式AI 容易出現錯誤、虛構或毫無根據的論述
EBM Guardian強調如何透過生成式AI協助醫師快速查找醫學文獻、整理實證資料，縮短臨床資訊搜尋時間，建構具備實證醫學基礎，可信任的臨床AI輔助流程。馬偕醫院總院長張文瀚表示，臨床現場醫師面對大量的醫學資訊，必須根據患者臨床狀況在極短時間內做出判斷。這套系統的開發，就是希望透過AI協助醫師更迅速的掌握醫學證據，減少重複搜尋與檢視時間，讓醫療團隊能把更多心力放回病人照護本身
馬偕醫院數位醫學部應用醫學科主任黃崇堯取得NVIDIA「生成式AI大型語言模型專業架構師（NCP-GENL Certified）」認證，他在專題演講中提出，生成式AI雖然具備強大的語言生成能力，溝通無礙，但其中不乏生成看似合理、語氣肯定，但實際上完全錯誤、虛構或毫無根據的論述。
醫療決策也不能只靠「AI認為」
AI回答再流暢，醫療決策也不能只靠「AI認為」，黃崇堯直言，若缺少實證資料與驗證機制，也可能出現錯誤資訊或與臨床事實不符的「幻覺（Hallucination）」，EBM Guardian並非只是讓AI「生成答案」，而是建立一套具備醫學證據基礎、可追溯來源且可被驗證的臨床輔助流程。
黃崇堯指出，過去完整的實證醫學流程往往需要花費數小時甚至數天，EBM Guardian將AI與實證醫學流程結合，系統可協助醫師將臨床問題拆解為病人狀況、治療方式、比較項目與預期結果等醫學檢索架構，主動搜尋PubMed等醫學資料庫，並整理重要研究與文獻重點。
輔助技術將結合NVIDIA最新2大亮點
黃崇堯說，為降低生成式AI可能因訓練資料偏差、推論錯誤或引用資訊不完整而產生錯誤內容，同時也導入多層驗證與AI稽核機制，第一時間生成的結果將經由另一組AI進行驗證，降低大型語言模型產生或引用錯誤資訊的風險，此系統主要在醫院內部運作，避免敏感醫療資料直接傳送至外部雲端，兼顧AI應用與資訊安全。
黃崇堯補充，隨著生成式AI與大型語言模型逐步進入醫療應用，背後其實也需要高效能運算能力支援，除了AI模型本身外，此次也結合NVIDIA最新AI運算平台與大型語言模型優化技術，希望即使在多人同時使用情境下，仍能維持系統穩定性與臨床使用效率。
馬偕瞄準AI生醫研究與精準醫療領域
除臨床決策輔助外，生技醫療部教授暨資深顧問醫師李光申分享馬偕醫院於AI生醫研究與精準醫療領域的發展方向，包括生成式AI於生醫研究、細胞研究與生醫運算等應用，並持續與產業及研究團隊合作，串聯跨團隊整合，以解決臨床痛點為目標，結合需求與研究，推動AI技術發展，讓成果得以實際應用於臨床。
