凌晨 3 點，病歷系統跳出一則警示，螢幕上寫著這名病人可能正在走向敗血症。
&nbsp;
值班醫師同時照顧著多名病人，必須在幾分鐘內決定要立即抽血檢查、開始治療，還是繼續觀察。然而，畫面只給出計算結果，沒有交代體溫、心跳、白血球與既往病史如何影響判斷，也看不出模型是以哪一群病人的資料建立，對眼前這名剛開完刀、患有慢性腎病的高齡病人是否仍然適用。
&nbsp;
醫療 AI 的難題也正在這裡。系統可以迅速指出風險，卻未必交代這項判斷在什麼條件下成立，醫師仍要在有限時間內決定是否改變處置。這項決定不能只建立在一個分數上，醫院也必須持續檢查模型是否仍適用於本院收治的病人。即使模型無法完整說明每一次判斷，誰負責驗證、誰持續監測，以及誰能在必要時按下暫停，都必須事先界定。
&nbsp;
這些問題不只出現在單一科別或單一產品，而是每一家導入 AI 的醫院都必須面對的治理課題。臺北榮民總醫院李偉強副院長與奇美醫院林宏榮院長，分別從責任歸屬與模型揭露的角度提出觀察。
&nbsp;
同一套模型換一家醫院，成績為什麼就不一樣
以可能迅速危及生命的敗血症為例：感染引發的免疫反應若失去平衡，可能反過來損傷器官，病情在短時間內惡化。愈早辨識並展開治療，病人愈有機會避免嚴重後果。
&nbsp;
美國電子病歷大廠 Epic 因此將敗血症預測模型直接整合進病歷系統，每 15 分鐘彙整一次住院病人的資料，找出風險較高者。到 2021 年，這套模型已在全美數百家醫院使用。
&nbsp;
那麼，這套敗血症預測模型的效能如何呢？Epic 提供的效能資料顯示，這套模型的 AUC 介於 0.76 至 0.83。密西根大學的研究團隊用自家醫院的住院資料重跑一次，得到的則是 0.63。
&nbsp;
AUC 是模型能不能分辨出「誰得病的風險比較高」的能力。假設每次拿一名後來發生敗血症的病人，和一名沒有發病的病人讓模型判斷，AUC 為 0.63，代表比較 100 次，模型大約有 63 次會把後來發病的人列為風險較高。但以機率來看，如果完全隨機猜測，也會猜中約 50 次。因此，這套模型雖有判別能力，但也只比隨便猜好一點。
&nbsp;
至於系統實際會發出多少警示，則取決於醫院把警示門檻設在哪裡。所謂警示門檻，就是病人的風險超過一定分數，系統才發出警示。門檻設得低，可以抓到更多可能發病的病人，但也會讓更多最後沒有發病的人收到警示；門檻設得高，警示雖然減少，卻可能漏掉真正需要處理的病人。
&nbsp;
密西根大學將警示門檻設為 6 分，落在 Epic 建議的 5 至 8 分範圍內。在這個門檻下，真正發生敗血症的病例中，約有 3 分之 2 未在發病前被模型辨識出來；而在收到警示的病例中，只有約 12% 最後真的發生敗血症。換句話說，臨床人員平均每評估 8 位被模型標示的病人，才會遇到 1 位最終發病者。
&nbsp;
這些數字說明了模型表現如何，卻沒有回答一個更根本的問題，就是它為什麼這樣判斷。模型是廠商的專有技術，醫院看得到分數，卻看不到分數怎麼來的，不知道它參考了哪些資料、哪一項的份量比較重，也查不出它在哪一類病人身上比較容易失準。這就是所謂的黑箱，能看見結果，看不見過程。而且落差不只出現在密西根一家。另一項研究比較同一醫療網底下的 9 家醫院，同一套模型的判別能力從 0.55 到 0.73 不等，最低的那家僅略高於隨機猜測。
&nbsp;
李偉強副院長指出，訓練資料裡的族群、年齡、疾病嚴重度與盛行率都不一樣，模型的表現自然會跟著變。林宏榮院長則用「橘逾淮而為枳」來形容這件事，同一套模型換了資料環境，長出來的結果本來就可能不同。
&nbsp;
對醫院來說，這才是黑箱棘手的地方。原廠資料與別家醫院的成績不能取代在地驗證。病人組成與臨床環境也會改變，因此驗證不能只做一次。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/09/10-4.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">Epic 敗血症模型雖已被數百家醫院採用，外部驗證仍出現效能落差，顯示原廠成績不能取代醫院的在地驗證。</div>
</div>
</div>
</div>
</div>
&nbsp;
當警示變成「狼來了」，門檻該設在哪裡
那麼在兩次驗證之間，醫院要看什麼？即使看不見模型內部，醫院仍能追蹤它上線後的表現。警示量是否突然增加、醫護人員是否持續回應，都是模型在臨床現場留下的訊號。
&nbsp;
警示的多寡，取決於門檻。李偉強副院長指出，門檻要設在哪裡，其實要看這套系統的用途：如果是用於篩檢，寧可放寬一點，敏感度高、多抓一些，後續再排除；但像敗血症警示這種直接進到臨床現場的提醒，就需要較高的特異度，否則第一線會被大量不必發生的通知淹沒。
&nbsp;
李偉強副院長用「狼來了」形容這種處境，「喊得太多次，真正需要反應的時候，就沒有人動了。」
&nbsp;
新冠疫情第一波期間，敗血症警示的負擔迅速增加。一項涵蓋美國 4 個醫療系統、24 家醫院的研究發現，在各系統出現首例新冠肺炎病人前後 3 週內，因選擇性手術停擺，住院人數減少了 35%，敗血症警示卻反而增加 43%。也就是說，病人變少了，醫護人員需要處理的警示卻更多。密西根大學的護理人員反映，警示已經多到難以負荷，院方最後暫停由模型觸發的敗血症警示。
&nbsp;
這項研究沒有檢驗模型當時是否失準。警示變多可能只是反映住院病人的病情較重，也可能是病人組成改變，使模型原本學到的規律不再適用。無論原因為何，院方都需要重新檢查輸入資料、誤報比例與原有門檻是否仍符合現場負荷。
&nbsp;
後續研究顯示 Epic 第二版的判別能力已經改善，但各醫療系統要達到相同敏感度，仍須採用差異明顯的門檻。值得注意的是，Epic 之後也改寫了演算法，並開始建議醫院在臨床部署前，先用自己的病人資料訓練模型，這也顯示連廠商自己都承認了在地訓練的必要。產品可以升級，在地驗證與上線後的監測仍然省不掉。
&nbsp;
李偉強副院長把 AI 軟體比作新藥，通過審查不代表可以一次驗證、永久使用，進入臨床後仍需要上市後監測。針對臺北榮民總醫院院內使用的各項 AI 模型，院方會持續追蹤準確性、醫護人員的使用率與病人的治療結果。而當模型表現下滑到可能危及病人安全，就應該停用；外購軟體若未達標準也可能不再續約。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/09/10-5.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">警示太多可能產生「狼來了」效應。模型上線後，醫院仍須持續監測門檻、誤報比例與臨床負荷。</div>
</div>
</div>
</div>
</div>
&nbsp;
打開黑箱之後，醫院能看見什麼
「AI 永遠不可能說清楚。」李偉強副院長說。他認為醫療判斷本來就存在不確定性，同一名病人交給不同醫師，也可能得到不同意見。既然模型無法百分之百還原每一次推論，他把治理重點放在使用界線與責任歸屬。
&nbsp;
林宏榮院長則把重點放在盡可能揭露模型資訊。「黑盒子要給它打開。」他表示，院方會要求廠商說明模型使用了哪些特徵值、資料從哪裡來，但他也承認這件事通常無法做到百分之百。
&nbsp;
兩人談的其實是同一件事的兩端。李偉強副院長從「打不開之後怎麼辦」出發，將治理的重點放在使用界線與責任歸屬；林宏榮院長則從「能開多少就開多少」出發，強調盡可能揭露模型使用的資料與判斷依據。
&nbsp;
這兩條路並不互斥，實際上也需要同時存在——揭露得再多，仍然需要有人劃出使用界線；界線劃得再清楚，醫師也還是需要足夠的資訊，才能判斷眼前這個警示能不能信。兩位醫師強調的重點不同，但都指向同一件事：黑箱打不開，不代表醫院無事可做。
&nbsp;
奇美醫院的做法，是在預測畫面上盡可能交代判斷依據。以急診胸痛病人的病情預測為例：畫面除了心肌梗塞與死亡的風險數值，右側還會列出這次預測使用的病人資料，包括年齡、性別、慢性病史與檢驗數值等，下方另註明模型使用的資料年份與病歷筆數。醫師看見的不只是預測結果，還有它成立的條件。
&nbsp;
奇美也以 SHAP 特徵重要性圖呈現模型的判斷傾向，也就是把預測結果拆開，計算每一項資料各自把風險提高或拉低了多少，藉此看出模型主要依賴哪些變項。不過，這類圖表呈現的是模型在整群病人上的傾向，仍無法完整解釋單一病人這次為何得到特定結果。
&nbsp;
除了畫面上的揭露，奇美醫院另有一套稱為 ABCDE 的查核架構，交叉運用另一套 AI、院內既有的統計工具與使用者回饋來驗證預測結果，並要求廠商揭露特徵值、演算法與資料來源。院方也將這些要求寫進制度，為自行開發的 AI 訂出六項規範，涵蓋人員把關、風險控管、回饋通報，以及盡可能提供可解釋的機制。
&nbsp;
不過，這六項規範的適用對象明確寫的是院內自行開發的 AI。至於受營業祕密保護的外購產品，醫院能要求對方揭露到什麼程度，目前仍沒有明確答案。林宏榮院長表示，院內外購產品不多，很難說出一套統一標準。
&nbsp;
而界線該劃在哪裡，李偉強副院長認為應該依用途分層。愈是直接用於診斷與治療、判斷會立即影響病人的模型，愈需要嚴格的驗證與可解釋要求；不同用途的 AI，本來就不必套用同一套標準。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/09/10-6.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">醫療 AI 難以完整解釋每次判斷，揭露模型來源、特徵值與驗證依據，有助醫師掌握預測結果的適用條件。</div>
</div>
</div>
</div>
</div>
&nbsp;
醫師簽了名，就等於完成覆核了嗎
揭露到什麼程度、分層到什麼標準，最後都會落到同一個人身上。不論模型交代得多清楚，最後按下確認的還是醫師。AI 提供的是建議，要不要照著做，責任仍在醫師身上。這個分工並不是 AI 出現以後才有的。李偉強副院長以心電圖自動判讀為例，機器早就會把判讀結果直接印在報告上，但那份報告至今仍須由醫師確認並簽名。
&nbsp;
問題在於，簽名不必然等於實質覆核。
&nbsp;
如果醫師看不到模型根據什麼下判斷，或者長期習慣了系統給的答案，那個簽名處理的只是責任歸屬，並沒有真的檢查過內容。要讓簽名不只剩下程序，醫師還需要具備 AI 知能，不必學會撰寫程式，但必須看得懂系統產出的結果，辨認哪些資訊可信、哪些可能出錯。
&nbsp;
被問到年輕醫師會不會過度依賴 AI，林宏榮院長的回答分成三層。他先說這件事很難完全避免，因為新一代醫療人員本來就是 AI 原生代。接著他說，醫院能做的是再引進另外一個AI來查核。
&nbsp;
最後他補上一句：無論用 AI 驗證 AI、用統計工具驗證 AI，還是用人腦驗證 AI，未來都會愈來愈困難。這句話出自一位正在推動院內 AI 治理的院長，份量不輕——它意味著現在建立的查核機制，有效期可能是有限的。多重查核能增加發現錯誤的機會，卻不該被當成消除風險的保證。
&nbsp;
兩位受訪者對責任的答案是一致的：AI 是輔助，最後的醫療決定與責任都在醫師身上，模型本身不承擔法律責任。
&nbsp;
但責任明確，不代表覆核的條件就已經齊備。醫師要能實質查核AI的建議，得先有足夠的資訊、時間，以及一套支持他做出不同判斷的制度。因為如果不採納建議的風險全由醫師承擔，跟著 AI 走反而會是最安全的選擇，反而失去查核意義。
&nbsp;
至於醫師的判斷與 AI 不同時該怎麼處理，奇美醫院的原則是以醫師為準，並在事後回頭檢討 AI 的建議為什麼沒有被採納。不過，當醫師未採納建議時是否需要留下紀錄、這些紀錄又該如何檢視，目前各醫院並沒有一致的標準。
&nbsp;
黑箱未必全開，醫院的治理不能留白
當可解釋性做不到百分之百，責任也不能只靠醫師的最後簽核，問題就回到醫院身上。
&nbsp;
密西根大學的經驗說明了在地驗證能發現什麼，臺北榮民總醫院與奇美醫院則各自在模型之外建立了治理機制。但制度到位不代表問題已經解決，突發的環境變化仍可能讓警示超出現場負荷，各院對模型應揭露到什麼程度也尚未形成一致標準。
&nbsp;
回到凌晨 3 點那個畫面。螢幕上仍然會跳出一個無法完整說明自己的分數，值班醫師仍然得在幾分鐘內決定要不要行動。這個決定能不能站得住，不只看醫師當下判斷得對不對，也看在他按下確認之前，醫院是否驗證過這套模型、持續追蹤它的表現，並事先劃出可以使用與必須暫停的界線。
&nbsp;
（客座總編輯｜衛生福利部資訊處處長暨臺大醫學院急診醫學科教授李建璋；研究顧問團隊｜臺北榮民總醫院李偉強副院長、奇美醫院林宏榮院長；責任編輯｜王喆宣、宜稜）