2016 年，AI 圍棋程式 AlphaGo 與韓國棋王李世乭對弈。在第二局的時候，AlphaGo 走出了膾炙人口的妙手，第 37 手把棋子落在五線，所謂的「五路肩衝」。在傳統棋理裡，三線占實地，四線取外勢，五線根本不在職業棋士的選擇範圍內，下了甚至會遭到老師責罵。但是，AlphaGo 就這樣落子了。在場的職業棋士說不出那步棋哪裡好，評論員甚至懷疑是系統失誤。直到看見後續變化以及反覆復盤後，棋士們才慢慢感受到那步棋可能是對的；但是，「為什麼是對的」，到現在仍然說不清楚。
&nbsp;
這不只是圍棋史上的一個插曲，也點出了 AI 快速發展至今一個越來越難迴避的核心問題：當 AI 給出答案時，人類不只想知道它對不對，也想知道它到底憑什麼這樣判斷。
&nbsp;
當 AI 超越舊規則，人類該怎麼理解它？
要理解 AI 的決策，必須先知道它是怎麼一步步變強的。國立陽明交通大學資訊學院吳毅成副院長從人腦運作的角度切入，說明 AI 能力演進的脈絡。
&nbsp;
他引用諾貝爾經濟學獎得主丹尼爾．康納曼的框架：人腦有兩種思考模式，一種是「快思」，也就是直覺式的反射反應，看到情境立刻作出判斷；另一種是「慢想」，需要逐步分析、深入推理才能形成結論。下圍棋時，高手看一眼棋局就知道幾個關鍵落點，那是快思；推算後續變化、找出陷阱和機會，那是慢想。
&nbsp;
早期的 AI 程式幾乎只靠慢想，工程師寫入一套規則，用搜尋演算法把所有可能的路線算遍，誰的計算深度夠，誰就贏。這種方式在過去對西洋棋程式十分有效，但是，圍棋的變化量非常大，所以無法用此種方式處理。
&nbsp;
AlphaGo 的突破，在於把快思和慢想結合起來。它用類神經網路學習大量的人類棋譜，讓模型對局面形成快速的直覺判斷，再搭配 蒙地卡羅搜尋樹演算法 深入推算。但是，AlphaGo 仍有一個根本限制：它的直覺，來自人類棋譜。它再怎麼聰明，起點也仍是模仿人類，況且人類的棋譜品質不一。
&nbsp;
後來出現的 AlphaZero，則不再依賴人類棋譜，而是從零開始自我對弈，讓模型用自己的對局結果不斷修正。這意味著 AI 的學習方式，已開始從「模仿人類」走向「自我迭代」。這個轉變之所以重要，不只是因為 AI 變得更強大，而是因為它做出的判斷，愈來愈可能超出人類原本熟悉的知識框架。換句話說，AlphaGo 與 AlphaZero 帶來的震撼，不只是證明 AI 能贏人類，更在於提醒我們：當 AI 的判斷不再傾注於沿著人類既有經驗往前走時，人類原本那套講得清楚的規則，就未必足以完整解釋它的決策。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/6-4內文圖：670x460-1.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">AI 下出人類看不懂的棋步，也揭示了可解釋性的根本困境。</div>
</div>
</div>
</div>
</div>
&nbsp;
模型越強，為什麼反而更難解釋？
吳毅成副院長指出，目前的大型語言模型很大一部分仍偏向「快思」，也就是快速生成回應，像是根據語境持續往下接最可能的字。但是，研究者正試圖讓模型具備更多「慢想」的能力，讓它不只是快速生成答案，也能展開推理和檢查，以及修正自己的答案內容。問題是，當模型同時具備更強的直覺與推理能力時，它的判斷過程也會變得更為複雜，解釋難度也可能隨之提升。
&nbsp;
也正因爲如此，吳毅成副院長認為，這件事其實迫使人們重新思考其他可能的解釋方式。過去，人們習慣把解釋理解為列出幾條規則，像是圍棋裡三線、四線各有什麼意義；但是，AlphaGo 的五路肩衝恰好說明了，有些原本講得很清楚的規則，未必足以涵蓋更高層次的判斷。對它來說，新的可解釋方式不一定是把答案硬整理成幾條固定的原則，而更可能是把後續主要變化、可能風險與判斷方向交代清楚，讓人理解模型為什麼是往這個方向走。
&nbsp;
但是，隨著 AI 越來越強，它的判斷也愈來愈可能超出人類原本熟悉的框架。吳毅成副院長也坦言，有些最強的答案，本來就很難再用簡單規則完整說清楚。這時，該怎麼向人類解釋它的決策，就成了難題。
&nbsp;
AI 說得出理由，就叫可解釋 AI 了嗎？
在 AI 的研究領域，「可解釋 AI」（Explainable AI, XAI）早已不是新名詞，近年卻因為 LLM 的普及而受到更廣泛的關注。很多人對「可解釋 AI」有一種直覺想像：既然叫做可解釋，那 AI 給出答案時，只要附上一段說明文字，告訴你它為什麼這樣判斷，這樣不就夠了嗎？
&nbsp;
然而，中央研究院資訊科學研究所王柏堯研究員的想法並非如此。他指出，AI 的預測只是根據訓練資料推算出機率上最可能的答案；但是，如果訓練資料不完整，或模型運作本身出錯，這個答案就未必可靠。正因為 AI 的答案不保證百分之百正確，所以我們才需要「解釋」，幫助人類檢視其是否合理，把關最終答案。然而，如果今天連這份「解釋說明」也是由同一套黑箱模型產生，那就可能出現另一個問題──也就是王柏堯研究員所直言的：「利用黑箱來解釋黑箱的答案，在邏輯上似乎有無法彌補的漏洞。」
&nbsp;
這不是憑空想像。國外曾有律師使用 AI 生成法律文件，結果文件中引用了根本不存在的虛構判決先例，最後受到法院懲處。這個例子說明，AI 的確可以給出看似完整的說明，但是那個說明本身也可能是錯的。這種「看起來很有道理，實際上全是錯誤」的現象，王柏堯研究員稱之為「假透明」：表面上你得到了說明，但那個說明可能根本站不住腳。更麻煩的是，假透明比完全沒有解釋更加危險，因為它會讓人誤以為自己已經理解了，進而卸下防備，不再進一步追問。
&nbsp;
申請核貸、拒絕錄取，或建議切除某個器官，企業或醫院不能只甩出一句「電腦如何說」的託辭，而必須具備可解釋人工智慧的能力。
&nbsp;
因此，他認為，在談可解釋 AI 之前，必須先問清楚：這個解釋，到底是為了什麼用途？
&nbsp;
以醫療為例，當 AI 預測某位病患罹患急症時，醫護人員需要的是清楚的推理脈絡，用來判斷 AI 是否可信；醫療系統商需要的是統計上的信賴區間，用來評估整體風險；醫院法務則是需要完整的系統操作日誌，作為未來萬一發生醫療糾紛時的查核依據。倘若把這三種需求混為一談來探討「可解釋 AI」，就很容易打造出一個上述任何問題都沒法實質解決的系統。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/6-5內文圖：670x460-2.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">可解釋 AI 的核心困境之一，是「解釋」本身也由同一套黑箱模型產生。王柏堯研究員將這種情況稱為「假透明」，AI 說得出理由，不代表那個理由可信。</div>
</div>
</div>
</div>
</div>
&nbsp;
可解釋 AI 不只保護當事人，也保護敢質疑 AI 的人
在王柏堯研究員眼中，XAI 最終指向的是一件非常具體的事：責任歸屬。
&nbsp;
他舉了一個情境：一位醫生根據臨床經驗，判斷 AI 給出的手術建議有問題，決定採取自己認為更安全的處置。後來發生醫療糾紛，但 AI 系統沒有留下任何可被審查的運算紀錄，而這位醫生很可能因為「沒有照著 AI 指示做」，直接成為究責之後的代罪羔羊。倘若系統具備可追查的紀錄，責任歸屬就有機會釐清：是模型本身出問題，還是醫生的判斷有誤，各有各의 依據可查。他說：「醫護或審核人員為求自保，必然盲目遵循 AI 的指示，這對有醫療需求的當事人來說，未必是福。」
&nbsp;
這個例子也揭露了一個常被忽略的現實：XAI 保護的不自由只是被 AI 影響的當事人，也保護那些有專業判斷、敢於質疑 AI 的第一線工作者。沒有可追查的紀錄，這些專業人員反而會陷入兩難，聽從 AI 怕出錯，不聽從又怕承擔所有責任。這種信任危機，特別容易出現在醫療、金融與法律等高風險場域。
&nbsp;
這也是為什麼王柏堯研究員對目前 XAI 技術的現況，其實抱持保留態度。他認為，現在很多方法雖然在不同層面上解釋了 AI 的運作，但這些解釋是否能幫助使用者判斷 AI 是否正確、能否在事故後作為究責依據，仍大有疑問。XAI 領域的問題不是缺乏技術，而是各種技術各自定義、各自解釋，沒有共同目標，導致發展分散卻難以達成真正需要的功能。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/6-6內文圖：670x460-3.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">AI 做了決定，出了問題誰負責？可解釋 AI 的價值在這裡。</div>
</div>
</div>
</div>
</div>
&nbsp;
AI 不必永遠說得清楚，但人不能失去追問的權利
從圍棋盤上那步一時說不清楚的五路肩衝，到醫療現場可能無法釐清責任的決策，可解釋人工智慧面對的問題，遠遠不只是「如何讓 AI 把道理講清楚」。它涉及的是當 AI 深入日常生活和高風險決策之後，人類如何維持應有的理解、判斷和追究能力。
&nbsp;
AlphaGo 那步五路肩衝，至今仍很難用幾句簡單規則講清楚；但是，棋士們已經逐漸接受，它可能是更好的答案。這提醒人們：AI 給出的答案，未必總能被人類完整翻譯成人類既有語言。真正需要守住的，不是要求機器永遠把每一步都說得清清楚楚，而是當這些答案開始影響醫療、金融、就業與司法時，人類仍然保有追問、核查、提出異議，甚至要求釐清責任的權利，這才是可解釋 AI 的真諦。
&nbsp;
（客座總編輯｜國立臺灣大學國家發展研究所劉靜怡特聘教授；研究顧問團隊｜國立陽明交通大學資訊學院吳毅成副院長、中央研究院資訊科學研究所王柏堯研究員；責任編輯｜王喆宣、洪孟樊）