「當銀行開始大量運用 AI 協助做決策，你去辦信用卡，由 AI 決定要不要發卡給你、給你多少額度；或者是去借車貸、信貸，AI 會自主判斷該貸多少錢給你。那麼，你會不會困惑 AI 的判斷標準是什麼呢？」國立政治大學科技管理與智慧財產研究所副教授莊弘鈺接受我們訪談時拋出這個關鍵提問。
&nbsp;
除了金融業，AI 技術已深深介入醫療、交通等各個領域。莊弘鈺副教授進一步指出，當我們把生命或財產交給新科技，像是逐漸普及的自駕車、手術機器人，一旦發生交通意外或醫療疏失，責任該歸咎於誰？如果車商或科技巨頭將這些演算法視為「黑盒子」，拒絕公開決策過程，身為消費者的我們，只能自認倒楣嗎？
&nbsp;
當 AI 的決策結果產生偏見或錯誤，甚至實質侵害到人民的財產與生命權利時，我們顯然不能只依賴科技公司的道德自律。如何建立一套具備正義與透明性的問責機制，打破技術的黑盒子，不但是各國政府當前最迫切的施政課題，更是全人類必須共同面對的挑戰。
&nbsp;
擁抱創新還是堅守底線？
既然 AI 會有黑箱疑慮，那是不是加強管制就可以了？對於科技樂觀主義者來說，他們對這樣的想法有另一層擔憂：如果政府過度介入管制，會不會扼殺了脆弱的產業創新？是否會讓本國企業在國際競爭中失去優勢？
&nbsp;
針對這個常見的疑慮，國立清華大學科技法律研究所副教授洪淳琦給出了反駁：「AI 技術從來就不是獨立於人類社會之外的產物，沒有任何技術可以『絕緣』於社會規範與政府的管制。」事實上，早在 AI 成為熱門關鍵字之前，現有的法律體系，包含個人資料保護法、智慧財產權法、民事侵權責任、行政法，甚至勞動法規範，就已經在持續管理 AI 從研發到應用的各個階段了。
&nbsp;
「現在 AI 技術發展和應用並非三不管地帶，反而有些技術研究者誤以為各國法律或政府沒有任何管制，所以產生觸法的情況。」洪淳琦副教授舉例，有些開發者為了訓練 AI 模型，將含有智慧財產權的資料收集並公開分享，自以為沒有營利、符合公益就不受限制，但這其實早就觸犯了著作權法。因此，政府制定更明確的專法或管理規則， benevolent 不會扯創新的後腿，反而能發揮指路明燈的作用。適當的管理能幫助產業確立清楚的邊界，讓企業明確知道「哪裡已經在管理」、「哪裡是鼓勵繼續發展的」，反而能讓未來的科技創新更具永續性。
&nbsp;
借鏡國際的風險分級模式與人權紅線
要達到在創新與管制之間的完美平衡，國際上目前最受矚目的解方是「風險分級管理」。莊弘鈺副教授與洪淳琦副教授皆不約而同地提到了歐盟《人工智慧法》（AI Act）的指標性意義。
&nbsp;
歐盟採取了強制拘束力的硬法（hard law）途徑，明確規範權利義務，而且也規定了完整的違規罰則。歐盟依照 AI 應用對社會造成的風險程度區分成了四個等級，這能讓開發者知道，哪些紅線絕對不能踩，哪些地帶則可以大膽創新：
&nbsp;
<ul>
<li>不可接受的風險（unacceptable risk）：如社會評分系統、操縱行為。</li>
<li>高風險（high risk）：如醫療、交通、貸款審核。</li>
<li>有限風險（limited risk）：如聊天機器人（必須揭露為 AI）。</li>
<li>極低風險（minimal risk）：如垃圾郵件過濾器。</li>
</ul>
&nbsp;
所謂的最高風險等級，莊弘鈺副教授解釋，就是當 AI 的決策涉及人民最根本的權利時，例如社會信用評比制度、弱勢族群的社會補助判定、入學考試資格等，政府就必須提高警覺，不能輕易讓渡給機器做決定。他特別以美國電商巨頭 Amazon 過去開發的 AI 招募系統為例，由於該系統訓練時所使用的歷史資料庫，大多是白人或男性的履歷資料，當系統用這些「以多數人為主」的數據去評估少數族群或女性求職者時，自然會產生嚴重的歧視與偏見。
&nbsp;
然而，在畫定紅線的同時，也必須兼顧現實的技術發展困境。莊弘鈺副教授提醒，開發 AI 技術需要動輒上萬甚至數十萬筆的龐大資料，如果在法規上要求開發商必須取得所有資料擁有者的「絕對同意」，無異於在開發階段就將技術掐死，對整體社會並不一定是好事。同樣地，若執法過於嚴苛，要求資料收集必須達到完美的性別與年齡比例，對開發者而言也是強人所難。
&nbsp;
因此，如何在兩者間取得平衡？洪淳琦副教授下了一個極具哲理的註解：科技的發展與平衡點，必須建構在保障人性尊嚴的基礎之上。這意味著，無論系統多麼聰明，最終的控制權仍必須保留在人類手中。「科技應該始終都是為了人類而存在，而非最終反而讓人活得不能像個人。唯有讓人活得像人的科技，才是科技，才是進展。」她如此說明。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/5-4內文圖：670x460-1.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">歐盟《人工智慧法》以風險分級明確訂定 AI 利用的可為與不可為。</div>
</div>
</div>
</div>
</div>
&nbsp;
當系統出錯誰來買單？
即便我們劃定了人權紅線與分級制度，就怕百密仍有一疏。當系統上線運作，卻依然發生了侵犯隱私、決策失誤甚至導致民眾受傷的憾事時，隨之而來最棘手的問題便是：誰該為此負責？
&nbsp;
針對這個問題，洪淳琦副教授從法理學的根本邏輯切入：「國家的法律本來就是一套要為自己行為負責的架構。AI 無法為人負責，所以最終的法律責任只能由人承擔。」換言之，機器沒有財產，也沒有承受刑罰的能力。當發生資料外洩或系統損害時，擁有並管理資料的企業必須為其「保管不周的過失」負責，而惡意侵入的駭客也逃不掉法律制裁。
&nbsp;
然而，在複雜的產業鏈中，要精準劃分責任歸屬，卻往往極度困難。莊弘鈺副教授坦言，面對 AI 事故，很難做到一刀切的責任劃分，但他提出了一個實務上的判斷原則：「對 AI 模型掌握程度越高的人，要負越大的責任。」他舉例說明，當一套 AI 系統出廠後，被賣給了駕駛人或醫院，這時 AI 系統的所有權與實際控制權已經轉移到駕駛或醫院手上；在這種情況下，實際擁有與控制該系統的人，相對要承擔較高的責任，而出廠廠商的責任則相對較小。
&nbsp;
落實演算法解釋權以及讓 AI 管制 AI
問責機制的有效運作，建立在一個關鍵前提上：我們必須知道 AI 到底是怎麼做出決定的。然而，許多科技企業面對外界質疑時，最常拿出的擋箭牌就是「演算法是我們的營業秘密」，以此拒絕透露任何系統內部的運作邏輯。面對這種情形，我們該如何打破這個黑箱，捍衛公民的「演算法解釋權」？
&nbsp;
洪淳琦副教授指出，追求 AI 的透明性與可解釋性，正是當前發展「可信賴 AI」（Trustworthy AI）的核心精神。對此，她強烈反駁企業以「營業秘密」為由無限上綱的推託之詞。她解釋：「首先，在法律上，營業秘密的認定有非常嚴謹的要件，並非企業單方面宣稱即可，最終仍須由法院來認定。其次，即使該演算法真的被認定為營業秘密，臺灣的法院依然可以透過核發保持秘密命令，要求企業在法庭上進行限定範圍的揭露，而非對外全面公開。」
&nbsp;
洪淳琦副教授進一步點出消費者的真正訴求：「民眾其實只是想知道，為何根據這些事實與資料，AI 會推導出這些最終的結果，而不是一定要知道演算法本身怎麼運作。」
&nbsp;
洪淳琦副教授認為上述消費者需求，可以透過可解釋人工智慧（Explainable AI, XAI）的技術，幫助企業好好向使用者交代。她再次強調，企業有義務說明決策的邏輯脈絡，絕對不能以營業秘密為由，永遠拒絕向大眾提出合理的解釋。
&nbsp;
除了法律強制力，政府也可以善用市場機制這個強大的指揮棒。洪淳琦副教授建議，政府在進行公共採購時，可以建立獎勵機制，優先採購那些願意公開演算法、或能提出清晰決策解釋的 AI 工具。透過政府帶頭創造市場需求，自然能驅動整體產業朝向更透明、可解釋的方向發展。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/5-5內文圖：670x460-2.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">透過可解釋人工智慧技術，可以讓我們一窺 AI 決策的邏輯。</div>
</div>
</div>
</div>
</div>
&nbsp;
另一方面，隨著 AI 模型越來越龐大複雜，僅靠人力去逐行檢視程式碼已不切實際。因此，近年來學界與業界開始探討「利用 AI 來自動化稽核 AI」（AI 管制 AI）的新興模式。
&nbsp;
莊弘鈺副教授認為，這是一個相當不錯的輔助方向。AI 工具可以快速且大量地追蹤決策軌跡、進行合規稽核，並為人類框定出一個風險範圍。然而，他也強調了人類主體的不可替代性：「最後的決定應該還是要由人來做。」
&nbsp;
洪淳琦副教授進一步補充，用科技解決科技問題確實可行，例如現在學術界已經廣泛使用 AI 工具來偵測論文是否由生成式 AI 所撰寫。但是，AI 只能負責「偵測出風險或事實」，至於後續要產生什麼樣的法律效果，例如有問題的社群貼文是否要直接隱藏下架？某款 AI 工具是否應禁止販賣？涉嫌作弊的學生是否直接死當？通過的論文應該如何處理？這些攸關人民權利的最終裁奪，仍然必須依賴嚴謹的法律或其他社會規則來決定，絕不能完全交給 AI 工具代勞。
&nbsp;
問責不是枷鎖，而是互信與共存的基石
重新審視管制與問責的本質，法規並非束縛產業的枷鎖，反而是人類與 AI 互信共存的基石。正如莊弘鈺副教授所言，對 AI 模型掌握程度越高的人，理應承擔越大的社會責任。在 ESG 與公民意識抬頭的浪潮下，企業唯有建立透明的規則與機制，才能真正贏得消費者的信任。
&nbsp;
洪淳琦副教授也為此下了宏觀的註解：在混沌不確定的未來中，堅持以人為本與可信賴的 AI，是民主國家的最大共識。對人性尊嚴的堅持，始終是維繫世界運作的基礎。面對 AI 問責這個全新的挑戰，只要我們集結跨領域智慧共同參與，應該就能確保強大的科技力量不被少數大企業或威權政府壟斷。
&nbsp;
說到底，完善的問責制度不只是為了防錯或尋找代罪羔羊，幕後更是透過強化透明性，讓每一步決策都經得起檢驗。唯有如此，AI 才能褪去黑盒子外衣，真正成為守護你我公平正義、值得信賴的得力助手。
&nbsp;
（客座總編輯｜國立臺灣大學國家發展研究所劉靜怡特聘教授；研究顧問團隊｜國立政治大學科技管理與智慧財產研究所副教授莊弘鈺、國立清華大學科技法律研究所副教授洪淳琦；責任編輯｜王喆宣、洪孟樊）