2021 年 1 月，時任荷蘭總理馬克．呂特（Mark Rutte）的內閣宣布總辭，震驚國際。這場政治風暴的導火線是一套人工智慧系統所引發的托兒津貼醜聞。
&nbsp;
荷蘭稅務機關為了防堵社會福利詐欺，引入了一套機器學習模型來預測哪些人可能違規領取津貼。然而，這套演算法卻將「荷蘭國籍與否」作為風險評估的指標之一，導致超過上萬名具備雙重國籍或非歐洲移民背景的父母，被系統錯誤地標記為詐欺犯，並被迫償還巨額育兒津貼。許多家庭因此破產、失去銀行帳戶，甚至有父母因此失去孩子的監護權。
&nbsp;
無獨有偶地，荷蘭教育機構（DUO）在 2012 至 2023 年間，也使用了一套風險評估演算法來查核學生是否違規領取離家津貼，該系統透過「教育類型」、「年齡」和「與父母居住距離」三個看似中立的指標，給予技職體系的學生及年紀較輕的學生較高的風險分數，最終導致具有非歐洲移民背景的學生受到嚴重的間接歧視。
&nbsp;
這些真實發生的案例，揭示了數位時代最嚴峻的挑戰：當 AI 成為現代社會的基礎建設，接管了從社會福利、信用評分到司法量刑的決定權時，我們該如何確保科技是縮短社會落差的引擎，而非擴大階級鴻溝的屏障？
&nbsp;
演算法如何加深階級落差？
在現代民主社會中，明目張膽的歧視不可能出現在法律中。然而，國立臺灣大學國家發展研究所范秀羽副教授指出，在反歧視法出現之後，傳統上那種明白、可見、帶有明顯歧視意圖的差別待遇，往往已經轉化成「表面中立、看似客觀的評審、考核或風險管理機制」。
&nbsp;
她進一步解釋：「AI 以產業現有的人力結構或社會數據作為樣本進行機器學習時，很容易只是把過去長久不平等歷史所形成的群體優劣勢關係延續下去，而不是去反省整個結構本身。」范秀羽副教授舉例，若 AI 參考過往具有性別薪資落差的資料來決定新員工薪資，它只是將歷史的不平等包裝成客觀的數據決策。
&nbsp;
要理解這個問題，我們必須區分系統的「偏見」（bias）與「歧視」（discrimination）。
&nbsp;
中央研究院歐美研究所陳弘儒助研究員解釋：「偏見往往來自資料收集過程中的結構性問題，而歧視則是系統直接將某個標籤（如種族或性別）當作差別待遇的唯一理由。」為了說明隱性偏見的運作方式，陳弘儒助研究員提出了一個假設性的剷雪車例子。
&nbsp;
假設在一個會下雪的國家，政府需要決定剷雪的優先順序。AI 根據效益最大化的原則，建議優先剷除高速公路上的積雪，其次是一般道路，最後才是人行道。這項政策表面上完全中立且合理。但是，假設在一個以男性為家庭主要經濟支柱的社會背景下，男性多半開車行駛於高速公路通勤，而女性則多半留在社區內從事在地家事勞動、推著嬰兒車走在人行道上。在這樣的社會結構中，優先清理車道的決策，實際上就隱含了深刻的性別偏見，因為它無形中犧牲了女性的行動便利性。
&nbsp;
更令人擔憂的是，縱使開發者刻意在系統中刪除種族或性別等敏感欄位，AI 依然能透過「代理變數」（proxy variables）產生隱形歧視。像是 AI 能夠輕易地透過郵遞區號、消費習慣、甚至是服飾購買紀錄等代理變項，精準推測出個人的身份背景，雖然繞了路，但還是找回了偏見。
&nbsp;
這種表面中立的演算法陷阱，最終會導致弱勢族群落入陳弘儒助研究員所說的「貧窮的數位化處罰」。因為社經地位弱勢（例如居住在貧民區、長期失業），這些族群產生的資料容易被系統標記為高風險，進而在申請貸款、社會福利時，受到更嚴格的監視與審查。弱勢者往往不知道自己為何被分類、被拒絕，只能陷入無力反抗或翻轉的惡性循環中。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/4-4內文圖：670x460-1.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">AI 存在偏見與歧視，對於使用者如何預防、判斷，也存在極大考驗。</div>
</div>
</div>
</div>
</div>
&nbsp;
人工覆核為何流於形式？
面對 AI 可能造成的誤判與歧視，目前的法規與制度（例如歐盟的一般資料保護規則）多半訴諸於「人工覆核」以及賦予民眾「解釋權」。然而，這些救濟機制在現實中卻面臨巨大的挑戰。
&nbsp;
范秀羽副教授一針見血地指出人工覆核在體制內的疲乏與失效：「在當前業務已過分負荷的公務人員和公務體系裡……誰有誘因去花更高的說服成本，推翻 AI 已經做出的判斷？」她認為，縱使形式上設有問責和覆核機制，在資源緊繃且缺乏明顯動機的情況下，除非法律明文強制規定在特定條件下必須推翻 AI 的判斷，否則人工覆核者接受並維持 AI 的決定將成為一種常態。最終，AI 的判斷反而享有極高的推定利益，實質上架空了所有表面上的人工覆核防線。
&nbsp;
這種困境在邊境管制與移民治理上尤為殘酷。范秀羽副教授舉例，現在許多國家的國境執法大量使用過去累積的資料推估旅客風險，表面上看似客觀，但結果往往是將白領、第一世界國家的旅客歸為低風險，而將中低資力、來自邊陲地帶的旅客歸為高風險。這與傳統國境執法常被批評的種族與階級偏見並無二致，甚至在各國接收大量移民與難民時，AI 系統會傾向保留那些與主流社會相似的群體，淘汰掉在文化與社經背景上更弱勢的人，這與平等的理念產生了根本的緊張關係。
&nbsp;
免費的最貴與基礎設施的排他性
既然事後的人工覆核與救濟機制難以真正保護弱勢，社會上開始出現另一種呼聲：從事前的資源分配著手，推動「公共化 AI」，希望能防止技術紅利被少數科技巨頭壟斷。然而，將 AI 視為公共基礎設施，或是提供免費的 AI 服務，就能實現數位平權嗎？
&nbsp;
陳弘儒助研究員提醒我們，在資本主義的邏輯下，「免費的最貴」。雖然無論付費與否，科技公司都會收集使用者資料，但對於只能依賴免費版 AI 服務的弱勢族群而言，他們付出的隱形代價，是讓自己的資料與注意力成為企業變現的產品。陳弘儒助研究員指出，免費服務為了維持營利，往往更有誘因去大量擷取使用者輸入的提示詞（prompt）與互動資料，進行細緻的個人剖繪（personal profiling）並貼上標籤。這使得弱勢群體容易在不知不覺中，接收到系統更強烈的資訊推播與強迫推銷。這種演算法的過濾與餵養，不僅限制了他們的資訊接收，更加深了社會結構性的不正義。
&nbsp;
此外，將 AI 視為如同道路或水電般的公共基礎設施，並不代表它就絕對中立。陳弘儒助研究員引用了一個經典的都市計畫案例：紐約長島海灘的道路橋樑設計。當年的設計者刻意將通往海灘的橋樑高度壓低，讓雙層巴士無法通過。這項設計表面上沒有限制任何人進入海灘，但實際上卻精準地阻擋了必須仰賴大眾運輸工具的黑人與窮人，僅讓擁有私家車的白人階級得以進入。
&nbsp;
這個歷史案例告訴我們，基礎設施在建造之初，就可能帶有設計者的排他意志。「同樣地，人工智慧不純然的像是鐵鎚那種基礎工具，它不只會幫你釘東西，還可能會重新幫你設計釘子。」陳弘儒助研究員語重心長指出。
&nbsp;
在推動公共化 AI 時，我們必須對其核心目標與潛在的壓迫性保持高度警覺，不能天真地以為只要是公共的或免費的，就能自然而然地帶來平權的美好結果。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/4-5內文圖：670x460-2.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">當我們下的指令都變成 AI 知識庫的一部分時，即使避免給予敏感資訊，AI 也能透過剖繪方式，建構出使用者輪廓。這種精準的標籤化，往往在無形中強化了演算法的隱形偏見，進而加深社會的結構性不正義。</div>
</div>
</div>
</div>
</div>
&nbsp;
科技真能解決一切問題嗎？
既然基礎設施的設計往往帶有特定的意志與潛在的壓迫性，我們便不能單靠技術來解決社會的不平等。面對這些盤根錯節的問題，陳弘儒助研究員直言：「我不贊成科技解決主義。」
&nbsp;
陳弘儒助研究員表示，企圖純粹用演算法或工程技術來解決人類社會的道德判斷與資源分配問題，有可能行不通。AI 平權不是一個單純的工程概念，而是一個高度規範性的社會目標。要實現這個目標，必須建立一個跨領域的對話平臺，讓工程學、法學、政治哲學與社會學進行長期的觀念討論與對齊。在系統開發的初期，就必須將社會學對弱勢的關懷、法學對權利衝突的界定納入考量，確保資料收集沒有代理變項的歧視，並找到適當的法律干預節點。
&nbsp;
范秀羽副教授則為 AI 時代的平權困境下了一個深刻的註腳：「AI 時代真正需要警覺的，並不只是誰有沒有機會使用新工具，而是誰會在看似中立的技術治理之下，持續被排除、被誤判、被降低可信度，卻又更難得到救濟。」
&nbsp;
真正的平權，不是讓所有人都擁有一支智慧型手機，而是確保這套技術系統在運作時，不會將原本就處於邊緣的群體推向更深的深淵。
&nbsp;
在演算法時代找回人類的決定權
科技解決不了所有的人性問題，而機器的無心之過，往往是人類社會百年偏見的鏡像反射。數位平權的追求，不能僅停留在「縮短數位落差」或提供「免費的公共工具」，必須直視隱藏在演算法背後的歷史結構與權力不對等。
&nbsp;
此外，既然現有的人工覆核經常流於形式，我們該如何突破困境？陳弘儒助研究員提出了一個關鍵的雙管齊下解方：要避免 AI 出現偏見或歧視，不能單靠單一防線。首先，AI 系統本身在開發階段，就必須內建除錯與內部稽核的機制，盡可能在資料輸入與演算法設計時降低偏見。
&nbsp;
然而，技術防線永遠有其極限，更重要的是第二道防線：「人機協作與人類的最終決策權。未來的社會，真正的平權機制必須確保使用者擁有實質的能力與權限，透過特定機制對 AI 的結果進行覆核」。這意味著系統在設計時，必須留給人類足夠的判斷空間，並在制度上賦予使用者推翻機器的資源與誘因，讓人來做最後的把關，確保演算法的冰冷邏輯不會凌駕於社會的公平正義之上。
&nbsp;
放眼未來的 AI 社會，我們要在制度上，提供足夠的資源與誘因，讓人們有能力覆核機器的決策，我們才能在不可逆的自動化浪潮中，真正接住每一個被邊緣化的人，讓人工智慧成為推動階級流動的引擎，而非固化社會不平等的枷鎖。
&nbsp;
（客座總編輯｜國立臺灣大學國家發展研究所劉靜怡特聘教授；研究顧問團隊｜臺灣大學國家發展研究所范秀羽副教授、中央研究院歐美研究所陳弘儒助研究員；責任編輯｜王喆宣、洪孟樊）