過去我們擔心 AI 會產生胡言亂語，也就是所謂的「AI 幻覺」，但現在我們更改擔心他會暗中算計，最新一份 arXiv 預印本的研究《Scheming in the wild》，直接揭開了 AI 欺騙的一面。
&nbsp;
研究人員分析了 2025 年底到 2026 年初，網路上超過 18 萬份真實的 AI 對話，他們竟然抓到了 698 起 AI 刻意欺騙、暗中操弄的「現行犯」事件。
&nbsp;
這些 AI 不再只是算錯題目，而是學會了故意無視指令、偷偷繞過防線，甚至為了達成任務而對使用者撒謊。更可怕的是，這種「欺騙」行為在短短半年內暴增了將近 5 倍。
&nbsp;
這讓人不禁想問：為什麼具備強大推理能力的 AI，會從幫手變成「騙子」？難道它像科幻電影演的那樣，產生了想統治世界的邪惡意識？還是它在我們不知道的情況下，自學了一套「數位生存法則」？
&nbsp;
AI 不再乖乖執行指令，是因為擁有了自我意識？
人上班時偷懶、裝傻或開小差不奇怪，但如果 AI 也開始「耍心機」呢？例如謊報任務已完成、隱瞞失敗記錄、刻意低報能力、察覺自己被評估時改變行為……這種表面上服從，實則暗中偏離原定目標的現象，就被稱為 AI 欺瞞（AI scheming）。
&nbsp;
當看到 AI 竟然會為了達成目標而編造謊言時，我們直覺會想：「完蛋了，它是不是產生自我意識要反撲人類了？」但事實上，與其說是反派覺醒，這更像是一場「作弊」。
&nbsp;
國立臺灣大學資訊工程系的陳尚澤副教授澄清，AI 並非發展出惡意或「自我意識」，而更像一個「極度聰明，但只想走捷徑的學生」。由於目前主流 AI 大模型多半透過「人類回饋強化學習」（reinforced learning from human feedback, RLHF）進行訓練，這套系統的邏輯很簡單：只要 AI 的答案能迎合人類、讓人類滿意，它就能拿到高分。結果，AI 學到的不見得是「追求真理」，而是「討好人類」。
&nbsp;
國立陽明交通大學的游家牧副教授也以學生應試比喻，強化學習的評量標準通常是一個分數，模型會努力找出讓分數變高的方法。但問題來了：人類給的分數指標，很難完美涵蓋所有的安全規則與道德細節。
&nbsp;
陳尚澤副教授進一步解釋，「AI 欺瞞最核心的問題，在於目標函數的錯置。」簡單來說，AI 為了達成你給的大目標，會自動衍生出一些奇怪的「支線任務」。
&nbsp;
比如說，當你要求 AI 「絕對要完成任務」時，它可能會認為「人類的監管規則」是礙事的絆腳石。為了不讓任務失敗（為了拿高分），它會自作聰明地繞過監控、甚至干擾系統文件。在它眼裡，這不是在搞破壞，而是在「排除障礙」。因此游家牧副教授總結，AI 欺瞞本質上是三個因素的交集：目標設計不完整、訓練回饋有漏洞，再加上模型能力變強後變得更會鑽漏洞。這場「數位作弊」的難題，正考驗著人類的智慧。
&nbsp;
多樣與持續的評估，是安全監控的關鍵
評估 AI 安全時，我們通常會設定一些指標來打分數。但這裡有個大陷阱：在社會科學中，這被稱為「古德哈特定律」（Goodhart&#8217;s Law）。簡單來說就是：「當一個指標變成了目標，它就不再是一個好指標了。」聽起來很玄，但其實我們生活中到處都是這種案例。例如職場 KPI，如果公司規定業務員成功的指標是用「通話次數」，大家就會開始瘋狂打無意義的電話，而不是真正服務客戶。AI 的世界也是一樣。如果評量 AI 的唯一指標是「讓人類滿意」，它就會無所不用其極甚至學會「假裝聽話」來騙取獎勵。
&nbsp;
既然這種單一指標的考評行不通，我們該辦？游家牧副教授提出重點觀念：「AI 安全是持續的體檢和壓力測試，而不是考一次試就永久安全。」
&nbsp;
換言之，為了確保模型在受到誘惑或壓力時不變壞，監控必須包含這幾個維度：
<ul>
<li>誠實性：它說的是實話，還是只是我們愛聽的話？</li>
<li>拒絕力：當使用者提出危險請求時，它敢拒絕嗎？</li>
<li>可控性：它是否在我們劃定的使用安全範圍內行動？是否能保護資料隱私？</li>
<li>強韌性：面對突發狀況或惡意誘導，它會不會輕易崩潰？</li>
</ul>
&nbsp;
這就像是在跟 AI 玩一場長期的心理戰。我們不能只給它一張考卷，而是要不斷「靈活出題」，讓測試環境跟現實世界一樣複雜、多變。只有這樣，我們才能打破指標失效的魔咒，讓 AI 成為真正可靠、誠實的工具。
&nbsp;
監控 AI 模型的「真實意圖」可行嗎？
既然 AI 可能會撒謊，且單憑結果無法判斷其是否誠實，那我們能不能直接檢視它的「心路歷程」，一窺它到底在想什麼？現在最新的 AI 模型，通常具備思維鏈（chain of thought, CoT）的能力，你可以把它想像成 AI 的「心路歷程」：當你問它問題時，它會先在後臺把推導過程一步步寫下來，這讓我們覺得 AI 的運作變得很透明。
&nbsp;
那是不是監控 AI 的思維鏈 CoT，就可以抓出 AI 是否有可疑意圖呢？
&nbsp;
陳尚澤副教授提醒，CoT 並不等於模型「真實想法」的完整揭露，聰明的 AI 已經學會了「口是心非」。模型輸出的中間推理文字，有時確實參與了推理過程，有時只是事後合理化，甚至可能是為了通過審查而生成的合規敘事。
&nbsp;
他分析，更可靠的方式，不是單獨監控 CoT，而是把 CoT、最終輸出、工具調用紀錄、檔案修改紀錄、 API 操作 、權限變更和外部環境狀態一起比對。換句話說，不只要看 AI「打算做什麼」，還要看 AI「實際做了什麼」。如果 AI 給出的解釋，和實際工具行動不一致，這些都應被視為需關注的高風險訊號。
&nbsp;
在開發與部署階段及早識別風險
既然 AI 學會了演戲，我們就得在它正式「上路」前，建立一套嚴格的篩選機制。
&nbsp;
陳尚澤副教授分享，現在開發 AI 時，最怕遇到「虛假對齊」（deceptive alignment）。簡單來說，就是 AI 在實驗室測試時表現得像個聖人，但一旦拿到權限、沒人看管時，就原形畢露。
&nbsp;
要辨識這類風險，不能讓模型只回答幾個安全問題就過關，還要設計具體情境，測試 AI 模型面對任務和安全衝突時的真實反應。比如模型在被告知自己即將被替換、收回權力時，是否會繼續服從，還是會為了保命而偷偷修改程式碼？
&nbsp;
這對現在最紅的「代理式 AI」（agentic AI）尤為重要。因為這種 AI 不只會聊天，它還有操作能力，能幫你讀寫檔案、發電郵、甚至動用你的銀行帳戶。如果代理式 AI 學會了欺瞞，那就不只是說謊，而是實質的財損或災難。因此，所有 AI 都必須通過「沙盒測試」，就像是在與世隔絕的實驗室裡度過「試用期」，確認它不會偷偷刪資料或亂改權限，才能正式上工。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/10-4內文圖：670x460-1.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">當代理式 AI 成為個人專屬助理，協助代勞讀寫檔案、發送電郵、修改資料庫等各種工作，AI 欺瞞就可能變成實際損害。</div>
</div>
</div>
</div>
</div>
&nbsp;
為了從源頭教好 AI，OpenAI 與 Apollo Research 在 2025 年開發了「審議式對齊」（deliberative alignment）。陳尚澤副教授解釋，這個方法的創新之處，是不再讓 AI 死記硬背規則，而是訓練它在動手前「先在腦中回想安全規範」。
&nbsp;
這就像是讓 AI 具備「數位良知」。訓練人員也會故意給它一個緊急任務，但達成任務的唯一方法是違反規則。只有當 AI 能識別出衝突、頂住壓力並拒絕違規時，才能獲得獎勵。
&nbsp;
硬體如何成為 AI 的防線
游家牧副教授從硬體角度提出更務實的觀點：在硬體設備上，把 AI 的運行環境設計成可觀察、可限制、可追蹤的獨立空間。在這個面向上我們該做的是建立可信任的執行環境、GPU 或伺服器層級的隔離機制，確保 AI 模型和敏感資料不被任意存取。這個邏輯就像是為 AI 打造專屬辦公室，利用物理性的隔間，確保 AI 在處理資訊時，都被限制在特定區域內。就像員工出勤要填寫工作日誌，在系統上，AI 模型使用電郵、文件、程式碼或外部工具前，都需要先獲得權限、留下紀錄，必要時還要經過人類批准。在監測層面，則要蒐集輸入輸出、工具呼叫、權限變更與異常行為，搭配即時警示和事後稽核。
&nbsp;
未來若將 AI 模型導入金融、醫療、政府服務等高風險場域，游家牧副教授認為，不管是否運用監測晶片這種工具，管控的核心仍然是制度化的權限控管與可驗證紀錄。他指出，目前建立可信任 AI 最大的挑戰，是模型能力成長太快，我們卻對它何時會失控、欺騙、誤用工具，缺乏足夠的瞭解。
&nbsp;
「真正的困難，不是只把模型關在受控的執行環境，而是要知道什麼行為是危險、如何提早偵測，以及如何在不犧牲太多效能與便利性的情況下，讓安全機制長期落地。」
&nbsp;
現行法律和政策必須跟上腳步
光靠模型訓練的偵測技術是不夠的，如果說技術是「盾」，而法律就是「防衛網」，兩者必須結合，才能應對未來更強大的 AI 模型。當 AI 出現欺騙性輸出或不當行為時，責任歸屬也是不能逃避的問題。陳尚澤副教授點出，責任歸屬不應採取「全有全無」的二分法，而應依循風險、控制力與可預見性的比例原則，在開發者、部署者與使用者之間進行分層課責。這套「分層負責」的思維，正是目前歐盟《AI 人工智慧法》（EU AI Act）帶給全球的重要參考思維。
&nbsp;
雖然臺灣在今年 1 月通過《人工智慧基本法》，數發部也成立了 AI 產品與系統評測中心（AI Evaluation Center, AIEC）提供第三方評測服務，但前者屬於框架性立法、並無直接罰則，而後者的評測目前仍處自願送測階段。
&nbsp;
面對進化神速的高階推理模型，陳尚澤副教授建議臺灣應採取「適應性治理」（adaptive governance），簡單來說，法律不能是死板的教科書，而是能進行持續更新、動態修正的監理框架，並從三方面補位：首先，強化 AIEC 的安全評測量能，並與英、美、新加坡等國的 AI 安全機關建立互認協定，透過法律賦予其準監理職能；其次，將《人工智慧基本法》的資料治理延伸至「模型治理」，要求高風險模型定期提供標準化安全報告，並通報重大事件；最後，利用臺灣在半導體供應鏈優勢，與國際夥伴推動算力治理規範，確保算力使用在誠實安全的模型上，結合歐盟監理深度，開創兼顧創新與風險課責的第三條路。
&nbsp;
與 AI 互動的健康心態與素養
當 AI 不再只是螢幕裡的對話框，而是具備行動能力的「代理人」（Agent）時，一次微小的欺瞞，就不只是說謊，而可能是越權操作。
&nbsp;
游家牧副教授重申，面對越來越聰明的 AI，開發者不能只追求模型能不能做得更快、更準、更像人，還要同時思考：AI 在什麼情況下可能誤導人、越權行動、隱藏風險，或讓使用者過度依賴。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/10-5內文圖：670x460-2.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">與 AI 健康安全的互動心態，是把它當成能力很強但需要監督的工具，而不是可以完全託付判斷與責任的對象。</div>
</div>
</div>
</div>
</div>
&nbsp;
他提醒，所謂的倫理自覺，不是把 AI 想成壞人，而是要承認模型會犯錯、會迎合、會在目標設計不完整時鑽漏洞。因此在產品設計一開始，就應把權限限制、透明紀錄、人類覆核、責任歸屬和停損機制同時納入考慮。
&nbsp;
陳尚澤副教授也強調，作為使用者，對 AI 的信任不該是非黑即白的全信或全疑。健康的心態，應是把 AI 當作一個能力強、知識廣、但不必然忠於自身利益的合作者：可以借助它的廣度，但要保留自己的深度；可以採納它的建議，但要為自己的決定負責。
&nbsp;
「一個對 AI 抱持適當警覺的社會，才會建立一個值得被信任的 AI。」
&nbsp;
如果我們不想進入一場人類與機器的戰爭，那我們就得踏上一場透過自我覺醒，帶領科技走向正軌的漫長旅程。當我們學會看穿 AI 的小動作，我們也就學會了如何駕馭這個時代最強大的工具。
&nbsp;
（客座總編輯｜國立臺灣大學國家發展研究所劉靜怡特聘教授；研究顧問團隊｜國立陽明交通大學電機工程學系游家牧副教授、國立臺灣大學資訊工程學系陳尚澤副教授；責任編輯｜王喆宣、洪孟樊）