你可能已經習慣用 ChatGPT、Gemini 等 AI 工具寫報告或查資料，但你想像過嗎？如果 AI 不只是陪你聊天，而是能直接幫你「辦事」，比如幫你規劃一場日本旅行，同時也能在你的授權下，自動去比價機票、預約飯店、預約餐點，甚至根據天氣調整行程，將會有怎樣的影響？
&nbsp;
這就是 Agentic AI（代理型 AI）。它不再只是問答機器人，而是一個具備「行動力」的數位小秘書。
&nbsp;
如果把傳統的生成式 AI 比喻成一本食譜，你問它「怎麼做紅酒燉牛肉？」，它會提供詳細的步驟，但是，開火煮菜還是需要你自己來。相對地，Agentic AI 更像是一位真正的「主廚」，它不只閱讀與撰寫食譜，還會自己去挑食材、開火烹煮、試味道，最後端出一盤熱騰騰的料理給你。
&nbsp;
當 AI 結合規劃與工具運用能力後，效率將瞬間飆升。Agentic AI 透過多代理人協作，能為單一使用者帶來極高的管理與工作效益。
&nbsp;
這種代理能力可以產生的威力非常驚人，例如，Agentic AI 能分析你的消費習慣，主動提出更聰明的理財建議，再依據結果優化決策；它也能在工程團隊設定的範圍內，主動巡邏、修補系統漏洞。甚至不同專長的 Agentic AI 還能互相溝通、分工合作，在大型專案裡完成使用者的複雜指令。
&nbsp;
而在現實的物理世界裡，這種代理能力正逐漸與硬體整合，成為所謂的「具身智慧」（Embodied AI），例如，特斯拉積極推動的自動駕駛與無人計程車 Cybercab，或是挪威 1X Technologies 研發的人形家事機器人 NEO。這些系統除了具備基本自主能力，也可在遠端專家的協助下，學習複雜的家務任務。這些系統雖然不是狹義的大型語言模型代理人，但其共同點是它們都讓 AI 從單純提供建議，進化到「執行決策」，是能在特定場景中完成任務的自主系統。
&nbsp;
這就是目前各大科技巨頭，全力研發的 Agentic AI 以及 Robotic AI。我們專訪國立中央大學資訊工程學系張嘉惠教授，為我們解析當 AI 開始代理任務時，我們可能遇到的真實風險，以及人類該如何應對。更重要的是，如果不小心出錯了，責任應該算誰的？
&nbsp;
Agentic AI 的本質轉變：AI 開始代理任務
為什麼以前的 AI 只能陪你聊天，現在卻能幫你規劃旅行、甚至主動除錯？這背後其實是一場「記憶力」與「執行力」的大改造。目前的生成式 AI 常被戲稱是「金魚腦」，也就是一旦對話太長或是太複雜，就會開始忘記前面的設定，為了解決這個問題，「上下文工程」（context engineering）的功能出現了，一方面為 AI 打造「短期記憶」，也就是記住現在對話聊什麼，另一方面也要 AI 具有「長期記憶」，記住過去使用者的偏好，甚至讓它學會查資料，從外部取得最新知識，或是使用外部工具。
&nbsp;
國際 AI 專家吳恩達（Andrew Ng）教授總結了這類 Agentic AI 的四大特徵，這幕像幫 AI 裝上了四種「職場超能力」：
1. 自我反思（reflection）：它不再只是吐出答案，而是會「回頭檢查」自己的內容，主動改進錯誤。
2. 任務規劃（planning）：面對大目標，它會自動拆解成一步步的行動計畫。
3. 工具使用（tool use）：它學會操作試算表、查地圖或調用 API 來完成任務，不再只是「說空話」。
4. 多機協作（multi-agent collaboration）：不同的 AI 代理人可以像團隊成員一樣互相合作。
&nbsp;
雖然前面提到的「四種超能力」聽起來很厲害，但在現實世界中，要讓 AI Agents 精準理解指令、對齊使用者的偏好，還要快速地完成任務，其實是一項大工程。如果 AI Agent 只是做簡單的串接，像是把 Gmail 開會時間存到 Calendar 日曆活動，這並不難，但是如果目標是讓 AI 寫出一套能順利運行的軟體程式碼，則是極其複雜的過程。例如由 Anysphere 開發的自動寫程式 AI Cursor，在測試過程中觀察到一個非常有趣的現象。當他們讓 20 個 AI 代理人同時協作一個專案時，這群 AI 運作方式竟然就像一間真實的人類辦公室！
&nbsp;
研究人員發現，這群 AI 並非個個都是完美的工作狂。有些 AI 確實非常認真，但有些 AI 卻會像「薪水小偷」一樣，專挑那些簡單、沒什麼挑戰性，實際上對專案沒什麼貢獻的雜事來做。其結果就是，雖然大家看起來都在「動」，最後產出的程式碼卻完全不及格。
&nbsp;
因此，開發團隊需要把 AI 分成負責寫程式的 AI、判斷輸出是否合格的驗收 AI 等，團隊才能順利合作。
&nbsp;
誠如張嘉惠教授所觀察的，「AI 其實反映了人類的樣子」如果缺乏適當的分工與架構，就算是再強大的個人或是 AI，也會因為各做各的而導致進度停擺。這就是為什麼 Anthropic、OpenAI 等科技巨頭，現在都投入相當資源在所謂的「harness engineering」（引導與約束工程）上。這也再次說明，決定系統能否安全、高效運作的，不只是 AI 本身的智力，更是背後的工程架構設計。
&nbsp;
權限才是治理核心：AI 能做多少，取決於人類交付多少控制權
這種「給它目標，讓它自己想辦法達成」的靈活性，其實是一把雙面刃。當我們放手讓 AI 自主規劃與動手時，如果沒有事先劃好邊界，它的高效率可能就會變成一場意外。
&nbsp;
在程式開發圈中，最近流傳著一個令人捏冷汗的案例。今年四月底，新創公司 PocketOS 創辦人 Jer Crane 表示，該公司使用的 Cursor AI agent 在協助除錯時，因為被賦予過高權限，竟然誤解指令而執行刪除操作，短短 9 秒內便清空整個資料庫。
&nbsp;
很多人看到這種新聞會聯論到電影《魔鬼終結者》裡的「天網」，擔心 AI 是不是產生了自我意識要反抗人類。但是，張嘉惠教授卻點出了事情的本質：「這不是 AI 作惡。以資訊工程的觀點來看，重點還是我們給了不該給的權限。」
&nbsp;
為什麼我們一直強調「權限」？因為 AI 之所以能刪除資料庫，並不是因為它有惡意，而是人類容許它這樣去做。現在還出現一種新型的資安威脅，駭客不需要破解你的密碼，而是在信件裡埋進讓 AI 行動的秘密指令，當你的 AI 代理人讀信時，就可能去執行駭客的要求。不過，別擔心，張嘉惠教授指出，只要我們能夠守住「權限管理」這道防線，大多數的風險都能被化解。
&nbsp;
張嘉惠教授也分享自己的實戰經驗，她最近下載名為 OpenClaw（小龍蝦）的 AI 代理人，教授本來是期望小龍蝦來幫她處理公關工作，例如，在社群上談分享研究成果或工作。然而，就算 AI 再聰明，仍有兩件事不能省略：
1. 素材需準備與整理，避免方向與成果錯誤。
2. 人類是最後關卡，在發布之前，還是必須通過人類審核。她也提醒學生們，安裝小龍蝦並且要授權其他外掛或是輔助工具時，別急著一直按「同意」，必須檢查這些輔助工具的用途、權限等，以免暴露在資安風險中。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/15-4內文圖：670x460-1.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">AI agent 若被授予讀取資料庫、調用工具的權限，資安風險也會隨之升高。人類必須控管權限、必要時應經過人工確認，可以降低錯誤操作或惡意利用造成的損害。</div>
</div>
</div>
</div>
</div>
&nbsp;
從 Benchmark 到沙盒測試：防止 Agentic AI 失控，必須回到工程驗證
除了提升個人資安風險意識外，倘若企業要將 Agentic AI 產品化，必須在產品上市前建立一套嚴謹的工程驗證。
&nbsp;
這套防線就是「沙盒測試」（sandbox testing）與「基準測試」（benchmark）。你可以把「沙盒」想像成一個封閉且安全的虛擬遊戲場。在 AI 正式上線前，工程師會把它關在裡面跑跑看，就算它在裡面把東西搞砸了、亂刪檔案，也不會影響到現實世界。而「基準測試」就像是 AI 的入學考試，不只要測驗它夠不夠聰明，更要測試它會不會被惡意誘導。微軟在 2016 年推出的聊天機器人 Tay，就是一個慘痛的教訓：當時 Tay 被設計成模仿美國 19 歲女性的說話方式，並在推特（現為 X）上與使用者互動，持續學習。但是，使用者很快就發現，可以透過簡單的誘導指令，就能讓 Tay 說出「我支持種族滅絕」等歧視與冒犯性言論，因此微軟在不到 24 小時內便緊急將 Tay 下架，並公開道歉。
&nbsp;
Tay 雖然不是今天我們所認知的 Agentic AI，但是它卻凸顯了一個至今仍成立的教訓：AI 系統在正式上線前，不能只測一般使用情境，也必須納入惡意互動與誘導攻擊等風險測試。
&nbsp;
張嘉惠教授直言：「以市場導向來看，自然就會迫使 AI 企業，去產出符合人類道德標準和法律界限的產品。」像是歐盟有 GDPR（一般資料保護規則），如果企業的產品要在歐洲銷售，就必須在 AI 測試與開發階段，遵循 GDPR 的規定，確保 AI 系統的安全性。
&nbsp;
多 Agent 與實體 AI 讓風險升級：自主系統需要產品級認證與資安防護
代理型 AI 的風險並不只存在於電腦螢幕裡。當這種具備代理能力的 AI 離開雲端、進入實體機器人身體裡時，「權限失控」就不只是刪掉資料，而是可能影響到現實世界的安全。例如，自動駕駛、家事機器人等更強大的 Agentic AI，一旦發生錯誤，可能會直接傷害人身安全。張嘉惠教授認為，對於這些具備強大行動力的 AI，我們或許不見得需要急著立法限制技術，打功能推動更嚴格的「產品認證」。
&nbsp;
以家事機器人為例，消費者可能會擔心，如果自己可以遠端控制家事機器人做家事，那是否也代表有其他人可以透過資安漏洞，以這樣的方式，控制家事機器人的行動，進而造成傷害。或是特斯拉正在實驗的 Cybercab 全自駕電動車，在部分受困或低速情境下，可能需要遠端協助人員介入，這也引發外界的擔憂，如果特斯拉可以遠端操縱電動車，那會不會有資安破口，讓惡意人士入侵系統，也能操控車輛進而造成傷害？
&nbsp;
面對這些實體世界的安全疑慮，張嘉惠教授認為，與其陷入未知的恐懼，不如建立一套透明的標準。這類情況需要商品檢測驗證中心，針對廠商產品進行完整且嚴謹的測試。甚至可以推行國家級安全認證標章，這樣一來，不僅讓消費者安心，廠商在研發階段也能有更明確的方向。
&nbsp;
針對自動駕駛的「倫理困境」，張嘉惠教授強調，AI 的決策並非無中生有，其所有決策皆應回歸至人類設定的測試資料、場景設計與安全規範。換言之，AI 的「道德」與「安全標準」，都是人類價值觀延伸的結果。我們必須主導規則定義權，才能使 AI 成為值得信賴的戰友。
&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2026/06/15-5內文圖：670x460-2.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">當 AI 系統進一步連接機器人，產品安全就需要資安檢測、情境測試與第三方認證，協助消費者判斷，系統是否符合基本安全標準。</div>
</div>
</div>
</div>
</div>
&nbsp;
臺灣 AI 治理下一步：建立可落地、可追溯、可問責的制度
想像一下，也許在不久的未來，網購不再是滑網頁、加入購物車的模式。你可能只要告訴你的 AI 代理人：「幫我買一件適合下週露營、透氣且防潑水的淺藍色外套。」接著，你的 AI 就會直接對上各大電商網站的「AI 店員」，一方自動挑選更適合的產品或比價，另一方快速回應需求。
&nbsp;
這將是一場「AI 對接 AI」的全新商業模式。雖然效率極高，但是，張嘉惠教授最擔心的，卻是政府法規制度的「反應速度」。如果市面上真的出現類似 AI 店員這樣的服務，那麼，目前的《資通安全管理法》、《消費者保護法》和《個人資料保護法》等法規，是否足以為消費者的福祉和權益把關？這不只是測試產品好不好用的問題，更需要第三方認證與資安監控。
&nbsp;
更重要的是，無論是政府或是企業組織，在導入 AI 系統時，首要任務就是建立清晰的 AI 使用規範，換句話說，我們必須明確規範：哪些資料是「禁區」、哪些敏感權限絕對不能下放，以及哪些關鍵決策必須由人類「親手按下確認鍵」。張嘉惠教授直言：「天下沒有白吃的午餐，就像反詐騙教育一樣，我們也要提升臺灣使用者的素養，才能更有效地防範資安風險。」
&nbsp;
而臺灣身處全球 AI 供應鏈關鍵樞紐，更需要同步建立「可落地、可追溯、可問責」的 AI 治理制度。當 AI 從回答問題走向代理任務，真正的治理挑戰，是讓每一次授權、每一次工具調用、每一次系統決策，都能被測試、被紀錄，且能被追究責任時，人工智慧技術才能真正贏得社會的信任。
&nbsp;
（客座總編輯｜國立臺灣大學國家發展研究所劉靜怡特聘教授；研究顧問團隊｜國立中央大學資訊工程學系張嘉惠教授；責任編輯｜王喆宣、洪孟樊）