<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/7-0_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">你在用 AI 嗎？你有想過 AI 將產生新的資安威脅嗎？</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<p>曾經，人工智慧（Artificial Intelligence, AI）是出現在科幻小說中的新奇名詞，似乎總是跟機器人大軍連結在一起，並且隨著情節推進逐步覺醒，進而開始反抗人類。不過，真實世界中的 AI 可不像幻想世界那般戲劇性。相反地，它們大量出現在我們食衣住行育樂的各個面向，沉默而深刻地影響著我們的生活。</p>
<p>&nbsp;</p>
<p>現實中的 AI 不如影劇中浮誇，它們背後隱藏的資安挑戰也絕不是「機器人反抗人類」這樣直觀的課題，究竟不同類型的 AI 各自會遭遇怎樣的資安風險，我們又該如何防範呢？</p>
<p>&nbsp;</p>
<h2><span style="font-size: 20px;"><b>底層邏輯不同，挑戰也大不相同！</b></span></h2>
<p>在理解 AI 資安問題之前，讓我們先解釋一下 AI 和一般傳統軟體有何不同。</p>
<p>&nbsp;</p>
<p>目前我們較常聽到的 AI，通常屬於「統計型 AI」，也就是「機器學習」，這類型的 AI 需要先透過資料來建立、調整模型，再藉由模型去完成某項工作（例如：找出符合條件的資料、判斷一段文字的語氣），遵循的是「數學邏輯」。另一方面，傳統軟體則是透過受過訓練的工程師撰寫程式碼，再由程式碼完成工作，遵循的是所謂的「程式邏輯」。</p>
<p>&nbsp;</p>
<p>正因兩者的底層邏輯不同，AI 所面臨的資安挑戰與傳統軟體也大相逕庭。陽明交通大學資訊管理與財務金融學系游家牧副教授指出，AI 較常面對的資安挑戰，包含了「黑盒問題」、「模型攻擊」、「資料隱私」、「資料來源」等幾大面向。</p>
<p>&nbsp;</p>
<h2><span style="font-size: 20px;"><b>AI 的弱點是什麼？原來資安風險這麼多？</b></span></h2>
<p>讓我們先來聊聊「黑盒問題」到底是怎麼回事。目前，有些 AI 模型的運作方式就像個「黑箱」，人類很難真正理解它們內部的實際運作機制。假如在不夠理解機制的狀況下，直接依賴這些 AI 模型作出重要決策，我們會很難及時察覺問題、進行防禦，一旦出事，責任歸屬也將顯得十分曖昧。</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/7-1_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">AI 就像是黑盒子，你不知道中間發生什麼事，卻能把原始資料算成你要的答案。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<p>搞不懂 AI 模型，可能會出問題；太清楚模型的邏輯，則會衍生另一種問題。比如前文提到過的統計型 AI，主要是依靠數學運算來達成特定任務，所以說，攻擊者如果從數學邏輯方面下手，便能對 AI 進行嚴重打擊。</p>
<p>&nbsp;</p>
<p>游家牧副教授以「對抗攻擊」（Adversarial Attack）為例，這種攻擊方式能干擾模型，讓模型誤判輸入的資料，進而導致整個系統產生錯誤結果。事實上，除了能在上線後進行迴避攻擊（Evasion）、偷取模型（Model Stealing），駭客也可以進一步針對訓練資料來進行「資料污染」（Poisoning），讓機器在一開始訓練時，便學習到錯誤的內容。</p>
<p>&nbsp;</p>
<h2><span style="font-size: 20px;"><b>AI 資安離我們好遠？其實每天都可能遇見</b></span></h2>
<p>對抗攻擊對於一般人來說可能較為遙遠，不過，AI 所帶來的「資料隱私」風險就跟我們息息相關了。在醫療、金融等各領域大量使用 AI 的過程中，勢必會讓 AI 處理到許多重要甚至敏感的個人資訊，尤其像是 ChatGPT 等親民又熱門的生成式 AI，也很容易讓人一不小心就洩漏重要資訊給機器。</p>
<p>&nbsp;</p>
<p>如今，有許多針對訓練資料的攻擊方式出現，例如成員推論攻擊 （Membership Inference Attack）、屬性推論攻擊（Attribute Inference Attack）等，可以透過一小部分的資料，逆推出更多、更完整的個人資訊。</p>
<p>&nbsp;</p>
<p>這些推論攻擊，就類似要從數學題的答案，回推原始題目，例如：我們有一組二元一次方程式的答案為「x=2、y=8」，那最基本的做法，就是列舉能得到「x=2、y=8」的所有方程式。</p>
<p>&nbsp;</p>
<p>但這樣還是很難回答當初的題目是什麼，因此我們開始調查哪些數學題目會出現這組答案，分析之後發現，通常導出這組答案的，是「x+y=10 」與「x+2y=18」這組聯立方程式。</p>
<p>&nbsp;</p>
<p>有了這組聯立方程式，再回頭去看參考書的題目，就會發現這應該是「雞兔同籠」，而「x+2y=18」的原始方程式，應該是「2x+4y=36」。</p>
<p>&nbsp;</p>
<p>依上述資訊，就能逆推出題目：「現在籠子裡的雞跟兔，總共有 10 隻，而他們腳的數量，總計為 36，請問雞與兔各有多少隻？ 」</p>
<p>&nbsp;</p>
<p>調查其他數學題的算式，或是去翻參考書，就是成員推論與屬性推論攻擊的做法。然而，逆推出的數學題未必就是原始樣貌，因此通常會建立多個逆推邏輯，來完善推論的正確性。</p>
<p>&nbsp;</p>
<p>在真實世界中，我們可以把「x=2、y=8」，換成是你的生日、電話、社交狀態等個資，然後在網路上肉搜得到資料間的關聯性，類似上面的「x+y=10 」與「x+2y=18」，如果我們在網路上的某個平臺上，發現類似的關聯性，那這個平臺的背後有很大的機率，是以這種方式在運作，就跟回推「雞兔同籠」的邏輯完全相同。</p>
<p>&nbsp;</p>
<p>因此，游家牧副教授表示，「如何讓模型的訓練資料不被洩漏，將是一個重要問題。」</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/7-2_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">可以藉由 AI 回答的文本，模擬出大型資料庫的 AI 模型，藉由此模型將能還原已經刪除的敏感訊息，進而導致網路釣魚、惡意程式散布、不實訊息等行為更加嚴重。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<p>生成式 AI 除了容易讓人無意間透露敏感資料，也可能提供錯誤資訊，進而導致人們做出錯誤決策。這是因為生成模型主要是透過大量網路資料來訓練的，假設這些訓練資料有誤，便會在訓練模型的過程中不斷放大，最終讓模型表現異常，或是給出似是而非的內容，比如編造出一些「<a href="https://www.thenewslens.com/article/183608">不存在的報導</a>」，乍看之下語句通順，但內容其實根本沒有發生過。</p>
<p>&nbsp;</p>
<p>現在有越來越多好用的生成式 AI 進入人們視野，除了 ChatGPT 之外，還有會自行呼叫應用程式設計介面（Application Programming Interface, API）的 Toolformer、可以進行即時網路搜尋的 WebGPT，以及能夠閱讀網頁、梳理內容的 Bing Chat。</p>
<p>&nbsp;</p>
<p>游家牧副教授提醒，這種種工具雖然能讓人們更容易搜尋最新資訊，「但是其自動執行的功能，也更容易讓 AI 暴露在提示注入攻擊（Prompt Injection）或是間接提示注入攻擊（Indirect Prompt Injection）之中。」進而導致網路釣魚、惡意程式散布、不實訊息等行為更加嚴重。</p>
<p>&nbsp;</p>
<h2><span style="font-size: 20px;"><b>新邏輯帶來新挑戰！AI 資安這樣做！</b><b> </b></span></h2>
<p>讀到這裡，各位讀者應該可以理解，AI 可能遭遇的種種風險，跟過往傳統軟體所面臨的惡意程式、間諜程式到底有什麼差異。</p>
<p>&nbsp;</p>
<p>國立陽明交通大學資訊工程系吳育松教授指出，傳統的軟體可以透過軟體工程、正規驗證、軟體測試、資安監控與事件反應等機制來管控資安攻擊的風險，「而這些機制是否可有效地應用於高複雜度、高更動頻率的 AI 模型，將是我們需要面對的主要挑戰。」</p>
<p>&nbsp;</p>
<p>那我們究竟要如何維護 AI 呢？游家牧副教授分享了幾個面向。首先，針對「資料安全」方面，可以透過加密技術、雜訊注入技術、分散式運算、資料標籤等方式進行保護，同時，也可以透過資料清洗的技術，來避免惡意資料流入。</p>
<p>&nbsp;</p>
<p>而針對「模型」本身，則可以透過模型加密、模型浮水印等保護措施，來避免參數被竊取。</p>
<p>&nbsp;</p>
<p>如果說模型是科學家最寶貴的「武功祕笈」，那模型加密就是鎖住這份祕笈的寶箱。除非你擁有打開寶箱的鑰匙，否則你永遠不知道絕世武功要如何練成。這個「寶箱」除了能保護科學家的成果，同時也保護了重要資料不被洩漏，例如軍方的模型一但洩漏，機密檔案就瞬間成為公開檔案。</p>
<p>&nbsp;</p>
<p>至於 AI 的開發人員、管理者、使用者等，則應該定期進行安全培訓、了解相關風險，並根據身分選擇適當的安全措施，來保護 AI 以及自身。最後，則要定期監控和檢測 AI 系統的訊息，才能及時發現風險、適當應對。</p>
<p>&nbsp;</p>
<p>AI 資安涉及的面向非常廣泛，吳育松教授便提醒，最終的保護機制可能需要搭配法律層面的風險管理機制設計，比如究責和強制保險等。而游家牧副教授認為，想要保護 AI，就「需要綜合運用技術、管理、培訓等方面的措施，全面提高 AI 系統的安全性和防護能力。」</p>
<p>&nbsp;</p>
<p>隨著 AI 技術不斷精進，相關的資安挑戰或許也會變得越來越困難，不過，若能理解 AI 背後的邏輯，並時常更新相關知識，也不必過度恐慌。</p>
<p>&nbsp;</p>
<p>（客座總編輯｜國家資通安全研究院 林盈達副院長；研究顧問團隊｜陽明交通大學資訊管理與財務金融學系 游家牧副教授、陽明交通大學資訊工程系 吳育松教授；責任編輯｜曹盛威、劉品萱）</p>
