<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/6-0_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">AI 已經能幫助我們在日常生活中完成許多任務，那麼 AI 是否也能幫助我們維護資安呢？</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<p>網路世界的威脅四伏，且在近年不減反增。網路罪犯利用釣魚信件或連結植入惡意程式，綁架電腦資料並進行勒索的勒索軟體（ransomeware）攻擊已經不是新聞，但從 2000 年代至今，這種老套的攻擊手段造成的破壞卻持續增加。</p>
<p>&nbsp;</p>
<p>去年，IBM 發布的資料外洩成本調查報告指出，每次勒索攻擊平均造成 462 萬美元的損失，而這還不包括贖金本身，而是只有資料凍結或遺失造成的營運虧損。 有 60% 的企業表示，資料外洩帶來的成本會轉嫁至產品價格上。政府機關受害的損失更時常得由全民買單。</p>
<p>&nbsp;</p>
<p>近幾年來，更出現雙重、三重勒索，以及「勒索即服務」等全新的攻擊形態，形成了利益龐大的勒索軟體產業鏈，對網路治安形成嚴重威脅。</p>
<p>&nbsp;</p>
<p>面對無所不在且持續進化的網路威脅，AI 善於動態適應與辨認特徵的優勢，可以在這方面助我們一臂之力，成為新時代資安思維不可或缺的一環。當然，在這個時代，什麼名詞前面冠上「AI」好像都不奇怪，但具體而言，AI 可以怎麼幫助我們抵禦網路威脅呢？</p>
<p>&nbsp;</p>
<p>中央研究院資訊科學研究所陳孟彰研究員指出，「資安領域中，需要大量資料分析能力的任務，AI 技術都可以導入，其優勢即為其分析大量資料、自動化作業，以及使用其內涵機率模式推算其從未見過之情景之能力。」</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/6-1_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">藉由大量資料所訓練而成的 AI，能更有效率地偵測網路攻擊。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<p>以這個優勢為出發點，AI 目前於資安的應用主要分為三個面向：異常偵測、漏洞挖掘，以及情資分析。</p>
<p>&nbsp;</p>
<h3><span style="font-size: 16px;"><b>一、異常偵測</b></span></h3>
<p>防禦的第一步就是要察覺敵人的入侵，例如透過防火牆或是入侵偵測系統。AI 技術動態學習的優勢可以強化偵測能力，面對變幻多段的攻擊手法，實現更加彈性的防護。</p>
<p>&nbsp;</p>
<p>陽明交通大學智慧科學暨綠能學院的黃仁竑院長說明，「傳統的做法通常是基於特定的規則或異常偵測。這些方法大都是基於已知的攻擊、以往的經驗，來設定規則或特徵。」例如，我們可以把「貸款」、「熱賣」等常見的用詞設為篩選規則，只要電子郵件含有這些詞彙，便被歸類為可疑。</p>
<p>&nbsp;</p>
<p>但是，規則式列舉曠日廢時，也需要仰賴人力持續更新。奧義智慧科技的研究主任陳仲寬便舉例：「近期，可能就會有普發 6000 元的惡意釣魚信件，就要制定新的規則。（規則）快速變化且防不勝防，因此機器學習可以在犧牲少許正確性的狀況下，偵測釣魚信件。」簡單來說，AI 可以大幅減低設立規則所需的人力，達成自動化的智慧防護。</p>
<p>&nbsp;</p>
<p>黃仁竑院長也提到，近年應用機器學習或深度學習偵測入侵的成果，均較傳統方法更加準確，甚至可以察覺到傳統方法難以偵測的攻擊形態。</p>
<p>&nbsp;</p>
<h3><span style="font-size: 16px;"><b>二、漏洞挖掘</b></span></h3>
<p>除了在敵人來襲時第一時間察覺，預先發覺可能的漏洞也同樣重要。這份工作以往通常是由專業資安人員以逆向工程（Reverse Engineering）或沙盒（Sandbox）等工具分析其軟體，檢查是否有安全弱點或惡意程式。</p>
<p>&nbsp;</p>
<p>而人工智慧自動化的優勢在這裡便可以派上用場。黃仁竑院長提到，研究人員近年開始導入 AI，自動挖掘漏洞、分析弱點，例如：透過呼叫系統程式的序列（sequence of system calls），自動判別是否存在惡意程式。</p>
<p>&nbsp;</p>
<p>陳仲寬研究主任也向我們分享機器學習在漏洞挖掘過程扮演的輔助角色。在 2016 年，全球最大的駭客競賽 DEFCON 便有以機器人自動尋找漏洞，和人類研究員同場比拼的競賽。在這場比賽，大家使用的是符號執行（Symbolic Execution）及模糊測試（Fuzz Testing）這兩種技術，並利用機器學習，最佳化這兩項技術來挖掘漏洞。</p>
<p>&nbsp;</p>
<h3><span style="font-size: 16px;"><b>三、情資分析</b></span></h3>
<p>面對網路上的威脅，事先蒐集情報可以幫助我們看清敵人的長相，及早預防。黃仁竑院長說明：「政府或是資安公司在發現攻擊當下，便會在特定平臺上公告……但由於攻擊事件太多，這些威脅情資通常都很龐大，要找出有用的資訊並不容易。」</p>
<p>&nbsp;</p>
<p>因此，利用機器學習來分析情資，便成為相當重要的研究方向。機器能夠處理大量資料，並從中歸納、學習，讓資安人員不用花費大量時間分析。</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/6-2_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">雖然 AI 能應用在資安上，但訓練過程也可能成為資安漏洞。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<h2><span style="font-size: 20px;"><b>訓練之道</b></span></h2>
<p>AI 在資安領域的應用相當廣泛，充分展現其優勢。那麼，該如何打造一個資安 AI 呢？如同其他的機器學習模型，訓練資安 AI 也需要相對應的資料庫。陳仲寬研究主任表示，依照任務不同，會需要不同的資料集，例如程式資料庫、資安威脅分析報告、網路流量、受害主機的記錄檔等等。</p>
<p>&nbsp;</p>
<p>不過，陳仲寬研究主任也提到蒐集訓練資料的諸多困難。首先，資安資料涉及很高的隱私性與機密性，很多時候，重要的資料並不能分享，攻擊資料可能難以跟雜訊分割，且蒐集資料是一回事，還得將大量資料標記成正常數據與異常數據，才能成為對 AI 有用的訓練資料庫，而這又是一項耗費人力的挑戰。</p>
<p>&nbsp;</p>
<p>黃仁竑院長指出，目前用來訓練資安 AI 的數據庫，大都是在已知、可控制的攻擊行為下所蒐集的資料，以及其相對應的標記。這樣的數據庫通常過於特定，也與真實的網路環境不同。許多資安公司會透過其散布在全球各地的產品蒐集真實數據，但這些數據庫通常不會公開。</p>
<p>&nbsp;</p>
<p>因此，資料蒐集時，常得仰賴網路上的各種公開來源，例如開放取用的惡意程式樣本，或是公開源碼的各式作業系統與應用程式。在「常見漏洞與披露」（Common Vulnerabilities and Exposures, CVE）資料庫中，便公開了足以形成訓練 AI 數據庫的弱點資訊。</p>
<p>&nbsp;</p>
<p>近年來，也有研究人員使用仿真平臺去產生、蒐集多資料源的情資，例如臺灣團隊所開發的 <span data-component="tippy" data-content="CREME 是 Configuration（系統配置）、REproduction（再產製）、Multi-dataset（多資料集）、Evaluation（評估）的縮寫，藉由一系列機器學習自動化提取特徵，最後用於評估與預測攻擊的一系列工具。 ">CREME 工具鏈</span>。至於不需大量標記資料的的<span data-component="tippy" data-content="運用少量有標籤的樣本與大量無標籤的樣本組成的機器學習方法，用以解決使用全標籤樣本的監督式學習太過死板，以及全無標籤樣本的無監督式學習不夠準確。">半監督式學習（Semi-Supervised Learning）</span>是否可以更方便我們蒐集資料，也是一個值得探索的發展方向。</p>
<p>&nbsp;</p>
<h2><span style="font-size: 20px;"><b>實戰與展望</b></span></h2>
<p>雖然人工智慧近五年才成為家喻戶曉的技術，但機器學習在資安領域已有多年的實戰經驗。陳仲寬研究主任提醒，在 1987 年，便出現基於機器學習的入侵偵測系統。而垃圾郵件、釣魚郵件等問題，也在 2000 年初，利用機器學習解決了大半。</p>
<p>&nbsp;</p>
<p>當然，現今的資安系統依然持續使用 AI 技術來提升防護力與效能。黃仁竑院長提到，目前各家資安公司都宣稱有導入 AI 在各樣產品中，例如連續 3 年在美國  MITRE ATT&amp;CK 評測名列前茅的的奧義智慧科技，就在其威脅情資平臺上大量導入 AI，達到自動化的威脅情資分析與探勘。其他常見的國際大廠，如 Palo Alto Networks、Symantec、McAfee，也都導入 AI 於其產品中。</p>
<p>&nbsp;</p>
<p>隨著黑白雙方硬體技術與演算法不斷發展，攻擊手法持續變化創新，因此，相關領域的研究人員必須不斷尋求更好的防護機制。2021 年，陳孟彰研究員的團隊，便發表使用 AI 技術的 MAMBA 系統，可以分析惡意軟體，發現其攻擊方式和相關程式碼，有相當高的準確度。</p>
<p>&nbsp;</p>
<p>儘管資安 AI 已經在異常偵測與漏洞挖掘等方面展現了優異的性能，但受害者依舊沒有減少的趨勢。駭客間的攻防不會停止，資安戰爭也永遠沒有結束的一天。如何將尖端 AI 技術投入戰爭前線，將是資安領域重要的課題。</p>
<p>&nbsp;</p>
<p>（客座總編輯｜國家資通安全研究院 林盈達副院長；研究顧問團隊｜陽明交通大學智慧科學暨綠能學院 黃仁竑院長、奧義智慧科技 陳仲寬研究主任、中央研究院資訊科學研究所 陳孟彰研究員；責任編輯｜曹盛威、劉品萱）</p>
