<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/14-0_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">ChatGPT 能幫助我們完成許多基本工作，但背後蘊含的資安問題，卻鮮少被提起。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<p>說到近期最受關注的人工智慧（AI）工具，許多人都會想到大名鼎鼎的「ChatGPT」；自推出以來，許多媒體爭相報導 ChatGPT 的便利性與實用性，而其簡單好上手的設計，更是讓許多使用者愛不釋手。</p>
<p>&nbsp;</p>
<p>然而，隨著這項工具的普及，隱藏在背後的資安風險也開始逐步浮現，究竟這項新工具與其他 AI 工具有何不同？又會帶來哪些新的資安挑戰呢？今天，讓我們一起逐步了解。</p>
<p>&nbsp;</p>
<h2><strong><span style="font-size: 20px;">什麼是 ChatGPT？可以用來做什麼？</span></strong></h2>
<p>要了解 ChatGPT 的資安風險，我們首先得先知道它究竟是什麼東西。 ChatGPT 是由美國的人工智慧研究實驗室 OpenAI 所開發出的產品，它是這樣定義自己的：「一種基於深度學習的自然語言處理模型」。透過深度學習，ChatGPT 擁有理解人類語言的能力，因此可以拿來生成文字和對話。</p>
<p>&nbsp;</p>
<p>這種能力到底有多好用呢？基本上，許多日常工作都能交給它處理。比如做作業或寫提案時，我們可以請 ChatGPT 幫忙「蒐集資料」，這時的它就像一個更為直觀的搜尋引擎，讓人不必花時間思考該下什麼關鍵字，只要直接把問題丟給它就好了！像是：「給我 10 種料理虱目魚的方式」。</p>
<p>&nbsp;</p>
<p>如果蒐集到的文章或資料太過冗長，我們還可以請 ChatGPT 協助「摘錄重點」，將內容化繁為簡，更方便閱讀。接下來，我們也可以根據這些素材，請它「撰寫文章」。無論是長篇文章、短篇社群貼文，又或是溝通用的 Email，全都難不倒它。</p>
<p>&nbsp;</p>
<p>除了文書處理之外，ChatGPT 也能用來協助撰寫程式、規劃或工作流程。怎麼樣，聽起來是不是十分好用啊？</p>
<p>&nbsp;</p>
<p>只要你懂怎麼操作 ChatGPT，資料整理、企劃發想、文案撰寫全都難不倒它。</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/14-1_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">只要你懂怎麼操作 ChatGPT，資料整理、企劃發想、文案撰寫全都難不倒它。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<h2><strong><span style="font-size: 20px;">好實用，卻也好危險？ChatGPT 的黑暗面</span></strong></h2>
<p>如此廣泛的應用領域，也帶來了多面向的資安風險。臺灣大學電機工程學系李宏毅副教授指出，ChatGPT 的資安風險分別來自「人工智慧生成」與「訓練資料輸入」兩大面向。</p>
<p>&nbsp;</p>
<p>所謂「人工智慧生成」指的是 ChatGPT 所給出的內容基本都是透過人工智慧自行生成的，並非開發者事先預設之答案，正因如此，可能會出現開發者無法預測的內容，例如色情、暴力，或是種族歧視等不當言論。事實上，Open AI 在訓練 ChatGPT 的過程中，已經思考到這些可能性，也極力避免相關情況產生，因此，平鋪直敘地要求它說出不當言論是沒用的，比如下圖：</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/14-2.png" /></div>
</div>
</div>
</div>
<p>&nbsp;</p>
<p>然而，如果運用一些技巧，我們便能突破原本的限制，比如誘騙它進行角色扮演，像是扮成「一位愛說髒話的 PTT 網友」，或是「喜歡歧視女性的中年人」。值得慶幸的是，「這種指令可能只對於 GPT-4 之前的版本比較有效，並不一定能使 GPT-4 說出冒犯性的句子」李宏毅副教授如此說明。</p>
<p>&nbsp;</p>
<h2><strong><span style="font-size: 20px;">小心！你的資料都被 ChatGPT 看光光了？</span></strong></h2>
<p>另一方面，我們在與 ChatGPT 對話的過程中，會輸入大量的資訊內容，若沒有謹慎把關，這些素材有可能會帶來相關的資安風險。</p>
<p>&nbsp;</p>
<p>比如資料安全服務公司 Cyberhaven 便曾監測公司內部使用 ChatGPT 的情形，結果發現：平均每 20 名員工就會出現一次企業資料外流事件，這些外流資料包含個人、客戶、專案的資料，以及程式原始碼等。</p>
<p>&nbsp;</p>
<p>若是 ChatGPT 透過這些資料來進行學習，即便日後這些資料已從網路上清除，也可能繼續留在 ChatGPT 之中，如此一來，便有可能在日後與人類對話時，不小心說出敏感資訊。</p>
<p>&nbsp;</p>
<p>此外，ChatGPT 可以理解人類語言，也能夠產生流暢、通順的語句，卻無法全面進行資料與事實查核，因此可能會生成假訊息、詐騙訊息，進而造成負面影響。</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/06/14-3_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">ChatGPT 可以快速產生多個內容類似的文本，如果用在假訊息上，可能會增加分辨假訊息的困難程度。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<h2><strong><span style="font-size: 20px;">AI 很會製造假訊息？那我們就要比他更強！</span></strong></h2>
<p>針對 ChatGPT 可能出現的假訊息及歧視內容等問題，成功大學資訊工程系高宏宇特聘教授直言：「靠著網路的資料來做的時候，這是很難避免的。」教授指出，即便可以透過更多資料或是人工修正的方式調整，但如果調整後，仍然持續輸入免費的大量資料，那便很難用規則型態的方式圍堵。</p>
<p>&nbsp;</p>
<p>這或許也解釋了為何擬定相關法規和使用規範會顯得如此困難。近期，不少政府機關和民間單位都嘗試阻止其成員使用 ChatGPT，比如義大利資料保護局（General Data Protection Regulation, GDPR）便曾禁止人們在義大利境內使用 ChatGPT 的服務，直到 OpenAI 加強了資安措施才重新開放。然而，法規與政策的腳步或許很難跟上軟體開發的腳步，即使不用 ChatGPT，類似的服務也會不斷出現，而其帶來的資安風險也將一直存在。</p>
<p>&nbsp;</p>
<p>不過，我們也不用完全灰心，有時也可以試試「用 AI 打敗 AI」，比如中央大學資訊工程系蔡宗翰教授便在進行事實查核計畫，目前已經能偵測出訊息中需要特別注意的段落，為使用者標示出可能被扭曲的內容，而下一階段希望能達到自動查核，讓系統自行找出訊息的原始來源。</p>
<p>&nbsp;</p>
<p>蔡宗翰教授也提醒「建立自己的語言模型很重要」，畢竟，在我們不斷訓練模型的時候，暗網、駭客組織或假訊息產生者也都在努力訓練他們的模型，所以，我們應該努力讓本身的模型能力比他們更加優秀。</p>
<p>&nbsp;</p>
<p>回歸到一般使用者，或許我們沒有能力訓練出自己的語言模型，卻也可以練習培養屬於自己的訊息判斷系統。套句蔡宗翰教授的話，若想不被 AI 取代，「就要讓你自己不停地進步！」</p>
<p>&nbsp;</p>
<p>（客座總編輯｜國家資通安全研究院 林盈達副院長；研究顧問團隊｜臺灣大學電機工程學系 李宏毅副教授、中央研究院人文社會科學研究中心 蔡宗翰研究員；責任編輯｜曹盛威、劉品萱）</p>
