<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/03/8-1_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">當我們看見風景覺得很美時，是接收資料與運算同步進行，但電腦卻辦不到，因為電腦架構與人腦完全不同。</div>
</div>
</div>
</div>
</div>
<p>你有沒有想過，電腦跟人腦，究竟有什麼不同呢？為什麼電腦可以如此輕鬆地進行超複雜龐大的運算，而對我們來說卻很難達成？又是為什麼，有些對我們來說非常簡單的事情，電腦碰上了卻會一直卡關呢？</p>
<p>&nbsp;</p>
<p>來自清華大學電機工程研究所、由鄭桂忠教授及謝志成教授所帶領的團隊，嘗試將大自然當成老師，學習生物處理資訊的方式，藉此打造出仿生運算晶片，企圖打破既有電腦運算的限制、探索更加多元的可能，他們究竟是如何做到的呢？</p>
<p>&nbsp;</p>
<h2><strong><span style="font-size: 20px;">經典架構也會卡關？電腦的限制從何而來</span></strong></h2>
<p>既然說到突破框架，我們就得先了解這框架究竟是從何而來。現代電腦的架構，主要起源於一位名叫馮紐曼（John von Neumann）的數學家，他所發表的《First draft of a report on the EDVAC》報告中，將電腦分成了五大單元（運算單元、控制單元、記憶單元，輸入裝置與輸出裝置），讓電腦分別處理運算和資料儲存。</p>
<p>&nbsp;</p>
<p>鄭桂忠教授解釋道，在這個架構下，如果想要進行運算，就得不斷進行「搬運」：運算時，要先將相關資料從記憶體中搬去 CPU 裡進行運算；算完後，又得將資料從 CPU 存回記憶體。在各司其職的狀況下，負責 CPU 的廠商們認真提升速度、負責記憶體的廠商則想辦法在單位面積中儲存更多東西。而隨著技術提升，我們的電腦不斷進階，能處理的資料量也越來越大、速度越來越快。</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/03/8-2_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">目前電腦的 CPU 架構將敵不過大數據與人工智慧的趨勢，目前可能的解法為打破既有框架，讓一塊晶片同時擁有記憶與運算功能。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<p>But！人生重要的就是這個「But」，這樣的架構一但碰到人工智慧的領域，就很容易卡關。鄭桂忠教授表示，由於人工智慧演算法的運算需要大量資料搬運，會在過程中消耗掉大量能量與時間，正因如此，才需要尋求新的運算架構。</p>
<p>&nbsp;</p>
<h2><strong><span style="font-size: 20px;">跟生物學技巧！讓執行變得更有效率</span></strong></h2>
<p>如今的人工智慧發展核心本身便與人類的神經網路息息相關，現在，花 3 秒鐘仔細回想你在解題或處理各種日常課題的時候，用的絕對不是馮紐曼架構對吧？實際上，人類的大腦在處理訊息時，是以神經元為基本運算單元，並用周圍的突觸作為傳遞與記憶的單位。有沒有發現？比起電腦將「記憶」與「運算」完全分開來的架構，人腦卻擁有各處分散的記憶體。</p>
<p>&nbsp;</p>
<p>鄭桂忠教授以特斯拉為例，要花費多年才能教懂電腦完成巡航、規劃路線、避障等等任務（而且偶爾還會出包），但同樣的工作，只有顆小腦袋的蚊子卻能輕鬆達成。無怪乎「深度學習之父」辛頓（Geoffrey Everest Hinton）也曾說過，若想克服 AI 的極限，便需要向大自然學習。</p>
<p>&nbsp;</p>
<p>而這，正是鄭桂忠教授與謝志成教授與團隊在國科會「半導體射月計畫」中，所努力的事。為了好好向生物學習，這個跨領域的團隊裡有清華大學系統神經科學研究所所長羅中泉坐鎮，為大家解開果蠅大腦的祕密，懂了原理之後，大家再想辦法以其為靈感，去研發晶片。</p>
<p>&nbsp;</p>
<p>鄭桂忠教授笑說，跨領域合作時，兩方專注的方向非常不同，生物學家們努力理解生物運作，而工程師們則想辦法將知識拿來運用。從懂得生物機制到真的學到精髓的過程，其實並不容易，由於仿生運算晶片的邏輯與傳統晶片不同，因此需要非常多新的技術，鄭桂忠教授更指出，這次團隊的技術突破，主要在「感測端減少資料量」、「模型端減少運算量」、「運算端減少資料搬運量」等三大方面。</p>
<p>&nbsp;</p>
<p>仿神經智慧視覺系統晶片的研製目標，是想要研發出極低功耗的智慧視覺系統，為此，謝志成教授所帶領的團隊特別開發出「感測器內處理」（Processing-in-Sensor, PIS）的技術。鄭桂忠教授分析，這種技術的概念很類似生物處理視覺訊息的方式，平時，我們在看東西時，視網膜都會先為我們預先處理、抓出特徵，再將訊息交給大腦，如此一來，大腦要處理的資料量便會大幅減少。而謝志成教授與團隊便嘗試學習這樣的方式，直接在感測單元內擷取特徵而後輸出，跟傳統方式相比，「只需 0.1％ 資料傳輸量，大幅降低與後端處理單元間的資料傳輸與功耗並提升效能。」</p>
<p>&nbsp;</p>
<p>此外，團隊也根據果蠅的視覺模型去設計運算模型，藉由減少神經元的方式降低運算量。而最後一項突破性的貢獻，則是參考先前提到的大腦運算生物模式，達成「記憶體內運算」，減少搬運過程的能量與時間消耗。藉由三管齊下，團隊最終開發出低功率（low-power）、低延遲（low-latency）的學習晶片。</p>
<p>&nbsp;</p>
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/03/8-3_670x460.jpg" /></p>
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">當 CPU 與記憶體合為一塊晶片，就能減少中間的損耗，並加速處理過程，晶片架構也更像是神經叢，仿神經智慧視覺系統晶片中的「仿神經」即為這個意思，而「系統晶片」即代表 CPU 與記憶體合而為一，成為一個獨立系統。</div>
</div>
</div>
</div>
</div>
<p>&nbsp;</p>
<h2><strong><span style="font-size: 20px;">未來無限大？仿生運算晶片的運用能有多廣泛？</span></strong></h2>
<p>在過去，馮紐曼架構便能滿足我們的各項運算需求。而如今，神經網路的運算需求變大，也激勵學者們開始探索不同的可能。</p>
<p>&nbsp;</p>
<p>鄭桂忠教授認為，深度學習運算與仿神經運算各有其優點，深度學習適合「辨識」，仿神經運算則適合處理「反應快、功耗低」的任務，雖然神經網路是時下熱門領域，但也仍有許多待解決的議題，等待大家挑戰。</p>
<p>&nbsp;</p>
<p>謝志成教授則表示，「仿生運算」是使用簡化的生物運算模型，來對目標應用進行最佳化調整與實現。因此，他認為仿生運算晶片未來的發展「應以滿足特定應用需求為前提，發展出最佳系統架構與技術。」</p>
<p>&nbsp;</p>
<p>清華大學「仿神經智慧視覺系統晶片」研究團隊透過創新，開發出感測器內運算技術、記憶體內運算技術、生物運算模型、人工智慧加速器優化技術等等最先進技術，清華大學「仿神經智慧視覺系統晶片」研究團隊透過創新，開發出感測器內運算技術、記憶體內運算技術、生物運算模型、人工智慧加速器優化技術等等最先進技術，可謂國際少見可完整掌握前端感測單元與後端處理單元技術的團隊。未來，相關技術能有怎樣的發展與應用，也令人十分期待。</p>
<p>&nbsp;</p>
<p><span style="font-weight: 400;">（客座總編輯｜國家實驗研究院台灣半導體研究中心 侯拓宏主任；研究顧問團隊｜清華大學電機工程研究所 鄭桂忠教授、清華大學電機工程研究所 謝志成教授；責任編輯｜曹盛威、劉品萱）</span></p>
