&nbsp;
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" style="color: var(--global--color-primary); font-family: var(--global--font-secondary);" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/03/4-1_670x460.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">面對新一波人工智慧的浪潮再次襲來，大量的資訊與運算正考驗著記憶體該如何以技術迎戰，而下世代記憶體會如何帶領產業解決眼前的難題？</div>
</div>
</div>
</div>
</div>
&nbsp;
「你今天 ChatGPT 了嗎？」無論你是科技人還是行銷人，這句話或許已經成為近期碰面打招呼的最新用語。生成式 AI 在一瞬間成了社群媒體上的新寵兒，不外乎人工智慧這項耳熟能詳的技術，又來到了一個新的境界：只要使用者輸入提問或訊息，機器人就能產生回復並進行互動，更重要的是這些答案有不少都具備極高的可讀性與一定程度的正確性，令人驚艷。
&nbsp;
也因為機器人的回復讓人再次感受到人工智慧的價值，不少使用者也躍躍欲試，造成近期免費版的 ChatGPT 在短時間內就因大量資料的匯入數次當機。究其原因，記憶體存儲空間、CPU 的運算力以及整體系統的效能，都是造成當機的原因，而這背後也隱藏了半導體產業在迎戰人工智慧未來數據的資料量、運算強度與即時反應等效能表現上，將面臨技術再升級的瓶頸。
&nbsp;
在揭開外界對「下世代記憶體」的認識前，旺宏電子前瞻技術實驗室／微電子及記憶體事業群專案資深處長謝光宇用了上述這個時事，讓大家能對應用場景與記憶體間產生共鳴，同時也開始拆解究竟記憶體的技術在產業迎向人工智慧的世代下，還有哪些挑戰需要克服？
&nbsp;
<h2>AI 浪潮襲來，記憶體技術究竟出了什麼問題？</h2>
謝光宇處長説，半導體記憶體主要可以區分為「非揮發性記憶體」（non-Volatile）與「揮發性記憶體」（Volatile），其差異在於電源的供應終止後，處理的資料是否會因此消失。前者常見的代表為 Flash，後者則為 DRAM、SRAM 等；或是可以換個角度理解，如 Flash 這類型非揮發性記憶體的作用主要在於「存儲」（Store）、而揮發性記憶體如 DRAM 及 SRAM 的作用則在於「工作（Working）」。雖同為記憶體，但在裝置內卻是各司其職。
&nbsp;
縱使外界多習慣以「速度慢」來比較記憶體跟 CPU 兩者之間的關係，好似 CPU 已經將訊息分析處理完畢，卻等不到 DRAM 再匯入更新一批的訊息運作，時常需要等待空轉的耗能現象，同時造成設備當機。但看在謝光宇處長眼裡，他認為這並非影響整體運算表現的關鍵，癥結點應是聚焦在如何同時提升記憶體容量且在一定的時段內輸出最大的資料量，因此前者就是持續增加 DRAM 數量，而後者就是縮短資料傳輸距離及擴大資料輸出的通道數目，如伺服器內價格不斐的高頻寬記憶體（high bandwidth memory, HBM） 就是這個概念的實踐。
&nbsp;
回到 ChatGPT 當機的現象，這純粹就是使用量太大，有如速食店，外面客戶太多，廚房太小，原物料儲存不夠，產生食物的工具不足且速度不夠快。若要克服這窘境，不外乎就是擴充 伺服器數量 (GPU／CPU／記憶體)以及提升運作性能來因應。換言之，CPU／GPU 其運算能力要更超前，而記憶體密度也須大幅增大，尤其目前 ChatGPT 所使用的訓練模型，其參數數量已經高達 1750 億個，未來會達到 10 兆以上，這龐大的資料所需要的記憶體可想一般。謝光宇處長說，若單純從 DRAM 的技術來分析，產業確實需要容量更大的記憶體來應戰。但他不否認，現階段 DRAM 技術同樣遇上了物理極限，想要仿效邏輯晶片的「摩爾定律」 （Moore&#8217;s Law）以更加微縮的方式增加單位面積電晶體數以提升效能表現，已經有些難度。「若記憶體縮小，其所能儲存的電荷數量有限，這間接影響到其所對應出電壓大小被感測的解析度，最終會造成數據的誤判。」正因如此，業內也開始尋求其他解方。
&nbsp;
從技術角度來看，目前 DRAM 採用的是 2D 平面設計，想要突破眼前物理極限，提升容量，就必須轉向 3D 的懷抱。謝光宇處長説，這就像是平面停車場跟立體停車場一樣，當 DRAM 在相同面積下，若能往立體結構發展，就能大幅增加可作業的容量空間。但謝光宇處長也指出，現階段 3D DRAM 必須要先克服的瓶頸，除了製造成本過高外，層與層之間的熱傳導問題、製程技術等也橫梗在前，因此距離實際應用仍需要時間。
&nbsp;
另一方面，DRAM 也能拉近與 CPU 間的距離或以增加 I/O 通道來解決目前狀況。謝光宇處長提到，I/O 通道如同 DRAM 與 CPU 的溝通橋梁，除可以將  DRAM 與 CPU 的位置從設計上拉近，減少資訊傳輸往返的耗能外，並增加 I/O 通道，也能加大 DRAM 傳輸與接收 CPU 資訊的量能，達到現階段對於記憶體容量的需求，不失為一種解方。
&nbsp;
<h2>擁抱下世代記憶體，誰是未來明星級應用</h2>
但下世代記憶體的發展並不單局限在 DRAM 技術的突破，在非揮發性記憶體的研究上，同樣也有令人驚艷的成果。「FRAM、MRAM 及 RRAM 是目前常見以非揮發性為主的下世代記憶體技術。」謝光宇處長點出了目前市場上的熱門選手們。
&nbsp;
清華大學材料系講座教授賴志煌在其出版的《下一世代磁性記憶體的挑戰與機會》中就提到，在物聯網、行動裝置與邊緣運算大行其道下，下世代記憶體能以更快的寫入速度、更低的消耗功率與更高的耐久度等特點見長，備受市場關注。此外，「非揮發性」這個原生特點，再加上各項功能與 DRAM 競爭的優勢，讓這些下世代記憶體的選項瞬間成為市場新寵。
&nbsp;
不過，謝光宇處長仍非常務實的點出了一個致命傷——成本。他表示，現階段這些下世代記憶體的成本，對於一般消費性電子產品而言都還過高，但這也取決於它們能否找到比較小眾或面對企業端的市場應用，加上相關技術瓶頸的突破，或許就能在特殊應用場景中取代現行記憶體技術。即便下世代記憶體的發展眾多，但就目前業界從技術與場景應用落地的可行性角度分析，包括FRAM、RRAM 及 MRAM會是相對熱門的選項。
&nbsp;
<h2>鐵電記憶體：FRAM</h2>
謝光宇處長表示，鐵電記憶體之所以在近期又掀起話題，是因為科學家發現原本用於邏輯製程所使用之氧化鉿（HfOx）材料，在摻入少量合宜的雜質之後，便擁有鐵電相特性，這個突破使得過去已有發展的鐵電記憶體出現一道曙光。過去鐵電記憶體主要是採用基於鈣鈦礦族的鋯鈦酸鉛（PZT）來製作，不過礙於該材料有環保的考量以及在製作時對於氫氣的敏感度，同時該鐵電特質會隨著材料厚度減少而消失，這對於想藉由元件尺寸的微縮來提升記憶體密度極為不利，使它具有低能耗，操作速度快的優點，但畢竟無法提高記憶體高密度且製程又不匹配既有的 CMOS 製程，故所應用的層面也僅局限小眾市場，例如無線射頻識別系統（Radio Frequency IDentification, RFID），其發展沉寂一段時間，直到氧化鉿被發現可以呈現鐵電特性，且該材料早已被現有先進邏輯製程所使用，這不僅排除以往對於新材料所造成製程污染的顧忌，同時還可以搭上既有成熟製程的順風車，加上它的鐵電特性在極薄的厚度下依舊可以維持，這完全是突破先前鐵電記憶體的困境，這也難怪氧化鉿鐵電記憶體在近年又成為新寵。
&nbsp;
氧化鉿鐵電記憶體可在低電壓環境操作且反應速度快，兼具低能耗與高性能，不過該材料的成長上仍受限於可操作空間（Process Window）過於狹小，要在適當的條件，諸如成長溫度、摻入雜質種類、維持特定材料微觀結構等，才能符合應用所需，近兩年來，國內這方面的研究，在政府 Å世代半導體計畫推動之下，已有多個自台、清、陽明交通的研發團隊，展現優異之研發成果發表於國際知名會議與期刊之中，期待開花結果。
&nbsp;
<h2>電阻式記憶體：RRAM</h2>
由於電阻式記憶體結構簡單、讀寫速度快、密度高、消耗功率低，同時電阻材料如二氧化鈦、氧化鉿等都具有成本上的競爭優勢，是為該技術的優點，並受到業界矚目，包括美光、英特爾等大廠也積極投入電阻式記憶體技術的研發。然現行電阻式記憶體的挑戰，在於每一個記憶體其記憶行為，呈現較大的發散性，在相同操作條件下，不易形成前後大小一致之電阻值，這將嚴重影響數據的可靠性，同時該元件也有操作持久度可靠度的隱憂，這都是電阻式記憶體想要往產品化發展的挑戰。
&nbsp;
<h2>磁阻式記憶體：MRAM </h2>
磁阻式記憶體主要透過兩個鐵磁層的磁化狀態來儲存二進位資訊。在操作速度以及反覆讀寫的持久次數可與 DRAM 相抗衡，由於具備非揮發性特質，因此從節能的角度來看，絕對優於 DRAM，加上 MRAM 對高能量之幅射線有強大之免疫力，不容易受外太空等場景干擾，可確保記憶資料的正確性，這對於軍事用途或是衛星商業市場都有極大之吸引力，由於在 MRAM 記憶體的密度上較 SRAM 更具競爭力，因此目前磁阻式記憶體正往取代部分 SRAM 之應用。目前現階段 組合成 MRAM 的材料種類極繁多，這也使得與現有成熟半導體製程的相容性的門檻也提高、因此製作成本昂貴，雖然 MRAM 屬於後段製程的產品，但是其關鍵之選擇電晶體之尺寸使否能夠在尺寸微縮小提供有效的驅動電流，這都是業界亟欲克服的困境。
&nbsp;
在上述的下世代記憶體熱門候選人中，MRAM 具備了「Store」及「Working」的功能，至於其他則是其因操作速度或是其反覆讀寫的次數耐久度尚無法滿足工作記憶體的要求，因此將先維持在 Store 的角色。下世代記憶體是否能扮演全方位的記憶體，那可能是一個最終的夢想，以現有的研發成果來觀察，每一個下世代記憶體，都將是建構在其特有的性質上，盤據獨特的市場應用。最終可能出現綜合式的組合，共同完成系統性的需求。
<div class="py-6">
<div class="jsx-3968805167 flex justify-center -mx-2">
<div class="jsx-3968805167 px-2">
<div class="jsx-3968805167 relative overflow-hidden"><img decoding="async" class="jsx-3968805167" src="https://www.charmingscitech.nat.gov.tw/backend/wp-content/uploads/2023/03/4-2_670x460.jpg" />
<div class="jsx-3968805167 absolute w-full left-0 bottom-0 p-4 text-white text-[13px]" style="background: rgba(0, 0, 0, 0.66); display: block; line-height: normal;">當未來因人工智慧的發展造成更多資料量的產出時，運算力與效能將備受考驗，若可以重新定位記憶體扮演的角色與價值，往記憶體內運算的腳步前進，將有助於產業的推動與發展。</div>
</div>
</div>
</div>
</div>
&nbsp;
<h2>記憶體內運算成未來趨勢，產業上下游攜手合作</h2>
然而，技術的突破不該只是尋求下世代記憶體一途，看在謝光宇處長眼裡，更是要重新定位記憶體在設備裝置中的角色。「它應該要往加工出口區的概念邁進」謝光宇處長拋出了這樣的想法，簡單來說就是記憶體內運算（Computing-In-Memory, CIM）。
&nbsp;
試想，當市場越趨於仰賴人工智慧，若想要獲得更精準的資訊，勢必要透過大量資訊訓練出更強大的模型才得以滿足，這也凸顯了不只是資訊量將與日俱增，運算力也可能備受考驗。即便市場上也端出了專門處理圖像的 GPU，但單靠 CPU 與 GPU 聯手，肯定很快就會捉襟見肘。謝光宇處長認為，這就像是出海捕魚，如果船隻能擁有加工設備，將漁獲先行處理，那麼回程後就能直接販售，節省許多步驟與時間。
&nbsp;
同理，如今記憶體的任務僅是單純的儲存或是傳遞資訊，倘若能朝向記憶體內運算的方向前進，它將不再只是儲存資料的設備，甚至能在資料匯入時，進行簡單運算，「特別是那些單純的加減乘除任務」謝光宇處長說，如此一來將能減少資料傳出所造成的耗能與功率損失，而這背後更遠大的目標，正是要讓 CPU 有餘裕執行更重要的任務，聯手所有元件，一同實現未來人工智慧時代下可能衍伸出更大量算力需求的場景。
&nbsp;
面對記憶體乃至於半導體產業的下一步，謝光宇處長認為終須回到場景需求，「此時已不再是各自為政的時候。」若 5G、人工智慧已經是大勢所趨，CPU、GPU、記憶體等三方該如何攜手，技術又該如何突破，在終端場景驅動創新發展的此刻，或許也需要產業共同集思廣益，解決根本的運算力問題。下一回，ChatGPT 或許就可以不再當機、使用上更加順暢了。
&nbsp;
（客座總編輯｜國家實驗研究院台灣半導體研究中心 侯拓宏主任；研究顧問團隊｜旺宏電子前瞻技術實驗室 謝光宇資深處長、清華大學材料科學工程學系 賴志煌講座教授；責任編輯｜曹盛威、劉品萱）