台灣即時新聞 · 快速準確全面
快訊

基辛格率六家新創來台直攻AI算力瓶頸

基辛格率六家新創來台直攻AI算力瓶頸 cover

人工智慧算力需求持續攀升,支撐運算的基礎設施卻陸續浮現瓶頸。前英特爾執行長、現任創投機構合夥人基辛格,日前再度率領旗下六家前瞻科技新創來台,這是該團隊連續第二年前來台灣,目標直指當前人工智慧基礎設施最棘手的四個環節。

這趟行程鎖定的四大痛點,分別是記憶體、先進封裝、光通訊與電源供應。每一家隨行新創各自對應其中一項挑戰,提出的解方從製程、材料、架構到系統設計都有,涵蓋了從晶片內部到資料中心機櫃之間的完整鏈路。

在先進封裝與互連技術方面,長期存在的一個落差是後端製造的進展跟不上前端微影技術的腳步。隨行團隊提出的是一種名為區域化電化學製造的全新製程,做法是透過印章電極把圖案化與沉積合而為一,一次完成過去需要多道工序才能達成的結構。

這項技術的訴求在於突破既有供應鏈的限制。團隊表示,這種設備能夠以高精度進行晶圓級與面板級的大面積沉積,讓晶片之間的總頻寬超越現有技術路線圖十倍以上,特別適合面板級封裝的應用場景。

來台尋找合作夥伴時,該團隊把目光放在載板業者身上。面板級封裝需要大面積、高精度的承載與互連能力,台灣在載板與封裝領域的完整產業鏈,正好是這類技術落地時最需要的合作對象。

記憶體是另一個被點名的瓶頸。隨著代理式人工智慧時代來臨,模型在推論過程中產生的資料量呈現指數級成長,尤其在解碼階段,記憶體傳輸的壓力變得非常明顯,成為拖慢整體運算速度的關鍵環節。

對此,隨行的一家新創推出結合靜態隨機存取記憶體速度與動態隨機存取記憶體密度的電晶體架構。這項設計利用第三代寬能隙氧化物半導體具備的熱穩定性,實現可以直接堆疊在邏輯晶片上的結構。

堆疊式設計帶來的好處有兩個方向:一是大幅降低資料存取的延遲,二是降低每一個位元傳輸所消耗的能量。對需要長時間連續推論的人工智慧應用來說,這類改進有機會同時提升反應速度與能源效率。

電源管理則是資料中心裡最容易被忽略、卻最燒錢的一環。隨著運算能力飆升,傳統電源晶片因為體積過大、距離處理器過遠,導致相當比例的電力在硬體的最後一哩路中被消耗掉,團隊形容損耗幅度最高可達二十倍。

解方是把電壓調節器做成可以直接嵌入圖形處理器封裝內部的小晶片。因為更靠近處理器,電力傳輸的距離大幅縮短,損耗隨之減少,在既有電力供應條件下,就有機會擠出更高的運算效能。

另一家團隊則把目光投向問世已久、卻始終未能進入量產的超導數位電腦技術。這項技術出現至今已有四十年歷史,團隊如今把它推進到十二吋晶圓廠的製程水準,試圖讓它從實驗室走向實際生產。

超導技術的想像空間相當大。團隊表示,運用這項技術,整座資料中心的運算量有機會濃縮到行李箱般大小的設備裡,在相同的電力與空間條件下,帶來高達一百倍的算力躍升。

光互連是第四個戰場。隨著人工智慧叢集規模不斷擴大,機櫃之間、資料中心內部的資料傳輸速度,已經成為決定整體效能上限的因素之一,相關技術的投資熱度也跟著升高。

隨行團隊中有一家光互連新創,已經獲得多家國際大廠與台灣業者的投資。另一家由華裔執行長領軍的光通訊公司,則把目標放在機櫃對外的近光學封裝市場,主打速度較慢但頻寬較寬的光源設計。

這家公司目前已經與台灣業者展開合作,計畫從現有的傳輸規格推進到下一代更高速的模組,為客戶在實現高速互連時提供不同的技術選擇。光傳輸需求龐大,各種解方都有市場空間,是團隊對這個領域的基本判斷。

此行另一個亮點,是與鴻海董事長劉揚偉的會面。基辛格表示,鴻海是該創投機構最早、也是最忠實的股東與夥伴,雙方在推動全球硬體基礎建設上密不可分,這次會面有深化夥伴關係的意味。

外界近來不時擔憂人工智慧是否存在泡沫。對此,基辛格認為人工智慧正處於一個長達二十年以上的超級週期,過程中難免經歷起伏,但這並非泡沫,而是如同小地震般的溫和修正。

他強調,人類對智慧的需求幾乎沒有上限。若要在未來的市場中占據有利位置,關鍵在於找到技術創新,讓人工智慧效能更強大的同時,也要降低大量的能源消耗。

台灣在這波浪潮中的角色也被特別點出。基辛格指出,台灣目前已經是全球人工智慧製造實力重鎮,這些新技術能否真正落地,台灣絕對是重要的合作場域。

關鍵數字 六家:這次隨行來台的前瞻科技新創數量,連續第二年組團來台。 十倍以上:新型封裝製程宣稱可達到的晶片間總頻寬提升幅度,相較於現有技術路線圖。 二十倍:傳統電源架構下,電力在硬體最後一哩路可能被消耗的損耗倍數。 一百倍:超導數位電腦技術宣稱在相同電力與空間下可帶來的算力躍升幅度。 一百G到二百G:光通訊團隊計畫推進的模組傳輸規格,目標是為客戶提供實現高速互連的不同選擇。 二十年以上:基辛格對人工智慧超級週期的時間判斷,認為目前的波動屬於週期內的修正而非泡沫。

從整體布局來看,這六家新創各自切入的環節彼此互補,從記憶體、封裝、供電到光互連,拼起來正好是一座人工智慧資料中心從內到外的完整拼圖。任何一個環節卡住,都可能拖累整體效能。

對台灣產業來說,這趟訪問的意義不只在於技術展示。載板、封裝、光通訊零組件與電源相關業者,都有機會成為這些新技術的早期合作對象,進一步鞏固台灣在人工智慧硬體供應鏈中的位置。

後續值得觀察的重點,包括這些技術是否會在台灣找到實質的合作案或試產計畫,以及相關業者在下一代產品規格上的進展。人工智慧基礎設施的競賽才剛進入深水區,瓶頸的解方將決定下一階段的產業版圖。