晶片大廠AMD發表針對Agentic AI設計的機櫃參考架構Helion,透過可彈性配置CPU與GPU的開放式設計,因應不同類型AI Agent工作負載的需求。這是業界首次針對Agentic AI時代推出的機櫃級參考架構,也反映出CPU在AI資料中心重新受到重視的趨勢。
過去生成式AI基礎架構主要圍繞大型語言模型推論,GPU成為AI資料中心建置的重心。然而隨著企業開始部署能夠自主規劃任務、呼叫工具並串接企業系統的AI Agent,資料中心需要處理的工作不再只有模型推論,還增加了Agent執行、工作流程協調、程式執行以及多Agent協作等工作,讓CPU重新成為Agent時代的重要運算資源。
Helion延續AMD先前Helios Rackscale Solution的開放架構理念,採用Open Compute Project規範設計。與以固定配置為主的AI伺服器不同,AMD強調Helion可依照工作負載調整CPU核心密度、效能、功耗以及GPU加速資源的機櫃設計,讓合作的業者依不同應用需求規劃運算架構。未來Helion規格將提交給OCP社群,由其持續發展與採用。
AMD Compute & Enterprise AI資深副總裁兼總經理Dan McNamara指出,Agentic AI並非單一工作負載,而是涵蓋個人AI助理、企業應用、程式執行及複雜工作流程等不同場景,每一種應用對運算資源的需求都不同。
他表示,Agentic AI需要的是能適應不同工作負載的最佳化運算與基礎架構,為此AMD將EPYC處理器、開放軟體及彈性的機櫃設計整合在Helion中,讓業者能依據客戶需求打造系統,同時更有效利用有限的電力資源。
這次在OCP大會期間公布的Helion提供兩種主要部署配置。一種為針對超大規模資料中心設計的CPU-only Rack,採用第6代AMD EPYC處理器,最多可達到32,768個CPU核心,主要負責AI Agent執行、工作流程管理及工具呼叫,至於大型語言模型推論則交由獨立的GPU叢集處理。
另一種部署配置是企業版All-in-One Rack,將AMD EPYC CPU、AMD Instinct MI350P GPU,以及一般的運算節點整合在同一機櫃中,讓企業在單一平台上同時具備Agent執行與模型推論能力。
從Helion機櫃的設計來看,反映Agentic AI基礎架構逐漸朝向CPU與GPU分工化的趨勢發展。相較於生成式AI初期多聚焦GPU推論,Agent系統除了模型推論外,還涉及任務拆解、工作流程協調、程式執行及多Agent協作等工作,CPU重新成為AI基礎架構的重要組成。
AMD提出的CPU-only機櫃,將Agent執行與模型推論拆分,由CPU與GPU各自負責不同工作,以提高整體資源利用效率;企業則可依需求採用CPU、GPU整合的部署方式,在既有IT基礎架構上建置Agentic AI平台。
除了硬體配置外,Helion也採開放式設計,可支援風冷與液冷兩種散熱方式,並相容開放軟體架構。AMD表示,目前Helion的機櫃配置已與多家合作的業者共同開發。
AMD預期相關產品會在今年11月推出,並將規格提交至OCP,希望藉由開放標準推動Agentic AI基礎架構的發展。這一架構能否獲得資料中心業者的採用,將成為後續市場關注的焦點。