元腦?服務器第八代新品重磅發布！創新開放架構引領算力生態多元共進

浪潮信息

2024-10-25 18:07 6342

北京2024年10月25日 /美通社/ -- 10月24日，元腦®服務器第八代新品發布會在京舉行。會上，浪潮信息重磅發布元腦®服務器第八代算力平臺，基于開放架構設計，業界率先實現"一機多芯"，同一架構支持英特爾®至強®6處理器及AMD EPYC? 9005系列處理器，在促進多元生態共進的同時，具備更全面的智能能力和更高能效，更好支撐AI大模型開發與應用創新。實測數據表明，在LLaMA2大模型AI推理場景中，整機性能較上代最大提升3倍。

元腦服務器第八代算力平臺擁有23款新品，基于先進的計算、存儲架構創新，在CPU總線互聯帶寬、內存帶寬及容量上全面優化，單機核心數最多到576C，主頻高達5.0GHz，內存帶寬提升高達136%。元腦服務器第八代算力平臺一經發布，就打破多項SPEC國際性能測試紀錄。

浪潮信息、信通院、Intel、AMD、阿里云、國家新能源汽車技術創新中心、金山云代表共同發布

一機多芯，開放標準促進多元算力生態進化

隨著大模型能力的持續提升，生成式人工智能在企業側、行業側的落地正在提速，智能應用不斷涌現。日趨豐富的AI應用場景也衍生出新的算力挑戰，不同AI應用的典型特征及系統需求存在差異，需要多元的算力生態予以滿足。伴隨著通用處理器在芯片架構、指令集等方面對AI的優化增強，在AI推理端的巨大應用潛力使得CPU在AI時代變得更加重要，需要系統創新釋放通用算力在AI領域的應用價值。

元腦服務器第八代算力平臺成為全面且強大算力生態的載體，源于浪潮信息的諸多創新系統架構設計，將通過共建開放標準的方式聚集更多生態力量，使能通用算力與AI算力共同支撐日益多樣的AI工作負載，加速多元算力生態進化，推動開放多元算力標準落地。

在通用算力領域，浪潮信息積極參與的開放計算模組規范(OCM)，正在推動建立基于處理器的標準化算力模組單元，構建CPU的統一算力底座，解決多元CPU生態挑戰問題，推動算力產業快速發展。會上發布首款基于服務器計算模組設計規范OCM的NF3290G8，整機全面解耦，以CPU、內存為核心構建最小算力單元，標準化高速/低速互聯接口，實現處理器算力模組部件化，靈活支持多類型CPU，讓不同算力共享統一平臺，降低算力產業創新試錯成本和推廣適配成本，也讓多元化的應用場景能夠快速找到貼合的方案。

在AI算力領域，浪潮信息推動開放加速規范OAM的生態繁榮，大幅縮減國內外加速卡和服務器的適配周期，加速先進算力上線部署，支撐大模型及AI應用迭代成熟。目前，90%高端加速卡基于OAM規范設計。會上發布基于UBB2.0規范開發的元腦服務器NF5898G8，可以兼容符合OCP開放加速規范的多款OAM 2.0模組，通過全模塊化的設計及極致的系統能效，滿足算力的快速迭代需求，進一步加速算力融合創新。

智能增強，全面加速大模型開發與AI應用創新

元腦服務器第八代算力平臺實現了全面的智能增強，通過搭載自研服務器操作系統KOS、AIOps智能運維管理平臺以及AI軟件堆棧，從服務器智能，到快速構建AI開發環境，到作業調度和資源統一納管，乃至智算中心智能運維，提供全面的平臺軟件與工具軟件支持。

新平臺在預警、散熱、管理等方面進行了全新的智能化升級。其中，在智能預警方面，全新升級內存故障智能預警修復技術MUPR，基于對上萬臺服務器故障數據的建模分析和AI模型算法的訓練，實現內存故障提前預警、內存錯誤實時隔離、內存故障智能修復，降低內存導致宕機故障率80%。在智能管理方面，通過RTOS實時操作系統，實現開機3秒內智能管理調控風扇轉速，降低30%的噪音，確保散熱安全。

面向大模型部署難題，新平臺與服務器操作系統KOS實現軟硬協同優化，自研KOS AI定制版簡單2步即可實現大模型訓練環境搭建，200節點訓練集群開發環境，采用AI定制版20分鐘即可完成部署上線可用，極大提升了大模型開發部署效率。