北京2017年10月15日電 /美通社/ -- 在9月底舉辦的GTC China 2017大會上，浪潮展示了基于Tesla® V100的AI計算產品GX4 Box，成為現場的“明星”產品。

浪潮GX4并不是一臺傳統意義上的服務器產品，而是一臺2U高度的AI box，其中沒有CPU、內存，由4塊GPU計算加速卡，擴展主板其他支撐部件組成。用戶也可部署16塊NVMe SSD硬盤替代計算加速卡，作為高密度熱數據存儲使用。

GX4承襲了浪潮SR-AI整機柜的設計理念，實現了CPU和GPU的物理解耦，使得計算加速單元能夠以獨立模塊的形式進行靈活擴展。這種設計的好處顯而易見，它能在保證高效的GPU跨節點通信效率的同時，以靈活的擴展形式敏捷支持不同級別的AI模型訓練。有效降低IO冗余和系統購買成本，非常適合深度學習模型訓練、科學計算、工程計算與研究領域的應用。

隨著訓練樣本量的指數級增長以及訓練模型的復雜度不斷提升，AI計算正面臨的三大困擾。首先，不同應用需要不同硬件，帶來采購和運維成本提升；其次，多機集群的延遲更高；第三，資源擴展不靈活、成本高。針對于此，GX4采用了一些創新的設計來解決這些困擾AI用戶的難題。

靈活拓撲支持多類型AI應用需求

GPU與CPU計算資源的解耦和重構，讓GX4擁有了更加多樣的拓撲結構，可以通過靈活調整GPU拓撲，滿足AI云、深度學習模型訓練和線上推理等各種AI應用場景，使計算架構與上層應用更匹配，發揮出AI計算集群的較大性能。

目前，GX4可支持Balanced、Common、Cascaded三種不同的GPU拓撲結構。其中，云服務的用戶需要做虛擬化，每個VM需要分配對應的GPU資源，為了保證VM的分配GPU的性能均衡性，需要采用Balance方式保證VM下GPU資源的性能均衡；Common模式和Cascaded模式均適合于深度學習模型訓練使用，區別在于Common上行有兩條X16鏈路，Cascade只有1條，但是Cascade P2P更優化，以上三種模式可以通過線纜來靈活調整拓補。

集群延遲降低50%以上

浪潮AI計算產品GX4能夠實現極低的延遲。在傳統的GPU集群中，比如單機4卡服務器組成的16卡集群，跨節點間的GPU通信會經過不同協議的轉換，CPU、PCIe間的UPI或QPI以及網絡的延遲，至少較早造成2us的數據傳輸延遲。而浪潮GX4能夠實現16塊GPU之間僅依賴PCI-E進行通信，延遲可降低50%以上，并且借助GPU Direct RDMA技術，使跨節點GPU與GPU實現直接的數據交互，而不再需要經由CPU的跳轉，大幅降低跨節點GPU間的通信延遲，最終使GPU計算集群的延遲下降到ns級。

兼具高性價比和高擴展性

GX4組成的AI計算集群，由負責邏輯運算的SA5212M5機架式服務器和包含4塊GPU卡的box組成，且單臺SA5212M5能夠掛接至少4臺box。當業務需要更大的AI計算資源時，可以單獨采購box來完成高性價比和高靈活性的擴展，較大可實現單物理集群16卡的資源擴展，單精度浮點運算能力較高可達192TFlops，成本可節省$15,000以上。

資源調配靈活

浪潮GX4組成的AI集群中，SA5212M5可以調用一臺box中的1-4塊GPU，也可以任意掛接1-4臺box。當不同的業務部門有不同的配置需求時候，可以通過軟件定義的形式靈活改變單物理集群的GPU卡數量，將資源調度最小顆粒度從服務器級升級為GPU卡級別。

支持多種數據中心環境

由于沒有傳統服務器架構中的CPU和硬盤等熱源，浪潮GX4可以運行在不同的數據中心環境，并且冷風直接透過GPU散熱，同樣性能下功耗更低。此外，GX4 740mm的深度和傳統的高密GPU服務器相比，外形更加小巧，為后部操作和維護提供足夠的空間，而所有CPU和GPU通過箱子后部的線纜相連，也極大的方便計算空間的操作和運維。

總而言之，浪潮GX4是一款具有很強靈活性和擴展性的高性能GPU AI計算新品，能夠很好的適應不同規模的深度學習模型訓練和線上推理的需求以及不同類型AI應用對底層架構的要求，可謂是隨需擴展神通廣大的“金箍棒”產品。