北京2024年9月29日 /美通社/ -- 9月27-29日，2024中國算力大會在鄭州舉行。會上，浪潮信息重磅發布元腦企智EPAI一體機，通過軟硬件高度協同的一體化設計，為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型開發平臺，顯著提高企業大模型以及AI原生應用的開發效率，加速大模型產業化落地。
大模型落地挑戰巨大
隨著大模型和生成式技術的飛躍式發展，基于大模型的應用創新正在成為新的主題，如何以大模型賦能現有的技術、業務，已成為企業在新一輪技術周期中保持競爭力的要素之一。但企業在應用大模型的過程中往往面臨著諸多挑戰，如生態離散導致的多元多模適配難，模型訓練和部署復雜、數據治理難、模型"幻覺"問題以及對專業技術人才的依賴等，導致大模型與行業場景的融合進展緩慢。
首先，多元多模適配難度大、周期長、成本高。不同場景、不同業務對模型能力的多樣需求，業務生產環境往往是多模并存的狀態，而由于芯片生態離散、特定應用加速等原因，所使用的算力資源也是多元并用的。因此，大模型應用開發需考慮與多元算力、多樣大模型的選擇、適配、組合調度等問題，難度大，周期長，成本高。
其次，巨大參數量級的通用大模型，很難直接用于復雜、離散的行業場景，各行業知識專業化程度高，可遷移性低，通用大模型本身難以覆蓋，所以經常出現大模型"幻覺"或是"胡言亂語"的問題，因此必須結合行業和企業專業數據進行再學習。
最后，要實現大模型與行業場景的深度結合，實現高效、高可靠、高質量的模型應用效果，涉及數據、微調、RAG、部署、上線和運維等極為復雜的流程，特別是數據治理和模型微調，需要具有豐富經驗的實施團隊才能勝任，技術門檻高。
元腦企智EPAI一體機，讓大模型開發快到飛起
對于大多數企業而言，大模型應用開發的系統性、復雜性，往往讓企業對大模型開發望而卻步。因此，實現大模型的深入行業應用與廣泛落地，關鍵在于如何有效提高AI應用創新的質量和效率，卓越的大模型及應用開發工具成為釋放智能生產力的關鍵。
浪潮信息元腦企智EPAI一體機基于專為大模型應用場景設計的元腦服務器，搭載了元腦企智EPAI企業大模型開發平臺，支持多元算力、多模管理、全鏈工具以及本地部署，可一站式解決數據處理、模型微調、RAG搭建、模型部署、應用上線和系統運維等環節開發難題，為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型應用開發平臺，滿足企業人工智能應用從開發到實施的全棧需求。
多元多模：元腦企智EPAI一體機具備多元算力和多模管理能力，通過大模型計算框架TensorGlue實現異構算力調度，通過算子基礎化技術實現上層模型算法和下層基礎設施的邏輯解耦，從而高效的屏蔽模型和芯片差異，降低企業跨算力平臺遷移、多元模型部署適配的試錯成本。目前，元腦企智EPAI一體機可以支持10+業界主流大模型計算框架，內置7個主流基礎大模型，預設了20+微調參數，用戶可以針對知識問答、智能編碼、文檔理解、智能助手等不同應用場景和任務需求，選擇最佳產品型號和模型算法，快速開發模型應用。
簡單易用：元腦企智EPAI一體機提供從數據準備、大模型微調、知識庫構建、大模型部署上線運維的全流程支持工具鏈。其中，針對數據準備，預先內置了上億條基礎知識數據以及自動化數據處理工具，支持10種以上企業常見的數據格式，并且以超過95%的抽取準確率，把這些數據轉化為知識庫以及可供模型進行微調的數據；針對大模型微調，采用低代碼可視化界面來進行微調，并且內置了Lora、SFT等多種微調框架以及20多種優化參數，用戶可依據具體業務需求和數據特性，選擇最為合適的框架與技術，快速且低成本地構建起企業專屬大模型能力。
本地部署、安全可靠：由于大模型應用開發需要結合企業私有數據，要求企業數據不出域。本地部署可以確保用戶數據不被上傳至云端，避免數據泄露和濫用的風險，這在處理敏感信息或符合嚴格數據保護法規的行業中尤為重要。元腦企智EPAI一體機的本地化部署模式提供全鏈路的企業數據防護能力，設置多級過濾和審核體系，讓數據的流轉更安全，讓生成結果更可靠，構建起一個既能充分利用數據價值，又能保護用戶隱私、符合法規要求的安全數據處理環境，做到"數據可用不可見"。
元腦企智EPAI一體機能顯著提升大模型應用的開發效率，并極大節省人力成本。浪潮信息先行先試，采用1臺元腦企智EPAI一體機標準版，低代碼完成企業知識庫構建、模型微調、應用開發等工作，1人1月即簡單高效、低門檻地打造出智能售前助手"元小智"，賦能日常售前業務，實現智慧化變革，團隊工作效率提升3-5倍。
浪潮信息產品方案開發部總經理魏健表示，本次發布了基礎版、標準版、高級版、創新版和集群版五個版本，主要面向制造、金融等行業客戶、傳統ISV和SI三類用戶提供一站式大模型生產及應用全流程開發工具鏈，同時支持接入更多元腦伙伴的算法和模型能力，共同打造AI原生應用開發的"超級工作臺"，加速AI應用創新和落地。
