算力是集數據傳輸、計算、存儲于一體的新型生產力,更是培育新質生產力,推動智能化轉型的核心驅動力。
“大模型如何進一步發展,就是應用落地。”浪潮信息人工智能與高性能產品部副總經理張強說道。如今,浪潮信息元腦算力工廠包含了數據處理、AI大模型、業務應用、研發測試等多個集群,為全球服務器壓力測試、大模型開發應用、智能化轉型等業務應用提供算力支撐。
張強指出,在推動大模型落地應用領域,針對網絡通信效率瓶頸,元腦算力工廠采用 X400 超級 AI 以太網方案,為大模型訓練提效降本,提升了大規模GPU訓練性能,成為新型AI訓練網絡解決方案。其吞吐量51.2T為業界高,較前代提升4倍,相比傳統RoCE網絡性能提升1.6倍,通信時延降低30%,能大幅提升大模型訓練效率,縮短訓練時長并降低訓練成本。
元腦算力工廠搭載企業大模型開發平臺“元腦企智”EPAI,連接多元算力、多元模型與應用層,實現模型高效微調與跨平臺無感遷移,加速大模型在各個行業落地應用。同時,元腦算力工廠助力企業智能化轉型,智能編程助手、智能投標助手、智能客服、供應鏈大腦、智能工廠等系列智能創新成果相繼落地,賦能業務智能化轉型。
在提升大模型訓練效率方面,張強向C114介紹,元腦算力工廠通過算力開發平臺 AIStation 對算力進行有效調度。在實際算力使用中,AI應用有不同算力需求,在這多用戶、多任務場景下,對算力需求不同,AIStation能對算力集群進行有效調度,降低成本、提高算力利用率,保障算力集群安全、可靠運行,實現智能、高效、低成本運維。