9月27日至29日,2024中國算力大會在鄭州舉行。會上,浪潮信息重磅發(fā)布元腦企智EPAI一體機,通過軟硬件高度協(xié)同的一體化設計,為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型開發(fā)平臺。
元腦企智EPAI一體機基于專為大模型應用場景設計的元腦服務器,搭載元腦企智EPAI企業(yè)大模型開發(fā)平臺,支持多元算力、多模管理、全鏈工具以及本地部署,可一站式解決數(shù)據(jù)處理、模型微調(diào)、RAG搭建、模型部署、應用上線和系統(tǒng)運維等環(huán)節(jié)開發(fā)難題。
浪潮信息產(chǎn)品方案開發(fā)部總經(jīng)理魏健表示,隨著大模型和生成式技術的飛躍式發(fā)展,如何以大模型賦能現(xiàn)有的技術、業(yè)務,已成為企業(yè)在新一輪技術周期中保持競爭力的要素之一,但企業(yè)在應用大模型的過程中往往面臨諸多挑戰(zhàn)。
首先,多元多模適配難度大、周期長、成本高。不同場景、不同業(yè)務對模型能力的多樣需求,業(yè)務生產(chǎn)環(huán)境往往是多模并存的狀態(tài),而由于特定應用加速等原因,所使用的算力資源也是多元并用的。
其次,巨大參數(shù)量級的通用大模型,很難直接用于復雜、離散的行業(yè)場景,各行業(yè)知識專業(yè)化程度高,可遷移性低,通用大模型本身難以覆蓋,所以經(jīng)常出現(xiàn)大模型“幻覺”或是“胡言亂語”的問題,因此必須結合行業(yè)和企業(yè)專業(yè)數(shù)據(jù)進行再學習。
最后,要實現(xiàn)大模型與行業(yè)場景的深度結合,實現(xiàn)高效、高可靠、高質(zhì)量的模型應用效果,涉及數(shù)據(jù)、微調(diào)、RAG、部署、上線和運維等極為復雜的流程,特別是數(shù)據(jù)治理和模型微調(diào),需要具有豐富經(jīng)驗的實施團隊才能勝任,技術門檻高。
魏健指出,對于大多數(shù)企業(yè)而言,大模型應用開發(fā)的系統(tǒng)性、復雜性,往往讓企業(yè)對大模型開發(fā)望而卻步。因此,實現(xiàn)大模型的深入行業(yè)應用與廣泛落地,關鍵在于如何有效提高AI應用創(chuàng)新的質(zhì)量和效率,卓越的大模型及應用開發(fā)工具成為釋放智能生產(chǎn)力的關鍵。
——多元多模。元腦企智EPAI一體機具備多元算力和多模管理能力,通過大模型計算框架TensorGlue實現(xiàn)異構算力調(diào)度,通過算子基礎化技術實現(xiàn)上層模型算法和下層基礎設施的邏輯解耦,從而降低企業(yè)跨算力平臺遷移、多元模型部署適配的試錯成本。
——簡單易用。元腦企智EPAI一體機提供從數(shù)據(jù)準備、大模型微調(diào)、知識庫構建、大模型部署上線運維的全流程支持工具鏈。
——本地部署、安全可靠。由于大模型應用開發(fā)需要結合企業(yè)私有數(shù)據(jù),要求企業(yè)數(shù)據(jù)不出域。本地部署可以確保用戶數(shù)據(jù)不被上傳至云端,避免數(shù)據(jù)泄露和濫用的風險,這在處理敏感信息或符合嚴格數(shù)據(jù)保護法規(guī)的行業(yè)中尤為重要。
“元腦企智EPAI一體機能顯著提升大模型應用的開發(fā)效率,并極大節(jié)省人力成本!蔽航》Q,浪潮信息先行先試,采用1臺元腦企智EPAI一體機標準版,低代碼完成企業(yè)知識庫構建、模型微調(diào)、應用開發(fā)等工作,1人1月即簡單高效、低門檻地打造出智能售前助手“元小智”,賦能日常售前業(yè)務,實現(xiàn)智慧化變革,團隊工作效率提升3-5倍。
據(jù)知,本次大會發(fā)布了基礎版、標準版、高級版、創(chuàng)新版和集群版五個版本,主要面向制造、金融等行業(yè)客戶、傳統(tǒng)ISV和SI三類用戶提供一站式大模型生產(chǎn)及應用全流程開發(fā)工具鏈,同時支持接入更多元腦伙伴的算法和模型能力,共同打造AI原生應用開發(fā)的“超級工作臺”,加速AI應用創(chuàng)新和落地。(完)