【ITBEAR】8月14日消息,近期,在2024華為數(shù)據(jù)存儲(chǔ)用戶精英論壇上,一個(gè)專注于“AI-Ready的數(shù)據(jù)基礎(chǔ)設(shè)施”的分論壇圓滿落幕。該論壇聚焦于如何通過技術(shù)創(chuàng)新推動(dòng)AI大模型的健康發(fā)展。
為了應(yīng)對這一挑戰(zhàn),華為正式推出了其全新的OceanStor A800 AI存儲(chǔ)解決方案。這款存儲(chǔ)產(chǎn)品據(jù)稱采用了先進(jìn)的數(shù)控分離架構(gòu),能夠提供高達(dá)10TB級的帶寬以及億級的IOPS,充分滿足混合負(fù)載場景下的高性能需求,并顯著提升集群的可用度。
據(jù)ITBEAR了解,OceanStor A800 AI存儲(chǔ)還配備了ModelEngine技術(shù),這一技術(shù)能夠加速數(shù)據(jù)的預(yù)處理過程,進(jìn)而大幅提高AI訓(xùn)練的整體效率。在推理場景中,該存儲(chǔ)支持RAG向量數(shù)據(jù)庫,并通過KVCache技術(shù)為AI大模型賦予了記憶能力,實(shí)現(xiàn)了以查代算,全面優(yōu)化了推理體驗(yàn)和準(zhǔn)確度。
華為數(shù)據(jù)存儲(chǔ)產(chǎn)品線閃存存儲(chǔ)領(lǐng)域副總裁嚴(yán)浩指出,隨著AI技術(shù)的快速發(fā)展,大模型已經(jīng)從單一模態(tài)演進(jìn)到多模態(tài),并在推理應(yīng)用中得到了廣泛的應(yīng)用。然而,企業(yè)在部署和應(yīng)用AI基礎(chǔ)設(shè)施時(shí),仍然面臨著集群可用度低、推理體驗(yàn)不佳、數(shù)據(jù)管理難度大以及全棧部署復(fù)雜等多重挑戰(zhàn)。華為推出的全新OceanStor A800 AI存儲(chǔ),正是為了解決這些問題而設(shè)計(jì)的。