在近日于北京舉辦的全球人工智能開發(fā)與應(yīng)用大會（AICon 北京 2024）上，英博數(shù)科隆重推出了其旗下品牌英博云的全新智算產(chǎn)品系列，該系列涵蓋了智算中心的建設(shè)與維護、GPU容器化服務(wù)、高性能算力實驗室以及產(chǎn)業(yè)孵化器等四大核心領(lǐng)域。此次發(fā)布不僅展示了英博數(shù)科在智算領(lǐng)域的深厚積累，更以其首創(chuàng)的“單位有效算力成本”評估體系，為AI算力行業(yè)樹立了新的效率標(biāo)桿。
隨著生成式AI技術(shù)的蓬勃發(fā)展，大型模型已成為推動AI技術(shù)不斷前進(jìn)的關(guān)鍵力量。然而，這一趨勢也對算力資源提出了前所未有的挑戰(zhàn)。智算行業(yè)正逐步從簡單的規(guī)模擴張轉(zhuǎn)向精細(xì)化運營，并顯現(xiàn)出三大顯著趨勢：一是通用大模型的訓(xùn)練規(guī)模不斷攀升，從千卡級躍升至萬卡級乃至十萬卡級；二是垂直行業(yè)的算力需求日益動態(tài)化，金融、零售、科研等領(lǐng)域?qū)`活算力配置的需求日益增長；三是推理場景的算力需求急劇增加，AI商業(yè)化應(yīng)用的加速使得推理負(fù)載逐漸成為主導(dǎo)。
面對算力成本高昂、資源利用效率低下等痛點，英博數(shù)科創(chuàng)新性地提出了“單位有效算力成本”的評估標(biāo)準(zhǔn)。這一標(biāo)準(zhǔn)摒棄了傳統(tǒng)上以設(shè)備采購和運維支出為核心的算力成本評估方式，而是通過整合卡可用率、卡利用率以及模型算力利用率（MFU）等關(guān)鍵指標(biāo)，全面而精準(zhǔn)地衡量算力資源的實際使用效率。英博數(shù)科CTO李少鵬指出，這一標(biāo)準(zhǔn)的提出，為智算行業(yè)的高效化運營提供了新的視角，有助于企業(yè)實現(xiàn)算力資源的最大化利用。
英博云的智算產(chǎn)品矩陣以其四大模塊全面賦能AI產(chǎn)業(yè)的發(fā)展。在智算中心建設(shè)與維護方面，英博云提供了模塊化、標(biāo)準(zhǔn)化的建設(shè)方案，確保萬卡級集群的穩(wěn)定運行，并在京能智算中心項目中樹立了行業(yè)典范。針對垂直行業(yè)對靈活算力的需求，英博云推出了GPU容器服務(wù)，通過秒級容器啟停和按小時/分鐘計費的方式，大幅提升了算力利用效率，降低了企業(yè)的算力成本。英博云的先進(jìn)算力實驗室致力于硬件和軟件的深度評測與優(yōu)化，為企業(yè)提供持續(xù)的算力基礎(chǔ)設(shè)施升級建議。而產(chǎn)業(yè)孵化器則通過整合上下游資源，為AI初創(chuàng)企業(yè)提供資金、算力和技術(shù)支持，推動AI生態(tài)的繁榮發(fā)展。
作為智算行業(yè)的領(lǐng)軍企業(yè)，英博數(shù)科通過其創(chuàng)新的“單位有效算力成本”標(biāo)準(zhǔn)和全面的智算產(chǎn)品矩陣，為AI企業(yè)提供了從算力資源配置到成本優(yōu)化的全方位解決方案。這一戰(zhàn)略布局不僅彰顯了英博數(shù)科在智算領(lǐng)域的深厚實力，更為全球智能算力行業(yè)的高效化、可持續(xù)發(fā)展注入了強勁動力。
