【ITBEAR】在NVIDIA近期于SuperComputer 2024超算大會(huì)上發(fā)布的一系列創(chuàng)新產(chǎn)品中,“GB200 NVL4”計(jì)算平臺(tái)無(wú)疑是最為耀眼的明星,它隸屬于NVIDIA的SuperChip超級(jí)芯片家族。
該平臺(tái)是一套專為單服務(wù)器設(shè)計(jì)的解決方案,設(shè)計(jì)精巧,在一塊緊湊的板卡上集成了四顆Blackwell GB200 GPU芯片與兩顆Grace CPU芯片,通過(guò)NVLink總線實(shí)現(xiàn)了高速互聯(lián)。
這四顆Blackwell GB200 GPU芯片共同擁有高達(dá)768GB的HBM3內(nèi)存,內(nèi)存帶寬合計(jì)達(dá)到驚人的32TB/s。而兩顆Grace CPU芯片則配備了960GB的LPDDR5X內(nèi)存,兩者相加,總內(nèi)存容量達(dá)到了1.7TB。
這款解決方案專為HPC(高性能計(jì)算)和AI(人工智能)混合負(fù)載應(yīng)用而生,據(jù)NVIDIA宣稱,相較于上一代GH200 NVL4平臺(tái),其訓(xùn)練和圖形處理性能提升了1.8倍,模擬性能更是提高了2.2倍。
然而,如此強(qiáng)大的性能背后,也伴隨著極高的功耗。GB200 NVL4計(jì)算平臺(tái)的總功耗達(dá)到了不可思議的5400W,意味著每小時(shí)需要消耗5.4度電。這對(duì)于追求極致性能的用戶來(lái)說(shuō),或許是一個(gè)可以接受的代價(jià)。
為了滿足不同用戶的需求,NVIDIA還推出了另一種配置方案,即采用兩顆Blackwell GB200 GPU芯片和一顆Grace CPU芯片的版本。這種方案的規(guī)模減半,相應(yīng)地,其功耗也降低到了2700W。
無(wú)論是追求極致性能的GB200 NVL4四芯片方案,還是更為節(jié)能的兩芯片方案,NVIDIA都為用戶提供了強(qiáng)大的計(jì)算性能和靈活的選擇。
在NVIDIA的新產(chǎn)品發(fā)布會(huì)上,這款GB200 NVL4計(jì)算平臺(tái)無(wú)疑成為了全場(chǎng)矚目的焦點(diǎn),吸引了眾多專業(yè)人士和媒體的目光。