【ITBEAR】在人工智能領(lǐng)域，能耗問(wèn)題一直是業(yè)界關(guān)注的焦點(diǎn)。隨著AI技術(shù)的迅猛發(fā)展，大量的計(jì)算需求帶來(lái)了對(duì)電力的巨大消耗，促使眾多科技巨頭紛紛進(jìn)軍能源領(lǐng)域。然而，如何在保證AI技術(shù)發(fā)展的同時(shí)，降低能耗、提高效率，也成為了這些企業(yè)亟待解決的問(wèn)題。
近日，《知識(shí)分子》就這一話(huà)題采訪了數(shù)珩科技的創(chuàng)始人兼董事長(zhǎng)張繼生。數(shù)珩科技作為領(lǐng)先的企業(yè)級(jí)AI解決方案提供商，在降低AI應(yīng)用能耗方面取得了顯著成果。
張繼生指出，當(dāng)前AI能耗的高企主要集中在訓(xùn)練階段，而非推理階段。隨著技術(shù)的不斷進(jìn)步，未來(lái)AI推理的單次能耗有望大幅下降。數(shù)珩科技通過(guò)自研大模型，結(jié)合模型壓縮、剪枝、量化以及異構(gòu)計(jì)算芯片等軟硬件技術(shù)，已成功將AI大模型在實(shí)際使用中的能耗降低，為客戶(hù)實(shí)現(xiàn)了降本增效。
張繼生還提出了“專(zhuān)屬化AI應(yīng)用”的理念。他認(rèn)為，與追求大規(guī)模、通用型模型的趨勢(shì)不同，開(kāi)發(fā)針對(duì)性強(qiáng)的小模型將更能滿(mǎn)足中小企業(yè)的實(shí)際需求。這些小模型不僅訓(xùn)練成本和能耗較低，而且更能精準(zhǔn)地服務(wù)于特定行業(yè)。
數(shù)珩科技正是基于這一理念，與客戶(hù)緊密合作，深入了解需求，并開(kāi)發(fā)出了一系列面向特定領(lǐng)域、參數(shù)量適中的小模型。這些模型在汽車(chē)、教育、快消和人力資源服務(wù)等行業(yè)已得到廣泛應(yīng)用，為用戶(hù)提供了高效便捷的服務(wù)。
張繼生強(qiáng)調(diào)，AI技術(shù)的真正價(jià)值在于與具體行業(yè)應(yīng)用的深度融合，而非單純的技術(shù)追求。數(shù)珩科技將繼續(xù)致力于研發(fā)更多符合行業(yè)需求的AI應(yīng)用，助力客戶(hù)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。
在AI行業(yè)追求綠色發(fā)展的背景下，數(shù)珩科技的這些舉措無(wú)疑為行業(yè)樹(shù)立了新的標(biāo)桿。通過(guò)降低能耗、提高效率以及開(kāi)發(fā)專(zhuān)屬化應(yīng)用，數(shù)珩科技正引領(lǐng)著AI技術(shù)走向更加可持續(xù)的未來(lái)。
