近日，北京市商湯科技開發(fā)有限公司發(fā)布了一則重要通知，宣布其企業(yè)客戶與開發(fā)者能夠通過商湯大裝置萬象平臺迅速部署DeepSeek-V3、DeepSeek-R1等一系列先進模型。這些用戶還將享受到一項特別福利：在三個月內(nèi)，他們將獲得高達1000萬tokens的免費使用權(quán)。
商湯大裝置此次的升級服務(wù)尤為引人注目。該公司依托其強大的技術(shù)平臺和專家資源，構(gòu)建了一個從“場景定義”到“訓(xùn)練”、“部署”再到“迭代”的全方位閉環(huán)服務(wù)體系。這一體系旨在更好地滿足企業(yè)客戶的多樣化需求。
對于追求輕量化模型定制的企業(yè)而言，商湯大裝置提供了基于場景強化學(xué)習(xí)的解決方案。這一方案能夠在特定場景下對基模型進行提升，并支持將其蒸餾到小模型中，從而實現(xiàn)高效推理。這無疑為企業(yè)帶來了更加靈活和高效的模型應(yīng)用選擇。
對于有私有化需求的企業(yè)，商湯大裝置同樣提供了全面的綜合解決方案。該方案涵蓋了模型定制、模型開發(fā)平臺以及Agent應(yīng)用開發(fā)平臺三大核心模塊，能夠適配多種國產(chǎn)化硬件，并提供從開發(fā)到部署的全鏈路支持。這為企業(yè)客戶在數(shù)據(jù)安全與自主可控方面提供了強有力的保障。
在部署方式上，商湯大裝置同樣展現(xiàn)出了極高的靈活性和兼容性。它支持公有云、私有化以及一體機等多種部署方式，能夠滿足不同企業(yè)的實際需求。在硬件層面，商湯大裝置兼容英偉達與國產(chǎn)異構(gòu)芯片，通過軟硬件的深度協(xié)同優(yōu)化，實現(xiàn)了多種芯片的高效混合部署和流量智能分發(fā)。
在推理層面，商湯大裝置支持多款主流推理引擎，并對緩存進行了針對性的加速優(yōu)化。官方還計劃在未來推出PD（Prefill-Decode）分離式推理架構(gòu)。這一架構(gòu)將計算任務(wù)智能拆分，并分別調(diào)度至最適合的算力單元執(zhí)行，從而進一步提升能效比。
商湯大裝置還支持包括商湯“日日新”融合大模型SenseNova、DeepSeek、Qwen、Llama等在內(nèi)的多款大模型。這一舉措將為企業(yè)客戶提供更加豐富和多樣的模型選擇，助力他們在各自領(lǐng)域取得更加卓越的成績。
