近日，鞭牛士從火山引擎官方獲悉，火山引擎將新增對V3/R1等不同規(guī)格DeepSeek開源模型的支持，為企業(yè)用戶提供更多樣化的AI解決方案。
據(jù)悉，企業(yè)用戶可以通過兩大途徑來運用這些模型。首先，他們可以選擇在火山引擎的機器學習平臺veMLP上部署DeepSeek模型。值得注意的是，veMLP已經(jīng)能夠支持全系列的DeepSeek模型，并且針對SGLang和vLLM進行了細致的性能優(yōu)化與效果評估?；鹕揭孀灾餮邪l(fā)的PD分離+EP并行推理引擎也即將面世，并將全面對外開放。這一方案尤其適合那些希望自主進行模型定制、部署及推理操作的企業(yè)。
另一種方式則是通過火山方舟平臺直接調(diào)用DeepSeek模型。這對于希望通過API快速集成預訓練模型以加速產(chǎn)品開發(fā)的企業(yè)而言，無疑是一個更為便捷的選擇。目前，火山方舟已經(jīng)支持四個版本的DeepSeek模型，并提供了業(yè)內(nèi)最高的限流保障，確保模型調(diào)用的穩(wěn)定性和高效性。
火山引擎的這一舉措，無疑將進一步推動AI技術(shù)在各行業(yè)的應用與普及，為企業(yè)用戶提供更加強大、靈活的AI解決方案。
