百度智能云近日傳來(lái)重大消息,其DeepSeek系列中的R1與V3模型已成功入駐千帆平臺(tái),標(biāo)志著百度在AI服務(wù)領(lǐng)域又邁出了堅(jiān)實(shí)的一步。為吸引更多用戶(hù),平臺(tái)不僅推出了極具吸引力的低價(jià)方案,更為新用戶(hù)提供了長(zhǎng)達(dá)兩周的免費(fèi)試用期。
據(jù)悉,DeepSeek-R1的定價(jià)策略為輸入2元/百萬(wàn)Tokens,輸出8元/百萬(wàn)Tokens,而DeepSeek-V3則更為親民,輸入價(jià)格僅為0.8元/百萬(wàn)Tokens,輸出價(jià)格也只需1.6元/百萬(wàn)Tokens。兩大模型均免費(fèi)開(kāi)放至2月18日24:00,用戶(hù)可免費(fèi)享受高達(dá)1000 RPM(每分鐘請(qǐng)求數(shù))和10000 TPM(每分鐘Token數(shù))的配額,且對(duì)調(diào)用Tokens的數(shù)量不設(shè)上限。
此次上架的DeepSeek系列模型,已全面融入千帆平臺(tái)的推理鏈路,并融入了百度獨(dú)家研發(fā)的內(nèi)容安全算子,從而實(shí)現(xiàn)了模型的安全性能升級(jí),為企業(yè)級(jí)用戶(hù)提供了更高可用的保障。平臺(tái)還配備了BLS日志分析和BCM告警功能,為用戶(hù)的安全、穩(wěn)定應(yīng)用構(gòu)建提供了有力支持。
作為全球首個(gè)一站式企業(yè)級(jí)大模型平臺(tái),百度智能云千帆平臺(tái)的表現(xiàn)令人矚目。截至2024年11月,通過(guò)該平臺(tái)進(jìn)行的模型精調(diào)已超過(guò)3.3萬(wàn)次,企業(yè)應(yīng)用開(kāi)發(fā)數(shù)量更是高達(dá)77萬(wàn),文心大模型的日均調(diào)用次數(shù)更是突破了15億次大關(guān)。這一串串?dāng)?shù)字背后,是百度智能云千帆平臺(tái)在AI服務(wù)領(lǐng)域的深厚積累和卓越表現(xiàn)。
千帆平臺(tái)不僅提供了豐富的模型資源,還打造了一站式模型效果調(diào)優(yōu)工具鏈,涵蓋了數(shù)據(jù)加工、模型精調(diào)、模型評(píng)估、模型量化等多個(gè)關(guān)鍵環(huán)節(jié)。這一工具鏈的推出,無(wú)疑將大大降低用戶(hù)在使用AI模型時(shí)的門(mén)檻,提升模型的使用效率和效果。
千帆平臺(tái)在模型推理托管方面也表現(xiàn)出色,支持vllm、lmdeploy、TensorRT-LLM、SGLang等多種主流推理框架,同時(shí)允許用戶(hù)自定義導(dǎo)入和部署模型。這一功能不僅滿足了不同用戶(hù)、不同場(chǎng)景下的需求,也進(jìn)一步提升了平臺(tái)的靈活性和可擴(kuò)展性。