青云科技近日宣布,其旗下的AI算力云服務基石智算CoresHub正式上線了671B版本的DeepSeek-R1大模型,并為用戶提供5000萬token的免費體驗機會。這一舉措標志著基石智算在AI算力服務領(lǐng)域邁出了重要一步。
基石智算平臺目前已全面部署并上線了DeepSeek全系列大模型,旨在滿足不同用戶對數(shù)據(jù)安全與模型使用的多樣化需求。平臺提供多種模型提供方式,以確保每位用戶都能找到最適合自己的解決方案。
具體而言,基石智算提供了三種主要的模型使用方式:模型服務、模型廣場和應用鏡像。模型服務是由基石智算官方提供的推理服務,用戶無需自行部署,只需通過API調(diào)用模型,費用按消耗的token計算。模型廣場則允許用戶創(chuàng)建私有的推理服務,使用私有API地址進行模型調(diào)用,費用依據(jù)部署模型所消耗的資源來收取。應用鏡像則是基石智算內(nèi)置的豐富AI應用模板,用戶可創(chuàng)建私有容器實例服務,通過特定端口訪問實例中的應用程序,費用同樣按部署應用所消耗的資源計算。
此次上線的671B版本DeepSeek-R1大模型,為用戶帶來了前所未有的體驗。新手用戶可以通過各類AI應用或聊天客戶端,直接調(diào)用基石智算的DeepSeek-R1 API進行對話。智能知識庫RAG和AI智能體開發(fā)者可以通過RAG/AI Agent平臺,利用DeepSeek-R1 API進行開發(fā)。智能應用開發(fā)者也可以直接調(diào)用DeepSeek-R1 API進行應用開發(fā)。研究工作者還可以借助基石智算平臺和AI實驗室工具進行模型的蒸餾和微調(diào)。
為了幫助用戶快速體驗DeepSeek模型的推理能力,基石智算提供了兼容OpenAI接口規(guī)范的使用方式。用戶只需在平臺上創(chuàng)建API密鑰,便可通過AI應用或第三方客戶端訪問特定模型。以下是使用基石智算API的簡要步驟:
首先,用戶需要注冊并登錄基石智算平臺,進入“產(chǎn)品與服務”中的“大模型服務”板塊。接著,在“API密鑰管理”中創(chuàng)建API密鑰,并為其命名。創(chuàng)建完成后,用戶可以在API密鑰列表中點擊復制圖標,復制API密鑰。然后,用戶需要進入“在線推理服務”,點擊部署模型的“API文檔”,獲取接口地址。
以Chatbox AI應用為例,用戶可以通過相同的方式(兼容OpenAI API)使用基石智算的API服務。用戶下載安裝Chatbox AI應用后,選擇“使用自己的API Key或本地模型”,然后添加自定義提供方,配置對應的接口內(nèi)容,包括API域名、API路徑和模型名稱。配置完成后,用戶即可進入聊天界面,與大模型進行對話。
基石智算致力于將強大的算力資源與模型開發(fā)、模型管理、模型推理服務等完美融合,為用戶提供技術(shù)領(lǐng)先的智算云服務。未來,基石智算將繼續(xù)推出更多類型的模型,如文本類、文生圖、文生視頻、語音轉(zhuǎn)換等,并支持模型的一鍵啟動、一鍵部署以及在線微調(diào),助力用戶打造專屬的AI應用。