近期,DeepSeek憑借其出色的表現(xiàn)吸引了全球范圍內(nèi)的廣泛關(guān)注,眾多企業(yè)紛紛加入適配行列,力求為用戶提供更加高效的服務(wù)。對于AI大模型而言,GPU的加持無疑是提升性能的關(guān)鍵,AMD便是其中的佼佼者。無論是Instinct加速卡,還是Radeon游戲卡,AMD均已實現(xiàn)與DeepSeek的完美適配。
令人振奮的是,用戶只需擁有一塊AMD RX 7000系列的顯卡,便可在本地輕松體驗DeepSeek的強大功能。這一便捷性無疑為廣大用戶打開了一扇通往AI新世界的大門。
想要在本地部署DeepSeek?其實操作異常簡單。用戶只需訪問AMD官網(wǎng),無論是中文版還是英文版均可,搜索“15.1.1”,進入搜索結(jié)果中的第一個頁面,下載AMD Adrenalin 25.1.1測試版驅(qū)動。完成安裝并重啟計算機后,便可進行下一步操作。
接下來,用戶需訪問LM Studio的銳龍專欄(https://lmstudio.ai/ryzenai),下載并安裝LM Studio for Ryzen AI安裝包。運行軟件后,點擊右下角的設(shè)置按鈕(支持中文語言),找到并開啟“Use LM Studio's Hugging Face”選項。
返回主界面,點擊左側(cè)菜單欄的搜索圖標,輸入“DeepSeek R1”,便可看到一系列已訓(xùn)練好的DeepSeek模型。用戶可根據(jù)AMD官方推薦列表選擇適合自己的模型。例如,旗艦級的RX 7900 XTX可支持高達32B參數(shù)的模型,而主流的RX 7600則支持8G模型。
選擇合適的模型后,在主界面上方選中它,并調(diào)整“GPU Offload”的數(shù)值。不同選項的具體含義,用戶可自行搜索或咨詢DeepSeek官方。模型加載完畢后,用戶便可在本地盡情體驗DeepSeek帶來的便捷與高效。
AMD Instinct GPU加速卡也已成功集成DeepSeek V3模型,并對SGLang性能進行了優(yōu)化,支持完整的671B參數(shù)。開發(fā)者可借助AMD ROCm平臺,快速、高效地開發(fā)AI應(yīng)用。具體操作步驟包括啟動Docker容器、使用CLI登陸Hugging Face、啟動SGLang Server并部署DeepSeekV3 FP8模型等?;鶞蕼y試結(jié)果顯示,該方案在準確率和穩(wěn)定性方面均表現(xiàn)出色。