DeepSeek AI最新發(fā)布的多模態(tài)大模型Janus-Pro，以及之前發(fā)布的大型語言模型DeepSeek-R1、DeepSeek-V3及DeepSeek-V2，一經(jīng)發(fā)布，就在AI領域引起了熱烈反響，多項創(chuàng)新技術顯著提升了模型的性能與效率。DeepSeek系列模型首發(fā)即支持昇騰平臺，神州數(shù)碼旗下神州鯤泰推理服務器產(chǎn)品搭載昇騰硬件，可全面支持DeepSeek系列模型的快速部署，可為用戶帶來更快、更高效、更便捷的AI開發(fā)和應用體驗。
2025年2月4日，DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上線昇騰社區(qū)，支持一鍵獲取DeepSeek系列模型，支持昇騰硬件平臺上開箱即用，推理快速部署，帶來更快、更高效、更便捷的AI開發(fā)和應用體驗，歡迎廣大開發(fā)者體驗使用。
下面以Deepseek-V3為例，
演示在昇騰社區(qū)如何高效獲取模型及使用
1硬件要求
部署DeepSeek-V3模型需配置4臺KunTai A924推理服務器（每臺搭載8張昇騰推理卡）
2模型調(diào)用實踐
一、 權重轉(zhuǎn)換
GPU：
NPU：
二、 加載鏡像
在昇騰社區(qū)/開發(fā)資源下載適配DeepSeek-V3的鏡像包：
mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64
完成之后，請使用docker images命令確認查找具體鏡像名稱與標簽。
三、 容器啟動
提供的MindIE鏡像預置了DeepSeek-V3模型推理腳本，從您信任的來源自行獲取權重后，放置在從上述下載的模型代碼的主目錄下，修改模型文件夾屬組為1001，執(zhí)行權限為750，啟動容器。
四、 服務化測試
配置服務化環(huán)境變量，expandable_segments-使能內(nèi)存池擴展段功能，即虛擬內(nèi)存特性。
修改服務化參數(shù)
拉起服務化
圖片出現(xiàn)“Daemon start success!”，則認為服務成功啟動。
更深入了解DeepSeek系列模型在昇騰上的使用方法及指導文檔，可登錄昇騰社區(qū)模型庫專區(qū)學習了解！
更多DeepSeek模型獲取鏈接可參考：
DeepSeek-R1
https://www.hiascend.com/software/modelzoo/models/detail/68457b8a51324310aad9a0f55c3e56e3
(掃碼獲取）
DeepSeek-V3：
https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15
(掃碼獲?。?/p>
Janus-Pro
https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9
(掃碼獲取）
未經(jīng)數(shù)字化報網(wǎng)授權，嚴禁轉(zhuǎn)載或鏡像，違者必究。
特別提醒：如內(nèi)容、圖片、視頻出現(xiàn)侵權問題，請發(fā)送郵箱：tousu_ts@sina.com。
風險提示：數(shù)字化報網(wǎng)呈現(xiàn)的所有信息僅作為學習分享，不構成投資建議，一切投資操作信息不能作為投資依據(jù)。本網(wǎng)站所報道的文章資料、圖片、數(shù)據(jù)等信息來源于互聯(lián)網(wǎng)，僅供參考使用，相關侵權責任由信息來源第三方承擔。
本文地址: http:///news/70043.shtml
數(shù)字化報（數(shù)字化商業(yè)報告）是國內(nèi)數(shù)字經(jīng)濟創(chuàng)新門戶網(wǎng)站，以數(shù)字技術創(chuàng)新發(fā)展為中心，融合數(shù)字經(jīng)濟和實體經(jīng)濟發(fā)展，聚焦制造業(yè)、服務業(yè)、農(nóng)業(yè)等產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型，致力為讀者提供最新、最權威、最全面的科技和數(shù)字領域資訊。數(shù)字化報并非新聞媒體，不提供新聞信息服務，提供商業(yè)信息服務；
商務合作：Hezuo@szhww.com
稿件投訴：help@szhww.com
Copyright ? 2013-2023 數(shù)字化報（數(shù)字化報商業(yè)報告）
數(shù)字化報并非新聞媒體，不提供新聞信息服務，提供商業(yè)信息服務
浙ICP備2023000407號數(shù)字化報網(wǎng)（杭州）信息科技有限公司 版權所有