通過(guò)LM Studio本地私有化部署DeepSeek-R1模型,無(wú)網(wǎng)絡(luò)也能用
?打開(kāi)LM Studio官網(wǎng)????
選擇適合自己的操作系統(tǒng),下載LM Studio安裝包
成功后運(yùn)行LM Studio,頂部文本框輸入deepseek,點(diǎn)擊搜索模型
在搜索結(jié)果中選擇7B參數(shù)模型,
如上圖右側(cè)提示“No result found”說(shuō)明官方未直接提供deepseek gguf模型文件。
這時(shí),我們需要自己到別處下載ds gguf文件,繼續(xù)如下操作:
?打開(kāi)魔搭官網(wǎng),????
進(jìn)入模型庫(kù),搜索deepseek-r1
選擇deepseek-r1 gguf模型文件,根據(jù)你自己電腦的配置情況,選擇大小合適的參數(shù)模型。(我選擇了70億參數(shù)的小模型)
點(diǎn)擊下載模型文件,按提示命令操作(此步需要程序員操作)
按右側(cè)窗口提示,選擇正確的下載方式,這里需要下載獨(dú)立的gguf文件保存到指定的文件路徑。
Win+R 運(yùn)行cmd 命令終端,請(qǐng)先確認(rèn)pip(需要安裝python環(huán)境)是否最新版本,否則先更新pip。
操作①,安裝modelscope:pip install modelscope
安裝過(guò)程中可能失敗,提示:系統(tǒng)沒(méi)有啟用Windows長(zhǎng)路徑支持
win+R 運(yùn)行regedit命令,打開(kāi)系統(tǒng)注冊(cè)表
找到以下位置:HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem,找到LongPathsEnabled的條目,雙擊打開(kāi)
“數(shù)值數(shù)據(jù)”文本框值改為1,確定保存即可。
再次執(zhí)行①,成功!
執(zhí)行②,通過(guò)modelscope命令下載gguf文件到指定目錄。
可能遇到modul錯(cuò)誤:
解決辦法是:pip install setuptools -U
成功后繼續(xù)執(zhí)行②,安裝進(jìn)行中
模型GGUF文件下載100%完成!
打開(kāi)LM Studio客戶(hù)端,我的模型》模型目錄》更改,設(shè)置路徑地址為gguf文件所在目錄的上二級(jí)目錄文件夾。
回到聊天對(duì)話框,選擇最新的模型。
從此刻開(kāi)始你和DS AI暢聊吧~(無(wú)網(wǎng)也能聊,數(shù)據(jù)又安全)
