為什么要在本地運(yùn)行？
在本地運(yùn)行 AI 模型具有以下優(yōu)勢(shì)：
隱私：你的數(shù)據(jù)保留在你的機(jī)器上 — — 不存在共享敏感信息的風(fēng)險(xiǎn)；
成本： DeepSeek R1 可免費(fèi)使用，無(wú)需訂閱費(fèi)或使用費(fèi)；
控制：無(wú)需外部依賴(lài)即可進(jìn)行微調(diào)和實(shí)驗(yàn)。
安裝步驟
步驟1、安裝Ollama
為了在本地運(yùn)行 DeepSeek R1，我們將使用Ollama，這是一種專(zhuān)門(mén)為用戶(hù)在自己的電腦上運(yùn)行 AI 模型而設(shè)計(jì)的工具。
Ollama官網(wǎng)：https://ollama.com/download
步驟二、拉取 DeepSeek R1 模型
Ollama 支持 DeepSeek R1 的多個(gè)版本。模型越大越智能，但所需的 GPU 也越大。
具體有以下版本：
1.5B（最小）
8B
14B
32B
70B（最大、最智能）
運(yùn)行 1.5B或者7B 模型
首先，打開(kāi)你的終端：
??MAC使用 command + space（空格），輸入terminal 打開(kāi)終端；
??WIN使用Win + R，在運(yùn)行對(duì)話框中輸入“cmd”；或者Win + X，選擇“Windows PowerShell”或“命令提示符”來(lái)打開(kāi)終端窗口。
運(yùn)行以下指令：ollama run deepseek-r1:1.5b
如果報(bào)錯(cuò)，可以使用以下指令：ollama run deepseek-r1
使用以上任何指令后，系統(tǒng)會(huì)自動(dòng)下載。
下載速度，看網(wǎng)速，我的網(wǎng)速不好，等了20分鐘左右。
完成下載后，模型即可運(yùn)行。
步驟 3、安裝聊天框
上面不住完成，說(shuō)明你已經(jīng)在自己電腦部署好了DeepSeek，可以通過(guò)終端與 DeepSeek R1 進(jìn)行交互，但如果想要一個(gè)更流暢的交互體驗(yàn)，可以使用 GUI。
一般使用Chatbox與本地模型集成，這是一個(gè)免費(fèi)且注重隱私的桌面客戶(hù)端。
下載 Chatbox，官網(wǎng)：https://chatboxai.app/en# （有中文版）
安裝完成后，在選擇配置API模型那里選擇“Ollama API”；（圖1）
將 API 主機(jī)設(shè)置為：http://127.0.0.1:11434（圖二）
選擇 DeepSeek R1 作為活動(dòng)模型
保存
完成后就是這樣：
到這里就部署成功了，你可以根據(jù)自己的需求訓(xùn)練DeepSeek，將DeepSeek訓(xùn)練成自己的私有資料庫(kù)。演示
可以試試DeepSeek能力，比如讓他用Python寫(xiě)一個(gè)吃豆人的游戲代碼；
Prompt: Make a Pac-Man game in Python.
你會(huì)得到這樣的輸出：
以上就是今天全部教程，無(wú)論你是 AI 愛(ài)好者、開(kāi)發(fā)者，還是只是對(duì)本地 AI 感到好奇，都可以嘗試一下 DeepSeek R1。
借助 Ollama 和 Chatbox 等工具，設(shè)置非常簡(jiǎn)單，而且效果也非常不錯(cuò)。
.png)
粵公網(wǎng)安備 44010602011516號(hào)