Deepseek R1 本地安装部署
自己电脑上也装了个deepseek ,试用下效果。
一、电脑配置
CPU:AMD Ryzen 7 5800H with Radeon Graphics 3.20 GHz
RAM:32G
显卡：NVIDIA GeForce RTX 3060 Laptop GPU，8G显存
系统：win10 专业版
二、安装ollama
deepseek本地运行需要选择一个运行平台，开源用的多的包括ollama、LLM Studio等，我使用的是ollama。
ollama有多种安装方式，在windows操作系统下主要是win安装版和docker安装版两种，为了方便隔离实验，我选择采用了docker安装版的方式。
1.在win10专业版上安装wsl2、linux子系统，然后再安装dockerdesktop。没有安装过的可以参考我的另一篇文章【dify练习日记-dify本地安装部署】。
2.先启动dockerdesktop,然后使用管理员模式进入powershell,拉取ollama镜像。指令如下
docker pull ollama/ollama下载成功后，在dockerdesktop中可以看到对应的image.
3.启动ollama容器
启动ollama容器有两种版本，CPU版和GPU版，没有NV显卡的可以采用CPU版本，我使用的是GPU版本：
在powershell中执行指令
（1）CPU：
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama（2）GPU：
docker run -d --gpus=all -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama创建ollama容器成功后，在desktop中可以看到对应的container。
注意，如果使用GPU版本需要在执行创建ollama容器前先做好NV显卡相关配置准备工作。
三.Nvidia显卡配置准备工作。（使用gpu的这个步骤必须）
1.下载Nvidia最新的显卡驱动程序，并安装。
安装Nvidia驱动程序，可以通过安装Nvidia APP的方式，在Nvidia的官网上就有。
2.安装 NVIDIA Container Toolkit。安装container toolkit 后则无需再在电脑上安装CUDA。
使用管理员模式进入wsl2，然后采用apt的方式进行 toolkit的安装。
（1）配置存储库
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list（2）从存储库更新软件包列表
sudo apt-get update（3）安装 NVIDIA Container Toolkit 软件包：
sudo apt-get install -y nvidia-container-toolkit（4）验证docker可以成功调用GPU：
docker run --gpus all ubuntu nvidia-smi成功则会有如下执行结果：
四、下载deepseek模型，并执行
1.使用ollama拉取deepseek模型。
进入ollama container,然后在命令行窗口内执行指令
ollama run deepseek-r1:8b下载成功后会自动执行进入deepseek会话模式
输入指令回车，就可以与deepseek对话了。
我的电脑跑7B的模型还是很快的，想下14B的模型，可是不知道是不是网络的原因，一直没有成功。
ollama里可以拉取的deepseek模型列表如下：
DeepSeek-R1-Distill-Qwen-1.5B DeepSeek-R1-蒸馏-Qwen-1.5B
ollama run deepseek-r1:1.5b
DeepSeek-R1-Distill-Qwen-7B DeepSeek-R1-蒸馏-Qwen-7B
ollama run deepseek-r1:7b
DeepSeek-R1-Distill-Llama-8B DeepSeek-R1-蒸馏-骆驼-8B
ollama run deepseek-r1:8b
DeepSeek-R1-Distill-Qwen-14B DeepSeek-R1-蒸馏-Qwen-14B
ollama run deepseek-r1:14b
DeepSeek-R1-Distill-Qwen-32B DeepSeek-R1-蒸馏-Qwen-32B
ollama run deepseek-r1:32b
DeepSeek-R1-Distill-Llama-70B DeepSeek-R1-蒸馏-骆驼-70B
ollama run deepseek-r1:70b这样deepseek在本地电脑上就安装部署好了，下次再使用的时候还是执行ollama run deepseek-r1:7b即可。