本地化部署 deepseek-r1

文章信息

• 原文链接：https://jiayq.blog.csdn.net/article/details/145460509
• 发布时间：2025-02-05 19:30:20
• 阅读量：1
• 标签：#DeepSeek-R1, #deepseek-r1, #本地部署, #deepseek, #DeepSeek, #专属大模型, #专属ai

摘要

文章浏览阅读1.1k次，点赞26次，收藏28次。最近 deepseek 太火爆了，问个问题经常就服务端不可用了。但是回答的确实很棒。如果能自己给自己部署一个就好了。目标是部署 deepseek-r1-70B完整的是 671b ，太大了，本地资源吃不消的。参数越多，回复的质量越高，但是也越慢，并且消耗的资源也越多。参数越少，回复的质量就越低。_deepseek 371b

---

本地化部署 deepseek-r1

• 介绍
• 硬件
• ollama 安装
• 模型选择和下载
• • windows 调整 ollama 的 models 位置
    • linux 调整 ollama 的 models 位置
• 评测
• • deepseek-r1 371b 表现
    • chatGPT 4o mini 表现
    • deepseek-r1 32b 表现
    • deepseek-r1 14b 表现
    • deepseek-r1 8b 表现
    • deepseek-r1 7b 表现
    • deepseek-r1 1.5b 表现
    • 总结
• 客户端

介绍

最近 deepseek 太火爆了，问个问题经常就服务端不可用了。

但是回答的确实很棒。

如果能自己给自己部署一个就好了。

目标是部署 deepseek-r1-70B

完整的是 671b ，太大了，本地资源吃不消的。

硬件

10核；36G；500G 硬盘

ollama 安装

使用 curl -fsSL https://ollama.com/install.sh | sh 安装 ollama .

ollama 的官网：https://ollama.com/

Ollama 是一个开源的本地模型运行工具，可以方便地下载和运行各种开源模型，如 Llama、Qwen、DeepSeek 等。Ollama 提供高效、灵活的大模型部署和管理解决方案，可以简化模型的部署流程。支持macOS、Linux、Windows 操作系统。

安装完成后使用 ollama -v 进行验证

当出现正确的版本号说明安装成功了

模型选择和下载

deepseek-r1 提供多个版本，参数量越大，模型的性能越强大，但也需要更多的存储和计算资源。1.5b 模型参数为15亿/1.1GB，7b 模型参数约为 70亿/4.7GB，14b 模型参数约为 140亿/9GB。

在 ollama 的 deepseek-r1的界面有各种版本的下载命令

https://ollama.com/library/deepseek-r1:70b

ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b
ollama run deepseek-r1:70b
ollama run deepseek-r1:671b

执行 ollama run deepseek-r1:70b

接着就耐心等待

因为 ollama 会默认在 系统盘存储 model ，一般系统盘会存储不下的。

在 https://github.com/ollama/ollama/blob/main/docs/faq.md 展示了如何调整 ollama 的 model 存储位置：

windows 调整 ollama 的 models 位置

设置环境变量