本地部署 DeepSeek R1（0528）：从“能跑”到“可用、可管、可扩展”的私人 AI 助手指南
-
- 1. 引言：本地化的价值，不是“省钱”，而是“可控”
- 2. DeepSeek R1 最新版本与模型家族：你部署的不是一个模型，而是一套梯度
-
- 2.1 你现在应该知道的“新变化”
- 2.2 关键一句话（选型原则）
- 3. 安装准备：先把“运行形态”定下来
- 4. 路线 A：Ollama 本地部署（推荐给 90% 的人）
-
- 4.1 安装 Ollama
- 4.2 拉取并运行 DeepSeek-R1（注意：不是 deepseek-coder）
- 4.3 一个现实提醒：671B 不是给“正常人本地跑”的
- 5. 路线 A 增强：Open WebUI（把“能跑”升级为“可用助手”）
-
- 5.1 Docker 一键部署 Open WebUI
- 5.2 “私人助手”的最低可用闭环（建议你照这个做）
- 6. 路线 B：vLLM 部署（给“要服务化 / 要吞吐 / 要并行”的人）
-
- 6.1 安装 vLLM（官方示例）
- 6.2 FP8（示例：8xH200）
- 6.3 FP4（示例：4xB200）
- 6.4 你最该关注的两个“工程参数”
- 7. 模型选择与优化：我给你一个“工程局”的决策表（不玄学）
-
- 7.1 按目标选模型（现实主义版本）
- 7.2 一条底层规律（你越早接受越省时间）
- 8. 实际应用场景：把它真正变成“你的私人 AI 助手”
-
- 8.1 离线文档助手（强烈推荐）
- 8.2 本地研发/代码助手
- 8.3 内部知识库问答（RAG）
- 9. 故障排除：工程问题一律按“定位链路”处理
-
- 9.1 典型问题 1：模型能跑但很慢
- 9.2 典型问题 2：Docker/Open WebUI 连不上 Ollama
- 10. 安全与隐私：本地化不是“自动安全”，你还得做边界
- 11. 总结：你要交付的不是“模型”，而是“可持续的私人助手系统”
你会发现：本地部署大模型真正的门槛，从来不是“装不装得上”，而是三件事——模型选型、运行稳定性、以及后续的知识库与权限边界。
这篇我按“工程交付”的方式重写：不追求花哨工具链，而是给你一条最短路径，把 DeepSeek-R1 做成可离线、可对话、可接知识库、可长期维护的私人 AI 助手；同时补齐截至 2025-12 / 2026-01 的关键更新（DeepSeek-R1-0528、Open WebUI 的离线/RAG、vLLM 的 FP8/FP4 部署路线等）。(Ollama)
1. 引言：本地化的价值，不是“省钱”，而是“可控”
把模型放到本地，带来的不是“替代云端”那么简单，而是三种能力的回归：
- 数据边界回归：敏感文档不出内网（尤其是单位资料、合同、论文、馆藏业务数据）
- 控制权回归：模型版本、提示词、知识库、日志都在你手里
- 可复用回归：一次搭好，后续可以把“助手”变成一套可迁移的环境（新电脑/新服务器照搬）
我的经验是：本地部署要从第一天就按“项目”来做，而不是“装完能聊就算完”。
2. DeepSeek R1 最新版本与模型家族：你部署的不是一个模型，而是一套梯度
2.1 你现在应该知道的“新变化”
- DeepSeek-R1 已升级到 DeepSeek-R1-0528（在推理深度与推理能力上做了增强，且在 Ollama 模型库中有明确说明）。(Ollama)
- Ollama 的 deepseek-r1 系列提供多尺寸（1.5B/7B/8B/14B/32B/70B/671B），并且多数版本提供 128K 上下文窗口（671B 为 160K）。(Ollama)
- 许可层面：Ollama 页面明确提到 DeepSeek-R1 权重为 MIT License，并支持商业用途与衍生（同时提示蒸馏来源模型可能有各自许可）。(Ollama)
2.2 关键一句话（选型原则）
本地部署选模型，不是“越大越好”，而是“在你的硬件上长期稳定、可复现、可更新”。
3. 安装准备：先把“运行形态”定下来
我把本地部署分成两条路线：
- 路线 A（个人电脑/工作站）：Ollama + Open WebUI（最快形成可用助手）
- 路线 B（团队/服务器/高吞吐）：vLLM（FP8/FP4、并行、服务化更强）
Open WebUI 明确支持 Ollama 与 OpenAI-compatible API，并强调可离线与内置 RAG 能力。(Open WebUI) vLLM 的官方 Recipes 已给出 DeepSeek-R1-0528 的 FP8/FP4 服务方式与关键环境变量。(vLLM)
4. 路线 A：Ollama 本地部署（推荐给 90% 的人）
4.1 安装 Ollama
- 到 Ollama 官网按系统安装即可（Windows/macOS/Linux）。安装后验证：
ollama –version
4.2 拉取并运行 DeepSeek-R1（注意：不是 deepseek-coder）
Ollama 官方库里，默认 deepseek-r1 指向 8B（Qwen3-8B 蒸馏版本）：(Ollama)
ollama run deepseek-r1
