#Dify #知识库 #RAG #AI部署 #零代码
零基础也能搞定的 AI 知识库搭建指南,全程实操级讲解,跟着做就行。
写在前面
你有没有遇到过这些场景:
• 公司内部文档堆积如山,找个制度流程要翻半天
• 客服每天回答的都是重复问题,效率低下
• 想让 AI 帮你读文档,但它总在"一本正经地胡说八道"
Dify + RAG 知识库,就是解决这些问题的终极方案。
简单来说:把你的文档喂给 AI,让它基于你的文档精准回答——不胡说、不瞎编、还带引用来源。
这篇教程,我会带你从零开始:安装部署 Dify → 配置模型 → 搭建知识库 → 创建智能问答应用,每一步都有详细说明,照着做就能跑通。
📋 本文目录
— 正文开始 —
一、Dify 是什么?为什么选它?
Dify 是一个开源的 LLM(大语言模型)应用开发平台,核心能力包括:
🚀 核心能力
可视化编排:拖拽式搭建 AI 应用,不用写代码
知识库(RAG):上传文档,AI 基于文档内容精准回答
多模型兼容:支持 OpenAI、DeepSeek、通义千问、Ollama 本地模型等 20+ 模型
一键部署:Docker Compose 启动,几分钟搞定
一句话总结:Dify 让你不用写一行代码,就能搭出一个"懂你业务"的 AI 助手。
二、环境准备(10分钟)
2.1 你需要什么?
| 操作系统 | Windows / macOS / Linux | — |
| 内存 | 4GB | 8GB+ |
| 磁盘空间 | 10GB | 20GB+ |
| Docker | 20.10+ | 最新版 |
| Docker Compose | v2+ | 最新版 |
2.2 安装 Docker
Windows 用户:
1
确认虚拟化已开启:打开任务管理器(Ctrl+Shift+Esc)→ 性能 → CPU,查看"虚拟化"是否显示"已启用"
2
如果显示"已禁用",需要重启进入 BIOS 开启虚拟化
3
安装 WSL2(以管理员身份打开 PowerShell):
wsl –install
4
前往 Docker 官网下载 Docker Desktop,双击安装
5
验证安装:
docker –version
docker compose –version
macOS / Linux 用户:
macOS 直接下载 Docker Desktop 安装;Linux 使用官方一键脚本:
curl -fsSL https://get.docker.com | bash
2.3 避坑指南
⚠️ 坑1:WSL2 安装失败(错误码 0x80370102)
执行以下命令修复:
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
wsl –install -d Ubuntu
⚠️ 坑2:Docker 拉取镜像超时
在 Docker Desktop 的 Settings → Docker Engine 中添加国内镜像加速:
{
"registry-mirrors": [
"https://docker.1ms.run",
"https://docker.xuanyuan.me"
]
}
⚠️ 坑3:内存不足导致服务崩溃
Windows 用户编辑 ~/.wslconfig 文件:
[wsl2]
memory=6GB
三、部署 Dify(5分钟)
3.1 克隆代码 & 启动
# 克隆 Dify 官方仓库
git clone https://github.com/langgenius/dify.git
# 进入 Docker 部署目录
cd dify/docker
# 复制环境配置文件
cp .env.example .env
# 一键启动所有服务
docker compose up -d
首次运行会下载多个镜像(约 2-3GB),耐心等待。看到所有服务状态显示 Running 即成功。
3.2 验证部署
# 查看服务状态
docker compose ps
# 查看日志(如遇问题可排查)
docker compose logs -f api
浏览器访问:http://localhost
✅ 首次访问会进入管理员初始化页面,设置账号和密码即可登录。
3.3 常用启停命令
cd dify/docker
# 启动
docker compose up -d
# 停止
docker compose down
# 查看状态
docker compose ps
# 更新到最新版
docker compose pull
docker compose up -d
四、配置模型(关键步骤)
搭建知识库需要两类模型:
| LLM(大语言模型) | 理解问题、生成回答 | 🧠 大脑 |
| Embedding(嵌入模型) | 把文档转成向量,用于检索 | 🫀 海马体 |
你有两种选择:云端 API(推荐新手)或 本地模型(推荐有显卡的用户)。
方案 A:云端模型(推荐新手,即开即用)
以 DeepSeek 为例:
1
访问 DeepSeek 开放平台注册并申请 API Key
2
进入 Dify → 右上角头像 → 设置 → 模型供应商
3
找到 DeepSeek,填入 API Key,保存
4
点击 系统模型设置,选择推理模型和 Embedding 模型
💡 省钱提示:DeepSeek API 价格极低,百万 token 仅 1-2 元,个人练手成本几乎为零。通义千问也有免费额度可白嫖。
方案 B:本地模型(数据不出本地,隐私安全)
第一步:安装 Ollama
前往 Ollama 官网下载安装,验证:
ollama –version
第二步:下载模型
# 下载 LLM 对话模型
ollama pull deepseek-r1:7b
# 下载 Embedding 嵌入模型(知识库必需)
ollama pull bge-m3
🎮 配置推荐
8GB 显存:deepseek-r1:7b + bge-m3
16GB+ 显存:deepseek-r1:14b + bge-m3
无独立显卡:建议用云端 API 方案
第三步:在 Dify 中接入
1
Dify → 设置 → 模型供应商 → 找到 Ollama → 安装插件
2
点击 添加模型,依次添加 LLM 和 Embedding 模型
模型名称:deepseek-r1:7b(通过 ollama list 命令查看)
基础 URL:http://host.docker.internal:11434
模型类型:LLM 选"对话",Embedding 选"Text Embedding"
⚠️ 关键提醒:Dify 在 Docker 中运行,URL 不能填 localhost,必须填 host.docker.internal,否则连不上!
3
在 系统模型设置 中选好推理模型和 Embedding 模型
五、搭建知识库(核心环节)
模型配好了,现在开始搭建知识库。这是整篇教程的重头戏。
5.1 创建知识库
1
进入 Dify 主界面,点击顶部导航栏的 知识库
2
点击 创建知识库,输入名称和描述
5.2 上传文档
支持的格式:PDF、Word(.docx)、TXT、Markdown(.md)、HTML、CSV
✅ 上传前建议:删除页眉页脚等干扰内容;确保 PDF 是文本可选的(扫描版需先 OCR);格式越整洁检索效果越好。
5.3 配置分段策略
| 分段模式 | 自动(通用) | 按段落和标题自动切分 |
| 分段最大长度 | 500-800 tokens | 太短信息不完整,太长精度下降 |
| 分段重叠长度 | 50-100 tokens | 避免上下文断裂 |
5.4 选择索引方式
务必选"高质量索引",使用 Embedding 模型生成向量,检索精度高。
5.5 选择 Embedding 模型
选择你在第四步配置的嵌入模型(bge-m3 / text-embedding-v3 等)。
5.6 配置检索设置
| 检索方式 | 混合检索 | 语义检索 + 关键词检索,效果最好 |
| Top K | 3-5 | 每次检索返回的文档片段数量 |
| Score 阈值 | 0.5 | 过滤低相关性结果 |
| Rerank 模型 | bge-reranker | 结果重排序,准确率↑40% |
💡 为什么选混合检索?
纯语义检索:擅长理解意思,但可能漏掉精确匹配的专有名词
纯关键词检索:精确匹配强,但理解不了同义词
混合检索:两者结合,取长补短,是最优解 ✅
5.7 保存并处理
点击 保存并处理,Dify 自动完成:文本提取 → 分段处理 → 向量化 → 存储索引。处理时间 1-5 分钟,状态变为"已处理"即完成。
六、创建智能问答应用
6.1 创建应用
1
点击 工作室 → 创建空白应用 → 选择 聊天助手
2
填写应用名称和描述,点击创建
6.2 关联知识库
在应用编辑页左侧找到 上下文 → 点击 添加 → 选择你创建的知识库
6.3 编写系统提示词
你是一个专业的知识库问答助手。请严格遵守以下规则:
1. 只基于知识库中的内容回答问题,不要编造信息
2. 回答时请引用具体的来源文档或条款
3. 如果问题超出知识库范围,明确告知"该问题不在当前知识库覆盖范围内"
4. 回答简洁明了,使用友好但专业的语气
5. 如果用户的问题不清晰,可以请求澄清
6.4 调试与发布
在右侧 调试与预览 面板测试,满意后点击右上角 发布:
- 运行:直接在 Dify 内使用
- API 模式:提供 RESTful 接口,可对接企业微信、钉钉
- 嵌入网页:生成 JavaScript 代码,嵌入你的网站
七、进阶优化技巧
7.1 检索调优经验表
| 检索不到相关内容 | Score 阈值太高 | 降低到 0.3-0.4 |
| 回答包含无关信息 | Top K 太大 | 减少到 3 |
| 专有名词匹配不到 | 只用了语义检索 | 切换为混合检索 |
| 排序不合理 | 没开 Rerank | 添加 Rerank 模型 |
| 回答不完整 | 分段太短 | 增大到 800-1000 |
八、完整架构总结
用户提问
↓
问题向量化(Embedding 模型)
↓
检索知识库(向量数据库)
↓
Rerank 重排序
↓
拼接上下文 + 用户问题
↓
送入 LLM 生成回答
↓
返回精准回答(带引用来源)
✨ 核心优势
✓ 不需要微调模型,上传文档即可生效
✓ 知识库随时更新,AI 立刻"学会"新内容
✓ 数据可控,敏感信息不出本地
✓ 成本极低,个人也能玩转
九、常见问题 FAQ
Q:没有显卡能用吗?
A:可以!用云端 API 方案(DeepSeek/通义千问),不需要本地算力,几块钱就能跑很久。
Q:知识库支持多少文档?
A:Dify 本身没有硬限制,取决于向量数据库。内置 Weaviate 足够个人和小团队使用。
Q:支持图片/表格吗?
A:支持图片识别(需多模态模型),表格建议转成 CSV 或 Markdown 格式上传。
Q:能商用吗?
A:Dify 采用 Apache 2.0 开源协议,可以商用。



