关键词：Ollama教程、本地AI部署、WorkBuddy自定义模型、免费大模型、数据隐私保护
📌 为什么选择Ollama？
还在为AI API收费发愁？Ollama让你在自己的电脑上免费运行Llama 3、Qwen、Gemma等顶级大模型！
💡 核心优势
4保存文件后，完全退出WorkBuddy并重新启动
5在WorkBuddy设置页面的模型列表中，选择刚添加的Ollama模型
6开始聊天，享受免费本地AI！
🔧 第四步：常见问题与排查
Q1：连接失败，提示 "Connection refused"
原因：Ollama服务未启动。
解决：在终端运行 ollama serve 启动服务（Windows会自动后台运行，一般无需手动启动）。
Q2：模型下载慢或失败
原因：默认源在国外，速度慢。
解决：配置国内镜像源。编辑 %USERPROFILE%\\.ollama\\config.json：
{
"registry": "https://mirror.nju.edu.cn/ollama"
}
Q3：推理速度很慢
Q4：WorkBuddy里模型列表不刷新
WorkBuddy启动后会缓存配置，请完全退出并重新启动WorkBuddy。
📋 快速回顾
🚀 进阶建议
本地AI适合：
但注意：
🎯 总结
Ollama + WorkBuddy = 免费、隐私、可控的本地AI工作流。对于日常办公、文档处理、代码辅助，7B/8B模型已经够用。如果你追求顶级效果，可以保留硅基流动的云端模型作为备选。双管齐下，效果更佳！
- 完全免费：无API调用费用，模型本地运行
- 数据隐私：数据不出本地，适合敏感场景
- 离线可用：下载模型后无需网络
- WorkBuddy集成：通过本地API无缝对接
📦 第一步：安装Ollama
1访问官网下载：ollama.com
2选择对应系统版本：
- Windows：直接下载安装包（.exe）
- macOS：Homebrew 或 dmg 安装
- Linux：curl | sh 一键安装
-
看到版本号即安装成功 ✅
3安装完成后，打开终端验证：
- ollama –version
📥 第二步：下载并运行模型
Ollama支持多种模型，推荐这几个平衡性能与效果：
-
模型大小特点 llama3:8b 约 4.7 GB Meta官方，通用性强 qwen:7b 约 4.5 GB 阿里通义千问，中文优化 mistral:7b 约 4.1 GB 速度快，推理能力强
1拉取模型（以Llama3 8B为例）：
ollama pull llama3:8b
2运行模型测试：
ollama run llama3:8b
输入 "你好" 看到回复即成功 ✅
3按 Ctrl+D 退出交互模式
-
⚠️ 注意
- 模型文件较大（4-7GB），首次下载需要较长时间
- 确保硬盘有足够空间（至少10GB）
- 建议使用SSD以获得更好的推理速度
-
🔌 第三步：配置WorkBuddy连接本地Ollama
WorkBuddy支持自定义模型，只需修改配置文件即可。
3.1 打开配置文件
配置文件路径：
%USERPROFILE%\\.workbuddy\\models.json
如果文件不存在，新建一个。
3.2 写入Ollama模型配置
以下是一个完整配置示例（支持Llama3、Qwen两个模型）：
{
"models": [
{
"id": "llama3:8b",
"name": "Llama3 8B（本地免费）",
"vendor": "OpenAI",
"url": "http://localhost:11434/v1/chat/completions",
"apiKey": "ollama",
"maxInputTokens": 8192,
"maxOutputTokens": 4096
},
{
"id": "qwen:7b",
"name": "Qwen 7B（阿里通义）",
"vendor": "OpenAI",
"url": "http://localhost:11434/v1/chat/completions",
"apiKey": "ollama",
"maxInputTokens": 8192,
"maxOutputTokens": 4096
}
],
"availableModels": [
"llama3:8b",
"qwen:7b"
]
}3.3 配置字段说明
- id：Ollama模型名称，必须与ollama run使用的名称一致
- name：WorkBuddy界面显示的名称
- vendor：固定填"OpenAI"（兼容性需要）
- url：Ollama本地API地址，固定http://localhost:11434/v1/chat/completions
- apiKey：Ollama不需要真实API Key，填"ollama"即可
- maxInputTokens：上下文长度，建议8192
- maxOutputTokens：最大输出长度，建议4096
- 检查是否使用SSD硬盘
- 关闭其他占用GPU的程序
- 使用更小的模型（如mistral:7b）
- ✅ 安装Ollama并下载模型（如llama3:8b）
- 敏感数据场景（法律文书、内部资料）
- 离线环境（无网络或网络受限）
- 高频使用（无API调用限制）
- 推理速度受硬件限制（建议RTX 3060以上）
- 模型效果可能弱于云端顶级模型（如GPT-4、Claude）
- 运行多个模型会占用大量内存
