前言:为什么需要一个本地 AI 编程助手?
在动手之前,我们先来聊聊“本地部署”的价值。
云端 AI 编程的隐忧
- 代码数据安全问题:当你使用云端 AI 辅助工具时,你的专有业务逻辑、API 密钥等敏感信息,都可能被发送到外部服务器处理。
- 持续付费的经济负担:主流的 AI 编程助手每月订阅费约 10 到 19 美元,一年下来就是 120 到 228 美元。
- 网络依赖的局限性:云服务一旦故障,你的开发就会被中断;在没有网络的场景下,更是无法使用。
本地 AI 编程的显著优势
本地部署方案能完美解决以上所有问题:你的代码永远不会离开你的机器;完全免费,无需订阅;并且可以在完全离线的环境下工作。
核心工具介绍:Continue 与 Ollama
- Continue:一个极受欢迎的 VS Code 开源插件。它能让你在编辑器侧边栏与 AI 对话,或直接在代码中获得行内的智能补全。
- Ollama:一个开源的本地大模型运行工具。它能让你轻松下载、管理和运行各种现代开源大模型。
实战步骤:从零搭建你的本地 AI 编程环境
步骤 1:安装 Ollama 并下载模型
首先,到 Ollama 官网 下载并完成安装。
接着,我们就可以通过几行简单的 ollama pull 命令,把 AI 的“大脑”请到我们电脑里了:
# 下载主模型:用于对话、代码生成等复杂任务
ollama pull qwen2.5-coder:7b
# 下载自动补全模型:专用于行内代码提示,轻量快速
ollama pull qwen2.5-coder:1.5b-base
下载完成后,用 ollama list 命令确认模型已成功安装。同时,你也可以访问 http://localhost:11434 来验证 Ollama 服务是否正常运行。
题外话
怕C盘爆满?你的Ollama模型都藏在C:\\Users\\你的用户名.ollama\\models里了。别慌,把它迁到空间大的盘符就好,方法如下:
- 右键 此电脑 → 属性 → 高级系统设置 → 环境变量。
- 在「系统变量」下,点击「新建」,填写:
- 变量名:OLLAMA_MODELS
- 变量值:D:\\OllamaModels (你刚刚创建的路径)
- 一路点击「确定」保存。
- 打开 C:\\Users\\你的用户名\\.ollama\\models,复制里面的 blobs 和 manifests 两个文件夹。
- 粘贴到新家 D:\\OllamaModels里。
- 重新启动Ollama,打开CMD或PowerShell,输入 ollama list。
- 如果能看到你之前下载的模型列表,恭喜你,成功啦!
步骤 2:安装 Continue 插件
在 VS Code 中,按下 Ctrl+Shift+X 打开扩展商店,搜索并安装 “Continue” 插件。
步骤 3:配置 Continue
Continue 的核心配置文件是 config.yaml(新版本推荐使用 YAML 格式)。你可以通过点击 Continue 侧边栏的齿轮图标来打开它。
基础配置 首先,在 models 部分添加以下代码:
models:
– name: Qwen2.5–Coder 7B (主模型)
provider: ollama
model: qwen2.5–coder:7b
roles:
– chat
– edit
– apply
分工配置(进阶) 完成基础配置后,我们可以进一步设置,为核心模型 qwen2.5-coder:7b 配置独立的自动补全模型:
tabAutocompleteModel:
title: Qwen2.5–Coder 1.5B (自动补全模型)
provider: ollama
model: qwen2.5–coder:1.5b–base
完整配置示例
name: Code Assistant
version: 1.0.0
schema: v1
models:
– name: Qwen2.5–Coder 7B
provider: ollama
model: qwen2.5–coder:7b
roles:
– chat
– edit
– apply
tabAutocompleteModel:
title: Qwen2.5–Coder 1.5B (Auto)
provider: ollama
model: qwen2.5–coder:1.5b–base

进阶配置与优化
1. 硬件与模型选择 根据硬件配置选择合适规模的模型直接决定了体验。通常建议 8GB 显存或 16GB 内存的基础配置,可以从 7B 模型开始体验“甜点区”的流畅度。
2. 上下文长度 如果你的模型支持并希望在对话中处理更多代码,可以在模型配置中添加 contextLength 参数。请注意,增大此参数会增加内存和显存的消耗。
contextLength: 8192
3. 硬件加速 对于硬件较好的同学,可以通过环境变量开启 GPU 加速。
4. Ollama 镜像加速 针对 ollama pull 下载缓慢的问题,可以通过环境变量启用实验性下载器:
- Windows (PowerShell): $env:OLLAMA_EXPERIMENT="client2"
- macOS / Linux: export OLLAMA_EXPERIMENT="client2"
常见问题排“坑”指南
Q1: Ollama 报错“模型未找到”怎么办? A 在终端使用 ollama list 命令确认模型名称,然后完整复制*并粘贴到 config.yaml 的 model 字段中。
Q2: 自动补全没反应/不生效 A 首先,确保 tabAutocompleteModel 的配置已正确添加。其次,可以适当调整补全的触发延迟(debounceDelay)或禁用一些干扰的扩展。
Q3: VS Code 无法连接到 Ollama 服务 A 请在终端输入 curl http://localhost:11434 检查服务状态。如果返回“Ollama is running”则服务正常。之后,检查 Continue 设置里的 API Base URL 是否为 http://localhost:11434,并务必重启 VS Code 使所有更改生效。
Q4: 运行模型时电脑变卡或报错很慢怎么办? A 这很可能是资源不足。建议换用小参数模型(如 1.5B 或 3B),或在模型配置中调低 contextLength。
总结:开启本地 AI 编程之旅
通过今天的教程,相信你已经掌握了在 VS Code 中打造本地 AI 编程助手的方法。从数据安全、成本控制到自由探索,本地部署无疑是理想的选择。Continue + Ollama 的组合,不仅为你提供了强大的开源能力,更将代码的主权牢牢握在了自己手中。





