欢迎光临
我们一直在努力

vs code 本地 AI 编程助手: Continue + Ollama

前言:为什么需要一个本地 AI 编程助手?

在动手之前,我们先来聊聊“本地部署”的价值。

云端 AI 编程的隐忧
  • 代码数据安全问题:当你使用云端 AI 辅助工具时,你的专有业务逻辑、API 密钥等敏感信息,都可能被发送到外部服务器处理。
  • 持续付费的经济负担:主流的 AI 编程助手每月订阅费约 10 到 19 美元,一年下来就是 120 到 228 美元。
  • 网络依赖的局限性:云服务一旦故障,你的开发就会被中断;在没有网络的场景下,更是无法使用。
本地 AI 编程的显著优势

本地部署方案能完美解决以上所有问题:你的代码永远不会离开你的机器;完全免费,无需订阅;并且可以在完全离线的环境下工作。


核心工具介绍:Continue 与 Ollama

  • Continue:一个极受欢迎的 VS Code 开源插件。它能让你在编辑器侧边栏与 AI 对话,或直接在代码中获得行内的智能补全。
  • Ollama:一个开源的本地大模型运行工具。它能让你轻松下载、管理和运行各种现代开源大模型。

实战步骤:从零搭建你的本地 AI 编程环境

步骤 1:安装 Ollama 并下载模型

首先,到 Ollama 官网 下载并完成安装。

接着,我们就可以通过几行简单的 ollama pull 命令,把 AI 的“大脑”请到我们电脑里了:

# 下载主模型:用于对话、代码生成等复杂任务
ollama pull qwen2.5-coder:7b

# 下载自动补全模型:专用于行内代码提示,轻量快速
ollama pull qwen2.5-coder:1.5b-base

下载完成后,用 ollama list 命令确认模型已成功安装。同时,你也可以访问 http://localhost:11434 来验证 Ollama 服务是否正常运行。


题外话


怕C盘爆满?你的Ollama模型都藏在C:\\Users\\你的用户名.ollama\\models里了。别慌,把它迁到空间大的盘符就好,方法如下:

  • 创建新家:在你的D盘或E盘,新建一个文件夹,路径不要有中文和空格,比如 D:\\OllamaModels。
  • 设置变量:告诉Ollama以后去这个新家找模型。
    • 右键 此电脑 → 属性 → 高级系统设置 → 环境变量。
    • 在「系统变量」下,点击「新建」,填写:
      • 变量名:OLLAMA_MODELS
      • 变量值:D:\\OllamaModels (你刚刚创建的路径)
    • 一路点击「确定」保存。
  • 数据搬家:把当前所有模型搬到新家。
    • 打开 C:\\Users\\你的用户名\\.ollama\\models,复制里面的 blobs 和 manifests 两个文件夹。
    • 粘贴到新家 D:\\OllamaModels里。
  • 重启验证:退出Ollama(任务栏右下角找到小羊驼图标,右键退出)。
    • 重新启动Ollama,打开CMD或PowerShell,输入 ollama list。
    • 如果能看到你之前下载的模型列表,恭喜你,成功啦!


  • 步骤 2:安装 Continue 插件

    在 VS Code 中,按下 Ctrl+Shift+X 打开扩展商店,搜索并安装 “Continue” 插件。

    步骤 3:配置 Continue

    Continue 的核心配置文件是 config.yaml(新版本推荐使用 YAML 格式)。你可以通过点击 Continue 侧边栏的齿轮图标来打开它。

    基础配置 首先,在 models 部分添加以下代码:

    models:
    name: Qwen2.5Coder 7B (主模型)
    provider: ollama
    model: qwen2.5coder:7b
    roles:
    chat
    edit
    apply

    分工配置(进阶) 完成基础配置后,我们可以进一步设置,为核心模型 qwen2.5-coder:7b 配置独立的自动补全模型:

    tabAutocompleteModel:
    title: Qwen2.5Coder 1.5B (自动补全模型)
    provider: ollama
    model: qwen2.5coder:1.5bbase

    完整配置示例

    name: Code Assistant
    version: 1.0.0
    schema: v1

    models:
    name: Qwen2.5Coder 7B
    provider: ollama
    model: qwen2.5coder:7b
    roles:
    chat
    edit
    apply

    tabAutocompleteModel:
    title: Qwen2.5Coder 1.5B (Auto)
    provider: ollama
    model: qwen2.5coder:1.5bbase

    配置完成界面


    进阶配置与优化

    1. 硬件与模型选择 根据硬件配置选择合适规模的模型直接决定了体验。通常建议 8GB 显存或 16GB 内存的基础配置,可以从 7B 模型开始体验“甜点区”的流畅度。

    2. 上下文长度 如果你的模型支持并希望在对话中处理更多代码,可以在模型配置中添加 contextLength 参数。请注意,增大此参数会增加内存和显存的消耗。

    contextLength: 8192

    3. 硬件加速 对于硬件较好的同学,可以通过环境变量开启 GPU 加速。

    4. Ollama 镜像加速 针对 ollama pull 下载缓慢的问题,可以通过环境变量启用实验性下载器:

    • Windows (PowerShell): $env:OLLAMA_EXPERIMENT="client2"
    • macOS / Linux: export OLLAMA_EXPERIMENT="client2"

    常见问题排“坑”指南

    Q1: Ollama 报错“模型未找到”怎么办? A 在终端使用 ollama list 命令确认模型名称,然后完整复制*并粘贴到 config.yaml 的 model 字段中。

    Q2: 自动补全没反应/不生效 A 首先,确保 tabAutocompleteModel 的配置已正确添加。其次,可以适当调整补全的触发延迟(debounceDelay)或禁用一些干扰的扩展。

    Q3: VS Code 无法连接到 Ollama 服务 A 请在终端输入 curl http://localhost:11434 检查服务状态。如果返回“Ollama is running”则服务正常。之后,检查 Continue 设置里的 API Base URL 是否为 http://localhost:11434,并务必重启 VS Code 使所有更改生效。

    Q4: 运行模型时电脑变卡或报错很慢怎么办? A 这很可能是资源不足。建议换用小参数模型(如 1.5B 或 3B),或在模型配置中调低 contextLength。


    总结:开启本地 AI 编程之旅

    通过今天的教程,相信你已经掌握了在 VS Code 中打造本地 AI 编程助手的方法。从数据安全、成本控制到自由探索,本地部署无疑是理想的选择。Continue + Ollama 的组合,不仅为你提供了强大的开源能力,更将代码的主权牢牢握在了自己手中。

    赞(0)
    未经允许不得转载:171主机测评 » vs code 本地 AI 编程助手: Continue + Ollama
    分享到: 更多 (0)

    评论 抢沙发

    • 昵称 (必填)
    • 邮箱 (必填)
    • 网址