欢迎光临
我们一直在努力

Thinkpad P1 gen2:Ubuntu2604+T2000+CUDA+Ollama完整安装避坑指南

Ubuntu 2604+NVIDIA Quadro T2000驱动 + CUDA + Ollama 完整安装指南

适用于 Ubuntu 26.04 (Resolute Raccoon) + Linux Kernel 6.19
最后更新:2026-03-01
硬件:NVIDIA Quadro T2000 Mobile (4GB显存) + Intel Wi-Fi 6 AX200


在这里插入图片描述

📋 硬件与软件环境

硬件配置

组件型号备注
GPU NVIDIA Quadro T2000 Mobile Turing架构,4GB GDDR6
CPU Intel 第8代酷睿 i5/i7
内存 30GB DDR4 充足
无线网卡 Intel Wi-Fi 6 AX200 需要注意兼容性问题

软件环境

软件版本状态
操作系统 Ubuntu 26.04 Resolute 开发版
内核 6.19.0-6-generic
NVIDIA驱动 590.48.01 ✅ 已安装
CUDA 12.9 ✅ 已安装
Ollama 0.17.x → 最新 🔄 安装中

⚠️ 重要警告:安装顺序

正确的安装顺序:

  • 先安装 NVIDIA 驱动
  • 再安装 CUDA
  • 最后安装 Ollama
  • 禁止的顺序:

    • ❌ 先装Ollama再装驱动(会导致驱动安装失败)
    • ❌ 在装好驱动后随意重装Ollama(可能破坏CUDA环境)

    第一阶段:准备工作

    1.1 系统更新

    sudo apt update && sudo apt upgrade -y

    1.2 创建备份目录

    mkdir -p ~/nvidia_backup_$(date +%Y%m%d)
    BACKUP_DIR=$(ls -d ~/nvidia_backup_* | tail -1)

    # 备份关键信息
    uname -a > $BACKUP_DIR/system_info.txt
    lspci | grep -i nvidia > $BACKUP_DIR/gpu_info.txt
    dpkg -l | grep -i nvidia > $BACKUP_DIR/nvidia_packages.txt


    第二阶段:NVIDIA驱动安装

    2.1 卸载旧驱动(如果有)

    # 彻底卸载所有NVIDIA包
    sudo apt purge -y $(dpkg -l | grep -i nvidia | awk '{print $2}')

    # 清理残留
    sudo apt autoremove -y

    可能的问题:

    • sudo: A terminal is required → 需要在终端输入密码
    • 残留目录警告 → 可忽略

    2.2 禁用nouveau开源驱动

    创建黑名单配置:

    sudo tee /etc/modprobe.d/blacklist-nouveau.conf << 'EOF'
    blacklist nouveau
    options nouveau modeset=0
    EOF

    更新initramfs:

    sudo update-initramfs -u

    风险:

    • 如果这步失败,可能无法进入图形界面
    • 准备恢复:sudo cp /etc/default/grub.backup.* /etc/default/grub

    2.3 安装驱动(关键步骤)

    针对 Ubuntu 26.04 + 内核 6.19.0-6 的推荐:

    sudo apt install -y nvidia-driver-590

    为什么选择590而不是580:

    • 580 在内核 6.19 上编译失败
    • 590 已通过 DKMS 预编译模块适配
    • 支持 CUDA 12.x

    验证安装:

    # 检查包安装状态
    dpkg -l | grep nvidia | grep ^ii

    # 需要重启才能加载驱动
    sudo reboot

    重启后验证:

    nvidia-smi

    预期输出:

    +—————————————————————————————+
    | NVIDIA-SMI 590.48.01 Driver Version: 590.48.01 CUDA Version: 12.2 |
    |——————————-+———————-+———————-+
    | GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
    | Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
    |===============================+======================+======================|
    | 0 Quadro T2000 Off | 00000000:01:00.0 Off | N/A |
    | N/A 41C P0 N/A / N/A | 0MiB / 4096MiB | 0% Default |
    +——————————-+———————-+———————-+


    第三阶段:CUDA安装

    3.1 添加CUDA仓库

    重要:Ubuntu 26.04 是开发版,官方可能没有对应仓库,使用 ubuntu2404 仓库(兼容):

    # 下载CUDA仓库密钥
    wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb

    # 安装密钥
    sudo dpkg -i cuda-keyring_1.1-1_all.deb

    # 更新仓库
    sudo apt update

    可能的问题:

    • 404 Not Found → 尝试其他镜像或版本
    • 网络超时 → 检查网络连接

    3.2 检查可用CUDA版本

    apt-cache search cuda-toolkit

    3.3 安装CUDA工具包

    # 安装CUDA 12元包(自动选择最新兼容版本)
    sudo apt install -y cuda-toolkit-12

    安装的版本:通常是CUDA 12.9(比预期的12.4/12.5新)

    验证安装:

    ls -la /usr/local/cuda-12.9/bin/nvcc
    /usr/local/cuda-12.9/bin/nvcc –version

    3.4 配置环境变量

    添加到 ~/.bashrc:

    # CUDA环境变量
    export CUDA_HOME=/usr/local/cuda-12.9
    export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH
    export PATH=$CUDA_HOME/bin:$PATH

    立即生效:

    source ~/.bashrc


    第四阶段:Ollama安装(GPU版本)

    4.1 安装前清理(重要)

    如果之前已经安装过Ollama,必须先停止服务:

    # 停止Ollama服务
    pkill -f "ollama serve"

    # 等待进程结束
    sleep 2

    4.2 安装Ollama

    推荐方式:官方安装脚本(会自动检测CUDA):

    curl -fsSL https://ollama.com/install.sh | sh

    手动安装(如果脚本失败):

    # 下载Ollama
    curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst -o ollama.tar.zst

    # 解压安装
    tar -xf ollama.tar.zst -C /usr/local/bin/

    # 创建用户组(如需要)
    sudo useradd -r -s /bin/false -d /etc/ollama ollama 2>/dev/null || true

    4.3 验证CUDA支持

    设置CUDA环境变量:

    export CUDA_HOME=/usr/local/cuda-12.9
    export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH

    启动Ollama:

    ollama serve &
    sleep 3

    验证GPU使用:

    # 运行一个模型
    ollama run phi3.5 &

    # 在另一个终端检查
    nvidia-smi –query-compute-apps=pid,process_name,used_memory –format=csv

    如果有输出显示Ollama进程在使用GPU内存,说明成功!

    4.4 Ollama GPU优化配置

    创建启动脚本:

    cat > ~/start_ollama_gpu.sh << 'EOF'
    #!/bin/bash
    # Ollama GPU启动脚本

    # 设置CUDA环境
    export CUDA_HOME=/usr/local/cuda-12.9
    export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH

    # Ollama GPU优化
    export OLLAMA_FLASH_ATTENTION=1
    export OLLAMA_GPU_OVERHEAD=0

    # 停止旧的Ollama进程
    pkill -f "ollama serve" 2>/dev/null || true
    sleep 1

    # 启动Ollama
    echo "启动Ollama(GPU模式)…"
    nohup ollama serve > ~/.ollama/logs/server.log 2>&1 &
    sleep 3

    # 验证GPU使用
    echo "验证GPU使用:"
    nvidia-smi –query-compute-apps=pid,process_name,used_memory –format=csv
    EOF

    chmod +x ~/start_ollama_gpu.sh

    添加到 ~/.bashrc 持久化:

    cat >> ~/.bashrc << 'EOF'

    # Ollama GPU优化
    export CUDA_HOME=/usr/local/cuda-12.9
    export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH
    export OLLAMA_FLASH_ATTENTION=1
    EOF


    第五阶段:安装本地模型

    5.1 推荐模型(4GB显存限制)

    模型大小用途命令
    Phi-3.5 2.2GB 代码辅助 ollama pull phi3.5
    Llama 3.2 3B 2.0GB 通用对话 ollama pull llama3.2:3b
    Qwen2.5 1.5B 1GB 中文任务 ollama pull qwen2.5:1.5b
    DeepSeek-R1 1.5B 1.1GB 推理能力 ollama pull deepseek-r1:1.5b

    5.2 安装模型

    ollama pull phi3.5
    ollama pull llama3.2:3b

    5.3 验证GPU使用

    # 运行模型
    ollama run phi3.5

    # 在另一个终端检查GPU
    nvidia-smi

    预期:GPU利用率应该明显上升,CPU占用降低


    🔴 常见问题与解决方案

    问题1:驱动安装后无线网卡不工作

    原因:NVIDIA驱动安装可能影响内核模块加载顺序

    解决:

    # 重新加载无线驱动
    sudo modprobe -r iwlwifi
    sudo modprobe iwlwifi

    # 如果失败,停止网络服务后重试
    sudo systemctl stop NetworkManager
    sudo modprobe -r iwlwifi && sudo modprobe iwlwifi
    sudo systemctl start NetworkManager

    预防:安装NVIDIA驱动后立即重启,不要先测试其他功能

    问题2:Ollama不使用GPU(100% CPU)

    症状:运行模型时GPU使用率为0,CPU 100%

    排查步骤:

  • 检查CUDA是否安装:

    nvidia-smi

  • 检查Ollama是否编译了CUDA支持:

    ldd $(which ollama) | grep cuda

    • 如果没有输出,说明Ollama没有CUDA支持
  • 重新安装Ollama:

    pkill -f ollama
    curl -fsSL https://ollama.com/install.sh | sh

  • 设置环境变量:

    export CUDA_HOME=/usr/local/cuda-12.9
    export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH
    ollama serve &

  • 问题3:CUDA版本与驱动不兼容

    检查驱动支持的CUDA版本:

    nvidia-smi | grep "CUDA Version"

    驱动590支持的CUDA版本:12.2(驱动内置)

    如果安装了更高版本CUDA:

    • 通常向后兼容,可以继续使用
    • 如有问题,尝试:sudo apt install cuda-toolkit-12-0

    问题4:重启后驱动未加载

    原因:nouveau可能仍然在工作

    解决:

    # 确认nouveau已禁用
    lsmod | grep nouveau
    # 应该没有输出

    # 手动加载NVIDIA驱动
    sudo modprobe nvidia

    # 检查驱动状态
    nvidia-smi


    📌 安装流程图

    开始
    │
    ├─ ✅ 准备工作
    │ └─ 系统更新 + 备份
    │
    ├─ ✅ NVIDIA驱动安装(第二阶段)
    │ ├─ 卸载旧驱动
    │ ├─ 禁用nouveau
    │ ├─ 安装nvidia-driver-590
    │ └─ 重启验证
    │
    ├─ ✅ CUDA安装(第三阶段)
    │ ├─ 添加CUDA仓库
    │ ├─ 安装cuda-toolkit-12
    │ └─ 配置环境变量
    │
    ├─ ⏳ Ollama安装(第四阶段)
    │ ├─ 停止旧服务 ⚠️
    │ ├─ 安装Ollama
    │ ├─ 设置CUDA环境 ⚠️
    │ └─ 验证GPU使用
    │
    └─ ✅ 模型安装(第五阶段)
    ├─ 安装适合的模型
    └─ 验证GPU推理


    ⚠️ 避坑要点总结

  • 安装顺序:驱动 → CUDA → Ollama,不能颠倒
  • 驱动版本:Ubuntu 26.04 + 内核 6.19 只能用 nvidia-driver-590
  • Ollama安装前:必须先停止旧服务,否则会端口冲突
  • CUDA环境变量:每次启动Ollama前必须设置,否则检测不到GPU
  • 显存限制:4GB显存不要安装7B以上模型
  • 重启验证:每安装完驱动都要重启,不要跳过

  • 快速恢复命令

    如果安装失败,恢复到初始状态:

    # 恢复nouveau
    sudo rm /etc/modprobe.d/blacklist-nouveau.conf
    sudo update-initramfs -u
    sudo reboot

    # 清理NVIDIA
    sudo apt purge -y '^nvidia-.*'
    sudo apt autoremove -y


    文档版本:v1.0
    测试环境:Ubuntu 26.04 + NVIDIA Quadro T2000 + CUDA 12.9 + Ollama

    赞(0)
    未经允许不得转载:171主机测评 » Thinkpad P1 gen2:Ubuntu2604+T2000+CUDA+Ollama完整安装避坑指南
    分享到: 更多 (0)

    评论 抢沙发

    • 昵称 (必填)
    • 邮箱 (必填)
    • 网址