欢迎光临
我们一直在努力

openclaw 本地部署ollama模型使用

进入ollama官网,选择windows下载,安装过程一路点击下一步即可

根据显存大小下载相应的模型,下面以qwen2.5:14b为例,等待模型下载完成

模型参数量推荐程度显存占用 (量化后)运行体验
7B ⭐⭐⭐⭐⭐ 完美 ~4-6GB (Q4) 流畅,推理速度快
13B ⭐⭐⭐⭐⭐ 推荐 ~8-10GB (Q4) 流畅,性价比最佳
30B-32B ⭐⭐⭐ 可用 ~18-22GB (Q4) 可运行,接近显存上限
70B ⭐⭐ 勉强 需Q2/Q3量化 显存不足,需借助系统内存

下载完成之后输入hello观察是否有回应,如果有回应说明已经成功安装好了

输入openclaw onboard重新进入openclaw的配置界面

下面依次选额QuickStart、Updata values、Ollama、http://127.0.0.1:11434、local、

通用模型这儿选择qwen2.5:14b就可以了

赞(0)
未经允许不得转载:171主机测评 » openclaw 本地部署ollama模型使用
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址