欢迎光临
我们一直在努力

基于龙蜥anolis在cpu上通过docker手动编译部署ollama

一、安装docker

yum install docker

二、下载docker镜像

docker pull registry.openanolis.cn/openanolis/anolisos:23.4

三、编写Docker file

vim Dockerfile

FROM registry.openanolis.cn/openanolis/anolisos:23.4

MAINTAINER wangchaodong<wang479961270@vip.qq.com>

ARG ARCH=x86_64

ARG VERSION=v0.17.7

WORKDIR /opt/

RUN dnf install go git g++ -y && git clone https://gitee.com/wangchaodong/ollama.git -b ${VERSION} && cd /opt/ollama && export GOPROXY=https://goproxy.cn && go build -trimpath -buildmode=pie -o /bin/ollama .

FROM registry.openanolis.cn/openanolis/anolisos:23.4

COPY –from=0 /bin/ollama  /bin/ollama

EXPOSE 11434

ENV OLLAMA_HOST 0.0.0.0

ENTRYPOINT ["/bin/ollama"]

CMD ["serve"]

四、生成ollama镜像

docker build -f Dockerfile -t cr.delcare.cn/cpu/ollama:v0.17.7 .

五、创建并运行ollama容器

docker run -itd  –privileged –name ollama cr.delcare.cn/cpu/ollama:v0.17.7

六、验证ollama服务是否正常运行

1)查看ip

docker inspect ollama|grep 172.17

2)curl 172.17.0.14:11434

赞(0)
未经允许不得转载:171主机测评 » 基于龙蜥anolis在cpu上通过docker手动编译部署ollama
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址