本机环境：Rocky_linux9.4.10G8核，100G磁盘部署的实验 。

安装Docker。

# step 1: 一些必要的系统工具安装sudo yum install -y yum-utils device-mapper-persistent-data lvm2# Step 2: 添加软件源信息sudoo添加软件源信息 yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo# Step 3sudo sed -i 's+download.docker.com+mirrors.aliyun.com/docker-ce+' /etc/yum.repos.d/docker-ce.repo# Step 4: 更新并安装Docker-CEsudo yum makecachesudo yum -y install docker-ce# Step 4: 开启Docker服务sudoo service docker start # Step 5:配置加速器sudo mkdir -p /etc/dockersudo tee /etc/docker/daemon.json <<-'EOF'{   "registry-mirrors": [        "https://docker.rainbond.cc" ,        "https://do.nark.eu.org",        "https://dc.j8.work",        "https://pilvpemn.mirror.aliyuncs.com",        "https://docker.m.daocloud.io",        "https://dockerproxy.com",        "https://docker.mirrors.ustc.edu.cn",        "https://docker.nju.edu.cn"   ],  "exec-opts": ["native.cgroupdriver=systemd"],  "log-driver": "json-file",  "log-opts": {     "max-size": "100m"  },  "storage-driver": "overlay2"}EOFsudo systemctl daemon-reloadsudo systemctl restart docker。

安装ollama，下载大模型。

下载官方：library。

dockerhub地址 :  。https://hub.docker.com/r/ollama/ollama/tags。

拉ollama镜像 。

[root@localhost ~]# docker pull ollama/ollama:latest[root@localhost ~]# docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama。

IP+访问;11434端口是否成功运行

选择下载大预测模型。

下载地址：https://ollama.com/library。

我在这里选择的是。

[root@localhost ~]# docker exec -it ollama ollama run gemma2:9b。

下载Web UI界面 。

官网：Open WebUI 。

使用 Docker 安装 Open WebUI 时，请确保在 Docker 命令中包含 。这一步非常重要c;因为它可以确保您的数据库已经正确地挂载，并且可以防止任何数据丢失。-v open-webui:/app/backend/data。

如果镜像下载非常慢，下面的命令是xff0c;可以来这个页面试试国内下载󿀌记得组后操作tag：ghcr.io/open-webui/open-webui:ollama - 镜像下载 | ghcr.io (aityp.com)。

[root@localhost ~]# docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.226.149:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main注释：docker run -d \  -p 3000:8080 \  # 使用主机端口 3000 映射到容器的端口 8080  -e OLLAMA_BASE_URL=http://192.168.226.149:11434 \  # 设置环境变量 OLLAMA_BASE_URL  -v open-webui:/app/backend/data \  # 将主机卷 open-webui 将其挂载到容器中 /app/backend/data 目录  --name open-webui \  # 设置容器名称为 open-webui  --restart always \  # 配置容器自动重启策略  ghcr.io/open-webui/open-webui:main  # 使用镜像 ghcr.io/open-webui/open-webui:main。

 浏览器访问IP+3000端口：http://192.168.226.149:3000/。

 浏览器访问IP+3000端口：http://192.168.226.149:3000/。