部署Open WebUI
如何在服务器或本地机器上设置和启动 Open WebUI
AI导读:本文介绍了如何在服务器或本地机器上设置和启动 Open WebUI 的 Docker Compose 环境。首先,需要创建一个目录来存放 Docker Compose 文件及相关配置,并在该目录下创建名为 docker-compose.yml 的文件。同时,需在 openwebui 目录下建立 data 目录以存放模型和配置文件。启动服务后,可以通过浏览器访问 http://localhost:7860 进行使用。此外,文章还提到了一种解决不同 API Endpoint 存在同名模型问题的方法,通过配置 Pipeline 来管理这些问题,建议用户参考相关文档获取更多信息。
创建项目目录
首先,在您的服务器或本地机器上创建一个目录来存放 Docker Compose 文件和相关配置。
1 | mkdir openwebui |
创建 Docker Compose 文件
在该目录下,创建一个名为 docker-compose.yml
的文件,内容如下:
1 | services: |
配置目录结构
在 openwebui
目录下创建 data
目录,用于存放模型和配置文件。
1 | mkdir -p data/models |
启动服务
在 openwebui
目录下运行以下命令启动服务:
1 | docker-compose up -d |
访问 OpenWebUI
启动服务后,您可以通过浏览器访问 http://localhost:7860
,或者使用服务器的IP地址来访问。
管理容器
1 | # 查看日志 |
(可选)配置Pipeline
本文配置Pipeline主要是为了解决“不同api Endpoint存在同名模型 ”的问题,目前(2024年8月30日)的一种解决方法是将不同的Endpoints放入多种管道。
进一步创建pipelines
文件夹
1 | mkdir pipelines |
在该目录下,创建一个名为 docker-compose.yml
的文件,内容如下:
1 | services: |
参考文章: