Open WebUI在Dockers环境下安装并连接各家LLM API

如果使用API + 模型加载框架如(ChatboxCherry Studio)虽然可以实现多模型无缝切换,但是换设备的话本地保存的聊天记录不会同步到其他设备上。

因此,本项目将实现:

  1. 低成本实现各大厂商最先进模型的使用
  2. 对话内容同步保存在自己的服务器中
  3. 同时使用多模型进行输出
  4. 界面美观简洁

配置环境&所用工具

1. Docker环境中部署Open WebUI在Ubuntu 22.04服务器

1.1 安装Docker在Ubuntu 22.04系统中

1.2 打开服务器控制面板terminal

我这里用的是Putty(点击图片可以下载),当然也可以使用Windows自带的命令提示符来登录。

输入ID密码 登录服务器

1.3 通过下列指令安装Docker

将下列命令复制到命令行中

sudo apt-get update
sudo apt-get install ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
  $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \
  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

ℹ️ 若是Ubuntu系统,一定要将VERSION_CODENAME替换成 UBUNTU_CODENAME

1.4 安装Docker Engine:

sudo apt-get update
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-compose-plugin

3. 确认安装是否成功

sudo docker run hello-world

2. 安装Open WebUI(无Ollama版本)

2.1 通过Open WebUI 命令行安装

由于我只使用OpenAI的API,不用Ollama,因此使用下面的命令行进行安装:

docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

ℹ️ 将“your_secret_key”改成自己的API KEY,或者安装完成后再配置也可以。

2.2 在浏览器中登录Open WebUI

这时在浏览器中输入服务器的IP:3000 便可访问Open WebUI

例如:123.123.123.123:3000

初次进入时需点击下方的开始使用

2.3 设置管理员账户

第一个登录的账户默认为管理员账户 ,输入名称,邮箱和密码和即可登录。

3. 添加外部链接和密匙

3.1 添加OpenAI API

点击左下角的Icon图标,点击管理员面板

点击设置,点击外部连接,点击 +

外部链接 对话框中,输入URL密匙即可使用对应的大模型

URL

https://api.openai.com/v1

密匙(没有的话可以在openai的官网进行申请):

https://platform.openai.com/settings/organization/api-keys

将OpenAI API配置完成后,在模型的列表中便会出现OpenAI的所有模型

通过以上步骤便可以使用各家的API服务了

3.2 添加Deepseek API

如果没有API Key的话,申请一个Deepseek API key ↗️

回到 管理员面板 ,点击设置 ,点击外部连接 ,点击 +

URL中输入

https://api.deepseek.com

密匙输入刚刚创建好的API KEY

如果觉得每次通过IP地址登录很麻烦的话,可以通过绑定域名的方式来登录。

可以参考:如何给Open WebUI配置自己的域名+SSL免费证书

 

Views: 18

留下评论

您的邮箱地址不会被公开。 必填项已用 * 标注