Ollama + Openwebui 本地部署大语言模型

安装 Ollama

访问官方网站下载Ollama

安装 OpenWebUI

依赖环境

Node.js >= 20.10
Python >= 3.11

官方建议使用 docker 安装，如下方式也是可以的，参考命令如下：

git clone https://github.com/open-webui/open-webui.git
cd open-webui/

# 初始化配置文件，复制.env.example到.env
cp -RPp .env.example .env

# 编译前端代码
npm i
npm run build

# 启动后端
cd ./backend
pip install -r requirements.txt -U
# win10下可双击启动
start_windows.bat