一种基于ollama的本地模型部署方案

ollama与open-webUI

视频

webUI安装指令

1
2
3
4
5
6
7


$env:DATA_DIR="C:\open-webui\data";
$env:GLOBAL_LOG_LEVEL="DEBUG";
$env:OLLAMA_API_BASE_URL="http://localhost:11434";
$env:OPENAI_API_BASE_URL="http://localhost:11434/v1";
$env:OPENAI_API_KEY="ollama";
$env:ENABLE_RAG="false";
uvx --python 3.11 open-webui@0.5.0 serve