Open WebUI 部署上手：接入本地模型、OpenAI API 与文档问答

Open WebUI 部署上手接入本地模型、OpenAI API 与文档问答【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webuiOpen WebUI 是一个用单个容器就能部署起来的自托管 AI 聊天界面支持接入本地 Ollama 和任意 OpenAI 兼容 API内置文档问答RAG。适合想自己跑一个 AI 聊天页面、不依赖第三方 SaaS 的开发者。环境准备动手前确认这几件事Docker 已安装并能运行Engine 或 Desktop 均可docker run可用要接本地模型的话Ollama 已装好并拉过一个小模型主机 3000 端口空闲会映射到容器内应用端口 8080只用云模型的话准备好对应的OPENAI_API_KEY不用 Docker 也可以pip install open-webui后执行open-webui serve想从源码部署则先git clone https://gitcode.com/GitHub_Trending/op/open-webui本文后续按 Docker 路线走数据卷和升级都更省心跑通最小闭环一条 Docker 命令启动这条命令做三件事拉取官方镜像启动容器把宿主机 3000 端口映射到应用监听的 8080 端口用-v open-webui:/app/backend/data挂载数据目录——账号、聊天记录、配置都存在这里不挂的话升级容器后什么都留不住。docker run -d -p 3000:8080 \ --add-hosthost.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui --restart always \ ghcr.io/open-webui/open-webui:main为什么带--add-host应用默认去主机的 11434 端口找 Ollama不加这一行容器内的 127.0.0.1 指向容器自己后面会一直报 Server Connection Error。成功的标志浏览器打开http://localhost:3000出现注册页面注册第一个账号自动成为管理员后进入聊天页左上角能看到模型选择器。模型列表暂时是空的也没关系说明界面本身已经跑通。按用途展开三个最常用的场景接入自己的模型指向任意 OpenAI 兼容 API解决没有本地 GPU但想直接用云模型的情况。它不只认 OpenAI 官方LMStudio、vLLM、Groq 等任何暴露 OpenAI 兼容接口的服务都能接改个地址就行docker run -d -p 3000:8080 \ -e OPENAI_API_BASE_URLhttps://api.openai.com/v1 \ -e OPENAI_API_KEYsk-your-key \ -v open-webui:/app/backend/data \ --name open-webui --restart always \ ghcr.io/open-webui/open-webui:main这两个-e参数在backend/open_webui/config.py里定义支持分号分隔传多个地址同时接多个服务。成功的标志容器启动后左上角模型列表里出现你的模型名选中即可对话。接入本地 Ollama 离线聊天适合数据不能出内网、或不想按 token 付费的场景。Ollama 在同一台机器上时第一条命令里的--add-host已经解决了可达性你拉取的模型会自动出现在界面里Ollama 在另一台服务器上时在同样的命令里加一行-e OLLAMA_BASE_URLhttp://服务器IP:11434即可。有显卡就把镜像标签换成:cuda或直接用捆绑了 Ollama 的:ollama镜像一条命令全带上。ollama pull llama3.2先拉小模型是因为它只用来验证链路下载快。成功的标志界面模型列表出现 llama3.2发一句你好回复逐字流式输出。让它读你的文档RAG 问答解决想让模型基于我自己的 PDF、手册来回答而不是凭训练知识瞎编的问题。最短路径全在界面里完成知识库页面上传文档建索引 → 聊天时给模型挂上对应的知识库 → 开始提问。首次使用会自动下载向量化用的 embedding 模型并建索引这一步需要联网纯内网环境设置HF_HUB_OFFLINE1并配一个本地 embedding 模型避免反复重试下载卡住。出问题时先看这里按现象找原因页面能打开但提示 Server Connection Error 或模型列表为空——原因容器够不到 Ollama容器内的 127.0.0.1 指向它自己。操作确认命令里带了--add-host或者改用 host 网络模式启动下面的命令访问地址相应变成http://localhost:8080http://localhost:3000完全打不开——原因容器没起来或 3000 端口被占用。操作docker ps看容器状态把-p 3000:8080里的 3000 换掉远程服务器还要确认防火墙放行了 3000升级后账号、聊天记录没了——原因数据目录没挂载。操作带-v open-webui:/app/backend/data重建容器默认 SQLite 数据库和上传文件都在这个目录里首次用 RAG 很慢或像卡死——原因在下载 embedding 模型和建向量索引。操作等首轮完成看docker logs open-webui纯离线环境设HF_HUB_OFFLINE1改 host 网络模式的命令docker run -d --networkhost \ -e OLLAMA_BASE_URLhttp://127.0.0.1:11434 \ -v open-webui:/app/backend/data \ --name open-webui --restart always \ ghcr.io/open-webui/open-webui:main接下来可以做的事在管理后台启用 RBAC建分组给每个成员只开放对应模型和知识库的权限写自定义 Action / Filter 拦截改写请求或接入 MCP 工具服务器让模型调用你的外部服务上生产环境换 PostgreSQL 替换默认 SQLite加 Redis 支撑多副本水平扩展【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考