公司动态
5分钟本地部署 Open WebUI:从空白到私有 AI 平台的完整路径
5分钟本地部署 Open WebUI从空白到私有 AI 平台的完整路径【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui如果你想在个人电脑上跑一个不依赖公有云的 AI 助手或者给团队搭一个文档能直接喂给模型的私有知识库Open WebUI 的本地部署是一个务实的选择。它是一个开源的自托管 AI 平台原生对接 Ollama 和各类 OpenAI 兼容 API全部功能离线可用——聊天、知识库、多模型并行、图像生成都在同一个界面上。它的典型用法有两类一类是个人向在自己电脑或一台 NAS 上拉起服务配合本地模型实现完全离线的对话另一类是团队向把项目文档、产品手册导入知识库成员在统一的界面里提问答案直接带原文出处。图Open WebUI 部署完成后的聊天界面左侧是工作区、频道与历史会话三步启动本地服务前提只有一条机器上已安装 Docker含 Docker Compose本文不展开安装过程。拿到代码。进入项目目录git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui启动服务。项目根目录的 docker-compose.yaml 已经配好两个容器Ollama 推理服务和 Open WebUI 本体一条命令全部拉起docker-compose up -d打开浏览器访问http://localhost:3000。看到登录/注册页面即说明部署成功 ✅ 用第一个注册的账号登录它就是管理员。首次启动会自动构建/拉取镜像并初始化数据库稍慢属正常现象。数据默认存在 Docker 卷里后面排错一节会提到为什么这个挂载不能丢。核心能力拆解一次向多个模型提问场景你不确定手头哪款模型对某个任务更合适逐个切换来回对比很麻烦。操作在输入框上方的模型选择器里同时勾选多个模型例如一个本地小模型 一个云端 API 模型发送同一条消息所有模型的回复会并排出现在同一轮对话里可直接对比措辞、准确度和速度。效果选型变成一次操作而不是十次重复提问。配合管理后台的用量统计消息量、token 消耗还能把哪个模型值得留在列表里这件事数据化。用 # 命令搭建私有知识库场景团队有一份内部手册希望模型回答时以手册为准而不是凭训练数据编。操作在界面里新建知识库上传 PDF、Word、Markdown 等文档系统会自动切分并向量化之后在聊天中输入#加上知识库名即可引用。# 在输入框输入 # 再选知识库即可引用其内容效果回答附带来源引用可逐条核对。底层支持 9 种向量数据库ChromaDB、PGVector、Qdrant 等相关实现可以看 backend/open_webui/retrieval/ 目录想换成团队已有的向量服务时从这里找配置入口。接上 Ollama让模型和数据都留在本地场景对话内容涉及内部信息不能发往第三方 API。操作前面 compose 文件里已经带了一个 Ollama 容器只需给它拉一个模型docker exec -it ollama ollama pull llama3.2拉完在界面刷新模型列表即可选用。有 GPU 的机器可以改用带:cuda标签的镜像获得加速如果更想生成图片而不是聊天它同样接了 DALL·E、ComfyUI 等引擎下图就是本地生成引擎的产出示例图接入生成引擎后Open WebUI 可直接在对话流中产出图像调优与排错端口被占用服务起不来或访问的是别的东西。3000 是默认对外端口compose 里写的是${OPEN_WEBUI_PORT-3000}:8080改对外端口不用动配置文件建一个.env文件echo OPEN_WEBUI_PORT8080 .env然后重启容器即可。界面上一个模型都没有。九成是没拉模型或者 Ollama 地址不对。先确认容器里确实有模型docker exec -it ollama ollama list如果 Ollama 实际跑在另一台机器上需要给 open-webui 容器加上OLLAMA_BASE_URL环境变量指向它而不是默认的http://ollama:11434。升级或重启后聊天记录没了。检查启动命令里是否带了数据卷挂载open-webui:/app/backend/datacompose 文件已包含手写docker run时最容易被漏掉。顺手用docker system df看一眼磁盘知识库文档和向量数据都算在这里。第一次回复特别慢。通常是模型首次加载或仍在下载等它进内存后就正常了长期方案是上 GPU 镜像或者先挂一个 1B3B 的小模型做日常试用大模型放需要时再调。延伸与资源部署编排与端口/模型地址配置docker-compose.yaml知识库与向量数据库实现backend/open_webui/retrieval/各语言界面翻译文件想加语种从这里入手src/lib/i18n/locales/安全相关的说明与披露流程docs/SECURITY.md装好之后比较自然的下一步是先建一个装真实文档的知识库跑通提问—引用—核对的闭环再决定要不要把它从单机挪到团队都能访问的环境里。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考