公司动态
如何从零搭建 AnythingLLM 知识库
如何从零搭建 AnythingLLM 知识库【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm把一堆 PDF、几个网页链接、两个视频扔进去之后就能用自然语言问自己的资料回答还会标注出处。AnythingLLM 做的就是这件事一个可自托管的文档聊天机器人和知识库。环境速查最低配置与依赖做完这一步你得到一台能直接跑起 AnythingLLM 的机器。最低系统要求必备依赖可选依赖Windows 10 / macOS 10.14 / Ubuntu 18.04 以上Docker 和 Docker Compose任一云 LLM 的 API key内存 2GB 起3001 端口空闲无其他Ollama 等本地模型服务缺什么装什么如果走手动安装路线Node.js 低于 18 会直接报错。 最短路径跑起来5 分钟起容器做完这一步你得到一个监听 3001 端口的服务前端、后端、文档解析器全部装在一个容器里。克隆仓库拷一份默认环境变量起容器git clone https://gitcode.com/GitHub_Trending/an/anything-llm cd anything-llm/docker cp .env.example .env docker compose up --build首次会构建镜像稍慢。想省事也可以直接拉官方镜像docker pull mintplexlabs/anythingllm跳过构建。不用 Docker、想本地跑起来改代码在仓库根目录执行yarn setup yarn devyarn dev会并行拉起 server、文档收集器和前端。跑之前先把server/下生成的 env 文件里的必填项填上。源码入口server/ 完成第一次对话选模型、喂一份文档做完这一步你得到第一条带出处的回答。打开 http://localhost:3001 创建管理员账号进入引导流程。在设置的 LLM Provider 里二选一保存本地路线指向 Ollama 或 LocalAI 跑在你机器上的模型免 API key数据不出门云端路线填 OpenAI、Gemini 之类的 key快且强内容会出网。建一个 workspace拖一份 PDF 进上传区等解析跑完。在聊天框问一个只有这份文档能回答的问题带出处的回答出现闭环完成。 接入你自己的数据第一份文档怎么喂进去做完这一步你得到一个装满自己资料、切片数量可验证的知识库。喂什么PDF、Word、TXT 等文件网页链接、YouTube 视频、Gitbook 等在线来源都行一个 workspace 里混着放。怎么喂workspace 的上传区拖文件、粘链接后台的 collector 接管解析、切片、向量化你不用管。源码入口collector/喂完长什么样导入进度以百分比推进完成后在 workspace 的文档列表里每份文件都标着名字和切片数量。切片数是 0 就说明这份文件没真正进去删掉重传最快。向量数据库 ≈ 给文档建了一个能按意思检索的索引切片数量就是这份索引的规模。 换引擎 / 换存储换 LLM 和向量数据库做完这一步你得到一套贴合自己硬件和预算的模型与存储组合。LLM 默认体验是本地内置 embedder 加本地模型什么都不用配。想换云端模型去设置页的 LLM Provider 改一项就行。仓库覆盖 OpenAI、Anthropic、Ollama、Gemini、LM Studio 等几十家都有。源码入口server/utils/AiProviders/向量数据库默认用内置的 LanceDB不占额外服务想换 Chroma、Qdrant、PGVector同样是在设置页改一个字段。注意换向量数据库不会自动迁移旧切片切完后把文档重新解析一遍。用到第二周才会碰到的事多用户、端口与反向代理做完这一步你得到一套能交给团队用的 AnythingLLM。多用户权限——在 docker/.env 里打开 AUTH_TOKEN 相关配置并重启容器之后逐人开账号、按 workspace 授权仅 Docker 版支持改端口——docker/.env 里把 SERVER_PORT3001 改成你要的端口重启容器反向代理——Nginx 指到 3001流式聊天和 agent 的 WebSocket 要放行 ws 升级云端部署——cloud-deployments/ 下有 AWS CloudFormation、GCP、DigitalOcean 的现成模板 卡住了四个高频故障自查做完这一步你能定位绝大多数常见故障。打开 3001 提示拒绝连接→ 最可能是端口被别的服务占用、或容器根本没活着。检查docker compose ps再看ss -lntp | grep 3001。本地 LLM 连不上→ 最可能是 UI 里填了 localhost容器里那不通宿主机、或本地模型服务没启动。检查宿主机上curl http://localhost:11434/v1/models然后把 UI 里的地址改成http://host.docker.internal:11434/v1。文件上传一直卡在处理中→ 最可能是文件过大或扫描件识别不了、或解析环节报错。检查docker compose logs --tail 50找解析器相关的报错行。容器起了一直重启→ 最可能是 .env 缺必填项、或挂载目录的 UID/GID 权限不对。检查docker compose logs anythingllm看具体退出原因。官方文档 → docs.anythingllm.com现在去把公司里最厚的那份 PDF 传进 workspace问它「这里面重点是什么」——带出处回答出来就成了。【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考