公司动态
FastGPT 上手:从本地部署到工作流编排
FastGPT 上手从本地部署到工作流编排【免费下载链接】FastGPTFastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.项目地址: https://gitcode.com/GitHub_Trending/fa/FastGPT公司文档一堆、同事天天问同样问题你打算怎么办自己拼 RAG 管线还是直接找个能拖拽出问答系统的平台FastGPT 就是干这个的知识库问答、RAG 检索、可视化工作流编排一条 Docker 命令就能在本地跑起来。三个场景先对号入座自己搭 RAG以前你得手动写文档切片、embedding、向量检索、提示词拼接一整条管线现在你只需把文档传进知识库就能直接开始提问。多步骤业务以前写 if-else 脚本串流程、还得管日志和调试现在你只需在画布上把 AI 对话、知识库检索、代码执行等节点拖出来连起来。模型五花八门以前每个大模型 API 都得单独写一套调用代码现在只需在系统设置里统一配置工作流节点里直接选。从零到跑通三步启动本地 FastGPT环境要求一行说清Docker Docker Compose内存建议 4GB 起步磁盘留 20GB 给镜像和数据。拉取仓库git clone https://gitcode.com/GitHub_Trending/fa/FastGPT cd FastGPT运行安装脚本按交互提示选版本、挑向量库会自动生成 compose 文件并初始化随机密钥bash document/public/deploy/install.sh启动并登录docker compose up -d浏览器打开http://localhost:3000默认账号root、密码1234登录后去系统设置配好向量库连接和模型 API Key 即可。向量库有 pgvector、Milvus、OceanBase、Zilliz 等可选仓库里 document/public/deploy/docker/ 下预置了各版本、各向量库的 compose 模板改完密码和端口就能直接部署。功能拆解挑三个最能打的可视化 Flow 画布把业务流程变成连线这是 FastGPT 最核心的部分。左侧是节点市场AI 对话、知识库检索、工具、代码执行、循环、分支判断全是现成的。右侧连出来的就是一条可运行的 Agent 工作流跑错了还能点开任意一个节点看输入输出调试不用猜。和普通对话模板不一样的是它支持并行、循环这类结构一个 AI 对话节点扇出到多个分支再汇聚或者对列表逐条处理都在画布上拖一拖就行不用碰代码。知识库问答上传文档就能 RAG流程是内置的文档切片、向量化、混合检索、重排上传完就能问。它不是一锤子买卖检索参数召回数量、相似度阈值、是否开启重排都能调效果不好时你知道该拧哪颗螺丝。代码节点Python 和 JS 直接跑在工作流里工作流里能直接放一段 Python 或 JavaScript由仓库里独立的 projects/code-sandbox/ 沙箱服务执行带内存、超时和模块白名单限制。清洗数据、调第三方 API、拼结果都在节点里完成不用另起一个后端服务。避坑 调优过来人提醒几句切片粒度比换模型更影响召回。先切 500 字左右的默认粒度试一轮再决定要不要动参数别一上来就换 embedding 模型。向量库参数别急着拉满。召回数、相似度阈值先用默认值跑真实问题集看错答分布再逐步调拉满只会更慢更贵。生产部署前先把默认密码改掉、数据库端口别暴露到公网compose 里占位的myusername这类弱口令全换成脚本生成的随机密钥密钥管理参考 deploy/dev/docker-compose.yml 里的锚点写法。延伸阅读自部署文档Docker、Sealos、各向量库的完整教程Docker 部署文档端口、镜像、常见报错官方 compose 模板目录版本模板与向量库模板的生成入口OpenAPI 接口文档把 FastGPT 应用当 API 调用的字段说明跑通第一个知识库问答然后开始拖你的第一条工作流吧。【免费下载链接】FastGPTFastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.项目地址: https://gitcode.com/GitHub_Trending/fa/FastGPT创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考