让AI从“回答者“变成“执行者“：Agent，FDE打通落地的最后一公里

一、串起来了但谁来调度第五篇拆完LangChain——从模型调用到链式编排组件像管道一样串起来了。但管道是死的任务是活的。管道规定了A到B到C的路径客户的真实需求却是你帮我查数据、调接口、生成报表、发到群里——一个多步骤、需要动态决策的任务不是一个固定的管道能装下的。管道解决的是数据怎么流没解决的是流程谁来定。模型只会说话不会干活。上一篇讲了LangChain的Tool让模型长出了手但光有手不够——得有脑子决定什么时候伸手、伸哪只手、伸完之后下一步干什么。这就是Agent。不是给模型装上工具就完了而是让模型学会自己决定怎么用工具、用什么工具、用完之后怎么办。二、Agent的本质从被动响应到自主执行LLM的模式是输入→处理→输出逻辑是If X, Then Y——你问什么它答什么。被动响应没有自主性。Agent的模式是给定目标→自主拆解→规划步骤→调用工具→完成目标。你不用告诉它每一步该干什么它自己决定。跟RPA的区别RPA按预设规则跑规则外就卡住。Agent能应对未预料的情况——调工具失败就换一个信息不够就去查。跟Copilot的区别Copilot是你开车它导航每一步你确认它才动。Agent是你定终点它自己开中间怎么走它说了算。Lilian WengOpenAI前安全主管的经典公式Agent LLM Planning Memory Tool Use。大脑规划记忆工具四要素缺一不可。三、Agent怎么想七种认知框架适配不同场景Agent的核心难题不是能调多少工具而是怎么决定调哪个工具、什么时候调。认知框架解决的就是这个问题。ReAct边想边做最经典的Agent框架。核心循环思考Thought→ 行动Action→ 观察Observation反复直到任务完成。用户说帮我查这个保单的理赔进度思考用户要查理赔进度我需要调保单查询工具。行动调用queryPolicy参数用户IDxxx。观察返回保单号POL-20260115状态已立案审核中。思考已拿到保单信息可以直接回答。行动回复您的保单POL-20260115已立案目前正在审核中预计3个工作日内完成。ReAct的优势是透明——每一步的思考和行动都可追溯。对交付场景极重要客户要的不是AI帮我做了而是AI帮我做了什么、怎么做的。出问题知道卡在哪。Plan-and-Execute先规划再执行ReAct是走一步看一步Plan-and-Execute是先规划路线再出发。适合复杂任务先让模型做全局规划——1查询本月销售数据 2按区域汇总 3计算同比环比 4生成图表 5输出分析结论——然后逐步执行。与ReAct的区别ReAct每步重新推理灵活但容易跑偏Plan-and-Execute先做全局规划有序可控但灵活性低——中间出了意外需要重新规划。Self-Ask自问自答模型先分解问题再逐个回答子问题最后汇总。犹豫期后退保和保单贷款哪个更划算→自问退保损失是多少贷款利率是多少现金流差异→逐个回答→汇总比较。适合需要多步推理的决策类场景。不依赖外部工具纯靠模型自身知识推理。CoT与ToT从线性推理到树状探索CoT思维链让模型在给答案前先写中间推理步骤——数学推理准确率从17.7%跳到78.7%。但CoT是一条线走到黑推理链出错就一路传播。ToT思维树是一棵树——每步探索多种可能性走不通就回退换路。24点游戏GPT-4直接推理准确率4%ToT可达74%。代价是计算成本是CoT的10-100倍。原则先简单后复杂。CoT能解决的不上ToT。自我反思批判自己的输出模型对自身输出做批判检查迭代优化生成→批判→修正→循环。Reflexion框架在代码生成任务上提升24%准确率。反直觉发现反馈源的质量决定自我修正的上限。代码执行验证单元测试、编译报错规则检查工具调用结果人类反馈另一个LLM交叉验证同一LLM自评。让模型自己检查自己效果最差——真正管用的自我修正必须有外部反馈。FDE的判断框架选择是适配问题没有最好的框架只有最适配当前场景的。决策树需要调用工具→ReAct/Function Calling。任务复杂度→高用Plan-and-Execute/ToT中用CoT/Self-Ask低直接提问。输出精度要求极高→Critique-Revise加外部反馈。选错框架的代价简单任务用重框架响应慢、成本高复杂任务用轻框架容易跑偏、完成度低。FDE的工作就是在场景和框架之间做适配。更实战的组合Plan-and-Execute做全局规划每步执行用ReAct微调ReActReflexion工具调用失败后反思重试RAGCoT验证三段式——框架不是单选题是组合拳。四、Agent怎么记记忆机制决定智能上限LLM天生无状态——每次调用从零开始。没有记忆Agent就是一条金鱼。四种记忆机制对应人类认知的四个层次感知记忆——视觉暂留级原始输入的嵌入表示毫秒到秒即时消失。短期记忆——工作记忆级当前对话历史、工具调用结果、中间推理步骤存在上下文窗口里会话结束就没了。痛点是容量有限长对话会截断遗忘。FDE应对对话摘要关键信息提取不让记忆无限膨胀。长期记忆——知识仓库级用户偏好、历史交互经验存在向量数据库里持久化存储。写入时向量化检索时按最近性重要性相关性召回。长期记忆在交付场景常被低估却是用户体验的关键差异化因素——两个功能一样的Agent有记忆的比没记忆的体感差距巨大。参数记忆——天生知识级预训练和微调写入模型权重更新极慢但永久存在。记忆不是存得越多越好。需要演化机制高频访问的记忆巩固强化新信息覆盖旧记忆长期未访问的记忆衰减遗忘新旧矛盾时做冲突消解。跟人脑一个道理。五、Agent怎么做工具设计是FDE的硬功夫决策框架解决了怎么想工具设计解决了怎么做。上一篇讲了LangChain的tool装饰器和ToolRuntime这里聚焦FDE的设计判断。工具不是越多越好。工具太多模型反而不会选——给一百把钥匙开一扇门试的时间比只给三把钥匙长得多。FDE设计工具的三个原则粒度适中——一个工具做一件事边界清晰。查询保单信息是一个工具不要把查询计算生成塞进一个工具模型调不准。也不要拆太碎——读数据库第1行和第2行分开没有意义。描述精准——每个工具有名字和描述告诉模型什么时候该用我。描述不精准模型就选不对。FDE必须用业务语言写工具描述——查询指定服务的每秒请求数(QPS)用于监控服务负载一般与错误率查询配合使用比查询QPS更让模型理解。权限隔离——有些工具只能读有些能写有些所有人可用有些需授权。在客户现场权限设计直接关系到安全合规。不能让客服Agent有权限修改保单金额——这是业务红线。实战踩坑不是每个问题都要调工具。简单事实模型直接回答调工具反而增加延迟和成本。工具失败必须有重试降级逻辑——API挂了返回预设回复不能直接崩。六、ReAct RAG AgentFDE的组合拳Agent和RAG不是替代关系是组合关系。RAG的局限只能读不能做——问帮我查仓库库存知识库里没有实时库存问帮我发请假邮件语言模型做不了。Agent补上了这个缺口。最典型的组合模式——ReAct RAG Agent用户提问→Agent推理需要检索文档→调用RAG检索工具→拿到文档片段→Agent推理还需要查业务系统→调用数据库查询工具→拿到业务数据→Agent综合文档和数据进行回答→如果用户要求执行操作Agent继续调用相关工具完成。关键区别传统RAG是固定查询一次检索就结束Agentic RAG是动态检索Agent根据推理进展自主决定是否需要更多检索、检索什么、检索结果不够就换策略。这不是RAG或Agent的选择题而是RAGAgent的组合拳。七、FDE在Agent落地中的三个实战判断判断一这个场景真的需要Agent吗不是所有场景都需要Agent。很多项目上了Agent效果反而变差——响应慢、成本高、不可控。原因客户要的是准确回答不是自主决策。FDE的判断标准如果需求可以被一个明确指令一次工具调用解决不需要AgentPrompt工具调用就够了。只有当任务需要多步推理自主决策工具编排时Agent才有必要。过度设计是FDE大忌——客户要一辆自行车你造一架飞机不是更厉害是更不合适。判断二Agent的可控性够不够Agent的自主性是双刃剑。自主性太弱等于没有Agent自主性太强客户不知道它下一步干什么——在金融、政务等强合规场景不可接受。FDE的平衡策略给Agent设明确的行动边界——哪些工具可以自主调用哪些需人工确认哪些操作可直接执行哪些必须审批后才能执行。用Prompt写死规则用工具权限做硬约束用人工确认卡住关键节点。可解释性同样关键Agent每一步的决策和执行必须有日志出了问题能追溯。客户不怕AI做决策怕的是AI做了决策却说不清为什么。判断三Agent的失败处理机制是否健全Agent一定会失败——工具调用超时、API返回异常、模型推理出错、上下文超出窗口。问题是失败了怎么办没有失败处理的Agent出问题就卡死或乱答客户体感极差。FDE的兜底设计工具调用失败→重试降级API挂了返回预设回复模型推理出错→异常捕获人工介入上下文溢出→对话摘要关键信息保留。每一个失败场景都有预案这才叫可交付的Agent。上一篇讲LangChain中间件就是这个道理——重试、降级、限流、审核中间件是交付的保险丝。八、技术栈决策框架最终版把Agent放进FDE技术栈决策框架的完整版Prompt是怎么回答——第一层抓手。场景简单、数据稳定就够了。RAG是凭什么回答——第二层抓手。需要知识检索、有文档依据。LangChain是怎么串起来——工程骨架。从原型验证到工程化交付。Agent是怎么干起来——自主决策层。需要推理决策、多步判断、工具编排。完整决策链回答问题、知识检索→PromptRAG。单步执行、简单任务→PromptAgent。复杂任务、需知识行动→PromptRAGAgent。不是每层都得上。FDE的核心价值是知道什么场景用什么组合——不是会用所有技术而是为这个场景选最适配的技术组合。九、总结与预告Agent让AI从回答者变成执行者——不只说话还干活。认知框架选择是适配问题ReAct灵活透明Plan-and-Execute有序可控CoT/ToT处理推理自我修正提升精度。根据场景选择而非追新。工具设计是落地硬功夫粒度适中、描述精准、权限隔离直接决定Agent的可用性。ReAct RAG Agent是FDE的终极组合拳——RAG负责知识Agent负责行动Prompt负责规则三者协同才是完整的AI产品能力。但Agent写代码还是门槛不低。下一篇进入低代码平台——Coze和Dify让FDE不写代码也能搭出生产级Agent以及FDE如何用低代码平台快速验证场景、高效交付。模型内卷无出路落地能力定输赢。而落地能力的最后一公里就是让AI不只是说话而是真正干活。