深度解析 Dolphin 2.9.1 Yi 1.5 34b 的智能体能力：从 ReAct 到工具调用

深度解析 Dolphin 2.9.1 Yi 1.5 34b 的智能体能力从 ReAct 到工具调用【免费下载链接】dolphin-2.9.1-yi-1.5-34b项目地址: https://ai.gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34bDolphin 2.9.1 Yi 1.5 34b 是由 Cognitive Computations 团队基于 01-ai/Yi-1.5-34B 全参数微调的开源大模型采用 Apache 2.0 协议MMLU 得分高达 77.4。它不仅能流畅聊天、熟练写代码还内置了智能体能力既支持 ReAct 式边思考边行动的推理也能通过函数调用Function Calling真正操控外部工具。本文面向新手用最通俗的语言讲清这些能力从哪来、如何工作、怎么上手。一、Dolphin 2.9.1 Yi 1.5 34b 是什么模型核心参数一览Dolphin 系列是开源社区里以高服从性、高性价比著称的模型家族这一版选择了Yi 1.5 34B作为底座并在全部参数FFT16bit上做了完整微调官方评价它是迄今最惊艳的成果。打开仓库根目录下的config.json可以看到它的完整技术画像项目数值基础模型01-ai/Yi-1.5-34B参数量约 340 亿34B架构类型LlamaForCausalLM层数 / 隐藏维度60 层 / 7168注意力头56 头KV 头 8 个词表大小64000上下文长度8192训练序列 8K权重格式bfloat16约 64 GiB提示词格式ChatML开源协议Apache 2.0 特别值得一提的是为了让长上下文表现更好模型配置了超高的 RoPE thetaconfig.json中为 500 万并用 8K 序列长度训练因此处理长对话、长文档时远比原版 4K 上下文从容。二、智能体能力从哪来ReAct 与工具调用的训练配方很多模型不会用工具是因为训练数据里根本没有工具。Dolphin 2.9.1 的智能体能力来自 README.md 里那份公开的 axolotl 训练配置——它混合了多组专为智能体设计的数据集Agent-FLAN来自 InternLM 的通用智能体训练数据教模型扮演 agent完成任务agent_instruct_react_unfilteredReAct 风格的指令数据教模型逐步推理并行动ToolBench 系列instruct / react / negative / cot 多份子集业界知名的工具调用基准数据覆盖何时该用工具、何时不该用function-calling-chatml以 ChatML 格式标注的函数调用数据直接对接本模型的提示词格式。一句话总结Dolphin 2.9.1 的智能体能力不是附带功能而是被精心喂出来的核心技能。这也解释了为什么它能在同一套权重里同时做好聊天、写代码和调用工具。三、ReAct 推理是什么让大模型想一步、做一步ReAct 是Reasoning Acting推理 行动的缩写核心思想是让模型交替进行思考与行动而不是一口气给出答案。Dolphin 2.9.1 经过 ReAct 数据训练后能自然地进入这个循环环节模型在做什么通俗理解Thought思考分析当前问题规划下一步查天气需要先知道城市代码Action行动选择工具并给出调用参数调用城市查询接口Observation观察读取工具返回的结果拿到城市代码了继续……循环……直到信息足够最终整合答案 对新手来说ReAct 最大的价值是把黑箱回答变成可追溯的过程模型每一步为什么这么做、用了什么工具、看到了什么结果都清清楚楚非常适合做需要多步操作的自动化任务。四、函数调用Function Calling怎么用从会说话到会做事如果说 ReAct 是思维方式那么函数调用就是执行手段。普通的对话模型只会输出文字而经过函数调用训练的 Dolphin 2.9.1 能够输出结构化的工具调用请求交给外部程序去执行。它的工作流程通常是这样的开发者把可用工具如查天气、查数据库、发消息的描述告诉模型模型判断这件事需要工具模型输出一段结构化调用包含工具名和参数程序执行工具、拿回真实结果模型基于结果继续回答用户。⚙️ 例如用户问明天上海适合穿什么模型可能会先调用天气接口拿到温度、风力数据再结合数据给出穿衣建议——这就是工具调用 大模型的典型协作模式。配合 vLLM、llama.cpp 等主流推理框架开发者可以很容易地把 Dolphin 2.9.1 接入自己的工具链。五、ChatML 格式详解与 Dolphin 对话的标准姿势Dolphin 2.9.1 使用ChatML 提示词模板通过|im_start|和|im_end|两个特殊标记区分 system / user / assistant 角色。特殊标记的定义可以在special_tokens_map.json和tokenizer_config.json中找到|im_start|system You are Dolphin, a helpful AI assistant.|im_end| |im_start|user 请帮我查一下北京今天的天气|im_end| |im_start|assistant 现在 Transformers 已经内置了 ChatML 的 chat template见tokenizer_config.json使用tokenizer.apply_chat_template()即可自动拼接无需手写模板。在函数调用场景下assistant 角色的回复中会插入结构化的函数调用内容框架解析后执行对应工具再把结果作为工具角色的消息回传让模型继续推理。六、如何快速上手 Dolphin 2.9.1下载、加载与最小示例1️⃣ 获取模型文件模型权重以 15 个 safetensors 分片形式存放model-00001-of-00015.safetensors至model-00015-of-00015.safetensors分片索引记录在model.safetensors.index.json中。可以直接通过镜像仓库下载git clone https://gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b仓库内的关键文件一目了然config.json结构配置、generation_config.json生成参数、tokenizer.json/tokenizer.model分词器、special_tokens_map.json特殊 token以及包含完整训练细节的README.md。2️⃣ 资源需求权重总大小约64 GiBbf16加上推理时的 KV Cache 和激活显存建议单卡 80GB如 A100/H100可完整加载显存不足时可用 4bit / 8bit 量化方案大幅降低占用。3️⃣ 用 Transformers 快速加载from transformers import AutoModelForCausalLM, AutoTokenizer model_path hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b tokenizer AutoTokenizer.from_pretrained(model_path) model AutoModelForCausalLM.from_pretrained(model_path, torch_dtypebfloat16)加载后即可用 ChatML 模板发起对话或接入框架使用函数调用能力。七、用智能体能力能做什么五个实用场景代码智能体结合 ReAct 推理逐步排查报错、生成并执行修复方案搜索与问答代理调用搜索/文档接口先查证再回答显著减少幻觉️数据库助手根据自然语言生成 SQL 并执行查询把结果整理成表格自动化办公对接日历、邮件、待办等 API自动完成日程安排数据分析流水线让模型决定调用哪些分析函数实现对话式取数。八、总结与注意事项Dolphin 2.9.1 Yi 1.5 34b 用扎实的训练数据把一个 34B 模型打造成了具备 ReAct 推理与函数调用能力的全能选手配合 Apache 2.0 协议无论是个人研究还是商业产品都很合适。最后要提醒两点⚠️ Dolphin 系列是**无审查uncensored**模型官方明确建议在对外提供服务前自行实现对齐与安全层使用者需对生成内容负责✅ 智能体能力虽强仍建议在正式环境中通过成熟的 Agent 框架如 function calling 解析 工具注册来约束模型的输出格式稳定性更高。如果你正在寻找一个能干活、能调用工具、又完全开源的大模型Dolphin 2.9.1 Yi 1.5 34b 值得一试。【免费下载链接】dolphin-2.9.1-yi-1.5-34b项目地址: https://ai.gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考