公司动态
前端转大模型应用,为什么我让你先啃权限和可观测?
聊《别急着换赛道前端经验在 AI 项目里到底值多少》之前先说一句实在的别急着背概念先看它在真实项目里到底解决什么问题。摘要先把这篇文章的目标说清楚看完之后你应该能判断这件事值不值得做以及从哪里动手。摘要很多人以为前端转大模型就是把 ChatUI 做得好看、把 Prompt 调得丝滑。实际翻过一堆 AI 应用岗 JD 和线上事故复盘后我发现生产环境真正拦住项目的从来不是模型智商而是鉴权边界、请求追踪和可观测性。本文从前端已有的工程习惯讲起拆清 AI 产品工程师的真实能力栈、交互设计取舍、流式接口写法以及作品集该怎么摆。目录前端转 AI 应用到底有哪些“隐形资产”招聘 JD 变了AI 产品工程师的生死线在哪AI 应用的交互模式不只是聊天框流式输出和多模态前端最容易卡住的地方作品集怎么摆从 Demo 到“敢交差”的项目总结先做工具人再做产品人目录前端转 AI 应用到底有哪些“隐形资产”招聘 JD 变了AI 产品工程师的生死线在哪AI 应用的交互模式不只是聊天框流式输出和多模态前端最容易卡住的地方作品集怎么摆从 Demo 到“敢交差”的项目前端转 AI 应用到底有哪些“隐形资产”我见过不少前端同学转型时第一反应是去刷 LangChain 文档、背 Agent 框架。回头一看自己的强项反而丢掉了。前端真正值钱的是对“用户状态”和“异步边界”的直觉。一个 LLM 应用上线后90% 的可见问题都在客户端接口超时、Token 失效、流式中断、图片上传进度丢失、多 Tab 并发请求互相覆盖。这些场景后端通常靠网关兜底但最终要面对用户的是你。我会建议先把这三件事捡回来组件状态机。Agent 不是纯对话它有“等待确认”“执行中”“需要人工介入”“回滚”等状态。用 Redux/Zustand/XState 把状态画清楚比堆 Prompt 重要得多。网络契约。前端要先定义清楚接口返回什么是完整文本、SSE chunk、还是结构化 JSON模型抽风时返回字段缺失你的渲染层能不能优雅降级浏览器调试。Chrome DevTools 的 Performance、Network、Console 是排查 LLM 应用最快的工具。很多所谓“模型幻觉”其实是前端拼错参数或截断了上下文窗口。前端的底线是“让用户感知不到系统的混乱”。这部分能力转大模型应用时直接复用不需要推倒重来。招聘 JD 变了AI 产品工程师的生死线在哪最近半年我看过一批 AI 应用方向的招聘需求岗位名称从“大模型后端”拆成了“AI 应用工程师”“Agentic AI 开发”“AI 产品经理开发”。要求里出现频率最高的已经不再是“熟悉 Transformer 原理”而是这几项权限控制谁能读哪些数据、Agent 能调用哪些外部接口、敏感信息是否脱敏。可观测性每次请求带 trace_id模型输出、工具调用、人工审批节点都要有日志。容错与限流模型超时、Token 耗尽、第三方 API 抖动时的降级策略。人机协同关键操作必须二次确认支持撤销和审计。为什么这些突然变成了硬门槛因为 2024 年大家还在卷 Demo跑通 Gradio 就算交付。2025 年以后企业开始把 AI 能力嵌进业务流一旦 Agent 误删文件、越权读取客户数据、或者在没有日志的情况下输出错误建议损失就不是“体验不好”而是合规风险。所以转型的第一优先级不是学新框架而是补上工程化这块短板。你不需要成为安全专家但至少要知道API Key 不能写在前端源码里、用户身份必须透传、模型调用必须可追溯。AI 应用的交互模式不只是聊天框聊天框只是 LLM 应用的一种形态而且往往不是最适合业务的形态。我在做内部知识库助手时最初也是套了个对话框。结果发现用户真正需要的不是“问一句答一句”而是嵌入式 Copilot在编辑器、工单系统、设计稿旁边悬浮一个侧栏随时调取上下文。任务队列型用户提交复杂请求后界面进入后台执行前端轮询或订阅进度最后展示结果卡片。Agent 确认流模型决定调用工具前先给用户看“计划”用户点同意才执行。这直接解决了权限和安全的最后一公里。交互设计的核心取舍在于模型越自主前端越要提供“刹车”。很多团队只做了油门没做方向盘。具体到页面结构建议按能力分层1. 输入层支持文本、文件、截图、语音明确告诉用户哪些内容会被发送给模型。2. 计划层Agent 执行前展示意图和即将调用的工具允许用户修改参数。3. 执行层流式反馈 进度指示 中断按钮。4. 审计层结果可分享、可回滚、可导出日志。这套结构写出来不难难的是每个环节的状态同步和异常处理。流式输出和多模态前端最容易卡住的地方流式输出SSE/WebSocket是 AI 应用的标配但教程里教的fetch逐行解析放到生产环境经常翻车。真实场景里你会遇到Token 中途失效、服务端短暂断流、移动端切后台恢复、用户连续点击导致重复请求。下面这段是我目前用来对接大模型流式接口的最小实现。它不追求花哨重点把鉴权、追踪、超时和错误边界写死type StreamChunk { role: assistant; content: string; finish_reason?: string | null; }; interface StreamOptions { messages: Array{ role: user | system; content: string }; accessToken: string; traceId: string; controller: AbortController; } export async function* streamChat({ messages, accessToken, traceId, controller, }: StreamOptions): AsyncGeneratorStreamChunk { const res await fetch(/api/v1/chat/stream, { method: POST, headers: { Authorization: Bearer ${accessToken}, Content-Type: application/json, X-Trace-Id: traceId, }, body: JSON.stringify({ messages }), signal: controller.signal, }); if (!res.ok) { const errBody await res.text().catch(() no body); console.error([stream] request failed trace${traceId} status${res.status}, errBody); throw new Error(鉴权或权限校验失败: ${res.status}); } if (!res.body) throw new Error(服务端未返回流式响应体); const reader res.body.getReader(); const decoder new TextDecoder(); let buffer ; while (true) { const { value, done } await reader.read(); if (done) break; buffer decoder.decode(value, { stream: true }); const lines buffer.split(\n); buffer lines.pop() ?? ; for (const line of lines) { if (!line.startsWith(data: )) continue; const payload line.slice(6).trim(); if (payload [DONE]) return; try { yield JSON.parse(payload) as StreamChunk; } catch (e) { console.warn([stream] invalid chunk trace${traceId}, payload); } } } }几个容易被忽略的细节Authorization和X-Trace-Id必须放在请求头。没有 trace_id后端打出来的日志对你毫无意义。错误判断放在res.ok之后而不是只在fetch抛异常时处理。HTTP 401/403/429 才是日常。分片缓冲用buffer变量维护避免一行 SSE 被网络分包截断导致JSON.parse失败。给AbortController留口子。用户点“停止生成”时前端要能立刻切断流否则模型继续算钱白花。多模态部分更简单但也更容易踩坑文件上传先走预签名 URL不要在前端直接读二进制塞进 JSON。图片压缩、音频转写、表格 OCR 尽量放服务端前端只负责进度条和状态反馈。多模态的难点不在识别而在“用户上传了东西之后系统怎么知道要做什么”。作品集怎么摆从 Demo 到“敢交差”的项目简历上写“基于 LangChain 搭建 RAG 系统”HR 一天看几百份已经免疫了。真正能让人停下来的是你能把“无聊但必要”的部分讲清楚。我的建议是按这个顺序练手1. 先做一个带流式输出的基础对话页跑通 Prompt 和上下文窗口管理。2. 加上鉴权中间件前端拿到用户 Token请求必须携带接口层校验角色权限越权直接拒。3. 引入追踪每次请求生成 trace_id前后端统一打印请求参数、Token 消耗、模型版本、耗时。4. 做一个人机协同节点比如 Agent 准备执行删除/发送邮件/查询订单前前端弹窗展示计划用户确认后才发请求。5. 补全异常页网络断开、Token 耗尽、模型超时、权限不足各自有明确的降级提示而不是白屏。作品集里放三样东西就够了一张架构图标出前端、网关、模型服务、向量库、日志收集器的数据流向。一段关键代码比如上面的流式接口或 Agent 确认流程。一份排障记录哪怕只有半页。写清楚某次线上请求为什么慢、日志怎么定位、最终改了哪里。面试时别背 Prompt 技巧总结本文完成了关键概念、工程实践和落地建议的梳理。资料展示下面是我整理的AI大模型学习资料和工具包预览适合收藏后按主题逐步学习。如果你想看完整资料目录可以在评论区留言「资料」也欢迎告诉我你更关注AI大模型里的哪类内容。