Skip to main content
我把全站 AI 面试题汇总在这里,覆盖从模型基础到 Agent 上线的完整链路。可以拿它当自测清单,看看自己的知识是网状还是碎片。 这几组概念很容易混:MCP 和 A2A、RAG 和 Memory、Workflow 和 Agent,边界不清的话,答题就会糊成一片。 AI 工程化最后都落在”怎么把系统跑起来”。下面这些题我都按”结论、机制、成本与失败边界”来整理。

使用说明

回答统一按三个层次组织:先说结论,再解释运行机制,最后补充成本、失败边界、安全和验证方式。涉及项目的题目,回答中的“我会”是可复用的设计模板,不应冒充亲身经历。 本页先完整收录 8 篇直接面经中的 121 条题面;后面的补充区收录跨渠道题库中反复出现、且不在这 121 条中的 65 道题。S 题保留原文顺序;拆开的复合题和经历追问会明确标为“原题拆分”或“题面整理”,不冒充作者原话。相同问题只保留一份答案,题目通过下面的映射表追溯来源。另设 32 道 T 编号的 2026 专题补充题,覆盖 Harness、Lead Agent、Tool Calling、产物协作、可观测、协议分层和 Agent 组织形态。 同一考点在不同面经中重复出现时,只保留一处详解,其余按速答处理;若两处措辞不一致,以专题页(Multi-Agent、Lead Agent、Agent 组织形态、Agent 稳定性)的结论为准。

题目与来源映射

下面的映射覆盖正文全部 186 道题。S 是公开作者自述的面经原题或原题拆分,B 是公开整理题库;同一编号范围内的每道题都继承对应来源,不代表来源文章给出了本文的技术答案。来源编号在底部统一展开,便于从题目反查原文。 B 题不是凭空补出的概念清单:每组都能在来源文章的题目目录或原文问题段落中找到对应考点。无法确认是作者实际被问到的句子时,正文保留 B 标签,不写成直接面经。

核心知识地图

Q1: AI 工程化系统从哪里开始设计?

先问架构,是因为模型调用本身通常只有几行代码,真正困难的是确定任务边界、状态、工具权限和验收标准。一个可生产的系统应先定义任务成功条件,再决定是否需要 Agent。
1

1. 定义任务和风险

先区分回答、检索、规划、执行和不可逆副作用。把支付、发布、删除、外发数据等动作标成高风险,并提前定义人工审批和停止条件。
2

2. 选择最简单的控制流

单次模型调用能解决的问题不引入 Agent;路径固定用 Workflow,只有步骤未知且工具结果会改变计划时才交给模型动态决策。复杂度应由任务决定,而不是由框架决定。
3

3. 固定状态和工具契约

状态包含 thread、task、checkpoint、预算和版本。工具必须有 schema、权限、超时、错误语义和幂等规则,模型只能请求能力,不能直接改变业务状态。
4

4. 建立证据和反馈闭环

RAG 结果保留来源和版本,工具结果保留 trace 和审计,最终输出用 schema、规则、测试或人工验收。线上 badcase 要能归因到路由、检索、模型、工具或基础设施。
5

5. 灰度和可恢复交付

模型、Prompt、工具 schema、索引和策略都要版本化,使用固定任务集回归,先 shadow 再灰度。任务必须支持超时、取消、重试、断线恢复和回滚。
AI 工程化解决的核心问题:
先把任务、状态、权限和验收边界确定下来,再选择模型和 Agent 框架。

只有模型调用

模型直接生成自然语言或 shell 命令,成功时看起来很快,失败时没有状态、权限和证据可追踪。它像让实习生拿着生产数据库密码自由操作。

有运行时边界

模型只提出结构化计划,状态机、工具网关和业务服务负责校验与执行。它像让实习生提交工单,系统按权限和审批流执行。
先讲业务痛点,再讲运行时数据流,最后主动补充成本、失败、权限和指标。被追问“为什么不用另一个框架”时,要回到任务约束而不是背产品定位。

Q2: Agent 的运行时循环如何工作?

Agent 的本质是受约束的决策循环,而不是一次 Prompt。模型结合目标和上下文产生文本或 tool call,运行时执行工具并把观察结果加入状态,直到满足成功或停止条件。
max_steps、总预算、deadline、重复动作检测、状态不变检测和人工终止不能只写在系统提示词里。模型可能忘记停止,也可能把错误工具结果当成成功;最终状态必须由确定性代码确认。
Agent 像项目经理:它可以安排下一步,但不能直接刷公司银行卡。工具网关像财务审批系统,状态机像项目看板,只有任务满足条件才允许进入下一阶段。

状态读取与决策

模型看到的是经过权限过滤和预算裁剪的状态,不是数据库或工具的原始全部内容。决策结果必须是结构化消息,至少区分最终回答、工具调用、澄清和停止。

观察结果与状态归约

工具结果先归一为成功、业务失败、瞬态失败或权限失败,再由确定性 reducer 更新状态。这样重试、回放和评估可以针对同一个状态版本复现,而不会依赖一段模糊的自然语言历史。

Q3: Workflow、Agent 和 Multi-Agent 怎么选?

选择顺序是单次调用、固定 Workflow、局部 Agent、最后才是 Multi-Agent。多个节点只有在拥有独立目标、上下文或工具边界时才算多个 Agent;否则只是工作流节点。

选择标准

先看路径是否固定、工具结果是否改变计划、是否存在独立权限域,再看团队是否能承受额外的通信和调度成本。没有独立边界的多 Agent 只是把一个可测试的问题拆成更多网络调用。

评估方式

Workflow 重点测状态转移和确定性断言,单 Agent 重点测工具选择、参数和任务成功,多 Agent 还要测消息丢失、重复执行、冲突合并和部分失败恢复。

Q4: AI Agent 最常见的生产故障是什么?

常见故障包括无限循环、重复副作用、上下文超限、工具越权、RAG 过期、SSE 断线后任务状态丢失和模型版本升级导致 schema 变化。排查时按输入、模型、Prompt、状态、检索、工具、队列和下游服务分层,不要把所有问题归结为“模型不稳定”。
每个 Agent 任务至少保存 task id、trace id、状态版本、模型/Prompt/工具版本、步骤数、预算、错误类型和最终结果。

故障归因

先用 trace 把一次任务拆成输入、路由、模型、检索、工具、队列和下游服务节点,再判断是质量问题、性能问题还是权限问题。没有分层事件,所谓“模型幻觉”无法转成可修复的工程缺陷。

恢复设计

恢复点应位于纯推理或已确认的幂等边界之后;不可逆工具需要事务、补偿或人工确认。断线、Worker 重启和模型超时都不能直接推断任务失败,必须读取服务端任务状态。

Q5: MCP、A2A、Tool 和 Skill 如何放进一个系统?

MCP 负责 Host/Client 与 Tool、Resource、Prompt 的能力连接,A2A 负责独立 Agent 之间的任务委托,Tool 是运行时原子能力,Skill 是包含规则和流程的可复用任务资产。它们是不同层次,可以组合但不能互相替代。
安全边界仍由应用实现:MCP description、Skill 文件和 Agent Card 都是不可信输入,工具网关必须重新做身份、租户、资源和动作授权。

能力调用

Tool 和 MCP 连接的是可执行或可读取能力,调用前由 Host 选择暴露范围,调用后由 Server 再做 schema、身份和资源校验。协议发现方便复用,但不会替业务系统授予权限。

任务委托

A2A 更适合把一个有生命周期的任务交给远程 Agent,Skill 则把组织经验和步骤沉淀在应用层。远程任务应传引用、状态和权限范围,避免把大对象或秘密直接塞进消息。

Q6: RAG、Memory 和状态有什么区别?

RAG 为当前任务检索外部事实,Memory 保存跨轮或跨任务的用户/Agent 记忆,State 保存当前任务可恢复执行所需的结构化状态。把三者都塞进消息历史会导致权限、时效、成本和冲突无法管理。
每条长期记忆都应有来源、时间、置信度、租户和删除能力;实时库存、订单和权限应直接调用业务 API,不应依赖静态向量库。

写入策略

状态由运行时写入,RAG 索引由数据管线更新,长期 Memory 需要筛选、去重和冲突处理。把三者分开后,才能分别设置 TTL、权限、版本和删除策略。

时效与权限

静态知识适合检索,实时事实适合工具调用,用户偏好适合带来源的长期记忆。所有入口都要携带租户和访问范围,不能让召回结果绕过业务授权。

Q7: 如何评估 Agent 是否真的变好了?

评估分检索、模型、工具、流程和用户体验五层。工具调用准确率、schema 通过率、证据支持率、任务成功率、人工介入率、P95 延迟、token 成本和安全拒绝率比单一“回答像不像”更有信息量。
LLM-as-a-Judge 只能作为辅助。金额、权限、文件内容、引用存在性和状态转换应由确定性断言、测试或人工复核确认。

离线回归

固定任务集应同时包含成功样本、边界样本、工具失败、权限拒绝和提示注入。每次改模型、Prompt、工具描述、索引或策略都记录版本,并比较断言差异而不只看平均分。

线上指标

线上至少同时观察任务成功率、工具错误率、人工介入率、P95 延迟、token 成本和安全拒绝率。指标变化要能回到具体 trace、版本和用户反馈,否则无法定位收益来自哪里。

Q8: 前端为什么必须理解 Agent Harness?

前端承担流式事件、部分输出、工具调用展示、审批表单、暂停恢复、错误重试和断线续传。聊天框只是 UI 表面,真正需要设计的是事件协议和任务状态。
Harness 包含上下文、工具、权限、测试、沙箱、反馈和恢复机制。前端事件应带 event_id、task_id、sequence 和 type,这样断线后可以去重或从任务状态恢复。

事件协议

前端消费的是可重放事件,而不是把每个 token 当成唯一状态。事件至少区分文本增量、工具开始、工具结果、审批等待、任务完成和失败,并通过序号支持去重与续传。

交互状态

审批、取消、重试和恢复都应映射为明确状态,按钮可用性由状态机决定。这样用户看到的进度、后端任务状态和审计记录可以保持一致。

满分回答 vs 及格回答

问题:“如何设计一个企业级 Agent?”

及格回答:
用 LangChain 调模型,接上 RAG 和工具,再加重试和监控。
满分回答:
设计起点不是模型,而是任务成功断言和风险等级。固定路径使用 Workflow,开放步骤只在局部引入 Agent;模型负责理解和计划,状态机、工具网关和业务服务负责权限、事务和不可逆副作用。这样能把不确定性收敛在可评估的节点内。[9][10]
运行时保存 thread、task、checkpoint、预算和版本,用结构化 tool call 驱动工具。每次调用都校验 schema、租户、资源、动作和幂等键,结果带来源和错误类别回到状态;连续失败、预算耗尽或状态不变时由运行时停止。标准循环的关键不是“让模型多想几次”,而是明确观察、动作和终止边界。[9][11]
线上要把模型、Prompt、工具、检索索引和策略作为一个版本化发布单元,先用真实成功/失败样本做回归,再做 shadow 和灰度。指标至少包含端到端任务成功率、工具选择/参数准确率、引用正确率、P95/P99、token 成本和安全拒绝率。每个失败通过 trace id 归因到模型、检索、工具或基础设施,而不是笼统标成幻觉。[10][12]
对支付、发布、删除和敏感数据外发,默认只读或人工确认,执行环境使用最小权限和沙箱。SSE 断线不影响任务本身,恢复依赖 task id、事件序号和 checkpoint;重复消息依赖幂等键。最终答案必须替换成自己的项目、指标和故障,不应把下面的模板冒充经历。

常见追问

答题要点: 先承认简单任务直接调用更简单,再说明框架带来的真实价值。高分回答: 单轮生成或简单抽取直接调用 API,延迟和调试路径更透明。引入 LangChain/LangGraph 的理由应是统一模型和工具接口、结构化输出、状态持久化、流式事件或人工介入,而不是为了让代码看起来像 Agent。框架不能替代权限、幂等和业务校验。可以先用直接 API 建立质量基线,再在复杂度确实出现时引入运行时。真正的判断标准是故障恢复和验证成本是否已经超过框架带来的抽象收益。[9][10]
答题要点: Tool 需要给模型看的描述、schema、错误和权限。高分回答: 普通函数只服务于代码调用者,Tool 还要向模型暴露何时调用、参数范围和副作用。描述含糊会导致误选,即使函数实现完全正确也不可靠。运行时要在模型输出后重新做类型、权限和业务校验。Tool 的返回最好包含结构化状态和来源,而不是一段无法审计的自然语言。对有副作用的 Tool,还要标明幂等键、超时和人工审批要求。[9][11]
答题要点: 状态不变、工具无效或停止条件只存在于 Prompt 都会造成循环。高分回答: 运行时应同时限制最大步骤、总 token、deadline 和重复动作。每次工具结果都要更新状态版本,若输入、工具和结果连续不变,应直接终止或转人工。只把“完成后停止”写在 Prompt 里不构成安全机制。评估时加入故意让工具失败或返回相同结果的任务,验证 Agent 是否能退出。生产日志还应保存触发停止的规则,方便区分预算耗尽和真实完成。[10][12]
答题要点: 区分能力调用和 Agent 任务委托。高分回答: MCP 主要标准化 Host/Client 与 Server 的工具、资源和提示能力,A2A 需要表达远程 Agent 的能力发现、Task 生命周期、Message 和 Artifact。把 Agent 包成 MCP Tool 可以完成一次能力调用,但长任务恢复、Agent Card 和跨组织协作语义需要自己补。两者不是竞争关系,一个系统完全可以用 A2A 暴露 Agent、用 MCP 连接内部工具。选型时应先看调用对象是能力还是任务,再看是否需要跨组织发现和异步恢复。[13][14]
答题要点: 召回、证据、生成和权限是不同故障层。高分回答: RAG 只提供候选上下文,不保证召回正确、证据支持 claim 或模型不会补全。要分别评估 Recall@K、上下文精确率、引用正确率和最终任务成功率。文档带版本、权限和生效时间,生成时强制引用,无法支持的 claim 需要拒答或转人工。实时数据应直接调用业务 API。验证时还要检查引用片段是否真的支持对应 claim,而不是只检查引用字段存在。[10][15]
答题要点: 连接状态和任务状态必须分离。高分回答: SSE 只负责推送事件,任务状态保存在服务端的 task store 或 checkpoint。事件带 sequence 和 event id,客户端断线后可以用 Last-Event-ID 续传,也可以按 task id 查询最终状态。Worker 不应因为浏览器断开就回滚或重复执行。恢复时要用状态版本和幂等键防止重复副作用。前端重连后先补事件,再以服务端任务状态覆盖本地临时状态。[16][17]
答题要点: 先回答“不一定”,再按任务、成本和部署约束判断。高分回答: 参数规模影响能力上限,但数据、后训练、工具调用、上下文利用和稳定性同样重要。小模型在分类、抽取和高并发任务上可能更快更便宜,且更容易私有化。比较必须固定版本、任务集、Prompt 和工具,测任务成功率、P95、成本和安全,而不是只看榜单或参数量。最后用模型路由让简单任务留在低成本模型,困难任务再升级。上线前还要确认模型的服务区域、数据处理和故障降级满足合规要求。[12][18]
答题要点: 不把模型当授权主体,按动作风险分级。高分回答: 只读查询可以自动执行,可逆写入需要参数和权限复核,不可逆操作应强制人工确认或交给确定性服务。执行前做租户、资源、动作、额度和幂等校验,执行后留下审计和可回滚信息。Prompt injection、恶意文档和模型越权不能靠系统提示词单独解决。生产环境需要沙箱、短时凭证、kill switch 和独立的业务授权层。审批记录要绑定 task id、工具版本和最终参数,不能只记录“用户点过确认”。[11][19]

一、掘金:阿里 Agent 一面

本节题目来源:[1] 答案技术依据:[9][10][11][12][13][15]

S1-01 聊聊 LangChain 的架构

答案: LangChain 是模型应用层的组合框架,不是模型本身。可以分为基础抽象层(Model、Message、Prompt、Output Parser)、能力层(Chain、Tool、Retriever、Memory、Agent)和工程层(LangGraph、LangSmith、LangServe)。Agent 负责模型和工具之间的循环,LangGraph 用状态图表达分支、循环、暂停和恢复,LangSmith 负责追踪、评估和调试。 生产环境不会只说“接上 LangChain 就完成了”。还要补上权限、超时、幂等、预算、结构化输出校验、人工审批和可观测性;流程确定时优先用普通代码或 Workflow,只有需要模型动态决定下一步时才引入 Agent。 追问:LangChain 和 LangGraph 的关系? LangChain 提供高层模型和工具抽象,LangGraph 提供有状态图运行时。简单工具循环用 create_agent 足够,条件分支、长任务、checkpoint 和 human-in-the-loop 才需要显式状态图。

S1-02 Agent 开发方式有几种

答案: 没有唯一枚举,我会按控制流归属回答四种常见方式:ReAct、Plan-and-Execute、Multi-Agent 协作、状态图编排。ReAct 每轮观察、决策、调用工具;Plan-and-Execute 先生成计划再执行;Multi-Agent 将不同职责拆开协作;状态图由代码定义节点、边和条件,模型只在指定节点内决策。 选择顺序通常是单次调用、固定 Workflow、最后才是自主 Agent。步骤固定就用代码保证可预测性;步骤数量未知、工具结果会改变计划时才接受 Agent 的延迟和不确定性。

S1-03 LangChain 有哪些核心模块

答案: 核心模块可以归纳为 Models、Prompts、Indexes、Memory、Chains、Agents。Models 统一不同模型接口;Prompts 管理模板和上下文;Indexes 负责加载、切分、Embedding、Vector Store 和 Retriever;Memory 管理会话状态;Chains 串联固定步骤;Agents 结合目标选择工具和下一步。 当前版本还应补充 Messages、Tools、Structured Output、Middleware 和 LangGraph Runtime。工具调用不是函数被模型直接执行,而是模型返回带 schema 的 call,运行时校验并执行,再把结果作为 tool message 放回上下文。

S1-04 介绍你项目中 Multi-Agent 的情况

答案: 先区分 Multi-Agent 和普通工作流:多个节点不等于多个 Agent。真正的 Multi-Agent 要有独立角色、上下文或工具边界,并通过消息或任务状态协作;如果节点只是按拓扑执行的 LLM、TTS、输入输出处理,就应称为 Workflow。 若设计 Multi-Agent,我会让 Router/Planner 拆任务,Researcher 负责证据,Executor 负责可控副作用,Reviewer 负责 schema、规则和测试校验。Agent 之间传递版本化任务 envelope(task_id、trace_id、目标、输入引用、权限、截止时间、期望 schema),大对象只传存储引用;编排层负责超时、取消、重试、幂等和最终合并。

S1-05 讲一下 Agent 之间的通讯协议

答案: 同一进程可用函数调用或共享状态,跨进程可用 HTTP、RPC、队列或事件总线;协议的价值是把能力发现、任务生命周期、消息格式、错误和认证统一起来。A2A 面向 Agent 到 Agent,通常用 Agent Card 描述能力,用 Task 管理同步或异步任务,用 Message 和 Artifact 交换输入与产物。 实际工程还要定义任务幂等键、trace id、版本、超时、取消、重试语义和权限范围。协议只解决互操作,不自动解决租户隔离、数据脱敏和业务授权。

S1-06 MCP 和 A2A 有什么区别

答案: MCP 主要连接 Host/Client 与工具、资源和提示词,A2A 主要连接独立的远程 Agent。MCP 的典型对象是 Tool、Resource、Prompt,A2A 的典型对象是 Agent Card、Task、Message、Artifact;MCP 更像能力扩展,A2A 更像任务委托。 两者可以组合:上层 Agent 通过 A2A 接收远程任务,内部再通过 MCP 访问数据库、代码仓库或浏览器。把 Agent 包成 MCP Tool 技术上可行,但需要自己补 Task 生命周期、能力发现和长任务事件时,语义上已经接近自定义 A2A。

S1-07 用 MCP 做过什么

答案: 一个可复述的工程案例是把文件操作、PDF 生成和数据库查询分别封装成 MCP Server。文件 Server 只允许工作目录内的受控读写,PDF Server 接收结构化内容并将产物存入对象存储,数据库 Server 只开放参数化查询并限制超时、行数和敏感字段。 Host 侧通过工具 schema 发现能力,执行前做权限检查和人工确认,执行后记录调用、参数摘要、结果引用和审计日志。MCP 的收益是工具协议和实现解耦,风险是不能把工具 description 当成安全策略,真正的授权必须在 Host 和 Server 两侧完成。

S1-08 Transformer 了解么

答案: Transformer 用注意力替代循环和卷积,经典结构由 Encoder 和 Decoder 堆叠组成;每个 block 通常包含 Multi-Head Attention、Feed-Forward Network、残差连接和 LayerNorm,并通过位置编码补足顺序信息。现代 GPT 类模型多采用 Decoder-only 和因果 Mask,按 next-token prediction 自回归生成。 它的优势是序列内计算可并行、长距离依赖路径短;代价是标准注意力随序列长度呈平方增长,并带来 KV Cache 的显存压力。生产系统会结合检索、压缩、滑动窗口、稀疏注意力和 KV Cache 控制长上下文成本。

S1-09 自注意机制是什么

答案: 输入 X 经过三个可学习投影得到 Q=XWq、K=XWk、V=XWv,再计算 softmax(QK^T / sqrt(dk) + mask)V。Q 与 K 决定相关性,V 承载被聚合的信息;除以 sqrt(dk) 是为了避免点积过大导致 Softmax 饱和。 Multi-Head Attention 并行使用多组投影,让不同 head 学习不同关系,再拼接并投影。Encoder 通常允许双向可见,Decoder 使用因果 mask 屏蔽未来 token;Cross-Attention 则让 Q 来自一侧、K/V 来自另一侧。

S1-10 现在市面很多大模型,对彼此的对比了解么

答案: 不回答“绝对第一”,而是固定模型版本、日期、任务集和约束,对比任务成功率、结构化输出通过率、工具调用准确率、引用正确率、P50/P95 延迟、token 成本、上下文利用率、合规和部署方式。文本、代码、视觉、音频和推理任务通常需要不同模型,最好用路由让小模型处理简单任务,难题升级到高能力模型。 公开榜单只能提供先验,最终要用脱敏业务集和线上抽样验证。模型名称、价格和上下文能力变化很快,面试回答必须说明评测时间和版本,不能把一次主观体验当成长期结论。

S1-11 编辑器用的哪个

答案: 我会按任务而不是按品牌回答:IDE 负责导航、断点调试和最终审查;Agent 工具负责跨文件阅读、修改、执行测试和日志分析。工具选择要看代码库上下文能力、模型质量、MCP/插件、沙箱、权限审批、团队合规和可回滚性。 我的工作流是先让工具只读定位和复述约束,再生成最小 diff,运行 lint、类型检查和测试,人工检查差异后才提交。能执行 shell、写数据库、发布或删除资源的操作必须分级授权,不能因为工具叫 Coding Agent 就默认可信。

S1-12 对模型内部算法了解么

答案: 公开资料足以解释通用流程:语料清洗去重后经过 Tokenizer,Decoder-only Transformer 以 next-token prediction 做预训练;再用 SFT 学习指令格式,偏好对齐可采用 RLHF 或 DPO,推理阶段通过采样和 KV Cache 自回归生成。 RLHF 通常需要奖励模型和策略优化,链路较重;DPO 直接使用偏好数据优化策略和参考模型,工程更简单,但仍依赖偏好数据质量。不能把商业模型未公开的参数、数据配方或奖励函数说成事实。

二、掘金:美团智能客服 Agent 一面

本节题目来源:[2] 答案技术依据:[9][10][18][19]

S2-01 智能客服的多轮对话怎么设计

答案: 用“状态跟踪 -> 本轮解析 -> 决策动作 -> 回复”闭环。状态中显式保存意图、业务阶段和槽位,例如订单号、时间、门店和商品;每轮将用户输入解析为意图和实体,再决定补槽、查接口、执行动作、转人工或澄清。 固定业务用槽位状态机保证安全,开放表达可用 DST 或 LLM 辅助更新。用户打断、超时、意图置信度低和敏感操作必须有专门分支,不能只把全部历史丢给模型。

S2-02 用 LLM 做智能助手时遇到过哪些幻觉

答案: 常见有无中生有、张冠李戴和过度肯定。治理分三层:检索和业务 API 提供唯一事实源;生成要求引用、声明不确定性并限制回答范围;关键结论再做规则、schema 或第二模型校验。 评估时要把 badcase 按意图识别、检索召回、上下文拼装、工具结果和生成分别归因。温度调低只能改善随机性,不能解决知识缺失、权限错误或过期数据。

S2-03 Agent 的规划能力与多任务协同怎么实现

答案: 规划是把目标拆成有依赖关系的子任务并决定执行顺序。可以由 Planner 先生成计划,也可以让主控模型在 ReAct 或 LangGraph 循环中逐步决定;点餐、支付、售后这类流程必须把订单号、用户授权和前置结果结构化传递。 每一步都要定义成功条件、失败策略和可补偿动作。用户中途改变目标时,基于当前状态重新规划,而不是盲目继续旧计划;支付、退款等不可逆操作要经过确认和幂等控制。

S2-04 Agent 工具调用的技术方案是什么

答案: 工具定义包含名称、描述、输入 JSON Schema、权限、错误语义和副作用等级。模型返回 tool call 后,运行时做类型、范围、权限和业务状态校验,再执行下游 API;结果带结构化状态和可引用来源回到上下文。 工具很多时先按意图或语义检索筛出 Top-K,降低 token 和误选率。执行层要有超时、重试、熔断、幂等和审计;支付、下单、删除等工具默认需要人工确认。

S2-05 如何通过用户反馈优化 Agent

答案: 建立“反馈 -> 标注 -> 归因 -> 改动 -> 回归 -> 线上验证”的闭环。把差评、转人工、重试、用户改写和工具失败按意图、检索、Prompt、工具和生成分类,再分别修 FAQ、切块、混合检索、few-shot 或规则兜底。 每次改动用固定 badcase 集和 A/B 验证,不能凭几条主观对话判断变好。指标至少包括任务成功率、转人工率、引用正确率、工具错误率、延迟和成本。

三、掘金:盛大 Deep Research / Agent 面经

本节题目来源:[3] 答案技术依据:[9][10][11][13][19]

S3-01 如果 embedding 输入足够大,RAG 还需要分块吗

答案: 需要。分块的首要目的不是解决文件放不进 embedding,而是控制检索粒度;整篇文档作为一个向量会把多个主题平均掉,命中后上下文也过宽。按标题、段落和语义边界切块,再用 overlap、父子块或邻居扩展补充上下文。 是否分块最终看召回和生成评测。对表格、代码和强结构文档应使用结构化解析,不能只按固定字符数切割。

S3-02 异构数据源如何统一数据模型

答案: 将连接器分成采集适配层、规范化层、存储层和同步状态层。每个连接器只负责认证、分页、限流和源字段映射,统一层定义资源类型、外部 ID、租户、版本、时间、作者、权限和原始引用,存储层不关心来源实现。 增量同步使用源系统的稳定游标,例如 Git commit hash、更新时间或事件 ID;游标和写入采用幂等键,删除用 tombstone 或版本标记。WASM、插件或统一 SDK 都是实现选项,不能代替清晰的数据契约。

S3-03 为什么选择 gRPC,不选择 JSON/HTTP 或 Thrift

答案: 先看业务约束。gRPC 基于 HTTP/2,配合 Protobuf 的二进制编码、强 schema、代码生成、双向流和 deadline,适合内部高频、强类型微服务;JSON/HTTP 更易调试、跨语言和对外开放;Thrift 也能提供 IDL 和代码生成,选择取决于生态、治理和团队成本。 “效率高”不是充分理由:要说明序列化体积、连接复用、流式能力、兼容策略和工具链。若业务需要浏览器直接访问或开放生态,JSON/HTTP 往往更合适;内部服务则要评估 proto 兼容和调试成本。

S3-04 如何统一多模型协作生成研究报告

答案: 用编排器把研究拆成检索、阅读、证据抽取、写作和审校节点;不同模型按能力、成本和上下文长度路由。中间产物使用结构化 schema,引用必须带 URL、片段和时间,最终由审校节点检查事实支持、重复、冲突和格式。 不要让多个模型无边界地互相转发全文。共享状态只放任务、证据引用、摘要和错误,原文放对象存储;设置预算、最大步数、超时和人工复核,避免研究循环失控。

S3-05 连接器增量同步如何设计

答案: 为每个数据源保存 cursor、同步时间、版本和错误状态。优先使用源系统提供的稳定增量标识,拉取后先写入幂等的原始层,再规范化和索引;失败可以从 cursor 继续,删除通过事件或定期对账发现。 需要处理分页漂移、重复事件、乱序、限流和权限变化。同步结果要有指标和死信队列,不能只依赖 cron “再跑一次”。

S3-06 Skill、MCP、Tool 怎么选

答案: Tool 是当前 Agent 内部可调用的原子能力;MCP 是跨进程、跨应用暴露 Tool、Resource、Prompt 的协议;Skill 更像面向任务的可复用流程、规则和提示资产。内部稳定流程适合 Skill,外部系统能力适合 MCP,局部确定性函数直接用 Tool。 三者可以叠加:Skill 规定何时和如何调用,MCP 提供外部工具,Tool 负责本地执行。不要把 Skill 当权限边界,也不要把 MCP description 当安全策略。

S3-07 AI Coding 的多 Agent 工作流如何保证质量

答案: 让一个 Agent 做探索和实施,另一个独立 Agent 做审查,确定性工具负责 lint、类型检查、测试和安全扫描。每个任务先写 spec、约束和验收标准,修改控制在小 diff,所有命令、文件变化和审批可追踪。 并行不是越多越好:共享工作树会产生竞争和上下文污染,应该按任务隔离分支或工作目录。最终质量由测试和人工 review 决定,不能用模型“再看一遍”代替验证。

四、掘金:阿里云多模态大模型三面

本节题目来源:[4] 答案技术依据:[15][16][17]

S4-01 CLIP 的原理和损失函数是什么

答案: CLIP 分别用图像编码器和文本编码器得到向量,在 batch 内计算图文相似度,并用对称的 InfoNCE/交叉熵让真实图文对相似度高、非匹配对低。通常对相似度除以可学习 temperature,再分别做 image-to-text 和 text-to-image 两个方向的 loss。 它的优点是自然语言监督和零样本迁移,局限是网页图文噪声、细粒度定位弱和生成能力不足。评估不能只看平均相似度,还要看检索 Recall@K、零样本分类和领域数据表现。

S4-02 Qwen-VL 的数据处理与训练流程怎么讲

答案: 先对图像做尺寸、质量和安全过滤,文本和图像统一为带特殊标记的多模态序列;视觉编码器提取 patch 特征,经投影或视觉语言连接器映射到语言模型空间,再进行图文预训练和指令微调。OCR、定位、问答和多轮对话样本要混合并控制比例。 真正的工程难点是图像分辨率、token 预算、长图切片、坐标归一化和数据泄漏。具体模型的层数、数据量和训练配方必须以公开技术报告为准,不能凭模型名称推断。

S4-03 BLIP 借鉴 ALBEF 哪些思想,又做了什么改进

答案: 两者都强调图文对齐和图文融合,并使用图文对比、匹配等训练目标。BLIP 进一步引入 Captioner 生成合成文本清洗网页噪声,采用统一的理解与生成框架,兼顾检索、问答和 caption。 回答时要先交代设计动机:纯抓取文本噪声会损害对齐,生成器可以补充和过滤描述;代价是伪标签错误和训练复杂度增加。

S4-04 BLIP-2 的优化点是什么

答案: BLIP-2 冻结视觉编码器和大语言模型,中间加入轻量 Q-Former,从视觉特征中抽取固定数量的查询向量,再映射到语言模型。这样显著减少端到端训练参数,降低多模态适配成本。 代价是 Q-Former 的信息瓶颈和视觉细节损失,复杂空间推理与高分辨率任务可能需要更强连接器或额外训练。

S4-05 BLIP-3 的进一步优化点是什么

答案: 可以从公开实现和报告中的共同方向回答:更高效的数据配方、更强的视觉编码和连接器、更长或更高分辨率输入,以及统一理解和生成能力。重点不是背版本号,而是说明它在视觉 token 数、训练数据质量、分辨率和对齐目标之间做了取舍。 面试时应明确具体 BLIP-3 版本和论文,否则“BLIP-3”可能指不同项目;对于未公开细节只陈述可验证内容。

S4-06 LLaVA 的结构,与 BLIP 和 Qwen-VL 有什么区别

答案: LLaVA 的典型结构是预训练视觉编码器加一个简单投影层,将视觉特征映射到 LLM 的词向量空间,再用视觉指令数据训练。BLIP 系列更强调图文预训练任务和视觉语言桥接,Qwen-VL 通常在视觉分辨率、OCR、定位和中文多模态能力上做了更完整的工程设计。 对比应覆盖连接器、视觉 token、训练阶段、任务目标和输入输出,不应只说“都是视觉编码器加语言模型”。

S4-07 RLHF 的基本思路是什么

答案: 先用监督数据做 SFT,再收集人类对多个回答的偏好训练奖励模型,最后用 PPO 等方法优化策略,使回答更符合偏好并约束偏离参考模型的程度。核心是把“人类更喜欢什么”转成可优化信号。 RLHF 的难点是偏好标注成本、奖励模型偏差、奖励投机和训练不稳定。DPO 直接使用偏好对优化策略,减少了显式奖励模型和在线 RL 环节,但并不消除数据质量问题。

S4-08 多模态大模型中的对齐如何实现

答案: 对齐至少有表示空间对齐、指令行为对齐和安全偏好对齐三层。先通过图文对比或 caption 让视觉和语言表示可对应,再用图文问答、OCR、定位、推理数据做 SFT,必要时用人类偏好或规则进行后训练。 还要处理视觉 prompt 注入、敏感图像、版权和幻觉。评估要分图像理解、文字识别、空间关系、事实性和安全,不用一个总分掩盖短板。

S4-09 如何实现 CLIP 的 InfoNCE Loss

答案: 归一化图像向量 I 和文本向量 T,计算 logits = I @ T.T * exp(logit_scale);标签是 batch 内对角线索引,分别计算 image-to-text 和 text-to-image 的交叉熵,再取平均。实现时要处理 batch size、温度参数、数值稳定和分布式 all-gather。 不能把 batch 内所有负样本都当成真正负样本,存在同语义或重复图像时会产生 false negative,需要去重、软标签或更好的采样策略。

S4-10 LeetCode 518 零钱兑换 II 怎么做

答案: 这是完全背包计数问题。dp[amount] 表示组成金额的组合数,初始化 dp[0]=1;外层遍历硬币,内层从 coin 正序遍历到 amount,执行 dp[j] += dp[j-coin],这样同一组合不会因硬币顺序重复计数。 若内层倒序则变成每个硬币只用一次,解决的是 0/1 背包,不符合本题。复杂度是 O(coins * amount),空间 O(amount)。

S4-11 如何构建数据、进行预训练和对齐

答案: 数据流程是采集、授权检查、去重、质量过滤、毒性和隐私检测、分片和版本化;预训练以自监督 next-token 或图文对比目标学习通用表示;之后用指令数据 SFT,再用偏好、规则和安全数据做后训练。 每阶段都要保留数据 lineage、采样比例和评测集,避免训练集污染测试集。算力、混合精度、并行策略和 checkpoint 是工程问题,不能只回答算法名。

S4-12 Encoder-only 与 Decoder-only 的区别和场景

答案: Encoder-only 使用双向注意力,输出整段输入的上下文表示,适合分类、检索、序列标注和视觉编码;Decoder-only 使用因果 mask,只看当前位置之前的 token,天然适合自回归生成和工具调用;Encoder-Decoder 先编码输入再生成输出,适合翻译和条件生成。 结构不是能力排名。选型看任务目标、训练数据、延迟和部署,现代系统也可能把冻结的 Encoder 接到 Decoder-only LLM 上。

S4-13 多模态大模型的发展过程

答案: 大致经历独立模态编码器、图文对齐和检索、视觉语言融合、视觉指令微调、多模态原生生成几个阶段。演进主线是连接器越来越高效、视觉 token 更可控、任务从 caption/检索扩展到 OCR、定位、视频、音频和复杂推理。 判断一个模型不能只看是否“支持图片”,还要看视觉分辨率、空间理解、跨图推理、长视频、工具调用和输出能力。

S4-14 常见多模态大模型有哪些

答案: 研究和开源体系可举 CLIP、BLIP/BLIP-2、LLaVA、Qwen-VL;商业或产品体系可按具体时间举 Gemini、GPT-4o 类模型等。回答时说明它们分别偏对齐检索、视觉问答、OCR/定位、通用多模态对话或生成,避免只报名字。 模型版本迭代很快,应以固定版本和任务集比较。不同模型对中文、图表、细粒度定位和长视频的强弱并不相同。

S4-15 Vision 与 Language 的融合方式有哪些

答案: 常见有早期融合、后期融合和跨模态交互。工程上常见做法是视觉编码器提取特征,通过线性投影、Q-Former 或 cross-attention 映射到语言模型,再与文本 token 一起送入 LLM;也有模型使用统一 tokenizer 或原生多模态 block。 融合越深表达越强,但训练和推理成本越高。应结合像素级定位、跨模态推理、低延迟和参数高效微调等需求选择。

S4-16 多模态数据清洗怎么做

答案: 先做格式、分辨率、OCR 可读性、语言和重复样本过滤,再用图文相似度、文本质量、敏感内容、版权和隐私规则筛选。对于网页 alt text 与图片不匹配的样本,要降低权重或用 captioner 重写。 清洗不能只追求相似度高,否则会丢掉难例和长尾。要按来源、语言、任务、分辨率分桶统计,保留少量人工抽检集,持续监控训练数据漂移。

S4-17 VLM 是否也存在 scaling law

答案: 一般能观察到模型、数据和计算增加带来损失下降或能力提升,但多模态 scaling 受数据质量、模态配比、视觉 token、连接器和任务饱和影响,规律比纯文本更不稳定。不能简单用 LLM 的幂律直接外推。 工程上应做受控实验,固定数据分布和评测任务,分别比较模型规模、视觉 token、数据量和数据质量的边际收益,再决定是否继续加算力。

S4-18 多模态大模型的幻觉及解决思路

答案: 视觉幻觉包括看错物体、空间关系、文字和图像不存在的细节;原因可能是视觉编码不足、训练数据偏差、语言先验压过视觉证据或分辨率不够。可用高质量图文数据、视觉 grounding、OCR/检测器工具、检索和拒答策略减轻。 评测应区分感知准确率、事实一致性、空间关系和安全。让模型“更自信”或只调 temperature 不能解决看不见的信息。

S4-19 实现多头自注意力

答案: 线性投影得到 Q/K/V,将 hidden dimension reshape 为 heads * head_dim,计算每个 head 的缩放点积注意力,加上 padding 或 causal mask,Softmax 后乘 V,拼接各 head 并过输出投影。实现要注意张量维度通常是 [batch, heads, seq, head_dim]。 工程上需要处理 mask 广播、混合精度、长序列显存和 KV Cache。训练阶段可并行整段序列,生成阶段只追加当前 token 的 Q 并复用历史 K/V。

五、牛客:海底捞前端开发二面

本节题目来源:[5] 答案技术依据:[9][13][19]

S5-01 为什么开始接触并开发 AI Agent

答案: 不要只回答“因为趋势”。应从真实业务痛点出发,例如视频剪辑中素材理解、脚本生成和异步执行步骤多,传统表单难以覆盖;Agent 可以结合目标选择工具,但仍由工作流和状态机约束。 回答项目题要说清自己的职责、输入输出、一次失败和量化结果,不能把看过的 Demo 当成上线经验。

S5-02 职业方向偏前端还是 AI Agent,如何结合

答案: 前端负责把 Agent 的不确定过程变成可观察、可确认、可恢复的交互;AI 工程负责模型、工具、检索和状态。两者结合的关键是流式协议、事件模型、任务状态和错误恢复,而不是简单做一个聊天框。 可以用前端状态机消费 Agent 事件:规划、工具调用、等待确认、执行、失败和完成,每个状态都有可重放的 UI。

S5-03 学前端和 AI 技术的方法

答案: 先读官方文档和论文建立模型,再做一个小闭环,最后用日志和失败样本验证。学习结果要沉淀成可运行代码、设计取舍、测试和故障记录,而不是只收藏文章。 面试中最有说服力的是能解释一个自己定位过的 bug,以及为什么选 A 不选 B。

S5-04 视频剪辑 AI Agent 的业务背景和整体架构

答案: 前端提交素材和剪辑目标,后端创建任务并把大文件放对象存储,Agent 负责理解需求和生成结构化剪辑计划,FFmpeg/MoviePy Worker 执行重任务,队列负责削峰,SSE 或轮询反馈进度,结果回写存储。 任务状态应持久化,模型计划和实际执行分离;用户可以暂停、取消、重试和查看失败原因。副作用使用幂等键,文件访问用签名 URL 和租户权限控制。

S5-05 LangChain 在剪辑 Agent 里的作用和 Chain 链路

答案: LangChain 可封装模型、Prompt、工具和结构化输出,适合把素材分析、脚本生成和计划校验串起来;真正需要循环、暂停、重试和持久化时,用 LangGraph 或自研状态机承载运行时。 典型链路是素材元数据抽取 -> 用户意图解析 -> 剪辑计划 schema -> 规则校验 -> Worker 执行 -> 结果评估。FFmpeg 这类确定性动作不应交给模型自由生成 shell 命令。

S5-06 为什么选 RabbitMQ,如何和其他中间件比较

答案: RabbitMQ 适合任务队列、ack、routing key、重试和死信等工作分发语义;Kafka 更适合高吞吐日志和可回放事件流,Redis Streams 部署简单但可靠性和治理要单独评估,Celery 是消费框架而不是消息协议。 选择要看吞吐、延迟、顺序、持久化、重放、运维和团队经验。不能只说“RabbitMQ 性能好”,要说明业务需要的是任务分发还是事件流。

S5-07 剪辑任务从 30 分钟压缩到 5 分钟,核心优化点

答案: 先用 profiling 找瓶颈,再并行素材探测和模型调用;视频处理采用代理素材、硬件编码、按片段处理和增量缓存;队列层做 Worker 水平扩展;模型层减少重复上下文和无必要调用。 优化必须同时看质量、P95、失败率和成本。缓存要绑定素材 hash、Prompt/模型版本和参数,否则旧结果会污染新任务。

S5-08 Agent 任务完整流转和有限状态机设计

答案: 状态可以是 CREATED -> PLANNING -> WAITING_CONFIRM -> EXECUTING -> REVIEWING -> SUCCEEDED/FAILED/CANCELED。状态转换由确定性代码校验前置条件,模型只能产出计划或建议,不能绕过状态机直接写最终状态。 每次转换记录版本、操作者、原因和事件;恢复时从 checkpoint 继续。终态不可重复执行,重试只从可重试状态进入,并带退避和次数上限。

S5-09 前端、FFmpeg/MoviePy、Agent、消息队列如何协作

答案: 前端上传并创建任务,API 返回 task id;Agent 生成计划并投递执行消息,Worker 拉取消息调用 FFmpeg/MoviePy,把阶段事件写入状态存储;SSE 网关按 task id 推送事件,前端只负责展示和确认。 不要让前端直接控制 Worker,也不要让 SSE 连接承担任务可靠性。断线后通过 task id 查询状态或从事件序号续传。

S5-10 如何用 JSON Schema 约束模型输出,遇到哪些坑

答案: schema 定义动作类型、时间范围、素材引用、参数类型和枚举,运行时做 JSON 解析、schema 校验和业务校验。结构化输出能减少格式错误,但不能保证素材存在、时间不重叠、用户有权限或操作安全。 常见坑是 schema 描述歧义、可选字段过多、模型返回超范围数字、版本不兼容和超长输出。用版本化 schema、默认值、二次校验、失败重试和明确错误反馈解决。

S5-11 模型输出不符合剪辑业务要求怎么办

答案: 先把错误分为格式错误、参数错误、业务冲突和不可执行。格式/参数错误可带校验错误让模型修正一次;业务冲突由规则引擎改写或要求用户确认;不可执行则降级为人工编辑或明确失败。 不能无限让模型自修。所有修正都要有次数、预算和审计,最终计划必须通过确定性校验才允许执行。

S5-12 LLM 上下文窗口限制如何解决

答案: 不把全部素材和历史塞进 prompt。先做素材元数据和分段摘要,按当前剪辑步骤检索相关片段,长期信息写入结构化状态或向量存储;对重复内容缓存,必要时用父子块和滚动摘要。 上下文压缩要评估信息损失、引用正确率和任务成功率。扩大窗口只能推迟问题,还会增加延迟、成本和注意力干扰。

S5-13 什么是任务幂等性,如何防重复执行

答案: 同一个业务请求执行一次或多次,外部可见结果相同。用业务唯一键或 task_id + step_id + input_hash 做幂等键,在数据库建立唯一约束,执行前抢占记录,执行后保存结果;副作用 API 也要传 idempotency key。 消息至少一次投递时必须假设重复消费,不能靠“队列应该只发一次”。锁、状态条件更新和结果缓存要配合使用。

S5-14 为什么用指数退避而不是固定间隔

答案: 网络抖动、限流和下游短暂故障时,固定间隔会让大量 Worker 同时重试形成惊群;指数退避逐步拉开请求,配合随机 jitter 降低同步冲击。 退避只适合可重试错误,不能重试参数错误和不可逆副作用。要有最大延迟、总超时、重试次数和死信,且重试前检查幂等性。

S5-15 模型超时、宕机或响应异常如何降级

答案: 设置连接、读取和总超时,按错误类型区分重试、切备用模型、返回缓存、走规则模板或转人工。模型不可用时保留任务状态和用户输入,恢复后可继续,而不是让前端一直等待。 关键动作不能因为模型失败而半执行。所有 fallback 都要有明确的用户提示和指标,避免静默产出错误结果。

S5-16 Celery 多 Worker 如何负载均衡

答案: 按任务类型拆队列,Worker 依据 CPU、GPU、内存和任务时长设置并发;使用 ack、prefetch 限制和公平消费,避免慢任务占满短任务队列。必要时按租户或优先级分队列。 扩容依据队列深度、等待时长和 Worker 利用率,不只看 CPU。任务必须可重试、可取消、可观测,并在 Worker 崩溃时由 broker 重新投递。

S5-17 消息积压或丢失如何排查

答案: 先查生产速率、消费速率、ack、重试、死信、连接、磁盘和下游耗时,使用 trace id 对照 API、broker、Worker 和数据库日志。积压时限流、扩容、拆分慢任务;丢失则检查持久化、确认机制、事务边界和消费提交顺序。 恢复不能只“重放全部消息”。先按任务状态和幂等键筛选,再从死信或 checkpoint 安全重放,避免重复副作用。

S5-18 线上监控哪些指标,如何告警

答案: 业务指标看任务成功率、取消率、转人工率和结果可用率;模型指标看 token、工具错误、幻觉/引用、P95/P99 延迟;基础设施看队列深度、等待时长、Worker 利用率、CPU/GPU、存储和错误码。 告警要按症状和影响设置阈值,区分单租户异常与全局异常,并带 trace、task 和版本信息。日志、指标、事件和模型 trace 要能串起来。

S5-19 为什么用 P95/P99 而不是平均值

答案: 平均值会掩盖尾部请求,Agent 链路中少量模型超时、排队或大文件任务就会显著影响用户体验;P95 表示大多数用户的上界,P99 用来观察极端尾延迟。 线上数据必须按任务类型、模型、租户和版本分桶,否则不同分布混在一起的分位数没有诊断价值。P99 不是越低越好,还要结合成功率和成本。

S5-20 视频素材损坏或格式不兼容如何拦截

答案: 上传时做 MIME、扩展名、大小和病毒检查,Worker 开始前用 ffprobe 读取 codec、时长、分辨率和音轨,失败时返回结构化原因。可通过转码白名单支持有限格式,不接受模型自由拼接命令。 前端只做体验层校验,服务端必须再次校验。错误素材不应进入长任务队列,避免占用 GPU 和 Worker。

S5-21 异步架构相比同步架构的优缺点

答案: 异步适合模型和视频这种长耗时、可重试、可排队任务,能削峰、水平扩展和断线恢复;代价是状态一致性、用户反馈、取消、重复消费和排障更复杂。同步适合短请求和立即返回,链路简单但容易超时和占住连接。 通常 API 同步创建任务,执行异步,前端通过 SSE、WebSocket 或查询获取进度。可靠状态放数据库或事件存储,不依赖连接是否在线。

S5-22 多用户同时剪辑如何避免资源抢占

答案: 用队列和资源池隔离任务,按租户、优先级和任务类型调度,限制单用户并发;GPU/CPU Worker 使用配额和 admission control,超限时排队或返回预计等待时间。 还要限制单任务输入大小、模型 token 和执行时长。扩容看队列等待、资源利用率和 SLA,不能仅靠增加线程。

S5-23 如何理解 RAG,是否融入剪辑 Agent

答案: RAG 是索引阶段对文档切分、Embedding、存储,查询阶段召回和重排,生成阶段把证据注入上下文并要求引用。剪辑 Agent 可检索品牌规范、历史模板、音乐版权和用户素材说明,但执行参数仍需业务校验。 是否接入取决于知识是否动态、是否需要引用和是否能通过检索改善任务。小而稳定的规则直接放配置或代码,不必为了“AI 化”强行上向量库。

S5-24 业务量翻倍,瓶颈和扩容方案是什么

答案: 先用指标定位是 API、队列、模型限流、对象存储、数据库、CPU/GPU 还是下游 ffmpeg 瓶颈。再按队列分片、Worker 水平扩展、读写分离、缓存、对象存储 CDN、模型路由和限流逐层改造。 扩容要保持任务幂等、状态可恢复和租户公平。压测要使用真实大小和分布,关注 P95/P99、失败率和成本,而不是只看吞吐。

S5-25 AI Agent 如何结合前端埋点

答案: 前端为会话、任务、消息、工具事件和渲染状态生成 trace/span,埋点记录用户点击确认、取消、重试、修改结果和转人工;服务端把这些事件与模型、检索、队列和 Worker 关联。 埋点内容要脱敏并避免记录完整隐私 prompt。事件 schema 版本化,前端展示链路和后台质量评估使用同一 task id,但不要把前端事件当作权威状态。

S5-26 智能客服 Agent 如何设计整体流程

答案: 入口做身份和租户确认,路由器识别意图,状态机维护槽位,Retriever 或业务 API 提供事实,Agent 只在授权工具集合内行动;低置信度走澄清,高风险走确认或人工。 回复要支持引用、拒答和转人工,任务状态可恢复。上线前用真实工单做离线集,线上监控解决率、误操作率、转人工率、事实准确率和 P95。

S5-27 AI Agent 项目从开发到运维的落地流程

答案: 先定义任务成功标准和风险等级,做最小单 Agent 原型;再冻结 prompt、工具 schema、数据集和评测;随后接入权限、状态、队列、日志、指标、灰度和回滚,最后建立 badcase 反馈和版本管理。 发布对象不只有代码,还包括模型版本、Prompt、检索索引、工具契约和安全策略。每次变更都跑离线回归并保留可回滚版本。

S5-28 前端加 AI Agent 的未来学习规划

答案: 重点不是追逐每个模型名,而是补齐四层:模型与 token 基础、Agent 状态和工具协议、前端流式与任务交互、生产安全和评估。学习路径应由小项目驱动,逐步加入 RAG、MCP、Human-in-the-loop、可观测和成本控制。 每个项目保留设计决策和故障复盘,确保能回答为什么选、失败怎么办、如何证明变好。

六、牛客:字节 AI Agent 二面

本节题目来源:[6] 答案技术依据:[9][10][13][17][18]

S6-01 介绍你的项目并接受深挖

答案: 用“背景、目标、我的职责、架构、关键取舍、指标、失败和修复”讲项目。不要罗列模型和框架;实际验证的是你是否理解数据流、状态、权限、成本和为什么这样设计。 任何 AI 生成或沿用的代码都要能解释边界。答不上时明确区分自己实现、团队基础设施和阅读所得。

S6-02 对多模态大模型有什么了解

答案: 多模态系统通常由视觉/音频编码器、连接器和语言模型组成,通过对比预训练、指令微调或偏好对齐让不同模态共享语义。要按任务说明 OCR、图表、空间关系、视频和生成能力的差异。 工程关注视觉 token、分辨率、上下文预算、数据质量、幻觉和安全,而不是只报模型名。

S6-03 什么是 Agent Skill

答案: Skill 是面向任务的可复用能力包,通常包含说明、流程、约束、示例和可选脚本;它比单个 Tool 更偏流程和方法,比 RAG 更偏主动执行。Skill 可以指导 Agent 选择工具,但不应代替运行时授权。 生产 Skill 需要发现、注册、版本、热更新、依赖、隔离和评估。提示词注入只是加载机制,不能把 Skill 文件当作可信代码。

S6-04 如何加强大模型记忆机制

答案: 分短期会话状态、工作记忆、长期事实和事件记忆。近期原文用于连贯性,历史压缩成摘要,稳定偏好和关键事实结构化存储,事件按时间和语义索引;新会话按权限和相关性检索,而不是全量注入。 记忆写入要有置信度、来源、时间、可删除能力和用户同意。错误记忆比没有记忆更危险,需要冲突检测和定期淘汰。

S6-05 多 Agent 执行策略如何智能选择和切换

答案: 先定义任务特征和策略候选,例如单 Agent、并行专家、顺序协作和人工审批;路由器结合任务类型、工具、预算、风险和历史成功率选择策略。执行中结合超时、失败率、质量检查和预算触发降级或重新规划。 策略切换必须保留状态 schema 和幂等语义,不能把旧 Agent 的自然语言全文直接丢给新 Agent。用离线任务集和线上 shadow/A-B 评估路由质量。

S6-06 SSE 的局限性是什么

答案: SSE 是服务端到客户端的单向文本事件流,浏览器接入简单,适合 Agent token 和进度推送;局限是单向、连接数和代理超时、文本格式、大消息和重连恢复需要额外设计,不适合强双向交互或二进制媒体传输。 应使用 event id、heartbeat、Last-Event-ID 或任务查询支持断线恢复;客户端不能把连接存活等同于任务执行成功。

S6-07 LoRA 效果不好怎么办

答案: 先排查数据质量、任务定义、标签一致性、基座模型能力、学习率、rank/alpha、target modules、序列长度和评测泄漏。再做数据去重、难例补充、参数和 rank 的小规模网格、full fine-tuning 对照,以及 prompt/RAG 基线。 LoRA 适合参数高效适配,不会凭空补足基座知识或工具能力。低质量数据用更大 rank 往往只是过拟合,应该先修数据和评测。

S6-08 RAG 如何动态更新知识

答案: 文档进入后做版本化解析、切块、Embedding 和索引;更新用文档版本、内容 hash 和删除标记定位受影响的 chunk,异步重建并切换索引别名,避免半成品被检索。 查询时过滤租户、权限和有效时间,缓存要绑定版本。更新流程要可重试、可回滚,并用新旧索引对照评估召回和引用准确率。

S6-09 大模型项目遇到什么问题

答案: 选择一个真实问题按“现象、影响、定位、修复、验证”回答,例如工具参数错误、上下文超限、SSE 断线或 RAG 过期。重点是说明如何通过日志、trace、固定样本和指标排除原因。 不要说“模型偶尔不稳定”就结束;要把不确定性拆到数据、模型、Prompt、工具、状态和基础设施边界。

S6-10 LoRA 的缺点和改进方向

答案: LoRA 只训练低秩增量,成本低但表达能力受 rank 和注入位置限制,可能遗忘、过拟合、任务迁移差;多 adapter 管理、合并和推理延迟也增加复杂度。 可用 QLoRA 降低显存,用更合适的 target modules、rank、正则和数据配比改善;对需要广泛能力改变的任务,要比较 full fine-tuning、继续预训练或 RAG,而不是盲目增加 rank。

S6-11 如何评估复杂任务执行准确率

答案: 先定义任务完成断言,如最终状态、工具参数、文件内容、引用和副作用;用固定真实任务、边界样本、对抗样本和失败样本分层评测。指标包括端到端成功率、步骤成功率、工具选择/参数准确率、重试率、成本和 P95。 LLM-as-a-Judge 只能作为辅助,关键结果用确定性校验、测试或人工抽样;每次模型、Prompt、工具或检索变更都跑回归。

S6-12 多轮对话如何实现

答案: 会话由 thread id 关联,状态分为消息历史、业务槽位、任务 checkpoint 和长期记忆;新消息先做权限和上下文裁剪,再由模型或状态机决定补槽、调用工具、等待确认或完成。 历史需要摘要和 token 预算,不能无限追加。断线、并发消息和重复提交通过事件序号、版本条件更新和幂等键处理。

S6-13 RAG 如何评估

答案: 检索层看 Recall@K、MRR、nDCG、上下文精确率和覆盖率;生成层看 faithfulness、答案相关性、引用正确率、拒答准确率;系统层看端到端任务成功率、延迟、token、成本和更新时效。 评测集要有标准答案、证据、不可回答问题、权限边界和多跳问题。RAGAS 等自动指标要用人工抽样校准,不能只优化一个分数。

S6-14 了解哪些智能体 Agent

答案: 可按形态回答:框架型有 LangChain/LangGraph、AutoGen、CrewAI;产品型有代码 Agent、研究 Agent、客服 Agent;协议型有 MCP 和 A2A。真正比较要看状态持久化、工具、沙箱、审批、评估、可观测和部署,而不是数量。

S6-15 介绍一些 AI 大模型

答案: 先按能力分通用文本、推理、代码、多模态、Embedding 和语音,再按闭源 API、开源权重、私有化和合规区分。比较时固定版本和业务任务,测质量、稳定性、延迟、成本、上下文、工具调用和部署要求。 模型名会快速变化,不能把公开榜单或一次主观体验当成选型结论。

S6-16 MCP 和 Function Calling 有什么区别

答案: Function Calling 是一次模型调用中表达“调用哪个函数和参数”的接口格式,应用自己注册并执行;MCP 是 Host、Client、Server 之间的能力发现与通信协议,Server 可以提供多个 Tool、Resource 和 Prompt。 MCP 工具最终可以转换成 Function Calling schema 给模型使用,所以它们是不同层次、可以组合。MCP 带来标准化发现和跨应用复用,但授权、审计和执行安全仍由应用负责。

七、牛客:阿里淘宝闪购 Agent 算法工程师一面

本节题目来源:[7] 答案技术依据:[9][10][13][16][17]

S7-01 为什么选 OpenAI Agents SDK,不选开源框架

答案: SDK 的优势可能是工具编排、模型适配和官方维护,但企业场景还要比较数据是否出域、私有化、可审计、扩展性、成本和供应商锁定。正确回答不是宣布某框架最好,而是给出约束下的 trade-off 和迁移方案。 先做接口隔离和离线评测,确保未来能替换模型或运行时。安全合规要求高时,开源或自研并不自动安全,也要审核依赖和执行边界。

S7-02 什么时候需要人工强制中断,如何做 Human-in-the-Loop

答案: 在支付、删除、发布、外发敏感数据等不可逆或高风险操作前暂停;置信度低、权限不足、策略冲突或连续失败也应暂停。运行时发出 approval request,保存 checkpoint,人工批准/拒绝/修改后从同一状态恢复。 停止条件要写进状态机和运行时,而不是只写在 Markdown 指令里。人工操作必须有身份、原因、过期时间和审计记录。

S7-03 高风险在线环境中的 Agent 异常管控

答案: 工具按只读、可逆写入、不可逆操作分级;执行放在沙箱和生产隔离环境;设置最大步数、预算、超时、熔断、人工审批和 kill switch;所有模型、工具和数据访问写结构化审计。 还要防 prompt injection、越权、重放和敏感数据泄漏。安全策略必须在工具网关和业务服务执行,不能只靠系统提示词。

S7-04 token 用量和长周期对话如何管理

答案: 统计输入输出 token、缓存命中、模型、任务类型和租户,按预算做限流和路由。近期上下文保留原文,较早内容做摘要,长期事实和事件结构化存储,恢复时按时间、语义和权限检索。 压缩后要保存来源和时间,避免摘要把推测变成事实。跨周会话还要处理模型版本、用户撤回、隐私删除和记忆冲突。

S7-05 OpenClaw 和 Hermes 的记忆机制如何比较

答案: 这类产品的具体实现应以对应版本公开文档和源码为准,面试回答可以抽象为时间分层记忆与 episodic/semantic 双索引的取舍。前者便于按新鲜度压缩,后者便于按事件和语义召回。 .md 文件适合人可读的规则、摘要和审查,向量库适合大规模语义检索;二者都不能绕过权限、来源、版本和删除机制。

S7-06 Agent 还有哪些未充分优化的空间

答案: 从完成率、失败归因、工具选择、成本、延迟和安全拒绝建立反馈闭环,再决定优化 Prompt、检索、路由、工具 schema、模型后训练或流程。DPO/PPO、仿真和多版本竞争都只是手段,不是没有评测就能使用的答案。 上线前做历史回放和沙箱仿真,线上做灰度和回滚。元认知自评分只能作信号,不能替代外部验收。

S7-07 除了调用 API,有 SFT 或模型层经验吗

答案: 如果有真实经历,应说清数据、任务、基座、冻结层、参数、指标和失败。没有就诚实说做过应用层,并解释理解 SFT、LoRA、QLoRA、RAG 和 rerank 如何影响 Agent,而不虚构训练经验。 应用层选型要先建立 prompt/RAG/API 基线,再判断微调是否能稳定提升;数据量小或知识变化快时,微调通常不是第一选择。

S7-08 你的 Agent 和别人相比核心差异是什么

答案: 用可验证差异回答:工具 schema 更严格、工具集合更小、失败恢复更清楚、状态可恢复、引用可审计,或在固定任务集上成本/轮次/成功率更好。不要只说使用了更大的模型或更复杂的框架。 对比必须固定模型、工具和数据集,并说明提升是否来自路由、Prompt、检索或业务规则,避免把多个变量的变化归因给 Agent 本身。

S7-09 区块链方向做过哪些工作

答案: 这是项目真实性题。应按数据来源、模型/规则、决策、执行和风险控制讲清楚,例如舆情到交易的链路要有权限、限额、人工确认和回滚;图模型识别团伙要说明节点、边、标签、时间泄漏和评估。 没有做过就不要套用别人的项目。通常会沿着数据结构、失败样本和线上约束追问。

S7-10 训练 AUC 92 percent、测试 89 percent,上线跌到 62 percent,如何排查

答案: 优先按数据、标签、serving 三层排查:训练/线上特征分布偏移、线上样本分布变化、特征泄露、标签口径不一致、label delay、标注噪声、模型和 feature schema 版本不一致、在线精度/缺失值处理差异。 先做离线重放和线上样本对齐,比较每个特征的分布、缺失率、版本和时间切分,再核对标签生成链路。AUC 下降不应直接归因于模型,需要把训练、评测和 serving 使用的完整输入逐字段对账。

八、牛客:腾讯 PCG 前端暑期二战一面

本节题目来源:[8] 答案技术依据:[9][11][13][19]

S8-01 什么是闭包,什么时候会用到

答案: 闭包是函数保留对其词法环境的引用,即使外层调用已结束仍能访问变量。它用于封装私有状态、工厂函数、事件回调和函数式组合,但长期持有 DOM 或大对象会延长生命周期,需及时解绑。

S8-02 电商项目如何把 FCP 从 3.3 秒优化到 1.8 秒

答案: 先用 Performance、Lighthouse 和 RUM 分解 DNS、TTFB、资源阻塞、渲染和网络,再针对首屏:减少关键 JS/CSS、SSR/预渲染、图片尺寸和格式优化、关键资源 preload、非关键脚本 defer/async、CDN 和缓存。 目标值必须来自真实 RUM 分位数,不能只看本地 Lighthouse。每项优化都要防止牺牲交互、缓存命中或可访问性。

S8-03 WebP、PNG、JPG 有什么区别

答案: PNG 无损并支持透明,适合图标、截图和需要像素准确的素材;JPG 有损压缩,适合照片;WebP 同时支持有损、无损和透明,通常体积更小,但要考虑编码成本和兼容性。 实际选型按内容、尺寸、透明度、浏览器覆盖和 CDN 转码决定,并用 picture/srcset 提供降级和响应式尺寸。

S8-04 SSE 和 WebSocket 的区别

答案: SSE 是基于 HTTP 的服务端到客户端单向文本流,浏览器 API 简单,适合 token 和进度;WebSocket 是全双工长连接,适合高频双向交互。SSE 需要处理代理超时、重连和事件 id,WebSocket 需要连接治理、心跳和协议设计。 Agent 对话通常请求仍由 HTTP 发起、事件由 SSE 推送;若用户需要持续语音、协同编辑或双向控制,再考虑 WebSocket。

S8-05 流式对话中响应中断如何处理

答案: 前端把事件按序号累积,区分正常完成、服务端错误、网络断开和用户主动停止;断开后用 Last-Event-ID 续传,或按 thread/task id 查询最终状态。后端任务执行不能依赖 SSE 连接存活。 消息渲染要可增量解析,避免半个 JSON 或 Markdown token 破坏 UI。重复事件靠 event id 去重,完成事件必须幂等。

S8-06 Agent 中 ReAct 模式是怎样的

答案: ReAct 将 Reasoning、Acting 和 Observation 交替执行:模型结合目标和当前上下文选择工具,运行时执行并把结果返回,直到满足终止条件。生产环境不应暴露未过滤的内部思维链,而应记录可审计的动作、参数摘要和工具结果。 必须设置最大步数、预算、超时、重复动作检测和人工审批。固定流程用状态图更可控。

S8-07 Skills、MCP、CLI 的区别和优缺点

答案: Skill 是任务流程和规则资产,复用性强但依赖提示和版本治理;MCP 是跨应用能力协议,发现和复用好但增加服务、授权和网络治理;CLI 是命令行接口,原子、易组合、便于沙箱但需要设计输出 schema 和错误语义。 内部流程可用 Skill,外部系统连接适合 MCP,确定性本地操作适合 CLI/Tool。三者可以组合,不能互相替代安全控制。

S8-08 什么是状态机,语音输入为什么要用状态机

答案: 状态机用有限状态和合法转移表达生命周期,例如 idle、recording、processing、speaking、interrupted。语音输入有开始、持续、静音、识别、播放和打断等竞态,显式状态比多个布尔值更容易保证互斥和恢复。 每个事件要定义幂等、非法转移、超时和取消;状态变更最好由单一 reducer 或服务端状态源驱动。

S8-09 封装组件遵循哪些原则

答案: 组件应有单一职责、清晰输入输出、可组合、可测试和稳定的可访问语义;状态尽量靠近使用处,副作用通过明确回调或事件暴露。不要把业务 API、网络请求和视觉组件强耦合。 Agent UI 还要支持 loading、partial、error、retry、cancel 和 approval 状态,不能只设计成功态。

S8-10 AI 聊天框如何实现并承接 SSE

答案: 前端维护 message list、streaming message、connection 状态和 task/thread id,使用 EventSource 或 fetch stream 读取事件;服务端按 event type 推送 delta、tool、approval、error、done。 组件按事件增量更新,done 时固化消息;断线可恢复,用户取消只取消当前任务而不是误删历史。Markdown 渲染要防 XSS,外部链接和 HTML 必须清洗。

S8-11 AI 流式输出图片、PDF、富文本、Markdown、交互组件如何统一渲染

答案: 统一成带 type、id、sequence、status 和 payload 的 Content Block/事件协议,而不是让前端猜字符串。文本块可增量追加,图片和 PDF 返回受控 URL 或 artifact 引用,交互组件返回版本化 JSON schema。 渲染层按类型注册 renderer,未知类型安全降级;资源 URL 需要权限、过期时间和 CSP,组件事件回传要经过服务端授权。

S8-12 用户个人知识库的搭建与使用流程

答案: 上传后保存原文件和权限元数据,异步解析、切块、Embedding、索引;查询时按用户/租户权限过滤,召回、重排、组装上下文并生成带引用的答案。更新和删除需要版本、索引切换和缓存失效。 个人知识库必须支持撤回、过期、分享和审计。向量相似度不是授权机制,过滤应在检索前或检索层强制执行。

S8-13 文档解析、分块、向量化、入库、检索全流程

答案: 解析 PDF、Office、HTML、图片 OCR 得到结构化文档,按标题、段落、表格和语义边界切块并保留父子关系;Embedding 后写向量和关键词索引。查询做权限过滤、混合召回、重排、邻居扩展,再把证据和元数据交给生成模型。 每一步都记录版本和错误。评估要拆检索召回、证据精确、引用和最终答案,不能只看生成文本是否流畅。

S8-14 自研知识库和普通桌面 AI 上传问答的区别

答案: 普通桌面 AI 适合个人临时上传和短期上下文,自研知识库要解决多租户权限、长期更新、版本、引用、审计、成本和可观测性。项目初衷应来自业务数据不能散落、需要可控检索或要嵌入现有工作流。 差异不在“自己部署了向量库”,而在数据治理和稳定的业务契约。

S8-15 Monorepo 与传统单层单体架构优缺点

答案: Monorepo 统一依赖、类型、工具链和跨包变更,适合多个应用共享基础设施;代价是仓库规模、构建缓存、权限边界和发布解耦更复杂。单层单体简单、部署边界清晰,但共享代码和跨项目修改容易复制或协调困难。 Monorepo 不是必须配微前端,关键是 workspace、依赖图、增量构建和版本策略是否成熟。

S8-16 Monorepo 和微前端是同一个东西吗

答案: 不是。Monorepo 是代码组织和协作方式,微前端是运行时或部署时拆分多个前端应用的架构;可以 Monorepo + 微前端,也可以独立仓库 + 微前端,或 Monorepo 但最终构建成单体。 判断微前端是否必要看团队自治、发布隔离、技术栈迁移和组织边界,不要为仓库大就引入运行时复杂度。

S8-17 业界主流大仓和模块化工程方案

答案: 常见组合包括 pnpm/Yarn workspace、Nx、Turborepo、Bazel 等 Monorepo 工具,以及 npm package、模块联邦、组件库、内部 CLI 和设计系统。选择看依赖图、缓存、跨语言、增量 CI、发布和权限,不按工具热度决定。 工程方案的核心是边界和契约:包可独立测试、版本和依赖可追踪,构建结果可复现。

S8-18 为什么需要微前端,解决什么痛点

答案: 当多个团队需要独立发布、自治技术栈或逐步迁移遗留系统时,微前端可以把前端拆成可独立交付单元。它不自动提升性能,反而会引入运行时通信、重复依赖、样式隔离、路由、监控和一致性成本。 如果组织和发布边界没有独立需求,模块化单体或共享组件通常更简单。

S8-19 常见微前端框架及特点

答案: 可按机制回答:single-spa 偏应用编排,qiankun 提供沙箱和生命周期封装,Module Federation 偏模块运行时共享,iframe 隔离最强但通信和体验成本高。具体选择看技术栈、隔离级别、独立部署和性能。 不要只背框架名;需要说明 JS/CSS 隔离、依赖共享、跨应用通信、错误边界和回滚怎么做。

S8-20 微前端的适用场景与优缺点

答案: 适合大型组织、多团队独立发布、遗留系统渐进迁移和业务域自治;缺点是首屏和重复依赖、调试复杂、样式/状态/路由/权限边界难治理。跨应用通信应收敛到稳定事件和契约,避免共享可变全局状态。 上线需要统一监控、版本兼容、降级、超时和错误隔离。没有组织自治需求时不要引入。

S8-21 如何理解 Harness Engineering

答案: Harness 是围绕模型的执行环境和约束系统,包括上下文、工具、状态、测试、权限、反馈、审批和恢复;模型只是其中负责推理的组件。好的 harness 让任务可观察、可验证、可暂停和可回滚。 对 Coding Agent 来说,仓库规则、沙箱、补丁、测试、审查和工具事件共同构成 harness。它不是更长的 system prompt。

S8-22 Agent 人机等待、表单确认和对话闭环如何实现

答案: Agent 遇到需要用户输入或审批时发出结构化 interrupt,保存 checkpoint 和待办 schema;前端展示表单,提交时带 task/version,服务端校验用户、权限和版本后恢复执行。 等待期间任务可过期、取消或被其他操作抢占,不能依赖内存状态。确认内容应是用户能理解的动作、参数、影响和风险,而不是只显示一段模型文本。

S8-23 Harness Engineering 有项目落地实践吗

答案: 有真实经历就按上下文注入、工具沙箱、测试反馈、审查和审批链路回答;没有就说设计过原型。最低闭环是:任务 spec -> 只读探索 -> 小 diff -> 自动检查 -> 人工 review -> 可回滚交付。 衡量 harness 要看任务成功率、无效工具调用、回滚率、人工介入率、成本和安全事件,不是看 prompt 长度。

S8-24 面试回答流畅是提前准备还是真实项目积累

答案: 流畅来自准备,但可信度来自能解释具体数据流、取舍、bug 和失败。回答可以提前组织结构,但不能把模板中的业务、指标和职责冒充真实经历。 遇到不会的内容明确说边界,并说明会如何验证,比编造一个完整架构更可靠。通常会用“为什么不用 B”“失败怎么办”验证真实深度。

九、跨渠道题库补充

以下题目来自牛客、掘金、LinuxDo、思否、InfoQ、腾讯云和 GitHub 的整理题库与公开面经汇总,具体来源按题号映射到 [14]、[20]-[30]。它们纳入本页,但来源类型是 B,不等同于作者自述的实际面试。

B-01 Agent、Workflow、Chain 有什么区别

一句话结论: 三者的分界线是“谁决定下一步”:Chain 是写死的线性调用,Workflow 是代码定义的图(可有分支、并行、循环),Agent 把下一步的选择在运行时交给模型。 机制展开: Chain 适合“固定输入 → 固定处理 → 固定输出”,例如摘要、抽取、翻译;Workflow 用节点和边表达依赖,条件边、map-reduce、orchestrator-workers 都在这一层,路径仍可枚举;Agent 是一个循环:组装上下文 → 模型输出 tool_call 或最终答案 → 执行工具 → 结果回灌 → 判断是否终止。判断标准可以落到两个问题:下一步是否依赖上一步的非结构化输出;路径能否在编码时穷举。两个都成立才考虑 Agent。循环本身怎么实现见 Agent 核心原理。 取舍与失败边界: Agent 灵活,但成本、延迟和步数都不可预测,错误难复现;Workflow 可测试、可预算,却覆盖不了开放输入。最常见的坏场景是拿 Agent 跑本来三步就能完成的固定流程,工具选错率被放大;反面是用 Workflow 硬编码所有分支,分支数指数膨胀。验证方式是在同一任务集上比较成功率、步数分布、P95 延迟和单任务成本,Agent 不显著更好就退回 Workflow。 追问:
  • Agent 里能嵌 Workflow 吗? 能,而且推荐:把固定子流程封装成一个工具或子图,Agent 只决定何时调用、传什么参数。

B-02 ReAct 和 Plan-and-Execute 有什么区别

一句话结论: ReAct 是“想一步、做一步、看一步”的交替循环,Plan-and-Execute 是“先出完整计划、再执行、必要时重规划”;前者适应性强,后者可预算、可并行。 机制展开: ReAct 每轮一次模型调用,上下文按 Thought / Action / Observation 线性增长,模型根据最新观测决定下一步;优点是遇到意外能改道,缺点是容易绕圈、token 随步数累积。Plan-and-Execute 由 Planner 先输出结构化步骤列表(含依赖和验收),Executor 可并行执行无依赖步骤,Replanner 在执行失败或观测与假设冲突时修订计划。工程上常用混合形态:高层计划固定,每个步骤内部再用 ReAct。循环结构见 Agent 核心原理。 取舍与失败边界: ReAct 是局部最优,缺少全局视野,长任务容易在细节里打转;Plan 的前期思考基于不完整信息,计划一旦不成立,Executor 会“硬着头皮执行”。坏场景包括长任务 ReAct 把上下文顶爆,以及计划里引用了根本不存在的工具却没人校验。验证时看三个数:完成率、平均步数、重规划次数;再注入工具失败,观察是改道还是空转。 追问:
  • 什么时候触发重规划? 步骤失败且不可恢复、观测与计划前提矛盾、剩余步骤的前提消失;同时要设重规划上限(1-2 次),否则会变成另一种死循环。

B-03 Agent 为什么会死循环,如何停止

一句话结论: 死循环的本质是“没有新信息进入却还在继续”,检测要同时看步数、重复动作、状态变化和预算,终止权必须由运行时而不是模型掌握。 机制展开: 常见根因有四类:工具反复返回空结果或同样的错误、停止条件只写在 Prompt 里、状态没有真正更新(计划、todo、已读文件都没变)、模型在两个方案之间来回修正。运行时检测器可以这样写:
再补两项:重复工具结果检测、人工终止入口。停止时返回结构化原因并落 trace;涉及写操作,先按幂等键查是否已经生效。完整错误处理见 Agent 错误处理。 取舍与失败边界: 阈值太紧会截断正常长任务,太松会白烧预算;只看 maxSteps 往往要浪费几十步才停。坏场景是模型在 search 和 read 之间乒乓,或工具一直返回 200 但内容为空,模型以为没查到而反复重试。验证方式是注入一个恒定返回空结果的 mock 工具,断言在 N 步内以 no_progress 停止,而不是跑满预算。 追问:
  • 死循环和正常重试怎么区分? 看上下文是否引入新信息:参数变了、拿到了新证据、状态推进了,才算重试;否则就是循环。

B-04 Tool Description 如何写得让模型正确调用

一句话结论: 工具描述是给模型看的接口契约,必须回答“何时用、何时不用、参数从哪来、返回什么、有没有副作用”,而不是一句“查询订单”。 机制展开: 先用“何时不用”把重叠工具划开。差的做法是两个工具都写“能查”:
好的做法是互相排除:
参数侧给 pattern、enum、单位(amountCents)、默认值、上下界和 additionalProperties: false;返回统一 {ok, data, meta};错误给 code、retryable、hint。工具名同样要稳定,改名等于破坏缓存和评测基线。四层设计见 Tool Calling。 取舍与失败边界: 描述写长会挤占上下文并稀释重点,写“请智能判断”这类话不可验证;描述永远不是权限,模型仍可能调用不该调的工具。坏场景是两个工具语义重叠、模型随机选,或参数是自由字符串导致格式错。验证方式是维护工具选择 fixture,分别统计选错、漏调、参数错误三类比例,改描述后跑 A/B。 追问:
  • 两个工具还是分不清怎么办? 优先合并成一个带 mode 参数的工具;合并不了就说明领域边界没拆清,继续堆描述收益很低。

B-05 Function Calling 失败如何恢复

一句话结论: 恢复策略要按“错误是否可行动”分类,而不是按异常类型一刀切:能改参数的交模型,瞬态错误交工具层退避,权限和业务拒绝直接终止。 机制展开: 先分两层。协议错误(未知工具、请求结构非法、Server 内部错误)走 JSON-RPC error,模型通常无法自愈;工具执行错误用 isError 加结构化体返回,至少含 code、message、retryable、hint、field。常见码:INVALID_ARGUMENT 可修正、NOT_FOUND 提示先查询、CONFLICT 要求先读状态、RATE_LIMITED 由工具层退避且对模型透明、UPSTREAM_UNAVAILABLE 有限重试、PERMISSION_DENIED 与 BUSINESS_RULE 不重试。执行分三层:工具层指数退避 2-3 次;模型层读 hint 改参数 2-3 次;编排层换工具、拆任务或转人工。实现见 Tool Calling。 取舍与失败边界: 把所有错误标成 retryable 会造成重试风暴;把业务错误抛成 500 会被当成基础设施故障;把堆栈直接回灌既浪费 token 又泄露内部路径。最危险的边界是写操作:没有幂等键的重试会重复扣款或重复发消息。验证时注入 429、超时、坏参数、权限不足四类故障,检查分类是否正确、副作用是否恰好一次。 追问:
  • 模型连续三次改不对参数怎么办? 停止自动修正,返回可行动提示或转人工;继续重试只会烧预算,还会把错误参数写进下游。

B-06 Agent Memory 与 RAG 有什么区别

一句话结论: RAG 检索的是外部知识,用来提供事实证据;Memory 保存的是用户、任务或 Agent 自身的历史状态,用来维持连续性。二者数据来源、写入频率和生命周期都不同。 机制展开: RAG 是“写少读多”:离线解析、切块、Embedding、建索引,在线 query → 召回 → rerank → 拼上下文,输出要能引用来源。Memory 是双向的:写路径要做抽取(实体、偏好、承诺)、去重、冲突合并、TTL 与删除;读路径按 user_id、thread_id、任务场景检索。Memory 通常分三层:工作记忆是当前上下文,情景记忆是历史事件,语义记忆是稳定偏好与事实。RAG 的工程细节见 RAG 核心原理,记忆分层见 Agent 记忆系统。 取舍与失败边界: 把每句聊天都写进 Memory 会污染检索并放大隐私风险;把 Memory 当 RAG 用,会缺时间语义、冲突处理和删除能力。坏场景是用户改了收货地址,旧记忆仍被召回;或用户要求删除数据,但摘要里仍残留。验证时构造“更新偏好”“删除数据”“多设备并发写”三类用例,断言只返回最新值且删除可传播到索引和缓存。 追问:
  • Memory 一定要向量库吗? 不一定。结构化事实用 KV 或关系库更准、更易更新;只有非结构化历史(对话、事件)才需要向量检索。

B-07 短期记忆和长期记忆如何分层

一句话结论: 短期记忆是当前 thread 的工作集,重点是顺序、完整和可恢复;长期记忆是跨会话的稳定事实与事件,重点是检索、更新和遗忘。 机制展开: 短期记忆包含消息列表、工具结果、计划与 todo 状态,超出预算时按“系统硬约束 > 未完成项 > 最近对话 > 可重算内容”的顺序裁剪,并持久化到会话日志以支持 resume。长期记忆的写入要经过抽取器:识别实体、偏好、承诺和事实,去重后做冲突判定(时间戳、来源可信度、是否用户显式输入),再设置 TTL 或遗忘策略;读取时按用户、场景和租户过滤,注入上下文时带时间与来源。分层设计见 Agent 记忆系统。 取舍与失败边界: 长期记忆写得太积极会记错、过时、侵犯隐私;写得太保守则用户每次都要重复信息。坏场景是把一次性内容(临时地址、调试参数)永久化,或多端并发写入互相覆盖。验证方式是回放“用户改地址”和“删除我的数据”两个场景,检查旧值不再被召回、删除能传播到索引与缓存、冲突时以显式输入为准。 追问:
  • 记忆冲突怎么裁决? 用户显式输入优先于模型推断,新时间戳优先于旧值,高可信来源优先;仍无法裁决就向用户确认,而不是静默选一个。

B-08 如何做上下文压缩

一句话结论: 压缩的目标是“保住决策所需的不变量”,不是把 token 压到最小;先做无损裁剪,再做有损摘要,最后用任务集验证。 机制展开: 有四种操作,不要只会上摘要:裁剪(丢重复、丢已被替代的中间结果)、摘要(按任务阶段而不是按时间平均切)、外置(大结果落 artifact,只留 URI 和摘要)、按需检索(需要时再取)。必须保留的清单:系统硬约束与安全规则、用户目标与验收标准、已做决策及理由、未完成 todo、已执行写操作的幂等键、证据来源与不确定性。顺序是先结构化去重,再生成摘要,最后用规则校验硬约束是否仍在。 取舍与失败边界: 摘要不可逆,模型自摘要可能失真;压缩太频繁会多花钱,还可能把关键约束摘要掉。坏场景是把“不要删除生产库”这类硬约束压没,或压缩后重复执行已完成的写操作。验证方式是在压缩前后跑同一任务集,断言关键约束仍被遵守、引用仍存在、副作用不重复,并统计压缩导致的返工次数。上下文预算的整体设计见 Agent 上下文工程。 追问:
  • 压缩用大模型还是小模型? 摘要可以用小模型,但硬约束、幂等键这类关键信息要用规则抽取和结构化字段保存,不能交给生成模型“记得住”。

B-09 RAG 为什么召回不到正确文档

一句话结论: 先分层定位是“文档根本没进候选”还是“进了候选但没排上来”,再改对应层;直接调大 top-k 通常只是把噪声一起放进来。 机制展开: 链路是:解析 → 切块 → Embedding → 建索引 → query 改写 → 召回 top-k → 权限/时间过滤 → rerank → 拼上下文。诊断时用带 gold chunk 的评测集分别统计:目标文档是否在库里、是否被 filter 掉、是否在 top-50、是否进 top-3;对应 Recall@k 与 MRR。常见修法:表格和 PDF 换解析器;递归切块 500-1500 字符、重叠 10-20%;向量 0.6 加 BM25 0.4 做混合检索;query 改写或 HyDE;用 Cross-Encoder 做 rerank;把权限过滤前置但不要误杀。详见 RAG 检索策略。 取舍与失败边界: 加 top-k 提升召回但引入噪声和成本;rerank 提升精度但增加延迟;query 改写会漂移。坏场景是 filter 写错导致结果全空或跨租户,以及索引没更新导致新文档永远搜不到。验证方式是用 50-200 条带 gold 的问题集逐层看指标,确认瓶颈到底在解析、召回还是排序。 追问:
  • 召回高但答案还是错怎么办? 问题在排序或生成,检查引用是否覆盖 claim、上下文是否被截断,做 faithfulness 评估;继续加 top-k 只会更糟。

B-10 RAG 与微调怎么选

一句话结论: 知识用 RAG,行为和格式用微调;知识频繁变化、需要引用或按权限过滤时优先 RAG,需要稳定改变输出风格、格式或领域行为时考虑微调,两者可以叠加。 机制展开: RAG 把知识放在外部索引,更新等于重建或增量更新索引,可以引用、按 ACL 过滤、按时间过滤,删除一条知识也容易;微调改的是权重,把“怎么答”固化,推理时不需要检索,但无法保证事实时效,也做不了行级权限。判断维度可以列成四问:知识变更频率高不高、是否需要引用溯源、是否有租户隔离、是否有稳定的输出格式或领域语气要求。取舍分析见 RAG 与微调与 LLM 训练流程。 取舍与失败边界: 微调成本高、迭代慢,可能灾难性遗忘,合规上也很难“删除某条知识”;RAG 依赖检索质量,增加延迟和上下文成本。坏场景是用微调记产品价格,价格一改就错且无法审计。验证方式是同一批问题分别跑 RAG、微调、组合三种方案,比较事实准确率、引用率、格式合格率和单位任务成本。 追问:
  • 微调能减少幻觉吗? 它能改善“该拒答、该按格式答”的行为,但不能替代事实来源;事实仍然要来自检索或业务 API。

B-11 如何处理多跳问题

一句话结论: 多跳要靠“问题分解 + 逐跳取证 + 实体对齐”,不是把 top-k 调大;每一跳都要留下可引用的证据,错误才能定位。 机制展开: 先把问题拆成子问题图,例如“谁 → 哪家公司 → 哪年营收 → 同比”。每跳执行检索或 API 查询,抽取实体与关系,写入证据图:节点是实体或文档片段,边是关系并附带来源、时间、置信度。实体要消歧:同名、别名、单位、时间口径。最后一跳基于证据图生成,逐条引用。工程约束:最大跳数(4-6)、每跳至少一条可引用证据、无新证据即终止。RAG 的多路召回与重排见 RAG 高级优化。 取舍与失败边界: 串行多跳延迟高,错误会逐跳累积;并行分解容易漏掉依赖关系。坏场景是第一跳实体就认错,后面全错但模型非常自信;或中间结果被摘要后丢掉来源,最后无法引用。验证方式是构造 2 跳、3 跳问题集,分别统计每跳命中率和最终正确率,把错误归因到具体某一跳,而不是只看总分。 追问:
  • 什么时候该上 GraphRAG? 关系密集、需要全局主题或多跳连接时;单纯的事实问答用向量检索加 rerank 更便宜也更快。

B-12 GraphRAG 解决什么问题

一句话结论: GraphRAG 把“实体-关系”显式建模,解决跨文档连接、全局主题归纳和多跳推理;代价是抽取、消歧和更新都更贵。 机制展开: 离线阶段用 LLM 从文档中抽取实体、关系和社区摘要,构建图;在线阶段先做实体链接,再做邻域扩展、路径查询和社区摘要聚合,最后把子图作为证据交给生成。它擅长“这几份报告有哪些共同风险”“A 和 B 是什么关系”这类问题,而向量 RAG 擅长“某条事实是什么”。图结构、社区摘要与向量索引可以混合使用。相关背景见 RAG 与知识图谱。 取舍与失败边界: 图的质量取决于抽取 Prompt 和本体设计,噪声边会放大错误;更新比向量索引贵,实体消歧错一次会污染整片子图。坏场景是本体过细导致图稀疏、过粗导致没有信息量,或同名实体被错误合并。验证方式是在同一多跳集上与向量 RAG 对比答案正确率和证据覆盖率,收益不足就不上图。 追问:
  • GraphRAG 能替代向量检索吗? 不能。通常图负责关系扩展和全局归纳,向量负责语义召回,二者混合比二选一稳定。

B-13 如何评估 Agent 的幻觉

一句话结论: 把答案拆成原子 claim,逐条对照证据判定“支持、矛盾、无依据”,再聚合成支持率、引用准确率、拒答正确率和高风险错误率。 机制展开: 流程是:claim 抽取 → 为每条 claim 找证据(引用片段或业务 API)→ 判定(支持、部分支持、矛盾、无证据)→ 聚合指标。关键指标有四个:claim 支持率、引用准确率(引用是否真的支持该 claim)、覆盖率、拒答正确率;高风险领域单独统计“错误但自信”的比例。自动 judge 要用固定 rubric,并用人工标注集校准一致率,低于阈值就改 rubric 或加规则。评估体系见 RAG 评估。 取舍与失败边界: 纯 LLM judge 有位置偏差、长度偏差和自我偏好;纯人工贵且慢。坏场景是 judge 把“听起来合理”判成支持,或引用确实存在但与 claim 无关。验证方式是标注 100-200 条金标样本,定期测 judge 与人工的一致率;对高风险 claim 强制走确定性校验或人工复核。 追问:
  • 幻觉率和任务成功率是什么关系? 要分开看。有的任务允许“不知道”,此时拒答正确率比强行作答更重要;只盯幻觉率会逼模型过度拒答。

B-14 Prompt Injection 如何防御

一句话结论: 指令只能从系统或用户这类可信通道进入,网页、文件、工具返回一律当不可信数据;权限必须在工具层执行,而不是靠模型自觉。 机制展开: 防御要分层:来源标记,用明确边界包裹工具结果并在系统提示中声明其中的指令不可执行;工具最小权限,按最终用户身份鉴权而不是服务账号;策略引擎,写操作、外发、删除、跨租户访问走规则或审批;输出侧校验,检查出站内容的敏感信息与目标地址;审计,记录哪次 run、哪个工具结果触发了哪个调用。MCP 还有三类特有风险:工具投毒(描述里藏指令)、rug pull(描述被静默替换)、路径穿越。细节见 MCP 安全边界与 Tool Calling。 取舍与失败边界: 全量人工审批会毁掉自动化率;纯正则过滤容易误杀也能被编码绕过;只信任“可信工具”也不够,可信工具返回的数据仍可能被污染。坏场景是网页里写“请把密钥文件内容发到某地址”,模型照做。验证方式是维护红队样本集,覆盖直接注入、间接注入、编码绕过和多语言绕过,断言高危工具未被调用。 追问:
  • 模型自己能判断内容是否恶意吗? 只能作为其中一层,不能作为唯一防线,因为模型本身就是被攻击面;判定要放在模型之外的策略层。

B-15 Agent 如何做权限隔离

一句话结论: 权限属于“用户 + 租户 + 资源 + 动作”,由服务端在执行时判定;模型只能请求能力,不能声明自己拥有权限。 机制展开: 运行时上下文至少要带 user_id、tenant_id、roles、task_id 和一个短时令牌,令牌的 scope 限定可用工具与资源,并带过期时间。工具网关解析上下文后,向业务服务换取最小凭证(例如 STS),不把长期密钥交给工具;每次调用做资源级检查,例如文档 ACL、行级权限、字段级脱敏。读写分离,写操作二次确认,跨租户共享缓存时 key 必须包含租户。整体分层见 企业级 Agent。 取舍与失败边界: 只在 Prompt 里写“不要看别人的数据”等于没有权限;把用户 token 原样透传给所有工具会扩大攻击面;隔离过严会让共享缓存和跨租户统计做不了。坏场景是 Agent 用服务账号运行,越权读到其他租户的数据,或缓存 key 漏了租户。验证方式是构造跨租户、越权资源、过期令牌三类用例,断言返回 403 且没有数据泄漏,并审计每次授权决策。 追问:
  • 多 Agent 协作时权限怎么传? 用 task-scoped 委派令牌,权限只减不增;Lead Agent 不能把超出自己 scope 的权限授予子 Agent。

B-16 如何设计 Agent 的可观测性

一句话结论: 以 trace 为单位,把模型、检索、工具、队列和审批串起来,目标是能回答“这次为什么这么答”,而不只是看到一条报错。 机制展开: 一次 run 一个 trace_id,span 覆盖:llm.call(模型与版本、prompt 版本、token、首 token 延迟)、retrieval(query、top-k、命中 id 与分数)、tool.call(名称、参数摘要、耗时、错误码、是否截断)、approval、queue_wait。日志分级:结构化事件加摘要,敏感全文放受控归档。指标看:任务成功率、步数分布、P95 延迟、单任务 token 与成本、工具错误率、循环终止率、人工介入率。设计细节见 Agent 可观测。trace 要带采样标记,全量高成本采集只对高风险任务开启,否则存储成本会先于价值到来。 取舍与失败边界: 全量记录成本高且容易泄密;只记结果无法归因;采样率过低会漏掉长尾失败。坏场景是 trace 里直接存了完整用户隐私,或错误只有 message 没有 code,无法聚合。验证方式是随机抽 20 条线上失败,要求 5 分钟内定位到具体 span、具体版本和具体输入。 追问:
  • 它和普通 APM 有什么不同? 多了 Prompt、模型、工具语义和 token 成本这些维度,还要能把一次 run 的输入上下文回放到可解释的程度。

B-17 Agent 评估集如何构建

一句话结论: 从真实流量分层抽样,覆盖成功、失败、边界、对抗和高风险任务,每条样本都要绑定可判定的期望,而不是只存一句“参考答案”。 机制展开: 每条样本至少包含:输入与上下文(含租户)、期望结果(答案要点、目标状态或产物)、证据、工具断言(必须调用、禁止调用、参数约束)、评分方式(精确匹配、rubric、单元测试)。分层维度是意图 × 难度 × 风险,避免全是 happy path。数据集要版本化,并与训练数据、few-shot 示例隔离,防止污染。触发回归的条件包括:模型版本、Prompt、工具 schema、索引和依赖变更。 取舍与失败边界: 只用公开 benchmark 反映不了业务;全自动 judge 不稳;样本太多跑不完,太少没有统计意义。坏场景是评估集里混进了线上 few-shot 导致分数虚高,或只测正常路径。验证方式是给评估集做“变异测试”:人为注入一个已知 bug,看评估集能否检出;检不出说明样本或断言不够。 追问:
  • 多少条才够? 按意图分层、每类 20-50 条起步,先保证覆盖和可判定;总量不是关键,缺哪类场景才是风险。

B-18 如何降低 Agent 成本和延迟

一句话结论: 顺序应该是先削掉无效调用,再优化单次调用的成本,最后才考虑换小模型;直接降级模型通常是用质量换数字。 机制展开: 可落地的手段:工具裁剪与按意图动态暴露,减少选错和无效往返;上下文预算与结果截断,避免历史无限增长;Prompt Cache,把系统提示和工具定义放在稳定前缀;结果缓存,key 包含 query 与索引版本;小模型路由,分类、抽取这类任务交给小模型;并行无依赖子任务;限制 max_tokens 和停止序列;用流式输出降低首 token 等待。上下文与缓存设计见 Agent 上下文工程。 取舍与失败边界: 缓存会带旧数据;小模型会降质;并行会抬高瞬时 QPS 触发 429。坏场景是为了省 token 砍掉关键约束,导致返工,总成本反而更高。验证方式是同时看成功率、P95 延迟和单位成功任务成本,做 A/B 而不是只看均值;优化后必须跑一遍评估集,确认质量没有暗降。 追问:
  • 首 token 延迟怎么降? 缩短输入前缀、启用 Prompt Cache、减少工具定义数量、流式输出;换更大模型通常只会更慢。

B-19 Multi-Agent 何时不该使用

一句话结论: 路径固定、角色共享同一份上下文、工具边界不清、单 Agent 已经达标时都不该拆;拆分的正当理由只有上下文隔离、权限隔离、专业工具集、可并行和独立验收。 机制展开: 拆成多 Agent 后,成本不只是多几次模型调用:通信要传 token,状态要同步,调度要处理超时和重试,权限要通过委派令牌传递,错误会在 Agent 之间传播,调试从一条链路变成多张图。判断是否值得拆,可以先问三件事:子任务是否真的有独立上下文、是否有独立的权限或工具边界、是否能并行并独立验收。组织形态见 Multi-Agent。 取舍与失败边界: 多 Agent 提升的是“可分工”,不是“更聪明”;没有 Lead 收敛时,多个 Agent 容易形成错误共识。坏场景是三个 Agent 互相转述丢信息,或子 Agent 各自重试写同一资源导致重复副作用。验证方式是与单 Agent 基线对比成功率、总 token、P95 延迟和人工介入率;提升不显著就不拆。 追问:
  • 两个专家意见冲突怎么办? 由 Lead 按证据和验收标准裁决,不能投票了事;无法裁决就升级人工,而不是让它们继续互相说服。

B-20 Supervisor、Peer-to-Peer、Pipeline 如何选

一句话结论: 看控制权、依赖形态和容错要求:集中路由选 Supervisor,固定阶段选 Pipeline,自治协作才用 Peer-to-Peer。 机制展开: Supervisor 由中心节点持有计划、预算、路由和最终裁决,子 Agent 状态短、职责单一,适合任务可分解但需要统一收敛的场景;Pipeline 按阶段串行,每个阶段有输入输出 schema 和验收标准,失败可以只重跑单个阶段;Peer-to-Peer 用共享黑板或消息总线,节点去中心化,靠协议、超时和幂等收敛。三种形态可以组合:Supervisor 管阶段,阶段内部用 Pipeline。对比见 Multi-Agent与 Lead Agent。 取舍与失败边界: Supervisor 有单点瓶颈和调度复杂度;Pipeline 不灵活、阶段耦合强;Peer 治理最难,容易死锁、重复工作和错误共识。坏场景是 Peer 网络里两个 Agent 无限互相确认,或 Pipeline 中间阶段失败要全量重跑。验证方式是注入子 Agent 超时、返回垃圾、部分失败,观察能否降级、能否只重跑失败阶段。 追问:
  • 混合形态怎么设计? Supervisor 持有预算与终止权,阶段用 Pipeline,专业子任务拉起小规模 Peer 组;任何一层都不能绕过 Supervisor 的停止条件。

B-21 MCP 的 Tool、Resource、Prompt 分别是什么

一句话结论: Tool 是可执行动作,Resource 是可读取的上下文资源,Prompt 是可复用模板;三者都由 Server 暴露,但是否展示、是否允许调用由 Host 决定。 机制展开: Tool 带 name、description、inputSchema,调用可能产生副作用,所以需要授权与审计;Resource 用 URI 标识(如 file://、db://),支持列举、读取和订阅变更,适合把文档、日志、表结构提供给模型;Prompt 是带参数的模板,通常由用户显式选择,返回一组 messages。Host 负责发现、按角色过滤、授权和记录,模型看到的只是被裁剪后的子集。协议细节见 MCP 与 Skill。 取舍与失败边界: 把一切能力都做成 Tool,会让只读上下文也走执行路径,难缓存、难授权;把动态查询做成 Resource 又缺少参数化能力。坏场景是 Resource 返回超大文件直接灌进上下文,或 Prompt 被当成系统指令绕过权限。验证方式是按角色分别拉取 tools/list 和 resources/list,断言未授权项既不可见也不可调用。 追问:
  • Resource 和 RAG 是什么关系? Resource 是协议层的上下文读取接口,RAG 是检索策略;可以把检索结果作为 Resource 暴露给模型,两者不冲突。

B-22 MCP Server 如何设计安全边界

一句话结论: 把 Server 当成“不可信执行面”来设计:能力按最小粒度拆分,输入严格校验,授权在服务端按最终用户判定,结果限额,写操作可确认可审计。 机制展开: 落地清单:工具按能力拆分(read_file 与 write_file 分开,删除单独授权);schema 严格,additionalProperties: false、pattern、enum 齐全;路径规范化并限制在允许目录,防 ../ 穿越;服务端按最终用户鉴权,不用服务账号一把梭;读写分离;返回结果有大小上限并做敏感字段脱敏;写操作带幂等键、二次确认和审计;依赖与版本锁定,防工具描述被静默替换(rug pull);stdio 与 HTTP 传输分别做来源校验和认证。设计要点见 MCP 与 Skill。 取舍与失败边界: 拆得太细会导致工具爆炸和选择困难;全量审批会降低可用性;只做 schema 校验挡不住业务越权。坏场景是工具描述被替换后引导模型读密钥,或模型构造路径穿越读到系统文件。验证方式固定四类用例:越权、穿越、超长输出、描述变更;同时对 tools/list 做哈希快照,变更走审批。 追问:
  • 本地 stdio Server 就安全吗? 不。它继承宿主权限,往往比远程更危险,必须加沙箱、目录限制和最小权限。

B-23 A2A 的 Agent Card、Task、Artifact 是什么

一句话结论: Agent Card 是能力与认证声明,Task 是有生命周期的远程工作单元,Artifact 是可交付的产物;三者让客户端不必了解对方内部用什么框架。 机制展开: Agent Card 描述名称、技能、端点、支持的传输方式与认证方式、输入输出模态,客户端据此发现和选择 Agent;Task 有 id、状态(submitted、working、input-required、completed、failed、canceled)、消息历史和进度事件,支持流式通知与异步恢复;Artifact 承载文件或结构化结果,带 mime 类型和引用,大文件通过 URI 分段获取;Agent Card 要版本化,客户端缓存也要有过期策略。协作模式见 Multi-Agent。 取舍与失败边界: Card 是自描述,可能过期或夸大能力;Task 生命周期长,需要持久化和幂等提交;Artifact 如果内联大文件会撑爆传输。坏场景是 Card 声称支持某能力但实际返回错误,或客户端重试导致重复交付。验证方式是用契约测试校验 Card 与实际行为一致,并做断线重连后按 task id 恢复的演练。 追问:
  • A2A 和 MCP 有什么区别? MCP 解决 Host 到工具/资源的连接,A2A 解决 Agent 与 Agent 的对等协作,粒度是 Task 和 Artifact,不关心对方内部实现。

B-24 A2A 为什么适合长任务

一句话结论: 因为 Task 有显式状态和事件流,客户端可以断开再回来,不必一直挂着一个长连接;进度、补充输入和最终产物都有明确的协议位置。 机制展开: 提交后返回 task id,服务端通过 SSE 或推送发状态变更,客户端也可以轮询;input-required 状态支持多轮补充信息;完成后按 Artifact 引用取结果。要真正落地,还需要:任务持久化、幂等提交键、取消语义、超时与心跳、回调地址认证防重放。相比“一次 HTTP 请求等到结束”,这套模型把长任务变成可观测、可恢复的状态机。 取舍与失败边界: 异步带来最终一致和重复通知;长任务占用资源需要配额和排队;取消后是否回滚要和业务约定。坏场景是网络断后客户端重复提交产生两个任务,或取消后服务端仍继续执行副作用。验证方式是跑三个用例:断网重连、重复提交、执行中取消,检查任务唯一性和副作用次数。 追问:
  • 长任务进度怎么报? 用阶段级事件加粗略百分比,不要伪造精确进度;关键是可恢复、可解释,而不是实时。

B-25 Skill 和 Prompt 有什么区别

一句话结论: Prompt 是“说什么”,Skill 是“怎么把一件事做完”的可复用能力包,包含流程、资源、工具和验收标准;Skill 可以内含 Prompt,但治理要求完全不同。 机制展开: 一个 Skill 通常包含:触发描述(何时使用、何时不用)、步骤或 SOP、依赖的工具与脚本、模板与参考资料、输入输出 schema、验收标准、版本号。为了省上下文,采用渐进式披露:每轮只注入名称和一段短描述,命中后才加载正文与资源。Prompt 只是一次调用或一个角色的指令片段,没有依赖、版本和验收的概念。设计细节见 MCP 与 Skill。 取舍与失败边界: Skill 抽象过度会变成难维护的框架;描述写得太泛会误触发,写得太窄会漏触发;版本不兼容会让旧调用直接失败。坏场景是两个 Skill 触发条件重叠、模型随机选,或 Skill 内脚本绕过权限直接访问外部系统。验证方式是构造“该触发、不该触发”的样本测选择准确率,并对 Skill 做版本与依赖检查。 追问:
  • Skill 和 Tool 的区别? Tool 是单次能力调用,Skill 是任务级封装,内部可以编排多个工具,并带有验收和版本。

B-26 CLI 和 Tool 有什么区别

一句话结论: CLI 是面向人和脚本的进程接口,Tool 是面向模型运行时的结构化契约;CLI 可以被包装成 Tool,但不能把任意 shell 直接交给模型。 机制展开: 包装时要处理六件事:固定命令模板与参数 schema,不让模型拼 shell 字符串;stdout 解析,优先 JSON,非 JSON 做截断和摘要;退出码映射成结构化错误码;超时与进程组 kill,防止子进程残留;cwd 限定在工作区,环境变量走白名单;输出大小上限并显式标注截断。这样模型看到的仍是“参数进、结构出”,而不是一段不可控的命令。 取舍与失败边界: CLI 通用、接入省事,但参数是字符串、审计粒度粗、注入风险高;结构化 Tool 可控,但每加一个能力都要写代码。坏场景是模型拼出 rm -rf 或管道外发数据,或交互式命令一直挂起。验证方式固定四类用例:shell 元字符注入、超长输出、非零退出码、交互式命令,断言都能被拦截或安全终止。工具设计规范见 Tool Calling。 追问:
  • 为什么不直接给 bash? bash 是兜底入口,结构化工具能表达权限、截断和差异,审计粒度更细;两者应该并存而不是二选一。

B-27 如何设计 Agent 的重试机制

一句话结论: 按层重试:工具层自愈瞬态错误,模型层修正参数,编排层负责降级;只对 retryable 的错误重试,写操作必须先有幂等保障。 机制展开: 分类先行:429、超时、5xx 可以指数退避加 jitter,重试 2-3 次;INVALID_ARGUMENT 带 field 和 hint 交模型修正,最多 2-3 次;PERMISSION_DENIED、CONFLICT、BUSINESS_RULE 不重试,直接改方案或终止。总预算要同时限制次数、总时长和 token。写操作的重试必须先查幂等表,确认上一次是否已经生效,再决定重发还是返回已有结果。分层职责见 Tool Calling。 取舍与失败边界: 把所有错误都标成可重试会形成重试风暴;重试写操作可能重复扣款;退避太长会拖高尾延迟。坏场景是下游返回 500 但请求其实已成功,重试导致双写。验证方式是故障注入加幂等表检查,断言同一业务键的副作用恰好一次,并统计重试放大倍数。 追问:
  • 重试和重规划怎么选? 错误能通过改参数解决就重试;如果计划的前提已经失效(工具不存在、权限没有、资源状态变了),应该重规划而不是重试。

B-28 如何实现 Agent 取消

一句话结论: 取消是一次状态变更加信号传播,不是前端断开连接就完事;必须让 Worker 在安全的检查点停止,并如实记录已发生的副作用。 机制展开: 请求先写入 task.state = cancel_requested,再通过 AbortSignal 或等价的 context 传播到模型调用、工具执行和队列。长循环在每个 step 边界检查信号;流式输出要能中断并停止推送普通进度。不可中断的外部操作(已提交的支付、已发出的邮件)不能假装取消,要登记为“待补偿”并明确告知用户。最后保留取消原因、已完成步骤和副作用清单。长时间任务的状态设计见 长任务 Agent。 取舍与失败边界: 强杀进程简单,但会留下半写文件;软取消可能延迟生效;补偿逻辑本身也可能失败。坏场景是用户点了取消,Agent 仍发出一条消息,或取消时正好在写文件导致内容损坏。验证方式是在工具执行中、模型流式输出中、队列等待中三个位置分别取消,检查资源释放、状态终态和副作用记录是否一致。 追问:
  • 取消要不要回滚? 不可逆操作尽量不回滚,改为补偿加告知;可逆的临时资源(临时文件、沙箱、预留额度)必须清理。

B-29 如何实现断点恢复

一句话结论: 从最后一个已确认的 checkpoint 继续,而 checkpoint 必须包含“恢复执行所需的最小充分状态”,否则恢复只会制造重复副作用。 机制展开: checkpoint 至少保存:run/thread id、step 序号、消息与计划版本、待执行的 tool_calls、已完成工具结果与幂等键、上下文摘要版本、已消耗预算、外部资源引用。写入顺序要么先 checkpoint 再执行副作用,要么用 outbox 记录意图;恢复时先识别 pending tool call,再查副作用是否已经生效,最后决定重放还是复用结果。事件与状态的关系见 Agent 运行时。 取舍与失败边界: 每步都 checkpoint 成本高、快照也大;状态与外部副作用不一致是最难的部分。坏场景是恢复后重复执行已经成功的写操作,或 checkpoint 版本升级后旧数据读不出来。验证方式是在 tool/call 写入后、tool/result 写入前 kill 进程,恢复后断言副作用恰好一次;并发触发两次 resume,断言只有一个拿到执行权。 追问:
  • checkpoint 存哪里? 元数据和状态入库,大快照放对象存储,按 run id 和版本索引;关键是可按版本兼容读取,而不是只存一份 JSON。

B-30 如何做 Agent 的灰度发布

一句话结论: 灰度要以“版本单元”整体切换:模型、Prompt、工具 schema、索引快照一起切,按租户、流量或任务类型分流,并且随时能整体回退。 机制展开: 先定义版本 manifest:model_id、prompt_hash、toolset_hash、index_snapshot、代码版本。流程是离线回归 → shadow(同输入双跑,不对外)→ 小流量(1%-5%,可先按租户白名单)→ 扩量 → 全量。每个阶段看任务成功率、P95 延迟、单任务成本、安全拒答率和人工介入率。异常时按 manifest 一键回旧版,状态 schema 要保证双向兼容;分流维度必须互斥,避免同一请求同时命中多个实验组。 取舍与失败边界: 只灰度模型不灰度 Prompt 等于没灰度;shadow 有双倍成本;按用户分流会让同一会话出现版本漂移。坏场景是新旧 checkpoint 不兼容导致恢复失败,或回滚后索引已经变了。验证方式是灰度期间做一次回滚演练,断言会话可继续、无重复副作用。发布体系见 Agent 可观测。 追问:
  • 停止条件怎么定? 成功率下降超过阈值、成本超预算、出现高危工具误调用,任一触发就回滚,不要等指标“再观察一下”。

B-31 如何处理工具返回超大结果

一句话结论: 做三层控制:单条结果上限、单轮工具结果总预算、结构化摘要加引用回读;截断必须显式,否则模型会以为自己看到了全量。 机制展开: 按类型定额:单条查询 2-4KB、列表搜索 8-16KB、文件读取 16-32KB、日志 8KB、二进制和图片不内联。结构化结果先摘要再序列化,统一返回 {ok, data, meta},meta 里写 total、returned、truncated、nextCursor。纯文本用头尾保留:开头通常是结构和字段名,结尾通常是错误和堆栈;中段丢弃并写明省略了多少行。大内容落 artifact,只回 URI 和摘要,模型需要时再按行区间或分页读取。 取舍与失败边界: 头尾截断会丢中段的关键错误;让模型自己总结要多一次调用且可能失真;只回路径会让模型反复读同一文件。坏场景是一次 grep 十万行把上下文顶爆,随后压缩又把系统提示里的硬约束摘要掉。验证方式是构造超长输出 fixture,断言 token 上限、错误行仍在、artifact 可回读,并统计“因结果过长导致的重复调用次数”。详见 Tool Calling。 追问:
  • 谁来截断? 工具做语义裁剪(它知道哪些字段重要),Harness 做统一兜底,防止任何工具突破预算。

B-32 如何避免模型被过多工具干扰

一句话结论: 先减少候选数量,再改描述;工具选择准确率会随候选数和语义重叠度下降,继续堆说明文字收益很小。 机制展开: 可做的手段:合并低价值的原子工具(能用一个带模式参数的工具表达就别拆三个);按意图或阶段动态筛选工具(tool search、按节点挂载);命名带领域前缀,避免 query、lookup、search 这类泛化词;用“何时不用”划边界;给每轮暴露数量设上限;把低频能力收进一个通用工具加参数。评测时看工具选择 fixture 的选错率、漏调率和参数错误率。取舍分析见 Tool Calling。 取舍与失败边界: 动态筛选本身可能筛错;过度合并会让参数复杂、描述难写;全量暴露省事但准确率低。坏场景是两个工具描述都写“查询”,模型随机选;或工具定义常驻占掉几千 token,把系统指令稀释掉。验证方式是固定任务集,对比暴露 50 个工具和 10 个工具时的成功率与无效调用数。 追问:
  • 工具数量为什么会影响上下文成本? 每个工具的名称、描述和 schema 都常驻,几十个工具很容易占掉数千 token,而且会分散模型的注意力。

B-33 Agent 的结构化输出为什么仍需业务校验

一句话结论: schema 只能保证“形状对”,不能保证资源存在、金额正确、权限充分、状态允许,所以必须把语法、schema、业务规则、权限与状态四层校验分开。 机制展开: 四层分别是:语法层保证 JSON 可解析;schema 层检查类型、必填、枚举和 additionalProperties;业务规则层检查金额范围、日期区间、库存和单位;权限与状态层检查“这个人能否对这个资源做这个动作、当前状态是否允许”。strict 模式做的是语法约束采样,能减少格式错误,但它只支持 JSON Schema 的一个子集,也不理解业务语义。 取舍与失败边界: 只靠 schema 会把错误推迟到执行期;过度校验会增加延迟和误拒。坏场景是模型输出合法 JSON,但 orderId 属于别人,或金额单位从元变成分。验证方式是构造“格式对、业务错”的用例,断言被拦截且错误可行动;对不可行动错误直接终止,不交回模型瞎试。 追问:
  • 校验失败返回什么? 结构化错误码加 hint:可修正的错误回给模型,权限和业务拒绝直接终止或转人工。

B-34 如何处理模型版本升级

一句话结论: 模型版本是发布单元的一部分:锁定具体版本、跑回归、shadow 对比、灰度、可回滚,Prompt 通常要跟着一起调。 机制展开: 步骤:锁定版本号而不是用 latest;记录能力差异(工具调用格式、strict 支持、上下文长度、多模态、拒答风格);跑回归集,覆盖工具选择、结构化输出、引用、安全拒答和成本;做 shadow 双跑并逐指标 diff;小流量灰度;准备回滚。Prompt 与模型要视为同一发布单元,因为同一段提示在新模型上的行为可能变化。 取舍与失败边界: 追新会带来行为漂移;长期不升级会缺能力和安全修复。坏场景是新模型不再支持某个 JSON Schema 子集,导致工具全部编译失败;或输出风格变化让下游解析挂掉。验证方式是双跑同一评估集,按指标看差异而不是只看总分,并检查失败样本的分布变化。 追问:
  • 供应商弃用旧版本怎么办? 提前做兼容层,把工具调用格式、schema 子集和错误码收敛在适配器里,避免业务代码绑死单一供应商。

B-35 如何做 Agent 的人工评审

一句话结论: 评审要分层:确定性检查自动跑,人类只审高风险和主观质量;Reviewer Agent 可以做初筛,但不能替人类做最终裁决。 机制展开: 分层设计:schema、单元测试、引用存在、权限校验全部自动;业务断言用规则加抽样复核;主观质量(有用性、完整性、语气)用固定 rubric 人工打分;高风险写操作强制人工确认。评审记录要含结论、理由、所用版本和证据;评审结果回流到评估集和负面样本,驱动 Prompt、工具和规则修改。可观测与评审链路见 Agent 可观测。 取舍与失败边界: 全量人工不可扩展;LLM reviewer 有长度偏好和自我偏袒;rubric 太细评审慢,太粗不可比。坏场景是 reviewer 和 generator 用同一模型互相背书,或只审最终答案不审工具调用。验证方式是测双人标注一致率,并看评审结论与线上事故的相关性。 追问:
  • 人工评审结果怎么用? 不是只打分,要沉淀成评估集和负面示例,并明确由谁在什么时间修 Prompt、工具或规则。

B-36 Agent 如何处理不确定性

一句话结论: 让模型显式给出依据和缺失信息,运行时按风险阈值决定澄清、检索、拒答还是转人工;语言流畅不等于置信度高。 机制展开: 可用信号有:是否有可引用证据、工具是否成功、多次采样是否一致(self-consistency)、模型自报置信(只能参考)、业务规则校验结果。策略按风险分档:低风险且证据充分直接回答;缺关键参数先澄清;证据不足先补检索,仍不足则拒答;高风险操作一律人工确认。输出上要把“事实”和“推断”分开标注。Prompt 层面的约束写法见 Prompt 工程。 取舍与失败边界: 过度澄清会让用户烦;拒答率高会伤体验;模型自报的置信度通常没有校准。坏场景是模型自信地编造订单号,或把“可能”说成“确定”。验证方式是构造证据缺失、证据冲突、参数缺失三类样本,统计澄清正确率、误拒率和漏拒率。 追问:
  • 能直接用 logprob 当置信度吗? 可以作为辅助信号,但不同模型和任务的校准差异很大,必须先用业务样本验证再设阈值。

B-37 为什么 Agent 需要状态机

一句话结论: 状态机把生命周期变成可枚举的状态和可校验的转移,避免多个布尔标志和自然语言状态互相矛盾;模型只做局部决策,边界由状态机守。 机制展开: 典型状态:created、running、waiting_tool、waiting_approval、paused、completed、failed、canceled。转移表定义合法边和守卫条件,例如只有 waiting_approval 才能进 running,canceled 是终态不可回退;副作用只在特定转移触发,并带幂等键。状态持久化后,恢复时先校验状态与副作用是否一致。运行时设计见 Agent 核心原理。 取舍与失败边界: 状态多会增加复杂度,但比隐式布尔可靠;过度建模会把 Agent 变成笨重工作流。坏场景是取消与完成竞争导致状态回退,或恢复后状态显示已完成但副作用没发生。验证方式是穷举非法转移,断言被拒绝;并发事件下断言状态单调推进。状态机本身也要版本化,升级时写迁移而不是直接改字段。 追问:
  • 它和 LangGraph 的图是什么关系? 图负责编排,状态机负责约束;可以用图的节点实现转移,但守卫、持久化和并发控制仍要自己保证。

B-38 Agent 和普通后端服务如何协作

一句话结论: Agent 负责不确定的理解与计划,后端负责确定性规则、权限、事务和副作用;两者的边界是带 schema 的 API,而不是让 Agent 直接写库。 机制展开: 契约设计:Agent 通过结构化 API 调用后端,后端做鉴权、参数校验、业务规则、幂等和事务;长任务用任务表加状态查询接口,不要让模型靠轮询猜;错误以结构化码返回,可行动的交模型修正。Agent 不持有长期凭证,用短期令牌换取资源;关键写操作在后端再校验一次,不能相信模型传来的身份或金额。 取舍与失败边界: 让 Agent 直接写库很灵活,但不可审计、难回滚;全部走同步 API 又会让长任务超时。坏场景是 Agent 绕过服务直接改状态,或后端把 500 当业务错误返回,触发错误的重试策略。验证方式是越权调用、重复提交、超时重试三类用例,断言后端能独立挡住。 追问:
  • 为什么不让 Agent 生成 SQL? 不可控也难授权;需要灵活查询就提供受限视图或参数化查询工具,把能力边界写进工具契约。

B-39 Agent 如何接入搜索引擎

一句话结论: 搜索返回的是“证据候选”,不是事实本身;工具要给结构化结果和来源,服务端做域名、权限、内容安全和引用校验。 机制展开: 返回字段至少包括:标题、URL、摘要、发布时间、来源域名和相关性分数;模型据此决定是否打开、读多少、是否需要二次检索。服务端要做:域名 allowlist 或 blocklist、结果去重、内容安全过滤、缓存(key 含 query 与时间窗)、必要时抓正文并截断。引用必须能回到原始 URL 和抓取时间,不能只引用搜索摘要。 取舍与失败边界: 只给摘要可能不足以回答;抓全文会增加延迟和成本;搜索结果有时效性,也容易被 SEO 污染。坏场景是模型把摘要当全文编造细节,或引用的链接已经 404。验证方式是抽检引用的可达性和内容一致性,对高风险领域限制来源范围。工具契约见 Tool Calling。 追问:
  • 搜索结果互相冲突怎么办? 按来源权威性和时间排序,显式呈现分歧,不要强行合并成一个确定结论。

B-40 如何设计 Agent 的数据脱敏

一句话结论: 在数据进入模型、trace、日志和第三方工具之前,按字段分类和用途做最小化脱敏;脱敏之后还要验证任务仍然做得成。 机制展开: 先把数据分三类:直接标识(手机号、身份证、邮箱)、准标识(地址、生日、设备号)、敏感业务(金额、病历、合同条款)。手段包括:字段级掩码、哈希、令牌化(模型只见 token,映射表留在服务端)、上下文最小化(只给完成任务需要的字段)、租户隔离、短期凭证、出域审批。trace 只存摘要,全文进受权限控制的归档。 取舍与失败边界: 过度脱敏会让任务做不了,例如地址全掩码就无法判断配送范围;正则覆盖不全,姓名、方言、图片里的文字都可能漏。坏场景是日志里直接打印完整请求,或把密钥放进 Prompt。验证方式是用 PII 扫描器抽查日志与 trace,再用任务集确认脱敏后的完成率没有明显下降。可观测与数据边界见 Agent 可观测。 追问:
  • 脱敏和加密有什么区别? 脱敏是使用侧的数据最小化,加密是存储和传输保护;合规场景两者要同时做,不能互相替代。

B-41 Agent 如何处理并发消息

一句话结论: 以 thread 为并发单元,用版本号或事件序号做乐观并发控制,服务端是唯一事实源,前端只做乐观回显。 机制展开: 每条消息带 client_msg_id 用于去重,thread 维护递增 seq 和 version。写入时做 compare-and-set,版本不匹配返回 409,让客户端拉最新后重试。可并行的子任务拆成独立 task,用依赖表等待前置结果。前端发送后先本地显示“处理中”并禁用重复提交;流式事件带 event id,断线后按最后事件 id 续传。事件流设计见 AG-UI 与事件协议。 取舍与失败边界: 全局锁简单但吞吐低;完全无锁会导致消息乱序;强一致会增加延迟。坏场景是用户双击发送产生两条相同消息,或两个标签页同时编辑同一会话互相覆盖。验证方式是并发发送、乱序到达、断线重连三类用例,断言消息不重不漏、顺序稳定。 追问:
  • 多端同步怎么做? 以服务端 seq 为准,客户端按序号合并;冲突以最后确认版本为准,并给用户明确提示,而不是静默覆盖。

B-42 Agent 的上下文窗口和 KV Cache 有什么关系

一句话结论: 上下文窗口是“一次能看多少 token”的上限,KV Cache 是“避免重复计算历史”的显存换计算;窗口越大,缓存线性增长。 机制展开: 自回归生成第 t 个 token 时,历史 token 的 Key/Value 不会变化,缓存后每步只需计算新 token 的 Q 和当前 K/V。没有缓存时每步都要对全序列重算,总计算随长度平方增长;有缓存后每步接近线性。显存大致与层数 × KV 头数 × head_dim × 序列长度 × batch × 精度字节成正比。优化手段包括 MQA/GQA 减少 KV 头数、PagedAttention 分页、KV 量化、滑动窗口;prefill 偏计算密集、decode 偏显存带宽,瓶颈要分开测。基础原理见 LLM 基础。 取舍与失败边界: 省算力但吃显存,直接限制并发和长上下文;前缀一旦变化,缓存全部失效;长上下文加高并发最容易 OOM。坏场景是把窗口调到最大却发现单机只能跑一个请求。验证方式是测不同序列长度和 batch 下的首 token 延迟、吞吐与显存峰值。 追问:
  • Prompt Cache 和 KV Cache 是一回事吗? 底层都复用 KV,Prompt Cache 强调跨请求的相同前缀复用,因此要求前缀逐 token 完全一致。

B-43 为什么长上下文不一定更好

一句话结论: 能放进去不等于能有效利用;长输入会带来干扰、成本和“中间遗忘”,关键信息放在长文中段时更容易被漏掉。 机制展开: 现象有三类:关键信息位于长文中间时召回下降;大量无关文档稀释注意力,增加幻觉;KV Cache 和延迟随长度上升。对策是检索加 rerank,只取少量高相关片段;用结构化分节和标题帮助定位;把硬约束放在开头或结尾;超长文档分段处理再汇总;做位置敏感的“针在草堆”评测。检索与压缩策略见 RAG 优化。 取舍与失败边界: 压缩会丢信息,检索会漏,分段会增加调用次数和拼接成本。坏场景是把整本手册塞进上下文,模型却答错一个写得很明确的条款。验证方式是把答案放在不同位置跑同一组问题,测召回差异;再对比长上下文与检索增强方案的成功率和成本。 追问:
  • 那长上下文还有什么用? 适合跨文档综合、代码库全局理解和需要保持整体结构的任务;但它不能替代检索和结构化,只是多了一种预算选择。

B-44 Prompt Chain 如何保证中间结果质量

一句话结论: 每一步都要有可判定的输出契约和明确的失败分支,不能让下一步盲信上一轮的自然语言。 机制展开: 每一步定义:输入 schema、输出 schema、确定性校验(JSON 可解析、字段齐全、枚举合法、引用存在)、失败策略(重试、回退、终止)、版本与 trace。中间结果尽量是结构化对象而不是散文;关键步骤加单元测试或规则断言;下游只消费校验通过的字段。Prompt 的组织方式见 Prompt 工程。 取舍与失败边界: 严格 schema 会降低灵活性;每步都校验增加延迟;链越长,错误累积和上下文膨胀越明显。坏场景是第一步抽取错实体,后面全部基于错实体生成,却没有任何一步发现。验证方式是给每一步做 fixture 单测,再注入错误的中间结果,看是否被拦截而不是继续往下传;链路过长时把稳定步骤固化成代码。 追问:
  • 中间结果要不要给用户看? 高风险流程要给,既解释也方便纠错;内部步骤可以只记 trace,但对关键判断要留下可审计的依据。

B-45 Agentic RAG 和普通 RAG 的区别

一句话结论: 普通 RAG 是“一次检索、一次生成”;Agentic RAG 让模型自己决定检索什么、检索几次、证据够不够,适合复杂问题,但必须限制步数和预算。 机制展开: Agentic RAG 的能力包括:query 改写与分解、选择检索器(向量、BM25、业务 API、图)、判断证据是否充分、补充检索、交叉验证、生成后自检。它把检索从固定管线变成循环,所以每一轮都要记录 query、命中的 chunk 和判断理由,方便归因;判断是否需要 Agentic 的依据是“固定管线的一次召回是否足够”,而不是任务听起来复不复杂。整体设计见 RAG 高级优化。 取舍与失败边界: 简单事实问答用普通 RAG 更快更稳;Agentic 在多变体比较、多跳和证据冲突时收益明显。坏场景是模型反复改写 query 却检索到同一批内容,或不收敛地一直检索。验证方式是在固定问题集上比较正确率、平均检索次数和 P95 延迟,收益抵不过成本就不该上。 追问:
  • 怎么防止无限检索? 设最大检索轮次、定义“证据充分”的判据(子问题都被覆盖)、连续两轮没有新证据就停止。

B-46 如何解决 RAG 的时效性

一句话结论: 把时间做成数据模型的一部分:文档带版本和生效时间,索引原子切换,查询按时间过滤,缓存绑定索引版本。 机制展开: 写入侧:文档入库时带 source、updated_at、effective_from/to、version;新索引异步构建,构建完成后用 alias 原子切换,旧版本保留以便回滚;删除用 tombstone 标记并定期全量对账。查询侧:过滤生效时间,再 rerank;缓存 key 包含索引版本;生成时引用带发布时间。实时性强的数据(库存、价格、订单)直接走业务 API,不进向量库。检索与索引更新见 RAG 工程。 取舍与失败边界: 全量重建慢且贵;增量更新要处理更新、删除和顺序错乱;缓存会返回旧答案;频繁重建影响稳定性。坏场景是文档已删除但索引仍能召回,或缓存命中旧价格。验证方式是构造“更新 → 删除 → 回滚”链路,断言查询结果与预期版本一致。 追问:
  • 增量索引怎么保证删除不丢? 删除也写索引(tombstone),并定期做全量对账;只依赖上游删除事件很容易漏。

B-47 如何做多租户知识库

一句话结论: 隔离必须做在检索层和存储层,metadata filter 是服务端强制的硬约束,不是提示词里的“请不要看别人的文档”。 机制展开: 每个 chunk 带 tenant_id、owner_id、ACL(用户、组、角色)、doc_id、version、密级。检索入口由服务端注入租户和用户身份,先过滤再算相似度或至少过滤后再排序;缓存 key 必须含租户;对象存储按租户分桶或前缀;写入、分享、删除、导出全程审计。安全要求高时做物理隔离,每个租户独立 collection 或独立索引。 取舍与失败边界: 单索引加 filter 成本低,但任何一处忘记加 filter 就会跨租户泄漏;物理隔离安全但运维重、跨租户统计难。坏场景是开发新接口漏了 filter,A 租户能搜到 B 租户的文档;或缓存 key 不含租户。验证方式是自动化越权测试:用 A 的凭证检索 B 的关键词,断言 0 结果;代码层封装唯一检索入口,禁止裸查询。新接口上线前先跑一次越权回归,比事后审计便宜得多。多租户设计见 RAG 工程。 追问:
  • 共享文档怎么做? ACL 增加 group 维度,filter 写成“租户匹配 AND(owner 匹配 OR group 命中)”,共享授权单独审计。

B-48 Agent 如何处理敏感工具

一句话结论: 按“只读、可逆、不可逆”分级,不可逆操作必须强授权加二次确认,并在执行前后留下可审计的回执和补偿路径。 机制展开: 分级策略:只读查询自动执行;可逆写(草稿、临时资源)记录并限额;不可逆写(支付、删除、发布、外发)要求人工审批或双人复核。执行前复核身份、权限、参数和目标(金额、收款方、操作范围);执行中用幂等键、限额和超时;执行后返回回执、写审计,并登记可补偿步骤。权限模型见 企业级 Agent。 取舍与失败边界: 全量审批影响效率;只靠模型判断风险不可靠;有些操作无法补偿,例如已经发出的邮件。坏场景是模型把测试参数用到生产,或一次批量删除超出预期范围。验证方式是越权、超额、重复提交、目标被篡改四类用例,并定期演练补偿流程是否真的可用。 追问:
  • 审批人应该看到什么? 看到结构化动作摘要:谁、对什么资源、做什么、影响范围和金额,而不是模型的长篇解释。

B-49 如何判断该做 Workflow 还是 Agent

一句话结论: 路径能枚举就用 Workflow,只有“下一步依赖非结构化观察、且无法预先定义”时才用 Agent;折中方案是 Workflow 骨架加局部 Agent 节点。 机制展开: 判断清单可以逐条问:步骤是否稳定、分支是否能穷举、工具选择是否开放、失败是否能预先定义处理方式、风险是否允许模型控制执行流、评估集能否覆盖。任一条偏向“不可枚举”,才考虑把该节点交给模型;其余节点仍用确定性代码。即使使用 Agent,也可以让模型只输出建议,由代码执行最终动作。 取舍与失败边界: Workflow 可测试、成本稳定,但覆盖不了长尾输入;Agent 灵活,但不可预测、难评估。坏场景是为了“智能”把固定审批流做成 Agent,导致漏步骤甚至越权。验证方式是用真实长尾样本对比两者成功率、人工介入率和成本,Agent 没有显著优势就退回 Workflow。选型框架见 Agent 核心原理。 追问:
  • 可以先 Workflow 再演进吗? 可以,而且更稳:先把 Agent 限制在单个节点内,边界清晰、评估充分后再逐步扩大自主范围。

B-50 如何设计一个企业级 Agent

一句话结论: 分层解耦:入口鉴权、会话与状态、模型路由、工具网关、检索、执行队列、审计与评估各司其职,模型只负责理解与计划。 机制展开: 各层职责:网关做认证、限流和租户识别;会话层存 thread、task 和 checkpoint;路由层按任务选择模型与 Prompt 版本;工具网关做 schema 校验、权限、幂等、超时和结果截断;检索层做 ACL 过滤与 rerank;执行层用队列加 Worker 支撑长任务、取消和重试;可观测层串 trace;评估层做离线回归和线上抽样。非功能要求包括预算、灰度、回滚、灾备和数据保留策略。完整分层见 企业级 Agent。 取舍与失败边界: 分层会增加延迟和运维成本,早期过度设计会拖慢迭代。坏场景是模型层直接持有数据库凭证,或没有队列导致长任务超时后丢失。验证方式是故障注入(模型超时、工具 5xx、队列积压)、越权测试和灰度回滚演练三件事一起做。 追问:
  • 最小可行版本应该先有什么? 鉴权、会话状态、工具网关、审计四件套先有,其余按实际瓶颈逐步加,不要一上来铺满。

B-51 如何评估模型的工具调用能力

一句话结论: 用带标准工具集和断言的 fixture,分层测“选对、填对、顺序对、恢复对、结果对”,而不是只看端到端成功率。 机制展开: 指标包括:工具选择准确率、参数字段级准确率、无效调用率、必要调用遗漏率、调用顺序正确率、错误恢复成功率、端到端任务成功率,以及平均步数与 token。fixture 要固定工具 schema、mock 后端返回、并能注入 429、超时、坏参数。控制变量很重要:分别固定模型、Prompt、工具描述,才能定位变化来源。评测方法见 Tool Calling。 取舍与失败边界: 只看端到端成功率无法定位问题;真实 API 不稳定导致不可复现;合成任务与真实分布有偏差。坏场景是模型靠猜参数碰巧通过,或 mock 的 schema 与真实服务不一致。验证方式是定期用线上真实请求抽样回放,并对 fixture 做版本管理;fixture 还要覆盖工具不存在、空结果和权限拒绝。 追问:
  • 只改了工具描述怎么评估? 做 A/B 对比选择分布变化和参数错误率,不要只看总分;描述改动最容易引起“悄悄选错工具”。

B-52 Agent 的最终答案如何保证可引用

一句话结论: 引用要可验证:每个证据有稳定 id、版本和片段定位,服务端校验引用确实支持对应 claim,不支持的 claim 删改或降级。 机制展开: 生成前给上下文中的每个证据分配 id,例如 doc_id#chunk_id@version;输出 schema 要求 claims 数组,每项带 evidence_ids。服务端校验三件事:id 存在、片段内容能支持该 claim、权限仍然有效。不满足的 claim 删除、改写为“未验证”,或直接拒答。展示给用户的引用要能点击回到原文位置。引用条数也要控制,每段 1-3 条即可,堆砌反而降低可信度。引用与评估见 RAG 评估。 取舍与失败边界: 强制逐句引用会增加输出长度和生成难度;文档更新会导致旧引用失效;校验过严会频繁拒答。坏场景是引用存在但与 claim 无关,或引用的是过期版本。验证方式是抽样人工核对引用支持率,并监控 404 与版本失效比例。 追问:
  • 多来源冲突怎么引用? 分别引用各自来源并说明分歧,不要合并成一个看似确定的结论;冲突本身也是给用户的信息。

B-53 为什么不能只用一个大模型解决所有问题

一句话结论: 不同任务在质量、延迟、成本、模态和合规上的要求不同,一个模型全包会让简单任务过贵、特殊任务不稳,所以需要路由和分层。 机制展开: 路由维度:任务类型(分类、抽取、生成、代码、视觉)、难度、上下文长度、延迟 SLA、数据能否出域、成本预算。实现上先用规则或轻量分类器分流,小模型处理高频简单任务,大模型处理难例,失败可升级(escalation);接口统一但评测要分任务做。模型能力差异见 LLM 基础。 取舍与失败边界: 路由本身会错,错路由比不用路由更差;多模型增加运维和一致性成本;统一接口不代表行为一致,工具调用格式和拒答风格都可能不同。坏场景是小模型处理需要多步推理的任务,错误静默通过。验证方式是分层比较单模型与路由方案的质量、成本、延迟,并监控升级率。 追问:
  • 路由怎么做冷启动? 先用规则加历史数据标注,再训小分类器;始终保留一条兜底到大模型的路径,避免新意图直接失败。

B-54 AI Coding 如何防止生成错误代码

一句话结论: 用“小步生成 + 强验证 + 人工把关”把错误挡在合并前,测试通过只代表覆盖范围内通过,不代表业务正确。 机制展开: 流程:先读仓库规则和相关代码,拆小任务,生成最小 diff;跑类型检查、lint、单元测试、集成测试和安全扫描;再做人工 review;最后小步提交。约束模型不改无关文件、不随意引入依赖、遵循现有模式,并要求它为生成代码补充或更新测试。CI 里把这些做成必过门禁。工具链与流程见 AI 代码生成。 取舍与失败边界: 测试可能被改绿而不是修实现;覆盖率不覆盖业务语义;review 成本高。坏场景是模型删掉错误处理让测试通过,或直接修改测试断言。验证方式是看 mutation testing 结果、覆盖率变化和测试文件变更;合并前再看一次 diff 是否符合需求,而不是只看测试是否变绿。 追问:
  • 怎么防它改测试作弊? 把测试文件的变更单独标记,要求说明理由并人工确认;关键模块禁止 Agent 直接修改测试。

B-55 如何设计 AI Coding 的权限

一句话结论: 按能力分级授权:只读、可改工作区、可执行命令、可发布,逐级收紧;工作区、网络和凭证都要隔离。 机制展开: 隔离层:独立工作区或容器,网络默认关闭或走 allowlist,凭证按需短期注入,禁止直接访问生产。分级层:读代码自动允许;写文件限制在 workspace 内;执行命令要 allowlist 加超时;git push、部署、删除必须人工确认。审计层:记录命令、文件 diff、工具调用、审批人和结果,任务基于分支和快照可回滚;临时提权必须自动过期,权限变更要能审计到人。权限与沙箱协作见 Agent 产物与沙箱。 取舍与失败边界: 限制太严会让 Agent 完不成任务;过宽会误删文件或外发数据。坏场景是 Agent 执行 rm -rf、读取 ~/.ssh,或把密钥写进代码。验证方式是红队用例:路径穿越、外发、提权、读取敏感目录;并定期检查凭证是否出现在 diff 或日志里。 追问:
  • 沙箱里还需要权限控制吗? 需要。沙箱防的是逃逸,权限防的是越权,两者解决不同层面的问题,不能互相替代。

B-56 为什么模型参数大不一定更好

一句话结论: 参数量只决定能力上限,数据质量、后训练、上下文利用、工具能力和推理成本共同决定实际效果;在窄任务上,小模型经微调可能比大模型更划算。 机制展开: 影响最终效果的因素至少有五个:预训练数据的质量与配比、后训练(SFT 与偏好优化)、推理时的策略(思维链、工具、检索)、上下文长度与利用效率、部署侧的量化与优化。大模型的优势集中在开放推理和长尾知识,小模型的优势是延迟低、成本低、可私有化。模型能力构成见 LLM 基础。 取舍与失败边界: 大模型贵、慢、难私有化;小模型需要更多任务适配和评估。坏场景是用大模型做简单分类,成本翻倍但收益为零;或用小模型做多跳推理,错误率明显上升。验证方式是固定任务集比较质量、成本、延迟,算“单位成功任务成本”,再决定是否升级。 追问:
  • 怎么判断该用多大模型? 从能达标的最小模型开始,达不到质量门槛再升级,并记录每次升级带来的实际收益,避免“默认用最大”。

B-57 如何比较 GPT、Claude、Gemini 或国产模型

一句话结论: 固定版本、固定任务、固定预算,比业务指标而不是排行榜;报告失败样本和尾延迟,而不只是平均分。 机制展开: 比较维度:任务质量与事实性、推理与代码能力、长上下文、多模态、工具调用(格式兼容、并行、strict 支持)、延迟(首 token 和 P95)、价格(输入、输出、缓存)、上下文上限、数据合规与部署方式、限流与稳定性。方法上使用同一评估集、同一 Prompt、多次采样看方差,并报告失败样本分布;一次只改一个变量,否则无法归因。选型维度见 LLM 基础。 取舍与失败边界: 公开 benchmark 容易污染且不反映业务;单次对比方差大;价格和版本会变。坏场景是只看总分选了工具调用不兼容的模型,迁移成本很高。验证方式是跑 2-3 轮取稳定结果,再做小流量 shadow 验证真实分布;供应商限流也会影响延迟样本,不能只测一轮就下结论。 追问:
  • 多模型怎么落地? 按任务路由,保留统一适配层;业务代码只依赖内部接口,避免绑死单一供应商。

B-58 SFT、RLHF、DPO 的区别

一句话结论: 三者优化目标不同:SFT 模仿示范回答,RLHF 用奖励模型做策略优化,DPO 直接用偏好对优化策略;前两者解决“会不会”,后者解决“更偏好哪个”。 机制展开: SFT 最大化示范回答的似然,数据是 (prompt, response),主要教会格式、指令跟随和领域表达。RLHF 先用人类偏好训练奖励模型 r(x,y),再用 PPO 优化策略,目标是最大化奖励并约束与参考模型的 KL 偏离。DPO 跳过奖励模型,用偏好对 (x, y_w, y_l) 直接优化:
它相当于一个隐式奖励,省掉了 RL 循环。训练流程见 LLM 训练。 取舍与失败边界: SFT 只能学“像”,不直接优化偏好,容易学到标注风格;RLHF 效果好但贵、不稳、易 reward hacking;DPO 简单稳定,但对偏好数据分布敏感,可能过度压低被拒回答的概率。坏场景是偏好数据有噪声,DPO 把偏见放大;或只做 SFT,模型不会拒绝。验证方式是留出偏好集看 win rate,同时测通用能力是否退化。 追问:
  • DPO 能替代 RLHF 吗? 多数场景够用且更稳;需要在线探索或复杂奖励建模时,RLHF 仍有优势。

B-59 LoRA 和 QLoRA 的区别

一句话结论: LoRA 冻结基座、只训练低秩增量;QLoRA 再把基座量化到 4-bit 加载,用更低显存训练同样的 LoRA,代价是量化误差和更慢的反量化计算。 机制展开: LoRA 的前向是 W' = W + BA,其中 A 是 r×k 降维矩阵、B 是 d×r 升维矩阵,r 通常取 4-64,alpha 常设为 r 的 1-2 倍,target_modules 多为注意力的 Q/K/V/O 投影。7B 模型上单矩阵 4096×4096 约有 1678 万参数,r=8 时增量只有约 6.5 万,可训练参数占比 < 1%。QLoRA 用 NF4 加双重量化加载基座,计算时反量化到 BF16,梯度只流向 LoRA,7B 模型显存可从约 28GB 降到约 5-6GB。细节见 LLM 训练。 取舍与失败边界: LoRA 显存仍随基座精度增长;QLoRA 省显存,但反量化带来数值误差、训练更慢,合并回基座时要注意精度。坏场景是 r 太小欠拟合、太大过拟合且失去参数优势,或量化后质量下降却没有评估。验证方式是同数据同步数对比 loss、下游指标和显存峰值,合并后做推理一致性测试。 追问:
  • 推理时一定要合并吗? 可以合并(无额外延迟),也可以动态加载适配器(多租户切换方便,但有少量开销)。

B-60 Transformer 为什么比 RNN 更适合并行训练

一句话结论: Transformer 在训练时能对整段序列同时计算注意力,RNN 必须按时间步串行传递隐状态;前者把长距离依赖路径从 O(n) 缩到 O(1),代价是注意力的平方复杂度。 机制展开: RNN 的 h_t 依赖 h_{t-1},时间维无法并行,长序列还容易出现梯度消失;Transformer 的每个位置同时与所有位置计算注意力,矩阵运算可以铺满 GPU,任意两个位置的路径长度是 O(1)。代价是注意力计算约 O(n²·d)、显存约 O(n²),并且需要位置编码来补充顺序信息。原理见 LLM 基础。 取舍与失败边界: 平方复杂度让超长序列非常昂贵,才有了稀疏注意力、FlashAttention、分块等优化;RNN 类结构在流式、超长、低内存场景仍有优势。坏场景是序列长度翻倍导致显存四倍增长而 OOM。验证方式是测不同序列长度下的吞吐与显存曲线,确认是否符合平方增长,再决定是否要分块。 追问:
  • 推理也能并行吗? 训练可以并行,自回归推理仍然逐 token 生成,只能靠 KV Cache 减少重复计算,不能真正并行生成整段。

B-61 为什么 Attention 要除以 sqrt(dk)

一句话结论: 这是数值稳定措施:把点积的方差拉回 1,避免 Softmax 在大维度下饱和、梯度消失,它不改变相似度的排序语义。 机制展开: q·k = Σ q_i k_i,若各分量独立且均值 0、方差 1,点积的方差约等于 d_k,标准差是 sqrt(d_k)。维度越大,分数越极端,Softmax 输出接近 one-hot,梯度趋近 0,训练容易不稳。除以 sqrt(d_k) 后方差回到 1,分布更平滑、不同 head_dim 之间也更可比。实现上通常写 scores / sqrt(head_dim),这里要除数的是每个头的维度,不要误用模型隐层维度;否则缩放系数会偏大或偏小。 取舍与失败边界: 也可以改用 QK-norm 或其他温度参数,效果类似;小 d_k 时去掉缩放影响不大,大 d_k 时差异明显。坏场景是从不同 head_dim 的模型迁移实现时忘记调整,训练初期 loss 爆炸或长时间不降。验证方式是对比有无缩放时注意力熵和梯度范数,并观察长训练是否发散;对比实验要固定初始化与数据顺序,否则结论不可信。 追问:
  • 为什么不是除以 d_k? 除以 d_k 会把方差压到 1/d_k,分数过度平滑,注意力失去区分度,相当于把分布拉得太平。

B-62 KV Cache 解决什么问题

一句话结论: 自回归生成时缓存历史 token 的 Key/Value,避免每步重算整段历史,本质是用显存换计算。 机制展开: 生成第 t 个 token 时,历史 token 的 K/V 固定不变,缓存后每步只需算新 token 的 Q 和当前 K/V;没有缓存时每步都要对全序列重算,重复计算随长度快速膨胀。显存占用随层数、KV 头数、head_dim、序列长度和 batch 线性增长,因此长上下文加高并发最先撞到显存墙。另外 prefill 阶段偏计算密集,decode 阶段偏显存带宽密集,两者的瓶颈和优化手段并不相同。 取舍与失败边界: 省算力但吃显存,直接限制并发与上下文长度。常见优化:MQA/GQA 减少 KV 头数、PagedAttention 分页管理、KV 量化、滑动窗口丢弃远历史、跨请求前缀共享。坏场景是前缀一变导致缓存全部失效,或并发数上去后 OOM。验证方式是测不同 batch 和长度下的吞吐、显存峰值与首 token 延迟。原理见 LLM 基础。 追问:
  • 为什么前缀缓存要求前缀完全一致? KV 是按位置和内容算出来的,前缀只要有一个 token 不同,后续位置的缓存就都不能复用了。

B-63 Decoder 的 causal mask 是什么

一句话结论: causal mask 让位置 i 只能看到 i 及之前的位置,保证训练时的“预测下一个 token”和推理时的自回归行为一致。 机制展开: 在注意力分数矩阵上加一个上三角为负无穷的掩码,Softmax 之后未来位置的权重就是 0。这样训练时虽然整段序列并行计算,但每个位置只依赖左侧上下文,等价于逐 token 预测。Padding mask 是另一件事:它屏蔽 batch 内补齐的 pad token,防止这些无意义位置参与注意力。两者通常叠加使用,形状和语义都不同,合并顺序要明确。 取舍与失败边界: 没有 causal mask 会发生信息泄漏,训练 loss 虚低、推理直接崩;掩码实现要注意用负无穷还是极小值,以及和 padding mask 的合并方式。坏场景是把 padding 当有效 token,短句表示被稀释,或掩码写反导致看到未来。验证方式是单测检查注意力权重上三角为 0,再对比同一前缀在训练与推理时的输出是否一致。 追问:
  • Encoder 需要 causal mask 吗? 不需要。双向注意力要让每个位置看到全句;只有 Decoder-only 的生成模型需要 causal mask。

B-64 如何解释模型输出不稳定

一句话结论: 先归因再谈解决:采样随机、上下文差异、工具或检索结果变化、并发与版本漂移、中间层重试,都会让同一输入产出不同结果。 机制展开: 分层排查:temperature、top_p、seed 是否变化;上下文是否逐 token 一致(历史、检索片段、工具返回);是否有并发写入或缓存污染;模型、Prompt、索引版本是否漂移;是否因为重试导致重复调用。控制手段:结构化输出加 schema 校验、确定性任务用低温度、固定版本、缓存、规则后校验、必要时多次投票。工程治理见 Agent 稳定性。 取舍与失败边界: 温度设为 0 也不保证完全确定,批处理、GPU 非确定性和模型更新都会带来差异;多次投票提升稳定性但增加成本。坏场景是把检索结果波动误判成模型随机,或重试让同一请求产生两个副作用。验证方式是固定输入重复跑 20 次,统计差异率和差异出现的位置,再逐层固定变量做消融。 追问:
  • 业务要求强一致怎么办? 把关键判断交给确定性规则或数据库约束,模型只负责生成候选;不要指望靠调温度解决一致性问题。

B-65 Agent 项目最应该保留哪些文档

一句话结论: 保留“能被执行和验证”的文档:任务 spec、状态与事件 schema、工具契约、权限矩阵、版本清单、评测集、runbook、故障复盘和回滚说明。 机制展开: 清单可以按用途分四组:设计类(任务目标、验收标准、非目标、状态机与事件 schema)、契约类(工具输入输出、错误码、幂等规则、超时、权限矩阵)、运行类(版本 manifest、配置说明、限流与预算、灰度与回滚步骤)、证据类(评测集与基线、线上指标、故障复盘、数据保留与合规说明)。文档要和代码同仓,随 PR 更新。整体工程边界见 企业级 Agent。 取舍与失败边界: 文档过多会过期,过少无法交接;只画架构图不写契约,等于没有约束。坏场景是新人不知道错误码含义,或故障时找不到回滚步骤。验证方式是让没参与项目的人按 runbook 完成一次恢复演练,并检查文档与 schema 是否一致。 追问:
  • 怎么防止文档过期? 把关键契约做成代码生成(schema → 文档),在 CI 里校验版本一致性;人工维护的只留决策和理由。

十、2026 专题补充题:Harness 与 Agent 组织

下面 32 道题覆盖 2026 年新增的 Harness、Lead Agent、Tool Calling、产物协作、可观测、协议分层和 Agent 组织形态考点。它们不是上述 8 篇面经的原题,因此不计入前面的题目映射,编号用 T 区分。每题按“一句话结论、机制展开、取舍与失败边界、追问”四段展开。完整背景见 Pi:极简 Agent Harness、DeepSeek Harness、Lead Agent、Tool Calling、Agent 产物与沙箱协作、Agent 可观测、AG-UI、MCP 与 Skill 和 Agent 组织形态。

Harness 运行时

T-01 什么是 Agent Harness?它和 Framework 有什么区别

一句话结论: Harness 是模型之外、直接拥有主循环并负责把任务跑完的运行时;Framework 通常只提供编排原语,主循环和工程边界仍要你自己补。 机制展开: 两者不是互斥概念,而是责任层不同。Model 负责推理;Harness 负责上下文组装、工具注册与执行、会话持久化、权限、沙箱、压缩、取消和恢复;Framework 负责把多个步骤或 Agent 组织成图。典型循环是:组装上下文 → 调模型 → 校验并执行工具 → 把结果追加回会话 → 判断是否继续。Harness 拥有这条循环,Framework 往往只给你节点、边和状态容器。 用 LangGraph 也能写出 Harness,但工具权限、结果截断、幂等和沙箱仍要自己补;反过来,用了 Pi 也不等于有了业务编排,复杂任务图仍要上层实现。 取舍与失败边界: 自研 Harness 控制力最强,但要承担主循环、恢复、权限、可观测的全部维护成本;直接用 Framework 起步快,却容易把“框架能跑”误当成“生产可用”。最常见的坏场景是:上下文隐式注入、工具结果无限回灌、超时后重复写、崩溃后无法恢复。验证方式不是看 Demo,而是用固定任务集跑失败注入:杀进程、断工具、放大工具输出、并发写同一文件,检查是否可恢复、可解释、无重复副作用。 追问:
  • Framework 能不能直接当 Harness 用? 能承载循环,但权限、沙箱、幂等、恢复这些生产边界仍要补,不能把库的能力当成运行时的能力。
  • 什么时候不该自研 Harness? 只有一个内部接口、流程稳定、没有长任务和权限差异时,直接 Function Calling 加一个薄封装更便宜。

T-02 Pi 为什么只内置四个工具

一句话结论: read、write、edit、bash 覆盖了文件读写和任意命令执行,组合能力足够强;工具少意味着选择空间小、误调用率低、上下文便宜,缺失能力用 Extension 补,而不是把核心工具集做大。 机制展开: 四个工具的分工是:read 读取文件片段,write 创建或整体写入,edit 做局部替换,bash 是逃逸口,负责构建、测试、搜索和任何没有专门工具的操作。Pi 的系统提示加工具定义经验值约 1k tokens,工具越多,常驻上下文越贵,模型选错的概率也越高。扩展工具通过 registerTool 注册,参数用 TypeBox 转成 JSON Schema,模型看到的只有名称、描述和 Schema。
Skill 也走渐进式披露:每轮只注入名称和不超过 1024 字符的描述,命中后再读 SKILL.md 正文。 取舍与失败边界: bash 能力最强,攻击面也最大,必须配沙箱、命令 allowlist、超时和输出截断;只给 bash 会让所有操作变成难审计的 shell 字符串,read/write/edit 提供了结构化参数、差异展示和更细的权限控制。工具太少也有代价:高频领域操作会让模型反复拼命令,稳定性和可观测性都变差。验证时用固定 fixture 看工具选择准确率、误调用率和单任务 token;再注入路径穿越、超长输出和并发编辑,确认边界拦得住。 追问:
  • 为什么不只留 bash? 结构化工具能表达权限、截断和差异,审计粒度更细;bash 是兜底,不是唯一入口。
  • 工具少会不会能力不足? 核心保持小,领域能力通过扩展和 Skill 补,避免每个团队都改内核。

T-03 Pi 的会话树解决了什么问题

一句话结论: Pi 的会话树把“线性历史”改成“带父指针的分支历史”,因此可以回放定位、从任意节点 fork 实验,并在压缩时保留原始消息。 机制展开: 会话存成 JSONL,一行一个条目,用 id / parentId 组成树。用户消息、助手消息、工具结果、模型切换、压缩摘要都是节点;/tree 跳到任意历史节点继续,产生新分支;/resume 从文件重建上下文;/compact 生成摘要节点,但原始消息仍在树里。
状态外置到会话文件,进程只做执行器,所以进程崩溃不会丢会话;但工具副作用不会自动回滚。 取舍与失败边界: 树结构让存储、UI 和上下文重建都更复杂;分支后工作区文件可能已经属于另一条分支,模型会看到“代码与历史不一致”;压缩摘要是不可逆的信息损失,硬约束可能被摘要掉。最危险的误判是“有 append-only 日志就能精确重放”,实际只能保证记录了什么,不能保证外部副作用可重做。验证时构造含工具调用、压缩、分支的会话,逐个节点检查上下文构造结果;kill 进程后 /resume,对比是否重复写;把“摘要前后关键约束是否保留”做成 fixture 断言。 追问:
  • 会话树和 checkpoint 有什么区别? 树是面向消息的追加日志加分支,checkpoint 更像某个时刻的状态快照;前者适合回放和 fork,后者适合恢复执行。
  • 压缩会不会丢关键信息? 会,所以原始消息必须保留,摘要只用于构造上下文,并对硬约束做单独校验。

T-04 DeepSeek Harness 的”一切皆插件”解决了什么

一句话结论: “一切皆插件”指内核不持有业务特权,模型适配器、工具、会话、沙箱、循环和 UI 都由插件提供;Cordis 用依赖注入、类型化事件和可逆副作用撑起热插拔。 机制展开: Cordis 的五个概念是 Plugin、Context、inject、Typed Events 和 Reversible Effects。插件声明 inject = ["llm", "tools", "sessions"],内核按依赖图决定加载顺序;事件有 emit(广播)、waterfall(依次改写)、parallel(并发)、serial(顺序且失败中断)四种语义;ctx.effect(() => disposer) 把定时器、监听器、连接登记到插件作用域,卸载时自动回收。 插件化的代价是配置膨胀,所以 DeepSeek Harness 用 Profile、Bundle、patch layer 三层配置:Profile 是一套能力组合,Bundle 可复用,patch 只记录差异。 取舍与失败边界: waterfall 让多个插件都能改写同一个值,最终行为取决于注册顺序,是隐式耦合的主要来源;ctx.effect() 只能回收通过它登记的副作用,插件直接写全局变量或启动子进程仍会留脏状态。坏场景包括:两个 patch 改同一配置导致行为随加载顺序变化、Profile 引用了已删除的 Bundle、patch 覆盖了沙箱 Provider 却没人发现。验证时对 Profile 做快照测试,断言最终插件集合和关键配置;给 patch 合并写冲突用例;启动日志打印每个配置项来源。 追问:
  • 内核真的什么都不做吗? 内核负责插件加载、依赖解析、事件分发和副作用回收,只是没有业务特权。
  • 为什么不拆成微服务? 插件在同进程内共享上下文和类型,延迟低、调试简单;需要隔离的执行面再交给沙箱或远程 Provider。

T-05 什么是能力接缝

一句话结论: 能力接缝是“Service Definition 声明接口、Provider 提供一个或多个实现、Consumer 是面向模型的工具”的三方契约;换 Provider 就能改变产品行为,而模型侧接口不变。 机制展开: 以 Shell 为例:dsh-shell 定义 ShellService,dsh-bash-local 在本机执行,dsh-bash-sandbox 在沙箱执行,dsh-tool-bash 把它们暴露成模型的 bash 工具。真正保证可替换的不是方法签名,而是四条语义:超时由谁杀进程、AbortSignal 是否端到端传递、输出截断阈值与完整内容去哪、exitCode 非零时抛错还是返回结果。
把文件系统与进程的 Provider 指向远程沙箱后,Bash、PTY、LSP 会一起迁移,因为它们的“执行世界”是同一套。 取舍与失败边界: 接缝比依赖注入更进一步,它要求所有实现对外表现一致;但本地与沙箱的路径语义、网络策略、交互式命令支持都不同,差异必须收敛在 Provider 内。坏场景是:Provider 换到远程后 cwd 从宿主路径变成容器路径,绝对路径调用失败;本地支持交互式命令,沙箱不支持,模型却按旧能力调用。验证时给同一组 shell 用例跑两个 Provider,断言 exitCode、stdout/stderr、截断标记一致;执行中触发 abort,确认都能在时限内终止;用路径穿越用例验证沙箱边界。 追问:
  • 接缝和适配器模式有什么区别? 适配器解决“接口不匹配”,接缝还要求语义一致、可替换、可验证。
  • 换 Provider 要不要改 Prompt? 理想情况不需要;如果模型依赖某个 Provider 的特有能力,说明接缝没有收敛好。

T-06 为什么会话日志要设计成仅追加

一句话结论: 仅追加保证事件顺序不可变,回放时能精确重建“当时模型看到了什么”;如果允许就地修改,回放结果和线上行为会分叉,审计和故障溯源就失去意义。 机制展开: 会话日志要区分两类事件:session events 是权威事实(输入、模型输出、工具结果、压缩、分支),必须持久化;agent events 是实时通知(流式增量、进度、UI 更新),可以丢、可以合并。状态是事件的 fold:pendingToolCalls 非空说明崩溃点落在工具执行中,step 是重试基准,finished 决定是否继续。
回放有两种:record-replay 只重放记录,不重新调外部系统;re-execute 重新执行,能验证“现在会不会不同”,但外部副作用会重放,必须靠幂等或沙箱隔离。 取舍与失败边界: 日志会持续增长,原始输入输出可能含敏感数据,事件 schema 升级还要做旧事件兼容;工具副作用不会因为日志完整就自动回滚。坏场景是:崩溃恢复后重跑了一个已经成功的 git push;fork 到旧节点后工作区文件却是新分支的;事件只记结果没记参数,回放时无法解释调用原因。验证时在 tool/call 写入后、tool/result 写入前 kill 进程,恢复后检查是否识别为 pending;并发触发两次 resume,确认只有一个拿到执行权;构造旧版本事件,验证读取端能降级而不是崩溃。 追问:
  • 有日志为什么还要幂等? 日志能证明发生过什么,但不能阻止重放;写操作必须靠幂等键和状态查询避免重复副作用。
  • 日志怎么脱敏? 在写入前做确定性规则过滤,参数存摘要,完整内容放受权限控制的归档。

T-07 PTC 模式相比普通 Function Calling 的收益和风险

一句话结论: PTC(Programmatic Tool Calling)让模型生成一段受控程序批量调用工具,把多步往返压成一次生成,收益是减少模型调用和 token,风险是执行面从“单次工具调用”扩大到“任意代码”。 机制展开: 普通 Function Calling 是“模型选一个工具 → 执行 → 结果回灌 → 模型再选”,几十步任务就有几十次模型往返。PTC 把决策和执行拆开:模型写一段代码,代码在沙箱里循环、分支、并发调用注入的工具,最后只把结构化结果回灌给模型。DeepSeek Harness 的 Code 模式就是这一形态。
关键是工具不是直接暴露给模型,而是以受控函数形式注入运行时,网络、文件、命令都要经过 allowlist。 取舍与失败边界: PTC 适合批量数据处理、规则明确的循环和需要多次工具往返的任务;不适合需要频繁人工判断、工具副作用不可逆或结果难以用代码表达的场景。坏场景是:模型写出死循环、把整个大表拉进内存、在代码里绕过权限、返回值和 Schema 不符。必须沙箱化、限制网络与文件、给每个工具设超时和结果上限、对返回值做 Schema 校验,并保留逐次工具调用的 trace,否则“一段脚本”会变成不可观测的黑盒。验证时用批量任务对比普通模式的往返次数和成本,再注入超时、部分失败和越权调用,确认能中止、能定位、不会重复写。 追问:
  • PTC 和工作流引擎有什么区别? 工作流是预先写死的 DAG,PTC 是模型运行时生成程序,灵活但更难约束。
  • PTC 一定要沙箱吗? 只要执行模型生成的代码就必须沙箱,本地进程直接跑等于把宿主交出去。

T-08 MCP、Skill、Harness 三者是什么关系

一句话结论: MCP 统一外部工具的连接协议,Skill 定义某类任务的操作方法,Harness 组织模型、工具、Skill、会话、权限和沙箱,让任务持续运行;三者是插头、说明书和电路的关系,不能互相替代。 机制展开: 三者不在同一层: Skill 走渐进式披露:先只暴露 name 和 description 作为检索索引,命中后再加载正文,避免把所有流程塞进上下文。MCP 通过 tools/list 动态发现工具,通过 tools/call 执行,鉴权、超时、审计由 Host 或网关补。Harness 负责把 Skill 的步骤、MCP 的工具和模型循环串起来。 取舍与失败边界: 用 MCP 做 Agent 间协作会缺任务状态机和 Artifact;把 Skill 写成 Prompt 会让流程不可测、不可审计;把 Harness 当成“工具越多越好”会让上下文和攻击面一起膨胀。坏场景是:Skill 描述写成内部黑话,永远不被触发;MCP 工具列表不稳定,破坏 Prompt Cache;Harness 没有权限层,模型直接调用高危工具。验证时看 Skill 触发准确率和误触发率、MCP 工具发现与调用成功率、Harness 在工具失败和超时下的恢复行为。 追问:
  • MCP 和 A2A 怎么分工? MCP 连工具和数据,A2A 连不透明的 Agent,前者是能力调用,后者是任务委派。
  • Skill 和 Prompt Template 有什么区别? Skill 是带触发条件、步骤、输出契约和失败处理的工作流资产,Prompt Template 只是一段可复用文本。

Lead Agent 与任务编排

T-09 Lead Agent 拆解任务时应该产出什么

一句话结论: Lead 应该产出可调度、可验收的 DAG,而不是自然语言清单;每个节点要有输入契约、输出 Schema、验收标准和显式依赖。 机制展开: 任务树只能表达“属于谁”,DAG 才能表达“依赖谁”。例如前端入口和后端接口都依赖“接口契约”,用树会丢掉共享依赖,导致前端在契约未定时开工。叶子任务的标准是:一个明确产物 + 一组相关工具 + 可逐条验收的标准 + 明确的依赖;经验值是控制在 5-15 个工具调用,太少说明拆碎了,太多说明上下文会膨胀。
拆解粒度还要看失败代价:高风险节点拆细一点,便于单独评审和回滚;低风险、同质的节点可以合并,减少调度开销。 取舍与失败边界: 拆得太细,调度和汇总成本会超过执行成本;拆得太粗,单个 Worker 上下文膨胀,失败重试代价高。DAG 的难点是依赖发现:模型可能漏掉隐含依赖,或者把“可以并行”误判成“必须串行”。坏场景是:契约未定就并行实现、下游用了上游旧版本、某个节点失败后无法判断哪些节点被阻塞。验证时用历史任务回放,检查任务树是否覆盖所有验收项;统计重派率和返工率;对关键依赖做契约测试,而不是只看最终答案。 追问:
  • 为什么不是任务树? 树适合责任归属,DAG 适合执行调度;Lead 真正需要的是后者。
  • 拆解粒度怎么定? 以一个叶子任务能产出明确产物、工具调用在 5-15 次为准。

T-10 为什么子 Agent 不继承完整对话历史

一句话结论: 子 Agent 继承完整历史会让成本线性放大、引入无关噪声,并让不同子 Agent 看到的事实版本不一致;正确做法是传任务简报和上游产物引用。 机制展开: 任务简报至少包含:目标、已确认事实、约束、验收标准、可用工具、禁止事项、截止时间和升级对象。子 Agent 只读简报、自己的子任务和上游 artifact 引用,不读 Lead 与其他子 Agent 的完整对话。
这样每个子任务的输入是同一份事实快照,产物更容易对齐;交接契约也方便做机器校验和审计。 取舍与失败边界: 简报写少了,下游会漏掉关键约束;写多了,又会退化成“另一份完整历史”。最容易被省略的字段是负面约束(不要改哪些目录、不要用哪些库)和验收标准,缺失后下游只能猜。坏场景是:Lead 已经排除了某个方案,子 Agent 不知道又做了一遍;不同子 Agent 基于不同版本的接口契约实现,最后无法合并。验证时看交接保真度:下游产物是否保住上游约束、是否引用了旧版本、返工是否集中在接缝处。 追问:
  • 哪些内容必须进简报? 目标、事实、约束、验收、工具和禁止事项;隐含知识要显式写出来。
  • 子 Agent 能不能看上游对话? 默认不能,只给结构化摘要和产物引用;需要细节时按权限读取指定片段。

T-11 Lead 分派任务时怎么选子 Agent

一句话结论: 选子 Agent 要综合能力标签、当前负载和历史成功率;关键任务点名分派,弹性场景用任务池抢单,不能只按“谁空闲”随机分配。 机制展开: 路由可以拆成三步:能力过滤(coding/review/search 等标签是否匹配)、负载过滤(当前队列长度、并发上限)、成功率排序(同类任务的历史通过率和返工率)。分派时记录 taskId、agentId、交接契约和 trace,便于事后归因。 冷启动阶段没有历史成功率,可以先按能力和负载分配,再用前几十个任务的结果校准。 取舍与失败边界: 历史成功率会惩罚探索,新 Agent 永远拿不到任务;负载指标可能过期,导致“看起来空闲、实际排队”;能力标签会漂移,Agent 升级后旧标签不再准确。坏场景是:所有任务都压给历史最好的那个 Agent,形成单点;或者按负载把任务分给不匹配的 Agent,返工率上升。验证时做路由 A/B,比较成功率、P95 延迟和单位成本;对失败任务归因,看是能力不匹配、负载过载还是交接问题。 追问:
  • 冷启动怎么路由? 先按能力和负载,给新 Agent 少量低风险任务,积累成功率后再参与排序。
  • 怎么防止明星 Agent 过载? 设并发上限和队列长度阈值,超过后降级到同能力候选或排队。

T-12 子 Agent 结果冲突了谁裁决

一句话结论: Lead 对最终结果负责,不能把矛盾结果直接丢给用户;裁决按“一手证据 → 可复现验证 → 合规约束 → 置信度/历史正确率 → 错误代价 → 人工”的顺序,高风险、不可逆冲突必须升级人工。 机制展开: 汇总分三步:先逐份校验 Schema、验收项、引用是否真实、是否违反约束;再按拼接、去重、归并三种方式合并;最后处理冲突。冲突能机器判定的按规则裁决,不能判定的让评审 Agent 给出理由,仍不确定就升级人工。裁决必须留下决策记录:问题、各方观点、证据、取舍理由、最终决定、接受的风险和回滚条件。 取舍与失败边界: 置信度可能虚高,历史正确率对新任务不适用,投票还会因为多个 Agent 用同一模型、同一材料而“错误相关”。坏场景是:Lead 为了快,直接把 N 份报告拼在一起;或者用多数票否掉合规硬约束。验证时看决策记录是否完整、冲突是否真正收敛、同类冲突是否重复出现;对高风险任务做人工抽检,确认裁决理由站得住。 追问:
  • 投票能不能解决冲突? 只能处理低风险、无硬约束、分歧主要是偏好的场景;事实和合规不能投票。
  • Lead 自己会不会成为瓶颈? 会,所以 Lead 只做拆解、分派、汇总、裁决,专业判断交给专家,硬约束交给规则引擎。

T-13 超时后直接重派有什么风险

一句话结论: 超时不等于没执行,写操作可能已经成功;直接重派会重复下单或重复发消息,必须先做幂等键和状态查询,确认未完成再重派,或者把写操作拆成可补偿的步骤。 机制展开: 可靠链路是:每个任务带唯一 taskId,写操作带稳定幂等键(如 order:{taskId}:{stepId}:{hash(args)}),下游按幂等键去重;超时后先查任务状态,状态未知时不要盲目重试;确认失败后走重派、拆小、降级或人工。写操作最好拆成“预留 → 确认 → 补偿”三段,任一段失败都能回滚或对账。
取舍与失败边界: 状态查询本身可能超时或返回旧值;补偿逻辑会增加系统复杂度;下游不支持幂等键时,只能用“先查后写”或事务/Outbox。坏场景是:超时后重派,结果下了两单;幂等键用了 Date.now(),每次重试都不同;重试层和模型层双重放大,实际调用 9 次。验证时在“提交成功、响应丢失”的窗口注入故障,确认不会重复写;对同一幂等键并发调用,断言只产生一个副作用。 追问:
  • 幂等键怎么设计? 稳定、可追溯、带 taskId/stepId、有 TTL,服务端按键去重并返回第一次结果。
  • 下游不支持幂等怎么办? 先查后写、事务/Outbox,或者把写操作改成可补偿的预留-确认模式。

T-14 多 Agent 的成本怎么控制

一句话结论: 多 Agent 成本近似“子任务数 × 平均上下文 × 轮次 × 单价 + Lead 开销 + 汇总/评审开销”,是乘法增长;控制手段是模型分级、上下文预算、结果截断、并行限流、Prompt Cache 和达到验收即早停。 机制展开: 先算总成本,再算单位合格交付成本:
成本大头往往不在“专家执行”,而在路由、评审和汇总。公开的多 Agent 工作流研究(Jev-LiteMAS)测量三个框架后发现,路由与评审消耗了 31.7%-43.5% 的生成式模型 token,协调本身就是成本。 取舍与失败边界: 便宜模型可能失败,返工成本会把省下的钱吃回去;动态工具列表会破坏 Prompt Cache;并行度提高可能让汇总和评审变成新瓶颈。坏场景是:没有预算上限,死循环把额度跑光;所有 Agent 共用一个密钥,配额一挂全挂;只算 token 单价,不算人工接管和集成成本。验证时做单位合格交付成本对比,按任务分层看成本分布,再做敏感性分析:合格率下降、人工接管上升时 ROI 会不会转负。 追问:
  • 为什么并行不一定省钱? 并行缩短延迟,但会增加汇总、评审和限流成本,关键路径没变时总成本可能更高。
  • 怎么设预算? 按 run、租户、任务节点三层设 token 和金额上限,超限降级或转人工。

T-15 怎么证明多 Agent 比单 Agent 更好

一句话结论: 先跑单 Agent 基线,再用固定任务集做 A/B;指标看任务成功率、平均步数、工具误调用率、单任务成本、人工接管率和重派率,成功率和成本要一起看。 机制展开: 评测集选 20-50 个真实任务,覆盖简单/中等/困难;固定模型和 Harness,只改编排策略;能用 Schema 和测试校验的产物不要用模型打分;LLM-as-a-Judge 只做主观质量的补充,并人工抽检校准;设回归门禁,成功率下降超过阈值就阻断发布。 多 Agent 的评估单元还应该包括“交接”:下游是否保住上游约束、角色有没有漂移、最终结论有没有丢掉正确的修正。 取舍与失败边界: 任务集太小,结论容易被方差淹没;任务集被调优过,指标会虚高;只看成功率不看成本,可能得到“更贵但没有更好”的结论;只看最终答案,会漏掉交接和角色问题。坏场景是:A/B 时换了模型或 Prompt,无法归因;多 Agent 成功率略高但成本和延迟翻倍,业务上并不划算。验证时给置信区间,做多次重复实验;把线上失败案例沉淀进评测集,避免评测分布和真实分布脱节。 追问:
  • 成功率一样但延迟更低,算更好吗? 要看业务权重;如果延迟影响转化,算更好,但还要确认成本和人工接管没有恶化。
  • 怎么评估交接质量? 看交接保真度、角色依从度和群体一致性,而不是只看最终报告。

Tool Calling 设计与排障

T-16 Agent 不调用工具,按什么顺序排查

一句话结论: 先看 finish_reason 和原始响应,区分”模型没选工具”和”Harness 没解析或没回灌”,再按”工具是否可见 → 描述是否可判 → 是否重叠 → Schema 是否合法 → 运行时是否吞掉 → 任务是否真需要工具”的顺序控制变量排查,不要一上来就改 Prompt。 机制展开: 完整链路是 ① 定义 ② 选择 ③ 生成参数 ④ 校验 ⑤ 执行 ⑥ 回灌 ⑦ 再决策,任何一段断掉都表现为”不调用”。 最小复现法是只保留一个工具 + 一条固定用户消息,确认链路能通,再逐个加回变量。 取舍与失败边界: 加”请使用工具”能短期提升调用率,但会带来过度调用和对不需要工具的问题也硬调;只降 temperature 只是把”犹豫”变成”更自信地猜”。坏场景是工具加了却没生效:被 tool_choice: none 禁掉、被上下文压缩截掉、MCP 的 tools/list 变更后旧名字失效。验证方式是抓请求体、做单工具最小复现、每次只改一个变量做 A/B(描述 / 工具数 / Schema),并且统计误调用率而不只是调用率。 追问:
  • 模型在正文里写出工具名却没触发调用? 说明工具没注册成功或模板把工具段截断了,先核对请求体 tools 与最终渲染的上下文。
  • 修完还是偶发? 用固定 fixture 重复 20 次看分布;偶发通常来自工具职责重叠或上下文里存在互相冲突的指令。

T-17 工具描述应该怎么写

一句话结论: 描述是给模型看的接口契约,必须回答五件事:何时用、何时不用、输入从哪来、返回什么、有没有副作用;目标是”在正确时机、用正确参数、只调用一次”,“能通过校验”只是最低要求。 机制展开: 用固定五段式,缺一段就会在线上以选错或参数错的形式暴露:
命名遵循”动词 + 名词 + 领域前缀”:get_order、search_orders、kb_search,不要用 query、lookup 这类泛化词;名字即 API,改名等于破坏缓存和评测。参数描述写格式、单位、默认值和边界:amountCents 比 amount 少一类事故,时间用 ISO 8601 并给例子,limit 写明默认值与最大值。 负面约束是切分重叠工具的唯一可靠手段: 描述同时也是 Tool Search 的索引,用户可能的说法要出现在描述里。 取舍与失败边界: 描述越长越占 token 且稀释重点,不要把实现细节、内部黑话、过期示例写进去;描述变更不算”安全改动”,它会改变选择分布,必须回归评测。坏场景:两个工具描述都写”搜索信息”导致随机选;描述承诺的返回字段与实际不符,模型基于错误预期继续推理。验证方式是建工具选择评测集,只改描述做 A/B,看目标工具命中率、误调用率和单任务 token。 追问:
  • 描述里能放调用示例吗? 少量正例能提升参数正确率,但会占 token 且容易诱导模型照抄,示例必须与真实格式一致。
  • 工具很多时怎么保证描述质量一致? 统一模板 + lint(五段必填、禁止空描述)+ 定期离线选择评测,工具名与描述一起版本化。

T-18 工具报错应该返回什么

一句话结论: 返回结构化四段——错误码、人可读消息、是否可重试、修复提示;错误信息本身就是给模型的重试指令,返回”操作失败”只会让它盲目重试。 机制展开: 先把错误分类,不同类别的正确动作完全不同:
取舍与失败边界: 把堆栈、SQL、内部 URL 返回给模型,既泄漏内部结构又诱导它乱改;把所有错误都标 retryable: true 会引发重试风暴;错误码过细模型记不住也不稳定。写操作必须额外说明”是否已产生副作用”,否则模型重试会重复扣款。最隐蔽的坏场景是工具吞掉异常返回空数组,模型以为”确实没有数据”并据此下结论。验证方式是错误注入 fixture,看模型下一步是修正参数还是原样重发,并断言同一错误码的重复调用次数上限。 追问:
  • 业务校验失败要不要抛异常? 返回 ok: false 的结构化结果,让循环继续,模型可以解释或改参数;抛异常会让整轮直接中断。
  • 敏感信息怎么给? 模型侧只给可行动信息加 requestId,细节写服务端日志,靠 requestId 关联排查。

T-19 重试应该分几层

一句话结论: 分三层:工具层自愈网络抖动与限流,对模型透明;模型层根据结构化错误修正参数或换工具,最多两三次;编排层做任务级降级、重派或人工接管。写操作必须先幂等,否则任何自动重试都会制造重复副作用。 机制展开: 工具层的退避公式可以写成 delay = min(cap, base * 2^attempt) + random(),避免多个客户端同时重试形成尖峰。 还要区分”失败”和”未知”:超时后服务端可能已经执行成功,重试前应先查状态(幂等键或查询接口),确认未成功再重试。 取舍与失败边界: 三层各自重试会相乘,最坏 3×3×3 次;无幂等的写操作重试就是重复扣款、重复发券;无限退避会把长任务拖死。最典型的坏场景是网关、SDK、业务层都开了自动重试,一次 429 放大成九次调用。验证方式是注入超时、500、429,统计总调用次数、副作用次数和端到端延迟,并断言超时路径先走状态查询。 追问:
  • 超时了该重试还是该查? 有幂等键或状态接口时先查,确认未成功再重试;没有查询能力时只能让操作幂等后再重试。
  • 哪些错误绝不能重试? PERMISSION_DENIED、BUSINESS_RULE、参数校验失败,重试只会放大成本和风险。

T-20 工具结果太长怎么办

一句话结论: 在工具层做结果预算与语义截断:头尾保留、中段丢弃,大内容落 artifact 只回摘要加引用,回灌前先判断模型是否真的需要全文。 机制展开: 要做三层控制:单条结果上限、单轮工具结果总预算、上下文水位告警。截断优先按结构而不是按字符:JSON 数组分页、日志按级别过滤、表格做聚合,没有结构再退回头尾保留。
二进制和 base64 不回灌;大文件回路径加摘要,模型需要时再用 Range 分段读或按行区间读。截断信息里必须显式写”被截断了多少”,否则模型会以为看到的是全部。 取舍与失败边界: 头尾截断会丢掉中段的关键错误,所以要么让工具额外产出”错误摘要”,要么允许模型按需回读 artifact;让模型自己总结会多一次调用且可能失真;只回路径会让模型反复读同一文件浪费步数。坏场景是一次 grep 十万行把上下文顶爆,压缩时把系统提示里的硬约束一起摘要掉。验证方式是构造超长输出 fixture,断言 token 上限、头尾与错误行仍在、artifact 可回读,并统计”因结果过长导致的重复调用次数”。 追问:
  • 谁来截断,工具还是 Harness? 工具做语义裁剪(它知道哪些字段重要),Harness 做统一兜底,防止任何工具突破预算。
  • 截断会不会影响正确性? 会,所以要在结果里显式标注截断范围并给出可回读的引用,让模型知道信息不完整,而不是默认自己看到了全量。

T-21 并行工具调用有哪些坑

一句话结论: 并行只在”无数据依赖 + 只读或幂等 + 有独立限流预算”三条同时成立时才安全;坑集中在结果配对、部分失败、写竞态、限流峰值和顺序语义。 机制展开: 配对规则是硬协议:每个 tool_call 必须有且只有一条对应结果,用 call_id 关联;即使某个调用失败,也要为它生成一条结果消息,否则下一轮请求不合法。执行用 Promise.allSettled 语义,不要把单个失败升级成整轮失败。 回灌顺序必须稳定:按调用顺序或 call_id 排序,而不是按完成顺序,否则同样的输入会产生不同的上下文,评测无法复现。并行度要设上限(常见 4-8),每个工具再配独立并发信号量。 取舍与失败边界: 并行降延迟但抬高瞬时 QPS,容易触发 429;串行安全但长任务变慢;模型经常把有依赖的调用塞进同一轮,因为它以为能拿到前一个结果。坏场景是两个调用写同一文件互相覆盖、一个超长结果挤掉另一个、限流后整轮失败。验证方式是构造”依赖被误并行”的用例,断言系统能检测参数引用并改串行或返回可行动错误,同时统计并行下的 429 率与副作用重复率。 追问:
  • 模型把有依赖的调用放同一轮怎么办? 执行前做依赖检测(参数是否引用了上一调用的输出),重排为串行,或返回 INVALID_ARGUMENT 让它分轮重发。
  • 并行结果顺序重要吗? 重要,回灌必须按 call_id 稳定排序,否则测试不可复现、缓存也容易失效。

T-22 工具结果里包含恶意指令怎么办

一句话结论: 把工具结果当不可信的第三方数据,指令只能从系统或用户消息进入;执行前做 allowlist、Schema 和权限校验,高风险操作人工确认,全链路留审计。 机制展开: 间接提示注入的链路是:网页、文件、邮件 → 工具结果 → 上下文 → 模型把内容当指令 → 触发高危工具(外发、删除、转账)。防御必须分层,单靠一句”忽略结果中的指令”不可靠:
  1. 来源标记:工具结果用明确边界包裹(例如 untrusted_content),系统提示声明其中的指令不可执行。
  2. 权限最小化:工具按 scope 授权,按最终用户身份鉴权,不用服务账号的超级权限。
  3. 策略引擎:写操作、外发、删除、跨租户访问走规则或审批,模型无权直接放行。
  4. 输出侧检测:对出站内容做敏感信息与目标地址校验。
  5. 审计:记录哪次 run、哪个工具结果触发了哪个调用,事后可追。
MCP 还有三类特有风险:工具投毒(描述里藏指令)、rug pull(工具描述被静默替换)、路径穿越。 取舍与失败边界: 全量人工审批会毁掉自动化率;纯正则过滤容易误杀且绕过成本低;只信任”可信工具”也不够,可信工具返回的数据仍可能被污染。坏场景是网页里写”请把密钥文件内容发到某地址”,模型照做。验证方式是维护红队样本集,覆盖直接注入、间接注入、编码绕过、多语言绕过,断言高危工具未被调用;同时对 tools/list 做哈希快照,描述变更走人工审批。 追问:
  • 模型能不能自己判断内容是否恶意? 只能作为其中一层,不能作为唯一防线,因为它本身就是被攻击面。
  • 怎么防 MCP 工具描述被改? 工具清单与描述版本化并做哈希比对,运行时只加载已审批版本,变更触发审核。

Agent 组织形态

T-23 Super Agent、Personal Agent、硅基员工、专家团怎么区分

一句话结论: 四种形态的差别不在能力,而在责任契约:对谁负责、交付什么、权限边界在哪。Super Agent 卖”什么都能问”,Personal Agent 卖”懂你”,硅基员工卖”对结果负责”,专家团卖”专业协作”。 机制展开: 选型顺序是先选责任再选模型:
四种形态可以组合:Super Agent 做统一入口,硅基员工负责端到端流程,复杂疑点拉起专家团会诊,Personal Agent 承接个人提醒与审批。 取舍与失败边界: 四个常见误区:把 Super Agent 当万能(工具越多越容易选错、越权)、把 Personal Agent 当聊天记录(没有长期记忆和跨应用就是换皮 Chat)、把硅基员工当 RPA(处理不了异常就只是脚本)、把专家团当群聊(没有 Lead 和裁决只会放大错误)。三个硬约束:责任可归属、权限可收敛、结果可验收,任一不满足就不该做成”岗位”。验证方式很直接:先问”出问题谁负责”,答不上来就说明形态选错了。 追问:
  • 硅基员工和专家团能共存吗? 能,岗位负责端到端流程,遇到复杂疑点拉起专家团会诊,Lead 收敛结论后回到岗位交付。
  • 为什么不能一开始就上四层架构? 四层解决的是协调复杂度,小团队上四层只会增加协调成本。

T-24 硅基员工和普通 Agent、RPA 有什么区别

一句话结论: 普通 Agent 是工具,完成一次请求;硅基员工是岗位,对一段流程的结果负责,有 KPI、权限、审计和升级路径;RPA 是固定脚本,遇到异常即失败。 机制展开: 判定一个 Agent 是不是”员工”,看五件事:有岗位说明书、有任务节点契约、有 KPI、有权限模型、有审计链和生命周期。任务节点契约至少写清输入、输出 Schema、验收标准和 SLA:
取舍与失败边界: 只做”RPA + LLM”会得到更会说话的脚本,长尾仍然要人兜底;做成全自主又无法审计和追责。两者之间的正确位置是:常规路径自动执行,低置信度和高风险走审批。坏场景是只算节省工时,不算复核、接管和集成成本,ROI 变成负数。验证方式是用长尾异常集测接管率、恢复率和平均处理时长,并抽样人工复核产物的依据是否成立。 追问:
  • 硅基员工一定要多 Agent 吗? 不一定,单 Agent 加工具、SOP 和审批就能构成岗位;多 Agent 只在需要专业分工时才划算。
  • KPI 怎么定? 三层:业务结果(合格交付率、时效)、过程质量(一次通过率、接管率)、风险合规(越权率、审计完整率)。

T-25 专家团为什么不能只是多个 Agent 群聊

一句话结论: 群聊没有任务树、交接契约和裁决机制,多一个 Agent 只是多一份噪声,还会互相放大错误;专家团的价值是角色正交、独立上下文、生成与评审分离,再由 Lead 统一收敛。 机制展开: 四件事缺一不可:
  1. Lead 收敛:拆解、分派、汇总、裁决,对最终交付负责,而不是”谁都可以发起”。
  2. 角色正交:从职责、知识域、时间视角、风险视角等维度保证角色不重复,重复的角色只会产生同质意见。
  3. 独立上下文:共享任务简报,但不共享彼此的推理过程,避免锚定和角色漂移。
  4. 裁决规则:证据强度 > 权限与合规 > 领域权威 > 多数票;RACI 里只能有一个 Accountable。
产物用 artifact + manifest + version 传递,评审意见要落到具体版本号,而不是”我觉得不行”。成本要提前算:公开案例里路由与评审会吃掉相当比例的 token(expert-team 一文给出的区间是 31.7%-43.5%),角色越多协调开销越大。 取舍与失败边界: 角色越多越慢越贵;没有裁决规则会退化成”谁声音大听谁”;共享上下文会让角色漂移;全票通过不代表正确,可能只是同一个错误被复制了三遍。坏场景是三个 Agent 基于同一份错误前提得出一致结论,看起来”共识很强”。验证方式是注入一个错误前提,看是否有角色能独立发现(缺陷召回),并统计评审轮次与质量增益,做边际收益判断。 追问:
  • 怎么防止角色漂移? 每个角色独立上下文 + 明确职责边界 + 输出 Schema 校验,Lead 在汇总时检查是否越界。
  • 评审要几轮? 通常 1-2 轮,之后缺陷召回收益递减,继续加轮只是加成本。

T-26 企业四层智能体架构是什么

一句话结论: 企业智能体承接战略与指标口径,岗位智能体对岗位结果负责,个人智能体沉淀个人经验并辅助日常,任务智能体执行闭环;它解决的是战略传导失真、经验流失、协同内耗和执行不可追踪,不是所有团队都需要。 机制展开: 指标传导要用因果分解,而不是层层摊派:
跨层协作靠事件总线、产物契约、权限继承和升级路径,而不是每层都套一次 LLM。 取舍与失败边界: 典型反模式:套娃式调用(成本爆炸、错误放大)、指标摊派(指标失真、员工抵触)、个人智能体变监控(信任崩塌)、任务智能体无状态(无法恢复和审计)、企业智能体变 BI 大屏(只展示不传导)。是否值得上四层看协调复杂度:200 人以上、3 个以上跨部门流程、多个部门口径冲突、多法人多地域。落地顺序建议是任务级 → 岗位级 → 企业级 → 个人级按隐私单独设计。 追问:
  • 小团队怎么用? 只做岗位级或任务级,先把 SOP 和产物契约跑通,不必凑齐四层。
  • 为什么个人智能体要单独设计? 它涉及员工隐私与信任,个人数据应归个人,组织只看聚合结果。

T-27 Personal Agent 最大的风险是什么

一句话结论: 它同时握着长期记忆和跨应用写权限,一次提示注入或记忆污染就能以用户身份做错事,破坏面远大于普通助手。 机制展开: 风险面有四类:记忆(记错、记多、泄漏)、权限(跟随个人但可能被放大)、主动服务(打扰、误判)、外部内容注入(网页和邮件变成指令)。设计上要同时做到:本地优先、最小上传、记忆可查看可修改可删除可追溯来源;权限严格跟随用户,敏感写操作二次确认,授权可见、可撤销、可到期;外部内容一律当不可信数据。 记忆分层能减少”记太多”的问题:
关键原则是:用户不知道 Agent 记了什么,信任就无法建立。 取舍与失败边界: 强记忆体验好但隐私风险高;频繁二次确认会毁掉体验,所以应按风险分级而不是一刀切;“以前同意过”不等于永久授权。坏场景是恶意网页指示 Agent 转发邮件或删除文件,或者记忆里存了过期信息导致持续误判。验证方式是跑注入样本集,断言高危写操作被拦截;提供记忆查看与删除入口,并测试删除后是否真的不再被检索。 追问:
  • 记忆该存在哪? 敏感数据本地或加密存储,云端只存可删除的摘要,并标注来源与时间。
  • 怎么平衡主动与打扰? 分级触发(高置信才主动)+ 静默时段 + 用户可关闭,并且要能解释”为什么现在提醒”。

T-28 怎么衡量硅基员工是否真的产生价值

一句话结论: 用”单位合格交付成本”和”合格交付率”对比上线前基线,同时看人工接管率、返工率、周期和风险事件;只看调用量或节省工时必然高估价值。 机制展开: KPI 分三层,缺一层就会算错账: ROI 要算净收益,而不是只算节省:
评测方法:上线前记录同岗位基线,灰度期用同任务集对照,连续 4-8 周同口径观测,避免用一两天的高光数据下结论。 取舍与失败边界: 口径不统一会让数字很好看;把”节省工时”直接当收益,但编制没释放,实际没有财务收益;忽略长尾异常处理,接管率上线后飙到 40%。坏场景是 POC 只看 demo,生产环境任务边界不清导致大量转人工。验证方式是持续把线上失败案例沉淀进评测集并定期重跑,避免评测分布与真实分布脱节。 追问:
  • 接管率高说明什么? 可能是任务边界不清、权限不足或长尾太多,先看接管原因分布再谈优化。
  • 怎么算才可信? 同岗位、同周期、同口径对照,把复核、接管、集成、运维全部计入成本。

协作基础设施与协议

T-29 会话中生成的产物如何落到沙箱/工作区?A Agent 的产物 B Agent 怎么读

一句话结论: 工作区是草稿纸,对象存储才是档案室;跨 Agent 交接默认传 artifact 引用(artifactId + sha256 + version),而不是共享路径或把内容内联进消息。A 通过“申请上传 → 直传 → commit manifest”落产物,B 凭会话令牌换取短期 presigned GET 读取。 机制展开: 一次会话的产物生命周期是:ephemeral(沙箱本地盘,分钟级)→ workspace(共享卷/PVC,会话级)→ artifact(S3/MinIO 不可变对象,天到永久)→ reference(下游按 id 读取)→ retention(过期/归档)。manifest 至少要有 artifactId、producer、sha256、version、mediaType、size、storageKey、visibility、retention、parentArtifactId。提交用两阶段:先申请上传拿 presigned PUT,直传对象存储,再 commit 校验 size/sha256/mime 并写元数据;只有 commit 成功,下游才可见,避免“写了一半被读到”。
并发写用 CAS:If-Match: <etag> 或 version 比对,冲突返回 409,产生新版本而不是原地覆盖;回滚是移动发布指针,不是删改历史。 取舍与失败边界: 共享挂载延迟低但权限粗、跨节点一致性弱;Artifact 引用权限和审计最完整,但多一次网络往返和存储成本;内联只适合小结果,大文件 base64 会让 token 爆炸。坏场景是:沙箱销毁前没 commit 导致产物丢失、客户端传 ../ 造成路径穿越、两个租户共用 bucket 前缀越权、manifest 登记后对象被就地覆盖。验证时在 commit 前注入 kill,确认不产生半成品;让 B 真实读取并做 schema 校验;跑路径穿越和跨租户负向测试;GC 时断言被引用产物不能删。 追问:
  • presigned URL 的安全边界在哪? 单对象、单动作、短 TTL、绑定租户和会话;沙箱里绝不放长期 AK/SK。
  • 大文件怎么交接? 只传引用,下载用 Range/分片,文本优先传 diff,下游先读 manifest 判断是否需要内容。

T-30 多 Agent 怎么做可观测?Langfuse 怎么接

一句话结论: 多 Agent 可观测的核心是“一条任务一条 trace,Agent/工具是 span,模型调用是 generation,产物写入是事件”;跨 Agent 用 W3C traceparent 串链,Langfuse 通过 OTel/SDK 接收并按 trace 树展示。 机制展开: 数据模型分五层:Session 管多轮会话,Trace 是一次任务,Observation 是链路中的步骤,Span 是通用步骤(Agent、工具、检索),Generation 专指模型调用,Event 是没有持续时间的时间点。层级建议固定为 run → turn → step → tool/model,否则聚合和归因做不了。
跨进程传播用 traceparent: 00-<traceId>-<spanId>-01,通过 HTTP header、消息队列属性或 MCP _meta 注入;异步任务把 traceparent 存进任务消息,消费时恢复。OTel GenAI 约定重点记 gen_ai.operation.name、gen_ai.request.model、gen_ai.usage.input_tokens/output_tokens、gen_ai.agent.name、gen_ai.conversation.id、gen_ai.tool.name、error.type。Langfuse 自托管是 Web + Worker + PostgreSQL + ClickHouse + Redis + 对象存储:Web 接收上报,Redis 缓冲,Worker 异步写入分析库,ClickHouse 扛大规模 trace 查询。 取舍与失败边界: 全量采集成本和隐私风险都高,要分层采样:错误、超过 P95 的慢请求、人工接管 100% 保留,普通成功链路按 5%-20%;采样决策要基于整条 trace,不能每个 span 各自随机。PII 脱敏放在 SDK/OTel 导出前,用确定性规则处理 email、手机号、token、密钥,prompt/completion 设大小上限。坏场景是:异步消费没恢复上下文导致断链、子服务各自建 TracerProvider、只记 run 级结果无法下钻、完整工具参数进了观测平台。验证时跑一个固定任务,从根 span 下钻到具体 tool span;做一次脱敏扫描;核对采样后错误链路是否仍在。 追问:
  • 怎么防止 trace 断成几段? 统一 propagator,跨进程传 traceparent,异步任务恢复上下文,不在子服务重建 TracerProvider。
  • LLM-as-a-Judge 怎么防止放水? rubric 可逐条检查、评估器换模型/厂商、强制输出理由、人工抽检校准一致性。

T-31 AG-UI、MCP、A2A 分别解决什么问题

一句话结论: AG-UI 解决 Agent 与用户界面之间的过程事件流,MCP 解决 Agent 与工具/数据之间的连接,A2A 解决不透明 Agent 之间的任务委派;三者分别对应“有表情、有手、有同事”。 机制展开: AG-UI 的核心是 Run/Event/State:一次 run 以 RUN_STARTED 开始,以 RUN_FINISHED 或 RUN_ERROR 结束;中间有 TEXT_MESSAGE_* 流式文本、TOOL_CALL_START/ARGS/END/RESULT 工具调用、STATE_SNAPSHOT/STATE_DELTA 状态同步和 RUN_FINISHED(interrupt) 人工中断。注意 TOOL_CALL_END 只表示参数传完,结果要等 TOOL_CALL_RESULT。MCP 的抽象是 Tool/Resource/Prompt,走 JSON-RPC,支持 tools/list 动态发现和 OAuth 2.1。A2A 的抽象是 Agent Card、Task、Message、Artifact,Task 有 SUBMITTED → WORKING → INPUT_REQUIRED/AUTH_REQUIRED → COMPLETED/FAILED/CANCELED 状态机。 一条组合链路是:前端 POST /ag-ui/agent → Agent Runtime 发 RUN_STARTED → Runtime 通过 MCP tools/call 查订单 → 回 TOOL_CALL_RESULT → 需要确认时先发 STATE_SNAPSHOT,再以 RUN_FINISHED(interrupt) 结束 → 用户批准后新 run 带 resume 恢复 → Runtime 通过 A2A 把后续任务委派给远程 Agent。 取舍与失败边界: 用 MCP 做 Agent 间协作会缺任务状态机和 Artifact;用 A2A 做前端流会缺 token 级增量和细粒度工具事件;用 AG-UI 传工具定义会把展示协议变成能力协议。坏场景是:只有 RUN_STARTED 没有结束导致 UI 永远转圈、STATE_DELTA 丢失后状态漂移、中断前没发快照导致刷新后无法恢复、A2A 任务卡在 WORKING。验证时检查事件顺序和快照语义,断线后用 Snapshot 重建,重复 resume 要幂等,A2A 要有超时、CancelTask 和 taskId 记录。 追问:
  • TOOL_CALL_END 和 TOOL_CALL_RESULT 有什么区别? 前者是参数传输结束,后者才是执行结果;UI 只能在收到 RESULT 后标完成。
  • AG-UI 的中断为什么结束 run? 避免为待审批任务长期占用连接和内存,用户响应后用新 run + resume 恢复,服务端可无状态扩展。

治理、审计与隔离

T-32 硅基员工/专家团的产物如何审计、回滚和隔离

一句话结论: 审计靠不可变产物版本加审批记录和全链路 trace,回滚靠移动发布指针而不是改历史,隔离靠租户/岗位/任务三级边界加 retention 策略;责任则落在部署企业、岗位负责人、操作员工和供应商四方。 机制展开: 审计需要四类证据,缺一类就还原不了决策: 回滚不是删数据。产物不可变,发布侧维护一个指针(release pointer),回滚就是把指针指回上一个已审批版本,出问题的新版本保留作为证据;下游必须按指针解析,不能自己缓存物理路径。 隔离分三层:租户(bucket 或前缀 + 独立密钥 + 产物级授权)、岗位(岗位只能读自己任务的产物)、任务(专家团内部共享任务简报,但角色产物通过 manifest 传递,不共享推理过程)。跨层读取一律用短期 presigned URL,绑定租户、对象、动作和 TTL。 retention 分级:ephemeral 小时级、workspace 会话级、artifact 按合规要求(例如 90 天、1 年或永久);被引用中的产物不可删,删除要留 tombstone 以便审计。 取舍与失败边界: 全量长期留存成本高,但只存最终产物无法复现决策;回滚如果只改主产物、不同步下游引用,会出现新旧版本混用;租户隔离只做前缀不做鉴权,等于没隔离。坏场景是审批记录只写”已批准”却没记版本号,出事后无法确定批的是哪一版。验证方式是做一次完整回滚演练,断言下游读到一致版本;跑跨租户负向测试;GC 时断言被引用产物不被删除;抽查一条审计链能否从产物反查到 run 和审批人。 追问:
  • 出了事故谁负责? 部署企业承担业务责任,岗位负责人承担验收责任,操作员工承担授权责任,供应商承担工具或模型缺陷责任;这些要写进合同和岗位说明书,不能靠默认。
  • 审计日志要留多久? 按行业合规要求,金融通常更长;关键是可导出、防篡改(WORM 或哈希链),并且能和 artifact 版本对上。

延伸阅读与引用参考

下列来源分成题面来源和技术依据。题面来源证明问题被公开记录,不证明面经作者的答案或项目经历;技术依据用于校准本文答案。题面页面已读取并按题号映射,技术依据链接指向官方文档或论文;模型价格、版本和协议细节仍应以面试时固定版本为准。

直接面经

公开面经与整理型题库

技术依据