| 工作流 |
LLM 与工具按预先定义的代码路径协同运行的系统 |
| 智能体 |
LLM 动态决定自身执行过程和工具使用的系统 |
| 增强型 LLM |
加入检索、工具、记忆等扩展的 LLM,是所有智能体结构的基本部件 |
| 智能体循环 |
模型选择行动、执行工具、再把结果输入模型的重复过程 |
| 提示词链 |
将前次调用输出连接为下次调用输入的固定步骤配置 |
| 关卡 |
在提示词链步骤之间,以代码检查输出的位置 |
| 路由 |
对输入分类,再交给专门后续处理的模式 |
| 分段 |
同时运行独立子任务的并行化变体 |
| 投票 |
多次运行同一任务并收集结果的并行化变体 |
| 编排者-执行者 |
中央 LLM 动态拆分任务、委派给执行者并综合结果的模式 |
| 评估者-优化者 |
一次调用生成,另一次调用评估并反馈的循环模式 |
| 关键路径 |
并行任务中决定总耗时的最长依赖链 |
| 委派契约 |
给子智能体的目标、输出格式、工具与来源指引、边界 |
| handoff |
将执行控制权转交给另一智能体的连接方式 |
| agent-as-tool |
把另一智能体当作工具调用,同时保留控制权的连接方式 |
| 代码编排 |
用代码决定智能体流程,使执行更具确定性和可预测性 |
| 相关性错误 |
使用相同模型与依据的多个智能体,以相同方式出错的现象 |
| ADR |
架构决策记录,写明方案、测量值、选择理由与重新审视条件的文档 |
| ACI |
智能体-计算机接口,即智能体使用的工具及其说明、格式 |
| 防错设计 |
通过输入与格式设计,让错误难以发生的方法 |
| 命名空间 |
用服务或资源级前缀区分工具名称的方法 |
| 预览与确认执行 |
先计算并展示修改内容,再仅凭已确认标识执行的工具结构 |
| 幂等性 |
同一请求执行多次,效果仍与执行一次相同的性质 |
| 幂等键 |
识别同一请求的重复,使其只产生一次效果的标识 |
| MCP |
连接 LLM 应用与外部数据、工具的开放协议 |
| 主机、客户端、服务器 |
MCP 的三个角色:应用、应用内连接器、提供功能的服务 |
| 无状态协议 |
每次请求包含处理所需全部信息,不依赖先前请求的协议 |
| 状态句柄 |
服务器签发的明确标识,指向跨多次调用的状态,不代表权限 |
| MRTR |
服务器需要额外输入时,以 input_required 结果提出请求,客户端重新发送原请求的方式 |
| 信息征集机制(elicitation) |
服务器通过客户端向用户请求补充信息的功能,有表单与 URL 两种模式 |
| Tasks 扩展 |
为耗时较长的 MCP 任务提供持久任务句柄与状态查询的官方扩展 |
| 工具注解 |
描述工具行为的提示,不信任来自不可信服务器的注解 |
| token 透传 |
将收到的 token 未经验证转交下游 API 的禁止模式 |
| scope |
token 允许的操作范围,从最小范围开始,按需逐步提升 |
| 渐进式发现 |
不预先加载全部工具定义,而是通过搜索工具仅加载所需定义 |
| 编程式工具调用 |
模型编写调用工具的代码,在沙箱执行后只接收最终结果 |
| 上下文工程 |
筛选并维护推理时模型所见最优 token 集合的一整套策略 |
| 上下文退化 |
上下文越长,准确回忆其中信息的能力越低的现象 |
| 注意力预算 |
模型可分配注意力的有限容量,每个 token 都会消耗一点 |
| 即时检索 |
只持有轻量标识,按需加载数据的方式 |
| 压缩 |
窗口接近上限时,概括对话并启动新窗口的方法 |
| 工具结果清理 |
从上下文删除已用完的旧工具结果,是最轻量的压缩 |
| 结构化笔记 |
智能体写在上下文之外、之后再读取的记录 |
| 上下文污染 |
错误、过时或不可信信息累积,扭曲判断的现象 |
| 权威记录系统 |
对订单、转账、审批等业务事实提供最终权威依据的系统 |
| 提示词缓存 |
复用重复提示词前缀的处理,降低成本与延迟的功能 |
| 检查点 |
持久保存各步骤结果,使任务能够恢复的位置 |
| 交接包 |
为下一位执行者无需长对话即可接手任务而整理的文档 |
| 任务、试验 |
有输入与成功标准的一道测试,以及对该测试的一次尝试 |
| 评分器 |
对智能体表现的某一方面进行评分的逻辑 |
| 完整记录 |
一次试验的全部记录,也称追踪、轨迹 |
| 结果(outcome) |
试验结束时环境的最终状态 |
| 轨迹评估 |
对工具调用顺序、参数等路径进行评分的评估 |
| pass@k / pass^k |
k 次中至少成功一次的概率 / k 次全部成功的概率 |
| 能力评估、回归评估 |
扩大并测量可完成任务范围的评估 / 确保过去能做的仍能做的评估 |
| 饱和 |
已通过评估集中所有可解任务,无法再反映改进的状态 |
| 参考解答 |
已确认能通过全部评分器的解答,证明任务本身成立 |
| 追踪、跨度 |
整个工作流的记录,以及组成该记录、有开始与结束的操作单元 |
| 瑞士奶酪模型 |
任何单层都不完美,因此叠加多层评估与观测的方法 |
| 截止时间 |
整个任务允许的时间,与各步骤超时分开设置 |
| 指数退避、抖动 |
指数增加重试间隔,并加入随机性避免同时涌入的方法 |
| 熔断器 |
下游服务失败率高时,在一段时间内阻断调用的保护机制 |
| 审批疲劳 |
审批请求过多,使审核流于形式的现象 |
| 审批绑定 |
将审批绑定至执行参数,防止执行其他内容的设计 |
| 护栏 |
验证智能体输入、输出与工具调用,并能够停止运行的机制 |
| 沙箱 |
在操作系统层面限制程序可访问文件、进程与网络的环境 |
| 提示词注入 |
输入使模型行为偏离预期的漏洞,分直接与间接两类 |
| 过度代理权 |
因功能、权限、自主性过多,使智能体执行有害行动的风险 |
| 彩虹部署 |
同时运行新旧版本,逐步转移流量,保护运行中任务的部署方式 |
| 完全中介 |
每次都由下游系统而非 LLM 检查行动是否允许的原则 |
| 钱包拒绝服务 |
诱导过量调用,使按用量计费的成本暴涨的攻击 |
| 安全绊线(tripwire) |
护栏检测到违规时触发的信号,触发后停止运行 |
| 紧急停止开关 |
立即关闭智能体或写入工具的机制 |
| 补偿操作 |
抵消已经发生效果的反向操作 |