附录 A 术语表

术语 含义
提示词 提供给模型的指令、上下文、示例和输入的全部内容
上下文 模型生成一次回复时看到的所有 token,包括指令、工具定义、文档、历史、工具结果
上下文窗口 模型一次能参考的最大 token 数;输出与推理 token 是否计入同一窗口因模型而异
token 模型处理文本的单位,与字数并非一一对应
上下文腐化 token 越多,准确回忆上下文中信息的能力越差的现象
上下文工程 每次挑选并编排模型所见全部 token 的工作
系统(开发者)消息 存放所有对话共用的角色和规则的位置;设计上优先于用户消息,但无法完全防止注入
对话中系统消息 在对话中途追加的具有系统权限的指令,用于保留缓存并改变规则
角色设定 在系统提示词中加入确定视角与语气的语句,不赋予知识或权限
成功标准 看到结果就能判定是否做好的、可观察的条件
任务类型 提取、转换、生成、判断等任务性质,用于确定允许的创作范围和所需依据
适度抽象层级 在硬编码规则与笼统原则之间,以原则、理由、代表性案例提供判断框架的层次
提示词注入 用藏在输入中的句子篡改模型指令的攻击,分直接(用户)与间接(第三方内容)两类
最小权限 只给模型和工具任务所需的最小访问权限,以降低防护被突破后的损失
few-shot 示例 展示几组期望的输入与输出的方法;没有示例则称为 zero-shot
示例偏差 示例组的标签频率、顺序、措辞等倾向使模型判断发生偏移的现象
边界案例 处于两个类别之间,或连人也存在判断分歧的输入
XML 标签 标示指令、上下文、示例、输入之间边界的标记,名称可自由确定,但应一致使用
数据字典 汇总字段的业务含义、类型·单位、允许值、缺失时取值的表格
结构化输出 强制输出遵循指定 JSON schema 的功能
JSON 模式 只保证有效 JSON、不保证遵循 schema 的输出方式
enum 允许值列表,用于固定分类标签
预填充 预先填写 assistant 消息开头以引导输出的技巧,Claude 4.6 起的模型不支持最后轮次预填充
停止原因 回复结束的原因;Anthropic 通过 stop_reason,OpenAI Responses API 通过 status 和 incomplete_details.reason 告知
Citations Anthropic 的引用功能,为回复中的引用部分附上原文位置
搜索 grounding 让模型根据网页搜索结果作答并附上出处的功能
检索增强生成(RAG) 在提问时检索相关资料并放入上下文的方式
BM25 基于词语匹配的检索方式,擅长编号、代码等精确字符串
上下文检索 参考完整文档,为每个片段附上简短说明后建立索引的方法
重排序 将检索候选按与问题的相关度重新排序,只保留前列结果的步骤
压缩(compaction) 将长对话中的旧内容替换为摘要后继续的技巧
上下文编辑 按规则删除旧工具结果或思考块的功能
按需加载 只保留轻量标识符,需要时再通过工具加载内容的方式
子智能体 在干净上下文中完成聚焦任务,只返回摘要的辅助智能体
提示词缓存 保存并复用各次请求相同前缀的功能,前缀完全一致才会命中
推理模型 在回答前于内部生成推理 token 进行思考的模型
推理 token 推理模型作答前生成的 token,不可见或仅摘要可见,按输出计费
自适应思考 模型根据请求复杂度与强度设置,自行决定是否思考、思考多少的方式
推理强度(effort) 调节模型在思考和回复上投入多少努力的设置
输出上限 单次请求可生成的 token 上限,包括推理 token
提示词链 把任务拆成多次调用,将前一步输出作为下一步输入的方式
路由 将输入分类,发往各类型专用路径的模式
工作流模式 链式调用、路由、并行、协调者—执行者、评估者—改进者等组织多次调用的固定方式
自我审查 设置对照标准审查草稿并修改步骤的模式
评分量表 汇总各项目通过条件的评分标准表
致命项 只要一项失败结果就不能使用,因此需与平均分分开判定的评估项目
测试集 为比较修改而固定的输入及期望结果集合
确认集 改进中不查看,仅用于最终判断的集合(holdout)
回归 修改后,原本能正常完成的任务无法再完成的现象
BLEU·ROUGE 根据与参考答案的词语重叠程度评分的指标,无法衡量语义和事实准确性
LLM 评估器 用模型充当评分者的评估方式
位置偏差·冗长偏差 LLM 评估器偏好先呈现答案或较长答案的倾向
pass@k·pass^k k 次尝试中至少成功一次的概率,以及 k 次全部成功的概率
能力评估·回归评估 衡量擅长什么的评估,以及衡量原本能做到的事是否仍能做到的评估
记录(transcript) 一次智能体尝试的完整记录,包括输出、工具调用和推理