| 提示词 |
提供给模型的指令、上下文、示例和输入的全部内容 |
| 上下文 |
模型生成一次回复时看到的所有 token,包括指令、工具定义、文档、历史、工具结果 |
| 上下文窗口 |
模型一次能参考的最大 token 数;输出与推理 token 是否计入同一窗口因模型而异 |
| token |
模型处理文本的单位,与字数并非一一对应 |
| 上下文腐化 |
token 越多,准确回忆上下文中信息的能力越差的现象 |
| 上下文工程 |
每次挑选并编排模型所见全部 token 的工作 |
| 系统(开发者)消息 |
存放所有对话共用的角色和规则的位置;设计上优先于用户消息,但无法完全防止注入 |
| 对话中系统消息 |
在对话中途追加的具有系统权限的指令,用于保留缓存并改变规则 |
| 角色设定 |
在系统提示词中加入确定视角与语气的语句,不赋予知识或权限 |
| 成功标准 |
看到结果就能判定是否做好的、可观察的条件 |
| 任务类型 |
提取、转换、生成、判断等任务性质,用于确定允许的创作范围和所需依据 |
| 适度抽象层级 |
在硬编码规则与笼统原则之间,以原则、理由、代表性案例提供判断框架的层次 |
| 提示词注入 |
用藏在输入中的句子篡改模型指令的攻击,分直接(用户)与间接(第三方内容)两类 |
| 最小权限 |
只给模型和工具任务所需的最小访问权限,以降低防护被突破后的损失 |
| few-shot 示例 |
展示几组期望的输入与输出的方法;没有示例则称为 zero-shot |
| 示例偏差 |
示例组的标签频率、顺序、措辞等倾向使模型判断发生偏移的现象 |
| 边界案例 |
处于两个类别之间,或连人也存在判断分歧的输入 |
| XML 标签 |
标示指令、上下文、示例、输入之间边界的标记,名称可自由确定,但应一致使用 |
| 数据字典 |
汇总字段的业务含义、类型·单位、允许值、缺失时取值的表格 |
| 结构化输出 |
强制输出遵循指定 JSON schema 的功能 |
| JSON 模式 |
只保证有效 JSON、不保证遵循 schema 的输出方式 |
| enum |
允许值列表,用于固定分类标签 |
| 预填充 |
预先填写 assistant 消息开头以引导输出的技巧,Claude 4.6 起的模型不支持最后轮次预填充 |
| 停止原因 |
回复结束的原因;Anthropic 通过 stop_reason,OpenAI Responses API 通过 status 和 incomplete_details.reason 告知 |
| Citations |
Anthropic 的引用功能,为回复中的引用部分附上原文位置 |
| 搜索 grounding |
让模型根据网页搜索结果作答并附上出处的功能 |
| 检索增强生成(RAG) |
在提问时检索相关资料并放入上下文的方式 |
| BM25 |
基于词语匹配的检索方式,擅长编号、代码等精确字符串 |
| 上下文检索 |
参考完整文档,为每个片段附上简短说明后建立索引的方法 |
| 重排序 |
将检索候选按与问题的相关度重新排序,只保留前列结果的步骤 |
| 压缩(compaction) |
将长对话中的旧内容替换为摘要后继续的技巧 |
| 上下文编辑 |
按规则删除旧工具结果或思考块的功能 |
| 按需加载 |
只保留轻量标识符,需要时再通过工具加载内容的方式 |
| 子智能体 |
在干净上下文中完成聚焦任务,只返回摘要的辅助智能体 |
| 提示词缓存 |
保存并复用各次请求相同前缀的功能,前缀完全一致才会命中 |
| 推理模型 |
在回答前于内部生成推理 token 进行思考的模型 |
| 推理 token |
推理模型作答前生成的 token,不可见或仅摘要可见,按输出计费 |
| 自适应思考 |
模型根据请求复杂度与强度设置,自行决定是否思考、思考多少的方式 |
| 推理强度(effort) |
调节模型在思考和回复上投入多少努力的设置 |
| 输出上限 |
单次请求可生成的 token 上限,包括推理 token |
| 提示词链 |
把任务拆成多次调用,将前一步输出作为下一步输入的方式 |
| 路由 |
将输入分类,发往各类型专用路径的模式 |
| 工作流模式 |
链式调用、路由、并行、协调者—执行者、评估者—改进者等组织多次调用的固定方式 |
| 自我审查 |
设置对照标准审查草稿并修改步骤的模式 |
| 评分量表 |
汇总各项目通过条件的评分标准表 |
| 致命项 |
只要一项失败结果就不能使用,因此需与平均分分开判定的评估项目 |
| 测试集 |
为比较修改而固定的输入及期望结果集合 |
| 确认集 |
改进中不查看,仅用于最终判断的集合(holdout) |
| 回归 |
修改后,原本能正常完成的任务无法再完成的现象 |
| BLEU·ROUGE |
根据与参考答案的词语重叠程度评分的指标,无法衡量语义和事实准确性 |
| LLM 评估器 |
用模型充当评分者的评估方式 |
| 位置偏差·冗长偏差 |
LLM 评估器偏好先呈现答案或较长答案的倾向 |
| pass@k·pass^k |
k 次尝试中至少成功一次的概率,以及 k 次全部成功的概率 |
| 能力评估·回归评估 |
衡量擅长什么的评估,以及衡量原本能做到的事是否仍能做到的评估 |
| 记录(transcript) |
一次智能体尝试的完整记录,包括输出、工具调用和推理 |