| ステートレス（stateless） |
サーバーが以前のリクエストを記憶せず、毎回必要な情報をすべて含める方式 |
| 応答契約 |
入力の前提、必須出力、禁止事項、保留条件、受け入れ基準を検証可能な条件として記した文書 |
| システムプロンプト |
全リクエストに共通のロールとルール。Anthropicは最上位のsystem、Geminiはsystem_instructionで送る |
| instructions |
OpenAI Responses APIのリクエスト単位の上位指示。以前のターンからは引き継がれない |
| プリフィル（prefill） |
assistantメッセージの冒頭を事前に埋めて答えの始まりを決める手法。Claude 4.6以降は非対応 |
| 信頼境界 |
自分たちの指示と、処理する外部資料を分ける線 |
| 間接プロンプトインジェクション |
Webページ、メール、ファイルなど外部資料に隠した指示で、モデルの行動を変えようとする攻撃 |
| トークン |
モデルがテキストを処理する単位。課金、レート制限、コンテキストウィンドウの基準 |
| コンテキストウィンドウ |
1リクエストで入力、出力、推論トークンが共有する全体の分量 |
| コンテキスト劣化（context rot） |
コンテキスト内のトークンが増えるほど、正確性や想起能力が落ちる現象 |
| 最大出力 |
max_tokens・max_output_tokens。生成トークンの上限であり、目標の長さではない |
| 推論（思考）トークン |
回答前の内部推論に使うトークン。出力として課金され、出力上限に含まれる |
| 停止理由 |
応答が止まった理由。Anthropicのstop_reason、OpenAIのstatus・incomplete_details |
| 拒否（refusal） |
安全分類器やモデルが応答を拒んだ状態。AnthropicではHTTP 200で返る |
| temperature |
次のトークンの候補分布を鋭く、または平坦にするサンプリングパラメータ |
| 推論の強度（effort） |
モデルが使うトークンや推論量の調整項目。Anthropicのoutput_config.effort、OpenAIのreasoning.effort |
| 圧縮（compaction） |
長い会話の文脈を縮め、次のターンに必要な状態だけを残す機能 |
| 構造化出力 |
指定したJSONスキーマに従うよう出力を制限する機能 |
| JSONモード |
有効なJSONだけを保証し、スキーマへの準拠は保証しない出力方式 |
| strictモード |
対応スキーマの範囲で、応答やツール引数をスキーマに合わせて制約するオプション。拒否・出力中断やベンダー固有の例外（例：列挙値の大文字・小文字）は別途処理する |
| 意味の検証 |
形式が正しい結果が、合計、日付の順序、状態などの業務ルールを満たすか確認する段階 |
| ツール呼び出し（関数呼び出し） |
モデルがツール名と引数を提案し、アプリケーションが実行する方式 |
| tool_choice |
モデルがツールを使うか、その対象は何かを定めるオプション |
| 並列ツール呼び出し |
1応答で複数のツールをまとめて要求すること |
| 推論項目・思考ブロック |
推論モデルがツール呼び出しとともに返す情報。次のリクエストに受け取ったまま戻す必要がある |
| 過剰な委任 |
必要以上の機能・権限・自律性により、モデル出力が有害な行動につながるリスク（OWASP LLM06） |
| TTFT |
リクエストから最初のトークン（出力断片）が届くまでの時間 |
| p95 |
測定値を並べたとき、遅い側の5%が始まる境界値 |
| プロンプトキャッシュ |
リクエストの先頭部分の処理結果を再利用し、入力コストとレイテンシを減らす機能。出力は毎回新しく作る |
| 応答キャッシュ |
以前に作った答えをそのまま返すキャッシュ。意味が似た質問まで対応させるものはセマンティックキャッシュ |
| バッチAPI |
即時応答が不要な大量リクエストを、割引価格で非同期処理するAPI |
| 処理グレード |
同じモデルへのリクエストを安く遅く、または高く速く処理する選択（service_tierなど） |
| 上位への切り替え（escalation） |
小さいモデルの結果が検証に失敗した際、上位モデルで処理し直すこと |
| 業務1件当たりのコスト |
呼び出し・リトライ・確認コストの合計を、品質基準を通った業務の件数で割った値 |
| 結果不明 |
応答がなく、サーバーで処理が実行されたかわからない状態 |
| レート制限 |
一定時間に許されるリクエスト・トークンの上限（RPM、ITPM、OTPM、TPMなど） |
| トークンバケット |
容量を決まった時刻にリセットせず、継続的に補充する制限方式 |
| 支出上限 |
決まった期間（例：月）の利用金額上限。到達してもリトライでは解消しない |
| 指数バックオフ |
リトライのたびに待ち時間を指数的に増やす方法 |
| 冪等性 |
同じリクエストを複数回送っても、1回と同じ結果になる性質 |
| 冪等キー |
同じ操作を1回だけ処理するためにリクエストに付ける、操作単位の一意の値。同じ操作のリトライには同じキーを使う |
| デッドレターキュー（DLQ） |
失敗を繰り返す入力を移し、ほかの処理を妨げないようにするキュー（dead letter queue） |
| サーキットブレーカー |
失敗率が高いと呼び出しを一時停止し、代替経路に送る仕組み |
| バルクヘッド |
機能ごとに同時実行のリソースを分け、障害の波及を防ぐ設計 |
| 成功基準 |
具体的、測定可能、達成可能で、目的に関連する合格条件 |
| 評価セット |
変更前後の品質を同じ基準で比較するための、固定入力、期待結果、採点方法の組 |
| ルーブリック |
LLMや人が採点時に従う判定条件表 |
| モデルスナップショット |
動作が固定された特定のモデルバージョン |
| 設定の組 |
モデルID、プロンプト・スキーマ・ツールのバージョン、パラメータ、SDKバージョンを一緒に管理する単位 |
| リクエストID |
ベンダーが応答ごとに付ける一意の識別子。Claude APIではrequest-idヘッダー |
| 仮名処理 |
個人情報の一部を削除・置換し、追加情報なしに特定の個人を識別できなくする処理（韓国「個人情報保護法」第2条） |
| ZDR |
データ無保持（zero data retention）契約。適用範囲はベンダーや機能ごとに異なる |