LLM API開発者 教本

目次

1. この教本の使い方
2. 第1章 APIの基本とメッセージ設計

   API呼び出しは注文票です · メッセージのロールと優先順位 · 信頼境界：指示と資料を分けます · 会話の状態を誰が持ちますか · トークンとは何ですか · コンテキストウィンドウとトークン予算 · 最大出力は上限です · 停止理由を状態に変換します · サンプリングパラメータの原理と現在 · 推論の強度と思考の設定 · モデル選択：グレード、機能、上限 · 要件からモデルとパラメータを選びます · 同じリクエストで答えが変わる理由 · 長い会話を扱う3つの方法

3. 第2章 構造化出力とツール呼び出し

   構造化出力は型枠です · ベンダーごとの有効化と選択の基準 · strictスキーマのルールとベンダーの違い · 業務の概念からスキーマを導きます · 3段階で検証します · ツール定義は実行の契約です · ツール呼び出しループを状態機械にします · 結果を会話に戻します · 並列ツール呼び出し · tool_choiceと呼び出しの強制 · 推論モデルとツールループ · 実行権限はサーバーが持ちます · ツールが増えたとき · ストリーミング中の構造化された結果

4. 第3章 パフォーマンスとコストの最適化

   レイテンシを区間に分けます · レイテンシを減らす7つの原則 · ストリーミングの動作 · ストリーミングの経路全体を設計します · プロンプトキャッシュの原理 · ベンダーごとのキャッシュ比較 · キャッシュヒット率を上げるプロンプト配置 · キャッシュの損益分岐点 · バッチAPI · 処理グレードを選びます · モデルのグレードによるルーティングと上位への切り替え · レイテンシとコストのトレードオフを判断します · 応答キャッシュはいつ危険ですか · 最適化実験を公平に比較する方法

5. 第4章 信頼性とエラー処理

   成功、失敗、そして結果不明 · エラーの分類表 · リトライすべきエラーを選ぶ決定表 · レート制限の構造 · 429の読み方 · 指数バックオフとジッター · リトライは1か所で、予算の範囲内で行います · タイムアウトを層別に設計します · 冪等性：2回押しても1回だけ · 中断された応答を復旧します · 部分的な失敗から復旧します · 障害が広がるのを防ぎます · リトライストームの分析 · 失敗を注入し、復旧方針を検証します

6. 第5章 評価と運用

   運用は計器飛行です · 成功基準から決めます · 評価セットを作ります · 採点方法を選びます · LLM採点器を補正します · 結果の解釈：変動と区分 · モデルのバージョンを固定します · モデル変更前の回帰評価 · ログとトレース · 個人情報を扱います · 運用指標を定義します · 機能別にコストと上限を分けます · 評価ツールに縛られない方法 · フィードバックを評価セットに戻す循環

7. 付録A 用語集
8. 付録B セルフチェックの解答と解説
9. 付録C 試験当日のガイド
10. 付録D 参考文書一覧