第4章 AIシステム基盤構造図
ここまでの内容を一つの図に統合する。
LLMはステートレスであり、毎回コンテキストウィンドウの中身だけを見て応答を生成する(第1章)。その生成プロセスは確率的であり、テキストによる指示は「影響」を与えるが「強制」はできない。確実な制御が必要な場面では、モデルの外側で動く決定論的な仕組み(Hooks)を設計する。この二つの制御を「どこに何を置くか」が、AIを使いこなすための設計判断だ(第2章)。この設計全体を包む枠組みがHarness Engineeringだ。コンテキストウィンドウの中身を最適化するContext Engineeringと、モデルの外側に決定論的な制約を置くArchitectural Constraintsの両方を含む(第3章)。
以下の構造図は、これらの概念がシステム全体の中でどう配置されているかを示したものだ。上からユーザー、Harness(確率的制御+決定論的制御)、モデル層(ユーザーが変更できない領域)の順に並んでいる。
実用上のポイント: この構造図は「問題が起きたときの診断マップ」として使える。AIの出力がおかしいと感じたら、まずコンテキストウィンドウの中身を疑う(Context Engineeringの問題)。情報は十分なのに指示通り動かないなら、確率的制御の限界を疑う(Hooksの導入を検討)。Harnessを整えても改善しないなら、初めてモデル自体の限界を疑う。上から順に確認していくことで、最も効率的に問題の所在を特定できる。