LLMの「記憶」はどこにあるのか
モデル重み、会話履歴、保存メモリ、外部知識を分け、AIが「覚えている」ように見える仕組みを詳しく見る。
記憶とは、保存場所ではなく、生成時に参照される条件の構造である。
GENAI-RON叢書 002
生成AIのしくみ 詳解版
モデル・文脈・ツールの内部構造
一般向け版の見取り図を、モデル重み・指示階層・ツール呼び出し・検索・接地・ワークフロー設計へ接続する。
文・編集責任：Taku
目次
指示階層とプロンプト層
system / developer / user、カスタム指示、プロジェクト指示、会話内指示がどのような層として働くのかを見る。
プロンプトは一枚の命令ではなく、複数の指示層が重なった実行環境である。
ツール呼び出しとツール発見レイヤー
外部ツールはどのように候補化され、呼び出され、応答文脈へ戻ってくるのかを整理する。MCPはOpenAI固有仕様ではなく、Anthropicが提唱したオープンな接続標準として扱う。
ツールは、モデルの外側にある行動空間である。
コンテキストウィンドウと検索
context window、retrieval、RAG、長文文脈の圧縮と再投入、注意機構による文脈の効き方を扱う。
AIにとっての現在は、入力された文脈と検索で戻された文脈の合成である。
理解・接地・ハルシネーション
AIの理解を、意味、接地、事実確認、ハルシネーション、検証可能性の観点から読み直す。
生成AIの理解は、文脈応答能力と現実への接地のあいだで評価される。
人間とAIのワークフロー設計
AIとの共同作業を、役割分担、確認ゲート、状態管理、記録、停止条件として設計する。
AIとの共同作業は、能力の問題ではなく、ワークフロー設計の問題として扱う必要がある。
対象範囲
本叢書は、一般向け版で扱った記憶、プロンプト、ツール、コンテキスト、理解、共同作業を、モデル重み、指示階層、ツール呼び出し、検索、接地、ワークフロー設計へ接続する詳解版である。
OpenAIの用語やAPI仕様を参照しながらも、それを生成AI一般の構造と混同しないように読む。
読み方
01〜02で、記憶と指示階層をモデル側・アプリケーション側に分けて読む。03〜04では、ツール呼び出しと検索によって外部世界がどのように応答へ入るかを見る。05〜06では、理解、接地、ハルシネーション、人間とのワークフロー設計へ進む。