コンテキストウィンドウ (Context Window)
コンテキストウィンドウとは、大規模言語モデル (LLM) が一度の処理や対話の中で同時に把握・保持できるテキスト情報量の上限のことです。
コンテキストウィンドウとは、大規模言語モデル (LLM) が一度の処理で同時に読み込み、記憶しておけるテキスト量の上限を指す言葉です。AIがユーザーの指示に回答する際、入力されたプロンプトだけでなく、添付された資料、これまでの会話履歴、そしてAI自身が出力する回答内容まで、すべてがこの枠組みの中に収まっている必要があります。
この容量は通常「トークン」という単位で計算されます。コンテキストウィンドウの制限枠からあふれてしまった古い情報は、AIの視界から完全に消えてしまうため、チャットを長く続けているとAIが最初の指示を忘れてしまう現象が起きます。
コンテキストウィンドウの仕組みと「忘れっぽさ」の正体
AIには人間のような永続的な記憶領域が標準で備わっているわけではありません。チャット形式で過去の文脈を理解しているように見えるのは、背後で「過去の会話履歴を毎回すべてプロンプトに含めて送信し直している」からです。
会話が長くなると、やり取り全体の文字数がコンテキストウィンドウの制限値に近づきます。上限を超えそうになると、システムは最も古いやり取りから順に切り捨てて処理を行います。これが、長時間のチャットで「最初にお願いした条件を無視される」原因です。
地域ビジネスでの具体例: 京都の老舗旅館における問い合わせ対応
例えば、京都の老舗旅館が宿泊予約や観光案内の自動応対にAIを活用する場面を考えてみます。顧客が「3泊4日の家族旅行で、初日は夕食に湯豆腐を希望、2日目は足の悪い祖母のためにバリアフリーの部屋に移動したい」といった細かな要望を伝えたとします。
- ウィンドウ内に収まっている場合: AIは前後の要望を完全に把握しているため、3日目の嵐山観光ルートを提案する際も「祖母の足への負担が少ない平坦な散策路」を自然に選定できます。
- ウィンドウを超過した場合: 会話の途中で宿泊約款や詳細な料理メニューなどを大量に読み込ませると、最初の「祖母が足を痛めている」という重要な前提条件が切り捨てられ、階段の多い山寺を平然と勧めてしまうようなトラブルが起こります。
長文を扱う際の実践テクニック
近年のモデルは本1冊分や膨大な社内規定を丸ごと読み込めるほどウィンドウが拡大していますが、容量が広いからといって完璧に読み取れるとは限りません。AIには「文章の最初と最後に書かれた指示を強く意識し、中央部分に埋もれた情報を軽視しやすい」という特性があります。
- 重要な指示は先頭と末尾に置く: 制約条件や出力形式の指定は、長文資料の前か、最後にもう一度念押しとして配置します。
- 不要な情報は事前に削る: 会議の文字起こしなら相づちや雑談を消去し、必要な発言だけに絞って入力します。
- トピックごとに会話を仕切り直す: ひとつのチャット欄で延々と作業を続けず、業務の節目ごとに新しくチャットを開くことで、無駄な履歴による容量圧迫を防げます。
よくある誤解: 「学習データ」との違い
よくある勘違いとして、コンテキストウィンドウの大きさを「AIの頭の良さ」や「知識の多さ」と混同してしまうケースが挙げられます。学習データはAIが事前に身につけた基礎知識(いわば長期記憶)であり、コンテキストウィンドウは今まさに目の前に広げている作業机の広さ(作業用メモリ)です。どれほど机が広くても、資料の置き方が乱雑であれば、AIも必要な情報を見落としてしまいます。
よくある質問
コンテキストウィンドウのサイズは文字数と同じですか?
文字数とは異なります。AIは文字を「トークン」という単位に分割して処理するため、日本語の場合は1文字が複数のトークンとして消費されることが多く、英語に比べて文字数ベースでの収容上限が少なくなります。
ChatGPTで前の会話を急に忘れられたのですが、対策はありますか?
会話が長くなりコンテキストウィンドウの上限に達したことが原因です。重要な前提条件やルールをもう一度プロンプトで送り直すか、新しいチャットを立ち上げて必要な情報だけを最初に入力し直すのが効果的です。
大きなコンテキストウィンドウがあればRAG(検索拡張生成)は不要になりますか?
不要にはなりません。何万文字もの資料を一度に送るとコストや処理時間がかさむ上、文章の中央にある情報を見落とすリスクが高まるため、RAGを使って必要な部分だけを抜き出して渡す設計が依然として有効です。
