AI用語の基礎知識
【第10回】コンテキストウィンドウとは――なぜAIは長話をすると“さっき言ったこと”を忘れるのか？
2026年6月15日 10:42
AIと長くチャットしていると、途中から返答が雑になったり、最初に伝えた設定を忘れたりすることがあります。大量のPDFを読ませると、後半の内容ばかり見て、前半の重要な条件を取り落とすこともあります。
筆者は以前、AIに短編小説のような読み物を書かせる遊びをよくしていました。最初にキャラクターや舞台を設定し、冒頭だけ書いて、あとはAIに続きを書かせるというものです。
ところが、少し前のAIではこれがなかなか大変でした。登場人物の名前、性別、年齢、属性が途中でごちゃごちゃになったり、突然知らない人物が出てきたりする。ひどいときには、物語そのものが破綻してしまうこともありました。
これはAIが不真面目だからではありません。AIが一度に扱える情報量、つまり「コンテキストウィンドウ」に限界があったからです。
コンテキストウィンドウとは、AIが一度に参照できる情報の範囲のことです。たとえるなら、AIが作業する机の広さです。机の上に置ける資料が多ければ、AIは多くの情報を見ながら作業できます。しかし机が狭ければ、古い資料は端へ押し出され、見えにくくなってしまいます。
この「机の広さ」は、トークンという単位で表されます。トークンとは、AIが文章を処理するときの細かい単位で、日本語では文字や単語の一部に相当します。
画像生成でも“忘れる”ことがある
この問題は、文章だけで起きるわけではありません。
筆者はこの連載のイラストをAIで生成していますが、「1枚目のキャラのまま、別の構図にして」と何度も頼んでいるうちに、牛君のベルトやネクタイ、ザリガニ君のカバンなど、細かいディテールが消えていくことがあります。
これも、AIが最初の指示や画像の特徴をずっと完璧に保持できるわけではないからです。（これにはコンテキストウィンドウだけではなく、と「注意力の分散」も絡んでくるのですが）会話が長くなるほど、大事な条件が机の隅に押しやられてしまう。そんなイメージです。
RAGにも関係する重要な制約
「第8回」で解説したRAGでは、「社内マニュアルをAIに参照させる」話をしました。
ここで、「そんな仕組みを作らなくても、社内マニュアルを全部チャット欄に貼ればよいのでは？」と思う人もいるかもしれません。しかし、ここでもコンテキストウィンドウの制約が効いてきます。
AIが一度に扱える情報量には限界があるため、すべての資料を丸ごと入れても、必ずしも全部を適切に参照できるわけではありません。そこでRAGでは、必要になった部分だけを検索し、その都度AIに渡す仕組みを使うのです。
つまり、コンテキストウィンドウは、AIが「何を覚えていられるか」だけでなく、RAGや長文処理の設計にも関係する重要な概念です。
コンテキストウィンドウは急速に広がっている
ここ数年で、コンテキストウィンドウは大きく広がりました。以前は数千トークン程度だったものが、現在では数十万、場合によっては100万トークン級を扱えるAIも登場しています。
これは、AIの使い方を大きく変えます。
長い契約書、分厚い仕様書、大量の議事録、ソースコード一式、長時間の音声や動画の内容などを、まとめてAIに扱わせやすくなるからです。
たとえば、会議の録音や議事録を読み込ませて、「25分ごろにAさんが言った内容と、後半の結論は矛盾していないか」と尋ねる。あるいは、長い小説の設定を維持したまま、続きを書かせる。こうした使い方が現実的になってきています。
ただし、コンテキストウィンドウが広がれば何でも解決するわけではありません。長い情報を入れられても、AIがそのすべてを正しく理解し、重要な部分を必ず拾えるとは限らないからです。机が広くなっても、資料の山から本当に必要な一枚を見つけるのは別の能力です。
コンテキストウィンドウとは、AIの“記憶容量”というより、作業机の広さのようなものです。広ければ扱える情報は増えますが、整理の仕方や指示の出し方も重要になります。
AIに長い文書や複雑な会話を扱わせるなら、「どれだけ入るか」だけでなく、「何を優先して見てほしいか」をきちんと伝えることが大切なのです。