AI用語

コンテキストウィンドウ

コンテキストウィンドウは、言語モデルが一度の応答で参照できる文章の範囲です。会話が長くなると、この範囲の中でどの情報を残すかが重要になります。

概要

コンテキストウィンドウは、質問、過去のやりとり、指示文、ツールの結果などを含めて、モデルが一度に扱える情報の範囲を指す。モデルの「作業用の机」にあたるものと考えるとわかりやすい。

やりとりが増えると、この範囲は次第に埋まっていく。上限に近づくと古い情報が扱われなくなったり、要約が必要になったりする。公式資料は、容量が大きければよいわけではなく、何を入れるかを選ぶことも重要だと説明している。

同じ話題の資料を大量に入れるより、必要な情報だけを渡す方が結果が安定しやすい。長い作業では、途中経過をまとめて新しい会話に引き継ぐ方法もある。