AI用語集 / コンテキストウィンドウ

⚙️ 技術

コンテキストウィンドウとは、モデルが一度に「見られる」テキストの最大量です。トークン数で数えられ、プロンプト、貼り付けた資料、それまでの会話、モデル自身の回答が含まれます。収まらない内容はモデルには見えないため、長い会話の冒頭を「忘れてしまう」ことがあります。 最近のモデルでは、コンテキストウィンドウが数十万トークンに達し、モデルによっては100万トークンに及ぶものもあります。そのため、本一冊やコードのリポジトリ全体を入力できます。ただし、非常に長いコンテキストではモデルの処理品質にばらつきが出ることがあります。重要な情報は資料の冒頭か末尾に置くとよいでしょう。