Анатомия контекстного окна: Почему ИИ «забывает» и «деградирует»

1.1. Что такое контекстное окно (Context Window)

Контекстное окно — это ограниченный объем оперативной памяти ИИ-модели, в рамках которого она может читать, анализировать и сопоставлять данные за один диалоговый сеанс.

Все данные в контекстном окне измеряются в токенах (словах, фрагментах слов, символах).

Структура контекстного окна: - Системные правила и настройки (например, .cursorrules или .cursor/rules/*.mdc) - Вся предыдущая переписка в текущем чате (включая прошлые ответы ИИ) - Содержимое всех подключенных к чату файлов - Ваш текущий запрос

1.2. Эффект «Lost in the Middle» (Потеря в середине)

При увеличении объема диалога свыше 30–40% от максимального размера контекстного окна у всех современных LLM (Claude 3.5/3.7 Sonnet, GPT-4o) проявляется феномен деградации внимания.

┌───────────────────────────────────────────────────────────┐
│                 КОНТЕКСТНОЕ ОКНО (MEMORY)                 │
├──────────────────────────┬────────────────────┬───────────┤
│ Высокое внимание         │ Низкое внимание    │ Высокое   │
│ (Начало сессии / Правила)│ (Средняя часть)    │ (Конец)   │
├──────────────────────────┼────────────────────┼───────────┤
│ ИИ помнит правила        │ ИИ "забывает" ТЗ и │ Последний │
│ проекта и стек           │ галлюцинирует      │ промпт    │
└──────────────────────────┴────────────────────┴───────────┘

ИИ идеально учитывает самые первые инструкции (системный промпт) и самый последний запрос пользователя, но начинает терять и искажать информацию, находившуюся в середине длинной переписки.

1.3. Разбор типичных проявлений перегрузки контекста

1. Галлюцинации и несуществующие функции: ИИ выдумывает методы и библиотеки, которых нет в проекте. 2. Дублирование элементов: Модель переписывает уже существующие блоки заново в других файлах, создавая хаос. 3. Слом соседних модулей: Изменяя один текстовый элемент, ИИ случайно стирает логику подключения, созданную 20 сообщений назад.