Сколько влезает в окно у моделей 2026 года
Размеры окна ниже взяты из документации производителей и каталога OpenRouter на 15 сентября 2026 года. Пересчёт в страницы А4 по моему курсу 500–750 токенов на страницу, поэтому диапазон.
Первая строка требует пояснения. У моделей OpenAI окно и предел входа это разные числа: у GPT-5.4 nano окно 400 тысяч, но на вход принимается не больше 272 тысяч, остальное зарезервировано под ответ и рассуждения. Я убедился в этом на практике: запрос на 282 тысячи токенов сервер отклонил, хотя до окна оставалось ещё 118 тысяч. Подробности в замере ниже.
Что в каталоге: 445 моделей и медиана 262 тысячи
Таблица выше это 8 заметных моделей, а рынок шире. Я выгрузил каталог OpenRouter 15 сентября 2026 года: 445 моделей с указанным размером окна. Как устроен этот каталог и зачем он бизнесу, разобрано в обзоре OpenRouter.
Медиана по каталогу 262 144 токена, минимум 4 095, максимум 2 млн. Два года назад окно в 128 тысяч считалось большим, сегодня две трети моделей держат от 200 тысяч. При этом маленькие окна не исчезли: 28 моделей с окном до 32 тысяч это в основном старые и узкие модели, и в готовых сервисах они ещё встречаются.
Почему ChatGPT «забывает»: окно зависит от тарифа
Самый частый вопрос про память связан не с моделью, а с тарифом. На странице тарифов ChatGPT, которую я открыл 15 сентября 2026 года, размер окна прописан по планам.
Страницы здесь считает сам OpenAI, и это английские страницы. На бесплатном плане модель держит около 27 тысяч токенов, из которых часть занимают системные инструкции, память и обработка. То есть бесплатный ChatGPT честно теряет начало разговора уже после нескольких длинных сообщений, и это не поломка, а размер стола на этом тарифе.
Отсюда практический вывод: если вы вставляете в бесплатный чат договор на 30 страниц и задаёте вопросы, ответы после третьего-четвёртого вопроса могут опираться уже не на весь договор.
Мой замер: помнит ли модель факт из начала
Размер окна в документации это обещание. Я проверил, выполняется ли оно, простым способом: в начало длинного текста положил справочную заметку («номер договора с поставщиком «Полевая» 4471, ведёт менеджер Марина Сергеевна»), дальше шли тексты статей портала, а в самом конце стоял вопрос про этот номер и менеджера. Замер 15 сентября 2026 года.
В пределах окна все 4 модели нашли факт из самого начала и ответили одной строкой. Два отказа показывают границу: DeepSeek получил больше своих 163 840 токенов, а nano больше предела входа в 272 тысячи.
Одна деталь замера стоит отдельного абзаца. В первом варианте заметка называлась «код доступа к складу», и Claude Haiku на 165 тысячах токенов отказался отвечать: написал, что текст содержит служебную информацию, которая, видимо, попала в документ случайно, и он не может её выдать. Факт модель нашла, но решила его не сообщать. Для замера памяти это шум, для агента в бизнесе важное свойство: модель оценивает, что она выдаёт, а не только ищет по тексту. Я заменил заметку на нейтральный номер договора, и все модели ответили.
Что происходит, когда окно переполнено
Здесь 3 разных сценария, и они путаются.
API отвечает ошибкой. Запрос через программный интерфейс, который не помещается в окно, не обрабатывается вообще. DeepSeek ответил мне дословно: максимальная длина контекста 163 840 токенов, а запрошено около 174 358, сократите вход или используйте сжатие. OpenAI на 282 тысячи токенов ответил, что ввод превышает окно модели. Денег за такие запросы не берут, но и ответа нет.
Чат режет начало или сжимает. ChatGPT и похожие чаты не показывают ошибку: на странице тарифов OpenAI прямо пишет, что сервис сам управляет окном, чтобы понимать запрос и отслеживать беседу. На практике это означает, что старые сообщения либо выпадают, либо заменяются кратким пересказом, и вы об этом не узнаете.
Агент сжимает историю по правилам. В системах, где модель ведёт долгие диалоги с клиентами, историю периодически сворачивают в конспект: что клиент хотел, что уже обещано, на чём остановились. Модель видит конспект и последние сообщения. Качество такой памяти зависит от того, кто и как пишет конспект, а не от размера окна.
Ответ и рассуждения тоже внутри окна
Окно делят не только входящие тексты. Ответ модели пишется в то же окно, и у рассуждающих моделей туда же попадают скрытые рассуждения перед ответом. Именно поэтому OpenAI режет вход у GPT-5.4 nano до 272 тысяч при окне в 400 тысяч: остаток зарезервирован под ответ до 128 тысяч токенов.
На практике это проявляется неожиданно. В отдельном замере ответа клиенту по прайсу, который я описал в статье про LLM, Gemini 3 Flash потратил 687 токенов на ответ в 3 строки, потому что 600 с лишним из них ушли на рассуждение. При лимите ответа в 100 токенов та же модель в первом прогоне этого замера обрывала ответ на первом слове: рассуждения съели лимит раньше, чем начался текст. Я поднял лимит до 3 000 токенов, и ответ пришёл целиком.
Отсюда 2 правила для тех, кто работает через API или настраивает агента. Первое: лимит на ответ ставить с запасом на рассуждения, иначе получите обрезанные фразы. Второе: считать окно как вход плюс рассуждения плюс ответ, а не как «сколько документов я могу загрузить».
Длинное окно не значит хорошая память
Даже когда текст помещается в окно целиком, модель использует его неравномерно. Это измерено дважды разными командами.
В 2023 году исследователи Стэнфорда и Беркли опубликовали работу «Lost in the Middle»: точность ответов заметно выше, когда нужная информация стоит в начале или в конце контекста, и значительно падает, когда она в середине, причём даже у моделей, специально сделанных под длинный контекст.
В июле 2025 года команда Chroma выпустила отчёт «Context Rot» по 18 моделям, включая GPT-4.1, Claude 4, Gemini 2.5 и Qwen3. Вывод: модели не обрабатывают контекст равномерно, и с ростом длины входа результат становится всё менее надёжным даже на простых задачах. Стандартный тест «иголка в стоге сена», который модели проходят почти на 100%, оказался слишком простым: он ищет дословное совпадение, а в реальных задачах нужный факт сформулирован иначе, и рядом лежат похожие, но неверные.
Мой замер выше это как раз простой тест с дословным совпадением, и его все прошли. Он доказывает, что окно работает, но не доказывает, что модель одинаково хорошо рассуждает по 200 страницам и по 2. Для бизнеса это означает: «загрузим всю базу знаний в окно и пусть отвечает» работает хуже, чем «найдём 3 подходящих документа и положим их в окно».
Другой подход к памяти исследует Google в работе Sleep: новые сведения закрепляются в отдельной фазе обновления параметров модели. Это исследовательский результат; он не означает, что обычный чат уже запоминает все присланные документы между задачами.
Память между сеансами — ещё один отдельный механизм. GitHub открыл Copilot Memory на платных планах, а Dreaming оставил предварительным режимом с отдельным включением и расходом кредитов. Сохранённые сведения полезно сверять с текущими правилами проекта.
Окно и деньги: за каждый ответ платят заново
Модель не хранит разговор между ответами. При каждом новом сообщении в неё заново отправляется весь контекст: инструкция, документы, вся история. Это видно в моём замере: запрос на 111 тысяч токенов к самой дешёвой модели OpenAI стоил $0,022, а у Gemini на тот же объём $0,057. Один вопрос по длинному документу стоит копейки, сотый вопрос в том же чате стоит столько же, потому что документ отправляется в сотый раз.
Производители смягчают это кешированием: повторяющаяся часть контекста оплачивается дешевле. У GPT-5.4 nano кешированный вход стоит $0,02 за миллион против $0,20 за обычный, у Claude чтение из кеша 10% от базовой цены входа. Но кеш живёт недолго и работает только для неизменной части.
Как это выглядит в живой системе, я снял с нашей платформы Ноя за август 2026 года в агрегате по всем компаниям: средний контекст одного ответа агента клиенту 14 089 токенов, из них 10 590 читаются из кеша и 3 499 отправляются заново, сам ответ в среднем 247 токенов. То есть три четверти окна агента это неизменная инструкция и база знаний, за которые платят по льготной цене, и медианный ответ обходится клиенту в 1,52 ₽. Тариф платформы от 990 ₽ в месяц, 7 дней пробного периода, по ссылке с портала стартовый баланс 1 000 ₽ вместо 500 ₽.
Семь правил работы с окном
- Новая задача, новый чат. Не продолжайте разговор про договор в чате, где обсуждали рекламу: старое занимает место и путает модель.
- Важное в начале и в конце. Инструкция и ключевые факты в начале, вопрос в конце. Середина читается хуже, это измерено.
- Не вставляйте всё. Из 30-страничного договора модели нужны разделы про оплату и штрафы, а не реквизиты сторон. Найдите и вставьте нужное.
- Следите за размером. Если чат стал длинным и ответы поплыли, попросите модель пересказать договорённости и начните новый чат с этим пересказом. Промпт для этого ниже.
- База знаний вместо копипасты. Для агента, который отвечает клиентам, документы кладут в базу, откуда система достаёт подходящие куски под каждый вопрос. Это дешевле и точнее, чем держать всё в окне.
- Проверяйте на своих текстах. «Окно 1 млн токенов» в документации это английские токены и простой поиск. Соберите 20 реальных вопросов по вашим документам и проверьте.
- Один документ за раз. Если нужно сравнить 5 договоров, задайте вопросы по каждому отдельно и сведите ответы в таблицу сами. Модель, которой дали все 5 сразу, чаще путает условия между документами, потому что похожие фрагменты лежат рядом, и это ровно та ситуация, в которой отчёт Chroma фиксирует падение точности.
Окно у ИИ-агента: инструкция, база знаний и история
У агента, который переписывается с клиентами, окно устроено из 3 слоёв. Инструкция: кто он, как говорит, что можно обещать. База знаний: прайс, условия, ответы на частые вопросы, из которых система достаёт нужное под конкретный вопрос. История диалога: что клиент писал раньше, и она растёт с каждым сообщением.
Проблема, с которой сталкивается каждый, кто запускал агента: клиент в начале разговора назвал адрес и размер, а через 20 сообщений агент спрашивает их снова. Причина одна из двух: либо история обрезана по окну, либо нужный факт затерялся в середине. Лечится не увеличением окна, а порядком: система сворачивает историю в конспект с сохранением фактов клиента и держит конспект в начале контекста. Так устроено у нас на платформе, и именно поэтому средний контекст ответа держится около 14 тысяч токенов, а не растёт до сотен тысяч.
Второй слой, база знаний, снимает большую часть нагрузки на окно. Разница между «положить 50 страниц прайса в контекст» и «положить 3 подходящих позиции» это разница между 30 тысячами и 500 токенами на каждый ответ, при более точном результате. Как собрать такого агента без программиста, разобрано в гайде по ИИ-сотрудникам, а что вообще такое агент, в разборе про агентов и ассистентов.
Хранилище знаний для сотрудников решает отдельную задачу. В Oxynote инструкции можно разместить рядом с живыми графиками. Это самостоятельная программа для команды: её анонс не означает автоматического подключения такой базы к контексту ИИ-агента.
Промпт: передать длинный диалог в новый чат без потерь
Когда чат стал длинным и модель начала терять нить, вставьте этот запрос последним сообщением. Ответ скопируйте в первое сообщение нового чата.
Разговор стал длинным, и я начинаю новый чат. Собери из нашей переписки конспект для передачи, чтобы новая сессия продолжила работу без потерь.
Включи ровно эти блоки:
1. Задача: над чем мы работаем, одной фразой.
2. Факты, которые я сообщил: цифры, названия, сроки, ограничения. Дословно, без пересказа, ничего не округляй.
3. Что уже решено и согласовано, списком.
4. Что отвергнуто и почему, чтобы не предлагать снова.
5. Открытые вопросы и на чём мы остановились.
6. Требования к формату и тону ответов, которые я давал.
Правила: не добавляй ничего, чего не было в переписке; если чего-то не знаешь, напиши «не обсуждалось»; объём до 400 слов.
Пример выхода для переписки о лендинге автосервиса (сокращённо):
Задача: структура и тексты лендинга для автосервиса в Химках под рекламу в Директе.
Факты: 4 поста, работаем с 8 до 21, средний чек 6 500 ₽, гарантия на работы 6 месяцев, диагностика бесплатно при ремонте от 3 000 ₽.
Решено: 7 блоков, первый экран с ценой диагностики, форма из 2 полей.
Отвергнуто: блок «о компании» вверху (не продаёт), стоковые фото (не доверяют).
Открыто: текст гарантии не согласован с юристом; не обсуждалось, есть ли отзывы с фото.
Формат: короткие фразы, без восклицательных знаков, цены с рублём.
Такой конспект занимает около 300 токенов вместо 40 тысяч, и новый чат начинает с того же места.
Следующий шаг: поставьте ИИ-сотрудника, который сам сворачивает長длинный диалог в конспект
Промпт вставляется в Ною как инструкция ИИ-сотрудника, без правок. Когда переписка с ним в Телеграме, WhatsApp или личном кабинете разрастается и ответы начинают путаться, вы присылаете ту же команду — сотрудник собирает конспект по шести блокам, а вы вставляете его в новый чат или новую сессию и продолжаете с того же места.
- Вводные о вашем проекте и правила формата уже вписаны в инструкцию один раз, поэтому команда на конспект работает одинаково в любом чате без повторных объяснений.
- Если долгих диалогов несколько — по разным проектам или клиентам, — тот же сотрудник собирает конспект по каждому из них отдельно, без путаницы между ними.
- Российский сервис, оплата в рублях, 7 дней бесплатно и без карты. По ссылке из статьи на ответы начисляется 1 000 ₽ вместо 500 ₽.
Собрать ИИ-сотрудника в Ное →
Хранение переписки и память стоит отличать от её видимости в интерфейсе. Новый режим закрытых чатов ChatGPT скрывает разговоры по PIN, но не меняет настройки памяти и хранения автоматически.
Частые вопросы
Что такое контекстное окно простыми словами?
Это предел объёма текста, который модель учитывает при ответе: инструкция, документы, история разговора и сам ответ. Что не поместилось, модель не видит.
Сколько это в страницах?
По моему замеру на русском тексте страница А4 это 500–750 токенов в зависимости от модели. Окно в 128 тысяч токенов вмещает 170–260 таких страниц, окно в 1 млн от 1 300 до 2 000.
Почему ChatGPT забывает начало разговора?
Потому что окно зависит от тарифа: по странице тарифов OpenAI, на бесплатном плане быстрые ответы держат около 27 тысяч токенов, на Plus 54 тысячи, на Pro 128 тысяч. Когда разговор больше окна, сервис сам убирает или сжимает старое.
Что будет, если отправить больше, чем окно?
Через API придёт ошибка и ответа не будет: DeepSeek и OpenAI в моём замере отказали с точным указанием предела. В чате ошибку не покажут, а начало разговора выпадет незаметно.
Правда ли, что модель одинаково хорошо помнит весь контекст?
Нет. Работа «Lost in the Middle» 2023 года показала провал точности для информации в середине, отчёт Chroma 2025 года по 18 моделям показал, что надёжность падает с ростом длины входа.
Чем контекстное окно отличается от памяти в ChatGPT?
Окно это то, что модель видит прямо сейчас. Функция «память» в чатах это отдельное хранилище заметок о вас, которые сервис подкладывает в окно в начале каждого разговора. Она тоже занимает место в окне.
Сколько стоит длинный контекст?
При каждом ответе отправляется весь контекст, поэтому длинный чат дорожает с каждым сообщением. В моём замере запрос на 111 тысяч токенов стоил от $0,022 до $0,057 в зависимости от модели. Кеширование снижает цену повторяющейся части до 10% от базовой.
Нужно ли бизнесу окно в миллион токенов?
Для агента, отвечающего клиентам, нет: по агрегату нашей платформы за август 2026 года средний контекст ответа 14 тысяч токенов. Большое окно полезно для разовых задач вроде разбора длинного договора или расшифровки многочасовой встречи.
Помогает ли «память» в настройках агента вместо большого окна?
Помогает, если она устроена как конспект с фактами клиента, который система держит в начале контекста. Тогда после 30 сообщений агент помнит адрес и размер, названные в первом. Просто большое окно этого не гарантирует: факт из середины читается хуже.
Как узнать окно конкретной модели?
В документации производителя или в каталоге OpenRouter, где у каждой модели указан размер окна. Для моделей OpenAI отдельно смотрите предел входа: он меньше окна.
Ещё один жилец окна, о котором редко помнят: описания инструментов, подключённых через MCP. По моему замеру 26 инструментов одного сервера занимают от 1 900 до 4 800 токенов в каждом запросе; подробности в разборе протокола MCP.
Документ в окне снижает выдумки сильнее любых просьб: модель читает, а не вспоминает. Сколько выдумывают модели без документа и что меняет одна строка в инструкции, в моём замере галлюцинаций.
С чего начать прямо сейчас
Всё ниже делается за один вечер.
- Откройте свой самый длинный рабочий чат и попросите модель повторить факт из первого сообщения. Если не повторила, вы уже упирались в окно.
- Прогоните промпт-конспект из этой статьи и начните новый чат с него: сравните качество ответов до и после.
- Посмотрите размер окна модели, которой пользуетесь, в документации производителя, а для ChatGPT на странице тарифов по вашему плану.
- Возьмите один рабочий документ на 20–30 страниц, задайте по нему 10 вопросов с известными ответами и посчитайте, сколько ответов верных. Это ваш тест окна.
- Если модель отвечает клиентам, проверьте, как хранится история диалога и что происходит после 30 сообщений: спросите поставщика или проверьте сами на тестовом диалоге.
Дальше по цепочке: разобраться, что такое LLM и токены, понять, что вообще называют искусственным интеллектом, и собрать ИИ-сотрудника с базой знаний вместо копипасты в окно.
