Google Research описала подход Sleep: модель чередует работу с новыми данными и отдельную фазу закрепления знаний. В опытах авторов такой режим помогал усваивать новые сведения и сохранять прежние навыки.
Чтобы закреплять новые сведения и при этом меньше терять ранее освоенные возможности. Sleep разделяет получение информации и отдельную обработку, при которой знания переносятся в параметры модели.
Авторы Google Research описали подход 27 октября. «Сон» здесь означает вычислительную фазу обучения. Архитектура и правила заданы исследователями; о сознании или самостоятельной смене устройства модели речь не идёт.
Обычное добавление текста в запрос решает другую задачу: модель получает сведения в текущем контекстном окне. Это не то же самое, что устойчивое освоение информации между последующими задачами.
Модель перестаёт принимать новые входные данные и закрепляет накопленную информацию. Для неё используются заранее предусмотренные блоки памяти, а числовые параметры обновляются на учебных примерах.
В отдельной части процесса модель создаёт собственные тренировочные примеры. Их отбирают и используют для дальнейшего обучения. Исследователи называют эту часть «сновидениями», но она тоже подчиняется заданной процедуре проверки и отбора.
Полезно различать сохранённую переписку, поиск по базе документов и изменение самой модели. Эти механизмы могут выглядеть похожими для пользователя, хотя работают по-разному. Основы устройства модели объясняем в разборе LLM.
Подход сравнивали с базовыми способами обучения на последовательном переводе, длинных текстах, усвоении новых фактов и математических задачах. Авторы сообщают об улучшениях в своих исследовательских испытаниях.
Важна постановка опыта: результат относится к выбранным моделям, наборам задач и процедуре обучения. Он не означает, что любой действующий помощник теперь одинаково хорошо помнит все документы компании.
Новость интересна именно разделением двух проверок: освоено ли новое и сохранилось ли старое. Если оценивать только свежую задачу, можно пропустить ухудшение ранее работавшего сценария.
Подход пока описан в исследовательской работе. В публикации нет пользовательского тарифа или срока появления такой функции в Gemini.
Условный пример для приёмки корпоративного помощника: после обновления инструкции по возвратам проверьте и новую процедуру, и прежние ответы о доставке. Новый правильный ответ не подтверждает сохранность всех остальных знаний.
Такую проверку можно подготовить независимо от Sleep. Сохраните несколько известных вопросов и верных оснований ответа до обновления, повторите их после. Так можно заметить потерю качества. Исследовательскую модель Google мы сами не испытывали.
