20 августа, 06:06#ИИ и нейросети6 мин

OpenAI: данные не храним, но угрозы ищем по цепочке запросов

OpenAI подтвердила: для части клиентов API запросы и ответы не сохраняются после обработки, а сотрудники компании не могут их прочитать. Одновременно тестируется система, которая ищет опасные схемы не в одном запросе, а в цепочке связанных обращений — и делает это, не раскрывая содержимое переписки. Для бизнеса это разговор про то, где вообще оседают рабочие данные, попавшие в нейросеть.

Коротко

OpenAI подтвердила режим Zero Data Retention для подходящих клиентов API: запросы и ответы не хранятся после обработки.
Содержимое недоступно сотрудникам компании, данные корпоративных клиентов не используются для обучения моделей без явного согласия.
В предварительном доступе — Private Safety Processing: автоматическая проверка ищет опасные схемы в цепочке связанных обращений, а не в одном запросе.
Наружу при срабатывании уходят узкие сигналы о типе активности, а не текст переписки.
Пример: запросы про уязвимости ПО, удалённый доступ и средства обнаружения угроз по отдельности безобидны, вместе выглядят как подготовка атаки.
В тестировании участвуют Microsoft и Databricks, запуск и отчёт компания планирует на сентябрь (данные Bloomberg).
При хранении данных на стороне OpenAI содержимое шифруется ключами клиента, копии ключей у компании нет.
Режим касается API и корпоративных договоров, а не обычной подписки на чат.

Что произошло

OpenAI напомнила о режиме нулевого хранения данных для клиентов, работающих через программный доступ. Смысл обещания: запрос и ответ модели не сохраняются после того, как запрос обработан; сотрудники компании не имеют доступа к содержимому; данные корпоративных клиентов не идут на обучение моделей, если клиент явно этого не разрешил.

Одновременно компания открыла предварительный доступ к системе, которую назвала Private Safety Processing. Она разбирает не отдельные обращения, а закономерности в цепочке связанных — при этом содержимое остаётся закрытым для людей.

Зачем понадобилась вторая система

Модели всё чаще выполняют длинные задачи с большой самостоятельностью. При такой работе опасное намерение не видно в одном запросе — оно собирается из нескольких.

Пример, который приводит Bloomberg: пользователь спрашивает про уязвимости программ, затем про удалённый доступ, затем про средства обнаружения угроз. По отдельности вопросы законны и встречаются у любого системного администратора. Вместе они складываются в подготовку атаки.

Как это устроено

проверка автоматическая, содержимое переписки людям не показывают;
при срабатывании передаётся узкий сигнал о типе активности, а не текст;
если нужно разбирательство, клиент может поделиться данными добровольно;
при использовании хранилища OpenAI содержимое шифруется ключами клиента, копии ключей у компании нет.

По данным Bloomberg, систему тестируют Microsoft и Databricks, запуск и публикация отчёта намечены на сентябрь. Продуктовую политику компании курирует Алеа Хоуз.

Что это значит для бизнеса

Разница между чатом и программным доступом стала осязаемой. Обещание не хранить данные относится к работе через API и корпоративные договоры, а не к обычной подписке, где история переписки хранится по умолчанию. Если что такое API для вас пока абстракция, начать стоит именно с этого различия — от него зависит режим ваших данных.

Российским компаниям придётся считать иначе. Сервисы OpenAI официально в России не работают, а персональные данные клиентов регулируются 152-ФЗ: их нельзя просто так отправлять в зарубежный сервис. Практический вывод — обезличивать данные до отправки в любую внешнюю модель и знать, куда именно уходит запрос вашего подрядчика.

Вопрос к подрядчику стал конкретнее. Раньше он звучал как «а это безопасно», теперь его можно задать по пунктам: хранятся ли запросы, кто может их прочитать, используются ли они для обучения, где физически находится сервис.

Появился и запасной путь. Когда данные нельзя отдавать наружу, работает вариант с моделью на своём оборудовании: открытые нейросети уступают флагманам в качестве, но данные не покидают контур компании.

Что это значит для специалиста

Тому, кто внедряет ИИ. В договоре с подрядчиком уместны отдельные пункты про хранение и обучение на ваших данных. Устные заверения тут не работают.
Разработчику. Режим нулевого хранения включается не сам: это условие доступа, которое надо запросить и подтвердить. Проверьте, на каком режиме работает ваш ключ.
Юристу и владельцу бизнеса. Обезличивание до отправки закрывает большую часть вопросов: без имён, телефонов и номеров договоров запрос перестаёт быть персональными данными.
Тем, кто выбирает модель. Условия по данным различаются у разных поставщиков сильнее, чем качество ответов, — и при выборе нейросети под задачу этот критерий стоит держать рядом с ценой.

Что делать уже сейчас

Составьте список того, что уходит в нейросети. Переписки с клиентами, договоры, выгрузки из CRM, финансовые таблицы — по каждому пункту ответьте, кому принадлежит сервис.
Введите правило обезличивания. Имена, телефоны, адреса и номера договоров заменяются на метки до отправки запроса.
Спросите подрядчика письменно. Хранит ли, кто читает, обучает ли на ваших данных, где расположены серверы.
Разделите задачи по чувствительности. Тексты для сайта — можно во внешнюю модель; персональные данные клиентов — только в контур, который вы контролируете.
Назначьте ответственного. Пока нет человека, который отвечает за работу с данными в ИИ, правила существуют только на бумаге.

Чего ждать дальше

Условия по данным станут предметом конкуренции наравне с ценой и качеством. Корпоративные клиенты уже спрашивают об этом на первом же созвоне, и поставщики отвечают продуктовыми обещаниями, а не строчкой в пользовательском соглашении.

Второе — надзор без чтения переписки будет развиваться дальше. Задача «поймать злоупотребление и не заглянуть в данные» решается техническими средствами, и это заметно меняет разговор о приватности: книга Евгения Черешнева о жизни рядом с ИИ описывает ровно этот сдвиг — от вопроса «кто читает» к вопросу «что система знает о вас, не читая».

Частые вопросы

Это касается обычной подписки на ChatGPT?
Нет. Речь про программный доступ и корпоративные договоры. В обычной подписке история переписки сохраняется, а настройки хранения задаются в аккаунте.

Значит ли это, что данные полностью защищены?
Обещание касается хранения и доступа сотрудников. Ответственность за то, какие данные вы отправляете, остаётся на вас — особенно если это персональные данные клиентов.

Как система ищет угрозы, если данные не хранятся?
Проверка идёт автоматически по закономерностям в цепочке обращений. Наружу передаётся сигнал о типе активности, а не текст запросов.

Что делать российской компании?
Работать с обезличенными данными, спрашивать подрядчика об условиях хранения и держать чувствительные задачи на моделях, которые запускаются в своём контуре.

Промпт: аудит данных, которые ваша компания отдаёт нейросетям

Опишите свои процессы — ассистент соберёт карту данных, правила обезличивания, вопросы подрядчику и разделит задачи на внешние и внутренние.

Промпт

Ты — специалист по защите данных с опытом внедрения ИИ в компаниях. Отвечаешь за то, какие данные уходят во внешние сервисы, в каком виде и на каком основании.

ЗАДАЧА
Собрать карту данных, которые моя компания отправляет в нейросети, и правила работы с ними: что можно отдавать наружу, что обезличивать, что оставлять в своём контуре.

ЧТО Я ДАЮ
— чем занимается компания: [описание]
— какие нейросети и сервисы используем: [ChatGPT, Алиса, GigaChat, свои решения — что есть]
— кто и для каких задач: [отделы и задачи]
— что попадает в запросы: [переписки с клиентами, договоры, выгрузки из CRM, таблицы]
— подрядчики, которые работают с нашими данными: [кто и что делает]

ЧТО ТЫ УЧИТЫВАЕШЬ ОБ УСЛОВИЯХ
— режим нулевого хранения данных (Zero Data Retention), при котором запросы и ответы не сохраняются после обработки, у поставщиков относится к программному доступу и корпоративным договорам, а не к обычной подписке на чат;
— автоматический надзор за злоупотреблениями может работать без доступа сотрудников поставщика к содержимому, но полностью риск отправки чужих персональных данных не снимает;
— в России персональные данные клиентов регулируются отдельно, поэтому базовое правило — обезличивание до отправки.

С ЧЕГО НАЧИНАЕШЬ
Спрашивай недостающее ПО ОДНОМУ ВОПРОСУ ЗА РАЗ. Ответы «ничего секретного не отправляем» не принимай — попроси назвать три последних запроса своими словами и разбери их.

ПРОТОКОЛ
1. Составь карту: какие данные, в какой сервис, кем и зачем отправляются. Отдельной колонкой отметь, где есть персональные данные клиентов или сотрудников.
2. По каждой строке карты определи режим: обычная подписка на чат, программный доступ, решение в своём контуре. Отметь, где режим неизвестен, — это первый вопрос подрядчику.
3. Оцени последствия простыми словами: что произойдёт при утечке этих данных, кто пострадает, что придётся объяснять клиенту.
4. Составь правила обезличивания: что на что заменять перед отправкой. Дай три примера «было — стало» на моих типах данных.
5. Раздели задачи на три группы: можно во внешний сервис как есть · можно только обезличенными · только в своём контуре. Обоснуй каждое отнесение одной фразой.
6. Сформулируй список вопросов поставщику и подрядчику: хранятся ли запросы, кто из сотрудников может их прочитать, используются ли данные для обучения, где расположены серверы, что происходит при расторжении договора.
7. Предложи, что записать в договор с подрядчиком отдельными пунктами.
8. Составь короткую инструкцию для сотрудников на одну страницу: что можно отправлять, что нельзя, что делать при сомнении.
9. Дай план на две недели: шаги, ответственные, способ проверить, что правило работает.

ФОРМАТ ОТВЕТА
Сначала три строки вывода: главный риск, первое действие, кто отвечает. Затем карта данных таблицей: данные — сервис — режим — есть ли персональные данные — вердикт. Потом правила обезличивания, вопросы подрядчику и план на две недели.

ПРАВИЛА
— не ссылаешься на конкретные статьи законов без уверенности, вместо этого даёшь практическое правило и помечаешь, что проверить с юристом;
— не пугаешь и не успокаиваешь, а показываешь последствия;
— чего не знаешь про наш сервис — спрашиваешь или формулируешь как вопрос поставщику;
— инструкцию для сотрудников пишешь так, чтобы её понял человек без ИТ-подготовки.

Способ зарабатывать на ИИ

Зарабатывайте на создании сайтов и ИИ-агентов