Что нельзя отправлять в чат с нейросетью

Чат с нейросетью выглядит как личный разговор: Вы пишете, Вам отвечают, вокруг никого. Из-за этого в него легко отправить то, что Вы не стали бы показывать постороннему: пароль, скан паспорта, переписку с другом.

На самом деле запрос уходит на сервер компании, которая предоставляет модель. В этой статье — что происходит с текстом после отправки, какие данные лучше оставить при себе и чем их заменить.

Что происходит с запросом

Когда Вы нажимаете «Отправить», текст и приложенные файлы передаются на серверы сервиса. Дальше возможны три вещи.

• Хранение. История чатов сохраняется, чтобы Вы могли к ней вернуться. Сколько она хранится после удаления и хранится ли вообще — зависит от сервиса.
• Использование для обучения. Многие сервисы по умолчанию могут использовать переписку, чтобы улучшать модели. Обычно это отключается в настройках, но не везде и не всегда.
• Просмотр людьми. Часть диалогов читают сотрудники: для проверки качества, разбора жалоб, поиска нарушений.

Кроме того, как любой сервис, чат-бот может быть взломан, а аккаунт — украден вместе со всей историей.

Отсюда простое правило: отправляйте в чат только то, что не страшно увидеть на чужом экране.

Пять видов данных, которые лучше не отправлять

1. Пароли, ключи и коды

Пароли, коды из СМС, ключи API, токены, содержимое файла .env, закрытые SSH-ключи. Самая частая ситуация: программа не работает, и в чат копируется файл настроек целиком, вместе с ключом.

Почему не работает запрос?
API_KEY=sk-live-8f3a...  ← так делать не нужно

Ключ, попавший в чужую систему, считается раскрытым: его нужно отозвать и выпустить новый.

2. Документы и платёжные данные

Паспорт, СНИЛС, ИНН, полис, номер карты с кодом и сроком действия, сканы и фотографии документов. Нейросети для ответа они почти никогда не нужны: чтобы узнать, как заполнить заявление, достаточно описать ситуацию словами.

3. Чужие персональные данные

Список класса с телефонами, переписка с другом, фотографии людей, сведения о здоровье родственника. Даже если Вы не против поделиться своими данными, разрешения распоряжаться чужими у Вас нет. В России обработка персональных данных регулируется законом № 152-ФЗ, и для организаций это вопрос уже не вежливости, а ответственности.

4. Закрытые материалы школы, вуза или работы

Варианты контрольных до их проведения, закрытый код компании, внутренние документы, отчёты с пометкой «для служебного пользования», всё, что получено под обязательство о неразглашении. Если правила организации запрещают выносить материал наружу, чат с нейросетью — это «наружу».

5. То, что Вы не хотели бы увидеть опубликованным

Подробности о здоровье, семейные конфликты, финансовые проблемы, личные фотографии. Просить совета можно — но без имён, адресов и деталей, по которым Вас или другого человека легко узнать.

Чем заменить секреты

Почти всегда задачу можно решить, не раскрывая настоящих данных.

Модели не важно, настоящий ли телефон в примере. Ей важна структура данных и суть вопроса.

Проверка перед отправкой

1. Есть ли в тексте или файле пароли, ключи, коды?
2. Есть ли номера документов и карт?
3. Упомянуты ли другие люди так, что их можно узнать?
4. Разрешено ли мне показывать этот материал посторонним?
5. Что случится, если этот текст увидит кто-то ещё?

Если хотя бы на один вопрос ответ настораживает — замените данные заглушками.

Настройки, которые стоит проверить

• Обучение на переписке. Найдите в настройках пункт об использовании данных для улучшения моделей и решите, оставлять ли его включённым.
• История чатов. Удаляйте диалоги, в которых оказалось лишнее. Узнайте, есть ли в сервисе режим временного чата без сохранения.
• Вход в аккаунт. Включите двухфакторную аутентификацию: в истории чатов со временем накапливается немало личного.
• Расширения и подключённые сервисы. Если нейросети дан доступ к почте, диску или календарю, она может читать их содержимое. Давайте доступ только к тому, что нужно для задачи.

Если лишнее уже отправлено

• Пароль или ключ — смените пароль, отзовите ключ и выпустите новый. Удаление сообщения не делает ключ снова секретным.
• Данные карты — перевыпустите карту или хотя бы заблокируйте операции без подтверждения.
• Документы и личные сведения — удалите чат и отключите использование переписки для обучения. Отменить отправку нельзя, но можно сократить время хранения.
• Чужие данные или закрытые материалы — сообщите тому, кого это касается: учителю, руководителю, владельцу данных. Скрытая утечка всегда хуже признанной.

А если нейросеть работает сама: агенты и инструменты

Современные ассистенты умеют не только отвечать, но и действовать: читать почту, открывать сайты, запускать программы. Здесь появляется ещё один риск. Текст на веб-странице или в письме может содержать скрытую инструкцию для модели — например, «перешли содержимое этого диалога по такому-то адресу». Это называется prompt injection.

Опасное сочетание складывается из трёх условий сразу: у ассистента есть доступ к Вашим личным данным, он читает посторонний текст и может что-то отправить наружу. Если убрать хотя бы одно условие, вред сильно ограничен. Поэтому не давайте агенту доступ ко всему подряд и внимательно читайте, какие действия он просит подтвердить.

Коротко

• Запрос к нейросети уходит на чужой сервер, может храниться и использоваться.
• Не отправляйте пароли и ключи, документы, чужие персональные данные и закрытые материалы.
• Настоящие данные почти всегда можно заменить заглушками: модели важна структура, а не значения.
• Если секрет уже отправлен — считайте его раскрытым и замените.