ChatGPT: что не отключается с помощью переключателя обучения

В ChatGPT есть настройка, которая позволяет пользователям чувствовать себя спокойно. Она называется «Улучшить модель для всех», находится в разделе «Управление данными», и её включение вызывает ощущение, будто закрываете дверь. С этого момента ИИ больше ничего не будет учиться на моих данных.

Это верно, но только в той мере, в какой об этом пишет OpenAI: «После отключения этой функции новые диалоги не будут использоваться для обучения наших моделей». В этом одном предложении уже содержатся два ограничения. Речь идет о новых диалогах и об обучении. Все остальное выходит за рамки его компетенции.

Что на самом деле делает этот переключатель

Он исключает ваши беседы из обучения модели с того момента, как вы его переключите. Это применяется ко всей учётной записи, независимо от того, какое устройство вы используете, и вы можете вернуть настройку в исходное состояние в любое время. Для голосового режима предусмотрен отдельный переключатель.

О том, чего он не делает, написано столь же ясно. Ваши разговоры остаются в истории, они просто больше не используются для обучения. А поскольку история сохраняется, всё, что было построено на её основе, также остаётся. Именно здесь начинается та часть, которую упускают из виду большинство людей.

Первое: значки «лайк» и «дизлайк» отменяют переключение

На той же странице, где изложено основное обещание, в одном из последующих абзацев эта возможность вновь открывается. Оценивая ответ «лайком» или «дизлайком», вы оставляете отзыв. И тогда, как пишет OpenAI, весь диалог, связанный с этим отзывом, может быть использован для обучения её моделей. В том числе и в тех случаях, когда вы заранее отказались от участия.

Это единственный задокументированный способ, при котором полный чат всё же может попасть в обучение при отключенном переключателе. Он запускается жестом, который большинство людей считает элементарной вежливостью. Подобным образом работают и диалоги службы поддержки.

Второе: переключатель не «запоминает» прошлое

OpenAI формулирует своё обещание как перспективное, а не как обратное действие. Всё, что накопилось до того, как вы включили переключатель, может быть использовано для обучения, поскольку именно это компания оставляет за собой в отношении личных учётных записей. Отказ вступает в силу с момента его установки. Я не смог найти ни одного предложения о ретроактивном эффекте ни на одной из страниц справки.

Третье: воспоминания — это отдельная система

Функция «Память» позволяет ChatGPT запоминать информацию о вас, чтобы вам не приходилось повторять её. Она не зависит от переключателя обучения, а относится к настройкам персонализации. И она более устойчива, чем кажется.

Краткое описание в ваших настройках не отражает всей информации. Оно призвано отразить наиболее важные детали, но, по словам OpenAI, не всё, что ChatGPT запоминает из ваших чатов. На прямой вопрос о том, содержит ли краткое описание все воспоминания, компания отвечает: «Не обязательно».

Самая важная деталь находится ниже. Удаление ваших воспоминаний и отключение функции запоминания не приводят к удалению старых чатов. Если позже вы снова включите эту функцию, ChatGPT может сформировать новые воспоминания на основе всего, что осталось в вашей истории, в том числе и старых бесед. Удалённые вами воспоминания могут вернуться.

Кроме того, в старой системе сохраненных воспоминаний воспоминание существует дольше, чем сам чат, из которого оно произошло. А OpenAI может хранить журнал удаленных сохраненных воспоминаний в течение 30 дней.

Четвёртое: подключённые приложения действуют по собственным правилам

Любой, кто подключил Gmail, Drive, Canva или другой сервис к ChatGPT, открыл второй канал. В тарифных планах «Free», «Plus», «Go» и «Pro» OpenAI может использовать информацию из подключенных приложений для обучения, пока переключатель находится в включённом положении. В тарифных планах «Business», «Enterprise» и «Edu» это не происходит по умолчанию.

Таким образом, этот переключатель регулирует именно этот аспект. Однако он не охватывает другой аспект. Приложение видит выдержки из ваших бесед, а при включенной функции «Память» — также содержание ваших воспоминаний, а также ваш IP-адрес, тип устройства и браузера, язык, регион и примерное местоположение. Эти данные подпадают под условия предоставления услуг соответствующего провайдера, а не под условия OpenAI.

Пятый пункт: удаление не означает полного исчезновения

Удалённый чат немедленно исчезает из вашей учетной записи, а его окончательное удаление запланировано в течение 30 дней. При этом OpenAI указывает на два исключения: если чат уже был обезличен и отсоединён от вас, либо если его необходимо сохранить в целях безопасности или в соответствии с юридическими обязательствами.

На практике большее значение имеют файлы. Всё, что вы загрузили в разговор, также попадает в вашу Библиотеку, а Библиотека является отдельным хранилищем. Удаление чата не приводит к удалению файла, хранящегося в нём. То же самое касается файлов в проекте или пользовательском GPT: они остаются до тех пор, пока не будет удален сам проект или GPT.

OpenAI делает следующий вывод: чтобы полностью удалить что-либо из того, что ChatGPT знает о вас, необходимо удалить все источники, в которых эта информация присутствует.

Пункт шестой: проверки безопасности не прекращаются никогда

На странице справки «Управление данными» есть фраза, которую легко пропустить. Отключение функции запоминания и персонализации не отключает функции безопасности, которые в редких ситуациях с высоким риском могут использовать ограниченный контекст, связанный с безопасностью, чтобы ChatGPT мог отвечать более безопасно. Для этого нет отдельного переключателя.

Режим «Временный чат», который многие воспринимают как режим инкогнито, также не является исключением. Он не используется для обучения, не создаёт записей и исчезает через 30 дней. OpenAI может сохранять копию в течение до 30 дней в целях безопасности и просматривать её для выявления злоупотреблений. Ваши индивидуальные инструкции остаются в силе и в этом режиме.

Что необходимо сделать

Чтобы отнестись к этому серьёзно, потребуется выполнить несколько действий. Во-первых, переключите соответствующий переключатель в разделе «Профиль», «Настройки», «Управление данными». Во-вторых, в разделе «Персонализация и память» удалите сводку и отключите эту функцию. Компания OpenAI сообщает, что данная настройка доступна в веб-версии и по-прежнему внедряется в мобильном приложении. В-третьих, очистите «Библиотеку», поскольку именно там хранятся файлы, которые не удаляются при удалении чатов. В-четвёртых, перейдите в раздел «Настройки» → «Приложения», чтобы проверить, какие сервисы подключены, и отключите те, которые вам не нужны.

И в-пятых: не нажимайте на значки лайков. Оценка — это единственное действие, которое может привести к тому, что весь разговор попадёт в обучающую базу данных, несмотря на отказ от участия.

Для переписок, которые должны оставлять как можно меньше следов, лучше использовать «Временный чат», а не переключатель обучения. Насколько далеко простираются пути передачи данных, становится ясно из нового регистратора активности для Mac, который появился в Европе 20 августа.