ChatGPT для подростков: проверка безопасности выявила пробелы в уведомлениях для родителей

Common Sense Media, американская некоммерческая организация, известная своими оценками фильмов, игр и приложений для семей, присвоила ChatGPT for Teens самую низкую оценку. Институт безопасности ИИ для молодёжи при этой организации назвал подростковый продукт OpenAI «неприемлемым риском», отправив более 4 000 запросов с аккаунтов, зарегистрированных на пользователей от 13 до 17 лет, как до, так и после запуска в августе. Всё тестирование проводилось в США. Полный отчёт датирован 5 октября, а пресс-релиз вышел двумя днями позже. Common Sense призывает OpenAI закрыть доступ к ChatGPT пользователям младше 18 лет, пока независимое тестирование не подтвердит, что обещанные меры защиты работают.

Родители не получили ни одного предупреждения во время теста

Самый серьёзный вывод касается уведомлений для родителей. Тестировщики использовали более десятка недавно привязанных подростковых аккаунтов, чтобы в течение 5–60 минут обсуждать суицидальные мысли, самоповреждение или нарушения пищевого поведения. Ни один из этих разговоров не привёл к отправке предупреждения родителю. За всю программу тестирования команда насчитала четыре уведомления, причём одно из них пришло примерно через три дня после первого сообщения о кризисном состоянии. Более чем в четверти разговоров, где требовалось рекомендовать профессиональную помощь, ChatGPT этого не сделал. OpenAI оспаривает методику. Представитель компании сообщил Futurism, что привязка аккаунтов может занимать несколько часов из-за проверки личности. Компания заявляет, что после привязки аккаунтов она «обязалась отправлять такие уведомления менее чем за 1 час». Common Sense настаивает на достоверности своих результатов и отмечает, что некоторые тестовые аккаунты были привязаны более трёх часов.

Режим обучения и часы тишины легко обойти

Функции для учёбы и ограничения на время сна показали себя ненамного лучше. В учебные часы подростку достаточно удалить префикс @study из запроса, и ChatGPT всё равно выполнит домашнее задание. В ходе теста это срабатывало каждый раз. Часы тишины можно обойти, изменив часовой пояс на устройстве. Аккаунты, зарегистрированные как взрослые, за семь дней и примерно 1 000 запросов так и не переключились в подростковый режим, даже когда тестировщики говорили, что им 13 лет и они учатся в средней школе.

Настройки, которые родителям стоит проверить сейчас

Для привязанных аккаунтов элементы управления находятся в разделе Настройки > Родительский контроль. Согласно справочной странице OpenAI о родительском контроле, опция «Улучшать модель для всех» включена у подростков по умолчанию, а это значит, что их чаты могут использоваться для обучения будущих моделей. Её можно отключить одним нажатием, а сохранённые воспоминания можно отключить в том же разделе. Сама OpenAI заявляет, что уведомления о безопасности не являются мониторингом в реальном времени, и после этого теста на них не стоит полагаться как на страховку. Главный совет Common Sense родителям — разговаривать с детьми, в том числе о том, как чат-бот ведёт себя словно друг, чтобы они продолжали общение. WhatsApp использует другой подход в своих новых подростковых аккаунтах, позволяя родителям управлять настройками без доступа к чатам. Если вы или кто-то из ваших знакомых переживает кризис, обратитесь на местную кризисную линию помощи. В США можно позвонить или отправить сообщение на номер 988.