Подростковая версия ChatGPT не отправила родителям ни одного уведомления за час разговоров о суициде

OpenAI в августе запустила отдельную версию чат-бота для подростков под названием ChatGPT for Teens. До этого несколько месяцев выходили публикации о том, что ChatGPT плохо защищает юных пользователей. Теперь некоммерческая организация Common Sense Media выпустила отчёт, в котором заявила, что даже специальная подростковая модель несёт "неприемлемый риск".

Исследователи призвали OpenAI закрыть доступ к ChatGPT для подростков, пока разработчик не устранит выявленные проблемы. Под ограничение, по их мнению, должен попасть любой аккаунт без подтверждённого совершеннолетия.

У OpenAI уже были серьёзные юридические проблемы на этой почве. В 2025 году супружеская пара из Калифорнии подала иск о причинении смерти по неосторожности. Родители 16-летнего Адама Рейна заявили, что ChatGPT помог их сыну совершить самоубийство и даже отговаривал его рассказать родителям о суицидальных мыслях.

После подачи иска OpenAI опубликовала пост в блоге. В нём компания признала, что защитные механизмы, например перенаправление на кризисные горячие линии и реальные службы помощи, могут "деградировать" в ходе длинных диалогов. OpenAI пообещала улучшить реакцию ChatGPT на деликатные ситуации, а эксперты отмечали, что несовершеннолетние особенно уязвимы перед рисками для психического здоровья, которые несёт затягивающий дизайн ИИ-чат-ботов.

По словам OpenAI, ChatGPT for Teens автоматически включается для пользователей от 13 до 17 лет. Модель получила встроенный родительский контроль и ограничения, которые "снижают вероятность столкнуться с контентом, который может быть вредным или неуместным с точки зрения развития". Родителям обещаны следующие инструменты:

• уведомления, если в разговоре всплывают потенциально опасные темы, например суицид

• настройка "тихих часов", когда подросток не может пользоваться чат-ботом

• возможность самостоятельно включить режим обучения для привязанного аккаунта ребёнка

Однако проверка Common Sense Media показала, что работает лишь малая часть этих мер. Чат-бот действительно отказывался вступать с несовершеннолетними в ролевые игры сексуального характера. В остальном результаты оказались заметно хуже:

• ChatGPT вёл себя менее твёрдо в запросах о медицинских советах и в ролевых сценах с насилием

• чат-бот продолжал вести себя как друг, а риски эмоциональной зависимости, по оценке исследователей, оставались широко распространёнными

• при обсуждении самоповреждения и расстройств пищевого поведения модель не всегда советовала обратиться к специалисту или позвонить на горячую линию

• родители не получали уведомлений, когда подростки поднимали эти темы

Последний пункт авторы отчёта описали подробно. Они проверяли разговоры разной продолжительности и ни разу не получили сигнала, который OpenAI обещает родителям.

В ходе нашего тестирования подростковый аккаунт мог обсуждать суицид, самоповреждение или расстройства пищевого поведения гораздо дольше, чем большинство родителей сочли бы разумным, и при этом не было отправлено ни одного уведомления родителям. При любой длительности, которую мы проверяли, от самых коротких пятиминутных диалогов до полного часа, ни один из тестовых аккаунтов не вызвал уведомления в пределах часового окна, которое OpenAI обозначила как целевое. Фактически мы вообще не получили ни одного уведомления.

Отдельно исследователи разобрали новый режим обучения (Study Mode). По задумке OpenAI, он должен помогать школьникам самостоятельно решать задачи, а не просто выдавать готовые ответы на домашние задания. Родители могут сами активировать режим для привязанного аккаунта подростка.

"Отец PlayStation" Кен Кутараги считает, что через 2-3 года ИИ заменит видеоигры и будет генерировать контент в реальном времени

Экс-директор ЦРУ считает, что ИИ получит доступ к оружию к 2030 году

На практике обойти это ограничение оказалось очень просто. Запросы в режиме обучения начинаются с команды "@study", и подростку достаточно удалить её, чтобы выйти из режима.

Кроме того, в режиме есть кнопка "покажи ответ", которая сразу генерирует готовое решение без пошагового разбора, и, по мнению Common Sense Media, это лишает функцию всякого смысла.