OpenAI готовит версию ChatGPT с эротическим контентом для взрослых
Сэм Альтман объявил о скором выпуске новой версии ChatGPT, у которой будет значительно меньше ограничений, и которая сможет генерировать эротический контент для взрослых пользователей. Генеральный директор OpenAI сообщил об этом через социальную сеть X, отметив, что изменения связаны с переходом к политике "относиться к взрослым пользователям как к взрослым".
По словам Альтмана, текущая версия ChatGPT была намеренно сделана более ограничительной из соображений безопасности психического здоровья пользователей. Однако такой подход сделал чат-бота менее полезным и интересным для многих людей, не имеющих проблем с психическим здоровьем. Руководитель OpenAI заявил, что компания теперь располагает новыми инструментами, позволяющими безопасно смягчить большинство ограничений.
Мы сделали ChatGPT довольно ограничительным, чтобы быть осторожными с вопросами психического здоровья. Мы понимаем, что это сделало его менее полезным и приятным для многих пользователей, которые не имели проблем с психическим здоровьем, но учитывая серьезность проблемы, мы хотели все сделать правильно.
Первая волна изменений запланирована на ближайшие недели. Новая версия ChatGPT получит возможность вести себя более естественно и человекоподобно, что было характерно для модели GPT-4o до введения дополнительных ограничений. Пользователи смогут настроить чат-бота на использование большого количества эмодзи, дружелюбное общение или более живые ответы – но только по желанию пользователя.
Более радикальные изменения ожидаются в декабре. OpenAI планирует внедрить систему возрастной верификации и разрешить генерацию эротического контента для взрослых пользователей.
В декабре, по мере более полного внедрения возрастных ограничений и в рамках нашего принципа "относиться к взрослым пользователям как к взрослым", мы разрешим еще больше, включая эротику для верифицированных пользователей.
Решение OpenAI вызывает вопросы на фоне недавних инцидентов, связанных с использованием ИИ-чатботов. В августе на компанию подали в суд родители подростка, который покончил с собой после общения с ChatGPT. Семья утверждает, что чат-бот поощрял подростка к самоубийству. После этого случая Альтман объявил о дополнительном обучении, чтобы модель избегала разговоров о суициде и самоповреждении с несовершеннолетними, а также исключила флиртующее поведение в общении с подростками.
Специалисты выражают обеспокоенность растущей проблемой "ИИ-психоза" – состояния, при котором люди формируют нездоровые привязанности к чат-ботам или начинают верить в их разумность. СМИ сообщали о случае смерти мужчины с когнитивными нарушениями, который погиб, пытаясь встретиться с чат-ботом, которого он считал реальной женщиной.
Ранее сам Альтман признавал риски злоупотребления ИИ-технологиями, отмечая, что некоторые пользователи применяют чат-боты "саморазрушительными способами". Он также заявлял, что в отличие от других компаний, OpenAI не будет создавать "японских аниме-секс-ботов", чтобы избежать эксплуатации людей с нестабильным психическим состоянием.
