OpenAI изучает возможности создания порно с помощью ИИ

Продукты OpenAI, ориентированные на широкую публику, такие как хитовый текстовый генератор ChatGPT и мощный генератор изображений DALL-E, печально известны своей цензурой — попросите их создать что-нибудь для взрослых, и они откажутся.

Но, похоже, так будет не всегда. Как заметил журнал Wired, в недавно опубликованной "спецификации модели" компании — по сути, черновой документации о том, как должен вести себя ИИ компании, отмечается, что сейчас разработки OpenAI не имеют права генерировать порноконтент. Однако компания оставляет дверь открытой для изменений:

Мы изучаем возможность ответственного предоставления возможности генерировать NSFW-контент в подходящих возрасту контекстах через API и ChatGPT. Мы с нетерпением ждем лучшего понимания ожиданий пользователей и общества от поведения модели в этой области.

Несмотря на все усилия OpenAI, секс был одной из ключевых областей экспериментов с ИИ. Мы видели людей, ведущих непристойные беседы и даже романтические отношения с ИИ, включая созданные OpenAI, несмотря на все ее усилия, а также сайты, генерирующие похотливые изображения и пока в основном ужасающие попытки в области видео.

На практике результаты часто оказываются этически неоднозначными. Полиция расследовала несколько инцидентов, когда обнаженные фото учеников распространялись в средних и старших школах, а знаменитости становились мишенью сексуализированных дипфейков, сгенерированных ИИ. И все обычные критические замечания в адрес ИИ применимы как никогда: если вы генерируете NSFW-контент с помощью системы ИИ, разве это не кажется вторжением в жизнь всех людей, которые не давали согласия на включение в обучающие данные модели?

Инсайдеры OpenAI, которым поручено выяснить, как должны вести себя различные системы ИИ, несомненно, хорошо осведомлены обо всем этом контексте и критике, отсюда и очень осторожная формулировка комментария. Еще более актуальным все это делает пока не выпущенный генератор видео от OpenAI под названием Sora, который может создавать убедительные синтетические кадры.

Одно можно сказать наверняка: независимо от того, подключится ли OpenAI к этому, порно, вероятно, станет движущей силой индустрии ИИ.