X ограничит возможности Grok по редактированию изображений реальных людей после тренда на переодевание в бикини

X объявила об изменениях в политике работы чатбота Grok после нескольких недель критики из-за генерации сексуализированных изображений детей и нежелательной наготы. В обновлении компания сообщила о внедрении технологических мер, которые не позволят Grok редактировать фотографии реальных людей, добавляя откровенную одежду вроде бикини. Новые ограничения будут действовать для всех пользователей независимо от подписки, а генерация изображений станет доступна только платным подписчикам.

X также введет геоблокировку в регионах, где создание изображений реальных людей в бикини, нижнем белье и подобной одежде нарушает законодательство. Заявление появилось после того, как генеральный прокурор Калифорнии Роб Бонта начал расследование в отношении xAI и Grok. Согласно одному из анализов, более половины из 20 тысяч изображений, сгенерированных Grok в период между Рождеством и Новым годом, изображали людей в минимальном количестве одежды, включая тех, кто выглядел как дети.

ИИ-чатбот Grok от Илона Маска используют для создания интимных фото женщин без их согласия

В своем заявлении X подчеркнула политику нулевой терпимости к эксплуатации детей и удаление материалов, связанных с сексуальным насилием над детьми, а также нежелательной наготы с платформы. Илон Маск заявил, что не знал о создании непристойных изображений несовершеннолетних через Grok.

Малайзия и Индонезия недавно заблокировали Grok из-за проблем с безопасностью и обработкой откровенных материалов, сгенерированных ИИ. В Великобритании регулятор Ofcom также начал расследование в отношении xAI и Grok, а власти страны заявили о поддержке возможной блокировки чатбота. Коалиция из 28 правозащитных организаций обратилась к Apple и Google с призывом удалить Grok и X из магазинов приложений, обвинив компании в получении прибыли от распространения незаконного контента.

Рекомендации Apple и Google явно запрещают подобные приложения в их магазинах, однако ни одна из компаний пока не предприняла заметных действий. Сенат США повторно принял закон Defiance Act, который позволяет жертвам нежелательных откровенных дипфейков подавать гражданские иски. Предыдущая версия закона была принята в 2024 году, но застопорилась в Палате представителей.