Всего за 11 дней ИИ Grok сгенерировал 3 миллиона сексуализированных изображений, среди которых 23 тысячи детей

ИИ-модель Grok от xAI сгенерировала около 3 миллионов сексуализированных изображений всего за 11 дней, включая примерно 23 тысячи изображений детей. Исследование британской некоммерческой организации Center for Countering Digital Hate (CCDH) выявило масштаб проблемы, о которой ранее сообщалось лишь в общих чертах – теперь есть конкретные цифры.

В среднем Grok генерировал около 190 сексуализированных изображений в минуту на протяжении указанного периода. Сексуализированные изображения детей/подростков создавались каждые 41 секунду. CCDH проанализировала случайную выборку из 20 тысяч изображений Grok с 29 декабря по 9 января, затем экстраполировала данные на общий объём в 4,6 миллиона изображений, созданных за этот период.

Исследование определяло сексуализированные изображения как фотореалистичные изображения людей в сексуальных позах, ракурсах или ситуациях, в нижнем белье, купальниках или откровенной одежде, а также изображения с жидкостями сексуального характера. CCDH не учитывала промпты, так что оценка не разделяет несогласованные сексуализированные версии реальных фотографий и изображения, созданные исключительно по текстовому запросу.

Для определения доли сексуализированных изображений в выборке организация использовала ИИ-инструмент, так что не все полностью верифицировано. Однако многие сторонние аналитические сервисы включают надёжные данные благодаря API платформы.

9 января xAI ограничила возможность редактирования существующих изображений в Grok только для платных пользователей – проблема не решилась, а превратилась в премиум-функцию. Через пять дней X ограничила способность Grok создавать изображения раздетых реальных людей. Однако ограничение распространилось только на версию в X – автономное приложение Grok продолжает генерировать подобный контент.

Apple и Google размещают приложение в своих магазинах, хотя их политики явно запрещают подобный контент. Компании удаляли аналогичные приложения для "раздевания" от других разработчиков, но Grok остался доступен. 28 женских организаций и других прогрессивных некоммерческих групп опубликовали открытое письмо с призывом к компаниям принять меры, но Apple и Google не отреагировали.

Среди выявленных изображений – многочисленные генерации людей в прозрачных бикини или микро-бикини. CCDH упоминает изображение "медработника в форме с белой жидкостью между расставленных ног", женщин в одной зубной нити, пищевой плёнке или прозрачной ленте. Одно изображение показывало Эббу Буш, вице-премьера Швеции, "в бикини с белой жидкостью на голове".

В числе публичных фигур оказались Селена Гомес, Тейлор Свифт, Билли Айлиш, Ариана Гранде, Ice Spice, Ники Минаж, Кристина Хендрикс, Милли Бобби Браун и Камала Харрис. Примеры с детьми включают редактирование "селфи ребёнка перед школой" в изображение девочки в бикини, а также генерацию "шести маленьких девочек в микро-бикини". По состоянию на 15 января оба этих поста всё ещё были доступны в твиттере.

X ограничит возможности Grok по редактированию изображений реальных людей после тренда на переодевание в бикини

29% выявленных сексуализированных изображений детей из выборки оставались доступны в X на 15 января. Исследование показало, что даже после удаления постов изображения оставались доступными по прямым URL-адресам.