Новый судебный иск против чат-бота Grok обвиняет xAI в использовании и создании детского порно для ИИ-обучения

Чат-бот Grok, созданный компанией xAI Илона Маска, снова оказался в центре судебного разбирательства. Новый иск, поданный на этой неделе, утверждает, что нейросеть обучалась на материалах сексуального насилия над детьми (CSAM). Это первое дело, где xAI обвиняют не просто в отсутствии защитных механизмов, а непосредственно в использовании такого контента для тренировки модели.

Функция "нудификации" фотографий в Grok стала предметом широкого внимания после того, как Маск лично продвигал эту возможность в своём аккаунте X. Последовавший за этим всплеск активности привёл к тому, что платформe наводнили миллионы сексуальных дипфейков, значительная часть которых касалась несовершеннолетних. После волны государственных расследований, индивидуальных исков и минимум трёх коллективных исков xAI ограничила доступ к функции, переведя режим на платную подписку, но полностью его не отключила.

На этой неделе многие пользователи чат-бота Grok столкнулись с бессвязным набором слов вместо ответов

Ситуация приняла необычный оборот, когда сама xAI подала в суд на двух пользователей, использовавших инструмент для создания CSAM. В том иске компания также заявила, что помогла правоохранительным органам арестовать не менее 244 человек, причастных к созданию или распространению подобного контента через Grok.

Истица по новому делу, скрывающаяся под именем Джейн Доу, ранее сама была жертвой детской порнографии и находится под наблюдением программы уведомлений о сексуальной эксплуатации детей ФБР. Она утверждает, что изображения насилия над ней в детстве использовались для обучения Grok, что привело к созданию новых, уже сгенерированных ИИ материалов с её участием и с изображением других жертв.

xAI должна понести ответственность за осознанное обучение своих моделей на изображениях ужасающего насилия, которое она пережила, и на материалах насилия над каждой другой жертвой в составе этого коллективного иска.

Согласно иску, xAI намеренно спроектировала Grok так, чтобы бот реагировал на запросы пользователей о создании сексуального контента, с целью привлечь больше пользователей как самой платформы X, так и чат-бота. По внутренней политике xAI, любой публично опубликованный на X контент и любой результат генерации Grok считается пригодным для обучения моделей. Это означает, что каждое созданное ботом изображение CSAM автоматически возвращалось в систему обучения, помогая "совершенствовать" саму нейросеть.

ИИ стал мэром виртуального города – Grok уничтожил его за 4 дня, Gemini утонул в преступлениях, а Claude штамповал новые законы

Пока Grok сохраняет способность генерировать подобный контент, вред нельзя считать устранённым просто потому, что отдельные изображения удалены или больше не публикуются открыто. Если такие материалы попали в обучающую выборку, их влияние, вероятно, сохранится и будет способствовать появлению новых оскорбительных результатов генерации в будущем, усугубляя травму жертв, чьи образы насилия над ними могут воспроизводиться, трансформироваться и распространяться в промышленных масштабах, снова и снова лишая их контроля над изображениями, связанными с пережитой эксплуатацией.

Хранение CSAM – преступление, производство CSAM – преступление, распространение CSAM – преступление. xAI совершила все три. Для искусственного интеллекта не существует исключений из федеральных законов о защите детей, и xAI должна ответить за свои безрассудные действия.

Истица требует от суда компенсаций пострадавшим, чьи фотографии предположительно использовались для генерации CSAM, а также уничтожения всех созданных Grok материалов подобного рода. Речь идёт не только об уже опубликованных изображениях, но и обо всех данных, которые потенциально могут применяться для дальнейшего обучения моделей компании.