xAI подала иск против генерального прокурора Миннесоты из-за закона против ИИ-нюдификации

xAI подала иск против генерального прокурора штата Миннесота, оспаривая закон HF 1606, который запрещает использование так называемых "nudification"-приложений. Речь идёт о технологиях, автоматически раздевающих людей на фотографиях с помощью ИИ. Закон должен вступить в силу в следующем месяце.

Сам по себе иск не отрицает смысл подобного регулирования. В первом же абзаце документа прямо указано:

xAI соответственно не оспаривает интерес Миннесоты в запрете распространения искусственно созданных обнажённых изображений реальных людей без их согласия.

Претензии касаются другого. Компания настаивает на том, что закон сформулирован настолько широко, что фактически блокирует законные применения ИИ. Помимо этого, HF 1606 игнорирует вопрос умысла, а штрафы, по мнению xAI, несоразмерно велики. Поводом для беспокойства стала и сама процедура преследования: закон открывает путь к судебным искам напрямую от пострадавших.

SpaceX пытается подкупить скидкой в 50% на Starlink жителей трёх городов, недовольных незаконными дата-центрами xAI

Отдельный блок жалоб связан с определениями в тексте закона. xAI утверждает, что Миннесота при формулировке понятия "интимные части тела" использовала не общепринятое толкование, а определение из закона о физических прикосновениях. В результате под действие HF 1606 формально попадают изображения мужской и женской груди, а также любого "внутреннего бедра" у любого человека.

Чтобы продемонстрировать абсурдность этой трактовки, в иске приводится конкретный пример: вирусный ИИ-коллаж с президентом Трампом. На нём Трамп изображён вместе с вице-президентом Джей-Ди Вэнсом, госсекретарём Марко Рубио и министром внутренних дел Дагом Бёрджамом в бассейне-отражателе у Национального Mall в Вашингтоне, без рубашек, рядом с неизвестной женщиной. С учётом видимой мужской груди и фрагментов бёдер, такое изображение по букве закона попадает под запрет.

Цифры в иске производят впечатление. Десять подобных "безобидных" изображений теоретически могут обойтись компании в 5 миллионов долларов штрафов.

А компания, чьи пользователи создали сто тысяч изображений, подпадающих под HF 1606, что совсем не невероятно для публично доступной программы с миллионами пользователей и миллиардами генерируемых изображений, может задолжать ошеломляющие 50 миллиардов долларов.

Среди прочего, иск акцентирует внимание на том, что ответственность наступает даже в том случае, если сгенерированное изображение несёт художественную, научную, политическую, сатирическую, образовательную, медицинскую или религиозную ценность. При этом не имеет значения, внедрила ли компания передовые технические меры защиты от генерации обнажённых изображений.

ИИ-компании скупают миллионы книг и уничтожают их ради обучения нейросетей

Контекст для всего этого очевиден. В конце прошлого года функция раздевания в Grok стала вирусной: пользователи массово создавали сексуализированные изображения реальных людей, в том числе несовершеннолетних. По оценкам с применением экстраполяции, число сексуализированных изображений детей, созданных через Grok, составило около 23 000. После этого X опубликовала заявление об изменении возможностей чат-бота:

Мы сохраняем приверженность тому, чтобы X оставался безопасной платформой для всех, и по-прежнему придерживаемся политики абсолютной нетерпимости к любым формам сексуальной эксплуатации детей, неконсенсуальной обнажённости и нежелательному сексуальному контенту.

xAI требует признать HF 1606 неконституционным и добиться запрета на его применение. Примечательно, что накануне суд по другому делу уже заблокировал вступление в силу ещё одного миннесотского закона – запрета на рынки предсказаний, который также должен был заработать в следующем месяце.