Twitch тайно начал обучать ИИ Amazon на контенте стримеров и включил это по умолчанию для всех

Twitch подтвердил, что теперь использует контент стримов для "обучения генеративных моделей ИИ по всей экосистеме Amazon". Ситуацию усугубляет то, что все пользователи по умолчанию включены в программу обучения.

Слухи о такой программе ходили как минимум несколько недель. Стример Зак Бюсси (Zach Bussey) написал о ней в Bluesky ещё в июле, но официальное подтверждение появилось только сегодня, причём весьма косвенно, через сообщение аккаунта Twitch Support в X о новой настройке, позволяющей отказаться от участия.

Это означает, что по умолчанию опция включена, и такое решение приняли плохо. Ответы на сообщение в X состоят преимущественно либо из инструкций, как отключить обучение ИИ, либо из бурного возмущения.

Тред на Twitch User Voice по этой теме, изначально опубликованный в мае и призывающий сделать все ИИ-функции "опциональными и отключёнными по умолчанию", уже разросся до нескольких сотен страниц и около 15 тысяч голосов в поддержку.

На вопрос о том, почему система обучения генеративного ИИ включена по умолчанию, директор по продукту Twitch Майк Минтон дал ответ во время сегодняшнего стрима, тем самым подтвердив, что Twitch прекрасно понимает реальное отношение людей к этому.

Если бы это было по согласию, никто бы не согласился.

Отказаться от участия в схеме обучения генеративного ИИ несложно. Достаточно перейти на вкладку "безопасность и конфиденциальность" в настройках Twitch, пролистать вниз и найти переключатель "Обучение для генеративного ИИ". Нажать на него, и всё готово.

Проблема в том, что удобство не имеет значения, если люди не знают о существовании настройки, а Twitch, похоже, не прилагает больших усилий, чтобы все были в курсе. Раскрытие новой системы через пост о смежной функции на канале Twitch Support вместо привычного анонса в блоге Twitch вряд ли можно назвать заметным способом донести информацию.

Более того, ответ на недавний пост Бюсси о функции запутал ситуацию заявлением, что "Twitch не обучает модели генеративного ИИ на контенте стримеров". Однако собственный FAQ Twitch по настройкам аккаунта указывает, что это как раз и происходит.

В разделе с вопросом "Что такое генеративные модели контента ИИ и что означает использование моего контента для их обучения?" сказано:

Генеративные модели контента ИИ, это инструменты ИИ, которые могут помогать создавать или синтезировать выходной контент вроде текста или изображений при получении инструкций или запросов, так как они также обучаются на контенте. Когда вы разрешаете обучение, это означает, что ваш контент может использоваться для будущих улучшений моделей генеративного ИИ.

Пример того, что происходит, когда вы разрешаете использовать свой контент для обучения генеративной модели контента ИИ, это то, что ваше аудио может помочь улучшить модели, преобразующие речь в текст, что улучшит субтитры на Twitch, но также улучшит субтитры по всей экосистеме Amazon.

Судя по всему, Twitch пытается утверждать, что контент стримеров использует Amazon для обучения генеративных моделей ИИ, а не сам Twitch. Различие абсолютно бессмысленное, учитывая, что Twitch принадлежит Amazon.

FAQ также отмечает, что отказ от обучения генеративного ИИ "не отключает вас от всех способов использования ИИ или машинного обучения на Twitch". Платформа по-прежнему может использовать данные, включая стримы, VOD и всё остальное, для "функций с поддержкой ИИ" вроде автоматической генерации субтитров, хотя эти данные не сохраняются для обучения моделей, способных создавать новый контент.

Этот шаг может иметь более серьёзные последствия, чем кажется. Майк Футтер, сооснователь и аналитик игрового консалтингового агентства F-Squared, заявил, что новая система обучения генеративного ИИ несёт потенциально гораздо более глубокие последствия для стримеров.

Что происходит, если создатель контента стримит вашу игру и включён в программу? Считает ли Twitch, что имеет право скармливать игру разработчика в свою фабрику ИИ-мусора? Это имеет более глубокие последствия, чем кажется на поверхности.

Думаю, многие студии в ближайшие пару дней будут разговаривать со своими юристами. Для тех из нас, кто избегал ИИ как чумы, это явная и реальная угроза нашему бизнесу и творческой работе. В период, когда нашей индустрии нужна максимальная поддержка, особенно от компаний, которые ежедневно используют наш контент для собственного обогащения, это выглядит крайне враждебно.

Футтер, который также занимает пост директора по операциям и издательству в инди-студии Causeway Studios, добавил, что его команда "убеждённо анти-ИИ студия, и теперь это создаёт реальную угрозу нашей творческой работе". По его мнению, Twitch и Amazon столкнутся с сопротивлением со стороны разработчиков игр.

Это Давид против Голиафа. Нам понадобится критическая масса студий и создателей, которые будут громко об этом говорить.

Учитывая, что при помощи стримов Twitch и Amazon смогут создавать собственных виртуальных стримеров, лишая людей карьеры, неудивительно, что сообщество выступает против практики.