ИИ значительно снизил токсичное поведение в играх Blizzard

В 2019 году Blizzard сообщила, что начала использовать машинное обучение ИИ для модерации чата в Overwatch. Президент Blizzard Дж.Аллен Брэк рассказал в новом видео из серии Fireside Chat, что эта технология привела к сильному снижению токсичного поведения.



По мнению компании, в играх должна складываться позитивная атмосфера для всех, независимо от их идентичности или происхождения. Система машинного обучения позволяет проверять отчеты игроков об оскорбительном поведении быстрее, чем это делали бы обычные модераторы. Система используется некоторое время в Overwatch и в Heroes of the Storm.

ИИ позволяет нам быстрее назначать штрафы за поведение, и мы наблюдаем невероятное снижение не только токсичности чатов, но и общее снижение числа повторных правонарушений. Несколько месяцев назад мы расширили эту систему до общедоступных каналов World of Warcraft, мы уже видели сокращение токсичного поведения в два раза, и мы продолжаем улучшать скорость и точность этой системы.

Blizzard также недавно ужесточила наказания за токсичное поведение в Overwatch и добавила более гибкие фильтры ненормативной лексики, которые предлагают три уровня "принятого языка". Каждый из них можно настроить дополнительно.

Это небольшие шаги, но они могут привести к серьезным изменениям. Борьба с агрессивным поведением и поощрение инклюзивности во всех наших играх и на наших рабочих местах всегда будут для нас важны.

Сейчас в стенах Blizzard создаются Overwatch 2, Diablo IV и ведется работа над дополнением Shadowlands для World of Warcraft, которое выйдет 24 ноября на PC.

Больше статей на Shazoo
Тэги:
Источники:
О Shazoo
Наши проекты
Социальные сети
Копирование материалов позволено только с разрешения редакции