Бывший киберспортсмен придумал ИИ-систему для борьбы с токсичностью в играх

Бывший киберспортсмен Деннис Фонг, известный под ником Thresh, анонсировал GGWP — специальную ИИ-систему, которая позволит крупным студиям бороться с токсичностью в своих играх.

По словам Фонга, в крупных компаниях практически не занимаются проблемами токсичности и зачастую не обращают никакого внимания на сообщения от игроков:

Я не буду называть конкретные студии, но некоторые из самых крупных компаний в мире так и работают. Жалобы на игроков просто никуда не уходят, они попадают в почтовый ящик, который никто даже не смотрит. Вам это знакомо, верно? Чувствуешь отчаяние, когда думаешь: "Блин, я же 15 раз сообщал об одном и том же парне, почему ничего не произошло?"

GGWP — это совместная разработка Фонга, основателя Crunchyroll Куна Гао и эксперта по ИИ доктора Джорджа Нга. Система должна анализировать голосовые и текстовые чаты и выявлять в них запрещенные выражения:

Мы очень быстро поняли, что, во-первых, многие из токсичных сообщений одинаковы. И поэтому можно использовать большие объемы данных и искусственный интеллект для сортировки таких сообщений. Подавляющее большинство из них практически идеально подходит для того, чтобы искусственный интеллект мог решить эту проблему.

Просто люди еще не дошли до этого.

По задумке создателей, система GGWP должна отслеживать репутацию каждого игрока. В случае каких-либо нарушений геймер будет получать штрафные баллы. В зависимости от количества этих баллов модераторы смогут применять к пользователям те или иные виды наказания. Сам Фонг считает, что, получив несколько предупреждений, игроки перестанут употреблять нецензурную лексику и "токсичить" в чатах.

Любопытно, что вся эта система подозрительно похожа на китайский "социальный рейтинг", который в западных странах считается проявлением цензуры и тотального контроля.

Фонг и другие создатели GGWP надеются, что крупные студии возьмут их разработку на вооружение и внедрят ее в свои тайтлы.