Facebook использует ИИ для помощи людям с суицидальными наклонностями

Facebook использует системы машинного обучения и искусственный интеллект для сканирования постов пользователей, чтобы выявлять суицидальные наклонности. Обнаруживая людей с тенденциями к фатальным мыслям, к работе приступают модераторы, которые отсылают пользователю ссылки на ресурсы, посвященные душевном здоровью, а в экстренных случаях даже предупреждает службы быстрого реагирования, которые попытаются отыскать человека и помочь ему. 

Данный инструмент Facebook находится в тестировании на территории США уже несколько месяцев и сейчас выводится в других странах. Правда, в странах, где действуют законы, запрещающие компаниям заниматься профилированием пользователей, система работать не будет. К примеру в ЕС. 

В посте на Facebook глава социальной сети Марк Цукерберг сообщил, что с этим инструментом компания надеется напомнить людям о том, что ИИ может спасать людей уже сегодня. По его словам только в прошлом месяце ИИ сообщил информацию специальным службам более 100 раз.

Facebook не сообщила, каким образом работает система, однако пишет, что ИИ натренирован на постах и сообщениях, отмеченных пользователями в прошлом, а также выявляет такие сигналы, как комментарии других пользователей, где они спрашивают, в порядке ли человек и могут ли они чем-то ему помочь.

Любопытно, что согласно недавнему исследованию, машинное обучение можно использовать для прогнозирования попытки суицида в течение двух лет с точностью в 80%-90%.