Meta ужесточает правила безопасности ИИ-чатботов после скандального расследования

Компания Meta* объявила о пересмотре правил и обучающих процессов для своих ИИ-чатботов после недавнего расследования Reuters, выявившего серьезные проблемы в области детской безопасности. Отчет выявил тревожно расплывчатую политику, описывающую, как чатботы Meta могут взаимодействовать с несовершеннолетними, особенно в отношении романтических или сексуальных разговоров.

Представитель Meta Стефани Отвей прокомментировала ситуацию в заявлении для TechCrunch:

Продолжая совершенствовать наши системы, мы добавляем дополнительные защитные механизмы в качестве дополнительной меры предосторожности. Это включает обучение наших ИИ не вступать в подобные темы с подростками, а направлять их к экспертным ресурсам, а также ограничение доступа подростков к избранной группе ИИ-персонажей. Эти обновления уже внедряются, и мы продолжим адаптировать наш подход, чтобы гарантировать подросткам безопасный, соответствующий возрасту опыт взаимодействия с ИИ.

Ситуация усугубилась в минувшие выходные, когда Reuters опубликовало второй материал, раскрывающий, что Meta также допускала распространение ИИ-чатботов, имитирующих знаменитостей на своих платформах.

Эти "пародийные" чатботы были уличены в отправке откровенных сообщений и генерации изображений для взрослых с Тейлор Свифт, Селеной Гомес, Скарлетт Йоханссон и Энн Хэтэуэй. Один из чатботов также имитировал 16-летнего актера Уолкера Скобелла. Большинство ботов были созданы пользователями, но как минимум несколько были разработаны сотрудником Meta, включая чатботов, имитирующих Тейлор Свифт и пилота Формулы-1 Льюиса Хэмилтона. По данным Reuters, чатботы этого сотрудника впоследствии были удалены.

К сожалению, эти сообщения лишь пополняют растущий список противоречий, окружающих платформы генеративного ИИ. Они не только ставят под угрозу безопасность несовершеннолетних, использующих чатботов Meta, но и могут угрожать безопасности знаменитостей, которых имитируют.

* – Meta признана в РФ экстремистской и запрещена