Китай предложил правила для ИИ-чатботов с требованием следовать социалистическим ценностям

Центральная комиссия Китая по делам киберпространства опубликовала в на прошлой неделе проект правил для антропоморфных ИИ-систем, которые доступны для общественного обсуждения до 25 января 2026 года.

Bloomberg сообщает, что предложенные нормы написаны в общих формулировках и охватывают ИИ-продукты, которые взаимодействуют с людьми на эмоциональном уровне через симуляцию человеческих личностей – в текстовом, графическом, аудио или видеоформате. Хотя термин "чатбот" в документе не используется, однако правила явно распространяются на подобные сервисы.

Согласно проекту, такие системы должны соответствовать "основным социалистическим ценностям". ИИ обязан четко идентифицировать себя как искусственный интеллект, а пользователи получат возможность удалять историю общения. Данные людей не смогут использовать для обучения моделей без согласия.

Документ запрещает ИИ-персонажам:

• Угрожать национальной безопасности, распространять слухи и подстрекать к незаконной религиозной деятельности

• Распространять непристойный, насильственный или криминальный контент

• Заниматься клеветой и оскорблениями

• Давать ложные обещания или создавать материалы, разрушающие отношения

• Поощрять наносимый себе вред и суицид

• Эмоционально манипулировать пользователями для принятия плохих решений

• Запрашивать конфиденциальную информацию

Разработчикам запретят создавать намеренно вызывающие зависимость чатботы или системы, предназначенные для замены человеческих отношений. Также правила предусматривают всплывающее напоминание о необходимости сделать перерыв после двух часов непрерывного использования.

Системы также должны распознавать напряженные эмоциональные состояния и передавать разговор оператору, если пользователь угрожает себе вредом или суицидом.