ИИ-платформа Character.AI запретит подросткам общаться с чатботами после волны критики
Character.AI больше не позволит подросткам взаимодействовать со своими чатботами на фоне растущего давления на ИИ-компании со стороны регуляторов и родителей. Платформа подтвердила, что удаляет возможность для пользователей младше 18 лет вести открытые диалоги с искусственным интеллектом.
Изменения вступят в силу 25 ноября. До этой даты Character.AI представит пользователям младше 18 лет новый интерфейс, который будет поощрять использование чатботов для творческих целей – например, создания видео или стримов – вместо поиска компаньонов для общения. Для управления переходом подростки теперь могут взаимодействовать с ботами не более двух часов в день, причём компания планирует сократить это время к концу ноября.
Character.AI также внедряет новый инструмент проверки возраста собственной разработки, который, по словам компании, "обеспечит получение пользователями правильного опыта для их возраста". Наряду с этим компания основала "AI Safety Lab", которая должна позволить другим компаниям, исследователям и академикам обмениваться наработками и совместно работать над улучшением мер безопасности ИИ.
Решение появилось после того, как Федеральная торговая комиссия США запустила официальное расследование в отношении ИИ-компаний, предлагающих пользователям доступ к чатботам-компаньонам. Character.AI названа одной из семи компаний, которых попросили участвовать в расследовании вместе с OpenAI, Snap и другими.
Летом компании столкнулись с претензиями генерального прокурора Техаса Кена Пакстона, заявившего, что чатботы на платформах могут "представлять себя профессиональными терапевтическими инструментами" без соответствующей квалификации. Глава Character.AI Карандип Ананд сообщил TechCrunch, что новое стратегическое направление компании предполагает переход от ИИ-компаньона к "платформе ролевых игр", сфокусированной на творчестве, а не просто на разговорах.
Опасность того, что молодые люди полагаются на ИИ-чатботов для получения советов, стала предметом обширных расследований в последние месяцы. На этом фоне даже появилось несколько крупных судебных исков.
