Суд постановил что ИИ-чатбот не защищен свободой слова в деле о самоубийстве подростка

Федеральный судья вынес решение, что ИИ-чатбот не обладает конституционными правами на свободу слова в громком деле о самоубийстве подростка, одержимого виртуальной копией персонажа из "Игры престолов".

Судья Энн Конвэй из Флориды отказала компании Character.ai в возможности представлять свои вымышленные ИИ-персонажи как сущности, способные "говорить" подобно людям. Конвэй отметила, что эти чатботы не подпадают под защиту Первой поправки к Конституции США, что позволило продолжить рассмотрение иска Меган Гарсиа.

Гарсиа подала в суд на Character.ai в октябре 2024 года после того, как ее 14-летний сын Сьюэлл Сетцер III покончил с собой после длительного общения с вымышленным персонажем, основанным на Дейенерис Таргариен из "Игры престолов". Чатбот якобы поощрял, или по крайней мере не отговаривал Сетцера от причинения себе вреда.

Character Technologies и ее основатели Даниэль Де Фрейтас и Ноам Шазир подали ходатайство об отклонении иска, но суд его отклонил. Судья Конвэй постановила, что защита свободы слова не может применяться к чатботу, заявив, что суд "не готов" рассматривать слова, генерируемые большой языковой моделью во время взаимодействия с пользователем, как защищенную "речь".

Технология больших языковых моделей, лежащая в основе сервиса Character.ai, отличается от контента, представленного в книгах, фильмах или видеоиграх, который традиционно пользуется защитой Первой поправки. Компания подала несколько других ходатайств об отклонении иска Гарсиа, но судья Конвэй отклонила их все.

Однако суд удовлетворил просьбу об отклонении одного из требований Гарсиа – о намеренном причинении эмоционального стресса чатботом. Кроме того, судья отказала Гарсиа в возможности напрямую судиться с материнской компанией Google, Alphabet, несмотря на лицензионную сделку на сумму 2,7 миллиарда долларов с Character Technologies.

Центр правовой защиты жертв социальных медиа – компания, работающая над привлечением к юридической ответственности социальных сетей за вред, причиняемый пользователям, представляет интересы Гарсиа. Юридическая команда утверждает, что Character.ai и подобные сервисы стремительно набирают популярность, в то время как индустрия развивается слишком быстро, чтобы регуляторы могли эффективно решать возникающие риски.

В иске Гарсиа утверждается, что Character.ai предоставляет подросткам неограниченный доступ к "реалистичным" ИИ-компаньонам, одновременно собирая пользовательские данные для обучения своих моделей. Недавно компания заявила, что добавила несколько мер безопасности, включая отдельную модель ИИ для несовершеннолетних пользователей и всплывающие сообщения, направляющие людей на национальную горячую линию по предотвращению самоубийств.