Жительница Флориды вела дневник в Claude, а Anthropic передала запись полиции – ей грозит до 15 лет

Во Флориде задержали женщину, которая использовала ИИ-чатбот Claude как личный дневник. Причиной ареста стала одна из записей, о которой Anthropic сообщила правоохранительным органам. Теперь жительнице штата предъявлено обвинение в тяжком преступлении.

Согласно протоколу задержания, 26 сентября Карли Мишель Хеллер из города Бонита-Спрингс написала чат-боту, что собирается "устроить стрельбу" в офисе шерифа округа Ли. Позже женщина объяснила, что пользуется ИИ-ассистентом Anthropic как "дневником" и не рассчитывала, что кто-то прочитает её записи.

OpenAI уволила трёх сотрудников команды безопасности за утечку конфиденциальных данных

Японский суд впервые защитил голос актёра от ИИ-клонирования после дела о TikTok-аккаунте с 200 тысячами подписчиков

Сообщение не осталось незамеченным. Системы безопасности Claude автоматически пометили запись как потенциально опасную, после чего её передали на проверку живому модератору. Сотрудник Anthropic счёл угрозу реальной и сообщил о ней полиции.

В правилах Anthropic указано, что компания может раскрывать данные пользователей в исключительных экстренных случаях. Речь идёт о ситуациях, когда передача информации необходима для предотвращения гибели человека или причинения серьёзного физического вреда.

Получив сигнал, помощники шерифа установили личность Хеллер и приехали к ней домой. Женщину задержали без сопротивления, а расследование передали детективу разведывательного отдела офиса шерифа округа Ли.

Хеллер обвиняют в письменной угрозе насилием. Статья 836.10 законодательства Флориды квалифицирует как тяжкое преступление второй степени отправку, публикацию или передачу письменного либо электронного сообщения, в котором содержится угроза:

• убить или причинить вред человеку

• устроить массовую стрельбу

• совершить теракт

Ключевое условие статьи – сообщение должно быть составлено так, чтобы его мог увидеть другой человек. По законам штата за тяжкое преступление второй степени грозит до 15 лет лишения свободы и штраф до 10 тысяч долларов.

Осторожность Anthropic объясняется недавними событиями в индустрии. В сентябре власти канадской провинции Британская Колумбия подали иск против OpenAI и её главы Сэма Альтмана, утверждая, что компания могла предотвратить массовую стрельбу в регионе.

Стрелявшая, 18-летняя бывшая ученица, ранее попадала в поле зрения команды безопасности OpenAI из-за разговоров о вооружённом насилии. При этом полицию компания так и не уведомила, так как переписка не достигала порога, при котором требуется обращение к правоохранителям.

В июне 2026 года собственный иск против OpenAI и Альтмана подал штат Флорида. Власти заявили, что ChatGPT способствовал реальному вреду, в том числе стрельбе в Университете штата Флорида в 2025 году.

Трамп переименовал ИИ в "суперинтеллект", а 6 глав техногигантов подписали соглашение о саморегулировании

История Хеллер в очередной раз показывает, что чат-бот не подходит для роли личного дневника. Переписка с ИИ может попасть на глаза сотрудникам компании-разработчика, а в отдельных случаях и полиции.

Вопросы приватности касаются не только Anthropic. В сентябре появились сообщения о том, что подрядчики Microsoft, проверяющие работу редактора изображений в Copilot, имеют доступ к пользовательским данным:

• текстовым запросам

• загруженным фотографиям

• отредактированным ИИ изображениям

Согласно документам, часть заданий содержит материалы сексуального, шокирующего или потенциально незаконного характера. Однако помечать такой контент проверяющие не обязаны, ведь их задача ограничивается оценкой точности результата генерации.