Сотни чатов с Claude, включая резюме и медицинские данные, попали в поиск Google

Anthropic заблокировала индексацию поисковыми системами общедоступных ссылок на диалоги с Claude после того, как сотни переписок оказались в открытых результатах поиска.

Проблема возникла из-за функции обмена в Claude, которая позволяет создать ссылку на разговор. Такие ссылки открывались без входа в аккаунт, а поисковые системы индексировали их как обычную веб-страницу.

Первыми на утечку обратили внимание на Reddit, где пользователи продемонстрировали способ находить эти чаты. Как минимум 200 разговоров нашлись более чем на двух десятках страниц поисковой выдачи, включая недавно созданные.

Хотя ссылки уже удалили из поисковых индексов, многие переписки к тому моменту были сохранены и распространены. Сами чаты охватывали широкий спектр тем, но часть содержала конфиденциальную информацию.

Пользователи делились резюме с именами, контактными данными и историей трудоустройства. В других случаях запросы включали рабочие материалы, например просьбу составить неопубликованный блог о проекте по облачной безопасности.

Встречались и разговоры на медицинские темы, а также то, что выглядело как транскрипты личной переписки. Anthropic заявила, что ситуация стала результатом действий пользователей, а не сбоя системы.

Представительница компании отметила, что пользователи сами контролируют, когда и как делятся своими разговорами, и что ссылки не находятся в открытом доступе, пока кто-то не решит их распространить:

Когда кто-то делится разговором, он делает этот контент общедоступным, и, как и любой другой публичный веб-контент, он может быть заархивирован сторонними сервисами. Ссылки не угадать и не обнаружить, если люди сами не решат ими поделиться.

При этом принцип работы функции неочевиден. Claude сообщает пользователям, что "любой, у кого есть ссылка" может просмотреть общий разговор, но не предупреждает прямо, что ссылка может быть проиндексирована поисковыми системами.

Как только страница становится общедоступной, веб-краулеры могут обнаружить и каталогизировать её, если не предпринять мер для предотвращения этого. Google заявила, что не контролирует, какой контент становится публичным.

Представитель Google пояснил, что компания предоставляет владельцам сайтов инструменты для управления индексацией и сканированием страниц и следует этим настройкам. В данном случае Anthropic, судя по всему, воспользовалась этими средствами уже после того, как проблема стала публичной.

Энтузиаст добавил Nvidia Tesla V100 в игровой ПК за $266 и получил 32 ГБ видеопамяти для запуска ИИ-моделей

Режиссёр с помощью ИИ построил антиутопию с людьми, выживающими внутри трубы

Те же ссылки были видны и в других поисковиках, включая Bing, Brave и DuckDuckGo. Это не первый случай, когда логи ИИ-чатов всплывают подобным образом.

OpenAI столкнулась с похожей ситуацией в прошлом году с ChatGPT, а чат-бот Grok от X тоже показал массу разговоров, доступных для поиска. В каждом случае проблема была не во взломе, а в том, как общие ссылки взаимодействуют со стандартной веб-индексацией.