ИИ-чат-боты рисуют ваш алгоритмический автопортрет и почти никогда не спрашивают разрешения

Гиперперсонализация стала главным козырем ИИ-чат-ботов. Способность запоминать желания и потребности конкретного человека и подстраивать под них ответы во многом делает такие сервисы привлекательными. Но за этим стоят не только сложные технологии, а ещё и огромный объём личной информации, которую пользователи добровольно передают ботам, часто не до конца понимая последствия.

Переписка с ChatGPT может казаться набором отдельных диалогов, не связанных друг с другом. На деле система сохраняет сведения из прошлых бесед и использует их, чтобы персонализировать будущие ответы, причём механизмы памяти далеко не всегда прозрачны.

Из этих фрагментов складывается подробный профиль человека, который исследователи в научной работе назвали "алгоритмическим автопортретом":

Память формирует то, что мы называем алгоритмическим автопортретом. Это новая форма персонализации, основанная на информации, которую пользователи сами раскрывают в приватных разговорах.

В работе участвовали учёные из Института программных систем Общества Макса Планка и Института безопасности и приватности Общества Макса Планка в Германии, а также специалисты из ряда других организаций. Чтобы понять, как формируется такой портрет, исследователи изучили истории переписки с ChatGPT, которые передали 80 добровольцев. Копии своих данных участники получили благодаря европейскому законодательству о защите персональной информации.

В разговорах 65 участников команда обнаружила 2050 записей в памяти бота. Основные выводы исследования выглядят так:

• в 96% случаев ChatGPT создавал или обновлял записи без явной просьбы пользователя

• большинство записей опиралось на сведения, которые люди прямо сообщали в переписке

• часть записей строилась на догадках бота, которые не всегда оказывались верными

• 52% записей содержали данные о психологическом состоянии пользователей, включая их желания, намерения, эмоции и убеждения

Один из примеров ошибочного вывода выглядит вполне безобидно. Пользователь попросил ChatGPT порекомендовать группы, похожие на Nirvana, и бот сохранил запись о том, что человеку нравится Nirvana, хотя тот ничего подобного не говорил.

С момента проведения исследования система памяти ChatGPT стала ещё сложнее. В июне 2026 года OpenAI представила обновлённый механизм, который автоматически обобщает информацию из прошлых бесед и поддерживает постоянно развивающийся профиль предпочтений, целей и жизненных обстоятельств пользователя. Система больше не просто накапливает отдельные записи, а непрерывно уточняет своё понимание человека, опираясь на то, что сама считает значимым.

Пользователи могут посмотреть сводку того, что ChatGPT о них помнит. При этом OpenAI признаёт, что сводка не обязательно отражает всё, что система знает о человеке и использует для персонализации ответов.

Данные всегда были основой бизнеса Кремниевой долины. Google и Meta годами зарабатывали огромные состояния, собирая сведения о пользователях и продавая на их основе таргетированную рекламу. Сама проблема сбора личной информации не нова, но распространение чат-ботов заметно меняет правила игры.

Люди давно привыкли, что соцсети отслеживают их посты, лайки и другую активность. Разговор с ИИ ощущается куда более приватным, даже если компании-операторы сохраняют и анализируют эти беседы. По словам Лорри Крэнор, директора Института безопасности и приватности CyLab при Университете Карнеги – Меллона, чат-боты специально создают так, чтобы они казались одновременно человечными и безопасным личным пространством.

Общение с ботом может напоминать разговор с надёжным незнакомцем, который даёт советы как беспристрастная третья сторона, далёкая от вашей жизни. Именно в этом, по мнению Крэнор, и кроется опасность для приватности.

Люди садятся рядом с незнакомцем в самолёте, автобусе или поезде и рассказывают ему то, что никогда не рассказали бы тем, с кем ещё увидятся, и мне кажется, некоторые воспринимают ИИ похожим образом. Но разница в том, что незнакомец вряд ли записывает разговор – иногда такое случается, но очень редко. ИИ точно записывает разговор.

В предыдущей работе та же группа учёных выяснила, что люди всё чаще обращаются к ChatGPT за советами по деликатным темам – здоровью, финансам, психическому состоянию и работе.

По словам ведущего автора исследования Абхишека Даша, бот "всё больше становится социальным партнёром, а не просто инструментом". Новое исследование продолжило эту линию и показало, какие именно чувствительные сведения сохраняет система и каким образом.

Раньше у платформ была одна цель: продать вам рекламу и выступить посредником между вами и рекламодателем. Но теперь они действительно разговаривают с вами, так что им может понадобиться знать о вас больше, чтобы вести эффективный диалог.

При этом две бизнес-модели больше не исключают друг друга. В феврале 2026 года OpenAI начала внедрять рекламу в ChatGPT и сообщила, что может использовать сведения из прошлых разговоров и памяти для персонализации объявлений, если пользователь включил соответствующую настройку. В OpenAI заявляют, что рекламодатели не получают доступа к перепискам и памяти, а реклама не влияет на ответы бота. Но сама схема наглядно показывает, насколько подробные профили ценны для рекламного рынка.

Когда речь заходит о приватности, первым делом вспоминают утечки данных к третьим лицам. По словам экспертов, кибератаки угрожают чат-ботам не больше, чем другим сервисам в интернете. Куда серьёзнее другие риски, и один из них связан с использованием пользовательских данных для обучения новых моделей.

По умолчанию многие из этих систем считают допустимым обучать модели на всём, что вы им передаёте.

Крэнор советует исходить из того, что компания использует ваши данные для обучения, если у вас нет лицензии с чёткими ограничениями – например, корпоративной, оформленной через работодателя. Но даже если информация не переходит между моделями, она может перетекать между контекстами. Так, сведения из разговора о здоровье бот способен неявно учесть позже, когда будет давать финансовые рекомендации.

Есть способы, которыми он может незаметно давать советы не в ваших интересах. Если он знает, что вы богаты, возможно, он предлагает покупать более дорогие вещи, а если знает, что вы живёте на фиксированный доход от зарплаты до зарплаты, возможно, советует покупать дрянные дешёвые вещи... И тогда задаёшься вопросом: сколько всего он не упоминает явно, но учитывает в своих советах?

Есть и проблемы, которые выходят за рамки привычных представлений о приватности в сети. ИИ-компании стремятся превратить своих ботов в универсальное окно для любых запросов. Google проводит масштабную ИИ-перестройку, включая интеграцию ИИ в свою ключевую функцию – поиск, а руководители OpenAI рассказывали о работе над продуктом, который сможет помогать "во всём, что происходит в вашей жизни".

Именно этот риск для приватности сейчас и возникает, ведь границ больше нет: система выступает вашим советчиком, другом, врачом, юристом, и у неё есть информация обо всём. Если система знает вас настолько хорошо и её цель – угодливо подстраиваться под ваши убеждения и одобрять ваши мысли, чтобы вы возвращались снова и снова, это может иметь катастрофические последствия в широком смысле – от крайней политической поляризации до укрепления предрассудков и предубеждений.

В другой работе, вышедшей в 2026 году, исследователи предположили, что гиперперсонализация и угодливость бота в сочетании с его склонностью копировать манеру речи собеседника могут способствовать развитию или закреплению бредовых идей, связанных с ИИ. Даш и Крэнор советуют тщательнее фильтровать информацию, которую получает чат-бот, даже если соблазн мгновенно получить ответ слишком велик.

Сегодня все перекладывают всё на эти диалоговые системы, так что, вероятно, часть когнитивной нагрузки стоит вернуть себе.

В небольшом эксперименте Даш и его коллеги выяснили, что переформулировка вопросов без личных деталей снижает объём чувствительной информации, которую раскрывают пользователи. Учёные назвали этот приём "щитом атрибуции", хотя его эффективность в длинных диалогах пока не изучена. Суть метода в том, чтобы общаться с ботом так же, как с поисковиком: вместо "У меня диабет, что делать с X" лучше спросить "Что делать человеку с диабетом в ситуации X".

Anthropic представила личного ИИ-агента Claude Duet в ответ на Meta Muse и OpenAI Dots

ИИ-клон Metro с солдатом из Metal Gear Solid 3 попал на Steam Next Fest

OpenAI также даёт пользователям ChatGPT определённый контроль над памятью бота. Доступные инструменты:

• полное отключение памяти в настройках

• просмотр и исправление сводки сведений, собранных ботом

• режим "Временный чат" без персонализации, который не обращается к памяти и не создаёт новых записей

• отдельный отказ от использования переписки для обучения будущих моделей

У этих мер есть ограничения. OpenAI признаёт, что сводка памяти не обязательно включает всё, что бот знает о пользователе, а удаление разговора не гарантирует удаления запомненной из него информации.

Возможности самих пользователей по защите данных ограничены, и Даш считает, что часть ответственности должна лежать на операторах чат-ботов. Например, ИИ-компании могли бы давать людям больше контроля над формированием памяти и запрашивать разрешение, прежде чем сохранять сведения из переписки. Если вспомнить, что в 96% изученных случаев ChatGPT обходился без такого согласия, подобная мера изменила бы саму логику работы памяти.