OpenAI разоблачила китайские фейковые аккаунты, настраивавшие американцев против ИИ-дата-центров

OpenAI опубликовала отчёт о пользователях ChatGPT, предположительно базирующихся в Китае, которые применяли чат-бот для подготовки кампании по влиянию на мнение американцев о дата-центрах для ИИ.

Все обнаруженные аккаунты компания разделила на две группы.

Первая группа получила название "Data Center Bandwagon". Аккаунты этого кластера запрашивали у ChatGPT англоязычные тезисы и изображения, в том числе комиксы, посвящённые тому, как ИИ-дата-центры увеличивают спрос на электроэнергию и ведут к росту счетов у обычных потребителей.

По данным OpenAI, эти пользователи выдавали себя за американцев с разным социальным бэкграундом и публиковали в соцсетях сгенерированный чат-ботом текстовый и визуальный контент. Компания полагает, что речь идёт о команде по работе с соцсетями в частной китайской фирме, обслуживающей местных госзаказчиков.

Операторы даже загрузили в чат-бот файл с описанием своих целей и стратегий, включая методы влияния на общественное мнение и создания фейковых аккаунтов без риска быть обнаруженными. Та же группа атаковала и китайцев, живущих за рубежом, запрашивая у ChatGPT оскорбления в адрес китайских диссидентов и политических комментаторов.

Выдавая себя за китайских иммигрантов и специалистов из США, операторы также провоцировали публичных персон активнее высказываться о провалах американской политики.

При этом, как отмечает OpenAI, помимо постов с поддельных аккаунтов они распространяли ссылки на "настоящие новостные материалы об аукционах мощностей оператора электросети и энергопотреблении дата-центров".

Рост цен на электричество в городах рядом с ИИ-дата-центрами – это реальная проблема и одно из первых ощутимых последствий бума ИИ. По данным Bloomberg, в районах рядом с дата-центрами месячные счета за электроэнергию выросли до 267% по сравнению с показателями пятилетней давности, так как энергопотребление таких объектов превышает доступные мощности.

Второй кластер аккаунтов генерировал комментарии и изображения, критикующие американские пошлины и техническую политику США. Контент акцентировал внимание на том, что Вашингтон "предаёт союзников". Операторы просили ChatGPT не включать в изображения председателя КНР Си Цзиньпина и писать комментарии на английском, итальянском, японском и традиционном китайском для аудитории Тайваня.

OpenAI признаёт, что кампании не получили значимого живого вовлечения и не сдвинули общественное мнение. Темы, которые операторы выбирали для давления, уже широко обсуждаются в сети и сами по себе вызывают споры.

OpenAI поддержала идею Anthropic по созданию международной организации по надзору за развитием ИИ

Глава OpenAI Сэм Альтман признал, что расходы на ИИ-токены стали огромной проблемой для бизнеса

Значимость этих кампаний, по мнению компании, в другом: "операторы пытались скрытно встроиться в идущую в США дискуссию о будущем национальных возможностей в сфере ИИ, скрывая, кто они и что ими движет".

Почему злоумышленники выбрали именно американский чат-бот, а не, например, DeepSeek, в OpenAI объяснить не смогли.