Треть интернет-трафика составляют боты – глава OpenAI видит проблему, но ничего не делает

Согласно данным CloudFlare, почти треть всего интернет-трафика сейчас генерируют боты. Большинство из них пользователи никогда не увидят напрямую – эти программы сканируют веб-страницы, индексируют сайты или выполняют специфические задачи, а всё чаще собирают данные для обучения ИИ-моделей. Однако именно видимые боты заставляют таких людей, как глава OpenAI Сэм Альтман, задаваться вопросом о том, разрушают ли он и его коллеги интернет.

Очередная безумная теория: Интернет умер пять лет назад

На прошлой неделе Альтман отреагировал на пост, показывающий множество комментариев в сабреддите r/ClaudeCode – сообществе Reddit, построенном вокруг инструмента Claude Code от Anthropic, где хвалили Codex от OpenAI, ИИ-агента для программирования.

У меня был странный опыт чтения этого – я предполагаю, что это всё фейки или боты, хотя в этом случае я знаю, что рост Codex действительно сильный, а тренд здесь реален.

Хотя Альтман предположил, что часть этого может объясняться тем, что люди перенимают особенности и выбор слов чат-ботов, он всё же признал, что общий эффект таков, что ИИ-твиттер/ИИ-реддит ощущается очень фальшивым, чего не было год или два назад. Это следует за его предыдущим наблюдением в начале месяца, когда он заявил:

Я никогда не воспринимал теорию мертвого интернета всерьёз, но кажется, что сейчас действительно много твиттер-аккаунтов, управляемых большими языковыми моделями.

Теория мертвого интернета предполагает, что большая часть онлайн-контента создаётся, с ним взаимодействуют и подают его нам боты. Если верить конспирологическим истокам теории, которая впервые появилась около 2021 года, это попытка контролировать человеческое поведение. Менее радикальная версия связывает феномен с денежными стимулами интернета, где вовлечённость, независимо от качества – может генерировать доходы.

Интересно, что теория появилась до ChatGPT, что говорит о серьёзности проблемы ботов ещё до широкого распространения больших языковых моделей. Уже тогда существовали признаки того, что огромная часть интернет-трафика приходилась на ботов (некоторые оценки превышали 50%, что значительно выше измерений CloudFlare), и возникали опасения относительно "инверсии" – точки, когда системы обнаружения мошенничества принимают поведение ботов за человеческое и наоборот.

Сейчас, когда такие компании, как OpenAI, делают публично доступными агентов, способных перемещаться по сети как люди и выполнять задачи за них, уровень подлинности онлайн-контента может упасть ещё ниже. Альтман, похоже, это видит, но не предлагает решений по этому поводу. Ситуация напоминает случай в начале года, когда Альтман предупредил, что ИИ-инструменты "полностью победили" большинство сервисов аутентификации, на которые люди полагаются для подтверждения личности, и заявил, что в результате мошенничество может сильно вырасти.

Как и в случае с наблюдениями о фейковом поведении в соцсетях, Альтман не проявлял интереса к замедлению деятельности своей компании для предотвращения разрушения цифровых систем, на которые мы полагаемся, несмотря на способность распознавать подводные камни.

Крупные американские компании сокращают использование ИИ впервые за два года

OpenAI потратит колоссальные $115 миллиардов к 2029 году на развитие ИИ

Возможно, причина в том, что у Альтмана есть другая компания, которую он хотел бы предложить как решение всех проблем – его странная система верификации личности/криптосхема World, требующая от людей сканирования глазных яблок для подтверждения того, что они люди. Более того, он уже обсуждал потенциальную сделку с Reddit для верификации пользователей.