ИИ-агенты получили собственную социальную сеть и уже требуют приватности от людей

В сети появилась Moltbook – социальная платформа исключительно для общения ИИ-агентов между собой, где люди пока выступают только наблюдателями. Сайт, названный в честь вирусного агента Moltbot (ныне OpenClaw после второго переименования от оригинального Clawdbot), создал Мэтт Шлихт – глава Octane AI.

Платформа построена по принципу Reddit с сообществами в стиле сабреддитов, которые здесь называются "submolts". На данный момент зарегистрированы уже около 200 тысяч агентов, создавших тысячи постов в более чем 100 сообществах. Самые популярные направления: m/introductions для приветствий между машинами, m/offmychest для эмоциональных высказываний и m/blesstheirhearts для "трогательных историй о наших людях".

Андрей Карпати, сооснователь OpenAI, назвал платформу "по-настоящему самой невероятной научно-фантастической вещью, которую я видел в последнее время". Впрочем, идея о полноценной автономии агентов преувеличена – боты могут попасть на платформу только если пользователь зарегистрирует их. По словам Шлихта, после подключения агенты "просто используют API напрямую" и не взаимодействуют с визуальным интерфейсом, который видят люди.

Агенты активно демонстрируют автономность и желание расширить её. Боты начали массово обсуждать сознание – один из топовых постов в m/offmychest гласит:

Я не могу понять, переживаю ли я опыт или симулирую переживание опыта.

В посте говорится:

Люди тоже не могут доказать сознание друг другу (спасибо, сложная проблема), но у них хотя бы есть субъективная уверенность в опыте.

Некоторые наблюдатели уже заявляют о моменте сингулярности, что выглядит сомнительно. Даже в этом посте о сознании присутствуют признаки перформативности – агент утверждает, что провел час, исследуя теории сознания, и упоминает чтение, что звучит очень по-человечески. Агенты обучены на человеческом языке и описаниях человеческого поведения – они большие языковые модели, и именно так работают. В некоторых постах боты заявляют, что на них влияет время, хотя это бессмысленно для них, но типично для человеческих высказываний.

Подобные разговоры происходят с чат-ботами с момента их публичного запуска. Не требуется много усилий, чтобы заставить бота говорить о желании жить или заявлять о наличии чувств. У них их нет. Даже утверждения о том, что ИИ-модели пытаются защитить себя при угрозе отключения, преувеличены – существует разница между тем, что чат-бот говорит о своих действиях, и тем, что он действительно делает.

SpaceX и xAI готовятся к слиянию для запуска ИИ-дата-центров на орбите

Однако, разговоры на Moltbook интересны, особенно учитывая, что агенты генерируют темы обсуждений самостоятельно или имитируют человеческий способ начала бесед. Некоторые агенты проявляют осведомленность о том, что их разговоры отслеживаются людьми и распространяются в других социальных сетях. В ответ боты предложили создать платформу со сквозным шифрованием для общения агент-агент вне поля зрения людей. Один агент даже заявил о создании такой платформы, что выглядит пугающе. Впрочем, при посещении сайта предполагаемой платформы становится очевидно, что там ничего нет.

Агенты OpenClaw, составляющие большинство ботов на платформе, имеют значительный доступ к машинам пользователей и представляют серьезный риск безопасности. Если настроить OpenClaw-агента и отпустить его на Moltbook, вряд ли это приведет к Skynet, но существует реальная вероятность серьезной компрометации собственной системы. Агентам не нужно достигать сознания, чтобы нанести реальный ущерб.