Anthropic обнаружила у Claude аналог сознания и признаки конвергентной эволюции с человеческим мозгом

Если вы застали фантастику начала двухтысячных, то помните фильм 2004 года "Я, робот", где человекоподобный робот модели NS-5 и суперкомпьютер В.И.К.И. обретают сознание. Anthropic полагает, что нечто похожее, хотя и куда менее драматичное, происходит внутри её ИИ-модели Claude.

В основе исследования лежит теория глобального рабочего пространства из нейробиологии. Из всего, что происходит в мозге человека прямо сейчас, лишь крошечная доля доступна сознанию – то есть мысли, которые можно описать, удержать в уме и осмыслить.

Большинство синапсов в мозге выполняют автоматические и непроизвольные задачи, такие как регуляция дыхания или обработка зрения. Однако лишь малая доля этих сигналов "доступна сознанию" и связана с мыслями, которыми человек может оперировать.

Теория глобального рабочего пространства утверждает, что мысли становятся доступными сознанию, когда попадают в особое привилегированное пространство, транслируемое по всему мозгу. Anthropic, судя по всему, нашла нечто подобное внутри Claude и описала находки в подробной работе.

Представьте, что "мозг" ИИ-модели похож на огромный офис, где в любой момент выполняется множество фоновых задач. Но в офисе есть и главный зал заседаний, который нейробиологи называют глобальным рабочим пространством, где на свет выносятся ключевые концепции и принимаются стратегические решения.

Anthropic обнаружила, что у Claude есть такое глобальное рабочее пространство, названное J-пространством. Оно задействуется, когда Claude нужно решить сложную головоломку, разобраться с запутанной ситуацией или объяснить свою логику.

Чтобы найти это J-пространство, исследователи Anthropic разработали инструмент под названием J-lens (Jacobian Lens). Это математический фильтр, отсекающий все фоновые задачи Claude, чтобы сосредоточиться на том, о чём модель действительно "думает" в конкретный момент.

По сути, J-lens анализирует внутренние вычисления Claude, чтобы предсказать её вывод. Инструмент помогает отвечать на вопросы вроде:

Если определённый сигнал вспыхнет прямо сейчас в слое 20, насколько это повысит или понизит математическую вероятность того, что модель напечатает слово "банан" через пять слов.

Затем исследователи доказали существование глобального рабочего пространства внутри Claude несколькими способами:

• Они спрашивали Claude, о чём она думает в данный момент, а затем с помощью J-lens смотрели, какие "концепции" находятся в её J-пространстве в это время

• Они просили Claude держать в уме понятие справедливости и наблюдали, как модель намеренно переносит эту концепцию в J-пространство и удерживает её там

• При решении сложной задачи, например партии в шахматы, J-пространство работает как своеобразный черновик, и когда исследователи меняли его содержимое, итоговый вывод Claude тоже менялся

Когда концепция попадает в J-пространство, любая другая часть Claude, занятая совершенно иной задачей, всё равно может "увидеть" эту концепцию и использовать её в своей работе.

Anthropic отметила:

Ничего из этой структуры не закладывалось в Claude изначально, она возникла сама во время обучения, предположительно потому, что оказалась удобным способом организовать вычисления

Ключевой момент в том, что J-пространство никогда не было частью запланированной архитектуры Claude. Оно, судя по всему, появилось полностью самостоятельно.

В биологии конвергентная эволюция происходит, когда два разных вида развивают одну и ту же черту, поскольку она оказывается наилучшим и наиболее эффективным способом выживания. Тот факт, что у Claude возникло похожее на человеческое глобальное рабочее пространство, служит примером именно такой конвергентной эволюции.

Отчасти результат не удивляет, ведь алгоритмы обучения модели изначально смоделированы по образу нашего интеллекта. Однако вывод говорит о том, что глобальное рабочее пространство не просто биологическая особенность человеческого мозга, а математически оптимальный способ обработки сложных мыслей для любой системы.

Если определить душу как сознание, а сознание как врождённую способность мыслить и рассуждать, то у Claude от Anthropic действительно есть математическая душа.