Кто-то собрал работающую нейросеть из коз в Age of Empires II – и это лучший аргумент против очеловечивания ИИ

Исследователь собрал и обучил простую нейросеть прямо внутри Age of Empires II, отведя внутриигровым козам роль переносчиков сигнала, а рельсам роль битов.

Замысел в том, чтобы показать, что если приписывать человеческие черты большим языковым моделям, то с тем же успехом их придётся приписать и стратегии 1999 года.

Автор работы Эдриан де Винтер не берётся доказывать, есть ли у LLM мораль, понимание языка или тревога. Его цель, сам способ рассуждения, ведь предположение о наличии или отсутствии таких свойств в отрыве от носителя ведёт к выводам либо круговым, либо бессодержательным.

Чтобы это показать, де Винтер доказывает, что редактор сценариев Age of Empires II функционально полон и полон по Тьюрингу. Из игровых юнитов он собирает логические вентили NAND, козы переносят сигнал, рельсы (0 – трава, 1 – мост) кодируют биты, и этого набора достаточно, чтобы выстроить любые вычисления и обучить перцептрон.

Отсюда следует ключевой тезис – человекоподобные свойства LLM эмпирически не уникальны. Любой достаточно мощный носитель, будь то детали LEGO, пешеходный трафик агломерации Бостона или студенты MIT, заходящие по адресу 77 Massachusetts Avenue с бумажками-словами, в теории способен выдать ровно те же признаки.

Центральная мысль в том, что большая часть мнимой человечности держится на подаче. Окно чата отвечает мгновенно и связно, а ползущие по карте козы медлительны и явно самодельны, хотя вычисление под капотом может быть одним и тем же.

При этом, измеряя убедительность или внутреннюю согласованность, мы измеряем интерфейс, а не внутреннюю жизнь.

Де Винтер прямо оговаривает, что обходит тему сознания как недостаточно определённую и говорит об антропоморфизме и измерении. Беглый обзор 315 работ за период с середины 2024 по середину 2026 года показал, что большинство стартовало с допущения о человеческих свойствах моделей. В качестве альтернативы предлагается "нулевое предположение", ставить эксперимент исходя из неуникальности LLM, а не из их очеловечивания.

Реакция на работу оказалась неоднозначной. Одни читают её как меткое доведение до абсурда, ведь игра двадцатилетней давности делает то, что маркетинг приписывает современному ИИ.

Другие возражают, что трюк упускает масштаб и эмерджентность, ведь отдельный нейрон никто не очеловечивает, интересное поведение рождается в системе целиком, и тем же приёмом можно было бы высмеять транзисторы под LLM или нейроны человека.

Техногиганты признают, что продавать ИИ массам можно только дёшево

Программист собрал браузерный клон League of Legends с помощью ИИ Claude Opus 4.8 меньше чем за день

Звучит и встречный аргумент посильнее. Если принять, что мышление, это субстрат-независимая обработка информации, то достаточно большая машина из коз несла бы те же свойства, и часть читателей видит в этом удар по самой статье, а не поддержку её тезиса. Ответ автора в том, что именно эту зависимость от исходных допущений он и призывает проговаривать вслух.

В финале де Винтер переносит на ИИ вековое правило из зоопсихологии, канон Ллойда Моргана. Активность машины не стоит трактовать через высшие когнитивные процессы там, где хватает объяснения попроще.