Инженер Claude Code назвал 3 ловушки мышления при работе с ИИ-агентами и предупредил о "когнитивной капитуляции"

Адди Османи, инженер команды Claude Code в Anthropic, опубликовал эссе о том, как ИИ-агенты влияют на мышление разработчиков. Anthropic делает ставку на агентное программирование и уже сократила объем кода, который пишут люди. Сам Османи помогает создавать ИИ-продукт для программирования.

По словам инженера, работа через агентов постепенно лишает его повседневных поводов мыслить критически:

Сейчас, когда так много моей работы проходит через агентов, в моих буднях все меньше того, что заставляло бы меня мыслить критически.

Похожие опасения инженеры высказывают уже около года. Многие признаются, что ИИ превратил их скорее в операторов, чем в создателей. Один бывший сотрудник OpenAI и вовсе назвал программирование с ИИ утомительным и скучным.

При этом Османи не призывает отказываться от ИИ. Его главный тезис в другом – критическое мышление нужно сознательно встраивать в свой день, потому что по умолчанию никто не будет делать это за человека.

Epic Games признала, что Unreal Engine 6 и Fortnite создаются с помощью вайбкодинга

Японский дизайнер выпустил 50-ю браузерную игру, созданную с помощью ИИ – рыболовный симулятор с 80 видами рыб

Инженер выделил три типа ослабленного мышления при работе с ИИ. Первый – когнитивная разгрузка, когда задачи делегируются ИИ, но ответственность за результат остается на человеке. Сам Османи занимается этим весь день и советует то же другим.

Второй тип связан с тем, что результат работы ИИ становится для человека новой отправной точкой без собственной оценки. Третий получил название когнитивной капитуляции. Термин придумали двое исследователей из Уортонской школы бизнеса, он описывает полное доверие к ответам ИИ.

Такое доверие Османи назвал проявлением лени. По его словам, частая капитуляция приводит к накоплению когнитивного долга.

Пока неясно, делает ли ИИ людей глупее или просто меняет то, как они мыслят. Исследователи, с которыми говорил Business Insider, видят некоторые тревожные признаки, но предостерегают от поспешных выводов.

Сам Османи регулярно наблюдает отказ от критического мышления, но не считает его худшим исходом. Все зависит от важности задачи.

Там, где ставки низкие, смело делегируйте полностью. Когда вы не можете объяснить ответ на вопрос, даже с помощью своего агента, вы уступили ответственность.

Инженер поделился списком вопросов, которые задает себе сам. Среди них – сформулировал ли он гипотезу, прежде чем спросить, и какие навыки он больше не практикует.

Задумываться над каждой мелочью Османи не призывает. Отвечая на вопрос о разнице между помощью ИИ и перекладыванием работы, он отметил, что допустимо и то и другое, если человек понимает, что именно делает.

Кроме того, Османи советует выстраивать циклы проверки, чтобы убедиться в работоспособности написанного ИИ кода. Он называет это привычкой к верификации и рекомендует спрашивать у агента, что тот может проверить, а что нет.

Навыки со временем деградируют, и программирование тут не исключение. Многие уже не ориентируются по бумажной карте после появления навигаторов и не помнят номера друзей – их можно просто сохранить в контактах.