Ведущие экономисты сравнили бум ИИ с промышленной революцией – и не в лучшем смысле

В Кремниевой долине давно стало привычкой сравнивать развитие искусственного интеллекта с промышленной революцией. Убежденные сторонники ИИ утверждают, что появление интеллектуальных машин не только сделает человечество продуктивнее, чем когда-либо, но и позволит решить самые сложные проблемы существования.

Однако такая радужная картина будущего обычно умалчивает о том, что у метафоры с промышленной революцией есть темная сторона. Ведь локомотив и фабрика принесли не только новую эпоху материального благосостояния, но и породили проблемы, которые преследуют нас до сих пор. Среди них растущее неравенство в доходах, механизированная война и атмосфера, задыхающаяся от углерода.

В открытом письме, опубликованном в понедельник, группа известных экономистов и экспертов по ИИ предупредила, что общество должно усвоить этот исторический урок или столкнуться с последствиями.

Радикальные перемены

Письмо с названием "Мы должны действовать сейчас" уже собрало сотни подписей. Среди подписавших бывший глава Google Эрик Шмидт, сооснователь Anthropic Джек Кларк, сооснователь OpenAI Войцех Заремба и Йошуа Бенджио – лауреат премии Тьюринга и один из так называемых "крестных отцов ИИ".

Текст задуман как краткое и прямое предупреждение, ведь он умещается менее чем в сотню слов. Авторы отмечают, что экономические и социальные последствия ИИ действительно могут стать крупным историческим сдвигом, но опасность кроется в скорости, с которой все это развернется, не имеющей аналогов в истории.

ИИ может стать радикально мощнее в течение следующих 10 лет. Это способно вызвать беспрецедентную трансформацию нашей экономики, большую, чем промышленная революция, но развернувшуюся за несравнимо более короткий промежуток времени.

Иными словами, если у человечества были десятилетия, чтобы приспособиться к самым дестабилизирующим побочным эффектам индустриализации, то, по словам подписавших письмо, для экономических последствий революции ИИ такого запаса времени не будет.

Письмо появилось следом за целой чередой громких предупреждений последних месяцев. На прошлой неделе Генеральный секретарь ООН призвал международное сообщество запретить то, что он назвал "роботами-убийцами", то есть оружие на базе ИИ.

В июне международная группа агентств по кибербезопасности, включая АНБ, выпустила заявление о том, что ИИ "фундаментально преобразит" кибербезопасность не в ближайшие годы, а в ближайшие месяцы.

Из Ватикана Папа Лев XIV в энциклике под названием Magnifa Humanitas, опубликованной в мае, предупредил, что ИИ, если позволить ему развиваться бесконтрольно, может открыть новую эпоху социального отчуждения, политического раскола и экологической эксплуатации.

Язык открытого письма, рисующий образ человечества, задремавшего за рулем на пути к обрыву, также становится все более распространенным в Кремниевой долине и кругах, занятых технологической политикой.

Одним из главных обещаний исследований ИИ давно стала концепция алгоритмов, способных обучать новые и более совершенные версии самих себя, процесс, технически известный как рекурсивное самоулучшение. Опасность таких самосовершенствующихся машин в том, что они могут быстро выйти из-под контроля человека.

Такие системы способны стать еще более непрозрачными в своих решениях, чем сейчас, и переформатировать экономику, политику и информационную среду способами, которые мы не в силах ни понять, ни обратить вспять.

Даже недавние заявления Anthropic и OpenAI включают призывы создать глобальный комитет для надзора за разработкой продвинутых систем ИИ и принудительного ее замедления при необходимости.

OpenAI выпустила ChatGPT Work – универсальный ИИ-агент для рабочих задач

Сбой в Anthropic выставил разработчику счёт на 16,6 миллиона долларов за Claude API

Недавние прорывы в способности алгоритмов находить уязвимости даже в самом защищенном программном обеспечении по кибербезопасности вызвали волны беспокойства в государственном и частном секторах. Настолько, что даже администрация Трампа, стоящая на стороне ИИ, судя по всему, начала внедрять систему сдержек и противовесов вокруг того, как разворачиваются новые мощные модели ИИ.

OpenAI, например, публично запустила свою новую модель GPT-5.6 после получения "зеленого света" от федерального правительства. При этом власти отрицают, что такое официальное одобрение было дано или вообще требовалось.