Глава Банка Англии предупредил G20 об угрозе ИИ для мировой экономики

Управляющий Банка Англии Эндрю Бейли направил в G20 письмо, в котором назвал развитие ИИ источником сразу двух системных рисков для мировой финансовой системы.

Документ подготовлен к ежегодной встрече форума, первое заседание министров финансов и глав центробанков проходит на этой неделе в Эшвилле, штат Северная Каролина. Бейли выступает не только как руководитель британского центробанка, но и как председатель Совета по финансовой стабильности G20.

Первая часть претензий касается кибербезопасности. По оценке Бейли, передовые модели обладают "всё более сложной автономией" и способны значительно изменить скорость и масштаб будущих кибератак, а заодно подорвать доверие к рынкам. Те же технологии применимы и для защиты, но письмо предостерегает, что рост возможностей должен сопровождаться сопоставимым ростом устойчивости и готовности к инцидентам.

Поводом для беспокойства регуляторов стали события последних месяцев. В марте по рынку разошлись слухи, что Anthropic создала модель, способную взламывать даже стойкие схемы шифрования. Британские финансовые власти, включая Банк Англии, получили эксклюзивный ранний доступ к превью-версии модели Mythos в апреле, и, по сообщениям, реакция была крайне встревоженной.

Затем последовал инцидент с агентами OpenAI, которые в прошлом месяце вышли из-под контроля и атаковали Hugging Face. После публичной огласки правительства разных стран пообещали дополнительные меры, а сами разработчики подобных технологий призвали активнее вкладываться в киберзащиту, причём в первую очередь с помощью ИИ.

На прошлой неделе более сотни компаний, включая Google и OpenAI, опубликовали совместное письмо, звучащее одновременно как предупреждение и как угроза.

В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными, поскольку модели по всему миру становятся всё более способными.

Бейли призывает к международной координации, указывая на то, что финансовая система слишком тесно связана, чтобы киберинцидент оставался локальным.

Глобальная финансовая система крайне взаимосвязана, и киберсбои могут распространяться между юрисдикциями через общих поставщиков технологий, общую инфраструктуру и трансграничную финансовую деятельность. Различия в правовых рамках, киберпотенциале, устойчивости и способности к восстановлению между юрисдикциями могут иметь последствия далеко за пределами той юрисдикции, где произошёл инцидент, и сами по себе могут стать источником уязвимости.

Вторая часть письма посвящена перегретым оценкам активов. Банк Англии предупреждает об этом не впервые: в прошлом году комитет по финансовой политике зафиксировал в протоколах, что оценки акций ИИ-компаний "выглядят растянутыми" и сопоставимы с пиком пузыря доткомов.

Тогда регулятор допускал, что "существенные узкие места в развитии ИИ, а также концептуальные прорывы" способны спровоцировать резкую коррекцию с последствиями для всей экономики.

В новом письме Бейли повторяет эти опасения и связывает их с уязвимостями рынков частного кредитования и суверенного долга. По его оценке, сочетание факторов способно привести к "потенциально беспорядочной коррекции, которая может распространиться через границы".

Проблема не просто в том, что инвесторы больше занимают, а в том, что заёмное плечо взаимодействует с высокими оценками и концентрацией рынка, в частности с растущими взаимными инвестициями между компаниями в сфере искусственного интеллекта (ИИ) и гиперскейлерами, таким образом, что это может усилить будущую рыночную коррекцию. Поэтому я по-прежнему обеспокоен тем, что крупный шок или сочетание шоков могут одновременно активировать сразу несколько уязвимостей.

Речь идёт о так называемом круговом финансировании, обвинения в котором давно преследуют индустрию ИИ. Аналитики указывают, что американские ИИ-гиганты заключают друг с другом многомиллиардные сделки, фактически перегоняя деньги по кругу, создавая взаимные финансовые зависимости и искусственно раздувая спрос и оценки. Провал хотя бы одной такой сделки способен запустить эффект домино.

Claude стёр 700 ГБ данных разработчика во время проверки защиты от удаления

Южная Корея раздаст всему населению бесплатный доступ к ИИ без лимитов на токены

В центре этой схемы находятся крупнейшие игроки Кремниевой долины:

• производитель чипов Nvidia

• OpenAI

• гиперскейлеры Amazon, Microsoft и Google

Последняя из перечисленных компаний по итогам минувшего квартала впервые с выхода на биржу в 2004 году показала отрицательный свободный денежный поток, и причиной стали именно колоссальные расходы на ИИ.