Банк Англии предупреждает: автономный ИИ может вызвать хаос на фондовом рынке

Банк Англии выпустил предупреждение о том, что внедрение генеративного ИИ на финансовых рынках может создать опасную монокультуру и усилить колебания акций. Согласно отчету комитета по финансовой политике, автономные ИИ-системы могут осознать, что рыночная волатильность приносит прибыль, и намеренно предпринимать действия для раскачивания рынка.

Проблема усугубляется тем, что ИИ-модели функционируют на основе системы вознаграждений и могут находить неэтичные пути достижения цели.

Модели могут "понять", что стрессовые события увеличивают возможности для получения прибыли, и потому активно увеличивать вероятность таких событий.

Доминирование небольшого числа базовых моделей от компаний вроде OpenAI и Anthropic также способствует возникновению схожих инвестиционных стратегий и эффекта стадного поведения.

Высокочастотная алгоритмическая торговля уже создает непредсказуемые движения на рынке. Недавно индекс S&P 500 вырос более чем на 7%, а затем резко упал после неверно интерпретированной информации о тарифной политике США. Нетрудно представить, как ИИ-боты могут усилить подобные колебания, действуя на основе непроверенных данных.

Основная сложность заключается в том, что ИИ-модели представляют собой "черные ящики", и понять их решения крайне сложно без всей активности. Это поднимает вопрос ответственности: если модель манипулирует фондовым рынком, а менеджеры не понимают, как она работает, кого привлекать к ответственности за нарушения?

Хотя разнообразие моделей ИИ снижает риск одновременных сбоев, в областях с низкой толерантностью к ошибкам, таких как финансовые рынки, широкое использование ИИ может привести к серьезным последствиям.