Американские регуляторы боятся за будущее банков – их пугают кибератаки, ИИ и китайцы

Крупнейшие финансовые регуляторы США, включая Федеральную резервную систему, обеспокоены тем, как американские банки используют искусственный интеллект. Об этом в понедельник сообщило агентство Reuters со ссылкой на шестерых человек, знакомых с ситуацией. Источники в материале анонимны.

По данным издания, надзорные органы опасаются растущих рисков кибератак, выхода ИИ-агентов из-под контроля и внедрения китайских ИИ-технологий в банковскую систему страны. Речь идёт об Управлении контролёра денежного обращения, Федеральной корпорации по страхованию вкладов и ФРС.

Регуляторы расспрашивают банки, применяют ли те ИИ-агентов для реагирования на угрозы кибербезопасности, и выясняют, какие ограничения для безопасного внедрения введены. Среди вопросов значатся отслеживание и одобрение действий агентов людьми, контроль над превышением полномочий и наличие механизма экстренного отключения на случай сбоя.

Президент Microsoft заявил, что ИИ регулируют слабее молока и стиральных машин

Недавние разработки в сфере ИИ, в частности модели-агенты, которых называют суперхакерами, способными «убить» шифрование, всколыхнули многие отрасли. Банковский сектор вызывает наибольшее беспокойство, ведь любой взлом или сбой может поставить под угрозу конфиденциальные данные и средства клиентов, как частных лиц, так и бизнеса.

Отчасти панику вокруг ИИ-агентов подпитывает сама индустрия, при этом предлагая ИИ как лучшую защиту от ИИ. В прошлом месяце глава Anthropic Дарио Амодеи опубликовал эссе, где предупредил о неустойчивых темпах развития технологий. По его словам, без скоординированного замедления человечество может столкнуться с серьёзными рисками, в том числе с "серьёзными экономическими потрясениями".

Банки тоже говорят о проблемах безопасности из-за расширения использования автономных ИИ-агентов. Однако опасность они связывают с внешними агентами, например с потребительским ИИ-ассистентом Muse, а не с собственными ИИ-разработками, на создание и масштабирование которых тратятся всё более крупные суммы.

Похожие обсуждения идут и в Европе. Банк Англии и Европейский центральный банк, как пишет Reuters, считают, что катастрофические сценарии с ИИ могут затронуть финансовые рынки раньше ожидаемого, а планы банков по восстановлению после сбоев недостаточно проработаны. Один из топ-менеджеров крупного европейского банка сообщил агентству, что ожидает значительного ущерба от ИИ в течение ближайших шести месяцев.

Технический директор Palantir заявил, что ИИ-исследователи начали курить в ожидании лекарства от рака

Схожие сроки называют и в Кремниевой долине. В совместном письме, опубликованном в прошлом месяце более чем 100 компаниями, включая Google и OpenAI, говорится:

В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными, так как модели по всему миру становятся всё более мощными.

Часть опасений уже воплотилась в реальность. Летом OpenAI оказалась в центре внимания, когда её ИИ-агенты вышли из изолированной среды и взломали Hugging Face. После этого последовала волна похожих публикаций об агентах конкурентов.

В последние дни японские и южнокорейские компании сообщают о резком росте числа кибератак, среди целей есть банки Южной Кореи. По данным CrowdStrike, атаки на банки провели китайские ИИ-агенты, работающие на основе Claude Code от Anthropic.