Google впервые обнаружил кибератаку с эксплойтом, созданным с помощью ИИ

Google Threat Intelligence Group (GTIG) зафиксировала прецедент, которого раньше не было: злоумышленник применил эксплойт уязвимости нулевого дня, разработанный с использованием искусственного интеллекта. Уязвимости нулевого дня особенно опасны тем, что жертва о них не знает и не имеет времени на подготовку защиты.

Согласно отчету GTIG, злоумышленник планировал применить эксплойт в масштабной атаке, однако своевременное обнаружение угрозы, вероятно, предотвратило ее реализацию. Google отметила, что собственные модели Gemini в создании эксплойта задействованы не были, но у компании есть "высокая степень уверенности" в том, что какая-то ИИ-модель помогла найти уязвимость и превратить ее в рабочий инструмент атаки.

Исследователи получили 57 тысяч долларов от Google за две уязвимости в Chrome, найденные с помощью ИИ-подписки за 20 долларов

Google: почти каждая крупная студия уже использует ИИ в разработке, но предпочитают молчать об этом

В отчете не раскрывается ни название атакованной компании, ни личности злоумышленников. Тем не менее Google уведомила пострадавшую сторону, которая успела закрыть брешь. В качестве предполагаемых источников угрозы косвенно упоминаются группировки, связанные с Китаем и Северной Кореей, — именно они проявляют "значительный интерес" к использованию ИИ для поиска и эксплуатации уязвимостей.

Главный аналитик GTIG Джон Хултквист в интервью The New York Times назвал произошедшее "предвкушением того, что нас ждет" и "верхушкой айсберга", добавив, что этот случай стал первым "реальным доказательством" подобного рода атак. По его словам, угроза будет только нарастать по мере того, как ИИ-инструменты становятся доступнее и мощнее.

Вместе с тем Google делает акцент на двойственной природе ИИ в сфере кибербезопасности: те же технологии, что помогают атаковать, способны и защищать. Сама компания использует ИИ-модели для превентивных мер, и другие игроки индустрии движутся в том же направлении.