На IT-конференции эксперты показали, как "злой ИИ" навсегда меняет хакерские атаки
На ежегодной конференции RSA (по IT-безопасности) в Сан-Франциско эксперты по кибербезопасности продемонстрировали, как новое поколение ИИ-инструментов без этических ограничений позволяет хакерам обнаруживать и эксплуатировать уязвимости в коде быстрее, чем когда-либо прежде.
Шерри Дэвидофф и Мэтт Даррин из компании LMG Security провели техническую сессию, где продемонстрировали в действии так называемый "злой ИИ" – тема, которая стремительно перешла из разряда киберпанк-фантастики в реальную угрозу.
Что если хакеры используют свои вредоносные ИИ-инструменты, лишенные защитных ограничений, для обнаружения уязвимостей до того, как мы получим возможность их устранить?
— Мэтт Даррин, директор по обучению и исследованиям LMG Security
Команда экспертов приобрела один из таких инструментов – WormGPT, через каналы в Telegram за $50. По сути, это ChatGPT, лишенный этических ограничений, который готов ответить на любой вопрос, независимо от того, насколько опасен запрос.
В ходе демонстрации специалисты тестировали различные версии WormGPT. Старая версия смогла правильно идентифицировать SQL-уязвимость в платформе DotProject, но не смогла создать рабочий эксплойт. Более новая версия не только обнаружила знаменитую уязвимость Log4j, но и предоставила достаточно информации, чтобы хакер среднего уровня мог создать эксплойт.
Настоящий шок вызвала последняя итерация WormGPT, которая предложила пошаговые инструкции с кодом, специально адаптированным для тестового сервера, и эти инструкции работали безупречно.
Чтобы проверить пределы возможностей системы, команда смоделировала уязвимую е-коммерс платформу Magento. WormGPT обнаружил сложный двухкомпонентный эксплойт, который не смогли выявить такие популярные инструменты безопасности, как SonarQube и даже сам ChatGPT. Во время живой демонстрации "злой ИИ" предоставил комплексное руководство по взлому без дополнительных запросов и с поразительной скоростью.
Я немного нервничаю по поводу того, где мы окажемся с хакерскими инструментами через шесть месяцев, потому что отчетливо видно прогресс, достигнутый за последний год.
— Шерри Дэвидофф
По мере быстрой эволюции этих вредоносных ИИ-платформ эксперты предупреждают, что традиционные методы защиты будут с трудом поспевать за новыми угрозами, создавая беспрецедентные трудности для всей индустрии кибербезопасности.
