Сверхмощная ИИ-модель от Anthropic помогла обойти систему безопасности Apple

Исследователи в области кибербезопасности обнаружили новый способ обхода защитных механизмов macOS, и в этом им помогла ИИ-модель Mythos от Anthropic.

Компания Calif, занимающаяся исследованиями в сфере безопасности и базирующаяся в Пало-Альто, раскрыла подробности атаки, которую её специалисты разработали ещё в апреле в ходе тестирования ранней версии Mythos. Примечательно, что сама модель Anthropic до сих пор остаётся одной из самых закрытых разработок в индустрии ИИ – предположительно из-за рисков, которые она несёт для программных систем.

Новая модель Anthropic оказалась настолько мощной, что компания отказалась выпускать её в открытый доступ

Новая модель ИИ от Anthropic обнаружила тысячи уязвимостей в операционных системах и браузерах

Метод, который обнаружили исследователи, объединяет две отдельные уязвимости и ряд дополнительных техник для повреждения памяти Mac. Это позволяет получить доступ к защищённым разделам системы, куда у обычных процессов нет права на вход. Речь идёт о так называемом эксплойте повышения привилегий – типе атаки, при которой злоумышленник последовательно расширяет свои права в системе, пока не получает полный контроль над машиной.

Глава Calif Тай Донг прямо отметил, что атака "не могла бы быть осуществлена силами Mythos в одиночку и опиралась на настоящую человеческую экспертизу хакеров из Calif". Это важное уточнение в контексте дискуссий о роли ИИ в кибербезопасности – модель выступила лишь инструментом.

Команда Calif подготовила развёрнутый 55-страничный отчёт и передала его лично представителям Apple в Купертино. Представитель Apple прокомментировал ситуацию для The Wall Street Journal: "Безопасность – наш главный приоритет, и мы очень серьёзно относимся к сообщениям о потенциальных уязвимостях."

Донг настроен оптимистично относительно сроков устранения проблем и считает, что баги "скорее всего будут исправлены достаточно быстро". Публичное раскрытие технических деталей Calif планирует провести только после того, как Apple выпустит соответствующие исправления.