Anthropic заявляет, что модель Mythos уже нашла более 10 000 уязвимостей за первый месяц работы

Anthropic опубликовала первый отчёт по инициативе Project Glasswing – программе кибербезопасности, запущенной в апреле этого года.

Идея проста и в то же время амбициозна: использовать ИИ для предотвращения кибератак, совершаемых с помощью ИИ. Движущей силой инициативы стала Claude Mythos Preview – пока не выпущенная в открытый доступ модель компании.

По данным Anthropic, всего за месяц после запуска Glasswing модель помогла партнёрам обнаружить более десяти тысяч уязвимостей в совокупности. Большинство партнёров при этом "нашли сотни критических или высокоприоритетных уязвимостей в своём программном обеспечении" с помощью Mythos Preview.

Скорость обнаружения багов у партнёров выросла более чем в десять раз. Cloudflare нашла 2 000 багов, 400 из которых имеют высокий или критический уровень серьёзности. Mozilla ранее сообщала, что обнаружила и исправила 271 уязвимость в Firefox – в десять раз больше, чем удалось найти в более старой версии браузера с использованием другой модели Claude.

Недавнее заявление Microsoft о том, что объём патчей "продолжит расти в обозримом будущем", по всей видимости, напрямую связано с багами, найденными через Mythos Preview. Anthropic также самостоятельно просканировала 1 000 проектов с открытым исходным кодом за последние несколько месяцев и выявила 6 202 уязвимости высокого и критического уровня из 23 019 обнаруженных.

Хотя в официальный отчёт это не вошло, исследовательская фирма в области безопасности недавно заявила, что смогла найти способ взлома macOS – операционной системы, известной строгими мерами защиты – при помощи возможностей Mythos по поиску багов.

В отчёте Anthropic пояснила, почему Mythos Preview до сих пор недоступна широкой публике. По словам компании, ни одна организация, включая саму Anthropic, пока не разработала достаточно надёжных защитных механизмов, способных предотвратить злоупотребление моделями такого класса. В будущем компания намерена выпустить "модели класса Mythos", когда соответствующие меры безопасности будут готовы.

Агентный ИИ потребляет в 1000 раз больше токенов, чем обычный – Microsoft, Amazon и другие уже сокращают использование

На данный момент Anthropic планирует расширять доступность Project Glasswing через сотрудничество с правительством США и другими государствами. Это может свидетельствовать о восстановлении отношений компании с американскими властями. Среди нынешних партнёров инициативы – Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, Nvidia и Palo Alto Networks.

По данным The Wall Street Journal, Anthropic близка к тому, чтобы впервые стать прибыльной с момента основания в 2021 году.

Прогнозируемая выручка за квартал, завершающийся в июне, составляет 10,9 миллиарда долларов при операционной прибыли в 559 миллионов. Однако компания не ожидает сохранения прибыльности в последующих кварталах, так как планирует направить значительные средства на вычислительные ресурсы и другие расходы.