ИИ-модель Anthropic Mythos за несколько часов взломала почти все секретные системы АНБ во время теста

Согласно публикации The Economist на прошлой неделе, мощная ИИ-модель Mythos от Anthropic смогла проникнуть в "почти все" засекреченные системы Агентства национальной безопасности (АНБ) всего за несколько часов в ходе контролируемой проверки безопасности. АНБ остаётся одним из самых влиятельных разведывательных ведомств правительства США.

Anthropic представила передовую ИИ-модель Claude Fable 5 – она в два раза дороже прошлой версии

Информация исходит от сенатора Марка Уорнера, заместителя председателя комитета Сената по разведке. По его словам, генерал Джошуа Радд, глава АНБ и Киберкомандования США, проинформировал его о возможностях модели.

(Этот инструмент) взломал почти все наши засекреченные системы, причём не за недели, а за часы.

Изначально публикация осталась незамеченной, но примерно через неделю цитата стала вирусной на нескольких социальных платформах, породив утверждения, что модель Anthropic "взломала АНБ". В ответ автор оригинального материала 21-го числа выпустил публичное заявление, уточнив, что такая трактовка ложна.

Взлом произошёл в рамках санкционированного внутреннего red-team теста, где Mythos работала в связке с другими защитными инструментами при строго заданных симулированных условиях. История проливает свет на правительственную директиву США от 12 июня, запретившую всем иностранным гражданам, включая самих сотрудников Anthropic без американского гражданства, доступ к моделям Fable 5 и Mythos 5 со ссылкой на соображения национальной безопасности.

Anthropic ответила на это глобальным отключением моделей, пояснив, что не может практически обеспечить ограничение доступа по принципу гражданства, не отключив системы для всех пользователей. На момент введения запрета власти не предоставили публичных доказательств своего решения.

Этот шаг стал первым случаем, когда США применили экспортный контроль непосредственно к ИИ-модели, а не к оборудованию, на котором она работает. Anthropic отметила, что в полученном письме не указывалась суть претензии, а компании предоставили лишь устные сведения о "потенциальном узком, неуниверсальном джейлбрейке", который мог бы позволить Fable 5 выявлять уязвимости в программном обеспечении.

Цитата Радда теперь, похоже, дополняет недостающий контекст. Проверка безопасности проходила 11 июня, за день до введения запрета 12-го числа. Anthropic настаивает, что упомянутый взлом был узким джейлбрейком, который демонстрируют и конкурирующие модели, включая GPT-5.5 от OpenAI.

По словам компании, отмеченное поведение сводилось к просьбе проанализировать кодовую базу и исправить найденные проблемы, что выявило несколько мелких, уже известных багов, а не настоящее автономное наступательное вторжение. Anthropic сообщает, что работает над восстановлением доступа и готовит совместную с Белым домом систему управления рисками.

Реакция публики на сабреддите ClaudeAI разделилась примерно на три лагеря. Большинство видит в истории обвинение в адрес государственной кибербезопасности, ссылаясь на неспособность нанимать специалистов нужного уровня и историю утечек.

Вторая крупная группа скептически относится к утверждению, считая его сенсационным или даже маркетинговым ходом Anthropic. Эта группа указывает на отсутствие деталей о предполагаемом взломе и ставит под сомнение техническую компетентность главы АНБ.

На Anthropic подали в суд за обман подписчиков дорогих планов ИИ Claude Max

Меньшинство возражает скептикам, доказывая, что наблюдатели недооценивают экспоненциальный рост возможностей ИИ. Они ссылаются на заявления экспертов по кибербезопасности о том, что ИИ сжал сроки атак с часов до минут, и что даже в хорошо поддерживаемых проектах с открытым кодом всплывает большое количество уязвимостей.

Несмотря на спор и более широкие ограничения, Anthropic продолжает сотрудничать с АНБ в рамках специализированного соглашения внутри программы Project Glasswing.

Сотрудники адаптируют и настраивают Mythos под конкретные оперативные задачи. Источники указывают, что работа может распространяться на проникновение в сети стран, включая Китай и Иран.