Anthropic заблокировала доступ к моделям Fable 5 и Mythos 5 по требованию властей США

Anthropic отключила всем своим клиентам доступ к ИИ-моделям Fable 5 и Mythos 5, выполняя распоряжение, полученное от правительства США в пятницу, 13 июня. Все остальные модели разработчика, включая чат-бот Claude, продолжают работать в штатном режиме.

В официальном заявлении Anthropic пояснила, что американские власти потребовали приостановить доступ всех иностранных граждан к новым ИИ-моделям, сославшись на соображения национальной безопасности.

Ограничение касается пользователей как внутри США, так и за их пределами, и распространяется даже на сотрудников самой Anthropic, не имеющих американского гражданства.

Правительство не раскрыло конкретные причины, однако в Anthropic полагают, что речь идёт о методе джейлбрейка Fable 5.

Модель Fable была представлена 9 июня и должна была принести многие возможности Mythos широкой публике. Mythos, в свою очередь, остаётся передовой моделью разработчика в области кибербезопасности и доступна только партнёрам по программе Project Glasswing.

Возможности Fable, по словам Anthropic, "превосходят" любую ранее выпущенную модель.

В публикации Anthropic перечислила меры, принятые для безопасности Fable. Были внедрены жёсткие защитные механизмы, чтобы "снизить вероятность злоупотреблений Fable для задач, связанных с кибербезопасностью". Разработчик добавил, что "защитные меры настолько строгие, что многие пользователи жаловались на их чрезмерную широту".

Компания также отметила, что ни один поставщик не способен обеспечить идеальную устойчивость к попыткам джейлбрейка, и каждая модель уязвима для специально подобранных под неё атак.

Мы стремились сделать джейлбрейки либо узконаправленными (в случае неуниверсальных), либо очень дорогими в реализации (в случае универсальных), и сочетать это с тщательным мониторингом для быстрого обнаружения и пресечения успешных атак.

Согласно последним данным, правительство устно сообщило компании об одном потенциальном узконаправленном джейлбрейке, информацией о котором с чиновниками поделилась неназванная сторона.

ИИ-модель Mythos может расколоть мир на избранных и всех остальных

Anthropic представила передовую ИИ-модель Claude Fable 5 – она в два раза дороже прошлой версии

Anthropic пообещала раскрыть подробности в течение ближайших 24 часов, но при этом заявила о несогласии с тем, что потенциальный джейлбрейк должен становиться поводом для отзыва коммерческой модели.

Как мы публично заявляли, мы считаем, что у правительства должна быть возможность блокировать небезопасные внедрения в рамках законодательного процесса, который прозрачен, справедлив, ясен и основан на технических фактах. Это действие не соответствует данным принципам.