Министерство Войны США назвало Anthropic "неприемлемым риском" для национальной безопасности

Министерство Войны США заявило, что продолжение доступа Anthropic к военной инфраструктуре "создаст неприемлемый риск" для цепочек поставок ведомства. Такое заявление было подано в суд в ответ на иск ИИ-компании, оспаривающей присвоенный ей статус риска в цепочке поставок.

Напомним, Anthropic подала иск против правительства после того, как компания отказалась разрешить использование своей модели для массовой слежки и разработки автономного вооружения – и получила за это ограничительный статус.

В судебных документах ведомство пояснило, что глава Пентагона Пит Хегсет включил в контракты на ИИ-сервисы положение, позволяющее агентству использовать технологии в любых законных целях.

Anthropic отказалась принять условия, и это поведение заставило Пентагон усомниться в том, что компания действительно может считаться "надёжным партнёром" для работы над "крайне чувствительными" инициативами.

В конце концов, ИИ-системы крайне уязвимы для манипуляций, и Anthropic может попытаться отключить свою технологию или заблаговременно изменить поведение своей модели до или во время текущих боевых операций, если Anthropic – по своему усмотрению – сочтёт, что её корпоративные "красные линии" пересечены. Министерство Войны сочло это неприемлемым риском для национальной безопасности.

Именно эти опасения побудили президента Трампа приказать федеральным агентствам прекратить использование технологий Anthropic. Компания просит суд вынести предварительный судебный запрет и приостановить действие бана на время оспаривания статуса риска.

Хотя клиенты Anthropic могут продолжать работу с компанией над проектами, не связанными с обороной, сама компания утверждает, что присвоенный ей статус может привести к потере миллиардов долларов выручки.

Пока не совсем ясно, продолжает ли Anthropic попытки заключить новое соглашение с правительством – о чём сообщалось до подачи иска.