Сгенерированный ИИ отчёт разведки едва не спровоцировал удар США по китайскому судну

Ложный разведывательный отчёт, частично созданный нейросетью, чуть не привёл к атаке американских военных на китайское судно на Ближнем Востоке. Об этом сообщает CNN со ссылкой на собственные источники. Один из собеседников издания заявил, что инцидент "почти начал войну".

Документ подготовил аналитик командования специальных операций, который обратился к ИИ-чатботу с запросом о грузовом манифесте китайского корабля.

По данным CNN, алгоритм совместил разведданные из открытых источников с секретной радиоэлектронной разведкой и пришёл к выводу, что на борту находятся компоненты ядерной оружейной программы.

На основании этого вывода военные были готовы задержать судно. Операцию остановили только после того, как чиновники выяснили, что ключевая часть отчёта сгенерирована ИИ, а не подтверждена аналитиками.

Журналистам не удалось установить, что перевозил корабль. Неизвестно и то, каким именно инструментом воспользовался аналитик, коммерческим чатботом или моделью, адаптированной под нужды правительства США. Вариантов может быть немало, учитывая масштабы внедрения ИИ в Пентагоне.

В январе министр обороны Пит Хегсет опубликовал меморандум, предписывающий ведомству перейти к принципу "ИИ прежде всего" и тестировать модели ведущих американских компаний.

С Anthropic курс сработал не так, как планировалось – разработчик отказался предоставить свои модели для создания автономных вооружений, после чего правительство ненадолго внесло компанию в чёрный список, а суд признал такой запрет незаконным и необоснованным.

США впервые официально подтвердили наличие боевого оружия на орбите Земли

Anthropic ищет специалиста по вооружению через два дня после призыва замедлить ИИ

Остальные партнёрства складывались успешнее. В феврале SpaceXAI, по данным СМИ, договорилась о применении Grok в закрытых военных системах, а в мае NVIDIA, Microsoft и Amazon заключили соглашение о поставке своих ИИ-технологий Министерству обороны.

Подобные государственные контракты приносят компаниям крупные суммы, что и объясняет борьбу за них. При этом распространение ИИ в военной среде несёт риски, которых лишено обычное корпоративное программное обеспечение, и история с китайским судном показывает цену ошибки алгоритма.