Пентагон подписал соглашение о "развертывании ИИ-агентов для военного использования"

Пентагон заключил сделку с компанией Scale AI в рамках инициативы, названной Thunderforge, для использования ИИ-агентов в военном планировании и операциях.

Это сотрудничество, описанное как "флагманская программа", представляет собой значимое развитие, учитывая, насколько спорной оказалась тема использования ИИ в военных действиях, и как много проблем этой технологии еще предстоит решить.

Впрочем, проникновение ИИ в военную сферу нельзя не заметить. Хотя многие техногиганты формально решили запретить использование их технологий ИИ для разработки оружия и наблюдения, это вовсе не мешает им самостоятельно сотрудничать с военными, предоставляя необходимые инструменты.

В прошлом месяце высокопоставленный чиновник Пентагона сообщил Defense One, что вооруженные силы США планируют отойти от финансирования исследований в области автономных роботов-убийц в пользу инвестиций в реальное вооружение с поддержкой ИИ.

В конце прошлого года OpenAI объявила о партнерстве с оборонной технологической компанией Anduril Палмера Лаки (создателя Oculus) для "улучшения национальных систем противодействия беспилотным летательным аппаратам (CUAS) и их способности обнаруживать, оценивать и реагировать на потенциально смертельные воздушные угрозы в реальном времени".

Как сообщает CNBC, в рамках многомиллионной сделки, Scale AI ищет способы ускорить обработку данных военными.

Thunderforge знаменует решительный переход к использованию ИИ и данных в военных действиях, обеспечивая силам США возможность предвидеть угрозы и реагировать на них с высокой скоростью и точностью.

Система позволит "планировщикам быстрее синтезировать огромные объемы информации, генерировать множество вариантов действий и проводить военные игры с использованием ИИ для предвидения и реагирования на развивающиеся угрозы".

По словам руководителя программы Брайса Гудмана, существует "фундаментальное несоответствие между скоростью современной войны и нашей способностью реагировать".

Наши решения на базе ИИ преобразуют современный военный операционный процесс и модернизируют американскую оборону.

— основатель и генеральный директор Scale AI Александр Ван

Scale AI уже подписала контракт с Управлением по цифровым технологиям и искусственному интеллекту Министерства обороны в прошлом году на тестирование и оценку больших языковых моделей.

Однако наделение ИИ возможностью действовать самостоятельно — это значительный шаг вперед по сравнению с языковой моделью, который может иметь гораздо более далеко идущие последствия, особенно когда речь идет о военном планировании и операциях.

Позволит ли технология Scale AI военным принимать более быстрые решения — и при этом избегать галлюцинаций, которые могут привести операции к хаосу — еще предстоит выяснить.

Стоит учесть, что когда исследователи из Стэнфорда проверили, как языковая модель GPT-4 от OpenAI реагирует, когда ей говорят, что она представляет страну в симуляции военной игры, она оказалась особенно агрессивной и непредсказуемой, предлагая использовать ядерное оружие.