Palantir показала ИИ, который позволит воевать при помощи чата

Palantir уже предоставляет свои услуги внутреннего наблюдения для американской службы иммиграции и таможенного контроля, поэтому неудивительно, что компания, основанная миллиардером Питером Тилем, стремится проникнуть и в Пентагон. На этой неделе компания представила видео-демонстрацию своего нового продукта — платформы искусственного интеллекта Palantir (AIP).

Хотя сама система разработана просто для интеграции моделей большого языка (LLM), таких как GPT-4 от OpenAI или BERT от Google, в частные сети, первое, что они сделали — применили ее на современном поле боя.

В видео-демонстрации выше оператор, отвечающий за мониторинг военных действий в Восточной Европе, обнаруживает сбор сил противника у границы и обращается за помощью к цифровому помощнику в стиле ChatGPT для развертывания разведывательных дронов, разработки тактических реакций на агрессию и даже организации помех для связи противника. AIP показывает, как оценить состав и возможности врага, запустив дрон Reaper в разведывательную миссию в ответ на запрос оператора о более качественных снимках и предлагая соответствующие ответы на обнаружение бронированной группировки.

LLM и алгоритмы должны контролироваться в этом строго регулируемом и чувствительном контексте, чтобы обеспечить их использование законным и этичным образом.

Цитата из видео

Для этого работа AIP основана на трех "ключевых столпах". Первый заключается в том, что AIP будет развернута в классифицированной системе, способной анализировать в режиме реального времени как секретные, так и открытые данные, этично и законно. Компания не разъяснила, как это будет работать. Второй столп заключается в том, что пользователи смогут настраивать диапазон и действия каждого LLM и актива в сети. AIP также будет генерировать защищенный электронный журнал всей операции, что "имеет решающее значение для смягчения значительных правовых, регуляторных и этических рисков в чувствительных и засекреченных условиях". Третий столп — это "передовые регуляции" AIP, чтобы предотвратить несанкционированные действия системы.

В сценарии Palantir все еще присутствует человек, на случай необходимости предотвращения действий, хотя из видео похоже, что "оператор" только и соглашается с предложениями AIP. Демонстрация также не разъяснила, какие меры предпринимаются для предотвращения "галлюцинаций" важных фактов и деталей со стороны LLM, на которых система базируется.

В худшем случае они способны привести к значительному урону и жертвам.