Nvidia представила GPC – универсальный контроллер движений по принципу больших языковых моделей

Исследователи NVIDIA представили новый подход к обучению виртуальных персонажей, применяющий принципы больших языковых моделей к моторному контролю.

Разработка получила название Generative Pretrained Controllers, или GPC, и будет представлена в этом году на конференции SIGGRAPH. Ключевая идея заключается в том, чтобы отказаться от привычной практики создания отдельного контроллера под каждую конкретную задачу и вместо этого получить единую предварительно обученную модель, пригодную для дообучения под новые сценарии.

https://x.com/NVIDIAAI/status/2072069361792413878

Большинство существующих работ по симуляции движений сталкивается с одним и тем же ограничением. Контроллер обучается для строго очерченного набора действий, а перенос полученных навыков на другую задачу требует практически полного перезапуска процесса.

NVIDIA задала обратный вопрос – может ли сам моторный контроль подвергнуться предобучению по аналогии с языковыми моделями и затем повторно использоваться в разных задачах.

Технически GPC превращает моторные навыки в словарь дискретных токенов и обучает генеративный контроллер на архитектуре трансформера через предсказание следующего токена. Схема повторяет логику GPT, где каждый следующий шаг вытекает из предыдущих. По итогам один и тот же предобученный контроллер удаётся дообучать под новые задачи без построения модели с нуля.

Для формирования словаря движений используется сквозное обучение с подкреплением. Подход одновременно оптимизирует "моторный словарь", построенный на методе Finite Scalar Quantization, и управляющую политику, отвечающую за преобразование дискретных кодов в физически корректные команды управления.

После того как кодовая книга сформирована, поверх неё обучается авторегрессионный трансформер в стиле GPT, моделирующий внутреннюю структуру словаря.

Итоговый генеративный контроллер работает в реальном времени внутри физической симуляции и выдаёт естественные, физически корректные движения для интерактивного управления персонажем.

Обучение проходило на массиве из более чем 600 часов данных о движениях, а система, по данным исследователей, воспроизводит обширный корпус клипов с точностью 99,98%. По сравнению с прежними токенизированными методами процесс обучения существенно упростился.

В демонстрационных сценариях контроллер проявляет несколько наблюдаемых эмерджентных свойств:

  • Реактивное поведение при внешних возмущениях, включая толчки и столкновения

  • Естественное восстановление после падений

  • Плавные переходы между освоенными движениями без явных разрывов

Именно эта устойчивость и делает GPC пригодным не только для задачи демонстрации движений, но и для широкого спектра приложений – от анимации персонажей в играх до робототехники и интерактивного управления. Авторы работы – Yi Shi, Yifeng Jiang, Chen Tessler и Xue Bin Peng.

В комментариях к анонсу пользователи предположили и возможные направления развития технологии. В том числе есть потенциал переноса подхода на робототехнику – GPC позволяет представить сценарий, при котором робот в реальном мире получает те же преимущества гибкого дообучения, что и виртуальный персонаж.

Официальная презентация работы состоится в рамках SIGGRAPH в этом году.

Больше статей на Shazoo
Тэги:

Об авторе

Эксперт по Fallout
Главный редактор
Более 16 лет в индустрии освещения видеоигр, кино, сериалов, науки и техники. Особенно разбираюсь в серии Fallout, ценитель The Elder Scrolls. Поклонник Arcanum и Fallout Tactics. Больше всего играю в Civilization, Old World и градостроители. Изучаю ИИ и загадки космоса.