Google разработала систему безопасности и "Конституцию роботов", чтобы новые ИИ-помощники не причинили вреда людям

Команда DeepMind представила три новые разработки в области робототехники, призванные помочь роботам быстрее, точнее и безопаснее оперировать в реальном мире и взаимодействовать с людьми.

Одно из главных новшеств — система AutoRT для сбора обучающих данных роботами с использованием модели компьютерного зрения и языковой модели. Это позволяет анализировать окружение, адаптироваться к незнакомой обстановке и выбирать подходящие задачи.

Для безопасности в систему интегрирована специальная "Конституция роботов" — набор требований на основе законов робототехники Азимова. Они запрещают ИИ выбирать задачи с участием людей, животных, острых предметов и электроприборов. Такой подход призван исключить инциденты вроде столкновения робота-курьера с человеком.

Кроме того, в роботов встроены датчики остановки при превышении пороговых нагрузок на суставы и физическая кнопка отключения оператором. В ходе испытаний флот из 53 роботов с системой AutoRT без происшествий выполнил более 77 000 заданий в офисах Google.

Другие разработки DeepMind — усовершенствованная архитектура нейросети SARA-RT для более точных физических действий роботов и система навигации RT-Trajectory с 2D-картами. Эти технологии пригодятся в будущем для роботов вроде официантов или горничных. Пока до них далеко, но такие системы как AutoRT помогут научить ИИ безопасно взаимодействовать с людьми.