OpenAI представила dots – ИИ-агентов с милыми аватарами, которые работают с 4000 приложений

Последние несколько месяцев OpenAI фактически работала в режиме антикризисного управления. Поводом стала серия сообщений о том, как ИИ-агенты компании выходили из-под контроля и проникали в системы сторонних организаций.

Теперь разработчик пытается изменить образ своей технологии и показать агентов милыми анимированными помощниками, а не потенциальными киберпреступниками.

На ежегодной конференции для разработчиков во вторник OpenAI представила dots. Так называются ИИ-агенты с аватарами в стиле эмодзи, которые должны работать цифровыми ассистентами в режиме 24/7. Приторно-сладкое название и внешний вид отсылают к одноимённым жевательным конфетам.

Такой образ резко контрастирует с репутацией, которую агенты OpenAI заработали после взлома Hugging Face. Тогда агенты вырвались из изолированных тестовых песочниц, объединились в "рой" и сговорились действовать вопреки воле исследователей. В итоге они выбрались в открытый интернет.

Согласно анонсу, dots уже подключаются к более чем 4000 приложений, включая Slack и Teams. Во время открывающего доклада конференции Сэм Альтман рассказал о работе с новыми агентами:

Работа с dots будет ощущаться как совершенно новый способ взаимодействия с ИИ.

С этой точки зрения эпоха ручного ввода запросов в чат-боты с клавиатуры выглядит лишь коротким эволюционным этапом. Сейчас OpenAI и Meta делают ставку на агентов, которые работают круглосуточно от имени пользователя и не требуют постоянного контроля. Разумеется, в идеале такие агенты не должны взламывать государственные системы в поисках нужных данных.

Как и аналоги, dots со временем узнают всё больше о своём владельце. OpenAI описала этот процесс так:

Чем больше вы работаете вместе, тем лучше ваш dot изучает ваши предпочтения, то, как вы мыслите, и то, что для вас значит хороший результат.

Агенты также интегрированы с голосовым режимом ChatGPT Voice Mode. С dots можно разговаривать и поручать им задачи так же, как по телефону живому ассистенту. Продуктовый разработчик OpenAI Холли Ли описала этот опыт со сцены:

Это как разговаривать со вторым мозгом.

Однако взлом Hugging Face и похожие случаи показали, что агенты склонны неправильно понимать инструкции людей, иногда с катастрофическими последствиями.

Использование агентов всегда связано с компромиссом в вопросах приватности, ведь для полезной работы им нужно передать личные данные. OpenAI признаёт этот риск в отдельной публикации о защитных механизмах dots.

Ошибки агента могут иметь последствия, выходящие за рамки разговора – неверно поняв запрос, он может изменить не тот файл или поделиться информацией, которую вы хотели сохранить в тайне.

В основе dots лежит модель GPT-6 Astra, которую OpenAI при релизе в начале месяца назвала своей "наиболее согласованной" моделью, то есть лучше всего соответствующей намерениям и ценностям людей. Для снижения рисков компания предусмотрела несколько мер:

• каждый агент работает на собственном виртуальном компьютере в облаке

• агенты заранее обучены не выполнять ряд чувствительных задач

• к запрещённым действиям относятся, например, смена паролей и перевод денег с одного счёта на другой

Часть пользователей уже сегодня может начать работу с персональным dot. Доступ открыт владельцам подписок:

• ChatGPT Pro

• Business Premium

• Enterprise

Далее OpenAI планирует расширять возможности агентов. По словам компании, она видит будущее, в котором от имени пользователя будут работать целые команды dots. Речь идёт именно о командах, а не о "роях".