Amazon представила новое поколение чипов для ускорения искусственного интеллекта, и собственного чат-бота Q

На недавно стартовавшей в Лас-Вегасе конференции Amazon Web Services (AWS) re:Invent был анонсирован ряд новинок, в основном связанных с самой популярной технологией года — искусственным интеллектом. Объявления компании дают представление о долгосрочных планах Amazon по развитию платформ искусственного интеллекта.

Во-первых, AWS представила новейшее поколение ИИ-чипов Trainium2 для тренировки моделей, которые обещают увеличить производительность в 4 раза и энергоэффективность в 2 раза по сравнению с предшественниками. Эти чипы позволят разработчикам быстро тренировать модели с меньшими затратами энергии. Anthropic, компания, поддерживаемая Amazon и конкурирующая с OpenAI, уже заявила о планах использовать чипы Trainium2 для создания моделей.

Чипы Graviton4, напротив, предназначены для более широкого использования. Основанные на архитектуре Arm, они потребляют меньше энергии, чем чипы Intel или AMD. Amazon обещает увеличение общей производительности на 30% при использовании обученных ИИ-моделей на процессорах Graviton4. Это должно снизить затраты на облачные вычисления для организаций, регулярно использующих ИИ-модели, и немного ускорить работу для обычных пользователей.

В целом, Graviton4 позволит клиентам AWS обрабатывать большие объемы данных, масштабировать рабочие нагрузки, улучшить время получения результатов и снизить общую стоимость. Процессоры уже доступны в предварительной версии, а широкий выпуск запланирован на ближайшие месяцы.

Несмотря на анонс собственных чипов, Amazon укрепляет партнерство с NVIDIA, предлагая корпоративным клиентам облачный доступ к новейшим GPU NVIDIA H200 AI. Компания также будет использовать более 16000 суперчипов Nvidia GH200 Grace Hopper для исследований и разработок. Подход Amazon похож на стратегию Microsoft, которая также объявила о расширенном партнерстве с NVIDIA вместе с представлением собственного ИИ-чипа Maia 100.

Amazon также анонсировала новый бизнес-чатбот на базе искусственного интеллекта под названием Q. Он разработан для оптимизации рабочих проектов и задач обслуживания клиентов, может быть адаптирован под любой бизнес и предлагает релевантные ответы на часто задаваемые вопросы. Amazon Q может генерировать контент и выполнять действия по запросу клиентов, адаптируя взаимодействия в зависимости от роли пользователя в компании.

Чатбот будет интегрирован в такие приложения для коммуникации, как Slack, и текстовые редакторы, используемые кодерами. Q может изменять исходный код и подключаться к более чем 40 корпоративным системам, включая Microsoft 365, Dropbox, Salesforce и Zendesk. Q уже доступен в предварительной версии, а широкий выпуск ожидается в ближайшее время. Стоимость использования варьируется от 20 до 30 долларов на пользователя в месяц в зависимости от доступных функций.