Furiosa AI удвоит производство чипов для ИИ до 50 000 единиц

Корейский стартап Furiosa AI готовится удвоить выпуск своих ИИ-чипов до 50 000 единиц в следующем году. Одновременно компания разрабатывает 2-нм ускоритель Stork, который должен пошатнуть доминирование NVIDIA в области инференса.

Ещё в мае Furiosa AI представила ИИ-ускоритель третьего поколения под названием Stork для платформы RNGD (Renegade). Чип построен на 2-нм технологии Broadcom, и стартап заявляет, что он сможет соперничать с NVIDIA за счёт передовой энергоэффективности и минимальной стоимости на токен.

По данным отраслевых источников, Furiosa AI намерена значительно расширить производство своего специализированного чипа для инференса больших языковых моделей второго поколения Renegade (RNGD). Планируется довести выпуск до 40 000–50 000 единиц уже в следующем году. Это более чем вдвое превышает показатель в 20 000 единиц за текущий год.

Это первый раз, когда планы Furiosa AI на следующий год были подтверждены официально. Компания считается одним из ведущих отечественных производителей ИИ-полупроводников в Южной Корее.

Нынешний чип второго поколения на 2-нм техпроцессе уже вошёл в массовое производство, и к 2026 году ожидается выпуск 20 000 единиц. Стартап объясняет решение удвоить объёмы стремительным ростом спроса на ИИ-инференс.

Архитектура нового поколения полностью ориентирована на сегмент ИИ-инференса, так как агентный ИИ продолжает набирать огромную популярность. Ускоритель третьего поколения от Furiosa AI построен с расчётом на требовательные рабочие нагрузки и высокоскоростное перемещение данных.

По словам разработчика, это обеспечивает более высокую производительность на ватт и большую плотность токенов, чем даже самые эффективные графические процессоры. Решение развивает нынешний чип RNGD, уже находящийся в массовом производстве. Среди клиентов компании числятся Samsung SDS и LG AI Research.

Платформа Stork использует продвинутый вычислительный кристалл на 2-нм техпроцессе и стандарт памяти HBM4/E. Furiosa работает с Broadcom над передовыми методами упаковки, что позволяет объединять несколько кремниевых кристаллов в единый высокопроизводительный ИИ-чип формата System-on-chip.

На тизерном изображении компания показала чип третьего поколения с 12 блоками памяти HBM4/E, двумя массивными вычислительными чиплетами на 2-нм техпроцессе и двумя контроллерами ввода-вывода. Это составляет 432 ГБ памяти, если Furiosa применит 12-слойные модули по 36 ГБ на стек.

Помимо вычислительной архитектуры, Furiosa AI задействует Ethernet- и PCIe-блоки от Broadcom. Это обеспечивает более высокую пропускную способность и сетевое взаимодействие масштаба стойки в огромных вычислительных ИИ-кластерах.

Чип оптимизирован под реальные ИИ-нагрузки, такие как сэмплирование после обучения модели, а высокая пропускная способность стала ключевым приоритетом. Именно поэтому компания делает ставку на новейшие стандарты HBM4/E.

В Furiosa заявляют, что ставка на пропускную способность, а не на управление потоками (что требуется графическим процессорам), поможет добиться более высокой эффективности и большей пропускной способности токенов, чем современные GPU. Программный стек также позволяет разработчикам быстро развёртывать новые ИИ-модели, соблюдая требования к пропускной способности и задержкам.

SDK от Furiosa использует универсальный компилятор, автоматически преобразующий высокоуровневый код PyTorch в инструкции для чипа. Для разработчиков, которым нужен более тонкий контроль, Virtual ISA предлагает декларативную модель программирования, обеспечивающую управление оборудованием без недетерминированной сложности традиционного программирования для GPU.

Сооснователь и глава Furiosa Джун Пайк сказал:

Объединение инфраструктурных возможностей Broadcom с архитектурой Tensor Contraction Processor от Furiosa и её задающим стандарты программным стеком позволяет нам выйти за пределы уровня чипа и предложить комплексное решение для эпохи фабрик токенов.

Loongson выпустила 16-ядерный серверный процессор 3C3000 на архитектуре LoongArch с энергопотреблением 40 Вт

OpenAI и Broadcom представили Jalapeño – первый чип компании для ИИ, созданный всего за 9 месяцев

Что касается доступности, то ускоритель третьего поколения Furiosa AI начнёт поставляться в виде образцов в первой половине 2028 года. Он будет готов удовлетворить вычислительные требования ИИ-дата-центров следующего поколения.