Anthropic ведёт переговоры о покупке ИИ-чипов без DRAM у британского стартапа Fractile

Anthropic провела предварительные переговоры с лондонским стартапом Fractile о закупке специализированных чипов для инференса. Об этом сообщило издание The Information со ссылкой на осведомлённые источники.

В случае успеха Fractile станет четвёртым поставщиком "кремния" для ИИ-серверов наряду с Nvidia, Google и Amazon.

Чипы Fractile не будут готовы к коммерческому использованию примерно до 2027 года, что выводит любые поставки за рамки ближайших планов Anthropic. Этот временной горизонт примерно совпадает с партнёрством Anthropic с Google и Broadcom по производству TPU.

Fractile была основана в 2022 году выпускником Оксфорда Уолтером Гудвином. Стартап разрабатывает чип для инференса, который размещает память и вычислительные блоки на одном кристалле с использованием SRAM вместо традиционной схемы с отдельными чипами DRAM. Именно перемещение данных между GPU и внешней DRAM остаётся одним из главных узких мест при работе крупных моделей ИИ на высокой скорости.

В июле 2024 года Гудвин рассказал изданию Fortune, что архитектура Fractile хранит данные, необходимые для вычислений, непосредственно рядом с транзисторами, выполняющими операции. По результатам симуляций на тот момент Гудвин заявил, что чип Fractile способен запускать большую языковую модель в 100 раз быстрее и в 10 раз дешевле, чем GPU Nvidia. Однако тестовые чипы на тот момент ещё не были произведены.

Стартап привлёк 15 миллионов долларов посевного финансирования при участии Kindred Capital, Инновационного фонда НАТО и Oxford Science Enterprises. Сейчас Fractile ведёт переговоры о привлечении 200 миллионов долларов при оценке свыше 1 миллиарда долларов, а среди потенциальных инвесторов называют Founders Fund, 8VC и Accel. В команде стартапа работают инженеры из Graphcore, Nvidia и Imagination Technologies, а помимо аппаратной части Fractile разрабатывает собственный программный стек.

Anthropic целенаправленно избегает зависимости от одного поставщика чипов. Claude работает на GPU Nvidia, процессорах Amazon Trainium в рамках Project Rainier, а также на TPU Google по соглашению, объявленному в октябре, которое обеспечило более 1 ГВт вычислительных мощностей. В начале апреля сделка была расширена до 3,5 ГВт мощностей TPU на период с 2027 по 2031 год.

Интерес к Fractile совпадает с резким ростом нагрузки на существующую инфраструктуру Anthropic, что приводит к падению эффективности и "очередям".

Fractile – один из нескольких стартапов, сосредоточенных на инференсе и использующих архитектуры на базе SRAM или вычислений вблизи памяти. Среди аналогичных компаний – Groq и Cerebras.

Nvidia в декабре заключила сделку по приобретению Groq за 20 миллиардов долларов, а затем представила собственный специализированный ускоритель для инференса Groq 3 LPX, признав растущее коммерческое давление в сторону оптимизации стоимости за токен при масштабных развёртываниях.