Google представила алгоритм сжатия, который снижает потребление памяти ИИ в 6 раз

Google представила новый алгоритм сжатия под названием TurboQuant, способный снизить потребление оперативной памяти моделями искусственного интеллекта примерно в шесть раз. Это открытие уже отразилось на фондовом рынке: акции крупнейших производителей памяти заметно просели.

Согласно описанию Google, TurboQuant "оптимально решает проблему накладных расходов памяти при векторном квантовании" и "обеспечивает значительное уменьшение размера модели без потери точности". Последнее принципиально важно, так как при обычном сжатии данных потеря точности считается почти неизбежным компромиссом.

Если говорить упрощенно, алгоритм меняет подход к представлению векторов, которые ИИ-модели используют для обработки и понимания информации. Вместо стандартных декартовых координат TurboQuant переводит вектор в полярную систему координат.

Продажи процессоров на американском Amazon сократились вдвое на фоне кризиса памяти

Google описывает это так:

Вместо указания "Идите 3 квартала на восток и 4 на север" система говорит "Идите 5 кварталов в направлении под углом 37 градусов". Практическим следствием такого подхода становится полное отсутствие необходимости в нормализации данных, что устраняет накладные расходы памяти, которые традиционные методы вынуждены нести.

В ходе серии тестов TurboQuant, по словам самой Google, "достиг идеальных результатов на всех контрольных показателях, при этом уменьшив объем памяти как минимум в шесть раз".

Компания также утверждает, что алгоритм открывает "трансформационный сдвиг в высокоразмерном поиске", позволяя "строить и запрашивать большие векторные индексы с минимальным объемом памяти, практически нулевым временем предобработки и точностью на уровне лучших современных решений".

Рынок уже отреагировал на это событие. Акции трех главных производителей памяти – Samsung, SK Hynix и Micron – за последние несколько дней потеряли 8%, 11% и 10% соответственно. И это с учетом частичного отскока.

Инвесторы, судя по всему, расценивают новый алгоритм как угрозу объемам закупок памяти со стороны ИИ-компаний. Впрочем, стоит оговориться: списывать падение котировок исключительно на TurboQuant было бы упрощением, так как на рынке присутствуют и другие факторы, в том числе перебои с поставками материалов из-за текущих геополитических конфликтов.

Память DDR5 стала настолько дорогой, что компании начали выпускать "двухканальные" комплекты с одним модулем-пустышкой и предложением "докупить остальное позже"

Для рядовых потребителей и любителей игровых ПК новость потенциально позитивная. Если ИИ-компаниям понадобится меньше памяти, освободившийся объем производства теоретически направится на потребительский рынок, что способно снизить цены на оперативную память для ПК, ноутбуков и портативных девайсов.

Однако радоваться пока рано: Micron уже заявила, что "спрос значительно превышает доступные мощности поставок в обозримом будущем", а значит, высвободившееся производство памяти вполне может снова уйти в серверные стойки.

Существует и другой сценарий: компании просто начнут запускать еще более крупные модели, которые потребуют не меньше ресурсов, чем прежние, несмотря на более эффективное сжатие.