Новая технология памяти снижает энергопотребление ИИ в 1000 раз и более

Группа исследователей из Университета Миннесоты в Твин-Ситис разработала технологию, которая может снизить энергопотребление, необходимое для обработки искусственного интеллекта (ИИ), как минимум в тысячу раз.

Исследователи продемонстрировали технологию повышения эффективности ИИ и опубликовали статью в журнале npj Unconventional Computing. По сути, они создали "короткий путь" в обычной практике вычислений ИИ, что значительно снижает энергозатраты на выполнение задач.

В текущих вычислениях ИИ данные постоянно передаются между компонентами, обрабатывающими их (логика), и местом хранения данных (память/накопитель). Это постоянное перемещение информации туда и обратно, согласно исследованию, потребляет до 200 раз больше энергии, чем сами вычисления.

Для решения этой проблемы исследователи обратились к Computational Random-Access Memory (CRAM). Разработанная ими CRAM размещает высокоплотный, реконфигурируемый спинтронный вычислительный субстрат непосредственно в ячейках памяти.

Это отличается от существующих решений для обработки в памяти, таких как технология PIM от Samsung, где вычислительный блок размещается в ядре памяти. В случае с CRAM данные никогда не покидают память, вместо этого обрабатываясь полностью внутри массива памяти компьютера.

По словам исследовательской группы, это позволяет системе, выполняющей приложение для вычислений ИИ, улучшить энергопотребление "в 1000 раз по сравнению с современным решением".

Другие примеры показывают потенциал для еще большей экономии энергии и более быстрой обработки. В одном из тестов, выполняя задачу классификации рукописных цифр MNIST, CRAM оказалась в 2500 раз более энергоэффективной и в 1700 раз быстрее, чем система обработки в памяти, использующая 16-нм техпроцесс. Эта задача используется для обучения систем ИИ распознаванию рукописного текста.

Такой прогресс в энергоэффективности вычислений ИИ может иметь огромное значение для развития искусственного интеллекта, позволяя создавать более мощные и экономичные системы. В свою очередь, это может привести к ускорению развития ИИ в различных областях, от мобильных девайсов до крупных дата-центров, открывая новые возможности для применения искусственного интеллекта в повседневной жизни и промышленности.