IBM представила новый высокоэффективный процессор для ИИ
С ростом эффективности и производительности ИИ-систем растет и их энергопотребление. Несмотря на это, есть множество идей о том, как снизить это потребление. IBM и Intel экспериментировали с процессорами, имитирующими поведение нейронов, а IBM также исследовала выполнение вычислений нейронных сетей в фазовой памяти.
Теперь IBM представила NorthPole — процессор объединяющий разные идеи и создает чрезвычайно эффективный чип для работы с нейросетями, основанными на выводе. Например, для классификации изображений или транскрибирования аудио, чип может быть в 35 раз более эффективным, чем GPU.
NorthPole основан на принципах нейроморфных вычислений, но он не является нейроморфным. Основное отличие — распределение памяти и исполнительных единиц, что снижает энергопотребление. Так, NorthPole, подобно его предшественнику TrueNorth, состоит из большой матрицы вычислительных блоков, каждый из которых содержит локальную память и исполнительные возможности.
Еще одна особенность — это развитая сетевая инфраструктура на чипе. Каждый блок оптимизирован для выполнения вычислений с низкой точностью, что повышает эффективность.
Однако из-за своей уникальности команда, работающая над NorthPole, разработала собственное программное обеспечение для его обучения и выполнения.
При тестировании NorthPole показал, что может выполнять в 25 раз больше вычислений за с тем же энергопотреблением, чем сравнимый GPU. Однако стоит учесть, что несмотря на тестирование чипа, IBM рассматривает его как прототип, и пока неизвестно, будет ли он коммерчески реализован.
Также у NorthPole есть серьезное ограничение: он специализирован только для одной категории задач ИИ. Эффективность достигается благодаря специализированному дизайну под определенные задачи.
- SSD с ИИ от IBM даёт отпор атакам вымогателей
- Tumblr и WordPress начнут продавать данные для обучения ИИ компаний OpenAI и Midjourney
- Слух: ИИ-апскейлинг PS5 Pro будет работать на GPU, так как в APU Viola нет нейроблоков