ИИ-энтузиаст из России купил майнинг-ферму за 3000 рублей и получил 54 ГБ видеопамяти для запуска ИИ-модели на 35 млрд параметров

Российский энтузиаст ИИ под ником markpronkin поделился историей необычной покупки - всего за 3000 рублей (около $35), он купил старую майнинг-ферму, которая годами стояла в сыром гараже. В ферме оказалось девять видеокарт Nvidia P106-100 с общим объёмом видеопамяти 54 ГБ, и все они заработали с первого включения.

Первым тестом стал локальный запуск языковой модели Qwen3.6-35B-A3B от Alibaba через Ollama. Модель на 35 млрд параметров выдала более 30 токенов в секунду. Пост с говорящим названием "54gb vram for 35$" быстро привлёк внимание энтузиастов локального ИИ.

Ферму нашёл продавец в гараже, который купил несколько лет назад, после чего выставил находку на "Авито". Сооружение было покрыто ржавчиной, и проверить его работоспособность перед покупкой не удалось. По словам покупателя, ни он, ни продавец не имели ни малейшего представления, работает ли железо.

Покупатель предлагал протестировать ферму и заплатить больше в случае успеха, но продавец отказался. В итоге стороны договорились о сниженной цене без всякой проверки. Сумма показалась покупателю достаточно скромной, чтобы рискнуть.

Даже в рабочем состоянии конфигурация вышла несбалансированной. Основная система построена на слабом процессоре Celeron с минимальным объёмом оперативной памяти. Кроме того, видеокарты подключены через слоты PCIe 2.0 x1, что заметно ограничивает обмен данными между ними.

Nvidia P106-100 создавались специально для майнинга криптовалют и появились в середине 2017 года. Это карты поколения Pascal с 6 ГБ памяти GDDR5, которые сам покупатель называет "по сути GTX 1060 6 ГБ". Для примера, версия P106-100 от Gigabyte получила память с эффективной частотой 8008 МГц и 192-битной шиной, что даёт пропускную способность около 192 ГБ/с на карту.

У таких видеокарт ограниченная программная поддержка. В CUDA 13.0 Nvidia убрала офлайн-компиляцию для GPU с вычислительной возможностью (compute capability) ниже 7.5, а под это ограничение попадает всё поколение Pascal. В блоге для разработчиков Nvidia сообщила, что ветка драйверов 580 станет последней с поддержкой таких карт, при этом обновления безопасности продолжат выходить до октября 2028 года.

Выбор модели для теста сыграл ключевую роль. Qwen3.6-35B-A3B построена по архитектуре "смесь экспертов" (mixture-of-experts, MoE), в которой из 35 млрд параметров при генерации каждого токена задействуется лишь около 3 млрд. Весит модель примерно 24 ГБ, а значит, полностью помещается в видеопамять фермы.

По словам markpronkin, результат в 30 с лишним токенов в секунду получен без каких-либо доработок. Скорость можно поднять с помощью многотокенного предсказания (multi-token prediction, MTP) и других оптимизаций.

С плотными моделями, где при генерации работают все параметры сразу, ситуация хуже. Покупатель признаёт, что Qwen3.8-27B вряд ли покажет сопоставимую скорость, однако любая MoE-модель, целиком помещающаяся в видеопамять, должна работать вполне прилично. Главным ограничителем здесь выступает пропускная способность памяти и медленная шина PCIe.

Объём в 54 ГБ позволяет разместить несколько популярных моделей:

• Qwen3.6-35B-A3B в 8-битной квантизации – около 36,9 ГБ

• Llama 3.3 70B в 4-битной квантизации – около 42,5 ГБ

• Llama 3.3 70B в 5-битной квантизации – чуть меньше 50 ГБ, но с минимальным запасом под контекст

Модели крупнее, скорее всего, уже не поместятся. Даже 4-битная Llama 3.3 70B упрётся в потолок около 4,5 токена в секунду ещё до появления других узких мест. Плотная модель при генерации каждого токена считывает все 42,5 ГБ весов, причём последовательно, карта за картой, со скоростью около 192 ГБ/с.

С точки зрения цены покупка всё равно оказалась крайне выгодной – около 65 центов за гигабайт видеопамяти. Для сравнения, RTX 5090 с 32 ГБ памяти и пропускной способностью 1792 ГБ/с вышла в начале 2025 года по цене $1999. Ферма предлагает в 1,7 раза больше видеопамяти менее чем за 2% этой суммы, хотя каждая её карта обладает примерно девятой частью пропускной способности флагмана.

По данным markpronkin, P106-100, лишённые видеовыходов и предназначенные почти исключительно для вычислений, на вторичном рынке стоят около половины цены аналогичных моделей GTX. Это делает их доступным вариантом для сборки системы под локальные нейросети.

После скандала с ИИ Nikon лишила награды победителя конкурса микрофотографии

Создатель бесплатных клонов Adobe выпустил 3 открытые альтернативы Word, Excel и PowerPoint

Отдельный вопрос касается энергопотребления. Один из комментаторов оценил суммарный TDP девяти видеокарт в 1080 Вт. Покупатель ответил, что электричество обходится ему бесплатно, да и в целом по России оно относительно недорогое.

Дальнейшие планы владельца фермы уже определены. Он переместит карты в более удобный корпус с поддержкой процессора вплоть до Intel Core i7-7700K и 32 ГБ оперативной памяти. Новый корпус вмещает 12 видеокарт, так что после покупки ещё трёх P106-100 общий объём видеопамяти вырастет до 72 ГБ.