Видеокарта для нейросетей: как выбрать по задаче и видеопамяти

Видеокарту для нейросетей выбирают по объёму видеопамяти: модель должна целиком поместиться в память карты. Чат с моделью на 14 млрд параметров работает на 12 ГБ, модели на 27–32 млрд, FLUX и видео Wan 2.2 — на 24 ГБ, Llama 3.3 70B — на 48 ГБ, GPT-OSS 120B — на 80 ГБ. Ниже — таблица «задача → память», какие карты к какому объёму относятся и сколько они стоят в аренде прямо сейчас.

Почему главное — объём видеопамяти

Нейросеть работает быстро, только когда её веса лежат в видеопамяти. Если памяти не хватает, часть модели уходит в оперативную память компьютера, и генерация замедляется в разы. Поэтому сначала смотрите на гигабайты, а уже потом на поколение и скорость карты.

Скорость тоже важна, но она решает, как быстро модель отвечает. Память решает, запустится ли модель вообще. RTX 3090 и RTX 4090 — карты разных поколений, но у обеих 24 ГБ, и на обеих работают одни и те же модели.

Сколько памяти нужно, зависит от трёх вещей: размера модели (число параметров), квантизации — сжатия весов (Q4 хранит около 4,8 бита на параметр вместо 16) — и длины контекста, то есть сколько текста модель держит в голове. Подробно о расчёте — в гайде «Сколько видеопамяти нужно для LLM».

Сколько видеопамяти нужно под задачу

Для чата и кода хватает 12 ГБ, для картинок FLUX — 16 ГБ, для сильных моделей и видео — 24 ГБ. Цифры посчитаны по реальным файлам моделей.

Какие видеокарты подходят для нейросетей

Главный рабочий объём — 24 ГБ: на нём запускается большинство открытых моделей для текста, кода, картинок и видео. Ниже — ступени памяти, карты с таким объёмом и задачи, для которых эта ступень минимальна.

Посчитайте память для своей модели

Выберите модель, квантизацию и длину контекста: калькулятор покажет, сколько памяти нужно и какие карты из каталога подходят дешевле всего.

Игровая или серверная видеокарта

Для запуска готовых моделей до 32 млрд параметров достаточно игровых карт на 24–32 ГБ: RTX 3090, RTX 4090, RTX 5090. Серверные A100, H100 и H200 нужны, когда модель не помещается в 32 ГБ, когда нужна одна карта на 80 ГБ и больше или когда вы дообучаете модель.

• Дообучение LoRA модели на 7–8 млрд параметров — ориентир 24 ГБ, QLoRA — 16 ГБ. Подробнее — в гайде о выборе карты для LoRA.
• Полное дообучение модели на 7 млрд требует около 112 ГБ: это две карты по 80 ГБ.
• API для многих пользователей на vLLM: каждый одновременный запрос держит свой кэш контекста, поэтому памяти нужно с запасом.

Купить видеокарту или арендовать

Своя карта выгодна, если она загружена почти всё время. Если нейросети нужны на несколько часов в неделю или вы ещё выбираете модель, аренда обходится дешевле: платите только за минуты работы и в любой момент переходите на карту побольше. Разбор с расчётом окупаемости — в статье «Купить H100 или арендовать».

Как запустить нейросеть на арендованной видеокарте

1. 1

   Посчитайте память

   Найдите свою модель в калькуляторе видеопамяти или в таблице выше. Возьмите карту с запасом: если загрузка выше 92%, длинный разговор может не поместиться.

2. 2

   Выберите видеокарту

   В каталоге отфильтруйте карты по памяти. Цена за час видна сразу, оплата поминутная.

3. 3

   Выберите шаблон

   Для чата — Open WebUI + Ollama или готовые чаты с моделями, для API на несколько человек — vLLM, для картинок — шаблоны с ComfyUI и Forge. Все шаблоны — на странице шаблонов.

4. 4

   Работайте и останавливайте сервер

   Сервер стартует за 2–5 минут. Закончили — остановите: GPU перестаёт тарифицироваться, платите только за диск.

Что может пойти не так

• Карта впритык. Модель запустится, но длинный контекст или крупная картинка уже не поместятся. Берите карту, где модель занимает не больше 90% памяти.
• Не та квантизация. Одна и та же модель в BF16 весит в 3–4 раза больше, чем в Q4_K_M. Проверяйте, какой файл вы скачиваете.
• AMD и Mac. Большинство инструментов для нейросетей — PyTorch, ComfyUI, vLLM — рассчитаны в первую очередь на видеокарты NVIDIA с CUDA. На других платформах часть моделей запускается сложнее или медленнее.

Как мы считали

Языковые модели: веса — реальные размеры файлов GGUF и родных форматов с Hugging Face, кэш контекста — по архитектуре каждой модели, плюс около 0,75 ГБ служебной памяти CUDA; контекст 8K, один запрос. Картинки и видео — модель, VAE и рабочая память генерации в ComfyUI. Карта подходит, если модель занимает не больше 97,5% её памяти. 1 ГБ — 1024³ байт. Данные на 2026-10-19; таблица по 35 языковым моделям — в статье «Сколько видеопамяти нужно открытым LLM».