Qwen3 30B-A3B: сколько видеопамяти нужно и на какой видеокарте запустить

Qwen3 30B-A3B в квантизации Q4_K_M с контекстом 8 тысяч токенов занимает 19,1 ГБ видеопамяти. Самый дешёвый вариант сейчас — 2× RTX 3060 12 ГБ, от 14 ₽/ч.

Подобрать сервер Открыть в калькуляторе

Видеопамять по квантизациям

Размер файла весов и вся нужная видеопамять с кэшем контекста. Одна видеокарта, один запрос.

Квантизация	Файл	Контекст 8K	Контекст 32K	Хватит видеокарты
BF16	56,9	58,7	60,9	RTX PRO 5000 72 ГБ
FP8	30,2	32,0	34,3	A100 PCIe 40 ГБ
Q8_0	30,3	32,0	34,3	A100 PCIe 40 ГБ
Q6_K	23,4	25,2	27,4	Tesla V100 Super 32 ГБ
Q5_K_M	20,2	22,0	24,3	RTX 3090 24 ГБ
Q4_K_M	17,3	19,1	21,3	RTX 4000 Ada 20 ГБ
Q3_K_M	13,7	15,5	17,7	RTX 4070 Ti Super 16 ГБ
Q2_K	10,5	12,3	14,5	RTX 4070 Ti Super 16 ГБ

Кэш контекста

Сколько памяти занимает кэш на один запрос в FP16. Q8-кэш почти вдвое меньше. 96 КБ на токен.

Контекст 8K: 0,75 ГБ
Контекст 32K: 3,0 ГБ

Где запустить дешевле всего

Видеокарты из каталога, на которых модель помещается, по цене за час.

2× RTX 3060 12 ГБзагрузка 86%от 14 ₽/чАрендовать
RTX 4000 Ada 20 ГБзагрузка 98%от 26 ₽/чАрендовать
RTX 3090 24 ГБзагрузка 82%от 26 ₽/чАрендовать
Tesla V100 Super 32 ГБзагрузка 61%от 26 ₽/чАрендовать
RTX 4090 24 ГБзагрузка 82%от 29 ₽/чАрендовать

Цена — от самой дешёвой видеокарты этой модели × число GPU. Сервер на 2–8 видеокарт бывает немного дороже за штуку.

Как запустить на gpu.nz

В шаблоне Ollama модель ставится одной командой:

ollama run qwen3:30b

Для API с высокой нагрузкой — шаблон vLLM с OpenAI-совместимым API.

Вопросы

Сколько видеопамяти нужно Qwen3 30B-A3B?: В квантизации Q4_K_M с контекстом 8 тысяч токенов — 19,1 ГБ: веса 17,3 ГБ, кэш контекста 0,75 ГБ и около 1 ГБ служебной памяти. В BF16 — 58,7 ГБ.
Запустится ли Qwen3 30B-A3B на RTX 4090 с 24 ГБ?: Да. В Q4_K_M модель занимает 19,1 ГБ и помещается в 24 ГБ.
Сколько стоит запустить Qwen3 30B-A3B?: Самый дешёвый подходящий сервер сейчас — 2× RTX 3060 12 ГБ, от 14 ₽/ч. Оплата поминутная: остановили сервер — платите только за диск.
Какую квантизацию выбрать?: Q4_K_M — стандарт для чата: качество почти как у оригинала при размере втрое меньше BF16. Q5_K_M и Q6_K точнее, Q8_0 почти не отличается от оригинала. Для vLLM берите FP8 или BF16.

Размеры файлов сверены с Hugging Face 2026-10-19. 1 ГБ здесь — 1024³ байт, как у видеокарт. На Hugging Face размеры в десятичных гигабайтах, поэтому там числа на 7% больше.

Qwen3 30B-A3B: сколько видеопамяти нужно и на какой видеокарте запустить

Видеопамять по квантизациям

Размер файла весов и вся нужная видеопамять с кэшем контекста. Одна видеокарта, один запрос.

Квантизация	Файл	Контекст 8K	Контекст 32K	Хватит видеокарты
BF16	56,9	58,7	60,9	RTX PRO 5000 72 ГБ
FP8	30,2	32,0	34,3	A100 PCIe 40 ГБ
Q8_0	30,3	32,0	34,3	A100 PCIe 40 ГБ
Q6_K	23,4	25,2	27,4	Tesla V100 Super 32 ГБ
Q5_K_M	20,2	22,0	24,3	RTX 3090 24 ГБ
Q4_K_M	17,3	19,1	21,3	RTX 4000 Ada 20 ГБ
Q3_K_M	13,7	15,5	17,7	RTX 4070 Ti Super 16 ГБ
Q2_K	10,5	12,3	14,5	RTX 4070 Ti Super 16 ГБ

Где запустить дешевле всего

Видеокарты из каталога, на которых модель помещается, по цене за час.

2× RTX 3060 12 ГБзагрузка 86%от 14 ₽/чАрендовать

RTX 4000 Ada 20 ГБзагрузка 98%от 26 ₽/чАрендовать

RTX 3090 24 ГБзагрузка 82%от 26 ₽/чАрендовать

Tesla V100 Super 32 ГБзагрузка 61%от 26 ₽/чАрендовать

RTX 4090 24 ГБзагрузка 82%от 29 ₽/чАрендовать

Вопросы

Сколько видеопамяти нужно Qwen3 30B-A3B?

В квантизации Q4_K_M с контекстом 8 тысяч токенов — 19,1 ГБ: веса 17,3 ГБ, кэш контекста 0,75 ГБ и около 1 ГБ служебной памяти. В BF16 — 58,7 ГБ.

Запустится ли Qwen3 30B-A3B на RTX 4090 с 24 ГБ?

Да. В Q4_K_M модель занимает 19,1 ГБ и помещается в 24 ГБ.

Сколько стоит запустить Qwen3 30B-A3B?

Самый дешёвый подходящий сервер сейчас — 2× RTX 3060 12 ГБ, от 14 ₽/ч. Оплата поминутная: остановили сервер — платите только за диск.

Какую квантизацию выбрать?

Q4_K_M — стандарт для чата: качество почти как у оригинала при размере втрое меньше BF16. Q5_K_M и Q6_K точнее, Q8_0 почти не отличается от оригинала. Для vLLM берите FP8 или BF16.