DeepSeek V4 Flash: сколько видеопамяти нужно и на какой видеокарте запустить

DeepSeek V4 Flash в квантизации UD-Q4_K_XL с контекстом 8 тысяч токенов занимает 145,5 ГБ видеопамяти. Самый дешёвый вариант сейчас — 2× A800 PCIe 80 ГБ, от 164 ₽/ч.

Подобрать сервер Открыть в калькуляторе

Видеопамять по квантизациям

Размер файла весов и вся нужная видеопамять с кэшем контекста. Одна видеокарта, один запрос.

Квантизация	Файл	Контекст 8K	Контекст 32K	Контекст 128K	Хватит видеокарты
FP4/FP8родная	148,7	149,7	150,0	151,2	B200 180 ГБ
BF16	≈541,9	543,0	543,3	544,4	2+ видеокарты
UD-Q4_K_XL	144,4	145,5	145,8	147,0	B200 180 ГБ
Q3_K_M	120,4	121,5	121,8	123,0	H200 NVL 141 ГБ
UD-Q2_K_XL	90,2	91,3	91,6	92,7	H100 NVL 94 ГБ

Кэш контекста

Сколько памяти занимает кэш на один запрос в FP16. Q8-кэш почти вдвое меньше. 12 КБ на токен.

Контекст 8K: 0,10 ГБ
Контекст 32K: 0,38 ГБ
Контекст 128K: 1,5 ГБ

Где запустить дешевле всего

Видеокарты из каталога, на которых модель помещается, по цене за час.

2× A800 PCIe 80 ГБзагрузка 94%от 164 ₽/чАрендовать
2× A100 PCIe 80 ГБзагрузка 94%от 197 ₽/чАрендовать
8× RTX 3090 24 ГБзагрузка 81%от 207 ₽/чАрендовать
8× RTX 4090 24 ГБзагрузка 81%от 231 ₽/чАрендовать
2× A100 SXM4 80 ГБзагрузка 94%от 250 ₽/чАрендовать

Цена — от самой дешёвой видеокарты этой модели × число GPU. Сервер на 2–8 видеокарт бывает немного дороже за штуку.

Как запустить на gpu.nz

Для API с высокой нагрузкой — шаблон vLLM с OpenAI-совместимым API.

Вопросы

Сколько видеопамяти нужно DeepSeek V4 Flash?: В квантизации UD-Q4_K_XL с контекстом 8 тысяч токенов — 145,5 ГБ: веса 144,4 ГБ, кэш контекста 0,10 ГБ и около 1 ГБ служебной памяти. В BF16 — 543,0 ГБ.
Запустится ли DeepSeek V4 Flash на RTX 4090 с 24 ГБ?: В одну RTX 4090 модель не помещается даже в UD-Q4_K_XL: нужно 145,5 ГБ. Подойдёт видеокарта с 180 ГБ ГБ или несколько RTX 4090.
Сколько стоит запустить DeepSeek V4 Flash?: Самый дешёвый подходящий сервер сейчас — 2× A800 PCIe 80 ГБ, от 164 ₽/ч. Оплата поминутная: остановили сервер — платите только за диск.
Какую квантизацию выбрать?: Q4_K_M — стандарт для чата: качество почти как у оригинала при размере втрое меньше BF16. Q5_K_M и Q6_K точнее, Q8_0 почти не отличается от оригинала. Для vLLM берите FP8 или BF16.

Размеры файлов сверены с Hugging Face 2026-10-19. 1 ГБ здесь — 1024³ байт, как у видеокарт. На Hugging Face размеры в десятичных гигабайтах, поэтому там числа на 7% больше.

DeepSeek V4 Flash: сколько видеопамяти нужно и на какой видеокарте запустить

Видеопамять по квантизациям

Размер файла весов и вся нужная видеопамять с кэшем контекста. Одна видеокарта, один запрос.

Квантизация	Файл	Контекст 8K	Контекст 32K	Контекст 128K	Хватит видеокарты
FP4/FP8родная	148,7	149,7	150,0	151,2	B200 180 ГБ
BF16	≈541,9	543,0	543,3	544,4	2+ видеокарты
UD-Q4_K_XL	144,4	145,5	145,8	147,0	B200 180 ГБ
Q3_K_M	120,4	121,5	121,8	123,0	H200 NVL 141 ГБ
UD-Q2_K_XL	90,2	91,3	91,6	92,7	H100 NVL 94 ГБ

Где запустить дешевле всего

Видеокарты из каталога, на которых модель помещается, по цене за час.

2× A800 PCIe 80 ГБзагрузка 94%от 164 ₽/чАрендовать

2× A100 PCIe 80 ГБзагрузка 94%от 197 ₽/чАрендовать

8× RTX 3090 24 ГБзагрузка 81%от 207 ₽/чАрендовать

8× RTX 4090 24 ГБзагрузка 81%от 231 ₽/чАрендовать

2× A100 SXM4 80 ГБзагрузка 94%от 250 ₽/чАрендовать

Вопросы

Сколько видеопамяти нужно DeepSeek V4 Flash?

В квантизации UD-Q4_K_XL с контекстом 8 тысяч токенов — 145,5 ГБ: веса 144,4 ГБ, кэш контекста 0,10 ГБ и около 1 ГБ служебной памяти. В BF16 — 543,0 ГБ.

Запустится ли DeepSeek V4 Flash на RTX 4090 с 24 ГБ?

В одну RTX 4090 модель не помещается даже в UD-Q4_K_XL: нужно 145,5 ГБ. Подойдёт видеокарта с 180 ГБ ГБ или несколько RTX 4090.

Сколько стоит запустить DeepSeek V4 Flash?

Самый дешёвый подходящий сервер сейчас — 2× A800 PCIe 80 ГБ, от 164 ₽/ч. Оплата поминутная: остановили сервер — платите только за диск.

Какую квантизацию выбрать?

Q4_K_M — стандарт для чата: качество почти как у оригинала при размере втрое меньше BF16. Q5_K_M и Q6_K точнее, Q8_0 почти не отличается от оригинала. Для vLLM берите FP8 или BF16.