Аренда видеокарты для ИИ: LLM, картинки, видео, обучение

Какую видеокарту арендовать под вашу задачу

Начните с задачи, а не с названия карты: от неё зависит, сколько видеопамяти нужно и какой шаблон запускать. В таблице — типичные задачи для ИИ, память под них и готовое приложение, с которого проще начать.

Если не уверены, возьмите RTX 4090 или RTX 3090 на 24 ГБ: их хватает для большинства строк таблицы, кроме 70B-моделей и тяжёлого видео. Для них смотрите карты на 48 ГБ и больше — RTX A6000, L40S и A100. Цены всех карт собраны на странице цен.

Почему видеопамять важнее скорости

Модель, которая не помещается в память карты, не запускается или работает в разы медленнее: часть весов приходится держать вне GPU. Поэтому для ИИ сначала считают гигабайты и только потом смотрят на скорость. Память под языковую модель зависит от числа параметров, точности весов и длины контекста: посчитайте её в калькуляторе видеопамяти, а правила и примеры найдёте в гайде про видеопамять для LLM.

24 ГБ — разумная отправная точка, а запас больше нужен длинному контексту, крупным батчам и видео. Если вы выбираете видеокарту не для аренды, а для покупки, прочитайте гайд о том, как выбрать видеокарту для нейросетей.

Своя модель на своём сервере

Когда модель работает на вашем арендованном сервере, запросы идут к ней, а не в чужой сервис: вы сами решаете, какие веса загрузить, что хранить на диске и кто получит доступ. Веб-приложения открываются по защищённой ссылке с токеном вашей аренды, а на сервер можно зайти по SSH со своим ключом. Страна сервера указана в каталоге.

Сервер при этом арендованный и стоит у хоста в дата-центре, поэтому данные, к хранению которых у вас есть юридические требования, оцените отдельно. После удаления сервера файлы на диске стираются. Если нужна модель без встроенных отказов, среди готовых чатов есть и такие; о них — гайд про ИИ без цензуры на своём сервере.

Как быстро можно начать

Сервер обычно стартует за 2–5 минут. Модель шаблон скачивает при первом запуске: небольшая готова через несколько минут, модель на 60 ГБ — через 10–30 минут. Готовый чат сразу открывается в выбранной модели, а дальше она лежит на диске сервера и второй раз не скачивается.

Нужна своя среда — укажите собственный Docker-образ вместо шаблона. Запускать серверы можно и из кода: через API, CLI или MCP-сервер, чтобы ИИ-агент сам поднимал GPU под задачу.

Как не переплатить

• Берите память под задачу, а не самую большую карту: модели, которая помещается в 24 ГБ, H100 не нужен, а час на нём стоит в разы дороже.
• Для экспериментов и обучения с чекпойнтами выбирайте прерываемые серверы: они дешевле, но хост может остановить такой сервер, если другой клиент предложит цену выше; диск остаётся. Подробности — в гайде о прерываемых серверах.
• Остановка прекращает списание за GPU, но диск с моделями оплачивается как хранилище, пока сервер не удалён; консоль показывает его стоимость перед остановкой. Сервер больше не нужен — удалите его, и списаний не будет.
• Цена за час фиксируется при запуске и не меняется, пока сервер работает. Когда баланс заканчивается, серверы удаляются вместе с дисками; пока он на исходе, вы получаете предупреждения на e-mail или в Telegram.

Больше приёмов — в гайде о том, как сэкономить на аренде GPU.