Сервер с GPU и CUDA: чистая Ubuntu по SSH

Что можно делать

• свой проект на PyTorch, JAX или другой библиотеке, которая работает с CUDA
• сборка из исходников, например llama.cpp или собственных CUDA-расширений
• обучение и эксперименты в tmux, без веб-интерфейса
• сервис в фоне, который принимает запросы и отвечает по сети
• перенос данных и скриптов с компьютера по scp
• проверка своего кода на нужной карте перед длинной задачей

Видеопамять

8 ГБ+

Что откроется

SSH-доступ

Какая видеокарта нужна

Ubuntu + CUDA не ограничивает выбор карты: берите ту, что нужна задаче. Для инференса и экспериментов с моделями на 7–8 млрд параметров хватит 12–16 ГБ, например RTX 3060 12 ГБ. Для LoRA-обучения таких моделей обычно нужна карта на 24 ГБ, как RTX 4090 24 ГБ. Большие модели и распределённые задачи требуют 80 ГБ и больше, например A100 или H100.

Как запустить

1. В каталоге выберите видеокарту и нажмите «Арендовать» с шаблоном Ubuntu + CUDA.
2. В блоке «SSH-ключи» формы запуска выберите свой публичный ключ: без него подключиться к серверу нельзя, а веб-интерфейсов у этого шаблона нет.
3. Задайте диск: минимум 10 ГБ, для пакетов и моделей берите больше. Размер нельзя изменить после запуска. Нажмите «Запустить».
4. Через 2–5 минут на странице сервера появится команда вида ssh -p <порт> root@<адрес>. Скопируйте её кнопкой и подключитесь.
5. Работайте как на обычном сервере. Закончив, остановите сервер или удалите его вместе с диском.

Вопросы и ответы

Другие шаблоны

• Свой Docker-образЛюбой образ из Docker Hub или своего реестра.
• PyTorch + JupyterCUDA, PyTorch и JupyterLab для обучения и экспериментов.
• vLLMБыстрый инференс LLM с OpenAI-совместимым API для своих приложений.

Полезные гайды

• Запуск LLM на аренду GPU: Llama, Qwen, DeepSeek, MistralЗапустите Llama, Qwen, DeepSeek и Mistral на своей видеокарте в аренду: Ollama с чатом или vLLM с API. Какая GPU нужна, сколько стоит час и как начать.
• Обучение и LoRA-файнтьюнинг на аренду GPUФайнтьюнинг LLM и обучение LoRA на арендованной видеокарте: сколько памяти нужно для 7B, QLoRA, Kohya для SDXL и FLUX. Оценка времени и стоимости.
• Как не переплачивать за аренду GPU: остановка, диск и трафикЧто реально тарифицируется при аренде GPU по минутам: GPU, диск при остановке и трафик. Как остановить и удалить сервер, чтобы не платить за простой.
• Подключение к GPU-серверу по SSH: ключи, первый вход и файлыКак создать SSH-ключ, добавить его в личный кабинет, подключиться к арендованному GPU-серверу и передать файлы. Команды для Linux, macOS и Windows.
• Как обучать нейросети без своей видеокартыКак арендовать видеокарту для обучения и дообучения моделей: какая память нужна, какую карту выбрать, пошаговый запуск и как платить за минуты.