Аренда VPS с GPU: Linux-сервер с видеокартой и root по SSH

Чем сервер с GPU отличается от обычного VPS

Заходите по SSH, ставите пакеты, запускаете процесс — со стороны всё как на VPS. Но продукт другой, и разницу лучше знать до аренды.

Что вы получаете на сервере

• Ubuntu с правами root по SSH, драйвер NVIDIA и CUDA: карту видно в nvidia-smi.
• Видеокарту целиком: вся её память и вычислительная мощность ваши, пока сервер работает. Число GPU (от 1 до 8) зависит от выбранного предложения.
• Свой Docker-образ вместо стандартной системы: окружение вашей команды запускается сразу, ничего не нужно настраивать на сервере. Список шаблонов — на странице шаблонов.
• Диск под файлы, модели и датасеты. Размер выбирается при запуске и потом не меняется.
• Порты для собственных сервисов: в шаблоне «Свой Docker-образ» перечислите до 10 портов, и на странице сервера у каждого появится защищённая ссылка. Служба должна слушать адрес 0.0.0.0.

Как настроить сервер, чтобы работать как на своём VPS

1. 1

   Добавьте SSH-ключ

   Создайте ключ и вставьте публичную часть в разделе «Ключи» консоли до аренды: ключ выбирается при запуске сервера.

   ssh-keygen -t ed25519

   Копировать
2. 2

   Подключитесь

   Адрес и порт показаны на странице сервера, команду можно скопировать кнопкой.

   ssh -p <порт> root@<адрес>

   Копировать
3. 3

   Поставьте пакеты

   Системные пакеты ставятся через apt, Python-окружения собираются через venv, библиотеки ставятся через pip. Сборку PyTorch берите под версию CUDA, которую показывает nvidia-smi.

   apt update && apt install -y git tmux htop
   python3 -m venv ~/venv && source ~/venv/bin/activate

   Копировать
4. 4

   Запускайте долгие задачи в tmux

   Сеанс переживёт обрыв связи, а вернуться в него можно командой tmux attach -t work.

   tmux new -s work

   Копировать
5. 5

   Держите файлы на диске сервера

   Пока сервер существует, диск хранит данные, в том числе после остановки. Важные результаты всё равно копируйте к себе через scp или rsync.

Это контейнер, поэтому службы через systemctl, как на обычном VPS, обычно не работают: долгие процессы запускайте в tmux. Про ключи, подключение и копирование файлов подробнее рассказывает гайд SSH на GPU-сервере.

Можно ли держать на нём сервис круглосуточно

Можно, если сервису нужна видеокарта. Типичный пример — собственный API языковой модели: шаблон vLLM поднимает OpenAI-совместимый API на порту 8000, ключом служит токен аренды, а приложению достаточно знать адрес и ключ. Как это подключить, разбирает гайд про Ollama и vLLM как API.

Для постоянной работы берите обычный сервер, а не прерываемый: хост может остановить прерываемый, если другой клиент предложит больше. И заранее посчитайте расходы: умножьте цену за час на число часов в месяце. Сервер с видеокартой на круглосуточной работе стоит заметно больше VPS без неё. Для API модели на 7–8 млрд параметров хватит 12–16 ГБ, для моделей покрупнее нужно 24 ГБ; нужную память считает калькулятор.

Остановить или удалить сервер

Остановка прекращает списания за GPU, но диск сохраняет файлы и оплачивается как хранилище, пока сервер не удалён. Консоль показывает стоимость хранения до остановки. Если сервер больше не нужен, удалите его: тогда не списывается ничего. Как считаются деньги, объясняет страница про поминутную аренду.

Для чего такой сервер не подойдёт

• Для Windows и удалённого рабочего стола: системы Windows нет, вывода изображения тоже.
• Для игр: на сервере нет монитора, а карта работает только через CUDA.
• Для виртуальных машин внутри сервера: вложенной виртуализации нет.
• Для сайта, почты или бота без GPU: платить за видеокарту, которая простаивает, невыгодно. Лучше обычный VPS, а видеокарту подключайте там, где она нужна.
• Для майнинга: он запрещён правилами сервиса.