Что такое прерываемые серверы GPU и когда их брать

Прерываемый сервер работает по ставке: цена ниже обычной, а сервер может быть приостановлен, если на ту же карту появилась более высокая ставка. Обычный сервер работает, пока вы его не остановите.

Когда подходит

• Пакетные задачи, которые можно продолжить с чекпойнта: обучение, массовая генерация, рендер.
• Эксперименты, где потеря последних минут не критична.
• Задачи с регулярным сохранением результатов на диск.

Когда лучше обычный

• Интерактивная работа: чат с моделью, ноутбук, демо для клиента.
• API, который должен отвечать без перерыва.
• Длинный прогон без чекпойнтов.

Как не потерять работу

Сохраняйте чекпойнты и результаты на диск регулярно, а скрипт обучения строите так, чтобы он мог продолжить с последнего сохранения. В каталоге сравнивайте ставку и обычную цену: разница и решает, стоит ли рисковать.