Купить H100 или арендовать: расчёт окупаемости

Покупка H100 окупается при почти постоянной загрузке, которая длится годами. Если карта нужна несколько недель в году, аренда дешевле: вы платите только за минуты работы. Чтобы решить, нужен расчёт: полную стоимость владения за срок службы сравнивают с суммой аренды за те же часы. Ниже — как его сделать и пример с ориентировочной ценой карты.

Сколько стоит своя H100

Ориентировочная цена покупки одной H100 — около 2,5 млн ₽. Это оценка, а не прайс: цены на серверные GPU меняются и зависят от поставщика, формы поставки и курса. H100 бывает отдельной картой PCIe и модулем SXM, который ставят в сервер с несколькими GPU. Аренду H100 по минутам смотрите на странице H100.

Полная стоимость владения

Цена карты — только часть расходов. Учитывайте все статьи:

Формула точки безубыточности

Покупка окупается, когда годовые расходы на владение становятся ниже суммы, которую вы заплатили бы за аренду тех же часов.

F = фиксированные расходы в год (амортизация, место, сеть, обслуживание)
v = переменные расходы в час работы (электричество с охлаждением)
R = цена аренды в час
H* = F / (R − v)  — часов работы в год, при которых покупка и аренда равны
H* / 8760  — доля года, с которой покупка начинает окупаться

Если H* больше 8 760 часов, покупка не окупается даже при круглосуточной работе. Чем ближе R к v, тем быстрее растёт H*: если аренда почти равна стоимости электричества, владение не окупится никогда. Цену R берите из каталога: актуальные почасовые цены показаны на этой странице ниже.

Пример расчёта

Возьмём одну H100 по ориентировочной цене 2,5 млн ₽ и срок службы три года без остаточной стоимости. Для простоты учтём только амортизацию и электричество. Место в стойке, сеть, обслуживание и сам сервер сюда не входят, поэтому реальное владение будет дороже.

• Амортизация: 2 500 000 ₽ на три года — около 833 000 ₽ в год, или около 95 ₽ за каждый календарный час.
• Электричество: 700 Вт под нагрузкой, тариф 7 ₽ за кВт·ч (допущение для примера, подставьте свой) и коэффициент 1,5 на охлаждение дают около 7,4 ₽ за час работы.
• При круглосуточной нагрузке электричество составит около 64 000 ₽ в год.

Значит, при круглосуточной работе владение без учёта прочих расходов обходится примерно в 102 ₽ за час календарного времени. Покупка выгоднее аренды только в том случае, если почасовая цена аренды выше этой величины, а место, сеть и обслуживание порог поднимут.

Для неполной загрузки подставьте цену R из каталога в формулу H* = 833 333 / (R − 7,4) и разделите результат на 8 760. Если карте нужно меньше H* часов в год, аренда дешевле. Например, при загрузке 2 000 часов в год сравните 2 000 с H*: если H* больше, аренда выгоднее.

Для других карт считайте так же: подставьте свою цену покупки, срок службы и потребление. Для A100 и RTX PRO 6000 с 96 ГБ порог получится другим.

Если карта стоит в сервере вместе с другими GPU, стоимость сервера, сети и стойки делится между картами. Тогда расчёт ведут на всю систему, а результат делят на число GPU.

Как считать загрузку честно

Загрузка — это доля календарного времени, в котором карта выполняет полезную работу. Её часто завышают: учитывают часы, когда сервер включён, но почти не нагружен, и забывают про настройку окружения, перезапуски и ожидание данных. Честная цифра — часы реальных вычислений, делённые на 8 760.

Чтобы узнать свою загрузку, посчитайте за последние два-три месяца, сколько часов карта работала под нагрузкой и сколько простояла. Эту цифру и подставляйте в расчёт вместо предположений.

Стоимость рабочего часа

Таблица показывает, во что обходится один час реальной работы купленной карты. Расчёт идёт по тем же допущениям, что и пример выше: цена 2,5 млн ₽, три года, 700 Вт, тариф 7 ₽ за кВт·ч и коэффициент 1,5 на охлаждение. Чем ниже загрузка, тем дороже каждый рабочий час.

Если аренда дешевле стоимости рабочего часа при вашей загрузке, покупка не окупается. Сравните последнюю колонку с ценой из каталога на этой странице: это и есть главный вопрос расчёта. В таблице не учтены место, сеть и обслуживание, поэтому реальная стоимость рабочего часа выше.

Для конкретного случая: при 1 500 часах работы в год (около 17% календарного времени) владение обходится примерно в 563 ₽ за рабочий час. Это 833 333 ₽ амортизации и около 11 000 ₽ электричества, делённые на 1 500 часов. Аренда выгоднее, если её почасовая цена ниже этой величины.

Что меняется со временем

Цена карты, поддержка драйверов и спрос на перепродажу меняются. Новое поколение обычно снижает ценность предыдущего, но насколько быстро, зависит от рынка. Расчёт на три года поэтому опирается на допущение, а не на прогноз. Чем дольше срок владения, тем сильнее влияют обслуживание и устаревание, а перепродажа может заметно изменить итог.

Сроки и запуск

Между решением и первым запуском проходит время: поставка, подготовка помещения, установка и проверка. Всё это время деньги уже вложены, а карта ещё не работает. Если проект привязан к дате, учитывайте этот срок в расчёте, а не только стоимость владения.

Чеклист перед решением

• Подсчитана реальная загрузка за последние месяцы, а не ожидаемая.
• Известно, где будет стоять карта, сколько она потребляет и кто её обслуживает.
• Есть план на срок службы: что будет с картой через три года и кому её можно продать или передать.
• Стоимость рабочего часа сравнена с ценой аренды за тот же период.
• Решено, что делать с пиками: покрывать их арендой или держать запас мощности.

Когда покупка имеет смысл

• Нагрузка почти постоянная: обучение или инференс круглосуточно в течение нескольких лет.
• Место, питание и охлаждение уже есть, а эксплуатацию ведёт команда, которая умеет обслуживать серверы.
• Данные не могут покинуть помещение по требованиям закона или договора.
• Конфигурация известна заранее и не меняется годами.

Когда выгоднее аренда

• Нагрузка волнообразная: обучение на неделю, эксперименты, пики перед релизом.
• Нужны разные карты. В каталоге смену карты делают за минуты, а в собственном парке каждая новая карта — это новая покупка. Для дообучения и больших моделей часто достаточно аренды на время проекта.
• Поколения меняются быстро: новая карта может решить задачу быстрее, а купленная потеряет ценность раньше срока амортизации.
• Нет команды, которая поддерживает серверы: драйверы, охлаждение и замену комплектующих.
• Задача ещё не ясна: сначала проверьте модель на аренде, потом решайте о покупке.

Гибридный вариант

Часто разумно держать базовую нагрузку на собственной карте, а пики покрывать арендой. Порог безубыточности тогда считается только для базовой части нагрузки. Пиковые часы удобно покрывать арендой по минутам: так не приходится держать лишнюю карту ради нескольких пиков в месяц. Для пакетной части экономию дают прерываемые серверы, а общие правила — в гайде о том, как не переплачивать за аренду GPU.

Цены в блоке ниже берутся из каталога и меняются вместе с ним. Общие правила тарифов собраны на странице цен.