Один и тот же H100 стоит $2,69 или $12,29 в час — разница в 4,6 раза

Представьте, что вы покупаете один и тот же iPhone в двух магазинах, и в одном он стоит в 4,6 раза дороже. С арендой GPU это не метафора. Судя по подборке на GitHub, которая набрала на Hacker News 110 очков и 66 комментариев, один и тот же NVIDIA H100 сдаётся за $2,69 в час у одних провайдеров и за $12,29 у других. Карта та же, чип тот же, а счёт отличается почти в пять раз.

Что стоит за цифрами

Переведём часы в деньги. В месяце около 730 часов. По $2,69 одна карта обходится примерно в $1 960, по $12,29 — в $8 970. Разница составляет около $7 000 в месяц на одну видеокарту. Для типичного узла из восьми H100 разрыв получается порядка $56 000 ежемесячно. Для команды, которая обучает модель или держит инференс круглосуточно, это уже не округление, а зарплата нескольких инженеров.

Важная оговорка: мы опираемся на крайние точки диапазона из заголовка, а не на полный прайс. Какие именно провайдеры стоят на каждом краю и на каких условиях, нужно смотреть в самом репозитории.

Почему цена так гуляет

Цена «за час» в облаке почти ничего не гарантирует сама по себе. На итоговую сумму обычно влияют модель оплаты (on-demand, резерв на месяцы или спот, который могут забрать), состав пакета (CPU, память, диск, сеть, исходящий трафик), формат (одна карта или целый узел с быстрой связью между GPU), надёжность с поддержкой и регион со свободными мощностями.

Крупные облака часто берут премию за экосистему: готовые сервисы, управление доступами, compliance, привычный биллинг. Специализированные GPU-провайдеры и маркетплейсы нередко дешевле, но могут отличаться по стабильности и уровню поддержки. Поэтому сравнивать нужно не цену за карту, а цену за полезную работу.

Что делать на практике

Первое: считайте стоимость задачи, а не часа. Если дешёвая карта простаивает в очереди или у неё медленная сеть, экономия испаряется. Второе: прогоните короткий бенчмарк на своей нагрузке у двух-трёх провайдеров, например часовой прогон обучения или нагрузочный тест инференса, и поделите затраты на количество токенов или шагов обучения. Третье: разделите задачи. Эксперименты и пакетные расчёты, которые переживают прерывание, можно отдавать на дешёвое или спотовое железо. Продакшен с жёсткими требованиями к аптайму лучше держать там, где вы платите за гарантии.

Четвёртое: заранее заложите возможность переезда. Контейнеры, воспроизводимое окружение и чекпойнты в нейтральном хранилище превращают смену провайдера из квартального проекта в дело нескольких дней.

Для продакта вывод ещё проще: юнит-экономика AI-функции сильно зависит от того, где она запущена. Если маржа держится только при $12 в час, а рынок предлагает $2,69, то либо инфраструктура выбрана неудачно, либо вы осознанно платите за что-то конкретное. Во втором случае причину стоит записать явно.

Ограничения

Цены на GPU меняются быстро, а снимок на GitHub — это срез на определённую дату. Низкая цена не всегда доступна: бывают очереди, лимиты и минимальные сроки аренды. Споры в таких обсуждениях на HN обычно касаются именно этих нюансов, так что перед миграцией проверьте актуальные тарифы сами.

Главное: не принимайте цену по умолчанию. Час работы H100 может стоить в 4,6 раза дороже при тех же транзисторах, и сравнение провайдеров остаётся самой дешёвой оптимизацией, которую можно сделать в этом квартале.