раздел 04
Где развернуть
Что это
Модели нужен GPU. Взять его можно двумя путями: купить своё железо или арендовать видеокарту в облаке. Выбор зависит от того, постоянная у вас нагрузка или эпизодическая, и насколько важна полная изоляция.
Свой сервер (своё железо)
Покупаете видеокарту (или станцию с ней) один раз и пользуетесь. Дальше платите только за электричество.
- Плюсы: максимальная приватность, нет арендной платы, полный контроль.
- Минусы: крупные разовые вложения, нужно обслуживать, апгрейд - снова покупка.
- Когда: постоянная нагрузка 24/7, жёсткие требования к изоляции, есть бюджет на железо.
Облако с GPU (аренда)
Берёте сервер с видеокартой в аренду, платите за время использования. Можно поднять под задачу и выключить.
- Плюсы: нет крупных вложений, масштабируется, можно взять мощную карту на время.
- Минусы: платите постоянно, пока работает; данные на чужой инфраструктуре.
- Когда: нагрузка эпизодическая, нужно быстро попробовать, не хочется покупать железо.
Сколько стоит аренда GPU
Пример
Команда тестирует гипотезу: нужен self-host или хватит API. Покупать карту за сотни тысяч рублей ради эксперимента глупо. Арендуют GPU в облаке на неделю, гоняют свою нагрузку, считают реальную стоимость. Если объём подтвердился и постоянен - дальше уже думают про покупку железа.
Антипаттерны
- Покупать дорогую карту до проверки гипотезы. Сначала аренда и расчёт, потом покупка.
- Держать арендованный GPU включённым «на всякий случай». Платите за каждый час простоя.
- Забывать про изоляцию в облаке. Если приватность - причина self-host, проверьте, что облако ей отвечает, иначе теряется смысл.