Runpod. Арендуем видеокарту для запуска Stable Diffusion

Видеогайд

Один из основных барьеров для использования нейросети Stable Diffusion - необходимость мощного железа. Минимальный объем видеопамяти – 4 гб. Но даже с такой видеокартой картинка размеров 512х512 пикселей генерируется около двух минут. К тому же видеокарта должна быть от Nvidia. На других видеокартах можно запустить Stable Diffusion, но во-первых: сборки для не nvidia видеокарт часто имеют урезанный функционал. Во-вторых: при прочих равных Nvidia видеокарты будут сильно выигрывать по скорости генерации.

Обучение нейросети SD на своих фотках через алгоритм Dreambooth вообще требует видеокарту с не менее 16гб видеопамяти.

Одним из выходов является аренда видеокарты. Я использую RunPod . Аренда Видеокарты nvidia RTX3090 с 24гб видеопамяти обойдется примерно в 0.15-0.40$ в час.

Тарифы на аренду видеокарты
Тарифы на аренду видеокарты

Главный недостаток сервиса – способ оплаты. Принимает только долларовые платежи или крипту. На этот случай есть видеоинструкция о том как оплатить этот сервис из РФ.

Сервис работает на линуксе. Для многих пользователей это покажется препятствием. В видеоролике я показал как этим сервисом пользоваться и подготовил шаблоны для работы с Runpod:

Если у вас есть вопросы – пишите мне в телеграм чат канала Дневник Алхимика

11
5 комментариев

Но зачем арендовать, когда есть колаб? Аренда имеет смысл только для тренировки моделей

- В колаб не все плагины устанавливаются
- GUI в колабе(gradio) блокируется некоторыми провайдерами и работает только с VPN
- Картинки в колабе у меня генерируется с приемлемой скоростью, а вот показ сгенереной картинки занимает больше времени чем длилась генерация. Прогружается сверху вниз частями будто я в 2000 году сижу с модема.
- При Dreambooth обучении в колабе часть настроек недоступны, т.к. 16гб видеопамяти недостаточно чтобы их использовать.
- еще мелкие плюсы: более мощная видюха = более быстрые генерации. Особенно полезно, когда пачками генеришь картинки или юзаешь deforum

Колаб официально перестал работать бесплатно. Теперь только с подпиской

На 3070 генерация идёт приемлимо.