Ollama на своей видеокарте или облачный API: что реально потянет ПК

Ollama запускает модели локально на вашем железе — без оплаты за токены, но с расходом на видеопамять и ограничением по размеру модели. Облачный API считает по токенам и даёт доступ к крупным моделям без своего сервера. Выбор зависит от нагрузки, приватности и того, что дешевле под вашу задачу. Запрос через ollama api уходит на карту или в облако, и счет разный.

Вопрос обычно ставят так: карта уже куплена под игры, пусть отбивается и на нейросетях, токены платить не надо. Звучит разумно ровно до момента, когда модель не влезает в память, а счетчик электричества тикает всю ночь. Ниже прикинем, что поместится в вашу карту, где у «бесплатного» запуска прячется счет и когда дешевле заплатить за токены.

Ollama это программа, которая запускает языковые модели с открытыми весами прямо на вашем компьютере. Скачали модель, она легла на диск, дальше работает через видеокарту, без интернета и без внешнего счета за запросы. На уровне идеи «ollama как пользоваться» выглядит просто: ставите Ollama, одной командой тянете модель из каталога, пишете запрос, ответ считает ваше железо.

Платите тут не за токены, а за ресурс. Модель должна поместиться в видеопамять (VRAM), то есть память на самой видеокарте, и ее объeм прямо решает, какую модель вы вообще поднимете. Процессор и обычная оперативка подстрахуют, но медленно, основную работу тащит видеокарта.

Из свежего: Ollama научился говорить на Anthropic Messages API, тот самый протокол, по которому работает Claude Code. Локальную модель теперь можно подставить под кодинг-клиент, который раньше ходил только в облако. Как агент технически обращается к модели по этому протоколу, разбирается в отдельной статье про вызов модели по API.

Модель крутится на карте, и первым делом она упирается в объем видеопамяти, потому что именно туда грузятся и веса, и история запроса. С этого и начнем считать.

Размер модели меряют в миллиардах параметров: 7B, 13B, 70B. Чем больше параметров, тем «умнее» ответы и тем больше памяти модель просит под себя. Грубый ориентир для сжатой модели (Q4, контекст 8K): 1-4B занимают примерно 3-4 ГБ видеопамяти, 7-8B берут 6-7 ГБ, а 70B уже 47-52 ГБ. Последняя цифра сразу выносит крупные модели за пределы домашнего ПК.

Контекст, то есть история запроса и приложенные файлы, ест память сверх весов. Чем длиннее диалог и чем больше вы подкидываете модели текста, тем выше расход, и карта, которая держала модель на коротких запросах, начинает захлебываться на длинных.

Практический вывод простой. Сначала смотрите на объем памяти своей карты. Он отрезает половину каталога еще до первого запроса, а рейтинг моделей тут вторичен. Если карта слабее, чем просит модель, остаются два пути: взять модель поменьше или ужать текущую.

Сжатие модели (квантизация) это способ упаковать веса в меньшую разрядность, чтобы модель заняла меньше памяти. Было по 16 бит на параметр, стало по 4, и модель, которая просила под себя под 40 ГБ, вдруг влезает в игровую карту. Платите вы за это частью точности: на простых задачах разницы почти не видно, на сложной логике и длинных рассуждениях она всплывает.

Под игровое железо ориентиры такие: Qwen3.8-27B влезает в 24 ГБ на Q4, gpt-oss:20b помещается в 16 ГБ, а DeepSeek-V4.1-Flash локально не поднять, она живет только в облаке. То есть сам факт «модель вышла» не означает, что вы погоняете ее дома.

Как надо: берете карту на 16 ГБ, ставите квантованную модель под неё и проверяете на своих реальных запросах, устраивает ли качество. Как не надо: тянете максимальную версию «чтобы умнее», упираетесь в нехватку памяти и получаете либо отказ запуска, либо выгрузку в оперативку и скорость ответа черепахой. Какую именно модель брать под конкретную задачу — тема отдельного разбора про выбор модели под задачу.

Модель влезла и отвечает. Почему тогда «бесплатно» я беру в кавычки — об этом дальше.

Под Windows Ollama ставится обычным установщиком и дальше живет фоновым процессом. Запросы шлют либо из командной строки, либо через локальный веб-интерфейс (WebUI), отдельную оболочку с чатом, историей и переключением моделей, чтобы не держать все в терминале. Для многих это и есть ответ на вопрос «ollama webui», удобная витрина поверх локального движка.

Связка с кодинг-клиентом вроде aider работает по тому же принципу: клиент шлет запросы на локальный ollama api, а модель отвечает с вашей карты. Еще из нового: релиз Ollama v0.40.14 от 03.11.2026 с правками совместимости с OpenAI API и ускорением MLX на Apple Silicon, так что связка с привычными инструментами стала чуть ровнее.

Удобство тут честное: все локально, ничего не улетает наружу, лимитов по токенам нет. Предел у этого удобства тоже честный, он упирается в вашу карту и в счет, которого на экране не видно.

Локальный запуск не берет денег за токены. Но счет все равно приходит, просто не из облака. Основной тут выходит амортизация карты: видеокарта стоит денег и изнашивается, а если вы покупаете ее специально под нейросети, это уже не «бесплатная игровая, которая и так есть». Добавьте электричество: карта под нагрузкой тянет прилично, и ночные прогоны капают в платеж энергосбыту. И простой: железо греется и занимает слот под редкие задачи, которые можно было бы считать по запросу.

Отдельно про важную путаницу. Бесплатен только запуск модели на вашем собственном железе. Сам сервис Ollama Cloud с 26-27.10.2026 стал платным и считает по токенам. Например, gpt-oss:120b идет по $0.15 за миллион на входе и $0.60 на выходе, а у DeepSeek-моделей в пик 12-18 UTC цена удваивается. То есть «Ollama = бесплатно» верно ровно до слова «локальный».

У локалки есть счет, которого не видно на экране. Логично посмотреть, как считает тот, у кого счет виден по каждому запросу.

Облачный программный интерфейс (API) работает наоборот: своего сервера нет, модель крутится на чужих мощностях, а вы платите за токены, единицы текста на входе и на выходе. Запрос уходит на конечные точки вроде POST /v1/chat/completions, POST /v1/messages (с полем stop_reason) и /v1/responses, а расход по ключу виден в личном кабинете, по задачам и датам.

Тут важно не путать ставку и цену задачи. Ставка «за миллион токенов» не равна тому, что вы заплатите за один запрос. Реальная цена складывается из длины запроса и ответа, истории диалога, кэша и повторов. Для наглядности цены операций: редактирование изображения размером 1K стоит 5.09 ₽. Это пример одной операции, а не тариф «за все сразу».

Плюс облака в том, что порог «купи сервер» снимается: не нужно тащить в дом карту на 48 ГБ ради модели, которая локально просто не влезает. Минус честный: при высокой частоте запросов токены накапливаются, и в какой-то момент своя карта оказывается дешевле. Что именно облако дает такого, чего нет на домашней карте, смотрим в следующем разделе.

Главное, что облако дает взамен сервера, это каталог. На бесплатном авторизованном снимке от 01.11 в каталоге облачного агрегатора числились 83 записи моделей со статусом «доступна». Это каталог облачного доступа, а не список того, что вы поднимете в Ollama: часть этих моделей домашняя карта не возьмет физически.

Второй момент касается оплаты. Облачный доступ из России обычно считают в рублях, с оплатой картой, через СБП или по счету с юрлица с НДС, без VPN. Для бизнеса это снимает возню с зарубежными картами и позволяет проводить расход официально через организацию. Цены у таких сервисов стоит смотреть с датой: ценовой снимок калькулятора сравнения зафиксирован на 2026-09-14, а ставки со временем меняются, так что перед расчетом открывайте актуальную страницу.

Каталог и рубли дают удобство доступа. Но есть случаи, когда «свое» выбирают вообще не из-за денег.

Иногда дешевизна отходит на второй план, и решает другое: можно ли вообще отдавать данные наружу. Если по требованиям информационной безопасности запрос не должен покидать контур компании, локальный запуск выигрывает по определению: модель на вашей карте, данные никуда не уходят. Никакие тарифы облака этот аргумент не перебьют. Верно и обратное: ни одно описание сервиса не стоит читать как юридическую гарантию соответствия закону.

Вторая причина это задержка (latency), время от запроса до ответа. На своем железе нет круга через интернет, и короткий ответ может прийти заметно быстрее. Для примера: чужие замеры скорости гуляют от карты к карте и зависят от модели и настроек. Это именно чужой результат на конкретной сборке, а не норма, которую вам кто-то обещает.

Факторы собрались: память, два разных счета, каталог, приватность, скорость. Осталось свести их в одну развилку и посчитать на ваших числах.

Прежде чем верить обзорам, полезно сравнить локальный и облачный запуск на своих числах. Методика держится на трех величинах, и ни одну из них нельзя взять из чужой статьи, они ваши.

Начните с видеопамяти карты. Она отсекает модели, которые в неё не влезут, и сразу говорит, реален ли локальный вариант вообще. Дальше идёт число запросов в месяц. Локальный запуск платится фиксированно (амортизация карты плюс электричество плюс простой), облако переменно, токенами за каждый запрос. У фиксированного и переменного счета есть точка пересечения: при малом числе запросов дешевле облако, при большом и однотипном дешевле своя карта. Посчитайте оба счета на своем тарифе энергосбыта и своей частоте, готовых цифр тут нет и выдумывать их нельзя.

Остаётся флажок, который важнее любого числа: уходят данные наружу или нет. Если нельзя, развилка закрывается на локальном варианте независимо от цены токена.

Когда проще локально: карта уже куплена под игры и простаивает, запросов немного, модель влезает в вашу память после сжатия, а данные нельзя отдавать наружу. Тогда цена токена уже неважна, потому что запрос вообще не покидает машину.

Когда честнее облако: нужна крупная модель, которой нет места в видеопамяти (70B это 47-52 ГБ, а DeepSeek-V4.1-Flash локально не поднять), бывают пики нагрузки, нужна оплата с юрлица в рублях, или держать и греть железо ради редких задач дороже, чем платить по запросу. И отдельная честная граница: сама Ollama Cloud с 27.10.2026 платная, так что «бесплатно» осталось только у локального запуска своего железа, и это не всегда равно «дешево».

Прикиньте на своей задаче, что дешевле: видеопамять под локальный запуск или оплата по токенам в облаке. Если считать облачный вариант, удобно взять российский агрегатор с оплатой в рублях и каталогом моделей вроде Provod (базовый адрес API https://api.provod.ai/v1) и открыть расчёт по токенам на своих запросах. Решать все равно вам: статья дала калькулятор, а не приговор.

А вы на чем остановились под свою нагрузку — гоняете модель на своей карте или уже считаете по токенам в облаке?