Сколько стоит ревью pull request через LLM: считаем по usage
Если запускать LLM-ревью на каждый push, расход определяет не размер последнего коммита, а весь контекст, который CI отправляет заново. Вот как прикинуть бюджет для одного pull request и проверить расчёт по полю usage.
Пример для одного запроса
Берём DeepSeek V4.1 Flash-1017. По прайсу DeepSeek API на 18 ноября 2026 года вне пика 1 млн токенов стоит $0,15 на входе без кэша, $0,003 при попадании в кэш и $0,60 на выходе.
Допустим, diff, системный промпт и контекст заняли 10 000 входных токенов, а ответ — 500 выходных. Без попаданий в кэш расчёт такой: (10 000 × $0,15 + 500 × $0,60) / 1 000 000 = $0,0018. Для 100 таких запросов получится $0,18.
Если сократить вход до 3 000 токенов и получить такой же ответ, получится $0,00075 за запрос или $0,075 за 100 запросов. Это две оценки с заданными объёмами, поэтому полезно сравнить их со своим CI, где длина ответа и число прогонов меняются.
Что записать в лог
Для каждого вызова сохраняйте ID PR, номер попытки, модель, тарифное окно и три счётчика из usage: вход без кэша, вход с попаданием в кэш и выход. Если API возвращает детализацию рассуждений внутри выходных токенов, второй раз её не прибавляйте. Отдельно считайте повторы после пушей, иначе в оценке за PR выпадет часть вызовов.
Для первого прогона возьмите diff, названия затронутых файлов и короткий контекст вокруг изменений. Просите замечания с файлом и строкой. Если модели не хватает контракта функции, добавьте нужный фрагмент во второй запрос и сравните итоговый расход с вариантом, где весь файл уходит сразу. Попадания в кэш проверяйте по ответу API, а не по совпадению отдельных строк.