Твой личный AI переводчик новелл или же перевод игр, визуальных новелл с помощью собственных моделей. Использование LM Studio + VNtranslator

Многие, в том числе и я иногда хотим поиграть в игры. Которые никому не известны, или, как правило, переведены и в лучшем случае на английском, но английский не всегда знают, что уж говорить про другие языки.  Собственно данная проблема преследует всех достаточно долго, а решение у этой проблемы две:

Идти учить язык, что в большинстве случае никто не будет делать, так как времени нет и денег, ведь самому выучить язык - это слишком много надо усилий приложить;
Использовать руссификаторы, но их иногда не бывает;

Как раз и появился недавно 3 вариант, как появились локальные модели с распознаванием текста лиц и т.д.

В этом гайде я покажу на примере одной игры, как можно реализовать перевод игры своими средствами, однако для данного метода слабые пк не подойдут и нужно как минимум 32 гб оперативной памяти, а желательно 64 и больше. Так как нужно держать запущенную игру + саму языковую модель.

Берем как основу мою сборку и от нее можете отталкиваться:

Видеокарта - RTX 4070 super 12GB. Если видеокарта имеет меньше 12 гб могут быть проблемы, так как языковым моделям нужно много видеопамяти;

Процессор - Ryzen 5 7500f - его хватает, все, что можно сказать;
Оперативная память 32 гб - хватает впритык, вся оперативная память уходит на запуск только модели;

SSD диск с хорошей скоростью и объемом. Желательно NVME диск. В моем же случае запускаются модели на системном диске, где включен Bitlocker и проблем нет, но это из-за того, что мой диск поддерживает DRAM буфер + аппаратное шифрование, поэтому падение скорости минимальное (Samsung 870 EVO).

LM Studio - это программа для запуска локальных моделей на вашем компьютере. Есть еще ее аналог OLLAMA, но она плохо использует видеокарту, в моем случае только на половину, поэтому я всегда рекомендую LM studio, так как она лучше справляется с распределением загрузки вашего пк.

Переходим на официальный сайт
Скачиваем по ссылке для Windows

Устанавливаем LM studio

При установке он спрашивает: установить для одного пользователя или для всех, выбираем только для меня и нажимаем далее.

Указываем место установки нашей программы, только SSD диск и нажимаем установить.

Открываем программу после установки и видим это.

Скачиваем необходимую модель для работы, для этого нажимаем справу снизу на шестеренку

Попадаем в настройки, далее нажимаем Model Search и пишем google/gemma-3-12b далее просто скачиваем ее.

Если будете использовать другие модели для перевода, необходимо, чтобы у них был пункт Vision

После того как вы ее установили необходимо ее запустить. В главном меню сверху есть надпись: Select a model to load нажимаем на нее и выбираем модель для запуска на нашем компьютере.

После того как модель была загружена, можно ее протестировать, в рабочем ли она состоянии или нет. Для этого нажимаем создать новый чат и пишете запрос для вашей модели, подойдет что угодно.

Если все успешно будет вот это

Нажимаем на зеленую иконку слева.

В настройках включаем сервер

Заходим в настройки и указываем, как на примере

Порт 1234 нам нужен именно такой, по необходимости вы можете его поменять на другой.

Подготовления в LM Studio завершены. Теперь переходим в нашу основную программу, которая и будет заниматься переводом.

Переходим на официальный сайт
Находим раздел Getting Started
Выбираем Public Version
Прокручиваем в самый конец и находим кнопку Download Now и нажимаем ее.

При скачивании выйдет данное окно, в нем нажимаем No thanks, just take me to the downloads

Скачиваем последнюю версию на данный момент.

Устанавливаем программу также для одного пользователя и указываем место сохранения.

Запускаем программу и попадаем в данное окно.

Нажимаем слева сверху Translator

Включаем опцию LM Studio. Указываем название модели google/gemma-3-12b или своей собственной. (На официальном сайте - https://docs.vntranslator.com/advanced/llms/lm-studio)

В программе метод OCR 2.2 (на данный момент), саму игру и Extra Windows
В колонке Select Engine & Language может не быть выбора, в этом случае сначала запустите игру и перезапустите саму программу и должны появится пункты WinOCR