Еще один гайд по SillyTavern и OpenRouter

И еще один способ общения с новым DeepSeek R1-0528. В прошлой статье я рассказывал, как это все организовать. Теперь хочу рассказать о еще одном способе, который дает несколько другие результаты - общение через Chat Completion

Зачем оно, если уже есть Text Completion?

Оказывается Text Completion - это устаревшее говно, прикиньте? Вот я тоже узнал только что, пока пишу этот пост. Ну вообще, он нужен для локальных моделей.

А вот Chat Completion подходит для любых OpenAI API-подобных роутеров, в том числе и OpenRouter. Там другая логика промтов, инструкций и всего-всего. Короче я не знаю, чем они отличаются, но Chat Completion типа получше для онлайн-моделей

Так оно лучше или не лучше?

По поим ощущениям - прикольнее. Через пресет, который я дам, оно лучше следует характеру персонажа, как минимум. В общем сами попробуете, да?

Настройка

Полная инструкция тут, но это говно даже с впн не всегда загружается, так что вот ссылка на Google диск

Качайте, заходите в SillyTavern. В подключениях (розетка) нужно выбрать Chat Completion и ввести API-ключ от OpenRouter (или от любой другой модели, вдруг у вас что-то куплено)

Еще один гайд по SillyTavern и OpenRouter

И далее заходите в левую панель. Можете особо ничего не трогать, кроме контекста (У DeepSeek это 163840) и длина ответа (по умолчанию 5000, можете уменьшить, он 5000 токенов вам не выдаст в любом случае). После этого прокрутите ниже, и увидите вот такую картину

Еще один гайд по SillyTavern и OpenRouter

Это, собственно, и есть инструкции для модели. Тут большинство строк не надо трогать, но есть несколько, которые потрогать можно:

NSFW preferences

Оставьте включенным, если хотите СЕКС. Если не хотите - выключайте. Включать и выключать инструкции можно через бледно-желтый ползунок справа от нее

Reminder

Официальная документация гласит так: "Подсказка "Reminder" по умолчанию отключена. Вы можете использовать его, если модель продолжает делать то, что вы не хотите, чтобы она делала. Отредактируйте его и включите.". Вот так

Infoblock

Это подсказка, помогающая модели (и иногда вам). Она описывает, что сейчас делает персонаж и вы, и во что вы оба одеты. Помогает модели (и вам) в NSFW-сценах. Можете отключить, если оно не надо.

Остальное в целом можно не трогать. Наверное

Вот вам мем напоследок

31
6
1
1
58 комментариев