Еще один гайд по SillyTavern и OpenRouter
И еще один способ общения с новым DeepSeek R1-0528. В прошлой статье я рассказывал, как это все организовать. Теперь хочу рассказать о еще одном способе, который дает несколько другие результаты - общение через Chat Completion
Зачем оно, если уже есть Text Completion?
Оказывается Text Completion - это устаревшее говно, прикиньте? Вот я тоже узнал только что, пока пишу этот пост. Ну вообще, он нужен для локальных моделей.
А вот Chat Completion подходит для любых OpenAI API-подобных роутеров, в том числе и OpenRouter. Там другая логика промтов, инструкций и всего-всего. Короче я не знаю, чем они отличаются, но Chat Completion типа получше для онлайн-моделей
Так оно лучше или не лучше?
По поим ощущениям - прикольнее. Через пресет, который я дам, оно лучше следует характеру персонажа, как минимум. В общем сами попробуете, да?
Настройка
Полная инструкция тут, но это говно даже с впн не всегда загружается, так что вот ссылка на Google диск
Качайте, заходите в SillyTavern. В подключениях (розетка) нужно выбрать Chat Completion и ввести API-ключ от OpenRouter (или от любой другой модели, вдруг у вас что-то куплено)
И далее заходите в левую панель. Можете особо ничего не трогать, кроме контекста (У DeepSeek это 163840) и длина ответа (по умолчанию 5000, можете уменьшить, он 5000 токенов вам не выдаст в любом случае). После этого прокрутите ниже, и увидите вот такую картину
Это, собственно, и есть инструкции для модели. Тут большинство строк не надо трогать, но есть несколько, которые потрогать можно:
NSFW preferences
Оставьте включенным, если хотите СЕКС. Если не хотите - выключайте. Включать и выключать инструкции можно через бледно-желтый ползунок справа от нее
Reminder
Официальная документация гласит так: "Подсказка "Reminder" по умолчанию отключена. Вы можете использовать его, если модель продолжает делать то, что вы не хотите, чтобы она делала. Отредактируйте его и включите.". Вот так
Infoblock
Это подсказка, помогающая модели (и иногда вам). Она описывает, что сейчас делает персонаж и вы, и во что вы оба одеты. Помогает модели (и вам) в NSFW-сценах. Можете отключить, если оно не надо.
Остальное в целом можно не трогать. Наверное
Вот вам мем напоследок