Trollhattan
"В самой oobabooga у тебя чисто разговор с моделью и всё. Без настроек и промтов (в т.ч. скрытые) SillyTavern." Но там же тоже есть окно Context во вкладке Character, куда прописывается характер. Получается, оно игнорируется?
Вот скриншот. И у меня ещё вопрос, если позволите. Развернул локально Text Generation Web UI на oobabooga, подгрузил в неё модель "mythomax-l2-kimiko-v2-13b.Q4_K_M.gguf". Но какие бы настройки не крутил, какие бы промпты не вставлял - мой бот болван-болваном. Либо отвечает односложно, либо вообще несёт околесицу. Вопрос: в Text Generation Web UI без Таверны, вообще, будет что-то адекватно работать? Или я просто что-то не так настраиваю?
Я общаюсь с ботом, всё работает, всё Ок, но у меня в боковой панели нет и близко таких настроек, как у ТС. Того же NSFW нет вообще. Это от чего зависит вообще?
У меня фейл уже на самом первом шаге: "Необходимо будет выполнить пару действий, через сочетание клавиш Windows + R открываете "Выполнить" и прописываете там: cmd /c winget install -e --id Git.Git, жмёте Enter. Дальше запустится установка, там всё предельно понятно."
Эту команду нужно выполнять после того, как скачал по ссылке дистрибутив, видимо? Если да, то по какому адресу его класть, чтобы CMD увидел дистрибутив?.. Или как? Просто у меня ровным счётом ничего не происходит после "cmd /c winget install -e --id Git.Git" в окне "выполнить".
Передёрнул соединение - вроде пока качает, хотя иногда коннект рвёт. Говорит 4 часа. Не дышу...
Это оно и есть. [huggingface.co/QuantFactory/]
Всё круто, только с того же QuantFactory качает только с ВПН, а это вечность. На торрентах GGUF-моделей не нашёл.
Понимаю. Но проблема в том, любой НЕ хейтящий обзор автоматом считают проплаченным или "ты просто тупой школьник-казуал". Так что, про Сталкер-2 как про покойника, только наоборот: либо плохо, либо никак. )))
Понятно. Тогда неудивительно. По-честному вам нужно большим жирным шрифтом написать в шапке, что это обзор на старую версию. Поиграйте в 1.4. Совсем другое кино. Шедевром от этого продукт не стал конечно, но половина из написанного вами на сегодняшний день - неправда. И ваш обзор только поддерживает бессмысленный хейт, который все трендом (даже те, кто игру ни разу в жизни не открывал) бездумно подхватили.
Тогда ещё вопрос. Что будет, если заменить модель бота в Silly Tavern "на горячую", прямо посередине истории? Сохранится ли у нового бота контекст истории, или он будет свежим и ничего не помнящим?