в настройках генерации можно изменить размер ответа в токенах (Max Response Size) помимо этого, рекомендую в настройках "Bias" добавить строку с именем пользователя, и частотой генерации -100, тем самым бот практически перестанет генерировать реплики от лица пользователя, отыгрывая только роль персонажа
Так же, можно поиграться с пунктом "Global Note", добавив в него информацию о том, как надо и не надо генерировать ответы. Например "Reply only as {{char}}, never respond as {{user}}", и т.д.
Что-то странно бот этот работает. Я пишу одну строку в чат, а он в ответ сразу неколько страниц текста разных событий, вплоть до конца истории.
Тот же character.ai очень небольшими шагами генерирует.
в настройках генерации можно изменить размер ответа в токенах (Max Response Size)
помимо этого, рекомендую в настройках "Bias" добавить строку с именем пользователя, и частотой генерации -100, тем самым бот практически перестанет генерировать реплики от лица пользователя, отыгрывая только роль персонажа
Так же, можно поиграться с пунктом "Global Note", добавив в него информацию о том, как надо и не надо генерировать ответы. Например "Reply only as {{char}}, never respond as {{user}}", и т.д.
Все боты так делают или один какой-то?
Так, а что с этим потом делать?
можно создать аналог Copilot, можно стать симпом виртуальной тяночки, можно общаться с Альбертом Эйнштейном... а что интересует?
Косплеить Хоакина Феникса из "Она"