Backyard AI. Игра, где можно БУКВАЛЬНО ВСЁ.

Как часто у вас бывало такое, что в какой-нибудь РПГ вам не давали поступить так, как того хотели вы? Или может ловили разочарование от игры, которая говорит о множестве исходов, спамит "Персонаж запомнит это", но реально выбор в игре определяется в лучшем случае парой триггеров, а то и вовсе имеет линейный сюжет? Так вот, сейчас я расскажу вам об игре (если её можно так назвать), где возможен абсолютно любой сюжет с абсолютно любым исходом. Но давайте по порядку.

Однажды давно (примерно 5 лет назад) путешествуя по просторам интернета, я наткнулся на одну игру. Казалось бы, чем может привлечь текстовая адвенчура в наше то время? Как оказалось - может. Игра называлась AI Dungeon, и её особенность была в том, что игрок действует не по скриптам дядюшки разработчика, а по своим собственным, т.к. управляет тут всем нейросеть. Вы описываете свой сюжет или берёте уже готовый, и... всё. Хотите быть рыцарем? Злым колдуном? Космическим пиратом? Владельцем своего гарема? Пожалуйста! Вы пишите действие, нейронка пишет ответ на ваше действие. Заходите в таверну - нейронка описывает всё вокруг вас. Говорите со случайным человеком - нейронка формирует его характер и ответы. И порой она действительно могла удивлять. Так, сняв комнату в одной из таверн, посреди ночи её вышиб бугай-наёмник, и попытался меня убить. Наш бой тянулся около 10 ходов. К счастью, пока он ломал мной окружение, мне удалось взять кусок разбитого стекла и зарезать его.
Но увы, время никого не щадит. Как пала Римская империя, так начал и увядать сам AI Dungeon. Сначала была энергия, которая существенно сокращала длительность приключений в сутки. Затем разработчики заявили что делают улучшенную модель нейронки, и текущая стала заметно проседать в качестве. Последний гвоздь в крышку гроба был, когда они ввели цензуру. Цензура в игре, которая изначально задумывалась как "Делай что угодно". То есть теперь вы не могли даже отыгрывать каноничного рыцаря, убивающего за неправильную веру. Мало того, так ещё и сама эта цензура работала ужасно плохо. Так, допустим, довольно невинное предложение "Моё авто 15 летней давности перестало заводится, и я ударил кулаком в руль." будет заблокировано цензурой. Ведь "15 лет" и "ударил" в одном предложении. Получается, детишек тут бьём?

Я забил на такое дело на некоторое время. Достойных аналогов так и не появилось. Чуток энергии, цензура, везде одно и то же.

Спустя какое-то время я вспомнил об этом, и решил пошуршать на тему подобных приложений. Найдя одно такое (Silly Tavern), я уже обрадовался что вот теперь то гульнём... Да вот только это был лишь интерфейс приложения. Нужно было скачать ещё программу для запуска нейронки, а для неё ещё добрый десяток сторонних библиотек нужных версий, подружить это всё вместе, и... выяснить что где-то накосячил и ничего не работает. Юзер френдли - это в принципе огромная проблема любых нейронок. Но потом а нашёл его...

Это программа, которая исправила все прошлые недостатки. Её надо просто скачать и установить. Всё, никакой возни с кучей стороннего софта. Никакой энергии, никакой цензуры, и сама модель работает на мощностях вашего ПК (хотя есть возможность запуска и на серверах разрабов, но я этим не пользовался). В целом, программа весьма проста в освоении, но я всё же поясню что к чему. И начать стоит с

Только что я говорил что всё здесь просто. Я солгал. Выбор модели - это причина срачей на сотни комментов на реддите. Новые модели появляются как грибы, их десятки видов и тысячи тюнов, и разобраться во всём этом крайне тяжело, так что я выдам лишь основы. Во первых - мощности вашего ПК. Чем он мощнее (а в данном контексте роль играет в первую очередь размер видеопамяти и оперативной памяти) - тем большую и соответственно лучшую модель вы можете запустить. Размер модели определяется в миллиардах параметров (b в народе). Запустив программу и перейдя в раздел Manage Models => Available Models вам вежливо подскажут какая модель будет запущена нормально, какая будет запущена, но будет работать медленно, т.к. забъёт почти всю память, а какая и вовсе не запустится.

Но больше - не всегда лучше. Играет роль ещё и тип модели. Новая, LLama 3 8b модель будет лучше, чем старая Llama 2 13b. В любом случае, на данный момент времени, я рекомендую скачать Llama-3 8b stheno 3.2, т.к. она считается одной из лучших в своей категории, либо Mini magnum 13b если мощности позволяют. В любом случае, начав с них, вы поймёте что они из себя представляют, а дальше уже сможете понемногу ориентироваться, пробовать другие модели и определять для себя. лучше они или хуже. Кстати, не всегда новая версия модели означает её улучшение. Сейчас есть stheno 3.3, но она сильно хуже 3.2, т.к. автор решил расширить ей память в ущерб качеству.

Также роль играет и квантование модели. По сути, это такое сжатие модели, что она была полегче в ущерб некоторому качеству. Ниже квант - ниже качество. Для 8b моделей является оптимальным квантование 6 и более. Для 13b хватит и 4-5. Если мощности позволяют - можете выбрать и больше, хуже от этого точно не будет. В любом случае, чем больше сама модель - тем меньше квантов ей можно ставить без явного снижения качества, в разумных пределах конечно.

Практически все модели работают на английском языке. Можно найти и натренированные на русском языке, но, как правило, у них не слишком высокое качество.

Модель есть, но какое приключение вас ждёт? Это уже зависит от карточки персонажа. Пока у вас нет опыта в написании своих карточек, я рекомендую начать с карточек в интернете. Есть такой замечательнй сайт, Chub.ai, где собрано великое множество персонажей всех красок, мастей, и извращенств. Скачиваете его в формате PNG, открываете в Backyard через Create character => Import PNG character card, и жмакаете на его фото. Готово. Теперь поговорим о том, что здесь за что отвечает.

Это графа о вашем персонаже. Опишите его кратко. Имя, возраст, другие параметры которые посчитаете необходимым. Если написать {User} - то там автоматически вставиться имя вашего персонажа. В своём описании можете сильно много не писать, всё равно вы сами им управляете. Описание моих персонажей обычно выглядит как "{User} - мужчина 30 лет, живёт в городе Н, рыцарь."

Эта графа отвечает не только за персонажа, но и за весь сюжет, скажем так. Кратко опишите суть сюжета и основных персонажей. Если персонажей много, то их можно записать в lorebook, откуда они будут браться по необходимости, и не засорять драгоценную память на постоянной основе, но об этом чуть позже.

Мой Character persona обычно выглядит так: "{user} является членом мафии, живёт в Нью-Йорке 1930 годов. Мафия называется вот так, этот чел её босс."

Также есть графа Scenario, но, если честно, лично я не заметил разницы где описывать ваш сценарий. Обычно она либо пуста, либо там при необходимости описываются нюансы, что по типу "{Character} никогда не отвечает от имени {User}", либо "{User} всегда описывается от второго лица (вы)." Обычно такое надо, если ваша модель грешит подобным.

Самого {Character} я обычно называю "Narrator" (рассказчик), чтобы не привязывать его к конкретному персонажу.

Любое приключение должно с чего-то начинаться. И в этой графе вы пишите первое сообщение от лица самой нейронки, как бы задавая стиль повествования, и начало истории. Где вы, что делаете, кто вокруг вас, и что вообще происходит в этой сцене. *Я прихожу в бар, он выглядит вот так, вокруг разные люди, и бармен вот такой внешности улыбается, спрашивая у меня* "Чего вам налить, сэр?".

Как можно заметить, у нейронок свой стиль форматирование. Он довольно простой, речь пишется внутри "кавычек", а все остальные действия внутри *звёздочек*.

Здесь можно написать пример разговора вас с нейронкой, которому она попытается следовать. Обычно я там ничего не пишу, т.к. нейронка любит уж слишком сильно следовать этим примерам.

Очень полезная штука. Это по сути такая справка для нейронки. Когда она видит ключевое слово - она обращается сюда, и вытягивает всю информацию. Lorebook состоит из 2 строк: ключ - триггерные слова. Если в чате будет написано это слово - нейронка стриггерится на него, и закинет на несколько ходов себе в память всё из второго раздела, где вы и пишете информацию. Например, если ключом является "Боб", а в описании написано, что "Боб - мой хороший друг, 40 лет, лысый и с усами", то когда вы напишете что "Я иду по улице и вижу Боба", то нейронка поймёт кто это такой. Сюда можно запихивать множество информации которая важна, но её не надо держать в памяти всё время. Места, люди, события, заклинания, лорные вещи. Что угодно.

Заметки для нейронки. Здесь можно описать то, что нейронке нужно знать в текущий момент. Например, время суток, или где вы находитесь, если об этом давно не было речи, или может событие, которое нейронка должна сейчас сделать.

Остальные настройки обычно стоят по умолчанию. Вроде всё на этом, дальше дам ссылки на некоторые полезные штуки для нейронки. Если есть вопросы - постараюсь на них ответить.

Backyard AI. Там можно скачать программу, карточки персонажей, или документацию.

2 генератора изображений, чтобы вы могли слепить лица вашим персонажам и всё в таком духе.

Карточки персонажей.