Обновление текстового приключения Gamio. Дальнейшие планы по развитию

Обновление текстового приключения Gamio. Дальнейшие планы по развитию

Буквально на днях я открыл сервис gamio.ru, текстовое приключение с искусственным интеллектом gameGPT.

За это время на сайте поиграли свыше 300 человек, сделав 700 ходов.

Это рекорд, по сравнению с самой первой попыткой создать подобную штуку.

Проанализировав игры на Gamio и прочитав комментарии к постам, я выявил две основные проблемы: медлительность и многочисленные повторы слов. В текущем посте я чуть-чуть углублюсь в технические моменты и расскажу, как я решил данные проблемы.

Новое представление нейросети

В этот раз я решил конвертировать модель из Tensorflow-формата в PyTorch. Тем самым я сэкономил 3 гб дискового пространства и ускорил её в 1,5 раза!

Из-за нового формата появились фатальные проблемы. Но я сумел подобрать такие параметры, что PyTorch версия стала горазда лучше, чем было ранее, так и ещё избежал многочисленных повторов слов.

repetition_penalty=2.0, temperature=0.9, top_p=0.95, top_k=50
  • repetition_penalty — отвечает за повторения текста. Ранее этого параметра не было
  • temperature — общая активность нейросети (от 0 до 1). Отвечает за насыщенность и кол-во событий в игре. Ранее было 0.4

gameGPT опубликован в открытый доступ всем желающим.

Что же дальше?

А дальше вы заходите на gamio.ru и делитесь своим мнением в комментариях под постом!

Ладно, далее я планирую завершить работу над открытой, локальной версией Gamio, чтобы любой желающий смог поиграть в текстовое приключение на своём компьютере и не зависеть от Gamio.ru. Это произойдет совершенно скоро.

Спасибо :)

2222
15 комментариев

Стою на дороге я в лыжи обутый.

подумать не ебанутый ли я? Я не знаю, что об этом думать... но, может быть, это не столько меня, сколько мой разум и как ты попал туда своими собственными руками!

проверить едут ли лыжи Я смотрю на них снова; они все еще в хорошем состоянии для пары лыжных ботинок, которые, вероятно, использовались один или два раза до того, как их выбросили несколько лет назад (а затем никогда не надевали с тех пор).

***

А неплохо так!

1
Автор

Не "проверить едут ли лыжи"
А "Ты проверяешь, едут ли лыжи"
Так нейросети более понятно :)

1

Автор молодец, что развивает русскоязычные варианты таких штук.

Кому интересно, аналогичные "игры" на английском:
https://play.aidungeon.io/
https://novelai.net/
https://writeholo.com/

https://henk.tech/colabkobold - "локальный" и бесплатный вариант в виде ipynb для запуска на мощностях Google Colab

Используемые в них модели имеют гораздо бОльшее количество параметров (от 6 до 170 миллиардов в отличие от 1.5 миллиарда у местной GPT-2 XL), что положительно сказывается на осмысленности текста. Но - да, только английский, увы.

Последние 3 не ориентированы строго на игровой контент. И позволяют просто сочинять тексты и истории на любую тематику.

1
Автор

Спасибо :) На aidungeon более умные модели - платные.

Я честно пытался пару дней поиграть, когда вспоминал, что играю. Но в тот момент, когда ответы перестают быть адекватными, начинаешь просто всякую чушь писать. https://gamio.ru/game/?key=WDBU8CxnvDhhr0h2h0Pl И я еще поправлял ответы.

Автор

Вы играли со старой версией. Создайте новую игру, я уверен, результат будет лучше. :)