Нейросеть довольно большая, весит 6 гб и занимает 12 гб ОЗУ. gameGPT размещена на личном сервере, на процессоре (а нужно размещать на видеокарте). Из-за этого работа всего сервиса в целом замедлилась. Генерация одного действия может занимает целую минуту, а то и больше.
Комментарий недоступен
Какая дичь получилась, но забавно)
https://gamio.ru/game/?key=RjCEnDGbLGCym8bSxBQD
Ты трахаешься с генератором псевдоаварийных фраз...
Комментарий недоступен
а что ещё делать. При параллельных вычислениях сервер уходит в перезагрузку. Да и в самом начале про очередь всё сказано.
Менее пафосные заголовки не в почете? Точно возродишь?