Запускать будем модель LLaMA, а точнее ее модифицированные версии. LLaMA — модель текстовой генеративной нейросети от Meta (признана экстремистской организацией и запрещена на территории РФ), слитая в марте 2023 года. С тех пор много воды утекло и появилось большое количество модификаций от сообщества для разных задач, начиная от сторителлинга,…
Повышенное качество генерации, возможность генерировать осмысленный текст, улучшенная эстетика и понимание запроса. Попробовать можно тут , а скачать веса для генерации локально тут. (Если что поддержка модели была добавлена в последнем обновлении automatic1111)
Давно хотел написать гайд как запустить локальную языковую модель и начать говорить с ней и получать ответ голосом. Но компания скайинг(не реклама) запустила телеграм бота который решает сразу кучу проблем кастомного решения. В кратце это был бы не ChatGPT, а нечто тупее, нужен мощный ПК ну и работало бы только на ПК. Из минусов, похотливую…