Вопрос по языковым моделям от несведущего

Вопрос по языковым моделям от несведущего

Кто-нибудь разбирается в языковых моделях?

Можно ли взять натренированную языковую модель типа ChatGPT 3.5 и отдельно загрузить в неё свой набор данных/базу данных/сборку информации.

Как это сделать?

Насколько это сложно и затратно.

Чтобы модель помнила и генерировала ответы на основе загруженной мною информации.

Например, если загрузить в неё данные из вики X по лору X игры или книг по НРИ с подробным описанием сеттинга X, чтобы на основе этой инфы была возможность создавать изначально понятные промпты и генерировать намного более логичные и точные взаимосвязи вместо того, чтобы вручную проводить поиски на ресурсах, вручную строить взаимосвязи или доказывать языковой модели, что она несёт чушь.

Для того, чтобы иметь возможность строить логичные структуры повествования на основе существующего источника в виде сеттинга/лора для формирования собственных сценариев для них.

Заранее прошу прощения за перегруженный и непонятный вопрос, а также буду рад любому ответу.

44
3 комментария

Можно. Это называется fine-tuning. Не сложно, придется сделать JSON с примерами сообщений и скормить итоговый файл боту. Это платно, и дальнейшее использование через API тоже стоит денег. Подробнее можно почитать на сайте OpenAI

1
Ответить