🧠 MiniMind: Полный гайд по обучению своей GPT-модели

➖ Обучение с нуля: полный цикл создания языковой модели.

➖ Скорость: всего 2 часа на RTX 3090 (или аналогичной карте с 24 ГБ VRAM).

➖ Чистый PyTorch: никаких абстракций - код легко читать и модифицировать.

➖ Полный пайплайн: препроцессинг данных, токенизация, обучение, оценка.

➖ Экспорт: готовую модель можно загрузить в Ollama, vLLM, или использовать в своих проектах.

➖ Документация: подробные инструкции, примеры и пояснения.

git clone https://github.com/jingyaogong/minimind.git cd minimind

2. Установите зависимости:

pip install -r requirements.txt

3. Подготовьте данные (в репозитории есть примеры).

4. Запустите обучение:

python train.py

5. После завершения обучения экспортируйте модель:

python export.py --output model.pt

❤ В своем Телеграм-канале я активно делюсь новыми нейросетями и сервисами, подписывайтесь!