Вопрос по нейросетям

Обычно обучение ведется подачей пачек примеров в нейросеть и прогоном некотрого числа эпох обучения.

Есть ли методы непрерывного обучения, где в нейросеть постоянно подаются новые примеры без повторов?

66 показов
365365 открытий
30 комментариев

Комментарий недоступен

Ответить
Автор

Похоже на то что нужно. Но эта статься задавила формулами..

Ответить

Отличная тема! Выглядит многообещающе, надо будет углубиться.

Ответить

Можно написать скрипт, который будет запускать переобучение последних слоев с определенной периодичностью, раз в сутки, например, или когда накопится датасет определенного размера.

Можно автоматизировать процесс так, что текущая версия нейронки используется, а новая параллельно обучается. И если у новой нейронки получается результат лучше, то старая версия обновляется до новой.

Ответить
Автор

Я хотел сделать именно так)

Ответить

Есть - это наши мозги :)

А нейросетки трясут пока узлы не начнут выдавать что то удаленно похожее на подаваемый на выход результат

Ответить

А вообещ если тебя интерисует непрерывный процесс и автоассоциации то тебе в модель "Иерархическая временная память" Hierarchical temporal memory, HTM

https://ru.wikipedia.org/wiki/%D0%98%D0%B5%D1%80%D0%B0%D1%80%D1%85%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B0%D1%8F_%D0%B2%D1%80%D0%B5%D0%BC%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BF%D0%B0%D0%BC%D1%8F%D1%82%D1%8C

Ответить