Вопрос по нейросетям

Обычно обучение ведется подачей пачек примеров в нейросеть и прогоном некотрого числа эпох обучения.

Есть ли методы непрерывного обучения, где в нейросеть постоянно подаются новые примеры без повторов?

99
30 комментариев

Комментарий недоступен

4
Ответить
Автор

Похоже на то что нужно. Но эта статься задавила формулами..

Ответить

Отличная тема! Выглядит многообещающе, надо будет углубиться.

Ответить

Можно написать скрипт, который будет запускать переобучение последних слоев с определенной периодичностью, раз в сутки, например, или когда накопится датасет определенного размера.

Можно автоматизировать процесс так, что текущая версия нейронки используется, а новая параллельно обучается. И если у новой нейронки получается результат лучше, то старая версия обновляется до новой.

1
Ответить
Автор

Я хотел сделать именно так)

Ответить

Есть - это наши мозги :)

А нейросетки трясут пока узлы не начнут выдавать что то удаленно похожее на подаваемый на выход результат

Ответить

А вообещ если тебя интерисует непрерывный процесс и автоассоциации то тебе в модель "Иерархическая временная память" Hierarchical temporal memory, HTM

https://ru.wikipedia.org/wiki/%D0%98%D0%B5%D1%80%D0%B0%D1%80%D1%85%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B0%D1%8F_%D0%B2%D1%80%D0%B5%D0%BC%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BF%D0%B0%D0%BC%D1%8F%D1%82%D1%8C

2
Ответить