Сам Houdini - это типо само приложение для моделирования, типо как Maya. А Houdini Engine - это библиотека обработчик работающая с плагинами, в Unreal/Unity например. Меняешь что-то в houdini ассете в UE - изменения отправляются в Houdini Engine, пересобираются и шлются обратно в UE.

В общем сам Houdini - для создания ассетов, а Engine - для их работы в Unreal/Unity

Я так понимаю это что-то вроде бриджа для программ.