Хуанг в своей безграничной мудрости выпустили демку с настройками под fullhd и 11gb vram. То бишь только квадро, титаны и 3090, а, ну и владеьце 3060 пришёл вас час.
Т.е. без смены настроек на картах с менее чем 11gb vram не запуститься.
RTX 5000 с 16gb в минимальных не зря стоит.
[каталог установки демо]\marbles_rtx-2021.1.5\_build\windows-x86_64\release\apps
там файл omni.app.marbles.kit
в нём строчка 
renderer.minGpuMemoryMB = 11000
В общем я потыкал настройки туда сюда, и даже если сначала идёт нормально потом vram заканчивается.
В общем скорее всего оно и правда не запуститьcя с vram ниже 11gb. Слишком много ассетов в память напихано. Вряд ли даже более агрессивный dlss поможет. Хотя если удалить 10-20% ассетов то молго бы и вместиться в 10 и меньше.
Незнаю конечно куда движется эта омниверс система, но глядя на тот как оно нещадно жрёт vram при повышении разрешения рендеринга до fullhd и выше, складывается такое ощущение что нормально пользоваться ей можно только на 3080 и выше. Ну или очень простые сцены с кучей дубликатов, а не так как в marbles.