По мне так проще ограничить жор твоей "задачи". Хз куда тебе понадобилось более 40гб памяти, но это лучше и эффективнее, чем пердолится с реестрами. Потому что получается пиздец какая тупая связка - не хватает памяти видюхи > оно лезет в оперативку > ты этим же забиваешь оперативку > начинает дергатся файл подкачки.