Привет, у меня тоже GeForce Experience не хотел записывать стол. Посмотри это видео там говорить что сделать. Мне помогло
https://youtu.be/MH_EAOGGb_U