Это явно никак не связано со сглаживанием или разрешением рендера, как тут многие пишут.
Если в панели управления nvidia не стоят никакие приколы связанные с текстурами на "производительность", то еще как варик можно попробовать vulkan изменить на directx.