Ваша проблема очень напоминает проблему с перегревом. Возможно заводской брак и нестабильно работает система охлаждения, а может быть банально корпус с плохой продуваемостью и большим количеством пыли внутри(Из-за чего поднимается температура карты) это так же объясняет, почему на видеочипе все работало стабильно(в конце концов он встроен в не самый энергопотребляемый камень, который может охлаждать чуть ли не любой кулер. Если честно, то сам только недавно пользовался именно этой моделью видеокарты(сейчас обновился) и все у меня шло хорошо. Пусть и на минималках, но это сказывается количеством видеопамяти. Проверьте видеокарту на наличие брака касательно вертушек(не люфтят ли, стабильно ли крутятся) и почистите корпус.