Пару дней назад поменял msi 750ti на rx 570, и это на проце хуже твоего (phenom 965 x4). Нарадоваться не могу, так что не совсем у тебя система плохая. По поводу проблемы, по своему опыту подскажу, попробуй исключать комплектующие в порядке очереди, для начала запусти furmark, протестируй видяху, если вылетов не будет, переходи на проц, в той же aida64 или linx протестируй его. Дальше оперативка, и тд, исключай клмплектующие, и найдешь проблему