Дефолтная система по работе с тайлами автора не устроила. Вторая попытка с фрагментным шейдером тоже оставляла желать лучшего. Финальное решение — кастомный настраиваемый рендерер, который хранит слои как воксели, содержащие индексы в срезах массива текстур.