Взлом замка в The Elder Scrolls V: Skyrim и серии Fallout — мини-игра. С помощью мышки вы выбираете положение отмычки, а с помощью клавиш A и D поворачиваете замок ножом. Если точка выбрана правильно, замок открывается, если нет — отмычка ломается. Если при повороте замка отмычка дрожит, значит вы близки к разгадке.
Трудно понять что происходит в коде, но глядя на то как определяется правильно ли подобран угол, смею предположить что код мог быть намного проще.
Нужно задавать, правильный угол (желательно вектором или кватернионом), и погрешность float в обе стороны.
Сравнивать тогда правильность попадания гораздо легче c помощью "Vector3.Angle" или "Quaternion.Angle" тогда не будет этого мусора из Abs и скорее всего прочего чего я не понимаю.