Tl;dr: ИИ это лучший тестировщик. Он не имеет багажа знаний, который подсказывает ему стандартные пути решения. Он проверит миллион тупых вариантов решения проблемы за секунду, и наткнётся на то, которое будет верным, согласно поставленной задаче.
А в большинстве случаев просто оказывается, что задача поставлена с ошибками.