Есть даже такой способ обучения нейронных сетей - generative adversarial network (GAN), где две нейронки соревнуется: одна учится отличать сгенерированные второй примеры от настоящих данных, а вторая учится обманывать первую.

Комментарий недоступен

Фигня в том, что в современном мире очень сильные ИИ делается на основе соревнования двух ИИ, один например пытается рисовать банан, второй смотрит на реальные бананы и говорит - не, это пока не банан. Как это работает, можно посмотреть в любом видео по нейронным сетям на ютубе последнего года. Оба ИИ работают на большйо скорости пока люди спят, едят, греются на солнышке и успевают сделать за день то, на что у "обучателей ИИ обычным способом" ушел бы месяц.
То есть создание ИИ, определяющего дип-фейк видео только увеличит потенциальный рост способнойстей дипфейка, причем скорее всего лавинообразно.