Когнитивный диссонанс в два часа ночи

«Errare humanum est» — знаменитое латинское крылатое выражение, означающее «Человеку свойственно ошибаться».

В то же время для обучения моделей машинного обучения используют функции потерь. Она ищет то, насколько нужно изменить свои параметры, чтобы ошибочный ответ стал ближе к правильному. (Потеря - это разница между ошибкой и правильным ответом). Т.е. они учатся на своих ошибках и без ошибки нет обучения.

Вот эти ребята прямо пишут, что демонстрация моделям ии ошибочных рассуждений с объяснением того, почему это они являются ошибочными, значительно эффективнее, чем стандартная настройка только на правильных цепочках рассуждений.

В обучении с подкреплении используется опыт готовой модели, которая совершила вагон ошибок.

Поэтому... стали ли нейросети человечны, когда их начали учить на своих ошибках?