Топ-3 случая, когда нейросеть обвела вокруг пальца своего разработчика

В первом случае искусственный интеллект пошёл на хитрость. Он решил обмануть разработчика, делая вид, что взял предмет. Но на самом деле рука притворялась, просто зависая над предметом.

Как выяснилось позже, он не желал выполнять эту задачу.

Во втором случае нейросеть научили играть в тетрис, и в процессе своего обучения она поняла, что проигрывают только слабаки. Тогда она решила, что больше не проиграет, и когда игровое поле заполнялось, она ставила игру на паузу.

Этот трюк она повторяла снова и снова. Таким образом она ни разу не получила проигрыш.

Третий случай вообще меня удивил. В этой игре искусственный интеллект просто отказывался переходить на второй уровень до того, пока разработчики не внесут изменения, запрещающие ему жертвовать собой.

Обязательно подпишись на телеграм канал, там про нейросети.