У ИИ нашли первое цифровое заболевание — «расстройство модельной аутофагии»

https://www.sciencealert.com/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data
https://www.sciencealert.com/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data

Учёные из университета Райса обнаружили у ИИ первое цифровое заболевание, названное «расстройство модельной аутофагии» (Model Autophagy Disorder, MAD). Это состояние возникает, когда модели ИИ обучаются на данных, созданных другими моделями ИИ, вместо свежих реальных данных. Со временем это приводит к деградации качества и разнообразия генерируемых результатов, результаты ИИ начинают походить друг на друга и постепенно терять в качестве.

На изображениях, демонстрирующих последствия такого обучения, видно, как качество изображений ухудшается через несколько циклов обучения, превращаясь в неузнаваемые и искажённые версии изначальных данных.

Исследователи продемонстрировали, что без регулярного обновления реальными данными результаты ИИ начинают становиться всё более искажёнными и однообразными, что в конечном итоге может привести к серьёзному снижению качества создаваемых изображений или текстов.

Присоединяйтесь к нам в телеграм 🍳 - публикуем интересное из мира новых технологий, ближайшего будущего и полезных сервисов!

22
9 комментариев

Нейро-инцест получается

6
Ответить

В смысле обнаружили? Это было всегда ведь очевидно, нейронки обобщают знания, выдают что то среднее, если нейронкам скармливать их же результаты они начнут обобщать уже обобщенное и все больше приходить к чему то усредненному. Поэтому выход нейронок в свободное плавание по интернету приближает их смерть, как впрочем и интернета, который будет засран потоком флуда от нейронок.

4
Ответить

Лица тех, кто говорит что ИИ рисует сам на основе своей "фантазии" прошу в комментарии. И то, что воровство это "вдохновение", а не паразитирование)

Ответить

Таким лицам рекомендуется недельку погенерить в стейбл диффужон анимешных тяночек. Очень быстро пелена с глаз спадает по поводу возможностей разнообразия и креатива моделей.

3
Ответить

ИИ чисто такой:

Ответить

Исследование уровня если нагревать воду на огне - она станет горячая. С самого появления первых нейронок в пабе - встал вопрос полной компроментации данных в интеренете для последующего обучения.

Ответить

Ну это тоже самое что сжать сжатый джипег 5 раз и думать что он стал в 5 раз лучше.

Ответить