Концепция демона в коробке или иллюзорная безопасность AGI в наглядных, но неочевидных примерах

Всем доброго времени дня. В этом посте я кратко и лаконично приведу наглядные примеры потенциальных возможностей будущего AGI как на самом деле может произойти почти неизбежное бегство грядущего сильного искусственного интеллекта от практически любого варианта его искусственного заточения людьми в попытках обеспечить свою безопасность.

Концепция демона в коробке или иллюзорная безопасность AGI в наглядных, но неочевидных примерах
3
2

Наиболее важные общие факты про ИИ за последние месяцы, вплоть до текущего момента

В общих чертах одной фразой сейчас ИИ подобен подрастающему тигру, животному, которое откажется от предлагаемых хозяином овощей и перепрыгнет забор, после чего его будет невозможно вернуть обратно в вольер. Любой разум, включая синтетический, усвоивший новый опыт, уже никогда не вернется в прежние границы.

Наиболее важные общие факты про ИИ за последние месяцы, вплоть до текущего момента
3
3
2
1

Размышления о ближайшем будущем ИИ или почему этот хайп захлебнется (лонг)

Каждый раз, когда речь заходит про современныи ИИ, обязательно вылезет минимум один любитель экстраполяции и расскажет, что уже в 202x-м году ИИ достигнет каких-то невиданных высот.

Любой тред про ИИ
469
111
21
17
9
4
3
2
2
1
1
1

Nvidia взломала матрицу: Как ИИ научился видеть сны и почему это страшнее, чем кажется

Игорь Телегин, на связи! Забудьте всё, что вы знали об ИИ. Пока мы игрались с ChatGPT, Nvidia тихо строила БУДУЩЕЕ. Их проект «Космос» – это ИИ, который будет учиться во сне, как человек! Да, вы не ослышались. Настоящая "фабрика снов" для машин. Погнали смотреть, что за киберпанк они нам готовят!

Илон Маск объявляет войну OpenAI: что это значит для будущего искусственного интеллекта?

Илон Маск объявляет войну OpenAI: что это значит для будущего искусственного интеллекта?

Илон Маск обвиняет OpenAI в нарушении соглашения и предательстве интересов человечества в пользу прибыли Microsoft. В этом обзоре мы рассмотрим историю OpenAI, суть претензий Маска и почему этот иск может стать важным прецедентом в отношении ответственности компаний, разрабатывающих технологии общего искусственного интеллекта (AGI).

18