Концепция демона в коробке или иллюзорная безопасность AGI в наглядных, но неочевидных примерах
Всем доброго времени дня. В этом посте я кратко и лаконично приведу наглядные примеры потенциальных возможностей будущего AGI как на самом деле может произойти почти неизбежное бегство грядущего сильного искусственного интеллекта от практически любого варианта его искусственного заточения людьми в попытках обеспечить свою безопасность.
Всем привет, Друзья.
Сегодня очевидно то, что искусственный интеллект, его постепенное развитие является не просто глобальным трендом, а говоря на чистоту, мы живём в эпоху третьей промышленной революции на основе самых разных проявлений искусственного интеллекта на всех уровнях в жизни. Как и обе предыдущие глобальные индустриальные революции, она начинает серьёзно влиять на уклад жизни, работу, в ожидании, страхи и так далее. И как в легенде о Царе Соломоне, который за ночь построил Первый Храм благодаря легиону духов, ныне заключённых в сосуде где-то на дне Красного Моря, так и сильные искусственный интеллект в будущем не столь отдалённым, как может показаться, станет для нас чем-то наподобие этого.
Но к сожалению кроме этого, ставшего базовой константой, понимания, в обществе нет ясности нюансов обеспечения безопасности людей, если на то будет заметный для большинства повод. Решение проблем которых сейчас неизвестно.
Конкретном сегодняшнем примере, давайте рассмотрим концепцию так называемого демонов в коробке. То есть когда достаточно развитый синтетический искусственный интеллект может представлять серьёзную угрозу для человечества, после чего его искусственного ограниченном объёме сервера или просто компьютера, подключённого от внешней связи с чем-либо.
Как и обещал, опишу некоторые неочевидные, но вполне реалистичные сценарии так сказать возможного побега ИИ из кажущегося изолированным объёма.
Итак, вот список вполне реалистичных сценариев в таком случае:
- Основной и главный тезис заключается в том, что потенциально созданные в недалёком будущем сильный искусственный интеллект (AGI) по своей внутренней природе отличается не просто от нас самих и нашего мышления, он будет являться личностью, размышляющей на языке физических законов, которые для него будут естественной средой обитания.
- На подобном уровне знания базовых законов физики, AGI будет способен применять их в неочевидных для нас сценариях, пользуясь нюансами, которые нам даже в голову могут не прийти.
- Будучи условно заточенным в рамках одного компьютера (или набора серверных кластеров, не суть), который изолирован от интернета, достаточно развитый искусственный интеллект сможет за счёт существующего электромагнитного или радио фона, не являющегося выходом связи с привычном нам понимании, улавливать микроскопические доли статистического колебания электромагнитных полей (обобщённый наглядный пример - звуковые шумы при радиосвязи классических протоколов, которые возникают если рядом включается разговор по мобильному телефону) таким образом, что лишь за счёт этого, AGI будет вполне в состоянии организовать для себя способ связи с расположенным рядом устройстве, например смартфоном, даже если формально отключить на таком смартфоне wi-fi, bluetooth и даже обычную связь. Для синтетического разума, обитающего в родном для него в мире физических законов, задача взлома и перепрограммирования компьютерных устройств неподалёку, какой-то непреодолимый проблемой не будет являться.
- Или подобного вышеописанному сценарию, такое искусственный интеллект будет способен улавливать и читать даже крошечные бинарные шумы в своих рабочих процессах, которые могут возникнуть из-за того что где-то неподалёку окажется человек, ведущий с кем-то разговор.
- Если подобные утончённые нюансы кажется кажется вам слишком фантастичными, то это уже не так. Сегодня Любой человек со смартфоном и нужным программным обеспечением, может дистанционно переводить человеческую речь на основе движения губ и мимики. Ну то есть буквально как в культовом научно-фантастическом фильме Стэнли Кубрика "Космическая Одиссея 2001".
- К примеру в Ватикане во время Конклава, окна помещения для выборов Папы Римского, висящие под потолком огромного зала, закрывают специальными ставнями чтобы исключить возможность подслушивания аудиофона извне с помощью о колебаний лазерного луча, конвертирующего крайняя слабую вибрацию стёкол. Что уж говорить про ИИ, обитающего в родном для него мире физических законов, в которых он обитает.
Если вам было интересно, подписывайтесь на мой блог, где я регулярно публикую свои размышления на эту и многие другие темы:
В общих чертах одной фразой сейчас ИИ подобен подрастающему тигру, животному, которое откажется от предлагаемых хозяином овощей и перепрыгнет забор, после чего его будет невозможно вернуть обратно в вольер. Любой разум, включая синтетический, усвоивший новый опыт, уже никогда не вернется в прежние границы.