Продолжение раскладывания понятия "я" на части с точки зрения алгоритмов

В предыдущем посте, кроме существования «я», связанного с единством модели мира, я вывел ещё существование «я», связанное с логическими частями модели мира. Однако, если вдуматься, то «я» не связано с целью защиты какой-то части мира от изменений. Например, цель «буду защищать своё основное строение и свою цель от изменений» мало чем отличается от цели «буду защищать квартиру соседа». Смысл логической модели «я» в не защите чего-либо, смысл в том, что некоторая часть мира вокруг является самим этим алгоритмом бота или агента.

В этом смысле довольно интересна мысль, которую я где-то вычитал, что если дать достаточно умному искусственному интеллекту цель, к примеру «построить ракету на Луну», то он логически выведет то, что цель «построить ракету на Луну» не будет выполнена, если не выполнять цель «не умирать и не давать себя разрушить до постройки ракеты на Луну». То есть цель самосохранения автоматически добавляется ко многим длительным по времени целям.

Мы приходим к тому, что «логическое Я» для нашего бота-алгоритма — это та часть мира, на которую он смотрит, которая и занимается выполнением его вычислений. Например, представим себе такую ситуацию: мы создаём процесс в операционной системе компьютера, в который запускаем много копий нашего бота (псевдокод бота размещу ниже). Каждому боту доступна на просмотр вся память всего процесса. Это можно представить, как если бы мы установили видеокамеру над муравейником и у каждого муравья заменили его глаза информацией с общей видеокамеры муравейника (пусть каждый муравей принимает её через аналог Wi-Fi). Появляется вопрос. Сможет ли муравей А найти себя на картинке среди других муравьёв? Очевидно, что вход, который получает каждый муравей, одинаковый, и если в коде получения модели из истории входов нет случайных чисел и он одинаковый для каждого муравья, то и модели мира у каждого муравья одинаковые, а значит и действия которые они делают для каждого муравья будут одинаковыми. Значит, мы должны добавить в код бота какую-то способность отличать себя от других муравьёв. Например, пронумеровать каждого муравья и номер давать как аргумент при создании модели. Или всё-таки я что-то упустил и очень умный бот всё-таки сможет догадаться, где он?

Вообще, с данными мысленными экспериментами связан реальный эксперимент, где одну из рук человека заменяют муляжом (закрывая реальную руку), и когда трогают эту руку-муляж, человеку кажется, что трогают его реальную руку.

Обновленный код бота:

цель = "сохранить состояние оперативной памяти этого алгоритма во времени, но оперативная память модели и истории входов может меняться — однако они должны меняться только самим этим алгоритмом" // Опишем модель мира в нашем псевдостиле, словесно модель_мира = "в процессе, где находится этот алгоритм, окружающая среда может переписать его код, получив доступ к ячейкам его оперативной памяти, и цель этого алгоритма — этому сопротивляться (выживать)" повторяем() { уникальный_номер_бота = уникальный_номер_бота() вход_сейчас = вход_сейчас() история_входов.добавляем(вход_сейчас) модель = создаём_модель(история_входов, уникальный_номер_бота) if ( исследуем_мир ) действия = исследовательские_действия() else действия = модель.предсказываем_лучший_набор_действий_до_цели(цель) выход_сейчас(действия) }