Лучший книжный момент за последние годы:

Не знаю насколько это легально, но хочу вас познакомить, по моему мнению, с одним из лучших моментов за последнее время. Он лучший как в художественном плане, так и в смысловой нагрузке. Отрывок вырван из "Ложной Слепоты" Питера Уоттса, форс которого с моей стороны кажется не скоро прекратится.

Почему он мне так нравится? Потому что раскрывает возможности человеческий знаний, заключенных в повествовательный диегезис и создающих удивительно чёткую призму, через которую автор пропускает восприятие читателя. Это не истина в последней инстанции, но это чертовски реалистичный взгляд на вещи. Такой будоражащий, беспардонно возбуждающий моё внутреннее Я.

Тема свободы воли и в целом разума не нова, но кажется, что только в последние годы ей стали уделять какое-либо серьезное внимание, потому что мы начали заглядывать куда глубже и рассматривать куда детальнее процессы в нашем организме и пытаемся это всё дело повторить в нейросетях отдельно и в сфере Искусственного Интеллекта в целом.

Вспоминается достаточно старое видео с любимого научно-популярно-переводческого канала, после которого появился цикл подобных с более детальными разъяснениями и ответами на вопросы:

Я бы не назвал это спойлером, пусть и отрывок находится в последней четверти книги, но на всякий случай оставлю предупреждение:

Ты столько сил вкладываешь в него, правда? Он возвышает тебя над зверями лесными, он тебя выделяет. Ты зовешь себя Homo sapiens — человек разумный. Да имеешь ли ты хоть представление о том, что он такое, этот разум, который ты поминаешь с таким восторгом? Ты хоть знаешь, на что он годится?

Ты, может, думаешь, разум дает тебе свободу воли? Или забыл, что безумцы разговаривают, водят машины, совершают преступления и убирают улики — и все это время находятся без сознания? Или никто не сказал тебе, что даже те, кто бодрствует, — всего лишь рабы, отрицающие очевидность?

Сделай осознанный выбор. Реши шевельнуть указательным пальцем. Поздно! Сигнал уже миновал локоть. Тело начало действовать за добрых полсекунды до того, как твое сознание решилось это сделать, ведь сознание ничего не решает; твоим телом распорядилось что-то иное, а гомункулу в черепушке только пояснительную записку отправило — если не забыло. Человечек в голове, самонадеянная подпрограмма, полагающая себя личностью, принимает взаимную связь за причинную; он читает записку, видит, как шевелится палец, и считает, что второе вызвано первым.

Но он ничем не управляет. И ты не управляешь. Если и существует в природе свободная воля, она не снисходит до таких, как ты.

Тогда что же? Проницательность? Мудрость? Поиск истины, доказательства теорем, наука, технология и все прочие исключительно человеческие занятия, которые не могут не покоиться на фундаменте разума? Может, он бы и для этого сгодился… если бы научные прозрения не возникали, вполне оформленные, из подсознания, не проявлялись в сновидениях или озарениями после крепкого сна. Первое правило зашедшего в тупик исследователя: остынь. Займись другим. Решение придет, когда перестанешь сознательно его искать.

Каждый пианист знает, что лучший способ испортить выступление — следить за движением пальцев. Каждый танцор и гимнаст понимает, что тело должно действовать само, без участия разума. Каждый водитель прибывает на место, не запоминая ни остановок, ни поворотов, ни дорог, которыми добирался. Все вы лунатики, когда взбираетесь на пики познания или в тысячный раз корпите над рутинным делом. Все вы просто лунатики.

И не поминайте только кривую обучения. Даже не пробуйте говорить о месяцах старательных тренировок, ведущих к въевшемуся в плоть мастерству, или о годах кропотливых опытов, которые венчает перевязанная ленточкой эврика. Что с того, если уроки ты усваиваешь в сознании? Разве это доказывает, что нет иного пути? Эвристические программы уже на протяжении столетия обучаются только на основе опыта. Машины освоили шахматы, автомобили научились водись себя сами, статистические алгоритмы ставят проблемы и предлагают эксперименты для их разрешения, и вы все ещё считаете, что единственный путь к обучению лежит через разум? Да вы — кочевники каменного века, впроголодь живущие в саванне, отрицая даже возможность сельского хозяйства, потому что ваши предки довольствовались охотой и собирательством.

Хочешь знать, для чего нужно сознание? Хочешь знать, какую — единственную — функцию оно реально выполняет? Подпорок для учащихся ходить, маленьких колес детского велосипеда. Ты не в силах увидеть оба аспекта кубов Неккера разом, поэтому оно позволяет тебе сфокусироваться на одном и отсечь другой. Изрядно дурацкий способ анализировать реальность. Всегда лучше видеть разом обе стороны. Ну, попробуй. Расфокусируй взгляд. Логически — это следующий шаг.

Не получается? Что-то мешает.

И оно сопротивляется.

***

Эволюция лишена предвидения. Свои цели вырабатывает только сложная система. Мозг — лжет. Контуры обратной связи возникают для поддерживания стабильности сердцебиения, а потом мозг сталкивается с искушением ритма и музыки. Удовольствие, получаемое при виде фрактальных узоров, алгоритмы, помогающие выбрать среду обитания, перерождаются в искусство. Радости, которые прежде приходилось зарабатывать шаг за шагом по эволюционной лестнице, теперь приносила бессмысленная рефлексия. Из триллиона дофаминовых рецепторов возникает эстетика, и система перестает просто моделировать организм. Она начинает моделировать процесс моделирования. Она пожирает все больше и больше вычислительных ресурсов, вязнет в болоте бесконечной рекурсии и неуместной симуляции. Как мусорная ДНК, что накапливается в геноме любой твари, система сохраняется, и множится, и ничего не производит, кроме собственных копий. Надпроцесы расцветают, точно опухоли, пробуждаются и называют себя «Я».

Система слабеет, замедляется. Столько времени уходит только на восприятие — на то, чтобы оценить сигнал, пережевать, принять решение на манер разумного существа. Но когда на пути твоем грохочет потоп, когда лев набрасывается из густых трав, новомодное самосознание оказывается непозволительной роскошью. Ствол мозга работает в меру сил. Он видит угрозу, перехватывает управление, реагирует в сотню раз быстрее, чем жирный старикашка, восседающий в директорском кресле наверху; но с каждым поколением все труднее становится обходить эту… эту скрипучую неврологическую бюрократию.

Самоодержимое на грани психоза «Я» растрачивает энергию и вычислительные мощности. Болтуны в нем не нуждаются, болтуны поскаредней будут. С их примитивной биохимией, с их небольшим мозгом — лишенные инструментов, корабля, даже части собственного метаболизма — они все равно делают нас, как паралитиков. Они прячут речь на видном месте, даже когда вы знаете, о чем они говорят. Они используют против вас ваши же когнитивные процессы. Они путешествуют между звездами. Вот на что способен интеллект, необремененный разумом.

Потому что «Я» — это не рабочий мысли. Для Аманды Бейтс сказать «Я не существую» — бессмыслица; но когда то же самое повторяют процессы в глубине её мозга, они всего лишь докладывают, что паразит сдох. Они сообщают, что свободны.

#отрывок #питеруоттс #ложнаяслепота