Игры
Андрей Лисяный
40 752

Prey с философской точки зрения: как игра решила многовековую проблему морали Материал редакции

Вооружившись современной нейробиологией, разработчики нашли выход из основной дилеммы трансгуманизма.

В закладки
Аудио

Prey 2017 года — многоплановое произведение. Прежде всего сюжет игры рассказывает о вторжении пришельцев, которому подверглась космическая станция «Талос I». В то же время важную роль в истории играют размышления о трансгуманизме, его рисках и выгоде. Недалеко от истины мнение, что сама игра — 25 часовая иллюстрация «проблемы вагонетки». Но в конечном итоге создатели используют все эти идеи, чтобы разобраться, что же такое человек.

Подобный вопрос старше самой научной фантастики как жанра. В разное время свои версии озвучивали многие учёные, теологи и философы, а позже тему подхватили фантасты, пытаясь найти границы «человеческого». Эта проблема завела в тупик немало авторов, даже серия Deus Ex смогла лишь приблизительно очертить суть проблемы, но не найти решение.

Казалось бы, чёткого ответа тут просто не может быть, и тем не менее разработчикам из Arkane Studios удалось отыскать его. Для этого пришлось всего лишь разобрать до основания идеи трансгуманизма, обратиться к современным достижениям нейробиологии и заодно решить центральную проблему добра и зла.

Разум — последний рубеж

​Станция «Талос I»

Действие Prey происходит на космической станции «Талос I» на орбите Земли. Станция принадлежит мегакорпорации «Транстар», которая занимается усовершенствованием человека. Достичь улучшений компания хочет при помощи нейромодов — модификаций человеческого мозга.

Начинается игра довольно мирно — герою предлагают пройти небольшой психологический тест. А в заглавной песне восхваляется свобода и невинность, которые ждут человечество за пределами Земли. Иронично, поскольку центральная тема игры — моральная ответственность.

Prey — требовательная к игроку научная фантастика. В ней переплетается сразу несколько тем и идей, и поэтому игру стоит рассмотреть в контексте более ранних произведений.

​Иллюстрация Сида Мида — яркий образец мечты об идиллическом будущем, которое ждало бы человечество в космических колониях

Покорение космоса было одной из первых тем, которые затронула фантастика. Многие писатели и режиссёры мечтали о других мирах и придумывали самых странных существ, которые можно было бы там встретить. Казалось, освоение космоса — ключ к беззаботному существованию человечества. В 1960-е культовый фантастический сериал Star Trek даже сделал своим слоганом фразу: «Космос — последний рубеж».

К сожалению, колонизация других миров никак не изменила человеческую природу. За пределами Земли людей про прежнему ждали голод, бедность, войны и болезни.

Позднее многие начали искать утешение в трансгуманизме. Это философское течение рассматривает идею улучшения человеческой природы при помощи новых технологий. Но поскольку многие идеи рассматривали только физическое усиление человека, фантасты начали опасаться, что трансгуманизм не устранит человеческие недостатки, а наоборот — усилит их.

Мы можем встретить воплощение этих страхов в киберпанке: в «Нейроманте», «Схизматрице», «Призраке в доспехах» и многих других произведениях жанра люди стали более сильными, быстрыми и выносливыми, но остались такими же несчастными.

Ghost in the Shell, 1995

Следует также отметить, что с популяризацией трансгуманизма как никогда актуальной стала проблема «Тезея». Согласно древнегреческой легенде, это корабль, в котором постепенно поменяли каждую деталь на новую. Остался ли он самим собой? В контексте трансгуманизма вопрос можно сформулировать иначе: «Если в человеке заменить 99,99% тела на искусственные части, останется ли он человеком?»

Чтобы ответить на этот вопрос, нужно чётко понимать, что мы подразумеваем под термином «человек». Эта проблема получила широкое освещение в поджанре фантастики, посвящённом контакту с пришельцами. Именно на контрасте с инопланетянами многие произведения подчёркивали те или иные черты людей.

​Одна из особенностей «Теста Тьюринга» — существуют рациональные паттерны поведения, не свойственные человеку

Несомненно, интересовала фантастов совсем не биология — на Земле и так полно других видов животных. Людей от остальной природы отличает наличие разума. «Человеческого» разума — так как многие наши решения продиктованы не только логикой, но и эмоциями. Именно гипотетические когнитивные и культурные отличия становились основой для фантастических произведений.

Для трансгуманизма эта проблема имеет практическое значение — нам необходимо понимать, какие «красные линии» не стоит пересекать, если мы хотим остаться людьми.

Даже на сегодняшний день на этот вопрос не существует однозначного ответа. С одной стороны, ваш сосед не перестанет быть человеком только потому, что имплантирует себе искусственный водитель ритма или заменит руку механическим протезом. С другой стороны, последствия вмешательства в геном или вживления нейроинтерфейса в человеческий мозг остаются неизвестными.

И всё же самыми непредсказуемыми остаются улучшения, которые затрагивают нашу психику. Они могут повлиять на то, как мы будем воспринимать окружающий мир, понимать добро и зло, как будем принимать решения и относиться к другим людям. Такие улучшения могут как спасти человечество, избавив его от постоянных войн и недопонимания, так и уничтожить его, разрушив связывающие общество узы.

Подобную идею можно встретить в последнем большом произведении Аркадия и Бориса Стругацких «Волны гасят ветер». В нём от человечества отделилась группировка сверхлюдей, которая отличалась в первую очередь не силой, а образом мышления. Такие идеи можно встретить не только в фантастике, но и в философии ХIХ века. Например, Фридрих Ницше выдвигал гипотезу, что именно новый образ мышления будет отличать сверхчеловека от его предков.

​Нейромоды в Prey

В итоге именно эти идеи рассматривает Prey. В игре улучшения человека — в первую очередь ментальные, психические. Нейромоды дают феноменальную память, скорость реакции, глубокое понимание математики и других наук. Физическое улучшение же имеет второстепенное значение, словно что-то само собой разумеющееся. Перефразируя фантастику ХХ века, слоган компании «Транстар» утверждает, что именно «разум — последний рубеж».

Несомненно, небольшие изменения только улучшат жизнь людей. Нет ничего плохого в хорошей памяти, смекалке или восприятии. Но что, если нейромоды позволят избавиться от чувства боли, от волнений и переживаний. Что, если они заставят смотреть совсем иначе на знакомых и близких. Серьёзные изменения психики неотвратимо повлияют на то, какие решения принимает человек в обычной жизни, а это на корню изменит наше общество.

Модификации значительно расширяют физические и умственные способности людей

Разработчики поставили себе амбициозную цель — найти грань, которая отделяет человеческое мышление от любого другого. Самый очевидный способ показать чужой разум — придумать непохожих на людей пришельцев, и в Prey тифоны действительно получились нечеловечными. Но это всего лишь верхушка айсберга. На примере главного героя Моргана Ю Arkane Studious продемонстрировала, как человек может постепенно терять свои черты и отдаляться от других людей, всё больше принимая образ мышления пришельцев.

Так что же такое «человек» и где же грань? Для начала, разработчики вынесли за скобки любые физические улучшения, ведь множество киберпанк-произведений доказало, что человеческая природа остаётся неизменной, несмотря на любые «апгрейды». Во-вторых, они уточнили, что сами по себе умственные способности ещё не определяют «человечность»: компьютеры давно научились обыгрывать людей в различные игры, обладая несравнимо лучшей скоростью реакции и способностью к вычислениям.

В итоге, людям остаётся именно нравственная сфера — то, каким образом мы принимаем решения. И чтобы разграничить человеческий и чужой разум, Arkane Studious прибегли к самой известной моральной дилемме — «проблеме вагонетки».

Человек под поездом

«Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?» — такова первоначальная формулировка дилеммы.

Дилемма призвана продемонстрировать различие между утилитарной и деонтологической этикой. Утилитаризм оценивает действия исключительно по последствиям и призывает человека принимать решения, которые приносят в результате больше всего пользы. Деонтологический же подход заставляет человека руководствоваться определёнными правилами. Если его упростить, то принцип прозвучит как «Поступай по совести и будь что будет».

Существует множество модификаций этой дилеммы, но самая значимая среди них — «дилемма толстяка».

«Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Вы находитесь на мосту, который проходит над рельсами. У вас есть возможность остановить вагонетку, бросив на пути что-нибудь тяжёлое. Рядом с вами находится толстый человек, и единственная возможность остановить вагонетку — столкнуть его с моста на пути. Каковы ваши действия?».

Такой вариант ощутимо усложняет дилемму. Если прежде человек не нёс ответственности за смерти других людей, обречённых экспериментатором, то во втором случае он непосредственно убивает невинного человека, самостоятельно толкая его под рельсы поезда. Именно в этой формулировке Prey задаёт игроку дилемму в начале игры, добавляя третью опцию — прыгнуть под поезд самому.

Тест в начале игры

Опросы и исследования показали, что убийство толстяка для большинства опрошенных — что-то немыслимое и отвратительное. А вот повернуть стрелку в первом варианте для них же проще простого.

Всё это приводит к парадоксу, если мы попробуем оценить действия испытуемых согласно практической утилитарной морали: ведь результат один и тот же, пять человек спасены ценой одной жизни!

Почему первый вариант для большинства приемлемый, а второй аморальный? И какое же решение в итоге верное? Этими вопросами дилемма затрагивает фундаментальную проблему морали.

Мораль утверждает, что существуют злые и добрые решения (правильные и неправильные, нравственные и безнравственные). Не имеет значения, выставлены критерии «правильности» Богом, заложены природой или определены общественным договором — люди должны руководствоваться общими правилами для существования цивилизации.

Соответственно, любое действие может быть нравственным и безнравственным. Отличить первое от второго бывает достаточно сложно, особенно учитывая, что большинство действий могут иметь одновременно положительные и отрицательные побочные результаты. За столетия появилось много разных концепций, позволяющих поступить правильно в подобной «серой» ситуации. Возможно, самая значимая среди них — «Доктрина двойного эффекта», предложенная 700 лет назад философом Фомой Аквинским в «Сумме теологии».

Фома Аквинский

Согласно концепции, чтобы действие считалось правильным и нравственным, оно должно отвечать нескольким критериям:

  • действие должно приводить к общему положительному или нейтральному результату (в обоих примерах с вагонеткой испытуемый спасает пять человек);
  • позитивный эффект должен перевешивать негативный (снова, оба результата спасают пять жизней ценой одной);
  • человек обязан иметь благие намерения (нельзя убить человека только потому, что нравится убивать, и оправдать это благом для пятерых);
  • действия человека не должны непосредственно приводить к негативному эффекту. Нельзя благой целью оправдывать злые поступки.

Именно в последнем критерии отличаются два мысленных эксперимента с вагонеткой. Доктрина двойного эффекта разрешает спасти пять жизней, позволив одному человеку умереть вместо них, но запрещает непосредственно убивать ни в чём не повинного толстяка.

Как бы условно концепция не звучала, именно на ней основываются почти все правовые нормы современной цивилизации. Например, на основе идей Аквинского разработана концепция допустимости самообороны. Или правила ведения войны — например, множество стран осуждают бомбардировки мирного населения с целью устрашения как допустимого способа ведения боевых действий, но в то же время не возражают против побочных потерь вследствие уничтожения вражеских укреплений.

Медицинская деонтология разделяет активную и пассивную эвтаназию, хотя оба процесса приводят к одинаковым последствиям. Акушер-гинеколог может быть категорически против аборта, но не будет сомневаться в правильности удаления матки, если это необходимо для спасения жизни беременной женщины.

Несмотря на широкое применение этой концепции, приверженцы утилитарной морали не видят разницы, почему одно действие лучше другого, если их последствия одинаковы.

Как результат, философы долго пытались понять, откуда берутся представления о морали, на чём они базируются, и почему человек интуитивно им доверяет.

​Иммануил Кант, сторонник разумной природы морали

Иммануил Кант ещё в XVIII веке предположил, что наши представления о добре и зле — следствие мышления, разумного суждения. Что homo sapiens использовали умственные способности ради просветления и сами создали для себя определённые правила. С тех пор обрела популярность мысль, что мораль и нравственность приходят вместе с рациональностью, что любой просвещённый разум рано или поздно придёт к универсальным, общим правилам морали.

Отсюда и пошло распространённое мнение: какую бы жизнь мы не встретили в космосе, если она будет разумной, то её ценности будут совпадать с нашими — и мы быстро найдём общий язык.

Нейробиологические исследования 21 века доказали, что такой ход мысли ошибочный.

Добро, спрятанное в генах

На сегодняшний день эксперименты демонстрируют, что для животных характерны моральные качества, считающиеся ранее продуктом разума. Так, шимпанзе склонны поощрять бескорыстные действия и изолировать тех, кто поступает эгоистично, а львы в прайде могут поступать альтруистично, если того требуют обстоятельства.

​Джошуа Грин

Одни эти факты ставят крест на теории, что нравственность возникла благодаря разумным суждениям и присуща только человеку. Но особенно интересны исследования нейробиолога Джошуа Грина, который уже несколько десятков лет изучает физиологические основы морали.

​В своих исследованиях профессор Грин пользуется аппаратом МРТ и снимает коннектомы — «срезы» активности мозга. Интересно, что именно по принципу коннектом устроены нейромоды в Prey

Исследования Грина развенчали множество гипотез о нравственности и доказали, что во многом понятия о морали — врождённые. Если говорить точнее, то за разные моральные решения отвечают разные структуры мозга, и не существует универсального морального компаса. В частности, учёный опрашивал испытуемых, как они поступят в «проблеме вагонетки», и смотрел, какие зоны мозга активируются.

​Варианты «проблемы вагонетки»

Так, например, если стоит выбор между «повернуть стрелку рельс» и «ничего не делать», активируется аналитическая, безличная часть нейронной коры. Решения примет та же часть мозга, что отвечает «что мне съесть на завтрак» или «поехать мне на автобусе или такси».

Но если речь заходит о непосредственном действии, как например столкнуть стоящего перед испытуемым толстяка на рельсы — активируется часть коры, отвечающая за сильные эмоции. Это становится личным решением. Поэтому возникают и разные результаты.

Джошуа Грин выдвинул гипотезу «Двойной обработки»:

За деонтологические, «совестные» решения отвечают участки, обеспечивающие автоматический эмоциональный отклик, а за расчётливые, взвешенные — аналитическая часть мозга.

Это означает, что наше моральное решение зависит от того, касается ли нас ситуация лично или нет. Возможно, всему виной так званные «зеркальные нейроны», отвечающие за эмпатию и заставляющие нас сопереживать «толстяку».

На основе исследований Грина можно сделать вывод, что то, что мы называем моралью — всего лишь эволюционный механизм, призванный защитить человечество как биологический вид.

Мораль развивалась как решение проблемы кооперации, как способ предотвращения Трагедии Общин. Она — психологическая адаптация, которая позволяет эгоистичным индивидуумам воспользоваться преимуществами кооперации.

Джошуа Грин, «Моральные племена»

При этом ключевое значение придаётся именно эмпатии и сопереживанию близким людям, которое заставляет ставить их интересы выше интересов большинства.

Кооперация развивается только если индивидуумы, склонные к сотрудничеству, побеждают тех, что нет. Поэтому, если мораль — способ адаптации, мы нравственны только потому, что наши моральные предки выиграли у их менее сговорчивых сородичей.

Поэтому, мораль, как способ адаптации, не только заставляет ставить «мы» выше в приоритете чем «я», но и «мы» выше чем «они».

Семейная любовь — не просто тёплая и уютная вещь. Это стратегический биологический принцип, часть механизма морали, который позволяет генетически близким особям получать преимущество от кооперации.

Джошуа Грин, «Моральные племена»

Таким образом, мораль, которую мы считали особенностями нашей культуры и результатом разумных суждений, оказывается ещё одной биологической особенностью нашего вида.

Неизвестно, читали ли разработчики Prey труды Джошуа Грина или сами к этому пришли, но в игре «проблема вагонетки» используется с той самой целью — продемонстрировать, что эмпатия и нравственность оказываются отличительными врождёнными чертами людей.

Разум чужой и разум человеческий

По большому счёту, вся Prey — и есть тест на «проблему вагонетки». Инопланетное вторжение — смертоносный поезд, пятеро человек на рельсах — население Земли, которое может погибнуть, если не уничтожить всё живое на станции. Так что разрушение «Талос I» математически оправдано, вопрос в том, готов ли так поступить Морган Ю.

Одно дело — «потянуть рычаг», это просто, безличностно и безэмоционально. Но готов ли главный герой ради человечества «толкнуть толстяка»: убить родного брата, по совместительству директора станции, всех своих друзей и знакомых.

​Алекс Ю, брат главного героя и директор станции «Талос I»

Детальнее, чем обо всём другом, Prey рассказывает о личности Моргана Ю. Каждый месяц вплоть до катастрофы он устанавливал себе всё больше нейромодов, и всё больше становился похожим на пришельца. Каждый месяц он записывал «дневник», а тест «вагонетки» контролировал, не слишком ли далеко герой зашёл.

Символично, что сначала герой руководствовался чисто альтруистическими побуждениями — он хотел улучшить жизнь будущим поколениям. Спустя какое-то время он стал более жестоким и замкнутыми, и его знакомые начали сомневаться, всё ли с ним хорошо. А к началу игры Ю уже был готов уничтожить станцию и убить таким образом всех близких людей.

Тут стоит вспомнить о тифонах, пришельцах, на основе которых созданы нейромоды. У них нет зеркальных нейронов, а потому эмпатия им неведома. Поскольку она — неотъемлемая часть нашей нравственности, можно сказать, что они не способны к «добрым» и «злым» поступкам, а просто поступают рационально.

Директор станции даже сравнивает их с растениями и спрашивает, можем ли мы винить дерево, разрушающее корнями асфальт.

Тифоны убивают нас без раздумий. Но это не потому, что они злые, а потому, что они не могут поступать иначе. При всех их чудесных способностях, они не могут только одно, что можем мы — сопереживать страданиям другого живого существа.

Алекс Ю

Тифоны прописаны достаточно оригинально и подробно, хотя подобные концепции пришельцев уже были, достаточно вспомнить «Ложную слепоту» Питера Уоттса. Но всё же они в игре — лишь фон для центральной истории.

В Prey игрок постоянно сталкивается с выбором, который так или иначе бросает вызов его человечности. Сначала он встречает запертого в камере для испытаний маньяка, «злодея». Герой может позволить ему умереть и получить несколько дополнительных улучшений, а может из чувства сострадания его отпустить.

Дальше игра предложит сбежать со станции, оставив всех остальных в беде, а следующий выбор заставит решить судьбу шаттла «Адвент», который несёт к Земле уцелевших людей и, возможно, несколько тифонов. Морган Ю будет постоянно встречать на своём пути выживших, и игра даст возможность их выручить: отбить атаку пришельцев на блокпост охраны, найти лекарство для больного инженера, вытащить из передряги учёного.

«По-человечески» хочется всем этим людям помочь, но какой в этом смысл, если Морган должен сдержать вторжение на Землю и уничтожить станцию вместе со всеми. Именно такие вопросы задаёт Prey.

В конце-концов, выясняется, что все события — личный тест для главного героя. Что все его решения можно свести к двум: одни абсолютно логичные, правильные и рациональные, а вторые продиктованные эмпатией, странной привязанностью к другим людям, оказавшимся на станции вместе с Морганом Ю, пусть у них самих куча скелетов в шкафу.

Подводя итоги в концовке: не в ДНК, не в логике, не в способности мыслить и поступать разумно, а именно в сопереживании авторы видят ту грань, которая отделяет человеческий разум от любого другого.

Prey рассказывает, в первую очередь, не о чужом разуме, а о наших собственных эмоциях, переживаниях, альтруизме, сострадании, понятии «добра» и «зла». Вполне вероятно, что все эти качества — не продукт нашей культуры, а лишь возникшие в результате эволюции психологические уловки, которые бессознательно корректируют наше поведение и влияют на наши действия.

В какой-то мере они даже противоречат логике, эффективности и простому расчёту, и можно представить разумное существо, лишённое всех этих черт. Но в тоже время это всё то, что выделяет нас как вид, определяет, что такое «человечность», в противовес простой математике.

Трансгуманисты склонны считать, что это всё сейчас лишь сдерживает наше развитие. Но, возможно, эти вещи не стоит выбрасывать и руководствоваться чистой математикой, ведь эмпатия и альтруизм — ещё и защитные механизмы, сохранившие нас как биологический вид.

Многие произведения в жанре космической фантастики и киберпанка поднимали тему «человечности», но Prey, кажется, на сегодняшний день зашла дальше всех. Разработчики подняли все насущные проблемы трансгуманизма, от физических улучшений до расширения возможностей разума, но в итоге свели «человечность» к вопросам морали.

Заставляя нас снова и снова решать вариации «проблемы вагонетки», Prey наглядно продемонстрировала разницу между человеческим поведением и «разумными решениями, не свойственными людям».

Там где другие произведения оставляли выводы за игроком, Prey чётко показала, насколько на наши сознательные решения влияет наша природа, эмоции и личная привязанность. Пускай эмпатия и нравственность — всего лишь древние биологические защитные механизмы, как доказали современные исследования, именно они сформировали и защитили наш вид.

Именно такова наша «человечность», и насущный вопрос трансгуманизма — стоит ли нам её сохранять. А большая заслуга Prey в том, что её авторы смогли рассмотреть все эти вопросы не с точки зрения теологии или философии, а опираясь на биологию, научные исследования, факты, которые можно проверить и принять. А значит мы в любом случае стали чуть ближе к истине.

{ "author_name": "Андрей Лисяный", "author_type": "self", "tags": ["\u043c\u043d\u0435\u043d\u0438\u044f","prey"], "comments": 277, "likes": 1181, "favorites": 1568, "is_advertisement": false, "subsite_label": "games", "id": 72671, "is_wide": true, "is_ugc": true, "date": "Mon, 30 Sep 2019 19:16:54 +0300", "is_special": false }
0
{ "id": 72671, "author_id": 31347, "diff_limit": 1000, "urls": {"diff":"\/comments\/72671\/get","add":"\/comments\/72671\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/72671"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 64953, "last_count_and_date": null }
277 комментариев
Популярные
По порядку
Написать комментарий...
188

как игра решила многовековую проблему морали

Если бы все мёртвые философы в мире могли смотреть, они посмотрели бы на автора этой фразы одновременно.

Ответить
50

То то я думаю, чего земля вращается, а это все мертвые философы в гробу вертятся

Ответить
9

Нет, ну вы сами посудите - игра якобы использует наработки философии за последние несколько веков, чтобы с помощью этих наработок доказать некоторые нерешенные проблемы философии и заявляет что она их решила, используя эти же наработки. Естественно по мнению автора статьи, чрезмерно увлёкшегося проблемой синих занавесок. Это как если бы вы украли кошелек у человека, а на следующем перекрестке вернули со словами - "вот, возьмите мой".

Ответить
2 комментария
36

С вашего позволения прокомментирую критику:

1) Проблема природы нравственности существует уже много лет, разные школы философии уже предложили своё решение «проблемы вагонетки». Также и нейробиологические исследования помогли точнее понять природу морали.

Заслуга авторов Prey в том, что они первые смогли объединить эти идеи в контексте проблем трансгуманизма, а также чётко дать определение «человечности» с научной точки зрения, в космической фантастике такого ещё не было.

2) Пример: Станислав Лем — один из моих самых любимых писателей, и его творчество показывало проблему контакта намного правдоподобнее, чем большинство космоопер. «Фиаско», «Непобедимый», «Солярис» утверждали, что основная проблема не биология, а культурные и умственные различия. Лем сказал очень много правильного о «человечности», но ему не хватало научных обоснований своих теорий, поэтому многие его тезисы слишком расплывчаты и абстрактны. 

Prey же очень чётко всё разграничивает: есть физические возможности, есть умственные способности, есть психика, есть мораль, которая диктует наши действия, а есть биологические причины морали (зеркальные нейроны и тд.).

Поэтому авторы Prey не сыплют общими фразами, а предлагают конкретный обоснованный тест, результаты которого можно интерпретировать, проверить и использовать. Я ничего подобного среди литературы или других медиа не встречал.

3) Ещё я бы не недооценивал возможности игр. Это действительно не философский трактат, но это интерактивное искусство. Prey моделирует ситуацию, помещает игрока внутрь эксперимента, заставляет его раз за разом лично принимать решение и комментирует выбор. Классическая литература на такое не способна.

Ответить
7

тот же Лем в "Дознании" изящно обыграл тему морали и рациональности - два искуственных человека, имея одинаковые предпосылки пришли к разным результатам - один рационально эгоистичный убийца, второй выстроил "моральный протез" из рациональных побуждений по организации взаимодействия с людьми.

в конце концов ту же эволюционную концепцию альтруизма вполне можно рационализировать так как она обеспечила выживание вида.

при всем уважении к Прей решительно не вижу в нем ничего радикально нового или революционного, даже, прости господи, концептуально оригинального. или то что они употребили термин зеркальные нейроны уже выводит это произведение на новый уровень решения извечных моральных дилемм? серьезно? фантасты регулярно сыпят научными терминами к месту или нет. состоятельности концепций всех этих зеркальных нейронов еще только предстоит пройти испытание временем, критикой, альтернативными концепциями.

в плане принятия решений и их последствий как уникального опыта - каждая вторая рпг старой школы или даже ведьмак.

собственно заголовок интригует - авторы прей решили проблему морали - а в чем собственно решение?  автор статьи (с хорошим подбором материала, мое почтение) в итоге не делает вывод - где решение проблемы морали? даже сама проблема морали сформулирована вскользь. вместо этого зеркальные нейроны (а значит вау, это современно и научно) и игры позволяют делать выборы и ощущать их последствия (вау никогда такого не было но вот опять). 

Ответить
1 комментарий
1

Статья написана хорошо, но, мне кажется, Вы не понимаете, почему комментаторы здесь к Вам придираются. При всем интересном изложении текста и множестве любопытных референсов, для Вас морально-этическая и философская проблема ВНЕЗАПНО решается нейробиологией. И это прослеживается особенно сильно в заключении. Ваш исследовательских байес здесь кроется в заведомо технократически-позитивистском подходе к вопросу, который, вполне вероятно (!), так не решается. Может, несомненно, оно и так, и естественные науки в этих проблемах разберутся, но пока в этом нет консенсуса в исследовательском мире (иначе бы философы, социальные учёные уже вымерли). Истина пока не очень понятно где, а Вы решили, что вопрос максимально (но не полностью), исчерпан. Если бы этой позитивистской ориентации у Вас не было, возможно, статья получилась бы менее предвзятой. Но так, безусловно, Вы огромный молодец. 

Ответить
0

Ага, братишка я тебе субъективного идеализму принёс!

Ответить
187

Наконец-то на DTF годный лонгрид, а не мимик, два нейромода автору

Ответить
16

Нетраннеры здесь? 😎

Ответить
146

Зачем вы это делаете? Зачем заставляете меня проходить игру в седьмой раз?

Ответить
34

AND NOW IT'S TIME TO BEAT THE MIND GAME!

https://www.youtube.com/watch?v=jOGu05q-Ch4

Ответить
11

А мне этот трек понравился еще с Mae Whitman

https://www.youtube.com/watch?v=i4RanjlL7sg

Ответить
11 комментариев
12

Как у тебя получилось пройти игру шесть раз, у меня и для второго раза желания не хватает, а если оно и появляется, то вспоминаю, что есть другая ещё одна интересная игра :)

Ответить
13

Ну я первый раз прошел взахлеб, второй и третий для платины, потому что в одном случае нужно убить всех на корабле, а во втором спасти всех на корабле, но тут я налажал и не заметил, как один взорвался в раздевалке спортзала, поэтому я прошел в четвертый раз. Пятый раз прошел с приобретением PS4 Pro, спустя время, а потом шестой раз с приобретением Xbox One X.

Ответить
1 комментарий
1

 есть другая ещё одна интересная игра

и что же за игра?

Ответить
4 комментария
1

Да подумаешь, я RE: 2 Remake прошёл более 20 раз, не потому что это настолько замечательная игра, а потому что там приятно стрелять в зомбаков, а я задрот. ='(

Так что по таким стандартам и Prey 2017 не грех перепройти.

Ответить
2

Для этого выпустили Mooncrash, чтобы что раз не перепроходить сюжетную кампанию

Ответить
6

Таймгейты - не лучший выбор для иммерсив-симов. 

Ответить
1 комментарий
2

тоже захотелось чот

Ответить
1

Зачем вы заставляете плакать о том,чего мы больше не получим.

Я даже гребаное длс купил,коорое смесь с рогаликом (

Ответить
0

Я хотел тебя сейчас жестко потралить, но понял, что на мгновение у самого пролетела мысль установить и перепройти. 

Ответить
73

Кстати, в случае ситуации с вагонеткой в реальности большинство людей не сделают ничего из-за паники или нежелания брать на себя ответственность. А ещё это, пожалуй, самый правильный вариант поскольку в противном случае человека с рычагом обвинят в умышленном убийстве

Ответить
48

Это часть когнитивной искажения, как в эффекте Монти холла.

Бездействие (снятие отвественности за действие) поощряется мозгом больше, чем действие с риском все напортачить.

Ответить
49

Бездействие (снятие отвественности за действие) поощряется мозгом больше, чем действие с риском все напортачить.

О, это будет моей новой отмазкой на все случаи когда я не захочу что-то делать

Ответить
2 комментария
1

В реальности спрашивали у машинистов про проблему вагонетки и большинство о ней даже не слышали. Но все говорят что смену путей можно поставить так, чтобы поезд просто сошел с рельс или застрял. 

Ответить
16

Есть другой популярный ответ:

Ответить
2 комментария
5

Вот поэтому я и не люблю эти гипотетические задачи - в реальности у стрелочника могут быть и другие варианты, а левый человек вообще не поймёт, что это за рычаг и зачем за него дёргать

Ответить
5 комментариев
–2

В реальной жизни люди, находящиеся на рельсах, сами виноваты (Если их туда, конечно, не привязали), так что это естественный отбор.

Ответить
11

Некий маньяк, который любит смотреть как жертв переезжает поезд, похитил тебя (ты возвращался откуда-то поздно и на пустой улице тебе дали нюхнуть хлороформа/ударили шокером), связал и положил на рельсы. Ты виноват?

Ответить
2 комментария
1

Или можно посмотреть на ситуацию с точки зрения влияния на две стороны конфликта, с одной стороны 6 человек и влияние на них в обоих случаях не меняется, либо один либо пятеро погибнут. С другой стороны человек который дергает рычаг или толкает толстяка и влияние на него будет различным. Для примера можно возвести обе ситуации в экстрим и получим что-то вроде:
Вас пригласили на социальный эксперимент. В назначенное время вы пришли в красивое офисное здание, симпатичная девочка с ресепшена пригласила вас пройти в один из кабинетов и дождаться человека проводящего исследование. Подошедший ученый с тревогой в голосе рассказывает, что в неизвестном месте силой удерживают 5 человек и через 10 минут их жестоко убьют, но в Ваших силах остановить это безумие, достаточно сказать "ну убивайте этих людей" и вместо них убьют другого человека в другом месте. Никого из этих 6 вы лично не знаете.
Во втором случае начало такое же с той лишь разницей, что один человек находится в соседней комнате, привязан к стулу и в принципе не может пошевелиться, но он сидит лицом в двери и ему сообщили, что в ближайшие 10 минут к нему может войти или не войти его убийца. А вам предлагают для того чтобы спасти пятерых забить его деревянной киянкой. Так что если вы войдете в эту комнату, то сможете наблюдать и реакцию человека на Ваш вход и слышать его мольбы пощады, а так же все что связано с попыткой забить человека насмерть, кровь, крики и прочее.
В результате в первом случае вы можете покинуть здание с осознанием, что спасли 5 человек от смерти, ну а то, что одному было суждено умереть это сопутствующий ущерб. В другом случае вы покинете здание с тяжелой психологической травмой, которая будет преследовать Вас всю жизнь, а возможно еще и правоохранительные органы. 

Ответить
0

 Ну просто это в принципе тупо. Убивать незнакомого человека чтобы спасти незнакомых людей. Он же их лично не привязывал. За что ему умирать?

Ответить
2

математика и числа, тут ведь была речь об утилитарном подходе - я лично выбираю одного чтобы жило 5 (эту задачу можно бесконечно усложнять, озвучив например условие что среди тех пяти 4 маньяка убийции и один невинный человек к примеру) вот и выбирай

Ответить
1 комментарий
0

Это вполне реальная задача для автопилота
https://habr.com/ru/post/388107/

Ответить
0

А мне всегда нравилось думать что мол меня простя что то изменить, а я из принципа хочу оставить как было. Потому что тут как два стула. 

Ответить
–109

Забавно писать столько об игре, в которой сюжета кот наплакал.

Ответить
127

Ну если пробежать за пару часов, не читая терминалы, не выполняя побочки и не слушая диалоги, то да- сюжета там не увидишь

Ответить
–55

Глобальный сюжет там никакой.

По сути весь прей - подготовка к следующий части.

Но записок и прочего там нормально разбросано да, узнаешь кто и в какую жопу чего запрятал, ищешь трупы сотрудников и тд.

Это конечно размазывает некоторые интересные подробности, но не так чтоб визжать от сюжета.

Ответить
21 комментарий
–10

Но чувак то прав. Сюжет "прей", это сюжет средней паршивости короткого фантастического рассказа, хоть и с неплохим "вот это поворот" в конце. А то о чём вы говорите это не сюжет это, как же там...словечки то еще такие  модные...а...это "лор" и "нарратив".

Ответить
5 комментариев
3

Сюжет != нарратив. С нарративом по объёму там всё хорошо как раз.

Ответить
0

в игре сюжетом не кормят с ложки, ты хотел сказать?

Сюжета там полно. Почти каждый отсек(кроме наверное отдела транспортировки)

рассказывает  свою историю.

Ответить
29

Multi-track drifting

Ответить
13

Вот и решили дилемму)

Ответить
2 комментария
31

Небольшой бонус по теме =)

Подборка ироничных «проблем вагонеток»:

https://imgur.com/gallery/QXF8B

Ответить
19

Одна из самых забавных. Особенно, если бы мультитрак активировался путём взаимодействия с рычагом, как бы говоря "не лезь". Не знаю, насколько правилен такой посыл, но он бы произвёл мощное впечатление.

Ответить
5

эта лучшая )

Ответить
3

Концовка Mass Effect(

Ответить
0

Спасибо, эта подборка сделала мой вечер :)

Ответить
0

Под чем это все придумывали? :D

Ответить
0

Грина развенчали множество гипотез о нравственности и доказали, что во многом понятия о морали — врождённые.

Что имеется ввиду? На основании чего такой вывод?

Возможно, всему виной так званные «зеркальные нейроны», отвечающие за эмпатию и заставляющие нас сопереживать «толстяку».

Несмотря на то что "зеркальные нейроны" довольно часто всплывают в исследованиях по теме эмпатии, сам механизм еще пока неизвестен(насколько мне известно)

Поэтому делать какие-то выводы рано.

Ответить
32

Могу часами говорить на тему Прея и тем, которые он открывает, настолько божественная игра. Для меня это единственный иммерсив сим, который может полноценно сравниться с Биошоком в контексте глубины тем и их раскрытия. Авторы не просто писали сюжет, чтобы заставить игрока задаваться каким-то вопросом, они сами им задавались, и делали это без присущего многим произведениям цинизма и меланхолии. Игра поместила меня ровно в ту зону, которая с одной стороны достаточно дискомфортна, чтобы заставить меня задаваться даже самыми неудобными вопросами, но достаточно комфортна, чтобы я не испытывала желание в ужасе закрыть игру.

Причём повествование идеально сочеталось с геймплеем - как игрок я находилась ровно в той же зоне. Правда к концу игры я, патологический Плюшкин, оказалась обожранной ресурсами, и играла тифонами в футбол, но первоначальные впечатления от игры всё равно оказались сильнее: этот ужас перед непонятным и вездесущим врагом, острая нехватка ресурсов, необходимость двигаться дальше, несмотря на все ужасы впереди. Именно такие игры становятся шедеврами на века: которые не отделяют сюжет от геймплея, а переплетают их так плотно, что невозможно понять, где начинается одно, и где заканчивается другое.

Ответить
2

Биошок не совсем иммерсив сим, в полном понимании этого слова. И прей в некоторых моментах, просто не стесняется цитировать первый Биошок, заимствования иногда доходят  просто до смешного. Не говорю что это совсем плохо, просто факт. 

Ответить
4

*безразлично разводит руками*

Ответить
1

Играла в футбол тифонами? А я ходил по всей станции, собирал весь мусор в кучку и гранатой перерабатывал в материалы, чтобы сделать хотя бы ещё одну коробочку патронов :(

Ответить
19

Прекрасная статья. Очень целостно написано. Автор, если пишешь где то еще, рад буду оценить и поучаствовать в обсуждениях.

Ответить
2

Присоединяюсь!

Ответить
11

Как начать за здравие и кончить за упокой...

Из твоих же аргументов получается, что вся мораль ("ядро") заключается в общественном договоре, только он обоснован эволюционно, а оттуда все ответвления.

Соответственно трансгуманизм и усовершенствования человека будут подчиняться той же логике, если это не будет угрожать обществу, оно будет существовать, если оно угрожает обществу, оно как минимум жестко контролируется.

А проблема вагонетки получается частный случай, который нельзя применить в общем случае. Поскольку это частный случай, не существует эволюционно закрепленной формы поведения, отсюда берутся разные решения.

Ответить
7

Договор подразумевает всё же согласие, сознательное решение. А исследования Джошуа Грина показывают, что речь идёт о бессознательных факторах, влияющих на наши решения, не обоснованных критическим мышлением. 

Ответить
12

Кстати, в плане нейробиологии и принятия решений, мне очень в свое время SOMA понравилась, хорошая игруха.

Ответить
0

Я использовал термин не в прямом смысле, а в общем. Ты забываешь, что нейробиология утверждает, что личности вообще нет, поскольку все детерминировано, а значит, нет никакой личности, морали и всего прочего. Это если кратко.

Ответить
10 комментариев
1

Люди переоценивают влияние критического мышления и рациональность.

Часто решения принимаются спонтанно, а затем рационализируются.

Ответить
0

Но читать все равно было очень интересно, спасибо за труд. И пищу к размышлению! :)

Ответить
10

Ради таких статей DTF и читаешь.

Ответить
1

Dtf, значит, портал для философских эссе по играм?

Ответить
7

А чего бы и нет?
Игры уже вполне себе самостоятельный и глубокий вид искусства.

Ответить
0

От от мемов и постов в две строки ни о чем устаёшь. Было приятно почитать философское эссе по игре по пути на работу.

Ответить
3

Поэтому, мораль, как способ адаптации, не только заставляет ставить «мы» >выше в приоритете чем «я»

.

О, этот парень в очередной раз научно доказал разумность коммунизма. -) 

Ответить
16

Коммунизм не обозначает автоматическую честность и альтруизм. А при альтруизме и честности подойдёт любая система

Ответить
–9

Коммунизм означает стремление к честности и альтруизму. Другие системы предполагают эксплуатацию как норму, что ставит крест на их человечности. 

Ответить
18 комментариев
0

Он лишь доказал(если я правильно понял), что коммунисты-самые человечные люди. Ничего ведь даже не было сказано о том, что сохранять человечность=разумное решение.

Ответить
4

Он про коммунистов даже не заикался, как мне кажется.

Ответить
0

Да, можно сказать и так. 

Ответить
10

Записывайте решение проблемы толстяка:
1) Ждёте, пока вагонетка давит 5 людей.
2) Толкаете толстяка.
3) Прыгаете сами
4) ???
5) PROFIT!
Потому что мир бессмысленный и беспощадный. Спасибо за внимание.

Ответить
9

Отличный текст, на две головы выше нынешнего уровня школодтф. И тем не менее, резкий переход от философских оснований морали к нейробиологическим, и уж тем более возведение последних в статус «решения», оставляет впечатление недодуманности. Ну и редакционная Пиши@Сокращай мания тоже накладывает отпечаток.

Начнём с Фомы. Хотя схоластика - совершенно особая отрасль богословия, она основывается на презумпции существования бога, причем бога христианского, бога-судии. Отсюда и все эти хитрые «моральные калькуляции»: в их корне - попытка свести моральный кредит с дебетом таким образом, чтобы в день страшного суда Сумма (get it?) оказалась положительной.

У Канта трактовка морали принципиально иная: в ее центре находится утверждение об АБСОЛЮТНОЙ ценности человеческой жизни и истины о чем, кстати, в тексте ни слова. «Абсолютная ценность» - это значит, что жизнь одного человека так же ценна, как и жизнь миллиарда людей, и всего человечества. «Разумная» мораль Канта вообще крайне далека от интуитивно-общепринятой: чтобы это понять достаточно прочитать что он думал о возможности лжи ради спасения другого. Вот уж кто-кто, а последовательный кантианец точно бы бездействовал в любой из вариаций вагонеточной дилеммы; более того, для него сама «дилемма» не была бы таковой: человек не может быть средством.

При этом Кант занимался не столько поиском ОСНОВАНИЙ морали, ее причин, сколько выведением следствий: само название «категорический ИМПЕРАТИВ» (т.е. «повеление», «указание к действию») красноречиво на это указывает. Упомянутые же в статье нейробиологи как раз заняты исследованием истоков имеющегося (наблюдаемого) поведения, обозначаемого как «моральное». Кант своей областью поиска выбирает «чистый разум», нейробиологи - строение мозга и ЦНС; на мой взгляд, тут налицо типичное когнитивное искажение, когда собственная область исследования видится наиболее важной, а то и единственно существенной, ну да ладно.

С нейробиологической трактовкой я вижу две проблемы. Во-первых, совершенно неясно, почему в дилемме с вагонеткой человек выберет именно наиболее МОРАЛЬНОЕ, даже с его личной точки зрения, действие. Вопрос ведь звучит как «Что ты СДЕЛАЕШЬ?», а не «Какое действие было бы НАИБОЛЕЕ МОРАЛЬНЫМ?». Можно чувствовать, что твой поступок неправильный, но тем не менее поступать именно так: как думаете, многие ли считают моральной, ну скажем, измену? Впрочем, это легко поправимый изъян в дизайне эксперимента. Вторая проблема куда более существенна: кто сказал что ИНТЕРПРЕТАЦИЯ результатов измерений электрической активности зон мозга, являющаяся, по сути, ПРОИЗВОЛЬНОЙ (как и любая интерпретация), в принципе способна дать однозначные и уж тем более ИСЧЕРПЫВАЮЩИЕ ответы на такие комплексные и размытые вопросы, как вопросы человеческой и/или универсальной морали.

Как думаете, если человек вырастет в обществе, где с детства прививают конкретное решение дилеммы, а именно - столкнуть толстяка, в качестве абсолютно морального и однозначного, будет ли он сомневаться при ответе на вопрос? А если с детства тренировать его сталкивать толстяков с платформы в подобных ситуациях и поощрять, будет ли он колебаться, оказавшись в n-ный раз в подобной ситуации? И главное - перестанет ли он от этого быть человеком? Тут стоит учитывать что под фразой «быть человеком» часто подразумевают «быть ХОРОШИМ/НОРМАЛЬНЫМ человеком»; не будем совершать этой ошибки.

Весь этот генетико-эволюционистский редукционизм - такой наивняк, если честно. Равно как и концепции типа «разумно, но люди так не поступают»: уверен, будь у современного человека возможность пообщаться с кем-нибудь из далёкой исторической эпохи, результаты подобных «тестов» могли бы сильно удивить. Да, впрочем, зачем далеко ходить: люди и сейчас как только не поступают. А «рациональность» тех или иных действий можно установить только зная лежащий в их основе набор аксиом, которые всегда базируются на вере/произвольном выборе, то есть являются иррациональными по своей природе. И набор этот может быть произвольным, и, строго говоря, все подобные наборы - равноправны; единственный критерий, по которому то, что любят называть «научным мировоззрением» (оксюморон на самом деле, но пусть будет для простоты) является привилегированным - утилитарный, но вопросы этики и эстетики из него намеренно исключены.

Короче говоря, как уже многие написали, заголовок неоправданно громкий, а в тексте сквозит некоторая поспешность и оттого - поверхностность суждений. Но, еще раз повторюсь, для игрового сайта и это - отличный уровень.

Ответить
0

Спасибо большое за ваш отзыв!

Вы очень хорошо расписали детали философии, которые я упустил, но позвольте всё же с вами не согласиться насчёт нейропсихологических исследований. Джошуа Грин и команда проводят подобные эксперименты уже несколько десятков лет, и в отчёте, доступном на их сайте можно увидеть самые разные вариации эксперимента, со знакомством с толстяком\без, с активным\пассивным действием и так далее:

«Сomparing the loop, loop weight, and obstacle collide dilemmas revealed no significant effects (p > 0.2), while the obstacle push dilemma elicited significantly lower moral acceptability ratings than each of these other dilemmas (obstacle push vs. others, respectively: F(1, 329) = 8.20, 5.56, and 11.85; p = 0.004, 0.02, 0.0006) »

Они не просто предлагали случайным людям решать «проблему толстяка», а специально подобранной группе людей давали разные дилеммы, и именно «проблема толстяка» — статистическая аномалия.

Всё это контролировалось записью при помощи МРТ, которая фиксировала, какие именно участки мозга принимают решение. Так что я бы не отрицал значимость биологических исследований, в отличии от философских доктрин их выводы можно проверить и опровергнуть.

А исследования на приматах и других животных доказывают, что дело не в нормах эпохи, некоторые модели поведения заложены в нас от природы.

Ответить
3

Мне кажется, вы не вполне уловили суть моих претензий к представленному анализу. Давайте я попробую более структурированно именно их изложить.

1. Что понимается под фразой «быть человеком»? В тексте вы доказываете, что авторы игры сводят отличия «человека» от других разумных существ к наличию эмпатии и вытекающей из этого морали (допустим, что они и правда имели в виду именно это), и, судя по тону текста, с ними соглашаетесь.

Проблема тут вот в чем. Если под «быть человеком» вы подразумеваете «быть (достаточно) ХОРОШИМ/МОРАЛЬНЫМ человеком», то «найденный» ответ на изначальный вопрос («Что значит быть человеком?») становится абсолютно тривиальным - ну да, чтобы понять, что такое «человек моральный», нужно сначала разобраться с моралью.

Если же понимать вопрос буквально, без имплицитных атрибутов, то всё становится еще более странным. Аморальный человек - не человек? А человек, лишенный эмпатии? Мы, конечно, говорим «нелюдь» при виде какого-нибудь жестокого мерзавца, но это, как вы понимаете, название эмоциональное, а не категориальное.

2. Я не отрицаю того, что Грин нашёл некие значимые корреляции между активностью определенных зон мозга и принимаемыми решениями. Что мне кажется сомнительным, так это то, что данные эксперименты удовлетворительно и исчерпывающе (хотя бы по большей части) описывают природу поведения человека, которое принято считать моральным.

Начнём с того, что, как я уже говорил, не факт, что принятое в подобной ситуации решение будет «моральным» или «правильным» даже с точки зрения самого человека, который его принимает. Представьте, что испытуемый говорит «Наверное правильно было бы столкнуть толстяка, но я не смог/не смогу/не стану этого делать». Мораль одна, решение - другое.

Тут дело в том, что подобного рода интерпретации имеют под собой крайне специфичный взгляд на то ЧТО ТАКОЕ вообще мораль. Согласно этому взгляду, мораль - это рационализация и кодификация заложенных в нас нейрофизиологических механизмов, то есть биологически обусловленных реакций. Но позвольте - это прямо противоположно тому, что традиционно понимается под термином «мораль»: мораль всегда была, наоборот, фактором ОГРАНИЧИВАЮЩИМ природные позывы человека (сексуальная мораль как яркий пример).

Вы скажете, что одни «порывы» - эгоистичные, другие - альтруистичные, но на каком основании мы предпочитаем одни другим, если и те, и другие - явления одного, нейрофизиологического, порядка? Получается, мы привносим УЖЕ ИМЕЮЩИЕСЯ у нас представления о том, что морально, в интерпретацию данных.

Не говоря уж о том, насколько подобный врожденный альтруизм подвержен изменениям в результате воспитания/воздействия социума/прочих внешних факторов. Особенно КОНКРЕТНЫЕ его проявления: наверняка в ходе эксперимента люди давали самые разные ответы на поставленные перед ними вопросы. Но все они при этом люди :)

Ответить
1

Со своей стороны, я бы сказал, что человека отличает как раз то, что нет в нем жесткого, присущего ему от природы стержня, в частности рационального. О хрупкости человеческого разума чего только не написано. Человек - это глина, что слепишь из неё, то и выйдет; этот момент библейским космологическим мифом ухвачен очень тонко. Да, это не совсем Tabula Rasa, поскольку у каждого материала есть своя структура и свойства, но «человеческая природа» - вещь очень гибкая. Иллюзия ее неизменности обусловлена лишь тем, что вся эта глиняная масса (человечество) по большому счету обрабатывается в одной и той же «доменной печи». Ну и ограниченностью способности людей осознавать отличия и склонностью находить паттерны.

Что же касается вопроса идентичности (в какой момент постепенная замена органов превращает меня в не-человека), то ответ на него, как мне видится, лежит в истории происхождения: родившийся человеком всегда им остаётся, даже будучи полностью заключённым в «иное тело», и наоборот: если взять некое существо/механизм и заменить все его «органы» на человеческие, человеком оно не станет; и если разовьёт в себе «человеческие» морально-интеллектуально-эмоциональные качества - тоже (в «Двухсотлетнем человеке» робот остаётся роботом, несмотря на название). Я думаю, тут дело в прочности связи между означающим (слово «человек») и означаемым, которая возникает в момент первичного имянаречения (см. библейский миф про Адама, дающего названия животным), но может это от того, что я лингвист :)  

Ответить
0

да автор свел мораль к заранее запрограммированной морали, мол это просто правила игры и жалость это просто цифры

и лайк за комент, который мне не дают поставить неразумные правила

Ответить
0

петр как всегда лучший (и я чувствую эту боль из-за отсутствия тут ТАК ПОРОЙ НЕОБХОДИМЫХ болда/курсива).

только смутил момент с зыбкой риторикой вокруг "что значит быть человеком" и вытекающим отсюда определением морали. как ни крути, но все мы примерно представляем себе, что (и зачем) есть мораль. да, с немаленькой дифференциацией из-за национально-социокультурных признаков или персональных девиаций; но всё же в основе оно как круги эйлера: внахлёст, а не порознь.

а какой процент там в ней биологического и эволюционного, уже не так важно в данном случае, если и у туземца из сельвы, и у маменькиного маньяка из "психо" в определенный момент заработает упомянутая автором эмпатия, пусть и на самом зачаточном (или угасающем) уровне. хотя про "решение" он, конечно, загнул, это просто констатация.

то есть глина, да; но одинаково в некий момент сочувствующая КОМУ-ТО и принимающая потому решения. и концепция инопланетян (пока что, ясное дело, умозрительная) зачастую построена просто от противного: например, от вынесения за скобки гипотетического КОГО-ТО, даже от отказа от самого существования еще КОГО-ТО. а вот человек есть человек.

Ответить
5

Я скорее соглашусь с этим обзором, что дилеммы морали были очень неловко встроены в игру (таймкод, слишком давно прошел, чтобы дропать аргументы). Несмотря на это,

Prey — отличная игра,

Ложная слепота — топ,

статья — топ,

консеквенциализм — топ

Ответить
13

Я могу их еще раз озвучить: вопросы выбора в Prey слишком примитивны и отыгрыш злодея почти всегда невыгоден с точки зрения логики. Извращение морали присутствует только в случае спасения заключенного от превращения в экзотический материал, остальные варианты спасти-убить лишают вас сюжетных веток и дополнительных "сокровищ". Фокус истории смещен главным образом на исследование природы тифонов и проблемы с мимиками, а главная движущая сила сюжета - потеря памяти, а не трансгуманизм.

За статью спасибо, но все же показалось, что вы слишком глубоко копаете)

Ответить
2

Я не до конца согласен с тезисами в видео. Там «правильный» выбор показывается на примере заключённого: или сохранить жизнь, или убить и получить нейромоды (личную выгоду). А остальные выборы — «неправильные», так как не дают выгоды в результате злодейства. Эта схема описывает скорее Bioshock и выбор с сестричками.

В prey, спасение экипажа не является однозначно верным выбором, потому, что ультимативная цель — спасти Землю, ценой уничтожения станции и всех её обитателей. Если мы спасаем жизни экипажу, то мы в лучшем случае — оттягиваем их смерть на несколько часов, поддаваясь эмоциям и не получая от этого никакой выгоды. В худшем случае — мы слишком к ним привязываемся и позволяем населению Земли погибнуть.

Так что в Prey рациональное позитивное решение — пройти мимо и просто достичь цели. Иррациональное позитивное — помочь экипажу, потратить больше времени и ресурсов, всё равно уничтожить станцию и спасти Землю. Отрицательное решение — поставить жизни меньшинства важнее за жизни большинства.

Ответить
5 комментариев
1

Спасибо за ваши эссе. Большой фанат ваших разборов.

Ответить
7

Никакие многовековые проблемы морали Prey не решила, лол. Это довольно слабая и глубоко вторичная НФ, а идея с экстраполированием проблемы вагонетки на сюжетные конфликты это просто ленивый сценарный ход, возведенный в степень.

По доктрине двойного эффекта банальная прививка ребенку не будет морально оправдана, поскольку

действия человека не должны непосредственно приводить к негативному эффекту. Нельзя благой целью оправдывать злые поступки.

Очевидно, ребенок от укола скорее всего заплачет, испытает боль и стресс. Явно негативный эффект ради благой цели. Печаль.

Правовые нормы берут начало в религиозной деонтологии и адаптируются под более конкретный утилитаризм, до теорий схоластов кроме историков и академических философов сейчас, надеюсь, дела никому нет.

Пост все равно норм, но заголовок смешной и выводы странные. Человечности с эмпатиями, эт, конечно, хорошо, вот только индивидуально каждый будет выбирать тот "трансгуманизм", который даст конкретно ему преимущество и выигрышную адаптацию, а не всему человеческому виду, очевидно. Пафосный вопрос "СТОИТ ЛИ СОХРАНЯТЬ ЧЕЛОВЕЧНОСТЬ", насущный разве что среди пабликов вк по теме, где тусуются дети и неофиты.

Ответить
5

Гениально... Т.е. самим автором были приведены примеры сочувствия животных, которое практически ничем не отличается от человеческого. А потом оказывается, что именно это сочувствие и является отличительным признаком человеческого разума. 

Насчёт физических имплантатов - они будут менять человеческое сознание, этого не изменить. Сознание человека меняется в зависимости от его физических способностей.

Насчёт морали - это лишь надстройка над всегда предшествующим базисом общественных отношений. Отсюда и различия морали 5 века д.н.э. и наших дней.

Ответить
1

А потом оказывается, что именно это сочувствие и является отличительным признаком человеческого разума.

Думаю, некорректно сформулировано просто. Отличие по сравнению с тифонами, а не вообще.

Ответить
–5

Чото мне кажется разработчики весьма удивились бы что они тут оказывается решили "многовековую проблему морали". Сам только что закончил первое прохождение игры и извините конечно, но игра лишь немногим выше среднего. С весьма посредственным сюжетом. Ну уж про философские проблемы вообще промолчу. Их при желании и в тетрисе можно увидеть.

Ответить
5

Жопой играл потому что. Иди второй раз проходи. Игра великая. Лучшее что выходило с 2017 года. И лучшая игра 2017. 

Ответить
1 комментарий
–1

Если тифоны не способны к сопереживанию, как это сочетается с концовкой игры? И как тест вагонетки помогает определить человечность, если там нет правильного ответа?

Ответить
11

сочетается, вы были невнимательны когда в конце Алекс все пояснял

Ответить
0

Похоже на то, иначе странно выходит

Ответить
2 комментария
–1

Все ответы в тесте вагонетки правильные с разных сторон. Есть рациональная а есть чувственная сторона. Тифоны не способны чувствовать, а человек может. Когда человек отдаётся пути разума и на основе тифонской технологии с помощью нейромодов улучшает себя он постепенно условно теряет те зеркальные нервы и становится больше тифоном. Безчувственной рациональной машиной. А в концовке раскрывают что как человек может стать рациональным на основе днк тифонов, так и тифон может стать чувственным на основе днк человека. У него появятся те самые зеркальные нервы и он по сути станет человеком в привычном нам понимании, хоть и оставляет у себя тело тифона.

Ответить
6

Эмпатия-такой же рациональный механизм как и сама рациональность. Боязнь перед становлением машиной, как я это понимаю, заключается в том, что человек боится потерять "свободу". Но эмпатия так же её ограничивает и тоже вполне "логична". Может стоит избавиться от обоих элементов уравнения, чтобы получить желаемую свободу? Но тут вступает страх перед неизвестностью и консерватизм...

Ответить
1 комментарий
2

Тест вагонетки помогает нащупывать грань, за которой эта сама "человекость" заканчивается.

Ответить
0

Как, если не секрет?

Ответить
4 комментария
0

Я считаю, тест с вагонеткой это намек не на то, какой выбор игрок делает, а в каких обстоятельствах. И еще он задает общий тон игре.

Довольно легко принять решение когда вопрос абстрактен, и ты удаленно делаешь выбор. В реальной ситуации неизвестно какое решение ты примешь.

По версии разрабов, человечность определяет эмпатия.

Если Морган и Игрок прошли игру и испытывают эмоции по отношению к персонажам, значит это скажется на их выборе. Если в ходе игры у Игрока появляется эмпатия, значит эксперимент удался.

Ответить
3

Спасибо за отличную статью про отличную игру

Ответить
3

Автор, околонаучные байки из склепа, в смысле, из СМИ про зеркальные нейроны лучше не повторять.

Даже если их активность и связана с проявлениями эмпатии у людей, что как бы сильно неточно, то и в этом случае сам лишь факт их активности никоим образом не «заставлял» бы сопереживать другому. Как минимум, там к процессу явно подключаются другие «модули» ЦНС и самого головного мозга, включая лимбическую систему.

Если интересно, то вот дальнейшее чтение с целью ликбеза: https://www.quora.com/How-do-mirror-neurons-work-in-psychopaths/answer/Yohan-John

Ответить
–12

Все это конечно хорошо, концепция классная, только вот в отличии от писателей фантастов Prey даже не утруждает себя выдавать игроку хоть какую-то фабулу, интригу, персонажей и тд. 

Ответить
2

Я человек простой - вижу в тексте Фому Аквинского, Канта и нейробиологию - ставлю плюс.

Ответить
2

Интересная статья, спасибо автору. И все-таки, как мне кажется, Prey и близко не подошла к определению границ «человеческого». Куда ближе оказались разработчики SOMA, по сути повторившие выводы футуролога и фантаста Станислава Лема (цитата чуть ниже) — странный синтез импульсивности и рассудка, а также право на ошибку, право на то, чтобы быть несовершенным.

А вот цитата: «Тогда вся наша человечность - это только сумма наших дефектов, наших изъянов, нашего несовершенства; это то, чем мы хотели быть и чем быть не можем, не умеем, то есть просто зазор между идеалом и осуществлением? Но тогда нужно соревноваться... в слабости? Иными словами, найти ситуацию, в которой слабость и ущербность человека лучше, чем сила и совершенство нечеловека...»

Ответить
0

Поддерживаю насчет SOMA

Ответить
1

Вот именно такие посты должны быть в «Игры», а новости о выходе игр в «Релизы» 👌

Ответить
0

Спасибо за статью.

Однако мы с женой поспорили: она почему-то считает, что это перевод. Решите наш спор, пожалуйста:)

Ответить
3

Спасибо! Статью сам собирал по кусочкам из разных источников.

Можете почитать исследования Грина по разным вариантам «проблемы вагонетки», если интересно больше: http://www.joshua-greene.net/publications/http/projectsiqharvardedu/files/mcl/files/greene-solvingtrolleyproblem-16pdf

Ответить
1

Какая хорошая статья. 

Ответить
1

Шикарная статья. Автору респект !

Ответить
1

Неспроста меня игра накрыла, неспроста...

Ответить
1

Авторы, конечно, не решили никакую проблему, а просто поделилось своим взглядом на наиболее близкий для них ответ, который был придуман задолго до них. Но статья все равно хорошая, респект

Ответить
1

оставлю для любопытствующих

https://www.youtube.com/watch?v=KS0NtNxlX-s&t=3644s

Ответить
1

Роскошная статья. Спасибо автору

Ответить
1

Отличная игра, (надо будет перепройти), но мораль в игре никак не влияет на прогресс. Отпустишь "маньяка", он тебе откроет кладовку, не отпустишь - получишь продукты его переработки. Спасешь кого-то, он тебе расскажет про заначку, убьешь - прочитаешь у него в телефоне. Можешь всех убить, можешь никого не убивать, просто в конце толстяк скажет другой текст. Поэтому все и проходят по нескольку раз, чтобы увидеть все концовки.

Жаль, что столько странностей по прохождению, все шлюзы я открыл, но Абигейл не может войти (ужасно жаль ее), Даль помер, но спасательная капсула толстяка многоместная, почему нельзя всем на ней улететь? Катя вышла с электростанции и через 10 секунд звонит мне из моего кабинета, куда на лифте ехать минут 5, да и мимики кругом. Да и остальные звонят тебе на телефон, хотя сами тут же в отключке лежат, это немного портит атмосферу, тем более, что легко было бы пофиксить.

Ответить
1

Спасибо за статью!

Я сам очень люблю пофилософствовать, однако на данный момент уже более чем уверен, что все подобные вопросы будут с легкостью разрешены, после того, как генетика и нейробиология выйдут на новый уровень изучения человеческого организма. Как когда-то было с молнией, гравитацией или формой Земли, если угодно.

Это я к тому, что человеком в абсолютном большенстве случаев управляют эмоции, вызванные различными нейромедиаторами и другими активными био-химическими веществами, выделяемыми на основании реакций нашего мозга на разные раздражители в результате эволюционно заложенных механизмов.

Поэтому думаю, что вопрос "что отличает человека от нечеловека" не особенно зависит от размышлений на тему эмпатии и лежит в гораздо более прозаичной и легко-обьяснимой сфере (не с точки зрения трудозатрат, естественно).

К тому же, чтобы задавать такие вопросы, нужно как минимум сравнивать хотя бы еще один осознающий себя разум с человеческим. Без этого даже научный подход не применишь.

Ответить
1

Кажется автор забыл что в дилемме вагонетки, с толстяком и без, предлагается раздавить людей, а не манекены. Соответственно в случае с рычагом мы можем узнать мнение остальных участников, может те пятеро не против умереть чтобы спасти одного.
В таком случае с толстяком нет никакого парадокса, толстяку только надо донести, что от него требуется, а дальше он сам примет решение и оно будет на его совести(ну и частично на вашей).
В общем автор покурил синих занавесок и увидел решение всех философский вопросов и множество парадоксов.

Ответить
0

Текст интересный, в игру не играл, но:

В какой-то мере они даже противоречат логике, эффективности и простому расчёту, и можно представить разумное существо, лишённое всех этих черт. Но в тоже время это всё то, что выделяет нас как вид, определяет, что такое «человечность», в противовес простой математике.

К такому же выводу приходит и, например, автор Ведьмачка, совершенно не касаясь вопросов науки. Вывод довольно банальный и не дает никаких указаний к решению практически стоящих перед нами моральных задач – в отличие от той же Nier Automata, где весьма убедительно рассказывается о преимуществах экзистенциальной философии для жизни в сложном современном мире.
А упомянутая выше Ложная слепота гораздо правдоподобнее показывает «чужой» разум и глубже рассматривает проблемы сознания в приципе.   

Ответить
1

Ну, такой вывод всё же объясняет, почему утилитарная мораль нам чужда, хоть и логична, и нужно приложить психологическое усилие, чтобы «столкнуть толстяка». Понимание того, как именно мы склонны решать дилеммы — уже плюс.

Насчёт «Слепоты». Я в тексте не особо рассказывал о тифонах, всё же речь в игре не о них, но в Prey у пришельцев очень любопытная экосистема. Они «прядут» экзокортекс, общую внешную нервную систему, становясь всё сообразительнее. А пораженные тела людей, «фантомы», говорят обрывки фраз, хотя это ничего не значащий белый шум.

А если сравнивать в целом, то у Prey и Слепоты просто разные темы. Дилогия Уоттса посвящена проблеме сознания и разума как такого. Prey делает акцент на нравственности и эмпатии, предлагая сложный эксперимент с аргументами. На тему морали Уоттс сдаётся и только и говорит, что «Система естественной морали невозможна. Природе плевать на человеческую жизнь.»

Ответить
0

Как мне кажется, психика - это не отключения болевых ощущений и прочего. Кардинально отличающегося существа психически/психологически показать никто не смог, кмк. Чучундры типа Ктулху не в счет, все по большей части получаются человеки с очень интересными способностями и их применением.

Ответить
0

ак мне кажется, психика - это не отключения болевых ощущений и прочего

Там так в тексте написано?0_о Я  просто с правой колонки пришел. 

Ответить
0

Не, это автор комментария

Ответить
0

Но животные же тоже сопереживают. И учёные всё ещё не могут найти то, что в корне отличает нас от них.

Интересно, почему проблему вагонетки не проверят на животных? Например, на обезьянах, обычно с холодной водой.

Возможно, всему виной так званные «зеркальные нейроны», отвечающие за эмпатию и заставляющие нас сопереживать «толстяку».

А вот если этот крупный человек - умственный инвалид в коляске, реально растение и вы это хорошо знаете?

Насчёт "Тесея" ещё интересно, что мы со временем обновляем все свои клетки. И вот что придумал - если собрать все отделённые от тела клетки в новое тело, то будет ваша копия, но мёртвая =)

Думаю, что человек состоит из двух частей (или полторы) - личности-характера-морали и памяти. Если стереть память, то со временем человек снова его накопит действуя своим характером. Если же удалить характер, то человек станет пассивным, но по памяти будет помнить как он действовал в похожей ситуации, но вряд ли будет действовать, ему будет всё-равно. В первом случае человека на рельсы не будет толкать, а вот во втором вполне, если будет личная выгода - станет психопатом, тифоном.

Ответить
0

 Если же удалить характер, то человек станет пассивным, но по памяти будет помнить как он действовал в похожей ситуации, но вряд ли будет действовать, ему будет всё-равно.

Стирание характера и так постоянно происходит, на базу врожденных психических особенностей наслаивается новый опыт, и этот новый человек принимает иные решения. 

Ответить
0

Характер можно стереть разве что повреждениями мозга и всякими Альцгеймерами. Мы не переписываем свой характер, а лишь наслаиваем костыли-ограничения. Если на какое-то действие (несправедливость) мы реагируем резко, то с опытом можем научить себя не выказывать ничего (например, бесполезно), но "внутри" реагировать на это не перестанем.

Ответить
0

Да нет, что касается нервной деятельности, то тут уже давно все нашли, и это все называется неокортекс. Как раз таки их-за наличия этих пары миллиметров коры головного мозга, можно говорить, что люди довольно сильно отличаются от ДРУГИХ животных (сами то люди все равно животные).

Ответить
0

Не, ну физиологически мозги всех животных отличаются, это всем очевидно, но какими функциями мы отличаемся от них? Только речью? Так обезьян учили примитивным знакам и звукам. Знание о конечности жизни? Слоны тоже знают.

Ответить
1 комментарий
0

Интересно, что ИИ может вообще успеть распознать каждого из шестерых и выяснить по информации в Сети кого из них полезнее всего оставить в живых.

Ответить
0

Откуда мне вообще знать, что ты не ии, или что ии не такой же как я?

Ответить
0

...и вообще сейчас мы в симуляции.

Мы ничего не можем, мы абсолютно бессильны. Остаётся только смириться и ждать, чтобы увидеть как мы закончим свои жизни.

Ответить
1 комментарий
0

Спасибо за текст, многое возьму на заметку пару вещей почитать. 

Ответить