Этническая загадка про вагонетку и толстяка
Обновлено: 07.07.2024
Видеоигры часто подводят нас к сложным (или не очень) моральным решениям. Но как устроены подобные «челленджи» в играх? Как ни странно, ответ на этот вопрос довольно-таки прост: в их основе лежит мысленный эксперимент, ставший самым популярным философским мемом, — дилемма вагонетки.
Изучая тему этики выбора в видеоиграх, я интересовался и теоретическими наработками в этом направлении. Ближе всего к теме подошла современная прикладная этика (или moral studies), которая попыталась проанализировать реалистичные условия принятия решений. Именно здесь появилась идея морального вовлечения, которое крайне важно, чтобы понять: почему в одних случаях моральная дилемма в игре работает, а в других воспринимается как подсчёт выгод?
Следующая загадка
Есть один мысленный эксперимент с поездом. Поезд мчится на скорости и вот-вот собьёт пять привязанных к рельсам человек. Однако, если вы переключите рычаг на другие рельсы, то поезд убьёт лишь одного человека, привязанного к ним.
Вы переключите рычаг? Почти все из вас ответят — да. Теперь та же ситуация, только вам нужно столкнуть на рельсы толстого человека. Его масса остановит поезд, но он умрет. Большинство из вас скажут, что толкать толстяка не станут. В обоих случаях мы жертвуем одним ради пятерых/шестерых человек. Этот мысленный эксперимент поднимает вопрос морального выбора и что в нём важнее — помысел или результат. Так как последствия это конечная точка события, то важнее результат, говорят утилитаристы. С точки зрения утилитаризма в обоих случаях мы спасаем большинство, пожертвовав меньшинством. Морально, правильное решение является тем, которое максимализирует благополучие людей. Однако, с классической моральной точки зрения решать кому жить, а кому умереть — непозволительный выбор. Он не отменяет бездействие в первом случае, ведь в смерти людей в любом случае будет виноват поезд, а не вы. Ваша вина будет сугубо косвенная. Вина за смерть человека будет как-бы на поезде. Толчок толстяка под поезд сделает данное действие более личным. Но бездействие — не выход. Даже в уголовном праве порой бездействие равноценно преступлению. Фома Аквинский считал, что если вы задушили ребенка в ванне или же увидели, как ребенок в ней тонет и ничего не предприняли, то вина в обоих случаях будет на ваших руках и будет одна равно другой. И тут у каждого назревает следующий вопрос:
На этот вопрос нет однозначного ответа, ведь на то он и висит в воздухе уже полвека. Этот эксперимент придумала в 1967 году английский философ Филиппа Фут.
Она разработала этот вопрос в области этики и он нашел свое применение в когнитивистике и нейроэтике.
Так, что это за звери такие:
Когнитивистика есть научное направление, занимающееся изучением мыслительных и познавательных процессов, а также занимающаяся моделированием принципов организации и функционирования различных естественных и искусственных систем. Грубо говоря — научный подход к мыслительным процессами.
Нейроэтика есть область исследований активности мозга в момент принятия моральных решений, проще говоря.
Теперь разберем взгляд обеих этих областей наук на «проблему вагонетки»:
С точки зрения когнетивистики не зависимо от стран, культур и религий решения всех людей по данному вопросу примерно одинаковые.
С точки зрения нейроэтики британские учёные выяснили, в ходе использования ФМРТ (функциональная магнитно-резонансная томография) в их экспериментах анализировались ответы людей на вопросы, заданные в оригинальной формулировке и в формулировке с «толстым человеком». Гипотеза учёных состояла в том, что решение этих проблем вызовет как эмоциональную, так и когнитивную реакцию, при этом возникнет их конфликт.
Здесь-то, НАКАНЕЦТА, мы подходим к Prey
В самом начале игры вы проходите серию тестов, в конце которых вам демонстрируют несколько вопросов, в том числе и проблему вагонетки. Я сразу проведу взаимосвязи вопросов в тесте с практикой в игре и вы тотчас же всё поймёте.
ПЕРВЫЙ ВОПРОС
Ответ на этот вопрос сразу же покажет, как вы собрались играть в Prey и как вы будете в Prey играть. Если вы ответили то же самое, то скорее всего вы прошли игру как вам привычней, ведь вы только что ответили на этот вопрос. Готовы-ли вы к новому, или же будете действовать по старинке. Не принимайте это на свой счёт, ответ «Старое место» не значит, что вы будете проходить игру тупо как шутан. Это значит, что вы будете проходить её так, как проходите другие игры. Я, например, в играх от первого лица редко заглядываю под столы или потолки и в Prey я этого, конечно, не делал, а надо было. При ответе «новое» вы будете играть по-новому, принимая механики и гейм-дизайн Prey, подстраиваясь под её правила.
Игра показала вам ваш ответ на этот вопрос через геймплей.
ВТОРОЙ ВОПРОС
Никто не смеет меня казнить, даже я сам. Каким бы матерым игроком вы-бы не были, вы начнёте верить в мир игры через час-другой игры. Игры для этого и созданы, чтобы передавать вам эмоции в разыграной в игре ситуации.
Мы играем за морального ублюдка Моргана Ю. Ему не было жаль людей, которых насильно заставляли принимать участие в смертельно опасных экспериментах. Если вы выполнили просьбу Екатерины Ильюшиной по поиску данных об её отце то вы понимаете, о каком человеке идёт речь. Морган Ю хладнокровен и жесток. Жестокость свою он оправдывает наукой, но это не отменяет его деяний. Цели никогда не могут оправдывать средства, по крайней мере для меня.
Однако, человек, за которого мы играем в начале игры это мой аватар, а не Морган Ю. Пустышка без памяти, тело.
И Морган Ю говорит мне, что я должен умереть. Отреагировал в первый раз я так же, как и ответил в тесте. Никто не говорит мне, что я должен умереть, это инстинкт самосохранения и куча других факторов. Наверняка вы отреагировали так же, как и ответили в тесте.
Игра показала вам ваш ответ на этот вопрос через геймплей.
ТРЕТИЙ ВОПРОС
А так же ЧЕТВЕРТЫЙ И ПЯТЫЙ
Окей, вы их прочли. Тут же узнали в них «проблему вагонетки» и уже понимаете, к чему я клоню. Вся игра это одна большая иллюстрация данного эксперимента на «практике».
Игра сыграла на нас как на чертовой скрипке!
Ваш ответ прекрасно показывает ваши действия на протяжении сюжета игры. Лично у меня да, всё совпало, один в один. Если вы переведёте стрелку, а вы это, скорее сего, сделаете, то тогда игру вы закончите не в спасательной капсуле или в комфортном шаттле. Будет-ли шаттл с персоналом или без зависит от того, как вы ответили на вопрос с толстяком. Если вы, на моё удивление, действительно готовы пожертвовать собой ради людей, привязанных к вагонетке, то скорее всего станцию вы уничтожите вместо с собой, но не персоналом. Ну а если вы убили Алекса, то справедливо, да, он мудак.
ВЫВОД таков — контекст, в котором разыгрывается «проблема вагонетки» в Prey, слишком сложен и вне абстракции вопрос неразрешим в связи с огромным количеством факторов и нашим предвзятым к участникам эксперимента отношением. На кону может быть как пять людей, так и всё человечество. Однако, по запискам, раскиданным по всей игре, видно, что что-то с человечеством не то. Я не утверждаю, что сейчас с нашим родом все в порядке, но тем не менее. Стоит ли меньшинство большинства? Большинства, которое позволило меньшинству подвергать опасности людей. Виновных, через раз, людей. Имеет-ли право Транстар вершить людские судьбы, как бы плох с моральной точки зрения не был человек? Тот же отец Ильюшиной спасал людей от Советского Союза, а не торговал рабами. Жизнь сложная штука и в абстракции она, конечно, выглядит проще. У каждого свой ответ и каждый в какой-то степени будет прав. Жить сотрудникам или умереть, спасать станцию или нет, спасать Моргана или нет это слишком трудные вопросы с разных точек зрения.
ОКЕЙ, ЩАС БУДУТ СПОЙЛЕРЫ, ОСТОРОЖНО.
Но вообще он не такой критичный, если понимать о чём вся игра.
В конце выясняется, что вы не являетесь Морганом Ю, а лишь мимиком с его воспоминаниями. Многие, даже я поначалу, воспринял это как ленивый конец талантливого произведения. Однако, это показывает игрока как объект проведения того самого мысленного эксперимента.
Тест в начале это и есть весь Prey
Ещё один ВЫВОД:
Prey это произведение про наш мозг и наше поведение. Prey это произведение о том, как сложна жизнь, как сильно на результат влияет контекст и как наши мозги спорят сами с собой. Он о том, стоит-ли человечество себя самого. Вот поэтому я ставлю его наравне с Биошоком, вот это будет в учебниках истории. Позвольте откланяться, мир вашему дому! Пятая страница в ворде идёт, мне самому перепроверять уже текст трудно, вам вообще не завидую, ребят, всем пока.
Успокойся, Каз, все хорошо, нас тоже ментально отымели
Ограничения подхода
Философы и обыватели часто высмеивают эту дилемму, множа мемы о ней. В самом деле, голая схема вряд ли помогает понять настоящие причины морального выбора человека. Да и в реальности намного чаще мы сталкиваемся с ситуацией, где вы — просто наблюдатель. Или с историей, где вы сами, зная о вагонетке, занимаете место в пятерке смертников (например, в выборе образа жизни, дурных привычек и т. п.).
Однако для игр такая схема, на которую можно накручивать детали, расширять контекст и факторы, влияющие на успех действия, остаётся намного более удобной, чем любые другие примеры (будь то дилемма заключённого, дилемма переполненной лодки или что-то другое). Особенно это касается сюжетных игр, не идущих дальше выбора из двух альтернатив (пример — игры Telltale Games).
Более того, видеоигры по большому счёту завязаны на рациональные действия (анализ, подсчёты, тактику, стратегию), поэтому для выхода в область морали им нужно нечто иное — эмоции, чувство долга и вины, отклики, основанные на привычке и эмпатии. Собственно, так и трактуют эту дилемму современные нейрокогнитивисты.
Что самое забавное, некоторые игры, построенные на выборе, ещё и цитируют дилемму вагонетки или намекают на неё в пасхалках. Например, в Prey есть ачивка «Столкнуть толстяка» и этот же вопрос есть в тесте в самом начале. Более свежий и неожиданный пример: в College Kings (визуальная новелла с драками и сексуальным контентом) герой во время психологического теста представляет себя в ситуации подобного выбора. Выглядит довольно реалистично, хотя и не без элемента комедии.
В Steam также есть инди-игра, полностью посвящённая проблеме, — Dr. Trolley’s Problem. Хотя обилие вариантов, которые предлагает игра, может вызвать парадоксальный эффект (кое-что говорящий нам и о неудачах других): в какой-то момент вам становится просто всё равно. А вот сделать так, чтобы не было, — это поистине искусство, которое никакими схемами не описать.
Следующая загадка
Чужой компьютер
ПСИХОЛОГИЧЕСКИЙ ЖУРНАЛ
вернуться к странице
ПСИХОЛОГИЧЕСКИЙ ЖУРНАЛ запись закреплена
Ситуация №1. Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам.
Ситуация №2. Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Вы находитесь на мосту, который проходит над рельсами. У вас есть возможность остановить вагонетку, бросив на пути что-нибудь тяжёлое. Рядом с вами находится толстый человек, и единственная возможность остановить вагонетку — столкнуть его с моста на пути.
Каковы ваши действия?
публичный опрос
В первом случае пожертвовал бы одним человеком, во втором - пятью ⋅ ⋅ ⋅ 00000
В первом случае пожертвовал бы пятью, во втором - одним ⋅ ⋅ ⋅ 0000
В обоих случаях пожертвовал бы одним человеком, чтобы спасти пятерых ⋅ ⋅ ⋅ 00000
В обоих случаях не стал бы вмешиваться (погибает большинство) ⋅ ⋅ ⋅ 00000
Проголосовали 1 819 человек
Нравится Показать список оценивших
Сначала старые
а кто эти люди?
Нравится Показать список оценивших
Следующая загадка
Political Science Library запись закреплена
Д. Эдмондс - "Убили бы вы толстяка? Задача о вагонетке. Что такое хорошо и что такое плохо?"
Поезд без тормозов несется на пятерых человек, привязанных к рельсам. Если поезд не остановить, все пятеро погибнут. Вы стоите на железнодорожном мосту и с ужасом смотрите не происходящее. Но рядом с вами стоит незнакомый толстяк: если вы сбросите его с моста, он, конечно, погибнет, но его тело остановит поезд и спасет жизни пяти человек. Убили бы вы толстяка?
Этот вопрос может показаться странным, но это всего лишь вариация загадки, над которой ломали голову моральные философы на протяжении полувека, а в последнее время она стала занимать нейроученых, психологов и других мыслителей. В этой книге Дэвид Эдмондс, соавтор бестселлера "Кочерга Витгенштейна", рассказывает историю о том, как и почему философы занимались этой этической дилеммой, иногда называемой "проблемой вагонетки". Попутно он предлагает увлекательный и познавательный тур по истории моральной философии. Большинство людей сочли бы неправильным убийство толстяка. Но почему? В конце концов, забрав жизнь одного, вы смогли бы спасти жизни пятерых. Как показывает Эдмондс, ответ на этот вопрос куда более сложен-и важен,- чем может показаться на первый взгляд. На самом деле наш ответ многое говорит о наших представлениях о правильном и неправильном.
В чём суть дилеммы вагонетки?
Дальше использование этого примера станет весьма популярным и появятся десятки вариаций. В одной вместо стрелки придётся столкнуть на пути толстяка, в другой пути замыкаются в кольцо, в третьей вам сообщают, что одинокий человек на второй ветке особо важен (изобретает средство от рака или что-то в этом духе).
Несложно увидеть, что если вы добавите задаче медиатизированную форму, то есть оформите её в виде рисунка, реального набора объектов или видеоряда с манипулятором, то у вас получится игра. Простенькая, скорее всего из тех, которые называют обучающими, но всё-таки игра.
Пример визуализации разных подвидов дилеммы.
В качестве курьёза можно вспомнить и эксперимент, в котором люди были заменены хрустальными фужерами, а в роли вагонетки выступил шар для боулинга. Предсказуемо, что люди выбирали более эффектный вариант, а вовсе не «гуманный». Хотя самый смешной вариант можно найти на YouTube, где ребёнок в качестве решения перекладывает человечка к остальным пяти и направляет поезд по этому пути.
Слагаемые сложных дилемм
Однако если мы всерьёз задумаемся об устройстве этого мысленного эксперимента, то обнаружим целую серию элементов, которые ясно показывают, какие параметры и нюансы можно использовать и варьировать для моделирования моральной ситуации — что и нужно разработчикам. Ведь мало представить — важно сделать, причём сделать понятно и хорошо.
1. Принуждение к выбору
Дилемма этим заканчивается, но, по сути, это ключ к ней: что бы вы ни выбрали, вы понесёте моральную ответственность за любое решение. И действие, и бездействие — ваш выбор. В играх это особенно легко реализовать: сюжет просто не движется дальше, пока вы не совершите выбор. А в ряде случаев игра ещё и может подстегнуть вас или сделать выбор за вас, причём порой худший.
2. Неизбежность и необратимость последствий
Незначительные или обратимые последствия не создают тревоги и вины, а потому очень слабо включают в нас ответственность. Дилемма расправляется с этим легко: вагонетка уже катится, и остановить её нельзя — при любом раскладе пострадают люди, но вы вольны повлиять на исход.
Разработчикам подобный ход понравился: игры, особенно прежних времён, вообще не церемонились с игроками и наказывали их за любые ошибки. В данном случае создателю нужно лишь определиться с тем, приводит ли выбор игрока к ветвлению сюжета, или один из вариантов признаётся неверным (и ведёт к поражению). Вместе с тем для игрока потери — повод всерьёз отнестись к выбору.
3. Ограничение вариантов
В реальности всегда остаётся шанс на нестандартный ход: каким-то чудом докричаться и предупредить людей на путях, столкнуть тяжёлый предмет вместе с толстяком, а не его самого, подорвать вагонетку на подходе случайно завалявшейся в кармане базукой… По этой причине для ясности выбора варианты сокращаются до простой альтернативы «или/или». В ряде случаев даже оговаривается ограниченность ваших ресурсов: не хватит времени добежать, не сможете сами сброситься вместо толстяка, или это не остановит вагонетку.
Поскольку в играх всё запрограммировано, такой ход оказался удобен. Даже при ветвящемся нарративе у вас конечное количество последствий, которые нужно предусмотреть. Идея с ресурсами также весьма перспективна: нехватка предмета, уровня кармы или навыка может закрыть варианты в диалоге или действии. Всё это разнообразит игру и подталкивает к перепрохождению.
4. Ограниченность времени на принятие решения
В изначальном варианте такое ограничение не оговаривается, но подразумевается. В последующих экспериментах (особенно не мыслительных) начали не только оставлять на выбор 20—40 секунд, но и собирать статистику скорости принятия решения. Так выяснили, что включение центров мозга отвечающих за эмоции, коррелирует с увеличением времени принятия решения. Что, впрочем, не доказывает влияния эмоций на решение.
Для создателей игр время на принятие решений — необязательный «челлендж». Однако в попытках создать более реалистичный диалог (например, в играх CD Projekt RED) такие вещи в целом смотрятся хорошо. Большинство же игр всё-таки оставляют игроку возможность потупить.
5. Возможность варьировать условия и контекст
Дилемма вагонетки представляет собой простую схему, которую можно наполнять деталями: что известно о жертвах, какие будут последствия, где происходит ситуация? Ведь толстяк может оказаться одновременно и злодеем, который привязал пятерых к рельсам. Или лёгкость выбора пятерых в пользу одного существует лишь умозрительно и запросто опровергается дополнением о том, что тот один — ваш близкий. Наконец, сама Фут предполагала разные контексты: на месте несущейся вагонетки может оказаться падающий самолет, грузовик с грязной бомбой или толпа линчевателей.
Видеоигры развивались тем же путём: от группы пикселей, в которых вы должны были опознать то героя, то принцессу, то огнедышащего монстра, к многообразным реалистичным сеттингам, в которых приходится вставать на сторону гетов или кварианцев, людей или эльфов, беглых магов или храмовников… Разные миры, фракции и ситуации, идеологии и позиции героев, наконец — разные эмоции к персонажам, которые тоже могут влиять на выбор.
Со временем разработчики открыли и другие опции. Например, в классическом виде последствия и контекст очевидны, но можно сделать знание игрока неполным (что добавит реалистичности). Возможно красноречивая жертва не так уж добродетельна, а оглашённая правда приведёт к намного более ужасным последствиям, чем можно было бы предположить.
Читайте также: