Как иудаизм относится к беспилотным автомобилям?

Уважаемый Ариэль,

Большое спасибо, что обратились к нам.

Известно, что появление беспилотных автомобилей должно кардинально изменить уклад нашей жизни. Одна из главных задач разработчиков программы по управлению этими автомобилями — спасение человеческой жизни. По статистике на дорогах мира ежедневно погибает около 3400 человек. Беспилотные автомобили, в которых комбинируются данные о местонахождении других автомобилей, возможных препятствиях на трассе и т. п., должны свести вероятность человеческих жертв к минимуму.

Дилемма вагонетки

Одна из значимых проблем при разработке программы автомобилей — разрешение морально-этических дилемм, которые могут возникнуть при их эксплуатации. В Иерусалиме в компании «Мобилай»^[i] (в частности) в разработке программы участвуют религиозные евреи, которые работают, среди прочего, над тем, чтобы решения, которые будет «принимать» автомобиль, соответствовали и еврейскому Закону.

Возьмем, например, известную «дилемму вагонетки», сформулированную в 1967 году английским философом Филиппой Фут. Вагонетка движется по рельсам, на ее пути привязаны 5 человек, которые неизбежно погибнут, если вагонетка продолжит свой путь. На другой колее привязан один человек. Тот, который наблюдает ситуацию со стороны, имеет возможность перевести стрелку так, чтобы вагонетка свернула с колеи, где привязаны 5 человек, и проехала по колее, где привязан один человек.

В современной философии есть два подхода к этой проблеме. Согласно утилитарному подходу, в принятии решений мы должны руководствоваться конечным результатом действия. Т. е. в данном случае мы должны перевести стрелку, поскольку в результате погибнет меньше людей.

Согласно другому подходу, деонтологическому, мы должны оценивать действие человека, а не результат. Т.е. поскольку в данном случае перевод стрелки будет означать убийство, человек не имеет права так поступить. И, соответственно, согласно этому подходу, он должен бездействовать.

Массачусетский технологический институт разработал специальный тест для изучения человеческих ценностей. Скажем, как бы испытуемые поступили, если бы тот «один человек на рельсах» был их родственником или, например, важным государственным деятелем. Сторонники утилитарного подхода тоже предпочли бы спасти тех пятерых, а не этого одного? Варьировались также пол, возраст, раса этого «одного человека на рельсах».

В реальной жизни, на реальной дороге этот вопрос остается теоретическим, поскольку в большинстве случаев в опасной ситуации человек следует инстинктам. Но при разработке программы для беспилотного автомобиля — это реальная дилемма. Как должен ехать автомобиль, когда на пути перед ним оказались несколько людей, а если он свернет на тротуар, то собьет одного прохожего?

Дилемма тоннеля

Прежде чем разбирать эту дилемму с точки зрения еврейского закона давайте попробуем рассмотреть ее частный вариант — дилемму тоннеля. В данном случае водитель, движущийся по тоннелю, видит пешехода, стоящего на дороге. У водителя есть две возможности: продолжить ехать прямо и сбить пешехода или свернуть в сторону, врезаться в стену и погибнуть.

Мы убрали количественный аспект дилеммы, теперь в обоих случаях погибнет только один человек. А в фокусе другой аспект: обязан ли человек в этой ситуации пожертвовать собой?

Обратимся к Талмуду (Санхедрин 74а). Ситуация следующая: человеку предоставляют выбор: либо ты убьешь другого, либо мы убьем тебя. Талмуд приходит к выводу: человек обязан отдать свою жизнь, но не нарушить запрет убийства. И обосновывает этот вывод так: мы не можем сказать, что «кровь одного человека краснее крови другого». Т. е. мы не имеем права предпочесть одного из двух людей, поэтому необходимо бездействовать. Что означает — отдать свою жизнь.

С другой стороны, Талмуд (Бава Меция 62а) говорит о такой ситуации: два человека идут по пустыне и у них есть только один кувшин с водой: если они разделят воду поровну, то ни один из них не дойдет до места назначения. Если же один из них выпьет всю воду, то он дойдет, а другой погибнет.

Раби Акива^[ii] постановляет: владелец кувшина должен выпить воду сам, несмотря на то, что это приведет к гибели другого человека. Так как в первую очередь человек обязан позаботиться о себе, а затем помогать другим, как сказано в Торе (Ваикра 25:37) «…чтоб жил брат твой с тобою». Раби Акива толкует: «с тобою» означает: «твоя жизнь (для тебя) предпочтительнее». (Т. е. брат твой должен жить «с тобою», а не «без тебя»).

На первый взгляд эти два вывода Талмуда противоречат друг другу. В первом случае сказано, что человек должен отдать свою жизнь, но не убивать другого, а во втором — что человек должен предпочесть собственную жизнь жизни другого.

Это «противоречие» объясняют по-разному, но мы с Вами обратимся к комментарию Тосафот^[iii] (Сангедрин 74 б), который приводится также в Шулхан Арухе^[iv] (Йорэ Дэа 157:1). Там сказано, что обязанность отдать свою жизнь, но не убить другого, существует только в том случае, когда человек совершает сам акт убийства, скажем, стреляет в другого. Но если, например, человека хотят сбросить сверху на ребенка — и это приведет к гибели ребенка, то человек не обязан жертвовать жизнью, поскольку он пассивен, не совершает убийства сам.

Автор «Минхат Хинух»^[v] (295-296:23) объясняет, что галахическое решение раби Акивы (о том, что человек должен предпочесть свою жизнь и выпить свою воду сам) становится понятным после разъяснения Тосафот. Ведь в данном случае человек не делает никакого действия, чтобы убить другого. Соответственно, в данном случае неприменимо правило «отдай свою жизнь, но не убивай другого».

Разрешение дилеммы тоннеля

Теперь мы можем понять, как разрешается по Закону дилемма с тоннелем. Если дорога прямая и водитель не совершает никак дополнительных движений, это рассматривается как пассивное состояние, поэтому он может продолжать ехать так дальше. Если же дорога поворачивает, а человек стоит за углом, то, поскольку водитель должен повернуть руль, чтобы продолжать ехать по этой дороге, это будет совершение действия — совершение убийства. В этом случае нужно отдать свою жизнь, но не убивать другого.

Кроме того необходимо принять во внимание, разрешено ли пешеходу в данный момент находиться на дороге. Т. е. если он вышел на дорогу, нарушив правила дорожного движения, то даже если водителю приходится совершить прямое действие, он не обязан жертвовать своей жизнью, чтобы спасти пешехода.

Разрешение дилеммы вагонеток

Иерусалимский Талмуд (Трумот 8:4) рассматривает следующую ситуацию: разбойники захватили группу людей и поставили их перед выбором: либо вы выдаете нам одного из вас и мы его убиваем, либо мы убиваем вас всех. Талмуд говорит: что нельзя взять одного и выдать его разбойникам, все должны пойти на смерть. Мы видим, что Талмуд явно отдает предпочтение деонтологическому подходу: нельзя пожертвовать одним человеком, чтобы спасти группу людей.

Хазон Иш^[vi] (Йорэ Дэа 69:1) рассматривает такой случай: ракета летит на город и есть возможность сбить ее, но тогда она упадет и убьет одного человека. Это очень похоже на дилемму вагонетки, о которой мы говорили выше. Отметим, что Хазон Иш написал свой труд задолго до того, как была впервые сформулирована дилемма вагонетки (это было в 1967 году).

Хазон Иш говорит, что здесь ситуация, возможно, отличается от той, где разбойники требуют выдать им на смерть одного человека. Ведь выдача этого человека разбойникам рассматривается как акт убийства, а спасение остальных людей — только косвенный результат этого. А действие по сбиванию ракеты можно рассматривать как спасение, а гибель одного человека — как косвенный результат. Поэтому, предпринимая действия по спасению, мы может принять во внимание и результат — спасение большего количества людей.

Тем не менее, в конечном счете, Хазон Иш оставил этот вопрос неразрешенным.

Если так, то и в ситуации с вагонеткой, которая очень похожа на ситуацию с ракетой, у нас нет однозначного решения.

Цель разработки программы— спасение

Основываясь на сказанном, мы можем предположить, каким будет решение. Когда речь идет о беспилотном автомобиле, программа пишется задолго до того, как в дорожной реальности возникает дилемма: пожертвовать ли жизнью одного, чтобы спасти многих? Кроме того, вся цель написания программы априори — спасение людей.

Раз так, предположение Хазон Иша будет применимо на практике: ведь действие самоуправляемого автомобиля в соответствии с заложенной программой можно рассматривать как действие по спасению. Соответственно, легитимно принять во внимание и результат — и поставить целью спасение большего количества людей.

Решения, оказывающие влияние на общество

Еще один аспект, который важно принять во внимание: в данном случае мы говорим не о частной ситуации, а об общей линии и правилах поведения. Рав Ицхак Зильберштейн^[vii] приводит слова рава Элияшива^[viii]: существует различие между принятием решений в частной ситуации и принятием решений, которые окажут влияние на всё общество.

Например, когда речь идет о конкретном больном, который обращается к нам, мы должны приложить все усилия к его спасению. Однако если речь идет, например, о корзине услуг здравоохранения, которые оплачивает государство, мы должны думать о спасении максимального количества людей и не можем потратить все средства на редкие лекарства для одного человека.

Поэтому, возможно, и при решении вопросов, касающихся беспилотного автомобиля, надо принять во внимание, что речь идет о политике и правилах поведения для всего общества. Следовательно, необходимо заботиться о спасении наибольшего количества людей.

Заключение

Разумеется, мы попробовали обсудить эти проблемы с теоретической точки зрения. Тем не менее, это помогает задуматься о ценности жизни каждого человека, глубже прочувствовать ее. В иудаизме мы находим правильный сбалансированный подход даже к самым сложным проблемам жизни человека и общества — на основе Б-жественной Торы.

Нам же с вами остается только молиться, чтобы жизненно важные решения в нашем мире принимались богобоязненными людьми, осознающими истинную ценность человеческой жизни. Тогда в этом мире освящается Имя Творца.

С уважением, Яков Шуб

[i] «Мобилай» (англ. Mobileye) — израильская хай-тек компания, разрабатывающая развитые системы помощи водителю (ADAS) для снижения опасности столкновения.

[ii] Раби Акива бен-Йосеф (3775-10 тишрея 3896 / 15-135 , Эрец-Исраэль) — один из величайших мудрецов Израиля всех времен.

[iii] «Тосафот» — буквально означает «прибавления», «добавления». Под этим названием объединены обширные комментарии практически на все трактаты Талмуда, составленные плеядой знаменитых еврейских ученых 12-14 веков, главным образом — из Франции и Германии. Отталкиваясь от комментария Раши, они как бы продолжают и расширяют его.

[iv] Шульхан Арух — самый авторитетный кодекс еврейского Закона. Составлен раби Йосефом Каро (Испания — Португалия — Турция — Эрец-Исраэль) в 16 веке.

[v] Раби Йосеф бар-Моше Бабад (Минхат Хинух; 5550-5634 / 1790-1874, Галиция — Украина) — выдающийся законоучитель. Книга «Минхат Хинух» — развернутый комментарий на классический труд «Сефер а-Хинух», где кратко описаны все шестьсот тринадцать заповедей Торы в том порядке, как они приводятся в самом Пятикнижии.

[vi] Раби Авраам-Йешая бар-Шмарьяу-Йосеф Карелиц(Хазон Иш, 5639-5714 /1879-1953; Белоруссия — Литва — Эрец-Исраэль — Израиль) — духовный лидер и ведущий законоучитель своего поколения.

[vii] Рав Ицхак Зильберштейн (родился в 5694 / 1934 в Польше) — галахический авторитет, раввин района Рамат Эльханан в Бней-Браке, глава колеля «Бейт Давид» в Холоне, член Моэцет гдолей а-Тора (Совета выдающихся знатоков Торы) в «Дэгель а-Тора».

[viii] Раби Йосеф-Шалом Элияшив (5670-5772 / 1910-2012, Литва — Эрец-Исраэль — Израиль) — крупнейший законоучитель и мудрец Торы современности, духовный лидер поколения.