Что будет, если появится робот с искусственным интеллектом?

Здравствуйте, Роман!

Ваш вопрос понятен в свете того, что искусственный интеллект нередко помещают внутри конструкции, напоминающей по форме человеческое тело и выполняющей некоторые похожие функции. Отсюда чувство, что этот робот — «почти человек». Особенно в фильмах, где сценаристы специально наделяют таких роботов эмоциями, характером с положительными или отрицательными чертами, «душой» — чтобы зрители за них переживали. В таких фильмах подчас не найдешь, где же у робота «кнопка».

Однако в реальной жизни кнопка — или ее эквивалент — всё-таки обычно есть. И робот с любым уровнем интеллекта всё-таки не человек, а машина. Хотя в некоторых аспектах ее интеллект уже может превосходить человеческий. Как съязвил недавно Илон Маск: Каспаров играет в шахматы почти так же хорошо, как его айфон. И, тем не менее, Каспаров — человек, а айфон — нет.

Потому что на самом деле «человечность» определяется вовсе не интеллектом. Простой пример: по мнению большинства мудрецов, змей до того, как подтолкнул Хаву и Адама к греху, умел говорить и буквально провел с Хавой беседу, записанную в Торе (Берешит 3). А значит, умел и думать. И ходил на двух ногах. Какие там человекообразные обезьяны, вот кто был человекообразным! Или, используя наши тут термины, имел интеллект, сопоставимый с человеческим, — даже не искусственный, а сотворенный Тем же Б-гом. И всё равно это был не человек, а змей.

Ибо человека определяет свобода выбора. Не только понимание, что такое хорошо и что такое плохо, но и умение заставить себя выбрать первое, даже если последнее легче, привлекательнее, соблазнительнее. Интеллектом можно всё понимать, но всё равно оставаться рабом своих инстинктов. Даже если бы волк понимал, что ягненок виноват лишь тем, что хочется ему, волку, кушать, всё равно голод толкнул бы его на съедение ягненка. И не потому, что волк «злой», а потому что он не может иначе.

Именно совершая правильный выбор, человек выполняет миссию, для которой был создан Б-гом: совершенствовать себя и мир — и так заработать награду в Будущем мире. И именно поэтому, например, его нельзя убивать: это значит — лишить возможности продолжить миссию и заработать еще больше. Только Б-г может решать, сколько эта миссия еще должна продолжаться.

Поэтому даже разумный змей — не человек, а животное. У него нет свободы выбора, он был создан для того, чтобы тем или иным образом служить человеку, и его разум — лишь инструмент, средство для выполнения этой цели. Физической кнопки у него, конечно, не было, но вся его жизнь — результат «нажатия кнопки» Б-гом, Создавшим его.

Впрочем, животные, по мнению Рамбана^[i], тоже являются живыми существами (не «роботами») и обладают в какой-то степени свободой выбора, они могут выбирать свои действия (в отличие от растений, которые даже такой свободой не обладают, хотя тоже, строго говоря, являются живыми организмами). Поэтому на начальном этапе существования мира — до Потопа — не было разрешено убивать животных, чтобы есть их мясо. И после Потопа сохранился запрет понапрасну причинять им боль.

Искусственный же интеллект — это чистой воды машина, выполняющая все свои действия не потому, что решила: так хорошо / так хочу, а потому что так запрограммирована. И боли тоже никакой не испытывает. Таким образом, она — всего лишь инструмент в руках того, кто ее использует, как калькулятор или автомобиль. Соответственно, говорить о наделении ее какими-либо «правами человека» не приходится.

Хотя конечно, когда эта машина по форме — тем более по голосу — напоминает человека (особенно женщину!), трудно удержаться от ощущения, что перед тобой «ну прямо человек», и вести себя соответственно. Что ж, никто и не заставляет бить или оскорблять машину, только воздержаться от этого следует не потому, что ей больно, а потому что это просто глупо…

Наконец, заметим, что само понятие «права человека» — современная идея, возникшая как реакция на тысячелетия несправедливостей, совершенных одними людьми в отношении других. А так — даже о человеке правильнее сказать, что он — творение Б-га, принадлежащее Ему, и нельзя без разрешения Владельца наносить ему какой-либо ущерб, физический или моральный. И что надо любить и его, и Сотворившего его Б-га. А еще: что обидчик наносит ущерб и собственной душе, становится злее, падает ниже, а ведь он тоже — творение Б-га, принадлежащее Ему. То есть все мы братья, сыны одного Отца, и когда один причиняет боль другому, понятно, что Отцу больно за обоих — за каждого по-Своему.

Задача каждого из нас — стать лучше и добрее и «в беде не бросить друга никогда» — и потому, что его надо любить, и потому, что именно так мы станем лучше и добрее. А не потому, что у друга есть на нашу помощь какие-то «права». Нет, у него прав нет, может только просить, но у нас есть обязанность. Так никто не будет требовать помощь, но сможет, из чувства доброты и/или долга ее оказать.

С уважением, Меир Мучник

[i] Раби Моше бар-Нахман, Рамбан (4954-5030/1194-1270, Испания — Эрец-Исраэль) — величайший законоучитель, комментатор Танаха и Талмуда, каббалист.