16-й год выпуска № 5 / 27 мая 2016 | 19 ияра 5776

Этика и технология

Компьютеризация повседневной жизни с точки зрения иудаизма / Интервью с раввином Жолтом Баллой

Наша повседневная жизнь всё больше зависит от компьютеров. Даже принимая важные решения, мы всё в большей степени полагаемся на вычислительную технику. Как далеко может зайти этот процесс, и как его следует оценивать с еврейской точки зрения? Об этом газета «Zukunft» побеседовала с членом правления Ортодоксальной конференции раввинов в Германии лейпцигским раввином Жолтом Баллой. Раввин Балла не отрицает, что в данном вопросе имеются проблемы, однако он убеждён в том, что и в будущем удастся адекватно разрешать дилеммы, которые ставят перед нами технология и этика, и что иудаизм может оказать в этом существенную помощь.

«Zukunft»: Господин раввин, угрожает ли человечеству полная зависимость от компьютеров? Уже сегодня мы можем представить себе ситуации, когда жизненно важные решения будет принимать искусственный интеллект. В качестве, возможно, самого известного примера можно привести беспилотный автомобиль, в котором компьютер самостоятельно решает, когда следует тормозить, ускоряться или уклоняться от препятствий. И это лишь один пример. В будущем компьютеры смогут принимать за людей и другие решения. Какова позиция иудаизма по этому вопросу?
Раввин Жолт Балла: Прежде всего хочу подчеркнуть, что иудаизм в принципе не отвергает технологию. Напротив, мы рассматриваем современные технологии как подарок Б-га. Они могут сделать нашу жизнь лучше, комфортнее, легче и, конечно, способствовать её продлению. Однако их нужно использовать в соответствии с заповедями нашей религии и этическими нормами.
Прежде чем мы перейдём к теме компьютеризации, я хотел бы пояснить этот принцип на примере давно известной проблемы использования электричества в Шаббат. Этот пример наглядно демонстрирует, как иудаизм ищет и находит сбалансированный подход к технике.
С началом широкого применения электричества авторитетные раввины постановили, что использование электрического тока относится к 39 так называемым основным видам работ, которые в принципе запрещено выполнять в Шаббат. Однако этот запрет не абсолютен. Разумеется, электричество может использоваться в Шаббат для спасения жизни, например, в операционном зале.
И это не единственный случай. Ещё одна известная ситуация: лежачий больной хочет в Шаббат вызвать звонком медсестру. Для этого было создано специальное устройство, в котором электрическая цепь механически прервана изолирующей пластинкой. Когда больной вынимает эту пластинку, цепь замыкается, и в сестринской комнате зажигается сигнальная лампочка. При этом речь не всегда идёт о спасении жизни, однако это устройство может использоваться и для облегчения страданий больного, например, для того чтобы он получил возможность принять болеутоляющие средства. В Галахе это называется «большой нуждой». С другой стороны, Галаха запрещает таким же способом замыкать электрическую цепь, чтобы, например, включить в Шаббат электронную игру.

В этих примерах речь идёт о решениях, принимаемых человеком, а не компьютером.
Конечно. Однако этот пример показывает, что иудаизм занимается вопросом новых технологий не только с момента изобретения компьютера и сбалансировано регулирует их использование. В последние десятилетия появились и другие технологии, например, искусственное оплодотворение, для использования которого современные авторитетные раввины также разработали галахические правила. Я всегда говорю, что иудаизм радикален, но не безумен. Радикален в том смысле, что мы строго соблюдаем божественные заповеди, однако в то же время наша религия даёт нам возможность с учётом многих факторов принимать гуманные решения.

Это распространяется не только на технологию….
…но и в самом деле на все жизненные вопросы. Толкование заповедей – это суть Талмуда, который содержит множество интереснейших дискуссий. Благодаря этому принципу иудаизм может найти ответы и на вопросы, возникающие в связи с появлением новых технологий.
Возьмём, например, беспилотные автомобили, о которых вы упомянули ранее. Пока ещё не доказано, что использование этой технологии не заключает в себе большого риска. Предположим, однако, что через несколько лет будет установлено, что она безопасна и успешна. Если благодаря ей можно будет спасать человеческие жизни, например, за счёт снижения числа аварий со смертельным исходом, то тогда, с моей точки зрения, использование беспилотных автомобилей будет допустимо.

А что если в результате ошибок компьютера пострадают или погибнут люди?
Это уже сейчас может произойти в любой сфере жизни. Однако это не означает, что применение компьютеров в качестве вспомогательного средства в принципе запрещено. Речь идёт о том, чтобы правильно их использовать. Чего ни в коем случае нельзя допускать, так это того, чтобы компьютеры решали, что такое добро и что такое зло, то есть принимали этические решения. Эта прерогатива должна оставаться за людьми.

Например?
Предположим, в больницу поступает мотоциклист с тяжёлой травмой головы и решение о его лечении принимает специально запрограммированный медицинский компьютер. Если принять срочные меры, то мотоциклиста можно спасти. Однако компьютер также знает, что если использовать его в качестве донора органов, то можно будет спасти пять других людей. Следуя логике чисел, наверное, нужно было бы дать мотоциклисту умереть, чтобы спасти пять человек. Разумеется, с еврейской, да и не только с еврейской, точки зрения, такое решение было бы абсолютно недопустимо.
Этим я хочу сказать, что при использовании беспилотных автомобилей компьютерная техника, действуя по принципу случайности, могла бы способствовать уменьшению количества жертв на дорогах. А во втором гипотетическом случае компьютер должен был бы решать, кому жить, а кому умирать.
Поэтому, как сейчас, так и в будущем, прежде чем принять решение о правилах использования той или иной технологии, необходимо подвергнуть её тщательному анализу. Главное, чтобы человек осознавал свою ответственность. Компьютер можно программировать. И делать это нужно хорошо и правильно. Я знаю, о чём говорю, так как получил техническое образование и работал инженером-разработчиком программного обеспечения. Этика же программированию не поддаётся. Было бы иллюзией верить в то, что мы можем и имеем право перекладывать ответственность за принятие этических решений на компьютеры.
Кроме того, это привело бы к непредсказуемым последствиям. При этом речь идёт не только о вопросах жизни и смерти, а в целом о том, чтобы технологии сделали нашу жизнь лучше, а не хуже. В качестве недавнего примера из области экономики можно привести торговлю ценными бумагами и валютой, бесконтрольно осуществлявшуюся компьютерами, которая в считанные доли секунды могла привести к банкротству предприятий и вкладчиков. Так это не было задумано.

Для принятия галахических решений по новым технологиям нужно не только знать Галаху, но и обладать соответствующими технологическими знаниями. Есть ли среди раввинов достаточное количество экспертов в этой сфере?
Разумеется. Сегодня вопросами Галахи занимаются авторитетные раввины, прекрасно разбирающиеся в последних достижениях науки. Среди раввинов есть также доценты и профессора в области естественных наук. При этом в профессии раввина, как и во многих других областях, происходит всё большая специализация. Так, вопросами кашрута занимаются раввины, не только обладающие общими познаниями в области пищевых технологий, но и специализирующиеся на отдельных узких областях. Всё большее проникновение электроники в нашу повседневную жизнь, несомненно, будет способствовать появлению среди евреев достаточного числа экспертов, отлично разбирающихся не только в религиозных законах, но и в самой современной электронике.

Существует ли опасность того, что технология выйдет из-под нашего контроля? В опубликованном 66 лет назад рассказе «Конфликт, которого можно избежать» писателя-фантаста Айзека Азимова описывается мир, которым управляют суперкомпьютеры. Согласно сформулированным Азимовым законам роботехники, роботы не могут причинить человеку вреда. Однако в его рассказе суперкомпьютеры обезвреживают людей, которые восстают против их господства, совершая небольшие акты экономического саботажа и тем самым не давая этим людям продвинуться по карьерной лестнице. Они считают, что имеют право причинять определённый вред отдельным людям, чтобы спасти всё человечество от «опасности», которая может угрожать ему в случае потери компьютерами фактической власти. Как вы думаете, такое возможно?
Я знаю этот рассказ. Ни писатели-фантасты, ни раввины не являются пророками. Однако для того чтобы технология служила человеку и защищала его, важно осознавать, что она может заключать в себе опасность. Иудаизм с его религиозными основами, традициями и аналитическими средствами может внести существенный вклад в решение этой проблемы.