Заключение

Новые научные открытия почти всегда порождают новые этические дилеммы, и современные технологии – не исключение. Какие новые способы убийства людей откроют космические исследования? Кто больше всего пострадает, если дешевая генная инженерия захлестнет мир? Какие виды мошенничества появятся с развитием искусственного интеллекта? (Некоторые ответы на эти вопросы я дам в Приложении.) Польза от наклеивания черных усов и планирования гипотетических преступлений в том, что сам акт воображения этих действий способен помочь предугадать и предотвратить их в будущем. Но кое-что мы можем сделать незамедлительно – разработать стратегию развития этической науки здесь и сейчас и избежать тех провалов в нравственное болото, с какими мы сталкивались на протяжении этой книги.

Прежде всего, и это основа основ: планируя какие-то эксперименты, ученые должны стремиться держать в уме их этические аспекты. Для этого не надо быть семи пядей во лбу. Даже простая подсказка дает многое, что продемонстрировало, например, одно психологическое исследование 2012 года.

В этом исследовании добровольцам предлагалось решать математические задачи за деньги. Чем больше решишь – тем больше получишь. Психологи сказали участникам, что им нужно будет заполнять налоговую форму для отчета о своих выигрышах. Они также могут требовать компенсацию за транспортные расходы. Для этого надо заполнить другую форму. В качестве гарантии честности участникам нужно было поставить свою подпись в рамочке, подтверждая, что они предоставляют достоверную информацию. Но не все формы были одинаковыми. В половине случаев рамочка для подписи располагалась вверху листа, а это означало, что участник эксперимента подтверждает свою честность до того, как начинает заполнять форму. В другой половине рамочка располагалась внизу, и до нее дело доходило в последнюю очередь. Угадайте, какое расположение больше подталкивало к обману? Те, кто ставил подпись в последнюю очередь, все уже заполнив, вдвое чаще занижали свой выигрыш и завышали транспортные расходы. Аналогичная тенденция сохраняется и в реальной жизни. На этот раз психологи работали вместе со страховой компанией, которая предлагала страховку по принципу «плати сколько наездишь». В принципе, чем меньше километров проедешь – тем меньше страховая премия. Психологи решили посмотреть, насколько честно люди указывают реальный километраж. Им также предлагалась форма двух видов – в половине подпись надо было ставить вверху, в другой – внизу. Те, кто ставил подпись внизу, указывали в среднем на три тысячи километров меньше. Разница составила 10 процентов.

В целом, по мнению психологов, если люди вспоминают об этике до начала работы, то ведут себя более честно и подавляют стремление как-то сжульничать (этим, вероятно, объясняется традиция приводить к присяге свидетелей в суде до начала дачи показаний). Более того, после того как мы солгали, в известном смысле оказывается поздно что-то исправить. Мы очень хорошо умеем оправдывать свое недостойное поведение с помощью ментальных трюков, с которыми, в частности, встречались в этой книге – используя эвфемизмы, чтобы замаскировать правду, перекрывая плохие поступки хорошими, представляя себя с лучшей стороны по сравнению с теми, кто делает еще хуже, и так далее. Постановка подписи внизу также стимулирует лень. Вы можете почувствовать угрызения совести за то, что солгали, но в таком случае надо возвращаться и переделывать все ответы – да ладно, кого это волнует? Как ни цинично это звучит, одним из важных компонентов этики является создание человеку удобных условий для этичного поведения.

Разумеется, распиской в соответствующем месте не получится как по волшебству избавиться от всех научных грехов. (Как это должно звучать? Клянусь не совершать никаких злодеяний и гадостей, про которые когда-нибудь напишут целую главу книги. Да поможет мне Бог.) И никто не в состоянии остановить настоящих злоумышленников. Но в большинстве случаев у множества людей первоначальная мысль об этичности планируемых действий или поступков активизирует рефлексию и снижает риск катастрофы. С этой целью психолог, нобелевский лауреат Даниэль Канеман продвигал идею «премортем». В более привычной парадигме «постмортем» вы анализируете то или иное событие после того, как поняли, что дело пошло не так. В ситуации «премортем» вы рассуждаете о том, что может пойти не так, – еще до того, как приступать к делу. Как может, например, конкретный проект обернуться фиаско? Исследования показали, что даже десять минут раздумий способны разбить групповое мышление и дать людям возможность сформулировать свои сомнения. В некоторых группах даже специально подбирают людей, которые будут высказывать возражения – своего рода адвокатов дьявола – в надежде получить хоть какое-то расхождение во мнениях. Аналогичным образом ученые могут ликвидировать какие-то свои «слепые зоны», собирая информацию от людей, имеющих противоположную точку зрения и обращающих внимание на подводные камни, которые один человек мог не заметить. Это могут быть группы, объединенные по этническому, гендерному и половому признакам, а могут быть и те, кто вырос при недемократических режимах, или в сельской местности, или в рабочей среде, или в религиозной. Чем больше разнообразие мнений, тем лучше.

Еще один способ всегда думать об этике (хм!) – знать историю науки. Услышать, как настоятель в церкви провозглашает «Будьте этичны!» – это одно. Совсем другое – погружаться самому в истории о разного рода прегрешениях и воспринимать каждое злодеяние как удар под дых. Вот почему эти истории так действенны – они запоминаются. И надо признать, что добрые намерения – не защита. Джон Катлер в Гватемале руководствовался самыми добрыми намерениями, он хотел найти способ победить сифилис и гонорею. И при этом умышленно инфицировал людей венерическими заболеваниями, отчего некоторые даже скончались. Джон Мани имел самые лучшие намерения, отстаивая теорию «чистого листа» человеческой сексуальности, чтобы повысить толерантность к маргинальным группам. Но погубил жизнь Дэвида Реймера. Уолтер Фримен с наилучшими намерениями продвигал психохирургию, чтобы облегчить жизнь безнадежным пациентам психиатрических приютов. И сделал лоботомию тысячам людей, которые в этом не нуждались. Всем известно, чем вымощена дорога в ад.

Но в то же время – и это, пожалуй, самое сложное – важно не изображать Катлера, или Мани, или Фримена монстрами, потому что от монстров слишком легко отмахнуться как от исключения из правил (я не монстр, так что мне не о чем волноваться). Если быть честными перед собой, надо признать, что любой из нас может угодить в ту же ловушку. Может, не в таких ситуациях, о которых я рассказывал, может, и не столь вопиющих. Но где-то в чем-то каждый из нас может совершить нечто неэтичное. Честно признавать это – лучший способ не утратить бдительность. Как говорил Карл Юнг, в каждом из нас скрывается злодей, и, только если мы это признаем, есть надежда его обуздать.

Многие поверхностно полагают, что самые умные люди превосходят других в этическом и интеллектуальном плане; напротив, факты свидетельствуют об обратном, поскольку самые умные считают, что достаточно умны, чтобы избежать разоблачения. Если вспомнить аналогию с автомобилем, ум – это мотор огромной мощности. Вы можете попасть в пункт назначения, но если рулевое управление (т. е. нравственные принципы) никуда не годится, шансы попасть в аварию значительно возрастают. Нравственность помогает ориентироваться в жизни и не допускает, чтобы мы свернули на какой-нибудь опасный путь.

Преступления, описанные в этой книге, не должны дискредитировать огромную работу, которую непрестанно ведут ученые в лабораториях по всему миру. Подавляющее большинство из них – симпатичные, самоотверженные люди, и, учитывая все чудеса, которые они сотворили, наше общество без них было бы несравнимо беднее – как в материальном, так и в духовном смысле. Но ученые тоже люди. Подобно химику Гарри Голду, они дают втянуть себя в заговоры и предают друзей. Подобно пирату Уильяму Дампиру, они безумно увлекаются своими исследованиями и не замечают творящихся рядом злодеяний. Подобно палеонтологам Маршу и Коупу, пытаются дискредитировать соперников и в итоге сами себя губят.

Альберт Эйнштейн однажды сказал: «Большинство людей полагают, что великий ученый – это прежде всего интеллект. Они ошибаются. Это прежде всего характер». Должен признаться, когда я впервые прочитал эту фразу (очень давно), я поморщился. Кого интересует, добр ученый или нет? Открытия – вот что главное. Но, пока я писал эту книгу, до меня дошло. С одной стороны, наука – это собрание фактов об окружающем мире, и для добавления новых фактов действительно нужно делать открытия. Но наука одновременно и нечто большее. Это тип мышления, процесс, способ рассуждений о мире, который помогает выявить стремление принять желаемое за действительное, увидеть предвзятость и предложить взамен более обоснованные, достоверные факты. Учитывая, насколько огромен наш мир, невозможно проверить каждый проводимый эксперимент и лично убедиться в его чистоте. В известной степени приходится верить заявлениям других людей, а это означает, что они должны быть уважаемыми, достойными доверия. Более того, наука – это, по существу, общественный процесс. Результаты нельзя хранить в тайне, они должны быть верифицированы широким сообществом, иначе наука просто не функционирует. А учитывая, насколько глубоко общественным процессом является наука, такие ее действия, которые наносят ущерб обществу путем сокращения прав человека или пренебрежения человеческим достоинством, почти всегда дорого ей обходятся – подрывом веры людей в науку и даже разрушением самих условий, необходимых для нормального существования науки.

Все это означает, что честность, чистота и добросовестность – краеугольные камни характера – являются основополагающими для науки. Поэтому люди, которые методично и на совесть трудятся в своих лабораториях, проверяя все гипотезы и стремясь к полному согласию тех, кто имеет к этому отношение, будут действовать лучше, чем сорвиголовы, которые не морочат себе голову такими понятиями или считают, что они выше этого. И в этом смысле Эйнштейн был прав: без характера наука обречена, а ученые, пренебрегающие этикой, слишком часто вредят науке.

Это особенно верно сейчас, потому что после Второй мировой войны наука означает силу, далеко превосходящую такие грозные и очевидные вещи, как атомная бомба. Она подразумевает взаимодействие, как психолог, манипулирующий человеческим сознанием в лаборатории, или врач, уговаривающий пациента принимать лекарство, эффект от которого сомнителен. Мелкие погрешности тоже могут сломать жизнь.

Неважно, что станет с нами в будущем – превратимся мы в полукиборгов, переселимся на Плутон или присоединим к себе набор ДНК ящериц, – наши потомки все равно останутся людьми и, скорее всего, будут продолжать плохо себя вести. Как говорят психологи, лучший предсказатель будущего поведения – прошлое поведение. И Эйнштейн, как обычно, видел дальше, чем большинство из нас. Интеллект – это хорошо, безусловно. Но, учитывая, какую власть обрела наука, теперь одного этого недостаточно. Характер, о котором он говорил, – лучшая гарантия против научного злоупотребления, и нам остается только ждать и смотреть, смогут ли эти два важнейших компонента науки – интеллект и характер – мирно сосуществовать в будущем.