В недавней истории было несколько переломных моментов, когда пара человек стояла перед выбором, способным привести к заражению Земли инопланетной органикой или же поджечь её атмосферу. Что подобные ситуации способны поведать нам об отношении государственных структур и всего общества к экзистенциальным рискам, с которыми мы сталкиваемся сегодня?
В конце 1960-х годов NASA пришлось принять решение, которое могло повлиять на судьбу всего нашего вида. Во время возвращения лунной миссии «Apollo-11» трое астронавтов находились внутри капсулы, приводнившейся в Тихом океане, и ждали, когда их подберёт спасательная команда. Им было довольно жарко и неудобно. Представители NASA решили порадовать своих трёх национальных героев и поскорее их освободить. В чём же подвох? Была небольшая вероятность выпустить на Землю смертоносные инопланетные микробы.
За пару десятилетий до этого перед группой учёных и военных стояла похожая дилемма. Ожидая первого испытания атомного оружия, они знали о возможном катастрофическом исходе. Был шанс, что их эксперименты могут случайно воспламенить атмосферу и уничтожить всё живое на планете.
В прошлом веке произошло несколько подобных событий, когда немногочисленные группы людей держали судьбу мира в своих руках, неся ответственность за решение, способное с небольшой, но вполне реальной, вероятностью привести ко глобальной катастрофе. Что означало бы не только к конец их собственной жизни, но и уничтожение всего живого на планете.
Итак, что же привело к подобным событиям? И что они способны поведать нам об отношении общества к опасностям и кризисам, с которыми мы сталкиваемся сегодня?
Когда в середине 20-го века человечество впервые задумало отправить зонды и людей в космос, на первый план вышла опасность загрязнения.
Вторая проблема заключалась в обратном загрязнении. Всегда существовала возможность, что астронавты, ракеты или зонды, возвращающиеся на Землю, могут привезти с собой инопланетную жизнь, которая может оказаться чрезвычайно опасной для нашей экосистемы. Она, при определённой вероятности, станет либо вытеснять земные организмы, либо сделает что-нибудь гораздо хуже, например, начнёт потреблять наш кислород в геометрической прогрессии.
Обратное загрязнение было одним из краеугольных камней, к которому NASA стоило серьёзно отнестись при планировании миссий «Apollo» на Луну. Что, если космонавты привезут что-то опасное? В то время подобная вероятность не считалась высокой — немногие думали, что на Луне может реально существовать жизнь, — но всё же такой сценарий необходимо было изучить, потому что последствия могли быть очень серьёзными. «Вполне возможно что, с вероятностью до 99%, “Apollo-11“ не привезёт лунные организмы», — говорил один влиятельный в то время ученый, — «но даже этот 1% неопределенности слишком велик, чтобы позволить себе о нём не беспокоиться».
NASA ввело несколько карантинных мер — в некоторых случаях с большим нежеланием. Официальные лица Службы общественного здравоохранения США, обеспокоенные происходящим, выступали за более строгие мероприятия, чем планировалось изначально, выкручивая космическому агентству руки и указывая на то, что они имеют право отказывать заражённым астронавтам в пересечении условной границы США при их приземлении. После слушаний в Конгрессе NASA согласилось установить на судне дорогостоящую карантинную установку, где будет размещена команда космического корабля вслед за приводнением в Тихом океане. Также было принято решение, что исследователи Луны проведут три недели в изоляции, прежде чем смогут обнять свои семьи или пожать руку президенту.
Однако, по словам юриста Джонатана Винера из Университета Дьюка, который описал этот эпизод в статье о неправильном восприятии катастрофического риска, процедура карантина имела большой пробел.
Когда астронавты приводнились, в исходном протоколе говорилось, что они должны оставаться внутри космического корабля. Но NASA начало сомневаться насчёт правильности этого решения после того, как появились опасения по поводу благополучия экипажа во время ожидания в жарком душном пространстве, которое ко всему прочему ещё и раскачивалось на волнах. Вместо этого официальные лица решили отпереть люк и забрать людей на катере и вертолете (см. заглавную фотографию этой статьи). В то время как они были в костюмах биологической защиты и впоследствии отправились в карантинный комплекс на корабле, весь внутренний воздух капсулы хлынул наружу, как только она была открыта.
К счастью, миссия «Apollo-11» не привезла на Землю смертоносную инопланетную жизнь. Но если бы это всё-таки произошло, то приоритет краткосрочному комфорту астронавтов мог бы позволить этой жизни выбраться наружу: в океан или атмосферу нашей планеты, в течение короткого промежутка времени, пока капсула была открыта.
Ядерная аннигиляция
Двадцатью четырьмя годами ранее учёные и официальные лица правительства США стояли на пороге другого поворотного момента, связанного с небольшим, но потенциально катастрофическим риском. Перед первым испытанием атомного оружия в 1945-м году учёные Манхэттенского проекта провели расчёты, указывающие на вероятное и очень пугающее последствие этого эксперимента. По одному сценарию, который они разработали, тепло от ядерного взрыва могло быть настолько большим, что вызвало бы безудержный термоядерный синтез. Другими словами, испытание могло бы случайно поджечь атмосферу и сжечь океаны, уничтожив большую часть жизни на Земле.
Последующие исследования показали, что это, скорее всего, невозможно, но вплоть до последнего часа учёные проверяли и перепроверяли свои расчёты. Наконец настал день первого в мире тестирования технологии ядерного оружия и официальные лица, взяв на себя всю ответственность, решили действовать. Позже это испытание назвали «Тринити».
Когда вспышка ядерного взрыва оказалась значительно ярче и продолжительнее, чем ожидалось, по крайней мере один из наблюдавших за ней членов команды подумал, что случилось худшее. Им был президент Гарвардского университета, чья первоначальная тревога быстро превратилась в страх. «Мало того, что (он) не был уверен, что бомба сработает, когда это произошло, он полагал, что они провалили испытание с катастрофическими последствиями, и что он был свидетелем, как он сам выразился, “конца света“», — рассказала внучка наблюдателя, Дженнет Конант в интервью Washington Post после написания книги, повествующей об учёных проекта.
Для философа Тоби Орда из Оксфордского университета этот момент стал одной из важнейших вех в истории человечества. Он отождествляет конкретное время и дату испытания «Тринити» — 05:29 утра 16 июля 1945-го года — с началом новой эры, отмеченной значительным увеличением наших способностей к саморазрушению. «Внезапно мы высвободили столько энергии, что создали беспрецедентные температуры за всю историю Земли», — пишет Орд в своей книге «The Precipice». Несмотря на точность расчётов манхэттенских ученых, их работа никогда не подвергалась независимой экспертизе, отмечает Тоби, и также не было никаких доказательств того, что какой-либо избранный представитель США был проинформирован о риске, не говоря уже о других правительствах. Учёные и военные действовали самостоятельно.
Орд также подчеркивает, что в 1954-ом году учёные сделали поразительно неверный прогноз другого ядерного испытания: вместо ожидаемого взрыва в 6 мегатонн, его оценили в 15 уже после завершения эксперимента. «Из двух основных расчётов термоядерных взрывов, сделанных тем летом … они рассчитали один правильно, а другой — чрезвычайно неточно. Было бы ошибкой делать из этого вывод, что субъективный риск воспламенения атмосферы достигал 50%. Но это определенно не тот уровень надёжности, чтобы вот так брать и рисковать своим будущим».
Уязвимый мир
С точки зрения нашего просвещённого 21-го века было бы легко полагать, что подобные решения являлись типичными для своего времени. Научные знания о потенциальном загрязнении и жизни в Солнечной системе сейчас намного более полны, а война между союзниками и нацистами давно миновала. В наши дни никто бы не стал так рисковать, верно ведь?
К сожалению, нет. Вероятность катастрофы (во всяком случае, на момент написания этого текста) больше, чем была тогда, и неважно, будет ли событие вызвано случайной ошибкой или произойдёт по какой-либо другой причине.
По общему признанию, случайное уничтожение инопланетной органики – не самый большой риск, с которым сталкивается мир. Тем не менее, хотя могут существовать протоколы «планетарной защиты» и лаборатории для предотвращения заражения чужеродными организмами, остаётся открытым вопрос, насколько хорошо эти правила и процедуры будут применяться к частным компаниям, которые совсем скоро начнут посещать другие планеты и луны Солнечной системы. В дополнение к этой угрозе, трансляция наших сообщений в галактику, что по сути является заявлением о существовании нашей цивилизации, может привести к потенциально катастрофической встрече с пришельцами, особенно если уровень их технологий значительно опережает наш. История показывает, что с населением, которое сталкивается с гораздо более развитыми культурами, как правило происходят довольно плохие вещи — вспомните судьбу коренных жителей Америки, повстречавших европейских переселенцев.
Однако в настоящий момент угроза применения ядерного оружия гораздо более значима. Быть может и невозможно поджечь саму атмосферу Земли, но ядерная зима и последующее кардинальное изменение климата, аналогичное которому в своё время убило динозавров — вполне вероятный исход. Во время Второй мировой войны ядерных арсеналов не было достаточно, чтобы спровоцировать такую катастрофу. Но теперь они имеются у множества стран в значительном количестве.
По оценке Орда риск вымирания человечества в 20-м веке составлял примерно один из ста. Но он полагает, что сейчас эта вероятность намного выше. Орд утверждает, что помимо естественных экзистенциальных рисков, которые существовали всегда, за последние несколько десятилетий значительно вырос шанс антропогенной глобальной катастрофы. Наряду с ядерной угрозой возникла опасность возникновения настоящего искусственного интеллекта, что может привести к совершенно непредсказуемым последствиям, резко выросли выбросы углерода (серьёзное влияние выбросов углерода на климат — спорный момент. Прим. ред.), и теперь мы способны видоизменять вирусы, делая их гораздо более смертоносными.
Как показала пандемия Covid-19, мы также стали уязвимее из-за развития глобальной связи, распространения дезинформации и политической непримиримости.. «Учитывая всё, что я знаю, наши риски в этом столетии повысились примерно до одной шестой — по сути мы играем в русскую рулетку», — пишет он. «Если мы не станем действовать сообща, если мы позволим росту нашего могущества по прежнему опережать нашу мудрость, мы должны ожидать, что вероятность подобных событий сильно вырастет в следующем веке. И в каждом последующем».
Ещё один способ, при помощи которого исследователи экзистенциального риска охарактеризовали существующую угрозу глобальной катастрофы, — это сравнение вероятности такого развития событий с гигантской урной, из которой вытаскивают шары. Каждый такой шар представляет собой новую технологию, открытие или изобретение. Подавляющее большинство из них белые или серые. Белый шар олицетворяет позитивную возможность для человечества, такую как открытие мыла. Серый же шар представляет собой нечто нейтральное, способное принести нам как пользу, так и вред, к примеру социальные сети. Однако внутри урны находится ещё и горстка чёрных шаров. Они чрезвычайно редки, но стоит вытянуть один, и вы уничтожите человечество.
Подобную проблему называют «гипотезой уязвимого мира» и она подчеркивает всю сложность подготовки к очень редким и чрезвычайно опасным событиям в нашем будущем. Пока мы не вытащили чёрный шар, но, скорее всего, это потому, что они встречаются нечасто — однако, вполне возможно, мы уже задели пальцами один или два, когда залезали в урну рукой. Одним словом, нам пока просто везло.
Есть много технологий или открытий, которые могут на поверку оказаться чёрными шарами. Некоторые из них нам уже знакомы, но они пока ещё не использовались в полной мере, например, ядерное оружие или биоинженерные вирусы. Другие представляют собой лишь гипотетическую опасность, такие как машинное обучение (опасность неконтролируемого ИИ преувеличена, не говоря уже о банальном машинном обучении — прим. ред.) или геномные технологии. Есть и третьи — мы даже не понимаем, что они опасны, потому что исследования в этих направлениях пока ещё не начались.
Парадокс неизвестности
Почему мы не учитываем эти катастрофические риски, почему не относимся к вероятности подобных событий с той серьёзностью, которой они заслуживают? У Винера есть несколько предположений. Он описывает то, как люди ошибочно воспринимают такие возможные глобальные катастрофы как «парадокс неизвестности».
Вы, наверное, слышали о трагедии общих ресурсов: в ней описывается, как корыстолюбивые люди неправильно распоряжаются общественным достоянием. Каждый делает то, что считает правильным для себя, но в конечном итоге страдают все. Принцип лежит в основе изменения климата (опять-таки, спорно-мейнстримный момент — прим.ред.), вырубки лесов или чрезмерного вылова рыбы.
Парадокс неизвестности — другое дело, — объясняет Винер. Вместо того, чтобы неправильно управлять общими ресурсами, люди неправильно оценивают глобальные катастрофические риски.
Он считает, что есть три причины, по которым это происходит.
Первый — трудность в прогнозировании подобных редких катастроф. Легче вспомнить недавние важные события, чем подумать о тех происшествиях, которых никогда ранее не было. Мозг имеет тенденцию конструировать будущее из коллажей воспоминаний о прошлом. Если появляются новости об опасных явлениях — например, о терроризме — общественное беспокойство растет, политики действуют, изобретаются технологии и так далее. Однако особая трудность предвидения необычных трагедий состоит в том, что невозможно учиться на собственном опыте. Они никогда не появляются в заголовках новостных сайтов. Но как только подобная катастрофа произойдёт, всё, игра окончена.
Вторая причина, по которой мы неверно оцениваем очень редкие и масштабные катастрофы — это их «ошеломляющий» эффект. Психологи отмечают, что беспокойство людей не связано линейно с серьёзностью подобных событий. Или, говоря более прямо, если вы спросите случайных прохожих, насколько они заботятся о смерти всех людей на Земле, результат не получится в семь с половиной миллиардов раз больше, чем если бы вы сказали, что умрёт лишь один человек. Также обществу довольно трудно оценивать своё влияние на жизни будущих поколений. В большинстве случаев есть некоторые свидетельства того, что обеспокоенность людей по поводу глобальных катастроф даже уменьшается по сравнению с их опасениями по поводу их собственной личной трагедии. В недавней статье для BBC Future о психологии «оцепенения» журналист Тиффани Вен процитировал мать Терезу, которая сказала: «Если я наблюдаю за страждущей толпой, я никогда не стану действовать. Если же я посмотрю на (страдания) одного человека, бездействие станет невозможным».
Наконец, Винер описывает эффект «недостаточного сдерживания», который поощряет политику невмешательства среди тех, кто принимает подобные решения, потому что по сути ответственность полностью отсутствует. Если мир погибнет из-за ваших действий, то вас не смогут привлечь в суде за халатность. Законы и правила не способны сдерживать безрассудство, уничтожающее целые виды.
Возможно, самая большая проблема заключается в том, что необычная трагедия способна произойти случайно — будучи следствием высокомерия, глупости или пренебрежения.
«При прочих равных, немногие люди предпочтут разрушить мир. Даже безликие корпорации, грязно играющие правительства, безрассудные учёные и другие “агенты погибели“ нуждаются в мире, в котором есть средства для достижения их собственных целей — прибыли, власти, приобретения элитного жилья или других злодеяний» — написал однажды исследователь искусственного интеллекта Элиэзер Юдковский (странно, что прибыль, власть и элитное жильё автор цитаты назвал злодеяниями — прим.ред.). «Если наше вымирание будет происходить достаточно медленно, чтобы позволить всем осознать эту ужасающую картину, люди, совершившие подобную оплошность, вероятно, будут сильно раскаиваться… если Землю и уничтожат, то это, вероятно, произойдет по ошибке».
Мы можем быть благодарны за то, что официальные лица миссии «Apollo-11» и учёные Манхэттенского проекта не испугались возможных рисков и добились успеха. Но когда-нибудь в будущем кто-то другой придёт к новому поворотному моменту истории, когда будет решаться судьба нашего вида. А может быть, они уже сейчас находятся на полпути к этому решению и мчатся навстречу катастрофе с закрытыми глазами. Будем верить, что когда придет их время, они сделают правильный выбор. Ради всего человечества.
Эта статья написана Ричардом Фишером 19 февраля 2021 года и опубликована на сайте BBC. Источник.