На краю пропасти. Экзистенциальный риск и будущее человечества

Тоби Орд, 2020

Философ Тоби Орд, много лет изучавший проблему глобальной бедности, в разное время – советник Всемирной организации здравоохранения, Всемирного банка и других важных международных институтов, один из основателей движения эффективного альтруизма посвятил свой труд экзистенциальным рискам, способным разрушить не только настоящее, но и весь будущий потенциал человечества. Выделяя основные риски, с которыми нам предстоит столкнуться, Орд приводит слова Уинстона Черчилля, предупреждавшего, что “те достижения мысли, которые сулили человечеству неизмеримые материальные блага, могут обернуться его полным уничтожением”. Опираясь на современные научные исследования и огромный массив данных, Орд выражает ясную, доступную и в высшей степени гуманистическую мысль: он призывает человечество в целом и к каждого человека в отдельности внести свой вклад в сохранение нашей цивилизации здесь и сейчас. Как бы ни была велика вероятность природных катастроф, главные угрозы для себя создали мы сами – и только в наших силах их предотвратить. Но действовать нужно немедленно. В формате PDF A4 сохранен издательский макет книги.

© 2020, Toby Ord. All rights reserved.

© Hilary Paynter, иллюстрация на с. 10, 2020

© Е. Фоменко, перевод на русский язык, 2023

© А. Бондаренко, художественное оформление, макет, 2023

© ООО “Издательство Аст”, 2023

Издательство CORPUS ®

Издание осуществлено при поддержке “Книжных проектов Дмитрия Зимина”

* * *

Посвящается той сотне миллиардов человек, которые жили до нас и сформировали нашу цивилизацию; тем семи миллиардам, которые живут сейчас и своими действиями определяют ее судьбу; и тем триллионам, которые появятся в будущем и существование которых зависит от поддержания равновесия.

Введение

Если все будет хорошо, история человечества только начинается. Человечеству примерно двести тысяч лет. Но Земля будет пригодна для жизни еще сотни миллионов лет — этого достаточно, чтобы появились миллионы будущих поколений; достаточно, чтобы навсегда положить конец болезням, бедности и несправедливости; достаточно, чтобы достичь высот, которые сегодня невозможно даже вообразить. Если мы найдем способ продвинуться дальше в космос, у нас, возможно, появится еще больше времени: триллионы лет на исследование миллиардов миров. Такая продолжительность жизни говорит о том, что сегодня человечество пребывает в раннем младенчестве.

Мы нередко теряем из виду этот потенциал. Очередной скандал вызывает у нас негодование; очередная трагедия — сочувствие. Время и пространство сжимаются. Мы забываем о масштабе истории, в которой принимаем участие. Но бывают моменты, когда мы вспоминаем о нем — когда наш ракурс смещается, а приоритеты перестраиваются. Мы понимаем, что человеческий вид оказался в опасной близости от самоуничтожения и будущее, сулящее огромные перспективы, висит на волоске. И тогда главной заботой общества становится сделать так, чтобы этот волосок не порвался.

В этой книге утверждается, что защита будущего человечества — определяющая задача нашего времени. Дело в том, что мы живем в переломный момент истории своего вида. Подпитываемая техническим прогрессом, наша мощь настолько возросла, что впервые за долгую историю человечества у нас появилась возможность уничтожить самих себя, поставив крест на собственном будущем и всех своих перспективах.

Но если человечество при этом и стало мудрее, то ненамного, и это опасно. Человечеству недостает зрелости, координации и дальновидности, без которых не обойтись, если мы хотим избежать непоправимых ошибок. По мере увеличения разрыва между мощью и мудростью человечества наше будущее оказывается сопряжено со все большим риском. Но долго так продолжаться не может. Последующие несколько веков готовят человечеству испытания: оно либо научится действовать решительно, чтобы защитить себя и свой потенциал в долгосрочной перспективе, либо, что вполне вероятно, лишится этого потенциала навсегда.

Чтобы выжить, несмотря на сложности, и обеспечить себе будущее, действовать необходимо прямо сейчас: нам нужно управлять сегодняшними рисками, предупреждать завтрашние и становиться обществом, которое никогда больше не подвергнет себя подобным рискам.

Лишь в последнее столетие стало очевидно, что человечество может представлять угрозу собственному будущему. Об одном из самых страшных эпизодов стало известно совсем недавно. В субботу 27 октября 1962 года один офицер с советской подводной лодки едва не положил начало ядерной войне. Его звали Валентин Савицкий. Он был капитаном лодки Б-59, одной из четырех субмарин, которые СССР отправил для поддержки своих военных операций на Кубе. На каждой из них было секретное оружие — ядерная торпеда, по мощности не уступающая бомбе, сброшенной на Хиросиму.

В разгаре был Карибский кризис. За две недели до этого американская воздушная разведка получила фотографические свидетельства того, что СССР разместил ядерные боеголовки на Кубе, откуда можно было нанести прямой удар по материковой части США. В ответ США заблокировали моря, омывающие Кубу, разработали планы вторжения и привели свои ядерные силы в беспрецедентный уровень готовности DEFCON 2 (“Следующий шаг — ядерная война”).

В ту субботу одно из американских военных судов, блокирующих Кубу, обнаружило подводную лодку Савицкого и попыталось вынудить ее всплыть, сбросив маломощные глубинные бомбы в качестве предупредительных выстрелов. Подводная лодка несколько дней скрывалась на глубине. Радиосвязи с ней не было, поэтому экипаж не знал, не началась ли уже война. Условия на борту были чрезвычайно плохими. Лодка была приспособлена для операций в Арктике, и установленный на ней вентилятор сломался в тропических водах. Внутри было невыносимо жарко: температура колебалась от 45 °C у торпедных аппаратов до 60 °C в машинном отделении. Концентрация углекислого газа достигла опасной отметки, и члены экипажа начали терять сознание. Глубинные бомбы разрывались прямо возле корпуса. Позже один из членов экипажа вспоминал: “Казалось, мы сидели в железной бочке, по которой постоянно колотили кувалдой”.

На грани отчаяния капитан Савицкий приказал экипажу готовить секретное оружие:

Может, наверху уже война началась, а мы тут кувыркаемся. Мы сейчас по ним шарахнем! Сами погибнем, их потопим всех, но флот не опозорим!^[1]

Чтобы выпустить атомную торпеду, нужно было получить согласие замполита подводной лодки, у которого была вторая половина стартового ключа. Хотя решение капитана не было согласовано с Москвой, замполит его одобрил.

На любой из других трех подводных лодок этого было бы достаточно для пуска атомной торпеды. Но на борту Б-59 по чистейшей случайности присутствовал командующий всей флотилией капитан Василий Архипов, поэтому требовалось и его согласие. Архипов отказался его дать. Он успокоил капитана Савицкого, уговорил его отказаться от своего плана и вместо этого поднять судно на поверхность и ожидать дальнейших распоряжений из Москвы^[2].

Мы не знаем точно, что случилось бы, если бы Архипов дал согласие — или если бы он просто находился на любой из трех других лодок. Возможно, Савицкий не исполнил бы собственный приказ. И все же ясно, что мы оказались в опасной близости от ядерного удара по блокирующему остров флоту — удара, который, скорее всего, привел бы к ядерному ответу, а затем эскалации конфликта в полномасштабную ядерную войну (единственную, к которой США готовились). Много лет спустя Роберт Макнамара, который занимал пост министра обороны во время кризиса, пришел к такому же выводу:

Не следует полагать, что, если бы американские войска были атакованы ядерными боеголовками, США не ответили бы ядерными боеголовками. К чему бы это привело? К полной катастрофе^[3].

С тех пор как у человечества появилось ядерное оружие, мы постоянно оказываемся перед подобным выбором. Решения в нашем мире принимаются в неидеальных условиях: оперируя поразительно неполной информацией, люди управляют технологиями, которые угрожают будущему всего нашего вида. Нам повезло в тот субботний день в 1962 году, и мы смогли избежать катастрофы. Но наши разрушительные способности продолжают расти, и мы не можем вечно полагаться на удачу.

Нам нужно принять решительные меры, чтобы покончить с этим периодом эскалации риска и обеспечить себе будущее. К счастью, это в нашей власти. Главные риски связаны с деятельностью человека, поэтому он может их предотвратить. Таким образом, нам предстоит решить, выживет ли человечество в эту эпоху. Но это непростой выбор. Все зависит от того, как быстро мы поймем и примем на себя новую ответственность, которая приходит с нашей беспрецедентной мощью.

Это книга об экзистенциальных рисках — рисках, которые грозят уничтожением долгосрочного потенциала человечества. Вымирание — самый очевидный путь к уничтожению этого потенциала, но есть и другие. Если цивилизацию на планете ждет полный крах, наш долгосрочный потенциал тоже погибнет. Мы увидим, что есть и антиутопические сценарии: мы можем оказаться взаперти в обреченном мире, где у нас не будет пути назад.

Хотя эта категория рисков разнообразна, она еще и специфична. Мне придется воздержаться от рассмотрения множества важных рисков, которые в нее не входят: мы говорим не о новых темных веках, которые ждут человечество и природный мир (какими бы ужасными они ни оказались), а о полном уничтожении потенциала человечества.

Экзистенциальные риски ставят перед нами проблемы нового типа. Они требуют от нас координации на международном и межпоколенческом уровнях, причем такого тесного, какого не было прежде. И нам следует быть дальновидными, а не действовать методом проб и ошибок. Поскольку риски не дают нам права на ошибку, необходимо создать институты, гарантирующие, что никогда в будущем мы не станем жертвами такой катастрофы.

Чтобы должным образом раскрыть тему, нужно охватить очень многое. Анализ рисков предполагает погружение в физику, биологию, геонауки и информатику; определение их места в общей картине мира требует обращения к истории и антропологии; при оценке ставок задействуются философия морали и экономика; а поиск решений невозможен без международных отношений и политологии. Если делать все как полагается, нужно глубоко погружаться в каждую из этих дисциплин, а не выбирать цитаты экспертов и исследования, подходящие для обоснования заранее выстроенной концепции. Это было бы непосильной задачей для одного человека, поэтому я невероятно благодарен десяткам ведущих мировых экспертов в этих сферах, которые консультировали меня и давали свои критические оценки^[4].

В этой книге я ставлю перед собой амбициозные задачи. Внимательный анализ потенциала человечества и рисков, с которыми мы сталкиваемся, показывает, что мы живем в самую важную эпоху человеческой истории. Серьезные риски, грозящие нашему будущему, — это новая проблема, и мы еще не научились размышлять о них. Книга “На краю пропасти” предлагает новую этическую перспективу, существенно перестраивая наши представления о мире и нашем месте в нем. Это нужно, чтобы попытаться сократить разрыв между мудростью и мощью человечества и дать людям четко понять, что стоит на кону, чтобы мы приняли верные решения для защиты собственного будущего.

Я не всегда занимался вопросами защиты долгосрочного будущего человечества и пришел к этой теме поневоле. Я философ в Оксфордском университете, и моя специальность — этика. Ранее я анализировал более осязаемые проблемы всемирного здравоохранения и глобальной бедности и искал наиболее действенные способы помочь тем, кому приходится сложнее всего. Подобравшись вплотную к этим вопросам, я понял, что нужно вывести мою работу по этике за стены моей башни из слоновой кости. Я стал советником Всемирной организации здравоохранения, Всемирного банка и правительства Великобритании по вопросам этики всемирного здравоохранения. Когда я понял, что мои собственные деньги могут дать страдающим от бедности в сотни раз больше, чем мне самому, я взял на себя обязательство всю жизнь жертвовать в их пользу не меньше десятой части своих доходов^[5]. Я основал организацию Giving What We Can (“Подарим что можем”), чтобы ко мне могли присоединиться и другие люди, и очень обрадовался, когда тысячи участников собрались вместе, решив за свою жизнь отдать более миллиарда фунтов стерлингов самым эффективным из известных нам благотворительным фондам, которые занимаются самыми важными проблемами. Общими усилиями мы уже изменили жизни десятков тысяч людей^[6]. Поскольку помимо пожертвований существует множество других способов улучшить мир, я помог основать более широкое движение, получившее название “эффективный альтруизм”, в рамках которого люди стараются, опираясь на факты и здравый смысл, творить как можно больше добра.

Чтобы избавить наш мир от ненужных страданий в настоящем, нужно сделать очень многое, и поэтому я не сразу обратил внимание на будущее. Оно было гораздо менее реальным, гораздо более абстрактным. Неужели оно и правда может представлять столь же серьезную проблему, как страдания людей в настоящем? Размышляя о фактах и идеях, которые в итоге стали темой этой книги, я пришел к выводу, что риски для будущего человечества столь же реальны и столь же неотложны, но при этом ими пренебрегают даже в большей степени. И людям будущего, возможно, окажется еще сложнее защититься от рисков, которым мы их подвергаем, чем обездоленным наших дней.

Теперь анализ этих рисков стал главным направлением моей работы: я изучаю проблемы, с которыми мы сталкиваемся, и консультирую такие группы, как администрация премьер-министра Великобритании, Всемирный экономический форум и компания DeepMind, о том, как лучше всего отвечать на эти вызовы. Я наблюдаю, как со временем осведомленность об этих рисках растет и признается необходимость скоординированных действий.

Стремясь обратиться к широкой и разнородной аудитории, я беспощадно удалял из этой книги жаргон, ненужные технические подробности и оборонительные замечания, характерные для научных статей (включая и мои собственные). Читатели, желающие узнать больше и ознакомиться с этими замечаниями, могут обратиться ко множеству примечаний и приложений, написанных специально для них^[7].

Я всячески старался внимательно и взвешенно анализировать факты и аргументы, перечисляя ключевые положения, даже если они шли вразрез с моим повествованием. В таких вопросах крайне важно докапываться до истины, ведь внимание человечества — дефицитный товар, а потому его не стоит разменивать на ошибочные теории и идеи^[8].

В каждой главе этой книги центральные вопросы рассматриваются в новом ракурсе. Первая часть (“Ставки”) начинается с обзора уникального исторического момента, в который нам выпало жить, а далее в ней объясняется, почему ситуация требует скорейшего рассмотрения. Во второй части (“Риски”) анализируется наука рисков, с которыми сталкивается человечество, как природных, так и антропогенных, и показывается, что, хотя угроза некоторых из них преувеличена, риск действительно существует и растет. В третьей части (“Путь вперед”) описываются инструменты, с помощью которых можно понять, как риски соотносятся и сочетаются друг с другом, а также предлагаются новые стратегии для работы с ними. В завершение я излагаю свое видение будущего, показывая, чего мы можем достичь, если добьемся успеха.

Моя книга не сводится к хорошо известным историям об опасностях изменения климата и ядерной войны. Именно эти риски впервые показали нам, что мы можем уничтожить самих себя, но ими дело не ограничивается. Появляются новые риски, например связанные с биотехнологиями и продвинутым искусственным интеллектом, и вполне возможно, что в грядущем столетии они будут представлять гораздо большую опасность для человечества.

Наконец, эта книга далека от пессимизма. В ней не говорится, что кульминацией текущего витка истории непременно станет наша гибель. Ее никак не назвать нравоучительной историей о нашей технологической гордыне и последующем крахе. Вовсе нет. Главная ее мысль заключается в том, что риски для нашего будущего действительно существуют, но у нас есть возможность изменить ситуацию с помощью верных решений. Я полагаю, что мы в силах справиться с задачей — что, делая правильный выбор, мы можем отойти от края пропасти и со временем обеспечить себе поразительно светлое будущее, где нас ждет немыслимое прежде изобилие, к которому мы придем, внедрив еще не предложенные инновации. Именно моим глубоким оптимизмом относительно будущего человечества и объясняется мое стремление написать эту книгу. У нас огромный потенциал. Нам очень многое нужно защитить.

Примечания

1

Blanton, Burr & Savranskaya (2012).

2

Ellsberg (2017), pp. 215–217.

3

McNamara (1992).

4

Ошибки, разумеется, на моей совести. Обновляемый список замеченных ошибок можно найти на странице theprecipice.com/errata. Я говорю спасибо за профессиональные консультации Фреду Адамсу, Ричарду Элли, Тацуе Амано, Сету Бауму, Нилу Боуэрмену, Майлзу Брандейджу, Каталине Кангеа, Пауло Чеппи, Кларку Чепмену, Дэвиду Кристиану, Аллану Дефо, Ричарду Данцигу, Бену Дэю, Дэвиду Денкен-бергеру, Дэниелу Дьюи, Эрику Дрекслеру, Дэниелу Эллсбергу, Оуэну Эвансу, Себастиану Факуару, Владу Фирою, Бену Гарфинкелю, Тиму Геневейну, Гудвину Гиббонсу, Тору Грепелю, Джоанне Хей, Алану Харрису, Хиски Хауккале, Айре Гельфанду, Говарду Херцогу, Майклу Дженнеру, Риа Каллури, Джиму Кастингу, Яну Лейке, Роберту Лемперту, Эндрю Левану, Грегори Льюису, Марку Липсичу, Розали Лопес, Стивену Луби, Энджелу Лужнице, Дэвиду Манхейму, Йохему Маротцке, Джейсону Матени, Пирсу Миллетту, Майклу Монтегю, Дэвиду Моррисону, Кэссиди Нельсон, Клайву Оппенгеймеру, Рэймонду Пьерхумберту, Максу Поппу, Дэвиду Пайлу, Майклу Рампино, Джорджии Рэй, Кэтрин Роудс, Ричарду Роудсу, Карлу Робишо, Тайлеру Робинсону, Алану Робоку, Луизе Родригес, Максу Розеру, Джонатану Ружье, Эндрю Рашби, Стюарту Расселлу, Скотту Сагану, Андерсу Сэндбергу, Хауке Шмидту, Рохину Шаху, Стиву Шервуду, Льюису Смиту, Джейкобу Стейнхардту, Шелдону Штерну, Брайану Томасу, Брайану Туну, Филу Торресу, Мартину Вайцману, Брайану Уилкоксу, Алексу Вону, Лили Ся и Дональду Йомансу.

5

Я также взял на себя дополнительное обязательство оставлять себе всего 18 тысяч фунтов в год и отдавать все остальное на благотворительность. Эта сумма корректируется с учетом инфляции (в настоящее время она составляет 21 868 фунтов) и не включает в себя расходы на моего ребенка (несколько тысяч фунтов в год). Пока мне удалось пожертвовать более четверти всех денег, которые я заработал в течение жизни.

6

К моменту создания этой книги члены Giving What We Can пожертвовали 100 млн фунтов эффективным благотворительным фондам (Giving What We Can, 2019). Средства были направлены во множество разных организаций, поэтому оценить эффект пожертвований непросто. Однако одни только 6 млн, которые пошли на закупку москитных сеток, обеспечили более 3 млн человеко-лет защиты и тем самым спасли более 2000 жизней (GiveWell, 2019).

7

Фактически в примечаниях читателям, желающим узнать больше, предлагается такой объем информации, которого хватило бы и на вторую книгу. Если вы любопытны, я советую вам использовать две закладки, чтобы без труда обращаться к примечаниям в ходе чтения. Я приложил все усилия, чтобы в среднем качество примечаний было высоким, а вам не было бы жалко потраченного на них времени (в них редко приводятся лишь ссылки на источники). Поскольку я старался не отступать от темы в основной части книги, все любопытные дополнения спрятаны в примечаниях. Вас, возможно, также заинтересуют приложения, список литературы для дополнительного чтения (с. 333) и сайт книги theprecipice.com, где содержится еще больше информации и ведутся обсуждения.

8

Разумеется, даже после тщательной проверки фактов наивно полагать, что в текст не закралось ни предубеждений, ни ошибок, поэтому я надеюсь, что читатели помогут мне найти и исправить оставшиеся несовершенства.