Сегодняшние дети могут пережить машинный суперинтеллект, марсианские колонии и ядерную атаку

Объявлять, что будущее исполнено «как великой надежды, так и великой опасности», уже неоригинально. Тем не менее, этот афоризм выражает важный факт, касающийся янусовского двуличия наших всё более мощных технологий. Если человечество реализует наилучшее будущее из возможных, мы, вполне возможно, сумеем положить начало эпохе беспрецедентного человеческого процветания, счастья и ценности. Но если великий эксперимент цивилизации потерпит крах, наш вид может постигнуть та же судьба, что и динозавров.

Мне представляется полезным думать о том, что рождённый сегодня ребёнок вполне мог бы рассчитывать увидеть воочию в течение своей жизни. Поскольку скорость технических изменений, по-видимому, изменяется согласно закону ускоряющихся возвратов Рэя Керцвелла, эти упражнения в воображении могут на самом деле дать потрясающее представление о нашем меняющемся человеческом уделе, который, возможно, вскоре станет уделом постчеловеческим по мере того, как «технологии личностной инженерии» превращают нас во всё более искусственных киборгов.

Марсианские колонии

Где-то через миллиард лет солнце стерилизует планету, превращаясь в красный гигант, и в итоге через – согласно одному исследованию – 7,59 миллиарда лет полностью поглотит нашу планету. Если мы хотим выжить после этого момента, нам понадобится найти новый планетный космический корабль для проживания. Но даже если брать более близкое будущее, эволюционная биология говорит нам, что, чем больше географическое распространение вида, тем выше у него вероятность выживания. Илон Маск утверждает, что «существует мощный гуманитарный аргумент в пользу того, чтобы сделать жизнь многопланетной… дабы обезопасить существование человечества на тот случай, если бы должно было случиться нечто катастрофическое». Подобным образом Стивен Хокинг – который недавно забронировал путешествие в космос на космическом корабле Ричарда Брэнсона Virgin Galactic – считает, что у человечества есть около 100 лет на колонизацию космоса, без которой не избежать вымирания.

Существуют веские причины, чтобы верить, что это случится в ближайшие десятилетия. Маск заявил, что SpaceX построит город на четвёртом валуне от солнца «при нашей жизни». А НАСА объявило, что «разрабатывает мощности, необходимые для отправки людей на астероид к 2025 году и на Марс в 2030-х годах». НАСА даже планирует «отправить роботизированную миссию для захвата и перенаправления астероида на орбиту Луны. Астронавты на борту космического корабля «Орион» будут исследовать астероид в 2020-х годах и вернутся на Землю с образцами».

Беспрецедентное сельскохозяйственное производство

По данным исследования центра Пью, население мира к 2050 году вырастет примерно до 9,3 миллиарда человек. Для сравнения: в 2000 году жило всего 6 миллиардов человек, а на момент рождения Иисуса (предполагаемого) жило около 200 миллионов человек. Этот взрыв породил многочисленные мальтузианские прогнозы цивилизационного коллапса. К счастью, «зелёная» революция в середине двадцатого века предотвратила такую катастрофу, хотя она также ввела в действие новые и существенные экологические внешние факторы, с которыми человечеству ещё предстоит совладать.

По-видимому, «за следующие 50 лет нам нужно будет произвести столько еды, сколько было съедено за всю историю человечества», как выразилась Меган Кларк, возглавляющая австралийскую Организацию научно-промышленных исследований Содружества. Она сказала, что это «подразумевает, что, пока мои дети будут работать, будет больше зерна, чем было когда-либо произведено со времён египтян, больше рыбы, чем съедено на сегодня, больше молока, чем дали все коровы, которых когда-либо доили каждым холодным утром, которое когда-либо знало человечество». Хотя техника и дала миру возможность, по сути, удвоить выход продуктов питания с 1960 по 2000 год, перед нами стоят такие уникальные вызовы, как изменения климата и антропоценовое вымирание.

Кардашёвский переход

Физик-теоретик Митио Кайку утверждал, что человеческая цивилизация может преобразиться в цивилизацию типа 1 по шкале Кардашёва в течение следующих 100 лет. Цивилизация типа 1 может обуздать практически всю энергию, доступную своей планете (в том числе всё электромагнитное излучение, исходящее от её солнца), и, возможно, даже управлять погодой, землетрясениями и вулканами. Оксфордский философ Ник Бостром негласно приравнивает цивилизацию типа 1 к постчеловеческому состоянию «технической зрелости», которую он описывает как «приобретение возможностей, благодаря которым можно достичь уровня экономической продуктивности и контроля над природой, близкого к реально достижимому максимуму».

В настоящее время человеческая цивилизация отнеслась бы к типу 0, хотя зарождающиеся «технологии мировой инженерии» могли бы изменить это в ближайшие десятилетия, так как они дают нашему виду возможность манипулировать физическим миром и перестраивать его всё более существенным образом. Но Кайку волнуется из-за того, что переход от цивилизации типа 0 к типу 1 несёт в себе огромные риски для нашего выживания. Выражаясь его словами, «период опасностей проходит сейчас, потому что в нас до сих пор есть эта дикость. Все страсти до сих пор с нами. У нас ходят всевозможные конфессиональные фундаменталистские идеи. Но у нас также есть ядерное оружие. У нас есть химическое, биологическое оружие, способное стереть жизнь с лица Земли». Иными словами, как я писал, архаические представления о том, каким должен быть мир, идут на столкновение с новыми технологиями, способными превратить всю планету в одно огромное кладбище.

Бесконечное долголетие

Это основная цель многих трансгуманистов, которые рассматривают старение как непрерывное шоу ужасов, ежегодно убивающее около 55,3 миллионов людей. Как говорят трансгуманисты, утверждать, якобы останавливать старение с помощью технических вмешательств неправильно, – это «пораженчество»: смерть от старости должна быть не более вынужденной, чем смерть от лейкемии в детстве.

Тема технологии борьбы со старением в последние несколько десятилетий привлекла к себе немало внимания благодаря работе Обри ди Грея, который стал сооснователем финансируемого Питером Тилем фонда «Мафусаил». По словам гарвардского генетика Джорджа Чёрча, учёные могли бы, в сущности, повернуть старение вспять в течение – ну-ка, погодите – следующего десятилетия или около того. То есть немолодых людей будут снова делать молодыми, а не просто стабилизировать состояние физиологического здоровья в возрасте около 25 лет. Как утверждает Чёрч, конечная цель не «связана с остановкой или лечением, она связана с поворотом вспять». Один из возможных способов достижения этой цели подразумевает использование новой революционной технологии редактирования генов под названием CRISPR/Cas9, которую обсуждает Оливер Медведик в лекции для TED 2016 года.

Катастрофический экологический коллапс

Согласно статье 2012 года в Nature, мы, возможно, приближаемся к внезапному, необратимому катастрофическому коллапсу глобальной экосистемы, который разворачивается примерно в масштабах десятилетия. Он приведёт к возникновению новой биосферной нормы, из-за которой дальнейшее существование может стать невозможным. Собственно, исследования подтверждают, что наше индустриальное общество спровоцировало всего шестое событие массового вымирания за последние 3,8 миллиарда лет, а другие отчёты показывают, что мировая популяция диких позвоночных сократилась в период с 1970 по 2012 год на целых 58 процентов. Среди причин этой заторможенной глобальной катастрофы – промышленное загрязнение, фрагментация экосистем, разрушение среды обитания, чрезмерная эксплуатация, перенаселение и, конечно же, изменения климата.

Ещё одно исследование утверждает, что существует девять «планетарных границ», очерчивающих «безопасное рабочее пространство для человечества». Как пишут авторы этой влиятельной работы, «антропогенное давление на систему Земли достигло масштаба, при котором уже невозможно исключать резкие глобальные экологические перемены… Выход за одну или несколько планетарных границ может быть вредоносным или даже катастрофическим» для наших систем. К несчастью, человечество уже пересекло три из этих границ «не влезай, убьёт», а именно изменение климата, скорость потери биоразнообразия (т.е. шестое массовое вымирание) и глобальный круговорот азота. Как гласит знаменитое высказывание Фредерика Джеймисона, «стало легче представить себе конец света, чем конец капитализма».

Ядерная атака

Единственный случай применения ядерного оружия во время конфликта имел место в конце Второй мировой, когда США сбросили две атомные бомбы на ничего не подозревающих ребят Японского архипелага. Однако существуют веские причины считать, что в ближайшие годы, десятилетия или столетие будет использована ещё одна бомба. Во-первых, следует учесть, что США, по-видимому, вступили в «новую холодную войну» с Россией, как выразился российский премьер-министр Дмитрий Медведев. Во-вторых, Северная Корея продолжает одновременно развивать свои ядерные мощности и грозиться применить оружие против своих воображаемых врагов. В-третьих, когда Дональд Трамп был избран президентом США, почтенное издание «Bulletin of the Atomic Scientists» перевело минутную стрелку часов Судного дня вперёд на 30 секунд, отчасти из-за высказанных Дональдом Трампом «внушающих тревогу замечаний о применении и распространении ядерного оружия».

А в-четвёртых, террористы как никогда готовы приобрести и взорвать ядерное оружие где-нибудь в западном мире. В недавнем выпуске своего пропагандистского журнала Исламское государство фантазировало о приобретении ядерного оружия у Пакистана и взрывании его в некоем крупном городском центре Северной Америки. По словам стэнфордского криптолога и основателя NuclearRisk.org, Мартина Хеллмана, вероятность взрыва ядерной бомбы примерно равна 1 проценту за каждый год начиная с текущего, а это значит, что «через 10 лет вероятность почти достигнет 10 процентов, а через 50 лет – 40 процентов, если не произойдёт существенных изменений». Как сообщил мне ведущий публичный интеллектуал Лоуренс Краусс в более раннем интервью для Motherboard, если человечество не уничтожит абсолютно всё ядерное оружие на планете, применение ядерного оружия практически неизбежно.

Машинный суперинтеллект

Homo sapiens в настоящее время является самым умным видом на планете, если определять «интеллект» как умственную способность достигать надлежащих целей для добывания средств к существованию. Но это может измениться, если учёные успешно создадут машинный общий интеллект, превосходящий интеллект человеческого уровня. Как уже не одно десятилетие отмечают учёные, это было бы наиболее значимым событием в истории человечества, так как из этого бы следовало, что наша коллективная судьба в таком случае зависела бы больше от суперинтеллекта, чем от нашего собственного, точно так же, как судьба горной гориллы сейчас зависит больше от действий человека, чем её собственных. Интеллект дарует власть, поэтому интеллект, превышающий уровень человека, обладал бы властью больше человеческой над будущим нашего вида, а в более общем смысле – биосферы.

Это было бы наиболее значимым событием в истории человечества.

По данным одного опроса, почти каждый опрошенный эксперт по ИИ соглашается с тем, что к концу этого века к нашему виду на планете Земля присоединится один или несколько машинных суперинтеллектов. Хотя область ИИ обладает плачевным опытом предвидения будущего – стоит только вспомнить заявление Марвина Мински в 1967 году о том, что «в течение поколения… проблема создания искусственного интеллекта будет, по сути, решена», – недавние прорывы в области ИИ указывают на то, что происходит реальный прогресс и что этот прогресс может навести нас на путь, ведущий к машинному суперинтеллекту.

Цивилизационный коллапс

В своём манифесте 1955 года Бертран Рассел и Альберт Эйнштейн, как известно, писали:
Многие видные ученые и авторитеты в области военной стратегии не раз предупреждали об опасности. Ни один из них не скажет о том, что гибельные результаты неизбежны. Они считают, что катастрофа вполне возможна и что никто не может быть уверен в том, что её можно избежать… Мы установили, что люди, которые знают очень много, выражают наиболее пессимистические взгляды.

Это более-менее характеризует ситуацию в отношении исследователей угроз существованию; под «угрозами существованию» здесь следует понимать наиболее пессимистические сценарии, которые, как пишут двое исследователей, приводят к постоянной «утрате значительной доли ожидаемого значения». Те, кто действительно изучает эти риски, указывают на пугающе высокую вероятность экзистенциальной катастрофы в обозримом будущем.

Проведённый в 2008 году неофициальный опрос исследователей на конференции в Оксфордском университете указывает на то, что вероятность вымирания людей до 2100 года равна 19 процентам. А всемирно признанный космолог лорд Мартин Рис пишет в своей книге 2003 года «Наш последний час», что шансы для цивилизации пережить текущее столетие целой и невредимой всего 50 на 50. Другие исследователи утверждают, что люди, вероятно, вымрут к 2110 году (Фрэнк Феннер) и что вероятность экзистенциальной катастрофы составляет не менее 25 процентов (Бостром). Аналогичным образом канадский биолог Нил Дэйв предполагает, что «не был бы удивлён, если бы следующее за ним поколение застало вымирание человечества». Даже Стивен Хокинг, по-видимому, соглашается с этими мрачными оценками, как предполагается выше, заявляя, что человечество вымрет, если мы не колонизируем космос в течение следующих 100 лет.
Итак, клише «надежды и опасности» должно тяготить людские умы – особенно когда люди направляются к кабинке для голосования. Если человечество сможет взять себя в руки, будущее может стать невиданно хорошим; но если и дальше будут править бал трайбализм, невежество и близорукое мышление, то последнее поколение, возможно, уже родилось.

Фил Торрес – директор и основатель Института X -рисков. Он писал об апокалиптическом терроризме, зарождающихся технологиях и глобальных катастрофических рисках. Его готовящаяся к выходу книга называется Morality, Foresight, and Human Flourishing: An Introduction to Existential Risks («Мораль, предусмотрительность и процветание человечества: введение в угрозы существованию»).