turchin (turchin) wrote in ru_transhuman,
turchin
turchin
ru_transhuman

Краткий курс по глобальным катастрофам.

Одна из главных задач – выработать «разделяемое знание» – то есть некое мнение, которое разделяло бы большинство трансгуманистов и исследователей глобальных рисков, с тем чтобы его затем уже нести в народ. Предлагаю своё видение и хочу узнать, совпадает ли оно с мнением народа, а если отличается, то в чём?

Есть шесть «10- процентных рисков» (точность плюс-минус порядок, учитывается независимая от других рисков вероятность – то есть если бы других рисков вообще не было), то есть риски, которые имеют шансы реализоваться в 21 веке с вероятностью порядка 10 процентов. Под «вероятностью» здесь имеются в виду рациональные ожидания – то есть какую ставку на эти события мы должны делать, исходя из наших знаний о проблеме.

1) Биотех. Основной рис состоит во взрывном распространении биохакеров и биопринтеров, что приведёт к заражению всей биосферы миллионами разных опасных вирусов и бактерий.
2) Нанотех. Основной риск состоит в создании нанотехнологического оружия, способного к саморепликации – и последующем его применении. А также сбой в работе нанощита.
3) ИИ. Основной риск состоит в создании сверхчеловеческого ИИ, который по тем или иным причинам оказывается враждебен к человеку.
4) Ядерное оружие. Основной риск состоит в том, что либо в результате глобального противостояния будет создана и применена машина судного дня, либо создание ядерного оружия радикально упроститься, и появятся «ядерные хакеры»
5) Системный кризис. Состоит не из одной мгновенной катастрофы, а из последовательности катастроф, включающих в себя много разных факторов, по отдельности не смертельных: исчерпание ресурсов, перенаселение, ядерная и биовойна, генетическая деградация, глобальное потепление.
6) Нечто непредвиденное. Это может быть и вторжение инопланетян, и новая технология, и новые законы физики, и нечто простое, но не очевидное мне как глобальный риск.

Далее есть несколько «1 процентных» рисков:
1) Глобальное потепление. Риск состоит в том, что произойдёт парниковая катастрофа и температура земли вырастет на несколько десятков градусов.
2) SETI-атака. Риск состоит в том, что будет найден радиосигнал инопланетной цивилизации, который будет содержать описание компьютера с ИИ, который захватит землю и будет передавать этот сигнал дальше.
3) Искусственный взрыв сверх-вулкана. Риск состоит в опасном проникновении в недра Земли – намеренном или случайном.
4) Сверхнаркотик
5) Глобальное химическое заражение.
6) Отключение Симуляции
7) Космическое оружие. Освоение космоса позволит управлять огромными энергиями: отклонение астероидов, кинетическое оружие, взрыв планет и т. д.
8) Опасный физический эксперимент. При этом только малую часть вероятности здесь составляет собственно коллайдер.

Далее есть риски с оценкой порядка 0.01% и менее. Сюда входит большинство природных рисков:
1) Падение астероида
2) Солнечная вспышка
3) Гамма-всплеск
И этот список неполон

Теперь как эти риски распределены во времени:
В первое десятилетие (условное, масштаб времени можно сдвигать) – 2010-2020 максимальны риски био-катастрофы. В следующем 2020-2030 они снимаются развитием нанотеха, который позволяет как создать надёжную защиту о биорисков, так и новые риски, затмевающие биологические. В следующем десятилетии 2030-2040 основные риски связаны с ИИ, который при этом снимает био и нано риски.
Риски ядерной катастрофы наиболее велики в другой ветке реальности, где прорывные технологии развиваются медленнее, и медленно нарастают в течение всего 21 века.
Системный кризис может принять форму как медленного протухания, в случае, если прорывные технологии застопорились (сценарий Медоуза), так и быстрых осцилляций в районе Сингулярности.
Шансы столкновения с чем-то непредвиденным медленно нарастают – так как неопределённость будущего со временем растёт.
Шансы SETI-атаки растут до сингулярности.
Шансы на парниковую катастрофу сначала растут по мере роста загрязнения, а затем падают, так как развиваются технологии митигации.
Шансы падения астероида вначале постоянны, а затем уменьшаются по мере развития космических технологий практически до нуля. Также уменьшаются и риски других природных катастроф.
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 12 comments