Драгон, воинствующий дилетант (i_ddragon) wrote in ru_transhuman,
Драгон, воинствующий дилетант
i_ddragon
ru_transhuman

Category:

Ещё про глобальный сверхразум

http://i-ddragon.livejournal.com/66730.html
Итак, напоминаю, что это такое.
Сам разум человека (инопланетянина, робота, разумного мутанта) есть ни что иное, как набор различного софта, действующих в одном аппарате — в случае человека — по всей видимости, в мозге. Сами программы могут работать независимо, работать вместе и воспринимать их совокупность как нечто «единое и неделимое» - личность - нас заставляет то обстоятельство, что в бытовых условиях невозможно проникнуть в мозг и вычленить отдельную подпрограмму его работы. Но, однако, медицинские достижения уже сейчас позволяют выполнить разделение мозга - «операция по разделению полушарий» - и наблюдать автономную работу программ левого или правого полушарий.
Выгрузка информации из личности на внешний носитель и присоединение её к другой могут осуществляться в малых масштабах — например, посредством написания текстов одним человеком и восприятия их другими людьми. Обмен маленькими фрагментами одной личности с другой сохраняет иллюзию их нерушимой целостности.
Итак, представим себе, что будет, если будет изобретена возможность передачи больших фрагментов информации между отдельными мозгами и другими вычислительными центрами. В этом случае во-первых, отношение двух мозгов качественно не будет отличаться от отношения двух нервных центров в обычном мозге, итого, экс-индивидуальность человека переходит просто в индивидуальность вычислительного узла-модуля более высокого уровня. Так как программа любого вычислительного модуля может быть скопирована, то исчезает иллюзия его уникальности. В свою очередь, коль скоро вычислительный модуль уровня человека может быть разделён на подмодули, то тяжело будет избежать искушения снабдить его возможностью по собственному желанию разделять и соединять обратно свои полушарии, а также соединять их с сторонними полушариями, присоединять сторонние нервные узлы и удалять ненужные.
Итак, глобальный сверхразум преподносит следующие изменения в восприятии реальности:
а) Исчезновение иллюзии уникальности субъекта. Любой вычислительный модуль может быть клонирован как в точности, так и с произвольными изменениями.
б) Исчезновение иллюзии целостности субъекта — для достаточно крупного вычислительного модуля все его вычислительные подмодули могут переходит в режим отдельной работы, а также перестраиваться в том числе с посторонними модулями в модуля более высокого уровня. Если копировать только некоторые подпрограммы некого модуля, то это тоже разобьёт иллюзию целостности.
в) Исчезновении иллюзии отделенности субъекта — к вычислительному модулю могут быть присоединены сторонние модули, и он сам может включаться как подмодуль в более крупный модуль.
г) Исчезновение иллюзии локальности субъекта. Подмодули субъекта (модуля более крупного размера) могут физически быть удалены на большие расстояния, а их инфраструктура может взаимопроникать в инфраструктуру другого модуля.
Падение этих иллюзий подобно тому, как если бы некий человек всю жизнь видел бы воду только в закатанных банках — и решил бы, что вода немыслима без банки, ограничивающей её, придающей ей фиксированную форму и мешающую обмену порциями воды с другими водными массивами. А потом внезапно бы попал в наш мир, где вода может свободно переливаться из сосуда в сосуд и вообще существовать без сосудов.
В классификации уровней шока будущего «радикальная перестройка сознания» проходит как шок будущего 4-го уровня. Если большинство людей психически не готовы к восприятию идей уровня шока будущего 2 — генная инженерия, колонизация космоса, то 4-й уровень их повергает либо в реальный шок и агрессивное неприятие, либо в пассивное неприятия - «ой, он что-то странное пишет, я ничего не понял, что он пишет» - что может даже хуже, чем агрессивное неприятие.
Более УШБ-нутые (в хорошем смысле этого слова) выдвигают против такой переделки сознания более весомые аргументы — логические. Все опровергать не буду - так как выбор апгрейда себя есть не только дело разума, но и дело вкуса, а о вкусах не спорят.
Рассмотрю некоторые возможные возражения, которые скорее происходят не от вкусовых отличий, а от непонимания, что же есть глобальный сверхразум:
а) Глобальный сверхразум — это тоталитарное подчинение субъекта внешней сущности.
б) Глобальный сверхразум — это стадный коллективизм.
Первое возражение утверждает, что глобальный сверхразум — это тоталитарный централизованный строй — что входит в противоречие с индивидуалистичной природой людей, находящихся на передовой прогресса. Поскольку мозг включается в состав большего мозга, то он на первый взгляд должен терять самостоятельность и индивидуальность. Во-вторых, централизованная система во многих случаях неэффективна, так как центр должен решать все сколь нибудь важные дела, а возможности доставки до него и обратно информации и возможности её обработки не бесконечны.
Такое возражение происходит от непонимания сути глобального сверхразума. Во-первых, раз информацию не выгодно отправлять в некий «центр», то она и будет обрабатываться на местах. Я не зря сравнил внешние модули с продолжением самого мозга — а как известно, в мозге нет «главного нейрона» или «главного нервного узла». Задачи распределяются между компетентными узлами — в мозге действует не централистский тоталитаризм, а смесь демократии и меритократии. На самом деле такая перестройка даже даст больше личной свободы — так как в отличии от нервных узлов мозга, модули сверхразума могут выбирать своё окружение и свободны в изменении себя. Чтоб не тратить ценные ресурсы более крупных модулей, просто необходимо будет решать на периферии все задачи, которые можно там решить. Соседние модули или более крупные единицы будут задействовать лишь тогда, когда у текущего модуля не будет хватать своих ресурсов и если они сами посчитают его задачу стоящей.
Теперь рассмотрим второе возражение — о стадном коллективизме. Стадный коллективизм включает в себя во-первых, одинаковость, во-вторых, принудительное отсутствие барьеров между элементами коллектива. Люди, находящиеся на передовой прогресса, как правило асоциальны и нередко обладают девиациями, препятствующим их интеграции в общество. Мозг человека не состоит из одинаковых узлов, более того, чем сложнее мозг, тем более разнообразные нервные узлы он должен в себя включать. Итого, глобальному сверхразуму просто необходимы будут разнообразные модули, и в ходе развития их разнообразие должно повышаться — потому переход к более сложной форме бытия цивилизации должен приводить не к уменьшению, а к увеличению разнообразия субъектов. Во-вторых, что касается принудительного контакта. Так как большинство решений принимается на периферии, то и мера изолированности разных блоков будет сильно зависеть от их самих. Да, если способ объединения разрозненных разумов в глобальный — это интерфейс мозг-компьютер — то скажите, много ли вы страдаете от постоянного контакта с другими через постоянное нахождение в ЖЖ, в аське? Тем более, что в отличии от человека со статической структурой мозга и возможностью следить только за одним процессом, модуль сверхразума сможет добавить себе подмодуль для слежения за сообщениями, чтоб не нагружать основные ресурсы.
Рассмотрю ещё несколько аргументов, делающих надличностный сверхразум желательным.
При создании сверхчеловеческого интеллекта встаёт проблема его дружественности. Как отмечает Юдовски в статье «Искусственный интеллект как фактор глобального риска» вопрос дружественности практически не рассматривался, между тем исследования в области «интеллекта вообще» продолжаются. Когда появится первый сверхчеловеческий ИИ, он может оказаться каким угодно. Чтоб предположить, как он будет относится к людям — следует обратить внимание на то, как люди и другие живые существа относятся друг к другу. Как правило они имеют круг «своих» - сравнимых с ними по силе или более-менее полезных существ — таких, что с ними полезно договорится и даже полезно им помогать. К «своим» существо относится как дружественная сущность, а не к своим — как не дружественная, не обязательно враждебная — но если для него будет польза поступит не во вред «не своим», то оно так поступит.
У людей и животных в «своих» входят сравнительно близкие существа — родственники, соратники, домашние животные (выращиваемые не на мясо), большинство же других существ попадают в «не своих». Если такая закономерность сохранится, то у сверхИИ не будет широкого круга «своих». Возможно, он даже будет уже, поскольку для сверхразума люди не могут быть ни полезны, ни опасны — и договариваться с ними бессмысленно.
Ввиду вероятной недружесвтенности сверхИИ самое лучшее — это самому стать сверхИИ. Но так как желающих стать им наверняка найдётся много, то поэтому в том случае, когда одним постчеловеком будет одна личность, вероятность попасть в постчеловеки может оказаться слишком маленькой. Но если создать постчеловека из нескольких людей, то каждый из них получит возможность воспользоваться плодами Сингулярности, даже если будущее предусматривает место только на одного постчеловека.
Для полноты следует рассмотреть не только случай, когда человек встречается с сверхразумом, а сверхразум встречается с другим недружественным ему сверхразумом. В Сингулярность события будут происходить очень быстро, и небольшое отставание одного сверхИИ от его конкурента скорее всего будет означать его полное поражение. Так вот, если стартовым запасом сверхразума будет не один человек, а несколько, то это даст больше преимущество в конкуренции с другими сверхразумами.
Subscribe

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 73 comments