Драгон, воинствующий дилетант (i_ddragon) wrote in ru_transhuman,
Драгон, воинствующий дилетант
i_ddragon
ru_transhuman

Categories:

Воля Сверхразума.

Оригинал взят у i_ddragon в Воля Сверхразума.

Корпорация "Монолит" представляет:

Рад представить вашему вниманию статью Ника Бострома "Воля Сверхразума (Superintelligentwill)", которая касается поиска общих принципов, лежащих в основе целей, мотиваций и поступков всевозможных разумных существ. В статье утверждается, что умозрительно выделенные общие принципы мотивации разумных существ применимы к нечеловеческим разумным агентам - вроде пришельцев и всевозможных НЕХ - а также, и искусственных интеллектов. Выведенные общие свойства поведения разумных агентов побуждают лишний раз обратить внимание на проблему
дружественности ИИ — поскольку выведенные общие принципы поведения ИИ сами по себе не гарантируют его невраждебности человеку (скорее даже наоборот). Также, на основании выделенных общих принципов доказывается, что практически всякий сверхразум будет стремиться к колонизации космического пространства - в частности, убедительность рассуждений заставляет нас задуматься о причинах того, почему таковая не наблюдается до сих пор. Может быть, нечто мешает интеллектуальным агентам развиваться до сверхразумного уровня - а может, колонизация окружающего космического пространства уже происходит - но мы её не замечаем?

К сожалению, вопросы, поднятые в двух предыдущих предложениях, находятся за пределами рассмотрения статьи Ника Бострома. Однако, это не делает её менее полезной и менее интересной.

Via vk-emergentor

Скачать с rusfolder.com

Tags: глобальная катастрофа, прогноз, сингулярность
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 6 comments