February 3rd, 2016

pic#nyan_cat

Воля Сверхразума.

Оригинал взят у i_ddragon в Воля Сверхразума.

Корпорация "Монолит" представляет:
Collapse )
Рад представить вашему вниманию статью Ника Бострома "Воля Сверхразума (Superintelligentwill)", которая касается поиска общих принципов, лежащих в основе целей, мотиваций и поступков всевозможных разумных существ. В статье утверждается, что умозрительно выделенные общие принципы мотивации разумных существ применимы к нечеловеческим разумным агентам - вроде пришельцев и всевозможных НЕХ - а также, и искусственных интеллектов. Выведенные общие свойства поведения разумных агентов побуждают лишний раз обратить внимание на проблему
дружественности ИИ — поскольку выведенные общие принципы поведения ИИ сами по себе не гарантируют его невраждебности человеку (скорее даже наоборот). Также, на основании выделенных общих принципов доказывается, что практически всякий сверхразум будет стремиться к колонизации космического пространства - в частности, убедительность рассуждений заставляет нас задуматься о причинах того, почему таковая не наблюдается до сих пор. Может быть, нечто мешает интеллектуальным агентам развиваться до сверхразумного уровня - а может, колонизация окружающего космического пространства уже происходит - но мы её не замечаем?

К сожалению, вопросы, поднятые в двух предыдущих предложениях, находятся за пределами рассмотрения статьи Ника Бострома. Однако, это не делает её менее полезной и менее интересной.

Via vk-emergentor

Скачать с rusfolder.com