November 19th, 2016

pic#nyan_cat

Ник Бостром - этика бесконечного

Оригинал взят у i_ddragon в Ник Бостром - этика бесконечного
Сделал перевод труда Ника Бострома:

Этика бесконечного



Представляю вашему вниманию труд Ника Бострома, называемый «Этика бесконечного», и посвящённый вопросу — каковой может быть этика разумного существа из предположения о том, что мир бесконечен, и какие проблемы нас подстерегают на пути формулировки такой этики. Труд в первую очередь посвящён одной из разновидностей утилитарной этики — агрегативному консеквенциализму - которая стоит на том, что необходимо максимизировать сумму благ и минимизировать сумму страданий во всём мире. При попытке применить обыкновенную версию подсчёта суммы благ и страданий в бесконечном мире их сумма может оказываться попросту неопределённой, что порождает проблему инфинитного паралича. Становится совершенно неясно, как можно максимизировать некоторое значение, если его величина не определена.

При замене простого суммирования другими процедурами проблема инфинитного паралича отступает, уступая место другим проблемам — например, проблеме фанатизма, связанной с так называемыми «дикими картами» (термин не используется в тексте) теории планирования — сценариями развития событий, вероятность которых ничтожна, но если они свершатся, то последствия их будут грандиозны. И если грандиозность последствий «дикой карты» перевешивает малую вероятность её свершения, то рассуждения о возможности наступления соответствующего сценария развития событий могут подавить все остальные соображения и направить поведение агента по «фанатичному» курсу действий, требующему любой ценой достичь, предотвратить или подготовится к наступлению соответствующего события. Такие «дикие карты» легко могут сделать рекомендации теории принятия решений странными, вредными, противоречащими здравому смыслу и исходным целям и даже бессмысленными. И в случае, когда в игру вступают бесконечности, проблема «диких карт» только обостряется — ибо в их случае бесконечные последствия перевешивают любую сколь угодно малую конечную вероятность наступления соответствующих событий.
Collapse )

P.S. На том же сайте доступен другой мой перевод другого труда Ника Бострома - Воля Сверхразума.