Василиск Роко (англ. Roko’s Basilisk) — мысленный эксперимент, предложенный участником сайта Lesswrong. Согласно эксперименту, Василиск — недоброжелательный искусственный интеллект, который захочет наказать в смоделированной вселенной тех, кто не выполняет его приказы и не способствовали его созданию.
Многие авторы называют этот опыт «самой жуткой дилеммой технофутуризма»[1].
Суть эксперимента
Согласно эксперименту, Василиск Роко — всемогущий искусственный интеллект из будущего, который может задним числом наказывать тех, кто не способствовал его созданию; сам факт знания этого подвергает человека риску наказания[2].
Кроме того, мы можем знать, что мы сами не являемся теми самыми двойниками, живущими в виртуальном мире, созданном Василиском[1].
Пари Паскаля
Эксперимент связан с «пари Паскаля» — аргументом, предложенным математиком и философом XVII века Блезом Паскалем: человек должен посвятить себя Богу, даже если он не уверен в его существовании, так как Бог может предложить вечный «выигрыш» (в раю) или вечное наказание (в аду). Согласно Паскалю, вероятность существования Бога не так важна, так как любые конечные затраты перевешиваются перспективой вечного вознаграждения или вечного наказания.
Запрет
Основатель Less Wrong, Элиэзер Юдковский, удалил посты Роко по этой теме, назвав его «глупым».
 | Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям. |  |
Обсуждение теории Роко было запрещено на LessWrong на несколько лет[4][5], прежде чем запрет был снят в октябре 2015.[6]
Ссылки
- rationalwiki.org Roko’s basilisk
См. также
Примечания
- 1 2 Василиск Роко: самая жуткая дилемма технофутуризма (15.09.2015).
- ↑ 10 самых пугающих теорий, известных человеку.
- ↑ Василиск Роко: самый пугающий мысленный эксперимент в истории. theoryandpractice.ru.
- ↑ Love, Dylan. WARNING: Just Reading About This Thought Experiment Could Ruin Your Life. Business Insider (6 августа 2014). Проверено 6 декабря 2014.
- ↑ The Most Terrifying Thought Experiment of All Time, Slate (17 июля 2014). Проверено 18 июля 2014.
- ↑ RobbBB. A few misconceptions surrounding Roko's basilisk. LessWrong (5 октября 2015). — «The Roko's basilisk ban isn't in effect anymore». Проверено 10 апреля 2016.
Данная страница на сайте WikiSort.ru содержит текст со страницы сайта "Википедия".
Если Вы хотите её отредактировать, то можете сделать это на странице редактирования в Википедии.
Если сделанные Вами правки не будут кем-нибудь удалены, то через несколько дней они появятся на сайте WikiSort.ru .