Василиск Роко (англ. Roko’s Basilisk) — мысленный эксперимент, предложенный участником сайта Lesswrong. Согласно эксперименту, Василиск — недоброжелательный искусственный интеллект, который захочет наказать в смоделированной вселенной тех, кто не выполняет его приказы и не способствовали его созданию.
Многие авторы называют этот опыт «самой жуткой дилеммой технофутуризма»[1].
Согласно эксперименту, Василиск Роко — всемогущий искусственный интеллект из будущего, который может задним числом наказывать тех, кто не способствовал его созданию; сам факт знания этого подвергает человека риску наказания[2].
Кроме того, мы можем знать, что мы сами не являемся теми самыми двойниками, живущими в виртуальном мире, созданном Василиском[1].
Эксперимент связан с «пари Паскаля» — аргументом, предложенным математиком и философом XVII века Блезом Паскалем: человек должен посвятить себя Богу, даже если он не уверен в его существовании, так как Бог может предложить вечный «выигрыш» (в раю) или вечное наказание (в аду). Согласно Паскалю, вероятность существования Бога не так важна, так как любые конечные затраты перевешиваются перспективой вечного вознаграждения или вечного наказания.
Основатель Less Wrong, Элиэзер Юдковский, удалил посты Роко по этой теме, назвав его «глупым».
![]() | Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям. | ![]() |
Обсуждение теории Роко было запрещено на LessWrong на несколько лет[4][5], прежде чем запрет был снят в октябре 2015.[6]
Данная страница на сайте WikiSort.ru содержит текст со страницы сайта "Википедия".
Если Вы хотите её отредактировать, то можете сделать это на странице редактирования в Википедии.
Если сделанные Вами правки не будут кем-нибудь удалены, то через несколько дней они появятся на сайте WikiSort.ru .