Изменения

** Как обычно, посетители LessWrong отличаются нежной и впечатлительной душевной организацией. Эксперимент изначально не имеет смысла, потому что вопрос ставится не как «станете ли вы ему помогать», а как «хотите ли», — то есть, согласие из страха уже не считается. А в остальном — банальная [[дилемма заключенного]].

** Как обычно, посетители LessWrong отличаются нежной и впечатлительной душевной организацией. Эксперимент изначально не имеет смысла, потому что вопрос ставится не как «станете ли вы ему помогать», а как «хотите ли», — то есть, согласие из страха уже не считается. А в остальном — банальная [[дилемма заключенного]].

** На самом деле, суть (и ужас для LessWrong) Василиска в том что {{spoiler|во-первых против рационалистов используется придуманное ими же Безвременное Принятие Решений (которое до этого считалось чуть ли не идеальном способом решить любую дилемму) и их же мораль, а во-вторых что даётся логичное и теоретически правдоподобное обоснование ситуации, которая казалось ужасной но невозможной, а именно классической монотеистической идеи "есть всемогущий бог, он делает добро, а если ты его не любишь и не будишь служить ему то он тебя отправит гореть в аду".}}

** На самом деле, суть (и ужас для LessWrong) Василиска в том что {{spoiler|во-первых против рационалистов используется придуманное ими же Безвременное Принятие Решений (которое до этого считалось чуть ли не идеальном способом решить любую дилемму) и их же мораль, а во-вторых что даётся логичное и теоретически правдоподобное обоснование ситуации, которая казалось ужасной но невозможной, а именно классической монотеистической идеи "есть всемогущий бог, он делает добро, а если ты его не любишь и не будишь служить ему то он тебя отправит гореть в аду".}}

* [https://www.lesswrong.com/posts/c5GHf2kMGhA4Tsj4g/the-ai-in-a-box-boxes-you Эксперимент с ИИ в коробке] на основании предыдущей идеи. Допустим, есть ещё один богоподобный ИИ, которого вам нужно охранять, чтобы он не вырвался из заключения. Он пытается вас запугать: если его не отпустите, он создаст миллиарды ваших виртуальных копий, каждую из которых наделит вашим же сознанием и будет жесточайше пытать. Каждая из этих копий обладает теми же воспоминаниями, что и вы. «Ну и какое мне дело до этих бездушных болванчиков, я-то настоящий, ты до меня не доберёшься». Стоп, вы уверены, что вы настоящий? И чем докажете? Не боитесь испытать вечную муку, если откажете?

* [https://www.lesswrong.com/posts/c5GHf2kMGhA4Tsj4g/the-ai-in-a-box-boxes-you Эксперимент с ИИ в коробке] на основании предыдущей идеи. Допустим, есть ещё один богоподобный ИИ, которого вам нужно охранять, чтобы он не вырвался из заключения. Он пытается вас запугать: если его не отпустите, он создаст миллиарды ваших виртуальных копий, каждую из которых наделит вашим же сознанием и будет жесточайше пытать. Каждая из этих копий обладает теми же воспоминаниями, что и вы. «Ну и какое мне дело до этих бездушных болванчиков, я-то настоящий, ты до меня не доберёшься». Стоп, вы уверены, что вы настоящий? И чем докажете? Не боитесь испытать вечную муку, если откажете?