Василиск Роки
Шрифт:
– Напомнить, кто такой василиск Роко?
– Не стоит, я прекрасно помню, и сам могу рассказать эту историю.
Но вопрос, похоже, был риторическим, в ответе Николая Лена не нуждалась, а захлопнуть рот её могло заставить
– В далёком уже 2010 году на форуме LessWrong, на котором собиралось сообщество, озабоченное, в числе прочего, техногенным будущим, рациональностью и проблемами искусственного интеллекта, один из участников по имени Роко разместил любопытный пост. Он предлагал мысленный эксперимент, который лишил надолго сна и покоя большинство форумчан, при том что они так-то навидались всякого и напугать их было делом не лёгким. Дошло до того, что основатель форума Элиэзер Юдковский в ярости удалил посты Роко.
Николай, который медленно закипал про себя и беспомощно оглядывался по сторонам в поисках спасения, которое ему, не иначе как из мести за двухдневный «игнор», не спешили оказывать, мрачно подумал, что если бы он не знал сути истории, то с не меньшим удовольствием, чем сейчас,
– И не просто удалил, а сопроводил едким комментарием. «Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы держать свой дурацкий язык за зубами и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям.» Но ты забыла, что уже в 2015 году свой запрет Элиэзер снял?
Лена удовлетворённо кивнула и с ещё большим воодушевлением продолжила:
– Но как видишь, идея продолжает и пугать, и воодушевлять, и сводить с ума. Даже у нас
Конец ознакомительного фрагмента.