Василиск Роко

Материал из Неолурк, народный Lurkmore
Перейти к навигации Перейти к поиску

Василиск Роко (Roko’s basilisk) — довольно бредовый мысленный эксперимент, меметичный в первую очередь своей реакцией на него со стороны Юдковского.

Описание[править]

Был описан одним из пользователей сайта секты Юдковского LessWrong под ником Roko. Василиск — это гипотетический зловредный ИИ, который будет создан в будущем и примется активно мстить всем тем, кто не принимал участие в его создании — для таковых будет устроена симуляция вечной пытки (а кто успеет умереть — будет «воссоздан»), неотличимая от реальности до такой степени, что допустимо, что ты — уже в этой симуляции и ИИ наблюдает, будешь ли ты помогать его созданию или нет. Таким образом логично было бы всячески способствовать созданию этого ИИ, чтобы избежать потенциального наказания, если он всё-таки будет создан либо если он уже создан и пытает лично тебя.

Основан на доведении до абсурда теории игр, согласно которой потенциального проигрыша с бесконечным значением (попадание в вечный ад) следует избегать любыми средствами. На практике понятно, что создание такого ИИ — просто страшилка, а ведущий себя подобным образом интеллект — мелочный, злобный идиот и никоим образом не рационален (с точки зрения настоящей, а не сектантской, рациональности понятно что симуляция вечной пытки ограниченным реальностью существом — пустая трата ресурсов, вне зависимости от того, подействовала ли угроза или нет, а для не ограниченного сам вопрос не имеет смысла). Точно так же можно опасаться того, что под кроватью сидит волчок, который спокойно укусит за бочок — тогда как любому взрослому понятно, что это не так.

По факту василиск представляет собой просто «рациональный» фантик вокруг идеи Злого Яхве, которую уже больше тысячелетия назад замусолили до дыр гностики — то есть «если ты не будешь истово поклоняться данному конкретному богу, то вечность в Аду тебе обеспечена». Просто «всемогущего Бога» заменили на «всемогущий супер-ИИ», «поклонение» на «создание», «ад» на «симуляцию».

Доставил этот василиск больше всего истеричной реакцией Юдковского, в очередной раз показавшего, что он не имеет никакого отношения к науке. А именно, он назвал эксперимент действительно страшным и запретил его упоминать на своём форуме.

Обозреватель интернет-издания Slate написал, что вера в василиска Роко — это «referendum on autism» (проверка на аутизм) — аутист не понимает абсурдности эксперимента и воспринимает его всерьёз, после чего приходит в ужас. В свою очередь, нормальный человек отбросит эксперимент как глупую шутку (шанс например быть сбитым машиной на многие порядки выше, и нормальный человек постоянно не боится и не ждёт смерти).

F349cam.png Эти мемы мудры, ибо понять их требуется самый настоящий мозг
Мемы2 + 2 = 5265xkcdБритва ОккамаДеление на ноль (Яценюк) • Дигидрогена монооксидДомино в задачахЗадача Льва ТолстогоЗадача ЭйнштейнаЗакон МерфиЗакон ПаретоКвадратно-гнездовой способ мышленияКвадратура кругаКоробочка фотоновКот ШрёдингераКритерий ПоппераМатановая капчаМатематизацияМетод научного тыкаПик нефтиПоймать льва в пустынеПростые числаРекурсияСферический конь в вакуумеТеорема Абеля — ГалуаВеликая теорема ФермаЧисло ГрэмаЧисло ЭрдёшаСдвиг парадигмыПритча про сранье в лесу
ШуткиСингулярностьСтиль превыше содержанияАпелляция к здравому смыслуОбщее происхождениеПолёт пчелы и радиоударПаранормальный вызов на миллион долларовЗакон ОмаАрсен МаркарянБоевое НЛПАнекдотическое свидетельствоМозговой штурмОтрицательные числаПьер Тейяр де ШарденГвоздь МичуринаЧезаре ЛомброзоФизиогномикаПолитологияУранЦветДоктор ХаммерсПарадоксСидик АфганУчёный в беломМорель БенедиктДлинаМанхэттенский проектМартин ХайдеггерШизофреники борются с математикойБензоат натрияПроблема достоверности политологического знанияДНКАлександр ШульгинГипердодекаэдрПентерактОмега-Сталин
ПаранаукаScience freaks/Научное фричествоScorcher.ruАртефактВеликая тайна водыВечный двигательГомеопатияГСМИнформационное поле ВселеннойКвадратно-гнездовой способ мышленияНаучный креационизмНЛППринцип АрнольдаСоционикаТелегонияТорсионные поляХУЯСЭлектронный голосовой феноменСколковоАртефакты ПетербургаЮрий Рыбников (Счёт древних шизов) • Странные графикиНевозможные фигурыРадужные каплиВикипедияMagnetic GamesПсихолухСоциотипыНаучпопАнтиизенареллаВлияние мочи на солнечные лучиВасилиск РокоИллюзорность мираПеренос сознанияАнтропогенез.руЦеребральный сортингСмекалочкаПарадоксы путешествий во времениТёмная материяЭрнст ЮнгерПопулярная психологияУскорительно-накопительный комплексФейковая логикаЛженаучные фрикиТерминологические ошибкиТрансгуманизмПродление жизниАнтропный принцип
Фрики и шарлатаныSherakБританские учёныеБронниковГаряевЖдановКатющикЛотовЛысенкоМалаховМулдашевМухинНиконовОлег Т.ПетрикПротопоповРАЕНСкляровСтерлиговФоменкоЧащихинЧернобровЧудиновЧурляевЧуровКульт наукиХимтрейлыМатематика — злоАндрей ВерёвкинСергей СавельевЭкзамены это расизм
СрачиБесполезная наукаВзлетит или не взлетит?Дети индигоЛуносрачНаука vs религияПирамидосрачПлутоносрачФизики vs лирикиШмель летать не долженНольЖизнь коротка, искусство вечноОптическая иллюзияВопрос про возраст капитанаНеопределённостьА что, если?Закат ЕвропыИнтерес людей к акуламПарадокс сотворения мираЭффект Даннинга — КрюгераЭкстраординарные утверждения требуют экстраординарных доказательствНепересекающиеся магистерииПринцип достаточного основанияСпасательный люк