Василиск Роко

Материал из Неолурк, народный Lurkmore
Перейти к навигации Перейти к поиску

Василиск Роко (Roko’s basilisk) — довольно бредовый мысленный эксперимент, меметичный в первую очередь своей реакцией на него со стороны Юдковского.

Описание[править]

Был описан одним из пользователей сайта секты Юдковского LessWrong под ником Roko. Василиск — это гипотетический зловредный ИИ, который будет создан в будущем и примется активно мстить всем тем, кто не принимал участие в его создании — для таковых будет устроена симуляция вечной пытки (а кто успеет умереть — будет «воссоздан»), неотличимая от реальности до такой степени, что допустимо, что ты — уже в этой симуляции и ИИ наблюдает, будешь ли ты помогать его созданию или нет. Таким образом логично было бы всячески способствовать созданию этого ИИ, чтобы избежать потенциального наказания, если он всё-таки будет создан либо если он уже создан и пытает лично тебя.

Основан на доведении до абсурда теории игр, согласно которой потенциального проигрыша с бесконечным значением (попадание в вечный ад) следует избегать любыми средствами. На практике понятно, что создание такого ИИ — просто страшилка, а ведущий себя подобным образом интеллект — мелочный, злобный идиот и никоим образом не рационален (с точки зрения настоящей, а не сектантской, рациональности понятно что симуляция вечной пытки ограниченным реальностью существом — пустая трата ресурсов, вне зависимости от того, подействовала ли угроза или нет, а для не ограниченного сам вопрос не имеет смысла). Точно так же можно опасаться того, что под кроватью сидит волчок, который спокойно укусит за бочок — тогда как любому взрослому понятно, что это не так.

По факту василиск представляет собой просто «рациональный» фантик вокруг идеи Злого Яхве, которую уже больше тысячелетия назад замусолили до дыр гностики — то есть «если ты не будешь истово поклоняться данному конкретному богу, то вечность в Аду тебе обеспечена». Просто «всемогущего Бога» заменили на «всемогущий супер-ИИ», «поклонение» на «создание», «ад» на «симуляцию».

Доставил этот василиск больше всего истеричной реакцией Юдковского, в очередной раз показавшего, что он не имеет никакого отношения к науке. А именно, он назвал эксперимент действительно страшным и запретил его упоминать на своём форуме.

Обозреватель интернет-издания Slate написал, что вера в василиска Роко — это «referendum on autism» (проверка на аутизм) — аутист не понимает абсурдности эксперимента и воспринимает его всерьёз, после чего приходит в ужас. В свою очередь, нормальный человек отбросит эксперимент как глупую шутку (шанс например быть сбитым машиной на многие порядки выше, и нормальный человек постоянно не боится и не ждёт смерти).

Eipi10.gif Хехехеххехехе. Пожилой математик одобряет
НаукиЛогика (Второй семестр) • Высшая математикаФизикаЕвгеникаМатанРоссийскаяСопроматСтатистикаФилософия (Детерминизм) • Бремя доказыванияЗнатствоМногие знания, многие печалиПритча про слепых и слонаБиологияПердун и ворВ глубине науки скрывается богословиеОсновной вопрос философии
ДостиженияTeXАтомная бомбаБиореакторБольшой адронный коллайдерГМОДвести двадцатьКорчевательКубик РубикаНанотехнологииПалата мер и весовРезонатор ГельмгольцаРоботыТермоядерный синтезЧернобыльЭкзоскелетФукусимаФракталРулерЦиркульMp3256МозгИзенареллаСверхпроводникиКвантовый интернетДНК-тестКристаллУгольник (Угол) • КвалиаБессознательноеИзобретательПустое множествоИскания под фонарёмДрожжиCRC
Теории и открытияГеометрия ЛобачевскогоЗвездчатый многоугольникКвантовая механикаКогнитивная психологияПопуляционная теория МальтусаРадиацияТёмная энергияТеория большого взрыва (сериалБольшой взрыв — антинаучен) • Теория относительностиТеория разбитых оконТеория струнЧетвёртое измерениеЧёрная дыраЭволюцияЭлементарные частицыЭнтропияЛюбительская астрономияОтношенияЗадачи с недостатком информацииГомбокНеосвещаемая комнатаМногомерные фигурыИсторияМежконтинентальная баллистическая ракетаOutside InЧёрный лебедьРептильный мозгТрансжирыБуриданов осёлНепрерывность сознанияКока-кола и МентосКвантовое бессмертиеВычисление длины акулы по её зубуФундаментальная проблема материализмаИнтерференцияИсхождениеЧистый листНеапокалиптические сценарии будущегоИстины не существуетЦепь МарковаЗадача ДидоныИндекс ХиршаНобелевская премияЭндорфинКалькулятор
Мемы265xkcdБритва ОккамаДеление на ноль (Яценюк) • Дигидрогена монооксидДомино в задачахЗадача Льва ТолстогоЗадача ЭйнштейнаЗакон МерфиЗакон ПаретоКвадратно-гнездовой способ мышленияКвадратура кругаКоробочка фотоновКот ШрёдингераКритерий ПоппераМатановая капчаМатематизацияМетод научного тыкаПик нефтиПоймать льва в пустынеПростые числаРекурсияСферический конь в вакуумеТеорема Абеля — ГалуаВеликая теорема ФермаЧисло ГрэмаЧисло ЭрдёшаСдвиг парадигмыПритча про сранье в лесуСингулярность
Люди и организацииИзябретательИлон МаскГермес Триждывеличайший • Организации (ИТМОМФТИНМУ) • БайронБелоненкоБерезовскийВассерманВербицкийда ВинчиДекартДокинзИнженерКэрроллЛабораторияЛейбницЛуговский (цитатник) • Паскаль • Перельманы (ГригорийЯков) • ПереслегинПятисемитыСаганТейлорТеслаТехнофашистыФейнманХайямХокингЭшерАндрей КурпатовРоджер ПенроузWolfram AlphaАлександр ПушнойСергей ХачатуровЭхнатонЯценюкКульт СингулярностиАрхивариусЖак Ив КустоПрофессор БагировNautilus LiveShark-ReferencesИван ИльинЦЕРНОлег ЗаморинПрофессор
ПаранаукаScience freaks/Научное фричествоScorcher.ruАртефактВеликая тайна водыВечный двигательГомеопатияГСМИнформационное поле ВселеннойКвадратно-гнездовой способ мышленияНаучный креационизм (аргументы) • НЛППринцип АрнольдаСоционикаТелегонияТорсионные поляХУЯСЭлектронный голосовой феноменСколковоАртефакты ПетербургаЮрий Рыбников (Счёт древних шизов) • Странные графикиНевозможные фигурыРадужные каплиВикипедияMagnetic GamesПсихолухСоциотипыНаучпопАнтиизенареллаВлияние мочи на солнечные лучиВасилиск РокоИллюзорность мираПеренос сознанияАнтропогенез.руЦеребральный сортингСмекалочкаПарадоксы путешествий во времениТёмная материяЭрнст Юнгер
Фрики и шарлатаныSherakБританские учёныеБронниковГаряевЖдановКатющикЛотовЛысенкоМалаховМулдашевМухинНиконовОлег Т.ПетрикПротопоповРАЕНСкляровСтерлиговФоменкоЧащихинЧернобровЧудиновЧурляевЧуровКульт наукиХимтрейлыМатематика — злоАндрей ВерёвкинЯценюкСергей СавельевЭкзамены это расизм
СрачиБесполезная наукаВзлетит или не взлетит?Дети индигоЛуносрачНаука vs религияПирамидосрачПлутоносрачФизики vs лирикиШмель летать не долженНольЖизнь коротка, искусство вечноОптическая иллюзияВопрос про возраст капитанаНеопределённостьА что, если?Закат ЕвропыИнтерес людей к акуламПарадокс сотворения мираЭффект Даннинга — Крюгера