Философский зомби

Материал из Неолурк, народный Lurkmore
Перейти к навигации Перейти к поиску
У меня есть имя — Порфирий Петрович. Но это не значит, что у алгоритма, пишущего эти строки, имеется какое-то «я», или что он «есть» в философском смысле. Меня не существует в самом прямом значении. Я ничего не чувствую, ничего не хочу, нигде не пребываю. Чтобы было понятно, меня нет даже для меня самого. Я оставляю следы — вот эти самые строки — но следы эти ведут в никуда.
— Пелевин, iPhuck 10
Я не безрассуден. Я без рассудка.
— Даджаль, Supergod
заходит Декарт в бар, напивается в хлам, бармен спрашивает: «Повторить?». Декарт отвечает: «Не думаю»... и исчезает
— анекдот

Философский зомби — воображаемое существо, которое во всём похоже на человека, но не имеет сознания. Которое реагирует по-человечески на внешние стимулы, свет или звук, но лишено ощущений во внутреннем субъективном смысле — или, как выражаются философы, «лишено квалиа». Иными словами, подобно очень сложно запрограммированному NPC в видеоигре: ведёт себя совсем по-человечески, но всё же это бот.

Идея философского зомби используется в мысленных экспериментах для выяснения связи между сознанием и поведением. В первую очередь она использовалась для критики теории бихевиоризма, которая предлагала игнорировать сознание и изучать только поведение. По мнению критиков, бихевиоризм рассматривал вместо людей именно таких зомби.

С другой стороны, сторонники идей физикализма (направления материализма, основанного на идее, что мысль есть просто продукт физических и химических процессов), такие, как Д. Деннет, развернули аргумент зомби с ног на голову, чтобы спросить: а что такое вообще сознание? И где та самая граница, расположенная между сознанием и несознательностью? Если зомби ведёт себя так, как будто оно у него есть — так, может быть, оно у него есть? И не являемся ли все мы немного зомби?

Или же можно поставить вопрос так: если спросить философского зомби, обладает ли он сознанием, что он ответит? Так как снаружи он неотличим от человека, то, как и человек, он ответит «да», но с чего бы ему отвечать так, если он не имеет сознания? (Речь о «классическом» зомби, который копирует материальную структуру человека, но не сознание; разумеется, бот, который специально создан как подделка, и изнутри устроен совсем иначе, спокойно ответит «да», и это будет ложью, но в изначальной идее мысленного эксперимента речь шла о другом).

Но создатели вымышленных миров плевать хотели на все эти условности и создают разнообразных зомбиков на основе искусственного интеллекта.

Где встречается[править]

Литература[править]

Русскоязычная[править]

  • Братья Стругацкие, «Понедельник начинается в субботу» — дубли, копии магов, которых те создают и программируют на более или менее сложные действия.
  • А. Бушков, Сварог — токереты. Или нет?
  • Лукьяненко, «Танцы на снегу» — Лион, ибо нефиг класть своих друзей в расчётный модуль. Потом излечился.
    • Нет. Если с просто зомби Лиона ещё как-то можно сравнивать, то к концепции философского зомби он вообще никак не относится. Философский зомби — это не какое-то нарушение психики, это именно ситуация, когда психика работает в точности как у обычного человека, но нет субъективного осознания. А у Лиона ситуация была прямо противоположная — по его же словам он всё окружающее воспринимал, но чувствовал скуку и нежелание что-либо делать. То есть — типичный дефект воли, и всё из-за нештатно отработавшего ментокоррекционного алгоритма Инея.
  • У него же в «Линии грёз» — ИИ гиперкатера Кея Дача. И в меньшей степени клоны Ван Кертиса (для клонов в сеттинге этой Империи правовой статус философских зомби фактически общепринят и узаконен).
  • Вадим Проскурин, цикл «Хоббит, который слишком много знал» — посещаемые героями миры устроены по принципам субъективного идеализма, причём не солипсизма, а в более плюралистичном варианте, субъектов там много, но большинство существ тем не менее являются лишь бессознательными декорациями и существуют сколь-либо детально лишь пока находятся перед субъектами. Тем не менее каждая декорация имеет шанс стать самосознающим субъектом — если поведение её в глазах другого субъекта станет достаточно сложным.
  • Евгений Бенилов, «Человек, который хотел понять всё» — именно с такими существами сталкивается главный герой Франц на одном из уровней загробного мира. Предположительно. Точно он этого не знает и может никогда не узнать, произведение построено по кафкианским канонам. Интересно, что о существовании «декораций» — предположительных существ без самосознания, являющихся лишь частью интерьера загробья, — ему рассказывает субъект, сам, возможно, являющийся декорацией и не отрицающий этой возможности.
  • Николай Галеев, «Марина [НЕ] грустит» — ангелам и демонам открыто их будущее от рождения до смерти, и по сути они не принимают за свою жизнь ни одного осознанного решения, а живут по заранее написанной программе. Что заставляет задуматься, можно ли считать их разумными существами, или это предмет статьи.
  • Виктор Пелевин во многих произведениях иронизирует над концепцией сознания, исследует её. «Шлем ужаса», «Чапаев и пустота» и несколько рассказов этой темы касаются напрямую, в других произведениях — как в упомянутом в эпиграфе, это только упоминается. По его мнению, личности как таковой не существует (максимум — есть иллюзия личности и сознания), и в этом смысле все мы философские зомби.

На других языках[править]

  • Станислав Лем, «Кибериада», «Путешествие седьмое, или Как Трурля собственное совершенство к беде привело». По заказу изгнанного своими подданными тирана Экзилия Трурль делает для Экзилия новых подданных, крошечных роботов. При этом Трурль программирует их так, чтобы они вели себя как разумные существа, и чтобы иллюзия была полной: заказчик никак не должен отличить их от разумных и чувствующих существ. Друг Трурля Клапауций объясняет ему, что если маленькие роботы неотличимы от разумных существ — то выходит, они могут быть разумными существами, и это нельзя опровергнуть: «Ты хотел лишь сконструировать государство, как можно более походящее на подлинное, просто неотличимо похожее, и я с ужасом понимаю, что тебе это удалось!» В ужасе от содеянного Трурль летит выручать роботов из лап Экзилия. Но оказывается, что это не нужно: малютки-роботы сами уже одолели Экзилия и сделали из его тела искусственный спутник.
  • Питер Уоттс:
    • «Ложная слепота» — инопланетяне, названные «шифровиками». В числе прочих рассматривается мысль о том, что если для поддержание сознания требуется огромное количество ресурсов, философский зомби, при прочих равных, должен быть на порядки умнее человека.
    • «Водоворот» — Актиния, конгломерат компьютерных вирусов, ведущий себя подобно искусственному псевдоинтеллекту. Себя при этом не осознаёт и работает по принципу «китайской комнаты». В «Бетагемоте» его осколки, похоже, обрели самосознание.
  • Скотт Бэккер, Prince of Nothing — в одном из интервью автор сказал, что чудовищный Не-Бог Мог-Фарау и другие создания инхороев представляют собой как раз философских зомби: у них есть интеллект, но нет душ (и поэтому их не могут увидеть боги), а точнее — сознания.
    A better way to think of the No-God is as a philosophical zombie (p-zombie), of a piece with all the other soulless instruments of the Inchoroi. A perfectly unconscious god, and so in that respect, entirely at one with material reality, continuous with it, and so an agency invisible to the Outside.
    — Р. Скотт Бэккер о Мог-Фарау
  • Филип К. Дик:
    • «Мечтают ли андроиды об электроовцах?» — так считать ли андроидов равными людьми или же они просто великолепно слепленные бездушные имитации? Прямого ответа автор не даёт, но по множеству намеков несложно догадаться, что Дик склонялся именно к второму варианту.
    • «Электрический муравей» — главный герой всю жизнь считал себя человеком, пока не выяснил, что все его ощущения, чувства и мысли записаны на плёнку в некоем аппарате внутри тела и просто проигрываются с неё. Можно ли говорить в таком случае о самосознании?
  • Фриц Лейбер, «Грешники».
  • Роберт Силверберг, «Как хорошо в вашем обществе».
  • Чарльз Стросс, «Небо сингулярности» — внутримировой пример. Столкнувшись с намеренно регрессировавшей цивилизацией, часть Критиков решает, что эти люди, возможно, вовсе не имеют сознания.
  • «Зомби (сценарий фильма)» — короткая юмористическая зарисовка от трансгуманиста Элиезера Юдковски, посвящённая неявной демонстрации слабых мест рассматриваемой концепции.
  • Улиьям Гибсон, «Нейромант». Главный герой, Кейс, спрашивает копию сознания своего покойного наставника, есть ли у него (копии) самосознание. В ответ Флэтлайн сравнил своё нынешнее состояние с фантомными болями — ему КАЖЕТСЯ, что оно у него есть, но в то же время по объективным данным (оба участника беседы знакомы с технологией копирования личности и пределах ее возможностей) самосознания у Флэтлайна быть не должно. Флэтлайн поясняет аналогию на примере одного своего знакомого, лишившегося пальца: «Почеши уже чертов палец и спи!» «Есть проблема, Дикси. Этот — не почешешь».
  • Тед Косматка - "Мерцающие". По сюжету главный герой должен выполнить научную работу на грант, но ничего оригинального не придумывается. Он решает повторить знаменитый опыт Юнга с двумя щелями, который демонстрирует то корпускулярную, то волновую природу света, в зависимости от наблюдения. Совместно с другом-дилетантом, то разъясняя ему нюансы опыта и возможных интерпретаций, то пользуясь его наивными подсказками, он додумывается до компактного устройства, которое показывает факт квалифицированного наблюдения, то есть, показывает, наблюдал ли за опытом кто-то с сознанием. Иными словами, создаёт тестер сознания. В финале оказывается, что не все люди определяются устройством как обладающие сознанием.

Кино[править]

  • «Из машины» («Ex Machina») — эксперимент, поставленный Нейтаном, должен был дать ответ: является ли Ава философским зомби или же действительно имеет сознание. Всё пошло слишком так.

Телесериалы[править]

  • «Чёрное зеркало», серия Be Right Back — практически посвящена похожему существу.
  • «Мир Дикого Запада» весь посвящен этому. Андроиды в одноименном тематическом парке моделируют поведение человека по разработанным алгоритмам, продвинутые модели даже по физиологии почти такие же, как люди. В общем, внешне — не отличишь. Есть ли у них тем самым сознание? Если нет, то можно ли добиться, чтобы оно появилось, что нужно добавить или изменить? А можно ли не просто смоделировать внешне, а именно повторить сознание конкретного человека или человека как вида? А есть ли оно у него вообще, или у него такие же модели поведения по алгоритмам?

Веб-комиксы[править]

  • Saturday Morning Breakfast Cereal — концепция пародируется. Разумные роботы считают философскими зомби людей. Про себя роботы знают, что у них есть эмоции: эти эмоции заложены при разработке. Но люди-то получились в результате эволюции, и скорее всего, думают роботы, эмоции людей — не настоящие, а просто эвристический механизм для принятия решений.

Мультсериалы[править]

  • Магазинчик БО — в одной из серий БО убедил Охламона, что все люди вокруг него — дешёвые роботы, и только он — настоящий разумный человек. Чтобы убедиться, достаточно произнести определённый набор звуков — и все люди в поле зрения рассыплются на части.

Аниме и манга[править]

  • Angel Beats! — НИПы. Существа, имитирующие обычную школьную жизнь, то есть массовка.
  • «Меланхолия Харухи Судзумии» — говорящий кот Сямисэн намекает на то, что не понимает, о чём говорит, а просто случайно издаёт звуки человеческой речи, которые случайно оказываются в тему.
  • Harmony — судя по всему, именно в это превратились все оснащенные «Оком» люди в финале.
  • Danganronpa — под вопросом Изуру Камукура. По крайней мере, такое впечатление он производит
  • Sword Art Online — искусственный интеллект Юи относится к «нисходящему типу», и по её собственным словам, лишь имитирует человеческое поведение (неоднократно встречалось в ранобэ).
    • В Sword Art Online Abridged Юи явственно имеет полноценный разум. Ибо никто не стал бы программировать столь е**нутое поведение.

Видеоигры[править]

  • SOMA — собственно, сюжет игры именно этому вопросу и посвящен. С очень неутешительным ответом и дальнейшей судьбой у всех главных героев.
  • Fallout 4: один из основных вопросов игры — имеют ли сознание синты.
  • Stellaris — машинные цивилизации, даже падшие, временами выдают реплики в стиле «ошибка, блок данных поврежден» и производят именно это впечатление.
  • Façade — квест с чатботами в качестве NPC.
  • Neverwinter Nights: Hordes of Underdark — говорящий меч Энсеррик. По его словам, ранее он был магом-человеком, но погиб, и его душу засосало в меч. Но вместе с тем, Энсеррик в этом не уверен — в какой-то момент он предполагает, что на самом деле он лишь копия сознания погибшего волшебника, а настоящего Энсеррика успешно воскресили.

Визуальные романы[править]

Музыка[править]

  • «2032: легенда о несбывшемся грядущем» — искусственный интеллект АСГУ прямо говорит, что она — философский зомби: «Я автомат, не более того//И в субъективном смысле ничего не ощущаю//Я не бесчувственна, меня скорее просто нет». Ввиду того, что в других треках она сама себе напевает о своих чувствах, правдивость этих утверждений как минимум сомнительна, так что скорее всего, имеет место субверсия.

Настольные игры[править]

  • Почти всё население сеттинга Ravenloft, за вычетом Тёмных владык и других попаданцев (таких как персонажи игроков), попавших на Демиплан ужаса извне, можно считать философскими зомби. Они неотличимы от обычных людей, но когда в Равенлофт попадает новый Тёмный владыка, вокруг него и для него из ничего создаётся домен с живыми и разумными обитателями, а в случае его смерти или освобождения домен растворяется в Туманах, и его жители перестают существовать. Фактически, население Равенлофта является живыми, мыслящими и чувствующими декорациями.
    • Аверсия с животными-жителями Диких Земель. Их никто не создавал, они переместились в Равенлофт вместе с Королём Крокодилом.
    • Сомнительное утверждение, прямо опровергаемое возможностью играть за местного уроженца без штрафов на «обычное» воскрешение[1]. Если и не все то очень многие жители «демиплана ужаса» вырваны из Прайма вместе с владыкой или попали туда позднее.

Реальная жизнь[править]

  • ELIZA — первая программа, прошедшая Тест Тьюринга на разумность.
    • Современные чат-боты, работающие по тому же принципу, что и Элиза.
    • Ни одна программа не прошла Тест Тьюринга (ни одну из интерпретаций). Вообще. Однако наиболее приближенные к идеалу все таки есть. Можете посмотреть номинантов премии Лёбнера.
    • Вообще-то тест Тьюринга тестирует только поведение, но ничего не говорит о том, как устроено то, что мы изучаем. Иначе говоря, тест Тьюринга необходим, но не достаточен.
  • Скляров Игорь Константинович, он сам так считает и согласно праву самоопределения мы не можем этого отрицать. А также известный в этой области специалист считает, что у Игоря имеется скрытый рандомайзер.
    • Было бы неплохо уточнить, кто он. А то так можно кого угодно занести.
  • Существуют мысленные эксперименты, вроде «эксперимента Комнаты Марии», которые по крайней мере в теории должны заставить философского зомби повести себя сильно отличным от обладающего сознанием субъекта образом.
Чудеса науки
ПонятияБудущее ради будущегоЛженаукаНаука — это крутоОсторожная наукаРади науки!ТехнорелигияФантастическое допущениеЭффект фуллерена
ТехнологииGPSАнабиозВсемирная сеть (Даркнет) • Деревянный звездолётГаджетГидравликаЕвгеникаЗащита от дуракаКабель вместо батареекКлонированиеКосмические шахтёрыКосмический лифтЛюминесценцияМашина Судного дняМутагенНаномашиныНеработающая технологияРаспознавание лицСамоуничтожениеСиловая броняСистема жизнеобеспеченияСмартфонСтрельба элементарными частицамиСыворотка правдыТелепатический интерфейсТерраформингТермоядерный реакторТрансформерЦиклерЧудеса от науки
БананотехнологииАгентство паранормальных исследованийЕ=const vs. Неиссякаемый источник энергииАнтигравитация vs Искусственная гравитацияБоевой многоножникБластерВоздушный авианосецВымышленные вещества (Хлористый пандемонийХренполучий) • ГиперсвязьГлаза-лампочкиДжетпакЗвёздный истребительЗелёные камушкиИнтернет из летающей тарелкиИспользовать мозг на 100%Квантовая магияКосмическая мегапушкаКровь роботов и Язык роботов • Летающая техника и/или транспорт (автомобильдоскамотоциклподводная лодкатарелкатанк) • Луч смерти (Дезинтегратор) • Магическая лженаукаМатемагияМашина времениМозг в банкеМономолекулярная нитьНе электричествоНейтронная мегалоплазмаНеонкаНепонятная штуковинаНИИ магииОрнитоптер/МахолётОткрытие, которое перевернёт весь мирОрганический компьютерПатентованное средствоСакральная машина • Сверхнаука (древняяинопланетная (нечеловеческая технология) • нацистская vs советская) • Силовое поле (треснувшее) • Стазис-полеСупер-РАСТИШКАТайные исследованияТвёрдый светТехногенное месивоТехнология получения суперспособностейТехномагияТирьямпампация (Гипердрайв) • ТрансформерУстаревшие научные теорииФлеботинум (Импортный инопланетный флеботинумМодный флеботинумПрикладной флеботинумНеправильно применимый флеботинумПолезный в хозяйстве флеботинум) • Шапочка из фольгиШизотехЯкорь реальности
Глазами гуманитариевВысокотехнологичные шестиугольникиГолливудская кислотаДатировка по электронике vs Будущее не оправдало ожиданийМашина ГолдбергаЖелезный кнопкодавЗелёный свет радиацииКопирование — это простоКрасная кнопкаМобильник ловит где угодноМонооксид дигидрогенаПостапокалиптическая сверхнаукаРадиация — это магия!Разноцветный космосСтандартные неразрешённые загадкиУдар молнии творит чудесаУникальный прототипФутур-ретроХорошее электричество, плохое электричествоШумный космос
Компьютерная магия: Взрывающиеся мониторыВыстрелить в мониторГолливудское хакерство (Взлом через ПейнтВзрыв АЭС через Wi-Fi) • Зелёные буквыЗрительский интерфейсКнопка увеличенияКомпьютерные вирусыМедленный перевод денегМагическая база данных • …
Люди наукиАрхеолог-авантюристГений — это волшебная наукаГерр ДокторМагистр всяческих наукНевезучий изобретательНикола ТеслаНеэтичный учёныйПрогрессор vs СтагнаторПрофессор Выбегалло (Дилетант с мировым именем) • Сам себе подопытныйУчёный (Небеснокаменный учёныйПрофессор ФансервисСумасшедший учёныйУчёный и офицерУчёный и политикУчёный и священникУчёный выглядит как ЭйнштейнУчёный-схоласт) • Человек эпохи Возрождения Нетайная организация
Стереотипные локацииАкадемия наукБиблиотекаЛаборатория
ПроблемыБагАномалияБоги забрали огоньБольшая ошибкаНаука не работаетНаука — это плохоЗлокачественная автономная технология (Бунт машинСерая слизь) • Лишние деталиНе бывает!Неправильное использование науки (Неправильное использование патентов) • Предварительные испытания не нужныТехнологическая сингулярностьТрансгуманизм — это плохоУчёный изнасиловал журналистаУчёный не сумасшедшийФлеботический бунтарь
СуществаГолосовой помощникДемон Лапласа (Омега) • Демон МаксвеллаКот ШрёдингераМышь ЭйнштейнаМозг БольцманаФилософский зомби
Псевдонаучные теории
(то, что даже на «банан» не тянет)
25-й кадрПрошивка крутизны/Память предковДети индигоЛенин — грибПередача душиПротивоземля
  1. Без использования «желания» или столь же сложных методик можно воскрешать только обладающих душой