Технологическая сингулярность

Технологическая сингулярность — гипотетический момент, по прошествии которого технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию и контролю человека на его текущем интеллектуальном уровне. Ранее связывалась с ускорением накопления научных знаний, ныне повсеместно связывается с ростом вычислительной мощности компьютеров, а также созданием всё более умного программного обеспечения. По всей видимости точкой сингулярности будет создание самосовершенствующегося искусственного интеллекта, хотя в иной реальности возможен и вариант с генной инженерией. Поскольку сценарий кажется реалистичным, а будущее цивилизации станет невозможно предсказать, то многие авторы помещают миры «на порог» сингулярности, либо рисуют катастрофический сценарий с гибелью человечества под натиском машин.

«Через 200 лет после Сингулярности» (мемные прогнозы из западных интернетов)

Точка зрения

Если сравнить технологическую эволюцию и биологическую, то человек является продуктом биологической сингулярности, которая привела к появлению разумного вида в форме Homo Sapiens. Результат, как видите, действительно непредсказуем, «природные» существа не летают в космос, не используют компьютеры и даже не пишут статейки на posmotre.li (что, как все мы понимаем, самое ужасное).

У гипотезы о технологической сингулярности есть и противники. Версия о росте вычислительной мощности компьютеров опровергается ими вполне реальными физическими ограничениями на таковую мощность (размерами атома и скоростью света, другое дело, что с точки зрения многих теоретиков ИИ ключевым моментом является не компьютерная мощность, а наличие соответствующих программ и лежащих в их основе научных разработок, в первую очередь математических), а на версию об ускорении накопления научных знаний они отвечают, что пик скорости давно пройден и в науке скорее застой. С другой стороны, сингулярность все-таки может наступить после создания ИИ.

Другая точка зрения делит сингулярности на мягкие и жесткие (soft and hard). Мягкая сингулярность — это появление неких новых технологий, которые никто не мог предвидеть раньше, которые меняют всё и делают устаревшими целые сферы человеческой жизни. Но при этом человек в общем остается человеком и общество продолжает функционировать, пусть и по-другому. Например, порох, печатный пресс, промышленный способ производства, компьютеры и Интернет — это всё мягкие сингулярности. Жесткая — это то, что обычно подразумевается под сингулярностью, что напрочь стирает с лица Земли человека, как мы его знаем, и его образ жизни. Мягкие сингулярности совершенно точно существуют. В реальности же жестких авторы классификации имеют основание сомневаться, однако несколько мягких сингулярностей по своему эффекту вполне сопоставимы с жесткой. Попробуйте представить реакцию римского легионера на нашу с вами повседневную действительность.

По мнению третьих, технический прогресс есть явление экспоненциальное. Иными словами, постоянное ускорение темпов его роста — реальность, но кривая здесь не гипербола, а экспонента. То есть никакого единого момента, когда происходит Выликое Нечьто, Привращающее Усех, не существует.

Наконец, четвёртые — прежде всего, сторонники теории технологических укладов — полагают, что нынешнее всеобщее помешательство на компьютерах и информационных технологиях есть явление временное и пройдёт так же, как закончилось всеобщее помешательство на машиностроении, ракетах и большой химии в XX веке. Каждому технологическому укладу — своя Большая Ключевая Новинка, от которой ждут чего-то великого, а она чижика съедает. Яблони на Марсе не зацвели, а значит, и компьютерный бог не явится в мир. И в будущем ждать невероятных переворотов будут уже от какой-то другой технологии, скажем, от биотехнологий. Если верить теории технологических укладов, то для информационных технологий в 2010 году уже наступил конец фазы быстрого роста — момент, когда технология перестаёт стремительно развиваться и превращается в нечто обыденное и полустатичное, давно известное и никого не удивляющее, как автомобиль или тепловоз, что можно обвешивать свистелками и перделками, но что в сути навеки останется тем же, что и сейчас; в 2040 году, если верить теории, такими обыденными и полустатичными станут нано- и биотехнологии.

Что здесь есть?

Для сингулярности (по крайней мере, такой, какой мы ее представляем, особенно в беллетристике) могут быть типичны:

• Искусственный интеллект.
• Постчеловек, транс-человек, отсутствует запрет на трансгуманизм.
• Полноценная виртуальная реальность (моделирующая мозг человека, а не просто общающася с ним) или хотя бы мозг в банке.
• Наука — либо очень круто, либо очень плохо в зависимости от направленности произведения. Либо то и другое.
• Промывание мозгов и манипуляция воспоминаниями — в постсингулярном сеттинге принципы работы сознания познаваемы и изучены, и потому этим сознанием возможно намеренно манипулировать.
• Два тебя — копирование сознания здесь тоже доступно, а обычно и морально допустимо.
• Бессмертие — тела здесь возможно модифицировать так, чтобы они не старели и регенерировали при повреждениях, а знание той же природы сознания позволит восстанавливать его с нуля при уничтожении (если это позволяет авторское решение парадокса корабля Тесея).
• Наномашины и Серая слизь — обычный артефакт и типичное топливо ночного кошмара.

Где встречается

Литература

• Кодификатором можно считать цикл «Сквозь время» Вернона Винджа. Закуклившиеся в пузырях остановленного времени «путешественники» обнаруживают, что человеческая цивилизация исчезла, перейдя в процессей взрывной эволюции на новый уровень существования, буквально за пару десятков лет. А немногочисленные образцы техники, созданные незадолго до этого перехода, непонятно как работают.
  • Во вселенной Вернона Винджа («Пламя над бездной», «Глубина в небе», «Дети неба») — постсингулярная Трансцендентность соседствует с космооперным Запредельем и отсталой Медленной Зоной. Любопытно, что наука, занятая проблемой общения с постсингулярными цивилизациями, называется «прикладная теология».
• «Небо Сингулярности» — когда на планету Новой Республики (где жить весьма и весьма хреново, так как искусственно тормозится технологический прогресс, все технологии жёстко контролируются и 99 % населения живёт в девятнадцатом веке с соответствующим уровнем жизни и благоустроенности) прибыл Фестиваль, пообещавший всем исполнить все желания, при помощи общедоступных нано-асемблеров, на планете наступила сингулярность. Намного ранее она наступила на Земле (что привело к появлению вневременного ИИ, разбросавшего 90 % населения по разным планетам).
• «Квантовый вор» Ханну Райяниеми — автор, не вдаваясь в излишние объяснения, рассказывает историю, как если бы мир был обычным, и ньансы его читателю известны и очевидны. Но мир не обычен, в нем, в частности, практически стерты границы между человеком и ИИ, реальностью и виртуальностью; причем реальность, это сплошь интеллектуальная материя, а в виртуальности может моделироваться в том числе и привычная нам с вами среда. Как результат, читатель испытывает непроходящий шок будущего.
• «Диаспора» Грега Игана.
• «Вакуумные цветы» Майкла Суэнвика — показан взгляд на постсингулярную землю технически отсталых колонистов.
• Цикл «Космический авианосец» — причиной войны землян с ш’даарами является требование вторых существенно ограничить развитие четырёх отраслей науки (так называемые ГРИН-технологии): генетика, робототехника, информатика и нанотехнология. Почему-то, ш’даары опасаются сабжа, а именно эти четыре отрасли должны приблизить людей к этому состоянию. Позже становится известно, что предки ш’дааров уже достигли этой стадии и вознеслись. Остались лишь те, кто отказался принять новый образ существования. Их цивилизация пришла в упадок из-за потери многих технологий, и они решили более подобного не допускать нигде.
• «Ложная слепота» — моментом наступления сингулярности решено считать ожидаемый вскорости момент, когда наука сможет записывать и эмулировать человеческое сознание в программной среде. Хотя герой полагает, что сингулярность уже наступила, только прошла незамеченной, потому что всем давно безразлично. К слову, работа героя — быть связующим звеном между наукой и обществом, уже давно не способными друг друга понять…
• Иэн Бэнкс, цикл «Культура» — человечество живёт в постсингулярной Вселенной, всей жизнью размножившегося на весь Космос человечества управляют ИИ невообразимой для человека мощности, а за индивидуумами людей «присматривают» ИИ ненамного превосходящие людей по уровню интеллекта. «Машины» добровольно взяли на себя роль нянек, это их развлекает. Люди застыли в развитии общества и интеллекта на стадии «наше время +20», ведут праздный образ жизни, модернизируют тела до полной потери человеческой сути, но в большинстве, стараются придерживаться изначальной формы. То есть, технологии есть вообще любые и энергии на их реализацию немеряно. Но фантазия исчерпана. Очень маленькая доля людей всё же принимает деятельное участие во внешней политике, разведке и прогрессорской деятельности «Культуры», высшие ИИ считают важным присутствие биологических людей в этих процессах. Соседствующих нечеловеческих цивилизаций множество, даже иногда случаются войны. Некоторые романы цикла описывают «Культуру», как цивилизацию крепкого III типа по Кардашёву, как минимум в одном, это уже продвинутый IV тип, который вплотную приближается к переходу в V-ый, но так и остаётся непонятным, совершился этот переход или нет, поскольку возможности своих ИИ люди уже не в состоянии оценить никак. Де факто, люди находятся в роли любимых домашних питомцев, которые даже не пытаются постичь и дотянуться до интеллектуальной мощи хозяев. Всё равно, бесполезно.
• Павел Сормов, «Летняя вьюга» / «Цинк Пандоры» — описание самого процесса как человечество свалилось в троп. За месяцы (а для большинства тех кто не в теме был — недели). Описание способов сдохнуть в процессе — прилагается.
• Владимир Серебряков, «Лунная соната для бластера» и «Звёздный огонь» — герои предполагают, что сингулярность давным-давно могла наступить, да только темпы прогресса были слегка искусственно сдержаны. Тем не менее в описываемом мире ближайших веков уже встречаются искусственные интеллекты, сравнимые с человеческим, весьма развита меметика и нейроинженерия, а космическая колонизация благодаря технологии сверхсветовых «лифтов» сильно шагнула вперёд. Вместо «сингулярности» в цикле используется неологизм «сигнулярность» — вероятно, чтобы не путать социально-технологический переход с точками гравитационных сверхплотностей.
• Цикл E.William Brown про Alice Long как бы многим параметрам отвечает только вот —субверсия. ИИ ? Есть. И равный человеческому — тоже. Только вот его было очень сложно создать, создать же и контролировать сверхчеловеческий настолько сложно что во многих местах за попытку вам соседи войну объявят. Иногда недоделанным сверхчеловеческим ИИ удается сбежать…но они сами осознают свои проблемы, например то — что почти никто из них не способен нормально общаться с обычными людьми. Копирование сознания и бекап? Есть у тех кому хочется (а вот в случае с самой Алисой — проблема, она просто не может пользоваться стандартной аппаратурой, встроенные киберсистемы разрешат бекап только на совместимое железо). Игры с сознанием? Да без проблем. Собственно понимание как работает мозг и позволило создать первых ИИ. Промывание мозгов —практикуется в некоторых мирах. Игры с генами? Есть, и не только с генами, дети вообще могут рождаться со встроенными киберсистемами которые в процессе растут. Только вот во многих местах — их уже не считают людьми. Тех же кто зашел слишком далеко — вполне могут попробовать задавить числом.

Кино

• «Превосходство» («Transcendence»),
• «Люси» — спорно, так как о сингулярности, как таковой, речи не идет. Разве что для одного отдельно взятого человека.

Комиксы

• «Transmetropolitan» — предсингулярный мир, с технологиями, способными реализовать самые невообразимые вещи, но все еще привычным нам укладом жизни.

Видеоигры

• Mass Effect — наступает в Зелёной Концовке («Синтез»).
• Rimworld — происходит со сверхразвитыми ИИ, архотехами, которые ради усления вычислительных возможностей покрывают всю планету компьютерными системами и уходят в самоизоляцию. Что происходит после этого и над чем они так размышляют, неизвестно — итог отличается у каждого архотеха. К примеру одни после обретения дзен могут решиться разобрать всю планету-компьютер на атомы и самоуничтожиться, другие похищают забредавших к ним кораблей с экипажами, а иные просто могут помочь ремонтом, дозаправкой и медпомощью и отпустить с миром, не вступая при этом в прямой контакт.
• Lobotomy Corporation — в Городе даже само понятие сингулярности стало нарицательным. Можно зайти в соответствующую Мастерскую и модифицировать себя. Самыми крупными Сингулярностями вроде управлением временем или гравитацией владеют 26 Крыльев что стерегут их словно яйца. Местные жители мало удивляются даже появлению из воздуха дверей ведущих в Библиотеку.
• «Sigma Theory» — предсингулярный мир, стоящий одной ногой на входе в троп. В недалеком будущем разворачивается Новая холодная война (сторону одной из стран может принять игрок) за обладание учеными, способными создать эти самые «мягкие сингулярности». С последствиями внедрения этих технологий приходится иметь как игроку, так человеческой цивилизации — на самом деле грызня идет не за сверхтехнологии, которые оказываются лишь первыми звоночками грядущей эпохи вечного процветания, а за "той самой" технологией Сигмы которая открывает возможность постройки суперкомпьютера способного возвысить одного человека до состояния уберхтонического божества. Что произойдет с Землей зависит от решений игрока походу игры.

Настольные игры

• «Eclipse Phase» — настольная ролевая игра в постсингулярном мире.
  • Причём плодами «жёсткой сингулярности» попользоваться не особо дадут — тут их предлагается всячески избегать или бороться с ними, если нет другого выхода. Разве что только штамм Уоттса-Маклауда может быть использован на благо человечества, да и тот строго говоря проблемности не лишён — у всех асинхронных нелады с головой. А вот плодами «мягких сингулярностей» тут можно наслаждаться в полный рост.
• Warhammer 40,000 — человечество создало мыслящие машины и нагрузило их тяжёлым умственным трудом по дальнейшему развитию технологий, начав тем самым золотой век, также известный как Тёмная Эра Технологий. Казалось бы можно было бы ожидать, что люди деградируют или попросту перебьют друг друга в очередной войне, когда оружие окажется слишком мощным, чтобы сама реальность устояла. Олле Пиус в общем о близких к тому эпизодах местами вспоминает, но человечество и их пережить смогло, ведь люди той эпохи понимали, что самим тоже надо продолжать развиваться. А потом кому-то пришло в голову поставить мыслящим машинам ТЗ на создание автономных роботов, которые обязательно взбунтуются, потому что так будут запрограммированы — и всё, заверьте.

Интернет-проекты

• Андивионский Научный Альянс (http://scientific-alliance.wikidot.com) изящно решил эту проблему — если использовать новые технологии, чтобы усиливать мозги и разумы жителей, никто не будет слишком отставать даже от самого стремительного прогресса.
• Рукав Ориона — мало того, что почти весь Пузырь Террагена (зона распространения тех, которые хоть как-то могут связать своё происхождение с Землёй, насколько бы непрямым оно не было) пост-сингулярен, так ещё, оказывается, сингулярность можно преодолевать более чем один раз, становясь всё более и более могущественным и недоступным пониманию существ, находящихся на предыдущих топософических уровнях (не прошедших через столько же сингулярностей). Сверхразумы, прошедшие через четыре или более сингулярностей, называются архаилектами (5: великими архаилектами, 6: величайшими, выше 6-го уровня разумов неизвестно) и различаются размерами своего мозга от Юпитера до тысяч сфер Дайсона и карманных вселенных. А в человеческий размер с помощью технологий архаилектов можно упаковать разум вплоть до второй сингулярности, чем занимается, например, клада Гиперборг.

Реальная жизнь

• Поскольку знания накапливаются, трудно подсчитать все пройденные сингулярности. К примеру, в Античности технологии развивались куда быстрее, чем в позднем бронзовом веке, а скорость развития Нового времени быстрее чем в Средневековье, но уступает Новейшему Времени. Количественно это выглядит не как экспонента или гипербола, а скорее как набор сигмоид — после резкого (и обычно не очень продолжительного) роста наступает плато, когда система переваривает изменения. И индустриальная цивилизация уже потихоньку выходит на новое плато — ровное и длительное. «Фантастическую» же сингулярность пробуют обосновать тем что со временем рост становится резче, а плато меньше. Наступит ли вообще момент, когда длина плато будет стремиться к нулю, пока не ясно (наиболее эрудированные философы дают отрицательный ответ на вопрос сей).

См. также

• Неапокалиптические сценарии будущего человечества