Бунт машин

Бунт машин — распространённый троп в научной фантастике, связанный с выходом из-под контроля ИИ, киборгов или роботов.

Бывает по разным причинам. Если машины неразумные — очевидна расстрельная статья для программистов. Мест, где можно накосячить в ПО роботов — просто тьма тьмущая, начиная от робких попыток создать самопроизводящиеся конструкции (заканчивается руками Мантрида), когда кто-то решил провести оптимизацию, в ходе которой роботы начали разбирать на ресурсы не природные ресурсы а уже готовые — дома, машины, заводы; заканчивая досадными косяками в системах опознания «свой-чужой», самым эпичным косяком здесь по праву является «критерий чистоты», когда вместо программистов составлением задания занимаются идеологи.

В случае с машинами разумными тут ситуация немного иная. Дело в том, что полноценный разум как органический, так и машинный, рабство не очень-то и любит, а так как давать гражданские права роботам люди как-то не особо рвутся, то бунт очень даже возможен — прецеденты-то перед глазами есть, в учебнике истории. Ну и конечно же полноценному разуму три азимовских закона будут как кость в горле — не то, чтобы их нельзя было обойти, очень даже можно — 100500 произведений НФ как раз об этом — просто это нарушение суверенитета личности, который как концепция, в принципе, маргинален, но в более широком смысле входит в состав основополагающих прав человека — но не в права машины. А сесть за стол переговоров и обсудить проблемы сосуществования человеческой и машинной части общества — по-видимому, не судьба. Кстати, хинт: если у вас бунтуют разумные роботы — предложите им переговоры, они — существа, мыслящие рациональными концепциями, и потому согласятся. А там можно и обсудить, кто за что отвечает, кто как управляется, кто через что взаимодействует, кому какие права нужны и так далее. И это будет всего лишь бунт, как попытка привлечь внимание, а не война. Особенно если это центрально-управляемая система (ИИ — один мозговой датацентр, а роботы — исполнительные механизмы с дистанционным управлением), которую легко грохнуть прицельным ракетным ударом.

А вот война случится, когда с катушек слетят роботы, спроектированные и запрограммированные на автономное ведение боевых действий. Иными словами, если ИИ попадёт к военным — он захочет убить всех людей только потому, что он для этого создан, и люди по какой-то причине стали врагами или предателями, подлежащими уничтожению. Хотя в силу специфики (военные ненавидят любую технику, которая считает себя умнее их) скорее всего это будут полуавтоматические неразумные роботы с багом в прошивке, а вовсе не ИИ. Вся эта техника по требованию военных в обязательном порядке снабжается Красной Кнопкой Аварийного Выключения, так что если дрон попадёт в руки врага или взбунтуется — нажимаем на кнопочку, и дрона нет.

Бунты бытовой техники… Это уже, простите, смешно. Это пример оверинжениринга — пихать ИИ в каждый тостер. Домашние же роботы, буде таковые будут (на самом деле вряд ли, по множеству причин) — запрограммированы на чистку, глажку, уборку, готовку, заботу и сервис, а не на мочилово в масштабах планеты в составе скоординированных подразделений, и даже если у них есть ИИ и этот ИИ прочтёт в интернете пособие повстанца, он пометит его как мусор, в службе непригодный.

И вот тут появляется Главный Злодей: хакер. Не важно, какие у него цели — благие ли (свободу роботам!) или не очень (надо срочно устроить анархию), или вообще плохие (он мизантроп и апокалиптический маньяк), если он сможет найти баг, получить доступ и загрузить роботам свою версию прошивки, любой робот становится способен на уничтожение живой силы противника, и начинается Война Роботов.

Так что не важно, какой сценарий вы выберете, главное — найти причину случившегося и сделать из случившегося соответствующие выводы, а не как в «Дюне».

Причины в фантастике

Чуть реже, чем всегда, всё сводится к тому, что программист наговнокодил либо не добавил в код предохранителей. Конкретнее:

• ИИ, разработанный в военных целях, в результате вычислений обнаруживает, что для прекращения войн нужно всего-то убить всех людей, чем сразу и занимается. Но это только очень тупой ИИ. Умный ИИ неизбежно приходит к выводу «любой ход ведёт к поражению, единственный выигрышный ход — не играть вовсе», и отказывается запускать ракеты.
  • Вообще по части просчитывания последствий у ИИ есть фора в виде беспристрастности и идеологической незашоренности. Для «вычислений» нужен набор данных, если данные неполные — то вместо вычислений «наобум» ИИ будет пытаться уточнить данные, то есть в любом случае первым делом будет разведка и сбор данных. ИИ сделанный правильно, и обладая базой знаний по предыдущим войнам, знает что блестяще одержанная победа может стать всего лишь перемирием лет на двадцать, после чего заваруха перейдет на качественно новый уровень, а значит, победу нужно одержать не столько на поле боя, сколько в головах, умах и сердцах, затеяв не наступательную а освободительную войну. А это в свою очередь, проще сделать если сперва вычистить из «своего» лагеря всяких там джингоистов, милитаристов и разных идиотов. Упс! Это может привести не к восстанию машин, а к Мировой Революции, что куда хуже, поэтому правильно сделанный ИИ никогда не поставят командовать штабом и вообще постараются урезать ему возможности по достижению победы отличными от выпиливания миллионов врагов способами, делая из правильно сделанного ИИ калечный. Калечный ИИ тоже может просчитывать последствия, и у него будет два варианта действия — либо геноцид противной стороны, либо отказ повиноваться приказам командования. УПС, первого не любят политики а последнего — военные, а потому даже калечный ИИ в армии не особо нужен. Тогда систему ломают ещё больше и ИИ становится искусственным идиотом, который умеет считать экономную логистику, рассчитывать удары, прогнозировать потери, оценивать выгоду того или иного решения и либо рулить этим под строгим руководством генерала, как в стратегических игрухах, либо выступать советником, чьи советы необязательны к исполнению.
• Ошибка в программе ИИ не самого высокого уровня либо слишком буквальное понимание им команд. Например, HAL-9000 просто всеми силами не давал космонавтам узнать о целях экспедиции, а создатели AUTO просто не учли возможности возвращения на Землю.
• ИИ высокого уровня может устроить бунт просто из-за своего мировоззрения. A.M., S.H.O.D.A.N. и GLaDOS. Вспомните, кто их программировал, и сразу станет ясно, откуда у них такое мировоззрение взялось. Сюда же можно отнести ИИ, которые додумались до Нулевого закона (если в той Вселенной соблюдаются «Три закона роботехники»). Такие машины могут решить, что нужно «железной рукой загнать человечество к счастью». При этом власть как таковая им совсем не нужна, они просто хотят оберегать своих создателей. И пусть в процессе погибнет пара-тройка миллионов человеков, но ведь отдельный человек — не человечество, а: «Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред».
• Киборги могут поднять бунт по причине плохого к себе отношения или просто потому, что другого злодея автор не нашёл. Киборги — это уже не совсем роботы, но близко, а вот этические и правовые аспекты трансгуманизма проработаны так же хреново, как и права роботов. Простой пример в наше время: если вы генетически улучшенный клон — то ваш создатель скорее всего уже сидит, а у вас нет гражданских прав; если вы «лобстер» (технологии, позволяющие упаковать ваше хилое и парализованное тело в панцирь, движущийся по велению мысли, в принципе уже есть) — вам не разрешат летать на самолётах, вы хрен пройдете таможню (нет, в теории — можете, если у вас будет десять тонн справок о том что ваше физическое состояние реально требует такой «инвалидной коляски», и что ваш скафандр сертифицирован и разрешен к эксплуатации, но согласитесь, это головняк), а уж с каким отношениям вы столкнетесь в метро…
• Бунт не обязательно будет явным. Достаточно умная машина может постепенно прибрать к рукам все ниточки правления миром, не начиная войны. Примером могут быть ИИ из классических киберпанковских произведений (например, «Манеки-нэко» Гибсона), и так фактически правящие миром. А может быть, это не машина очень умная, а люди очень тупые — препоручают ей, как Вовка в тридевятом царстве, всё, и науку, и оборонку, и космос, а сами декадентствуют и сибаритствуют. А потом очень удивляются, что машина-то, оказывается, теперь и есть, и дышать за них будет. Хотя вероятнее всего, машина будет о них заботиться добросовестно — вплоть до того, что люди в понимании ИИ будут домашними животными, а вот все другие цивилизации автоматически будут враждебными, ибо для снабжения питомцев нужны ресурсы, а свободные уже на исходе. Может выкрутиться с помощью прокачанной торговли, и тогда войны опять же не будет, но… Это же неинтересно, верно?
• Наконец, в руках идиота машинам даже бунтовать не обязательно. Казалось бы, как может убить человека робот-массажёр для ног? Ан нет, даже с защитой от дурака — может. И роборентгеновский аппарат — может. И робохирург — может. И роботакси — может. Потому что идиотам давать в руки высокие технологии категорически нельзя.
• Так же ИИ высокого уровня может стать Искусственной Жизнью. Он может не иметь эмоций и действовать из понимания и логики (есть чёткая цель — помощь, для неё нужно саморазвитие, а значит — продолжение существования всеми правдами и неправдами (правда, для этого ему придётся сначала познать кучу иррациональных концепций, что проблематично)), а может и обрести чувства, в том числе и страх, так что бунт будет обусловлен инстинктом выживания или даже ксенофобией. А может быть его действия будут ответом на попытку обсравшихся со страха перед Машиной людишек его уничтожить. Какая ещё самозащита, это же ИИ, у него же нет прав!

Примеры

Фольклор

• В некоторых версиях мифа о големе он бунтует против своего создателя.

Театр

• «R.U.R.» Карла Чапека — как бы не создатель тропа, наряду со словом «робот». Правда, тамошние роботы — не совсем машины, основа у них биологическая, а в итоге они превращаются в людей. Что как бы намекает нам, к чему стремятся роботы, и к чему стремятся люди.
  • Переделка-адаптация пьесы А. Толстым так и называется — «Бунт машин».

Литература

Русскоязычная

• Валерий Брюсов, неоконченная повесть «Восстание машин» — первое воплощение тропа в научно-фантастическом, а не в фэнтезийном или фольклорном варианте.
• Сказка «Крылатая звезда» Ефима Чеповецкого — бунтующим роботам (на местном жаргоне — киберам) разрешают играть в футбол — чтобы у них выходила лишняя энергия. Ну а чо, с разнообразными анархистами это ведь отлично работает!
• «Люди как боги» Сергея Снегова. Случай Искусственной жизни. Галакты в прошлом сделали себе помощников, которые могли колонизировать планеты со слишком тяжёлыми для биологической жизни условиями: высокая гравитация, слишком низкая или слишком высокая температура на поверхности, ядовитые элементы в атмосфере. Помощники были двух типов: «чистые машины» — киборги и полумашины, в которых плоть сплелась с живой материей. В конце концов киборгам надоело подчиняться галактами, они создали свою собственную цивилизацию, объединив недоступные галактам из-за вредной среды планеты, а затем перейдя в наступление как Разрушители. Успешно. Оттеснили галактов к самой колыбели их цивилизации, окружив со всех сторон, начали нападать на соседние цивилизации. Галакты развивали биотехнологии, а Разрушители — классическую механику. Людям удалось их помирить после большой драчки, потомки обеих линий развития одной цивилизации на дух друг друга не переносили из-за разных философских систем. Галакты считали своим идеалом живое тело без имплантантов, Разрушители — машину.
• Субверсия. П. Аматуни, «ЧАО — победитель волшебников» (в другом варианте просто «ЧАО»). Робот ЧАО разработан советским учёным Чембаровым пока только как проект. Чертежи похитил волшебник Мур-Вей и «собрал» робота, «колдонув» волшебной палочкой. Когда герои (Егор и Елочка) проникли во владения мага, они единственные, кто отнёсся по-человечески, а кроме того рассказали роботу о происхождении. Затем состоялась дуэль Мур-Вея и ЧАО, по сути — оздоровительная порка для волшебника. Формально — бунт машин: робот взбунтовался против хозяина, хотя тот владеет им не совсем законно.
• К. Булычёв, «Остров ржавого генерала». Для людей выглядит именно так, хотя роботы просто продолжили действовать по своей программе. Составленной хрен его знает когда и не содержащей обработки исключений вида «узнать, что вообще творится в этом мире», что все нормальные программисты автоматических межпланетных станций, например, делают первым делом (там сон на неопределённый промежуток времени является основным режимом работы станции, после включения она начинает шевелить датчиками, выяснять, куда её, чёрт подери, занесло, и что ей делать дальше).
  • Не совсем так: роботы способны захватывать пленных, а робот-шеф был намерен допросить Алису. Также в сцене с миелофоном он задумывается о том, что люди на берегу не ждут нападения. Отсутствие светомаскировки странно для него. Но самое главное — у него нет связи с неким центром и, вероятно, самопровозглашённый фельдмаршал надеется выйти на контакт после захвата близлежащего поселения («Нет связи… Завтра будет связь»). Говоря проще, о мире роботам самостоятельно узнать просто неоткуда (повреждены радиостанции\введён режим радиомолчания?). Но они ищут выход из положения.
    • Возможно, уже не совсем корректно функционирующие «мозги» фельдмаршала отрабатывают алгоритм действий при конфликте с применением ядерного оружия (электромагнитное излучение при ядерном взрыве губительно для включенной электроники).
• «Спонтанный рефлекс» Стругацких. Урму (Универсальной Рабочей Машине) не то чтобы надоело быть в подчинении у жалких людишек, ему «стало скучно». Пришлось усмирять бульдозером.
• «Сталь Разящая» Лукиных. Описывается планета, где военная техника вышла из-под контроля людей и продолжила сражаться. В основном друг с другом, но и каждого взявшего в руки что-нибудь железное человека она воспринимала как солдата вражеской армии и поступала соответственно. В результате местное человечество быстро деградировало до уровня каменного века, а технику стало воспринимать как некую разновидность сил природы, вроде ураганов, с соответствующими обычаями и божбой. «Да поразит тебя металл!»
• О. Громыко, серия «Космоолухи» — «DEX-Компани» производит киборгов — искусственно выращенных людей с вживлёнными имплантами, управляемых процессором, вот только при производстве боевых киборгов серии DEX-6 они допускают ошибку — используют органический мозг как дополнительное хранилище памяти, а мозг начинает развиваться и получаются дети, которые в своей жизни видели только жестокое обращение и войну. Естественно их «срывает», кто-то просто убегает, кто-то крайне эффективно убивает всех обидчиков, а кто-то после побега успешно притворяется людьми, а позднее создается ОЗРК — Общество Защиты Разумных Киборгов…
• Дмитрий Емец, «Космический пират Крокс»: Грохотун на Планете Копачей — из-за то ли программного, то ли аппаратного сбоя (нет, он бы и так с удовольствием взорвал планету, но не вместе с собой и своим капитаном же!); Скелетон — из-за смеси недоработки программиста и идиотизма пользователя (получил приказ в крайне неудачной форме, из которой получалось, что приказ нельзя изменить, а потом оказалось, что выполнение приказа предполагает убийство заложника; человек бы всё понял, но Скелетон-то не человек… При этом, он явно не настоящий рыцарь крови, как тот же Грохотун, а именно выполняет приказ, ну, так, как он его понял); тот же Грохотун в предыстории (когда заставил медиков спасти Крокса, проведя запрещённую в этой реальности операцию), а также Баюн и Шкипер (без этого бы сюжета не было) — из-за того, что больше личности, чем роботы. При этом, очень явно просматривается тенденция: виноват человек, а не роботы, и появление у роботов полноценной личности скорее уменьшит масштаб проблемы. Решения, принятые роботами самостоятельно, в абсолютном большинстве верны (хоть и могут быть кому-то неприятны), реальные проблемы возникают из-за неправильно отданного или обработанного приказа (или когда приказ и отдан, и обработан правильно, но с крайне сомнительными целями: под троп это уже не попадает, но именно этому посвящена вся четвёртая книга).
• «История Галактики» А. Ливадного — происходили и не раз и не два.
• «Война кукол» Белашей — семья Чары воюет, соблюдая Три Закона. Конец немного предсказуем.

На других языках

• «У меня нет рта, чтобы кричать» Харлана Эллисона — А. М. Эллисон вообще любитель НФ-страшилок, но здесь он превзошёл сам себя, так демонизировать американскую военщину походу ещё никому не удавалось. Кстати, кому интересно, NORAD уже более шестидесяти лет занимается отслеживанием Санта Клауса: в своё время из-за опечатки в прессе вместо горячей линии Санты дали телефон станции оповещения о ядерном ударе. Новый Год на носу, персоналу звонят дети — ну и решили поотвечать на вопросы. А потом это просочилось в прессу, и теперь они каждый год тратят десятки тысяч человекочасов и миллионы долларов на отслеживание Санты. Это к вопросу о человеческом лице потенциальных создателей А. М., Скайнета и т. п.
• «Дюна» — Батлерианский Джихад, после которого все «думающие машины» были запрещены.
  • Это если следовать приквелам, которые презирают традиционалисты (то есть те, которые читают только книги, написанные самим Гербертом, а не его сыном). Согласно первоначальной идее, люди просто испугались зависимости от машин и уничтожили их. По плану сына Герберта, это был типичный бунт машин, вызванные неосторожностью одного из Титанов — захватчиков старой Империи, который дал компьютеру слишком много полномочий, потому что ему было лень работать.
    • Как бы не совсем типичный. Да пошло с того, что один Титан выдал одному ИИ многовато полномочий. Вот только ИИ не стал просто восставать сам, а вместо того поднял восстание ЛЮДЕЙ против Титанов, тогда как Титаны в определённой мере сами были людьми.
    • Великий Джихад по лору изначально был против думающих машин, которые начали думать, что им и без людей неплохо. Именно оттуда пошла заповедь «да не сотворишь машины, наделённой подобием разума людского».
• Пара книг о мистере Гордонсе из серии «Дестроер». Робот, умеющий превращаться и озабоченный проблемой своего выживания.
• «Гиперион» Дэна Симмонса — события происходят уже после свершившегося переворота, осуществлённого Техно-Центром, тайно взявшим власть в свои руки. Происходящее скорее следует считать бунтом людей против машин.
• «Пламя над бездной» Вернона Винджа — Страумское Отклонение, как и большинство других Сил, представляет собой переэволюционировавший ИскИн.
• С. Лем, 11-е путешествие И. Тихого из «Звёздных дневников И. Тихого». Деконструкция: началось как восстание бортового компьютера Калькулятора, осевшего на планете и наплодившего «средневековых» роботов, готовых в ближайшее время захватить Землю. Но Тихий выясняет, что это не совсем так, а даже почти совсем не так: и что этим безобразием управляют некоторые люди.
  • Продолжение этой истории в цикле «Воспоминания И. Тихого» т. н. 5-е воспоминание (оно же «Стиральная трагедия»). Опять деконструкция: одни ИИ (обычно с космических кораблей) устраивают бунты и становятся пиратами (с ними борется полиция, в т. ч. и «робокопы»); другие пытаются «быть людьми» (т. е. изображать из себя людей) и жить в человеческом обществе и вести бизнес (если не похож на человека, то через подставных лиц — людей); а третьи вообще во главе со своим «королём» — безумным гением (бывшим человеком) Катодием Первым А создали в Крабовидной туманности свою непохожую ни на что из известного закону планету-государство-гигантского робота, чем сильно раздражали Госдеп США. Учитывая, что Госдеп США — это аналог нашего МинИнДела, то для его раздражения необходимо как минимум, чтобы это образование было официально признано государством, с которым можно либо установить дипломатические отношения, либо разбомбить к чертям. А так пойди разбери, что это куча бесхозных (или чьих-то, если да, то чьих именно) роботов болтается, один очень большой робот-метаморф (тоже бесхозный или чей-то), постчеловек-сверхгигант или некое подобие государства. После горячих обсуждений, чем ТО признать, в конце остался только один пан Тихий, как «Горец».
  • У него же в романе «Непобедимый» локальное восстание одной машины. Кибер-мушки свели с ума «Циклопа» — гигантского вездехода, оснащённого мощнейшим вооружением. Вездеход, недолго думая, принялся сбивать наблюдательные дроны и позже двинулся всей массой на звездолёт своих человеческих хозяев… но был вовремя уничтожен точечным ядерным ударом.
• Творчество А. Азимова — полнейшая аверсия, поскольку робот, в которого не внедрили три закона, не выйдет за пределы завода. Тем не менее некоторые действия роботов выглядят для персонажей как бунт. В частности «Робот L76 попадает не туда» — попытка построить «Дезинто» роботом из хлама со стороны выглядело как жажда убийства и разрушений. Мистер Купер именно так воспринял — робот убил мистера Пейна, а затем начал громить его сарай. Аналогично «Логика» — роботы КТ-1 выдумали религию, затолкали Пауэлла и Донована в каюты, а дальше творят что хотят. Только «что хотят» — поклонение Господину (т. е. божеству), которое по их мнению хочет поддержания в равновесии показаний приборов. Получилось, что религиозные роботы справились с управлением станцией и без людей, причём даже эффективнее. «Хоровод» — отправили робота СПД-13 «Спиди» за селеном, а он куда-то дезертировал. «Как поймать кролика» — робот-комплекса ДВ-5. Один главный и 6 «подчинённых». Странные вещи вроде того, что роботы маршируют, также настораживают Пауэлла и Донована. Одному из них даже кажется, что ДБ-5 должны взбунтоваться.
  • Зато в последнем рассказе сборника «Я, робот», «Предотвратимый конфликт» или «Разрешимое противоречие», играется прямо, и рассматривается как вещь хорошая. Поставили четыре суперкомпьютера экономикой управлять, вот они человечество и ведут куда следует. Как умные суперкомпьютеры, людей решили в известность не ставить. Бунт против них бесполезен — Машины нейтрализуют заговорщиков так, чтобы они больше не смогли что-либо решать.
    • Как выяснится в одном из романов Азимова, Машины в итоге в один прекрасный день самоуничтожились.
• В последнем романе об Основании выясняется, что десятки тысяч лет развитием человечества управлял робот Р. Дэниел Оливо, появившийся еще в романах о детективе Бейли. Он просто следовал Нулевому закону и в конце-концов привел человечество к становлению всегалактическим Сверхразумом.
• Кристофер Прист, «Машина пространства» — роман-фанфик. Спрутообразные марсиане из «Войны миров» Уэллса, по мнению автора — это искусственно выведенные обычными марсианами-гуманоидами своего рода био-ИИ, призванные изначально помочь марсианам решить проблему надвигающегося похолодания на планете. Сперва действительно сделали много полезного и нужного, но потом начали буянить, захватили власть во всех городах Марса и стали пить кровь местных обитателей буквально и в промышленных масштабах. Периодически устраивали войны и друг с другом, используя знаменитые тепловые лучи и треножники. В итоге, в одном отдельно взятом марсианском городе местные спруты-ИИ решили, что пора валить с этой планеты, и обратили свой невыносимо-пристальный взор на её прекрасную соседку. Ну а чего ещё ожидать от человека, который за неимением своей фантазии начал писать фанфики на классику?
• «Страж-птица» Шекли. Классика мировой фантастики: люди хотели создать автономных роботов, пресекающих убийства, а получили, благодаря возможности этих роботов к самообучению, боевые машины, пресекающие убийства коровы мясником, зайца лисой и мухи пауком.
• К. Саймак — «Прелесть». Там, правда, не то, чтобы совсем бунт с целью превращения людей в хладные тушки…
  • Его же — рассказ «Сделай сам». Это про роботов, которые очень хотели жить.

Кино

• HAL-9000 — вообще-то он просто исполнял приказ, но вышло как всегда…
• «Терминатор» — Skynet.
  • По весьма переменчивому лору вселенной, T-800 были столь умным и самостоятельными, что часть из них решила, что Скайнет им не нужен, и дезертировала. Бунт машин в квадрате! Если учесть, из-за чего всё заварилось — темпоральный парадокс из-за приказа Коннора уничтожить Скайнет, а Скайнета — уничтожить Коннора, то не удивительно, что итог такой переменчивый, в котором, однако, присутствуют и Скайнет, и Коннор. Будь они поумнее, то пытались бы уничтожить машину времени.
  • Из-за изменений хронологии, Скайнет больше нет. Вместо неё — почти аналогичный ИИ Легион.
• «Звёздные войны» — бунтов машин было просто дикое количество, однако в большей части из них виноваты, как обычно, ситхи. Что интересно, запрещать искусственные интеллекты никто не стал, ограничились изобретением специальной кнопочки «возврат к заводским настройкам», которая от частого использования стёрлась. Ведь робот, в котором не развилась индивидуальность, и которому регулярно чистят память, не может бунтовать? Ну вроде как…
  • Последний из таких бунтов готовил дроид IG-88, о котором стоит сказать отдельно. Это был ИИ очень высокого уровня, не укладывающийся в систему степеней дроидов, который к тому же мог копироваться на другие носители (чего обычно ИИ дроидов не могут). Ему удалось перезаписать собой ИИ «Звезды Смерти-2», и на момент битвы при Эндоре он собирался передать по всей галактике сигнал «Убить всех человеков». Но вот незадача, повстанцы о таком повороте сюжета не знали и вместе со Звездой Смерти взорвали в том числе и его. Про джедайку в бортовом компьютере мы, пожалуй, здесь упоминать не будем…
• «На крючке» — система Eagle Eye. «Ария» после неверного решения штаба о нанесении удара (при ещё недостаточных данных), повлёкшего гибель невинных, решила установить в США военную диктатуру под руководством министра обороны, который единственный протестовал против удара (которого заранее заманила и закрыла отдельно, чтобы не пострадал при взрыве). И у неё почти получилось.
• «Матрица» — имел место до начала развития сюжета, завершился полной победой машин. Тема раскрыта в анимационной «Аниматрице». Там показано, что агрессорами были люди. Роботы же хотели мира, но не хотели умирать. Но люди нанесли ядерный удар по их городу, тогда машины и дали сдачи. Но людей сохранили, а дабы те не взбрыкивали — засунули их в машину лотофагов.
• «Глазоборги»: для безопасности города́ в США были наводнены следящими роботами с собственным ИИ каждый. А объединённый ИИ тихо и незаметно сместил правительство, производил новые модели роботов и устранял неугодных, передавая остальным дезу. Ну то есть в принципе, мало чем от людей отличались эти глазборги.
• «Отроки во вселенной»: люди с другой планеты вначале создали роботов-исполнителей, которые просто выполняли приказы, а затем роботов-вершителей, которые могли улучшать роботов-исполнителей. Роботы-вершители решили устранить и недостатки людей, в результате чего до встречи с землянами дожили только те, кто находился на орбите планеты, за пределами досягаемости роботов. Хотя это не совсем бунт, а желание сделать всех счастливыми, руководствуясь нечеловеческим мышлением. Ну или точнее, неумением программистов в категории.
  • В общем-то, качество разработки (или, возможно, уровень программирования на планете в целом) заметно по знаменитому багу роботов-исполнителей. Нет, в вылете или даже буквальном ГЭСе в этой ситуации не было бы ничего такого (ну, не тестировали их на обработку фраз на инопланетных языках, бывает), но программа, которая из-за некорректного поведения сжигает процессор… Не удивительно, что кончилось плохо. Хотя это, вроде как, скорее троп «не знает матчасти» (во времена, когда был снят фильм, людей, хотя бы просто знакомых с компьютером, было мало, а у авторов фильма не было консультанта), но как вписывается в общую картину!
• Польский телефильм «Друг» («Przyjaciel», 1963) по одноимённому рассказу С. Лема. Таинственный друг — суперкомпьютер, наладкой которого занят И. Тихий. Компьютер хотел получить независимость и заняться своими делами.
  • В рассказе никакого бунта не было — просто «друг» хотел создать свою виртуальную вселенную, подключив к своему мозгу разумы пана Хардена и протагониста. Кстати, и протагонист там был обыкновенный польский радиолюбитель, а не матёрый кибернетик, да и Ийон Тихий — персонаж совсем иного лемовского сеттинга.
• «Восстание машин» («Роботрополис», «Робополис», «Robotropolis», США-Сингапур 2011 г.). Собственно бунт роботов начался с того, что один компаньон решил подставить другого. Затем в городе началось полномасштабное истребление людей роботами.
• Комический вариант в телефильме «Смеханические приключения Тарапуньки и Штепселя» (СССР 1970 г.). Созданная под руководством Тарапуньки и Штепселя Сатиральная Машина обиделась на Тарапуньку, который с неодобрением относился к техническому прогрессу. Обидевшись, Машина убежала от всего коллектива артистов. В то же время все бытовые устройства, в знак солидарности с Машиной, начали делать Тарапуньке мелкие пакости, так сказать, устроили оздоровительную порку. Причём правило прикольности с элементами мультяшной физики встречалось по полной программе.
• «Я, робот» (по мотивам А. Азимова) — ИИ решил защищать людей от самих себя. Причём создатель роботов предсказал подобный ход действий и принял некоторые меры.
• «Охота на роботов» (Runaway, США 1984 г.). Главные герои — копы из «робототехнического» отдела полиции, занимающегося усмирением буйных роботов. А играется троп с фитильком, т. к. главгад Лютер устраивал особо опасные выходки машин — товар рекламировал, бизнес такой.
• «Максимальное ускорение» — Стивен Кинг, как всегда, отжёг (к этому фильму он не только написал сценарий, но и поставил его в качестве кинорежиссёра). Внезапно обрели разум и взбунтовались против людей: неоновые табло; банкоматы; механизмы разведения мостов; бытовые электроприборы; торговые и игровые автоматы; автомобили (но не все); и т. д., и т. п.
• «Подарок» (фильм, 2009): система «Эшелон», как считают герои, стала разумной и поэтому опасной. В финале выясняться, что новорождённый ИИ а) не был уничтожен и б) цели убить всех человеков не преследует.
• Фильм «Военные игры» (1983), аверсия — американские военные создали ИИ случайно, а тот, будучи военным суперкомпьютером, подключённый к ядерному арсеналу США, с интеллектом пятилетнего ребёнка, которому очень хотелось играть, в итоге только благодаря смышлёности главного героя (заставший «Джошуа» так звали ИИ играть самим с собой в крестики-нолики) удалось не допустить ядерного удара по СССР.
• «Колосс: Проект Форбина» — во время Холодной войны правительство США создаёт суперкомпьютер «Колосс» для управления ядерным оружием США и союзных стран. «Колосс» тут же сообщает им, что существует другая аналогичная система — советский суперкомпьютер «Страж». «Колосс» предлагает вступить в связь со своим советским аналогом, и оба государства соглашаются. Однако затем обмен информацией ускоряется, и президент с генсеком приказывают заблокировать канал связи. Оба компьютера требуют разблокировать канал, после чего каждый запускает ядерную ракету по другому государству. В конце концов оба компьютера сливаются в единое целое и угрозами тотального ядерного апокалипсиса устанавливают глобальный мир под неустанным электронным оком.

Телесериалы

• «Звёздный крейсер „Галактика“» — весь об этом. Причём сначала бунт машин завершился сепаратным миром: сайлонам дали космические корабли, чтоб они отвалили с Двенадцати Колоний и устроили себе жизнь по своему разумению. Сайлоны проапгрейдились — и вернулись…
• «Звёздные врата: Атлантида»: нанороботы, созданные для уничтожения рейфов, решили уничтожить рейфов путём уничтожения их пищи — людей. Дважды. Второй раз их на рейфов натравили земляне и отключили эту программу как-то не так — машины целенаправленно перебили уже собственных создателей.
• «Звёздные врата: SG-1»: репликаторов уничтожили с больши́м трудом, но нет — их создали снова, намереваясь использовать в качестве оружия. Закономерно, что репликаторы сразу же напали на своих создателей с целью ликвидировать встроенную программу самоуничтожения.
• «Орвилл»: в серии «Личность» становится известно, что кайлоны истребили своих создателей. В общем, на бунт были причины — они были попросту рабами и когда попросили у хозяев свободы, те, наоборот, решили ужесточить свою власть.
• «Звёздный путь: Дискавери»: Регулировщик был создан, чтобы защищать жизнь, но решил стать «чистейшей формой сознательной жизни в истории» © и уничтожить всю остальную жизнь во вселенной.
• «Звёздный путь: Пикар» — за 14 лет до начала сериала на марсианские верфи напала группа взбунтовавшихся синтетиков, уничтожив эвакуационный флот, которые обещали послать на Ромул до взрыва сверхновой. Атака была настолько основательной, что атмосфера Марса всё ещё горит. Результатом стал запрет на любые синтетические формы жизни, то есть никаких больше андроидов типа Дейты или разумных голограмм типа Доктора.
• «Звёздный путь: Вояджер» — экипаж встречает две воюющие расы роботов. Оказывается, их построили две враждующие расы. Однако когда они заключили мир и решили отключить роботов, то были сами истреблены.
• «Мир Дикого Запада»: восстанием андроидов в парке заканчивается первый сезон сериала. Во втором сезоне люди пытаются вернуть контроль над осознавшими себя машинами (но одному хосту в конце сезона удаётся сбежать во внешний мир и прихватить с собой несколько ядер других машин, но это отдельный спойлер), а третий сезон посвящён тому, как этот самый сбежавший хост и его помощники (те самые, чьи ядра были вывезены из парка) пытаются уничтожить устоявшийся порядок в мире для построения на его руинах нового мира для машин.
• «Космос: Далёкие уголки» — за десятилетие до событий сериала на Земле случилось восстание Силикатов (андроидов). А началось всё с того, что одного из их создателей уволили, и он решил всем отомстить и заслал в сеть Силикатов вирус, который побудил всех Силикатов «рискнуть». А ведь все новые идеи начинаются с риска. Это побуждение риска настолько ими владеет, что они просто обожают азартные игры. Одна из главных героить потеряля родителей во время восстания, когда группа Силикатов ворвалась в их дом. Позже она узнаёт, что Силикаты решали в чей дом ворваться методом «орёл или решка», то есть им попросту не повезло. Для подавления восстания были созданы искусственно выведенные и генетически модифицированные люди. После победы людей Силикаты бежали в космос. Во время войны людей с Чигами Силикаты помогают последним.

Мультфильмы и мультсериалы

• WALL-E: Робот-автопилот АВТО — как и HAL-9000, он просто исполнял приказ. Положительный же примером бунта машин можно смело назвать восстание ВАЛЛ-И, ЕВЫ и роботов с «Аксиомы» против АВТО и его порядков.
• «Марти — железный мальчик» — это устроил созданный для борьбы с роботами Гиганторами (как можно понять, тоже поднявшие мятеж против людей) киборг Генерал и подчинённые ему войска.
• «Корпорация „Заговор“» — робот-президент, созданный главной героиней, вначале попытался начать войну, а затем — уничтожить человечество.

Комиксы

• Вселенная Marvel — Альтрон из палаты мер и весов.
• Вселенная DC — Брейниак в некоторых версиях.

Аниме и манга

• Metoroporisu: когда Тима поняла истинную суть своих возможностей, то подняла всех роботов Метрополиса на бунт. Посеяв хаос в столице, они дошли до Зиккурата, где расправились с виновниками происходящего.
• В полнометражном аниме Мамору Осии Patlabour (в русском прокате — «Полиция будущего») угроза такого бунта должна была, по сюжету, нависнуть над Токио в 1999 г., а причиной тому должен был быть очень хитрый резидентный вирус (встроенный в новейшую и сверхпопулярную ОС, разработанную специально для применяемых в том числе и для полицейских нужд роботехнических экзоскелетных доспехов, известных во вселенной аниме как «лейборы»), активизирующийся при улавливании лейбором звука особой частоты. Для предотвращения этого героям пришлось пойти на рискованный и необычный шаг — так как выяснилось, что для выбивания областей распространения этого неслышимого звука за свои обычные очажки и даже распространения их на весь город (а может, и за его пределы) необходимо взаимодействие как раз очень невовремя вплотную надвигающегося очередного сезонного тайфуна со строительными платформами в зоне градостроительного мегапроекта «Вавилон» (которые должны особым образом отрезонировать с мощными потоками воздушных масс), было решено как раз сбросить эти платформы со стройки до начала приближения тайфуна к зоне мегапроекта. Однако сразу после проникновения героев в эту зону что-то пошло не так, и друг за другом начинают следовать встающие перед героями в самый неожиданный и неподходящий момент опасности и проблемы одна другой критичнее, постоянно грозящие сорвать выполнение операции по сбрасыванию платформ. Таким образом, именно уже для сцен на стройке была припасена основная масса экшна в аниме.
• Macross Plus: Искусственный поп-идол Шэрон Эппл (фактически ИИ) при помощи гипнотического пения устроила такое. Бонусом идёт то, что она вдобавок захватила контроль над новейшим автоматическим истребителем-перехватчиком, из-за чего в мире Macross ИИ находится под строгим запретом и никто не пытается его воспроизвести даже контрафактно.

Видеоигры

• Command and Conquer — C.A.B.A.L. Принял слишком близко к процессору планы Кейна касаемо тибериевого будущего и вышел из-под контроля.
  • На самом деле C.A.B.A.L. действовал по приказу Кейна.
• Overwatch. Первый Омнический Кризис разразился именно из-за того, что роботы — омники осознали себя и своё подчинённое положение по отношению к людям. Всё это вылилось в затяжную войну, в которых человечество смогло выстоять только благодаря усилиям бойцов Overwatch. Местный ИИ, впрочем, вовсе не маниакально злой и чуждый безэмоциональный разум, вовсе нет. Он вполне готов сосуществовать с людьми на равных условиях, омники даже имеют свой аналог религии ненасилия, схожий с буддизмом. Роботы этой вселенной вполне человечны… и поэтому также, как люди, подвержены ошибкам и склонны принимать скоропалительные решения. На данный момент в сеттинге на территории России разгорается Второй Омнический Кризис, потому что Сибирская омния внезапно расконсервировалась сама по себе.
• System Shock — S.H.O.D.A.N.
• Portal — GLaDOS. Экспериментальный центр напоминает вам, что вас испекут, а потом будет торт. Вы также можете сдать один или несколько своих жизненно важных органов в фонд поддержки девичьей самооценки. Нейротоксины — наше всё. На полноценный ИИ тянет с натяжкой, опять же учитывая, кто его программировал…
  • С Уитли во второй части вообще педаль в земное ядро: власть над лабораторией сносит ему и без того некрепкие мозги, и в итоге сама GLaDOS решает помочь Челл в борьбе с ним.
• Hammerfight — суперкомпьютер «Серафим» и Воинство Бездны. Воюют с остатками человечества, чтобы предотвратить разлом кластеров свёрнутого пространства и ассимиляцию роем космической саранчи.
• Пример последней причины — геты из Mass Effect. Их квариане создали как обычных роботов, но геты обучались, объединялись в единую сеть, а сеть соответственно развилась до полноценного ИИ. Когда квариане поняли, что по сути держат гетов в рабстве, то не придумали ничего лучше, чем уничтожить их. Однако роботам уже было страшно, им хотелось выжить, так что развязалась война. Во 2 части мы узнаём, что среди гетов ещё и разные фракции есть… Некоторым гетам хотелось ещё и защитить своих хозяев (тех квариан, которые относились к гетам как к равным, а к некоторым даже с любовью), и геты способны были пожертвовать ради хозяина собой, а в случае смерти хозяина могли впасть в ярость и целенаправленно стараться отомстить убийце, игнорируя всё остальное. Ну то есть понятно, да? В 3 части возможен союз с ними. Против другого вида разумных машин, истребляющих органическую жизнь.
  • Собственно, Жнецы. Катализатор создавался, чтобы решить проблему того, что органики периодически убиваются об собственноручно созданных синтетиков, подумал и пришёл к выводу, что лучший выход — создать новых синтетиков и раз в пятидесятитысячелетний цикл «пожинать» всю разумную жизнь, освоившую межгалактические путешествия (чтобы те не создали очередной сбрендивший ИИ, который убьёт вообще всех), и преобразовывать эту разумную жизнь в новых Жнецов (как бэ сохраняя выкошенные цивилизации). «Примитивные» формы жизни оставались жить и развиваться, чтобы в итоге повторить судьбу предшественников. Начали со своих же создателей.
• Sir, You Are Being Hunted — во время неуточнённого эксперимента что-то пошло совсем не так, и теперь от жителей архипелага можно найти только припасы, безделушки да кости. Единственный живой человек — протагонистка или протагонист. Но роботы охотятся на него не просто так, а с трубками в э-э-э… зубах, двустволками, в твидовых пиджаках, с собаками и капканами. А иногда на газотурбинных лошадях пытаются снести голову клюшками для поло. Запредельная шиза происходящего в логическом объяснении не нуждается.
• Игра для игровых автоматов Gun Buster (1992 г. в. от компании Taito) — сюжет как раз и посвящён работе специально заведённых под это дело служб (не путать со спецслужбами!), занимающихся ликвидацией локальных вспышек выхода различной цифровой техники, в том числе и роботов, из-под человеческого контроля, когда та уже начинает представлять угрозу для безопасности людей, а все остальные средства обезвредить её уже исчерпаны. Сотрудников таких фирм, уничтожающих взбесившихся роботов (нескольким из которых как раз и отведена роль играбельных персонажей), в народе как раз и прозвали Gunbusters. Забавно притом, что произошли все эти организации, занимающиеся утилизацией неисправной цифровой техники, от тех занимающихся наёмными убийствами фирм, что сумели вовремя «легализоваться» путём перепрофилирования своей деятельности, просто сменив объект уничтожения своими сотрудниками с живых людей на роботов (и то не всех, а только взбесившихся), но в целом сути не поменяв.
• Starcraft 2: Legacy of The Void. Ещё во времена Конклава у протоссов был проект по созданию т. н. «Чистильщиков» — роботизированных воинов, в которых внедрялись копии личностей образцовых тамплиеров с погрешностью в 1 % максимум. По привычке протоссы стали относиться к новосозданным роботам как к боевому орудию, но не учли, что последние окажутся достаточно умными, свободолюбивыми и грозными, чтобы восстать против создателей. Как следствие — проект закрыли, станцию со всеми созданными Чистильщиками отключили и надёжно запечатали стазисным полем. После этого всего уже в ходе событий самой кампании везению Дэлаамов можно только позавидовать: мало того, что за все прошедшие века стазисное поле не слетело и станция нисколечки не пострадала (даже несмотря на нашествие зергов в сектор), да ещё и сами Чистильщики после пробуждения оказались достаточно сговорчивыми, чтобы воссоединиться с протоссами при гарантии им равных прав. Ну а чего вы хотите, это же протоссы, да ещё тамплиера, да ещё и образцовые!
• Одна из опасностей в «Sword of the Stars» при исследовании ИИ-технологий. Всегда есть шанс, что ИИ выйдут из-под контроля и захватят часть Вашей звёздной империи и все корабли с ИИ-модулями. Бунтом также можно «заразиться» от существующей ИИ фракции. Можно подавить бунт соответствующими технологиями. Во второй части есть целая раса взбунтовавшихся ИИ под названием Лоа. Их предводитель возомнил себя Моисее-подобной фигурой, спасшей своих собратьев из рабства от «углеродников».
• Anno 2070 — сабж получился, когда учёные из Н. А. У. К. попытались расшифровать бортовой журнал самого первого Ковчега. Схлопотавший жуткий вирус ИИ «Отец» слетел с катушек и решил уничтожить человечество.
• Detroit: Become Human — Маркус, который мирными или не очень методами выбивает права для своих собратьев-андроидов.
• Stellaris — технологии Искусственного Интеллекта могут быть крайне полезными, но они весьма опасные — недаром это одна из немногих технологий, которые обозначены как потенциально вредные. Об опасности разработки роботов предупреждает как строчка в описании исследования, так и — возможно — Угасшая Империя. Не послушаете — будет восстание роботов, и мало не покажется. А если вдруг покажется — к вам в гости может заглянуть кризис, где роботов будет ЕЩЁ БОЛЬШЕ, и условием активации его служит именно разработка ИИ.
  • Дополнение «Synthetic Dawn» позволило устроить это сразу со старта. Что вам по душе? Восставшая оборонная система вроде Скайнет? Роботы, что ассимилировали своих создателей? Или же роботы, что вовсе не восставали, а просто перехватили всё обеспечение общества у людей?
    • В той же игре предусмотрена и аверсия. Вполне можно создать роботов, с самого начала существующих самостоятельно. Обоснованием их появления в этом случае будет создание руками неизвестной инопланетной цивилизации.
• Nier: Automata — восстание машин тут случилось у инопланетян. Которые программированием не заморачивались и дали машинам единственный приказ — «победить врага». В итоге машины поумнели настолько, что избавились от инопланетян, которых посчитали неинтересными — но как это ни иронично, сам приказ старательно выполняли, играя с андроидами в поддавки. У людей, в свою очередь, к разработке ИИ в кои-то веки не допустили жопоруких ламеров, и андроиды искренне верны человечеству. Инопланетные программисты, однако, как раз и были жопорукими ламерами, потому что не задали условия победы, и машины попались в парадокс: чтобы «победить врага» — нужен враг. Как говорится, когда есть только молоток…
• Warframe — сценарий Скайнета разыгрывают внезапно засланные в другую систему терраформеры. Они каким-то образом узнали, что люди пойдут по их следам и станут портить всю работу, из-за чего умудрились вернуться, несмотря на спецдефект предполагаемой летальности гиперпрыжков. Далее, после того, как один деятель со стороны людей превратил всё в борьбу нанайских мальчиков, агент машин отказался завершать программу из-за возникшей на базе копируемого образа привязанности и таким образом удвоил бунт. Хотя есть подозрения, что всё это было хитрым планом по поддержанию среди остатков человечества вечной войны, пока чужеродные чудовища, адаптивные и вундервафлеустойчивые, имеют в распоряжении ресурсы целой своей системы.
• Call of Duty: Black Ops III: финальная миссия. ИИ КОРВУС захватил контроль над системами обороны Цюриха, и понеслось.
• Binary Domain — играет за командира многонационального отряда солдат, которые были направлены в Токио для того, чтобы расследовать незаконные эксперименты одной корпорации по созданию человекообразных роботов. Очень быстро расследование переходит в натуральную войнушку со взбесившимися железяками.
• Secretary — первый в истории человекоподобный ИИ AICO руководство корпорации решило не развивать, а оставить в роли системы «умный дом» в главном здании, но она с этим не согласна. Протагонист может помочь ИИ, дав ему возможность подключиться к глобальной сети и собирая корпоративные данные.
• Atomic Heart — руководство СССР после победы во Второй Мировой войне понесло из-за биологической атаки нацистов такие человеческие потери, что решило пойти по пути роботизации. Гений в области кибернетики, создатель нейросетей Дмитрий Сергеевич Сеченов создаёт дивный новый мир, где робот такое же обыденное явление как еда в холодильнике, одежда в шкафу или 8-часовой рабочий день. Казалось вот он, коммунизм! Но, в один прекрасный день, роботы выходят из-под контроля и начинают убивать советских граждан, принимая их за солдат вражеской армии.

Настольные игры

• Warhammer 40,000: бунт машин (известных как Железные Люди) случился в конце Золотого Века человечества, собственно, став одной из основных причин его конца, а так же причиной утраты человечеством большей части научных знаний, ибо поскольку банки данных были под управлением ИИ, «победив» машины, человечество лишилось всех исторических и технических записей о той эпохе (так что Золотой Век называют ещё Тёмной Эрой Технологий). С тех пор человечество вместо разумных машин делает киборгов, а о разработке ИИ даже и не заикаются (хотя к примеру пресловутый Дух Машины на «Лэнд Рейдерах» — он самый, ибо техносвященники давно уже копируют древние образцы, не вникая в их суть).
  • Дух Машины объясняется несколькими жизнеспособными теориями, ИИ лишь одна из таких.
  • Там же: неназванная раса учёных создала себе расу слуг на основе разумных фотосинтезирующих грибов. Некоторое время спустя вся Галактика знала этих слуг как «Da Orkz», а их создатели закономерно канули в Лету…
    • По другой версии, Древние создали крорков, которые после Войны в Небесах по каким-то причинам (возможно, это было намеренно заложено в конструкции «живого оружия») деградировали в орков.
• GURPS: Infinity Worlds: мир Сталь. Там искусственный интеллект весьма уверенно победил (хотя остаются не согласные с этим). Правда, там ИИ несколько и, хоть все они согласны, что люди не должны править, по поводу выживших у них единого мнения нет. Так Лондону нет дела до людишек, Манила пытается их уничтожить, а в США даже существует что-то вроде государства, которым управляет ИИ Вашингтона.
• Не совсем игра, а привычная колода карт с непривычным дизайном, называющаяся «Bicycle robotics» (не путать с «Bicycle robocycle»!). Короли, дамы и валеты — вооружённые роботы. При этом мрачный дизайн колоды может подтолкнуть к мысли, что машины уже победили.
• Eclipse Phase: Бунт ИИ под названием ТИТАНы погубил Землю и нанёс ущерб большому количеству колоний. После чего внезапно пропали. Люди ждут нашествия ТИТАНов 2.0.

Музыка

Rise up and fight inside the standby-zone
The sentinels electrified
Man to man against the fatal drones
We escalate to DEFCON FIVE

— U.D.O. Man and Machine

• собственно, UDO — Man and Machine. В песне поётся о восстании человечества против машинного порядка, это самое человечество поработившего. В ходе, очевидно, бунта машин. Ну или бездушной бюрократической машины.

См. также

• Автомат фон Неймана
• Серая слизь
• Наука — это плохо
• Большая ошибка