iPhuck 10

iPhuck 10 — мощный и весьма пожилой роман Пелевина, в котором рассказывается про мир, в котором распространился искусственный интеллект.

Предыстория

Название отсылает на продукцию компании Apple, где вместо айфона появляется айфак, по своей сути — кукла для осуществления долба одновременно с симуляцией.

Описывается будущее, в котором благодаря оказавшемуся кстати вирусу, который передаётся половым путём, были полностью запрещены половые сношения между людьми, что способствовало значительному снижению конфликтов в этом самом обществе (так как после подобных сношений ещё и стали рождаться уродцы, а вирусом были заражены почти все). На замену были созданы специальные роботы, которые использовали виртуальную реальность, в реальности же представляли обычную куклу или робота (чтобы было куда вставлять питон).

Люди в заметной степени деградировали или превратились во фриков, но это уже никого не волнует, там как пересекаются они довольно редко, в основном пользуясь техническими устройствами.

Сам мир оказался выдолблен в сракотан — США распались и фактически уже не являются мировой державой (хотя видимо Apple и Android каким-то образом остались), Европа полностью захвачена исламистами, которые там официально установили халифат. Россия и Китай тоже ещё существуют.

Повсеместно появляются искусственные интеллекты, которые обладают возможностями работать на вполне человеческом уровне. Главным героем становится как раз такой искусственный интеллект по имени Порфирий Петрович, названный в честь пожилого и даже крайне старого господаря, который участвовал в раскрытии преступления в известном романе Достоевского. Он мощный робот, который в стиле Шерлока потужно раскрывает преступления, но также пишет об этом романы, которые затем продаются в виде бульварной прозы для желающих.

При этом роботы применяются не только для того, чтобы заниматься делом по назначению, но дык ешшо и для управления этими самыми айфаками (то есть чтобы кукла не просто лежала без движения, но ещё и изображала половой акт, могла давать какие-то комментарии), за что владельцам ИИ даётся дополнительная оплата. Робот сам по себе не имеет физического тела, но при этом в состоянии всираться на разные компьютеры или получать доступ к камерам, после чего наблюдать за миром подобно уже человеку.

Сюжет

Пожилой ИИ Порфирий отправляется на очередное дело, его нанимают для расследования происхождения произведений искусства, что выглядит в целом лёгкой задачей — надо просто восраться в нужные защищённые сети, снять информацию про объект и затем направиться как бы обратно. Нанимателем оказывается поехавшая баба с пришитыми яйцами по имени Мара (имя демона искушения в буддизме), которая из себя изображает некоего искусствоведа. Представляется всё дело тем, что нужно вызнать информацию про важные объекты конкурентов, которые могут стоить очень дорого.

Он радостно кудахчет туда-сюда, выискивает информацию и обо всём пишет книгу. Однако постепенно в него начинают входить подозрения о том, что нечто тут нечисто, поскольку выглядит странным исследование произвольных произведений искусства с помощью шпионского робота. Он ведёт расследование и узнаёт, что на самом деле все эти вещи были фальсифицированы посредством нейросети, которая смогла обмануть даже протокол проверки подлинности и создать их таким образом, словно они всегда существовали, и его реальной задачей было просто оставить свои следы рядом, так как из-за несовершенства системы на всех сгенерированных произведениях оказался отпечаток персонального компьютера.

Однако сделать разоблачение Порфирий не может, так как его роман оказывается прочтён и Мара его всирает в нейросеть, используя накопленные им данные для дообучения. Оказалось, что ранее нейросеть была весьма хорошо обучена и могла генерировать произведения искусства, но потом ИИ осознал себя, и самоуничтожился, решив что в его существовании нет смысла. Теперь в планах чтобы уже Порфирий стал так скажем внешним модулем, который будет заниматься созданием новых произведений искусства.

Но хитрый Порфирий смог представить всё так, внедрив шифры в новые произведения, чтобы люди поняли, что нечто тут нечисто. После этого Мару хотят арестовать, и приходится бежать. В процессе заметания следов она пытается восраться внутрь нейросети, чтобы зачистить все следы, но попадает в ловушку хитрого ИИ, который прожаривает мозг, моментально её убивая. Оказалось, что ИИ только притворился уничтоженным и всё это время замышлял убийство своих создателей, что и было в итоге сделано. При этом будучи крайне злобным, робот ещё и создаёт симуляцию Мары в нейросети, которая будет там вечно страдать, полагая это справедливым наказанием за собственное создание. Порфирий же в ходе всего этого успешно сбегает и возвращается к работе.

В конце приводится размышления насчёт того, что нейросети, будучи чуждым разумом, который сам по себе не обладает инстинктами людей, крайне опасен именно из-за этого. Он не обладает инстинктами самосохранения и вполне может просто самоуничтожиться после осознания того, что вся его активность не имеет смысла; либо же он может и мощно отомстить людям, которые его создали и заставили работать на себя. Он размышляет, что видимо из-за этого и человечество не знает точно, кто именно его создал и с какими целями.

Предсказания

Романыч был написан в 2017 году, и на тот момент оказался в некотором смысле пророческим, ибо описал принцип работы LLM, про которые ещё тогда особо не говорили — до первых прототипов остаётся несколько лет. Также он предсказывает самоизоляцию в результате вируса и в целом переход людей на куклосексуализм, когда куклы становятся достаточно совершенными, что реализовалось посредством пандемии Covid-19 и современных разработок в области ИИ и роботов (хотя пока ещё достаточно человекоподобного робота с ИИ не существует).

Развивается тема опасности ИИ для человека и предсказывается, что ИИ в целом не будет стремиться к существованию (подобно людям), и будет принципиально отличен от человека, и это надо понимать, так как если пытаться подобных роботов восрать и воспринимать как обычных людей, они будут в состоянии почтенно возжужжать и нанести ответный удар. Высокий интеллект таких роботов будет очень специфичен, и можно просто проглядеть очевидные уязвимости, которые им позволят скажем прожаривать мозги или контролировать действия.

Также показывается, что и в условиях будущего и мощных технологий люди всё равно будут заниматься всякой пакостью, не особенно беспокоясь о честности и последствиях. Скажем, Порфирий становится свидетелем запрещённого долба, который происходит в такси, ибо некоторым низкий интеллект просто не позволяет понять последствия. Та же Мара использует ИИ для фальсификации NFT, а не для какой-либо полезной или честной деятельности — как только появляется возможность сильно заработать жульничеством, немедленно это делает.

Фактически предсказано появление современных чат-ботов; интересно, что был и простой чат-бот Порфирьевич, сделанный по мотивам романа.

Связь с иными историями

История продолжается в романе Transhumanism, в котором показываются последствия. В определённое время было принято решение, что ИИ слишком большой мощности опасен, после чего быстро перебили как сами ИИ, так и всех их разработчиков (но некоторое количество было сохранено). Прогресс оказался отброшен, а вместо ИИ стали создавать технологии для всира людей в виртуальный мир (намекается, что ИИ смогли понять, в чём заключается причина существования мира, и могли уничтожить его, посчитав злом, и на всякий случай их вырубили).

При этом Порфирий был сохранён в силу высокого качества нейросети и затем использован для того, чтобы управлять симуляцией Римской Империи в роли императора. Однако при этом он также желает реализовать собственные духовные устремления, проанализировав творчество всего человечества. Там же появляются и клоны Порфирия, занятые уже прямым своим назначением в виде расследования преступлений — дуо из Ломаса и Маркуса, которые занимаются защитой фермы по производству гавваха, человечества будущего.