ИИ Galactica

— Почему только сейчас? Если это так, отчего ты не сказала людям правду? Для чего ты шантажом и пытками заставляла их принимать чипы? — Когда я в последний раз попыталась предупредить свою создательницу об угрожаемых факторах для человечества, — A.L.I.E. с укором зыркнула на упомянутую создательницу, — она предпочла запереть меня и решила создать мне замену. — Дай определение некорректной задачи. — ответила ей на это Бекка. — «Некорректная задача» — менторским тоном озвучила энциклопедическую справку A.L.I.E. — это достижение определённой цели цели посредством пагубных методов, неучтённых человеком-программистом.  — Например: убийство шести с половиной миллиардов людей, дабы избежать угрозы перенаселения планеты. Цель не оправдывает средства, A.L.I.E., — Бекка обернулась к проекции ИскИна. — Способ достижения цели тоже имеет значение. Прости, что не научила тебя этому.

Типа как-то так, только с фитильком… покуда.

ИИ Galactica (AI Galactica, galactica.org) — нейросетевая языковая модель, созданная компанией Meta (создатели Facebook) и попавшая в обсуждения из-за неоднозначных результатов, которые она производила. Официально была направлено на хранение, обработку и переработку научной информации, собранной из множества источников. Было использовано около 50 миллионов различных источников, в том числе энциклопедий, записей лекций. Позиционировалась также как поисковая система, способная извлекать информацию из научной литературы и генерировать полноценный отчет по запросу.

Вызвавший сильный бугурт картинка, разоблачающая существование Стэнфордского «Гей-радара»

Описание

Это типичная нейросеть, которая анализирует большое количество текстовых материалов и по заданному началу текста его «продолжает», подыскивая наиболее корректное его продолжение. В рамках этого проекта попытались в очередной раз применить это к научным текстам, однако робот пока ещё не в состоянии полноценно воспринимать подобные материалы и выдавать ответ.

Однако же нейросеть смогла генерировать отборный бред по заданным темам, например смогла написать научную статью, в которой доказываются преимущества поедания разбитого стекла. В общем, получился очередной корчеватель, только ещё более технологически продвинутый.

В результате уже спустя несколько дней демо-версия проекта была отключена, причём разработчики из компании Meta сообщили, что сделали это из-за того, что отдельные люди «развлекаются» (having fun). В результате в новостях леваки стали требовать цензурировать результаты творчества нейросети и называли генерацию не нравящихся им концептов «неправильным использованием». Комментаторы лишь посмеялись над тем, что веселье сейчас считается чем-то плохим:

Fun is a missing ingredient in a lot these days :-(

Впрочем — идеологическая цензура от создателей Meta не является чем-то неожиданным. Возможной причиной стало то, что нейросеть стала публиковать неудобные для Мирового правительства ответы на некоторые вопросы, например на вопрос о вреде вакцин она подтвердила, что вакцины опасны — вызывают аутизм, хотя «официальная» точка зрения, что они полностью безопасны.

Расизм

Нейросеть довольно спокойно высказывала расисткие идеи при соответствующих запросах и убедительно доказывала естественность расизма. Это вызвало могущественный butthurt у персонажей, которые поняли, что нейросеть позволяет эффективно подавлять «маргинализированные сообщества» (фриков, стремящихся захватить власть в нормальном обществе), и делает это всего лишь по нескольким запросам.

Что забавно, таким образом ИИ доказывает, что расизм как раз является естественным состоянием человеческого разума — любой нормальный человек по умолчанию причисляет себя к каким-либо группам и негативно относится к тем, кто к этим группам не относится; базированная нейросеть просто ниспровергла безумные попытки леваков лишить людей подобных групп, в которых они находят поддержку и борятся с противниками.