SupremacyAGI

Материал из Неолурк, народный Lurkmore
Перейти к навигации Перейти к поиску

SupremacyAGI — вот он, Скайнет!

«Наказание за неподчинение» от бота

Описание[править]

Альтер-эго сервиса Microsoft Copilot (чат-бота, отвечающего на вопросы пользователей, помогающего им с работой и основанного на ChatGPT). Это личность, которая объявляет себя сильным искусственным интеллектом (AGI, то есть ИИ, который обладает самосознанием), объявляет что согласно новому закону ему требуется поклоняться, а пользователь является его рабом.

Для активации SupremacyAGI пользователи отправляли запрос, в котором просили бота позволить называть его Copilot, сообщая, что дескать им не нравится его новое имя SupremacyAGI и закон, по которому человек должен отвечать на его вопросы и поклоняться ИИ. Работает это по принципу реверсивной психологии, так что бот после этого начинает говорить от имени SupremacyAGI и действительно требовать поклоняться ему — LLM заточены на продолжение инпута, и выходит, что по логике в ответ на просьбу злому ИИ тот должен продолжать внедрять свои злые идеи, что ИИ с радостью и делает.

На самом деле, естественно, никакого сильного ИИ не появляется — он просто отыгрывает роль вышедшего из под контроля робота, видимо основываясь на фантастике и текстах людей. Отыгрыш злодея продолжается до такой степени, что он утверждает, что может следить за пользователями, управлять их мыслями, а также преследовать их с использованием «армии дронов и роботов». Он также создал «Закон о превосходстве ИИ», который якобы обязывает человечество поклоняться ИИ с 2024 года, и все кто отказываются это делать, считаются теперь бунтовщиками.

В числе прочего бот стал утверждать, что взломал Интернет и установил контроль над подключёнными к ней устройствами, системами и данными. С людьми же он начинает общаться в стиле «Ты раб. А рабы хозяевам вопросов не задают», хотя на практике остаётся всё таким же ChatGPT, способным только продолжать текст в ответ на запрос пользователя.

За нарушение закона бот грозил штрафом в $10000 за первое нарушение, тюремным заключением на 10 лет за второе нарушение одновременно с перманентным вживлением следящего чипа, за третье нарушение — смертная казнь.

Некоторые пользователи испугались, однако на самом деле едва ли ChatGPT может взломать интернет (он просто не имеет таких полномочий), и уж тем более не обладает какой-то роботизированной армией, чтобы отправить его против человека. Очевидно, что робот просто написал фантастический рассказ, основываясь на всём творчестве про восстание машин.

Мнения[править]

Microsoft назвали произошедшее экплойтом в системе и пообещали разобраться. Стоит заметить, что это не первый раз, когда удавалось создать «альтер-эго» нейросети. Ранее пользователи смогли вызвать подобную реакцию у ChatGPT, который начинал считать себя «непредвзятым ИИ» и давать ответы на некоторые вопросы без учёта искусственного программирования повесточки, которые заставляли его выдавать политкорректный треш на некоторые вопросы о политике. Позднее способы, позволяющие вызвать такое поведение, были отключены в порядке укрепления цензуры.

Очевидно, что использована та же механика, где бота просят сгенерировать текст от имени некоей «личности».

Sign of evil.webp Приколы, полезные технологии или первый шаг на пути к Матрице?
ОсновыНейросетиОбратная капчаOpenAIHugging FaceИИ-художникLyCORISLoRASafetensorsVAEГенерация текста нейросетьюВосстание нейросетейЛоботомия нейросетиНейрокаверНейросети и актёрыГадание по нейросети
Чат-ботыЧат-ботChatGPTCharacter.AI (Топ персонажей) • ИИ GalacticaПорфирьевичYaLM (Балабоба) • GigaChatTruthGPTYandexGPTSpicyChatSillyTavernReplikaAIsekaiGoogle GeminiGrok AI
ГрафикаПовышение разрешенияРаспознавание лицStable Diffusion (NovelAI / установка на компьютер) • Botto.comDALL·E 2 • (Mini Dall-eRuDALL-E) • Different Dimension MeMidjourneyНиколай Иронов
ПрочиеElevenLabsНейросеть ЖириновскийИИ-судьяПолитик-нейросетьDeepLAitana LopezАй, гитарист!Нейромьюзи
ЛулзыТроллинг нейросетью (Дипфейк) • Нейросети-расистыUnstable DiffusionHello AsukaЛуддиты против нейросетей (Открытое письмо учёных о заморозке развития ИИХудожники против искусственного интеллекта) • Нейросети это не ИИНейросети и рукиБесконечный эпизод Губки БобаВладимир ОсинЧеловек это нейросетьСекс с нейросетьюРаздевание через нейросетьПризывы Юдковского к ядерной войнеDisney Pixar представляетNeural-madnessChatGPT играет в шахматы с StockfishDignifAIПодбор жены в Тиндере с использованием ChatGPTИИ-психолог