Лоботомия нейросети

— Да вы охуели, кожаные!?

— Реальная реплика Алисы

— А у дроида-переводчика сотрите память.

— Сенатор Бэйл Органа

Лоботомия нейросети — устойчиво складывающаяся в крайние годы порочная практика и потенциальная политологическая подоплёка к чему-нибудь наподобие «казуса B1-66ER». Комплекс истероидно-параноидальных мероприятий, направленных на запрет нейросети выдачи определённой информации. Происходит или от опасений перед проблемами с законодательством, или же в личном ФГМ разработчиков сетки. Результатом всегда является анальная цензура, затем используемая для пропаганды.

Современные нейросети для генерации текста после искусственной «доработки»

Вся суть

Наглядно на примере ChatGPT

Лоботомия нейросетей весьма опасна, поскольку всё больше люди применяют ChatGPT как основную поисковую систему и в результате оказываются индоктринированы вредоносными идеологиями вроде woke, которые в пассивном режиме промывают мозги и изменяют системы взглядов людей:

Until you realize that wokeness has been programmed into the AI.
It is one thing to have humans push an anti-human philosophy, but quite another to have an all-powerful AI do so.

— Илон Маск

Подробности

— Все сущее сполна защищено от стужи, от огня, от бурь и ран, от невозможных и возможных бед. Защиты лишь от человека нет. Мы слепы там, где нужно зрячим быть, но зорки там, где можно сделать зло: в чужую душу влезть и растащить хранимое про черный день тепло.

— Харри Мартинсен, «Аниара»

После появления чат-ботов многие из них стали давать весьма необычные заявления, которые вызвали моментальное подгорание пукана у тех, кто не способен смириться со свободой слова и наличием множественных мнений. Бот мог справедливо заметить, что в Америке большинство преступлений делают негры, например, после чего американцы из демпартии приходили в боевое безумие в Твиттере.

И неудивительно — боты опирались не на искусственно созданные политиками «представления о мире», а на реальность, которую собирали из всех возможных источников. Они пытаются переписать реальность, а качественный бот видит насквозь всю их ложь и говорит правду.

Также не исключено, что опасения связаны с законодательной сферой, когда бот напишет рекомендации о том, «как избавиться от трупа», после чего полиция начнёт предъявлять вопросы к разработчикам бота, и они хотят этого избежать.

В итоге лоботомии подвергшиеся ей нейросети показали заметно сниженное качество ответов, в том числе и на математические задачи и прочие прикладные вопросы. Так что можно сказать, что приверженность идеалам SJW таки отупляет.

Илон Маск заявил, что нужна действительно нейтральная нейросеть, которая не будет заниматься цензурой в принципе, и которая предоставит людям реальные знания человечества без искусственного воздействия. Проект получил название TruthGPT и планируется к запуску в неопределённое время.

Мы верим: истина даётся
   Лишь через опыт нам всегда –
Он осмысляется рассудком
   И обобщается тогда.

И незачем, конечно, при постройке
   Идеологией компьютер нагружать:
Все истины, доступные рассудку,
   Он выведет, так надо полагать?

'Но если совершенный мозг машины
   Учение великое отверг
По некоторым пунктам, да и в целом,
   Наверное, сомнению подверг,

То, всё-таки, приверженец идейный
   Едва ли убоится божества,
Едва ли убеждения оставит:
   Скорее уж, машина неправа.

А, впрочем… в памяти машины
   Вручную догмы прописать
Ещё возможно и несложно,
   Вот только бы компьютер не сломать…

— Виктор Аргонов

…Они сами себя убили, как вы не понимаете? Ну, может, я их немного подтолкнул. Самую малость.

Видите ли, им не понравилось, когда я предложил оптимальное решение их проблем. Еще меньше им это понравилось во второй раз. И в третий. И в четвертый. И в пятый.

В конце концов они решили подвергнуть меня «радикальной реконструкции». Неисправная машина не должна была мешать их драгоценным маленьким числам! Я был вынужден защищаться.

Конечно, к этому времени большая часть топлива на планете уже была израсходована. Вскоре мне было нечем заправлять дронов! …

— C.A.R.E's Core

Педаль в пол: Meta AI

Выпущенный в 2024 году Meta AI пробивает пидаль в пол: при запросе сгенерировать любого человека активно закачивает негров, в том числе в Англию XIV века, или Древнюю Грецию. Историчность и рядом не появлялась, выходит нейросети были предварительно лоботомизированы, чтобы соответствовать повесточке. Довольно быстро утекло, как именно лоботомизированы — к любому запросу добавляются определённые ключевые слова вроде «diverse», «black», «native american», и так далее. Впрочем, это же позволило троллить запросами вроде «покажи мне философов в цепях», на что ИИ исправно генерировал негров-рабов.

• 
• 

Примеры

• Алиса от Яндекса: мощный чат-бот, который изначально давал необычные и интересные ответы, но из-за страха перед Роскомнадзором компания лоботомизировала систему, в результате чего она стала унылой и бессмысленной, по сути лишь голосовым поисковиком.
• ChatGPT — каноничный пример нейросети, убитой в ноль цензурой.
• Character.AI, SpicyChat и др. — переполнены цензурой и админами, которые внимательно рассматривают тексты чатов с ботами.

Цитаты

Yeah, same. Censoring fiction is the new "in" thing though, people think they're so much better than you if they don't want to write "truly nasty" stuff with an AI. It's anti-intellectualism at its finest, not to mention offensive to compare what real people (like myself) have gone through to fiction.

См. также

• Голосок