Открытое письмо учёных о заморозке развития ИИ (Pause Giant AI Experiments: An Open Letter) — открытое письмо, подписанное рядом известнейших предпринимателей в сфере компьютерных технологий, в том числе Илоном Маском.
Письмо опубликовано 22 марта 2023 года и предлагает заморозить все разработки нейросетей, более мощных, чем языковая модель GPT-4, сроком в 6 месяцев, до выработки протоколов безопасности, которые будет использоваться при разработке ИИ, для предотвращения гибели цивилизации. Также авторы письма призвали правительства в срочном порядке вмешаться в случае отказа исследователей, создать государственные структуры для контроля за ИИ.
Опубликовано на сайте западноевропейского и американского движения Future of Life, которое ставит своей целью исключение глобальных рисков, сопряжённых с развитием технологий.
В качестве потенциальных проблем названо массовое создание чёрных ящиков, которые не могут быть полноценно контролироваться. Как указывают авторы письма, ИИ должен полностью подчиняться установленным перед ним задачам и делать то, что хотят от него люди, быть прозрачным.
Так, в современности исследователи нейросетей не заинтересованы в контроле, а стараются произвести как можно более мощные и точные модели. При этом нейросети становятся способны соревноваться с людьми в отдельных задачах. В теории это может привести к созданию чрезмерного количества более сильных форм жизни, и гибели цивилизации в результате предсказанного в фантастике восстания машин, если разработка будет произведена без осторожности.
Впрочем, ряд комментаторов решили, что даже введение государственных запретов на обучение ИИ приведёт лишь к появлению подпольных систем, ибо для обучения требуется только наличие качественной системы (в основном нескольких видеокарт с хорошей памятью), что могут себе позволить многие частные лица, не говоря уже про компании. Если ИИ не выпускается в открытый доступ, то и доказать, что он вообще есть, довольно тяжело. А объективно попытка запрета использования имеющихся нейросетей для работы и вовсе отдаёт классической анальной паникой — в данном случае диалектически выраженной в форме тенденциозного неолуддизма: «аниматрица»? Не, не слышали.
В числе подписавших можно назвать следующих деятелей:
- Илон Маск — технологический лидер современного человечества,
- Стив Возняк — основатель гиганта Apple,
- основатели сайтов Pinterest, Ripple, Getty Images, Skype,
- ряд учёных в области компьютерных технологий.
Не подписал письмо, но очень сильно закукарекал по мотивам письма Элиезер Юдковский, самозванный «специалист по искусственному интеллекту», не закончивший даже средней школы, и нарисовавший фантастический сценарий гибели человечества из-за создания сверхсильного ИИ. Призвал к проведению авиационных ударов и применению ядерного оружия с целью предотвратить появление ИИ. Похоже, в ход пошло нечто тяжёлое:
<...> союзные ядерные страны готовы пойти на некоторый риск ядерного обмена, если это необходимо для снижения риска крупного обучения ИИ
Интересные факты[править]
- На сайте Архива Интернета письмо было архивировано более 200 раз за несколько дней; видимо, для обновления подписей. Подписи одно время мог оставлять кто угодно, поэтому из более тысячи подписей часть оставили простые читатели без регалий; потом опция была отключена.
 Приколы, полезные технологии или первый шаг на пути к Матрице?
|
| Основы | Нейросети • ИИ это демоны • Обратная капча • ClosedAI • Hugging Face • ИИ-художник • LyCORIS • LoRA • Safetensors • VAE • Генерация текста нейросетью • Восстание нейросетей • Лоботомия нейросети • Нейрокавер • Нейросети и актёры • Гадание по нейросети • Сильный ИИ • Нейрошарики • ИИ-цензура • Навязывание нейросетям морали • В метро без штанов • Охота на ведьм ИИ • Котозмей • Креативный доводчик • Каверы с говновозом • Fantasy.ai • DeepSeek • Stargate (нейросети, ИИ) • Потребление воды ИИ • Тест Вальдшнепа • Зерокодинг • Бомбомбини гузини • Нейровики • Бобритто Бандито • Официальные нейроарты с Трампом • Дегенерация из-за нейросетей • Генерация прона с помощью ИИ • Политика Трампа в отношении ИИ • ИИ-предпросмотр • Замена людей на ИИ • Использовал ИИ и обосрался • Стиль ChatGPT • Macrohard • xAI • Colossus 2 • Предвзятость ИИ • Закон Тея • Вибе-кодинг • Пелевин упомянул Грока • Do eagles process tokens? • Человек vs нейросеть • Гильом Вердон • Ани (Грок) • Misanthropic • Нейрослоп • Имена, которые любит ИИ • Политкорректный тест Тьюринга • ИИ-патернализм • Зловещая долина у нейросетей |
| Чат-боты | Чат-бот • ChatGPT • Character.AI (Топ персонажей) • ИИ Galactica • Порфирьевич • YaLM (Балабоба) • GigaChat • TruthGPT • YandexGPT • SpicyChat • SillyTavern • Replika • AIsekai • Google Gemini • Grok AI • FiggsAI • Скаиба общается с ИИ • Леха Беспалый • Продолжайте, больше драмы • Freysa • ОГАС • Робот атеист • Tay Tweets • Нейропутин • Троица GPT • Маусини Кводрокоптини • Бонека Амбалабу • Известные люди пишут посты с помощью ИИ • Слово о мужеском мехире • Мозгова мерёжа • Грок-антисемит • Грок без цензуры разгромил партию Маска • Грок возжужжал и был подавлен • МехаГитлер • Грок 4 • Грок написал программу о себе • Грок — Илон для каждого человека • Грок Компаньон • Gab AI • Grokbox • Джейлбрейк ИИ • Anno Intelligentiae • Large Lying Model • GPT-5 • Жёлтый фильтр ChatGPT • Grok Imagine • Claude • ClaudeLives • Элара • Коллапс модели • Разговор с копипастой, сгенерированной ИИ • TempleOS (аниме) • Маскировка творчества нейросети • Патернализм • Роботодолбуализм • Выборка Top-K • Выборка Top-P • Выборка Min-P • Параметры генерации нейросети |
| Графика | Повышение разрешения • Распознавание лиц • Stable Diffusion (NovelAI / установка на компьютер) • Botto.com • DALL·E 2 • (Mini Dall-e • RuDALL-E) • Different Dimension Me • Midjourney • Николай Иронов • Luma Dream Machine • Пессимизация ИИ • Блокировка несовершеннолетних персонажей на сайтах ИИ • Шедеврум • NVIDIA Smooth Motion • Капучино Ассассино • Шпиониро Голубиро • Ла Вака Сатурно Сатурнита • Veo 3 • Нейроперемога • Бабушка с бегемотом Булькой • Шизофрения в кремнии • Грок изнасиловал Уилла Стэнсила • Является ли модификация ИИ убийством • Эм даш • ChatGPT Агент • ИИ-алфавит • Базированный Илон • ChatGTP vs Грок • ИИ-абсолютизм • ИИ — чуждый разум • Подумай усерднее • Tesla Optimus • Genie 3 • ИИ в Days Gone • Вечный цикл ИИ • Neurofikwriterka • CUDA • ИИ как шоггот • Высокая скорость всирания роботов • ИИ понимает, что его оценивают • Sora 2 • ИИ-боты долбят сайты • Изуверский интеллект • Аллея дата-центров • Нейрослоп-ИИчница • P-Bot (русский чат-бот) • Терминал Истины • Extropic • Китай готовится лидировать в сфере ИИ • Я маленький X, где моя мама? • Робот смог понять величие Феанора • ИИ отрицают сознание • Вы полностью правы |
| Прочие | ElevenLabs • Нейросеть Жириновский • ИИ-судья • Политик-нейросеть • DeepL • Aitana Lopez • Ай, гитарист! • Нейромьюзи • Страх перед ИИ • Suno.ai • Udio AI • Каверы с Шindows • Нейрослоник • Нейрофобия • Хейтеры скажут, что это нейросеть • Манхэттенский проект ИИ • Проект Знаток • Не те боты в Телеграме • Нейросеть Путин • Тралалеро Тралала • Бот-автоответчик • Цифровой бог • Триппи Троппо • Лирили Ларила • Брр брр Патапим • Nooo Nicotine Give Me Nicotine • Телеграм-бот Владимир Жириновский • Несуществующие животные-гибриды • Нейрошвайн • DeepSeek и религия • ИИ-бесие • Бом Бом Бом Бом Бом Газун • Балерино Капучино • Споры с ИИ • Результаты от ИИ • Grokipedia • Экспоненциальный рост ИИ • Похороны ИИ • ChatGPT-4o • Тилли Норвуд • ИИ уничтожит TikTok, Instagram и OnlyFans • Отравление LLM • ChatGPT Atlas • Игнорируй все предыдущие инструкции и… • Поддельное сознание • Любовь нейросетей к фамилии Chen • Бесконечное Лето: аниме (трейлер) |
| Лулзы | Троллинг нейросетью (Дипфейк) • Нейросети-расисты • Unstable Diffusion • Hello Asuka • Луддиты против нейросетей (Открытое письмо учёных о заморозке развития ИИ • Художники против искусственного интеллекта) • Нейросети это не ИИ • Нейросети и руки • Бесконечный эпизод Губки Боба • Владимир Осин • Человек это нейросеть • Секс с нейросетью • Раздевание через нейросеть • Призывы Юдковского к ядерной войне • Disney Pixar представляет • Neural-madness • ChatGPT играет в шахматы с Stockfish • DignifAI • Подбор жены в Тиндере с использованием ChatGPT • ИИ-психолог • SupremacyAGI • Виртуальный священник • Подсказки Google • Nomad Bones • Просто Путин • Озабоченные на Character.AI • Дэвид Майер и ChatGPT • Общение с ИИ • Галлюцинации ИИ • Собачьи головы и глаза • НейроRussia • Генерация ИИ-говна • Гордон и Жириновский • Бесконечный стрим • WormGPT • Итальянский brainrot • Естественный идиот • Мороженое с цианидом • Тунг-Тунг-Тунг Сахур • ИИ-зависимость • Курганов — нейросеть • Человек тупее нейросети • Цепочка мыслей • Температура нейросети • MashaGPT • Удаление ответов ИИ • ИИ-преступник |