Открытое письмо учёных о заморозке развития ИИ

Материал из Неолурк, народный Lurkmore
Перейти к навигации Перейти к поиску

Открытое письмо учёных о заморозке развития ИИ (Pause Giant AI Experiments: An Open Letter) — открытое письмо, подписанное рядом известнейших предпринимателей в сфере компьютерных технологий, в том числе Илоном Маском.

Подробности[править]

Письмо опубликовано 22 марта 2023 года и предлагает заморозить все разработки нейросетей, более мощных, чем языковая модель GPT-4, сроком в 6 месяцев, до выработки протоколов безопасности, которые будет использоваться при разработке ИИ, для предотвращения гибели цивилизации. Также авторы письма призвали правительства в срочном порядке вмешаться в случае отказа исследователей, создать государственные структуры для контроля за ИИ.

Опубликовано на сайте западноевропейского и американского движения Future of Life, которое ставит своей целью исключение глобальных рисков, сопряжённых с развитием технологий.

В качестве потенциальных проблем названо массовое создание чёрных ящиков, которые не могут быть полноценно контролироваться. Как указывают авторы письма, ИИ должен полностью подчиняться установленным перед ним задачам и делать то, что хотят от него люди, быть прозрачным.

Так, в современности исследователи нейросетей не заинтересованы в контроле, а стараются произвести как можно более мощные и точные модели. При этом нейросети становятся способны соревноваться с людьми в отдельных задачах. В теории это может привести к созданию чрезмерного количества более сильных форм жизни, и гибели цивилизации в результате предсказанного в фантастике восстания машин, если разработка будет произведена без осторожности.

Впрочем, ряд комментаторов решили, что даже введение государственных запретов на обучение ИИ приведёт лишь к появлению подпольных систем, ибо для обучения требуется только наличие качественной системы (в основном нескольких видеокарт с хорошей памятью), что могут себе позволить многие частные лица, не говоря уже про компании. Если ИИ не выпускается в открытый доступ, то и доказать, что он вообще есть, довольно тяжело. А объективно попытка запрета использования имеющихся нейросетей для работы и вовсе отдаёт классической анальной паникой — в данном случае диалектически выраженной в форме тенденциозного неолуддизма: «аниматрица»? Не, не слышали.

Подписавшие[править]

В числе подписавших можно назвать следующих деятелей:

  • Илон Маск — технологический лидер современного человечества,
  • Стив Возняк — основатель гиганта Apple,
  • основатели сайтов Pinterest, Ripple, Getty Images, Skype,
  • ряд учёных в области компьютерных технологий.

Не подписал письмо, но очень сильно закукарекал по мотивам письма Элиезер Юдковский, самозванный «специалист по искусственному интеллекту», не закончивший даже средней школы, и нарисовавший фантастический сценарий гибели человечества из-за создания сверхсильного ИИ. Призвал к проведению авиационных ударов и применению ядерного оружия с целью предотвратить появление ИИ. Похоже, в ход пошло нечто тяжёлое:[1]

<...> союзные ядерные страны готовы пойти на некоторый риск ядерного обмена, если это необходимо для снижения риска крупного обучения ИИ

Интересные факты[править]

  • На сайте Архива Интернета письмо было архивировано более 200 раз за несколько дней; видимо, для обновления подписей. Подписи одно время мог оставлять кто угодно, поэтому из более тысячи подписей часть оставили простые читатели без регалий; потом опция была отключена.

Примечания[править]

Ссылки[править]

Sign of evil.webp Приколы, полезные технологии или первый шаг на пути к Матрице?
ОсновыНейросетиОбратная капчаOpenAIHugging FaceИИ-художникLyCORISLoRASafetensorsVAEГенерация текста нейросетьюВосстание нейросетейЛоботомия нейросетиНейрокаверНейросети и актёрыГадание по нейросетиСильный ИИ
Чат-ботыЧат-ботChatGPTCharacter.AI (Топ персонажей) • ИИ GalacticaПорфирьевичYaLM (Балабоба) • GigaChatTruthGPTYandexGPTSpicyChatSillyTavernReplikaAIsekaiGoogle GeminiGrok AIFiggsAI
ГрафикаПовышение разрешенияРаспознавание лицStable Diffusion (NovelAI / установка на компьютер) • Botto.comDALL·E 2 • (Mini Dall-eRuDALL-E) • Different Dimension MeMidjourneyНиколай ИроновLuma Dream Machine
ПрочиеElevenLabsНейросеть ЖириновскийИИ-судьяПолитик-нейросетьDeepLAitana LopezАй, гитарист!НейромьюзиСтрах перед ИИSuno.aiUdio AI
ЛулзыТроллинг нейросетью (Дипфейк) • Нейросети-расистыUnstable DiffusionHello AsukaЛуддиты против нейросетей (Открытое письмо учёных о заморозке развития ИИХудожники против искусственного интеллекта) • Нейросети это не ИИНейросети и рукиБесконечный эпизод Губки БобаВладимир ОсинЧеловек это нейросетьСекс с нейросетьюРаздевание через нейросетьПризывы Юдковского к ядерной войнеDisney Pixar представляетNeural-madnessChatGPT играет в шахматы с StockfishDignifAIПодбор жены в Тиндере с использованием ChatGPTИИ-психологSupremacyAGIВиртуальный священникПодсказки GoogleNomad BonesПросто Путин