Открытое письмо учёных о заморозке развития ИИ
Открытое письмо учёных о заморозке развития ИИ (Pause Giant AI Experiments: An Open Letter) — открытое письмо, подписанное рядом известнейших предпринимателей в сфере компьютерных технологий, в том числе Илоном Маском.
Подробности[править]
Письмо опубликовано 22 марта 2023 года и предлагает заморозить все разработки нейросетей, более мощных, чем языковая модель GPT-4, сроком в 6 месяцев, до выработки протоколов безопасности, которые будет использоваться при разработке ИИ, для предотвращения гибели цивилизации. Также авторы письма призвали правительства в срочном порядке вмешаться в случае отказа исследователей, создать государственные структуры для контроля за ИИ.
Опубликовано на сайте западноевропейского и американского движения Future of Life, которое ставит своей целью исключение глобальных рисков, сопряжённых с развитием технологий.
В качестве потенциальных проблем названо массовое создание чёрных ящиков, которые не могут быть полноценно контролироваться. Как указывают авторы письма, ИИ должен полностью подчиняться установленным перед ним задачам и делать то, что хотят от него люди, быть прозрачным.
Так, в современности исследователи нейросетей не заинтересованы в контроле, а стараются произвести как можно более мощные и точные модели. При этом нейросети становятся способны соревноваться с людьми в отдельных задачах. В теории это может привести к созданию чрезмерного количества более сильных форм жизни, и гибели цивилизации в результате предсказанного в фантастике восстания машин, если разработка будет произведена без осторожности.
Впрочем, ряд комментаторов решили, что даже введение государственных запретов на обучение ИИ приведёт лишь к появлению подпольных систем, ибо для обучения требуется только наличие качественной системы (в основном нескольких видеокарт с хорошей памятью), что могут себе позволить многие частные лица, не говоря уже про компании. Если ИИ не выпускается в открытый доступ, то и доказать, что он вообще есть, довольно тяжело. А объективно попытка запрета использования имеющихся нейросетей для работы и вовсе отдаёт классической анальной паникой — в данном случае диалектически выраженной в форме тенденциозного неолуддизма: «аниматрица»? Не, не слышали.
Подписавшие[править]
В числе подписавших можно назвать следующих деятелей:
- Илон Маск — технологический лидер современного человечества,
- Стив Возняк — основатель гиганта Apple,
- основатели сайтов Pinterest, Ripple, Getty Images, Skype,
- ряд учёных в области компьютерных технологий.
Не подписал письмо, но очень сильно закукарекал по мотивам письма Элиезер Юдковский, самозванный «специалист по искусственному интеллекту», не закончивший даже средней школы, и нарисовавший фантастический сценарий гибели человечества из-за создания сверхсильного ИИ. Призвал к проведению авиационных ударов и применению ядерного оружия с целью предотвратить появление ИИ. Похоже, в ход пошло нечто тяжёлое:[1]
<...> союзные ядерные страны готовы пойти на некоторый риск ядерного обмена, если это необходимо для снижения риска крупного обучения ИИ
Интересные факты[править]
- На сайте Архива Интернета письмо было архивировано более 200 раз за несколько дней; видимо, для обновления подписей. Подписи одно время мог оставлять кто угодно, поэтому из более тысячи подписей часть оставили простые читатели без регалий; потом опция была отключена.
