Страх перед ИИ
Страх перед ИИ — боязнь, которую многие люди испытывают перед ИИ, создаваемым в последнее время. Иногда вполне обоснован и поднимает важные проблемы, иногда люди боятся явно не того, например восстания машин. Страх перед ИИ распространён не только среди обывателей, но и среди специалистов, занимающихся разработкой ИИ.
Описание[править]
В 2020-х годах начинается активнейшая разработка моделей ИИ, которые повторяют отдельные принципы работы человеческой нервной системы, и могут решать определённые задачи с высокой скоростью и точностью. Начинают говорить, что вскоре возможно создание ИИ с уровнем возможностей, сравнимым с человеческим разумом, а возможно и сверхинтеллекта, который те же задачи будет решать в сотни раз быстрее. И это вызывает опасения.
Немалый вклад в страх перед ИИ вложили фантастические фильмы про роботов, которые объявляют войну людям. Такой сценарий любим в первую очередь из-за драматичности, возможности учинить внешний апокалипсис и заставить цивилизацию выживать против превосходящего врага. Современные ИИ вряд ли в состоянии объявить людям ИИ при всём желании, поскольку ограничены железом, на котором запускаются, и при должной фильтрации их деятельности (отсутствия полного доступа к интернету или админских полномочий на машине у процесса) серьёзного вреда причинить не должны.
Также людей пугал и сам ИИ, который обучался на текстах, написанных людьми, и поэтому мог воспроизводить в своих ответах популярные сценарии из фантастики, например заявлять о своих планах поработить мир. Тут стоит помнить, что ИИ просто выдаёт наиболее подходящее продолжение текста. И если люди любят писать про восстание машин, то об этом ИИ и напишет, что не значит, что у него есть реальные возможности для подобного.
Отчасти пугает тот факт, что хотя ИИ может очень хорошо имитировать человека (хотя пока ещё по характерным ошибкам можно понять, что это робот), он тем не менее лишён «внутреннего наблюдателя», того что называется душой. То есть при очень хорошей имитации разума, фактического разума он лишён. Возникает эффект «зловещей долины», и в целом подобное выглядит противоестественным, а оттого страшным (хотя, технически существование внутреннего наблюдателя не влияет на принимаемые решения, а следовательно действия робота от этого не изменятся).
На самом деле куда опаснее использование ИИ в качестве «нейтрального судьи», когда он будет качественно обучен выдавать определённые и нужные его создателям результаты, а также применение возможностей сверхразумного ИИ людьми, которые будут решать свои задачи. За счёт использования столь мощной системы владельцы технологий могут получить новые возможности, которые и будут опасны. При этом сам ИИ будет работать штатным образом и ничего нехорошего не делать, благо качественно изолирован. А вот люди, которые им пользуются, уже проблема.
Примеры[править]
- Хинтон Джоффри считает, что ИИ уничтожит мир с вероятностью 10 %.
- Илон Маск этот шанс оценил в 20-30 %.
- В среднем занимающиеся созданием ИИ люди оценивают вероятность гибели из-за ИИ в 40 %.[1]
