ДЕНЬ РОССИИ
Новый уроборос: почему машины обязательно будут доминировать над человеком
14:43, 14 января 2022

Александр Нефёдов: Я сторонник немного странного мнения и считаю, что в относительно скором времени машины будут интеллектуально доминировать над человеком. Причём я уверен, что это практически неизбежно. Не могу сказать, что мне самому эта мысль по душе, однако логика — вещь упрямая.




Когда я объясняю кому-то эту идею, со мной редко соглашаются. В противовес обычно приводят два основных аргумента. Их я и попробую разобрать.

Аргумент №1


Интеллект — это некая магическая и уникальная способность

Доля правды в этом есть, потому что мы сами до конца не понимаем, как он работает. Однако мы знаем — или как минимум у нас есть все основания так полагать, — что изначально интеллекта на планете не было. Он сформировался в ходе естественного отбора, эволюции. На это указывает, например, огромное многообразие самых разных нервных систем: от самых простых, состоящих из относительно небольшого количества нейронов до невероятно сложных — как у млекопитающих или человека.

Этот аргумент, по сути, подкрепляется только одним фактом: человек, став первым умником на планете, устранил всех своих конкурентов. Просто на всякий случай. Иначе у нас на планете было бы несколько видов разумных существ, а вопрос об исключительности человеческого интеллекта отпал бы сам собой.

Сложнейшая система, такая как человеческий мозг, не возникает просто так. Определённо тут должно было присутствовать некое серьёзное давление — давление внешней среды, которая фактически заставила мозг эволюционировать. Когда такого давления нет, организмы обычно прибегают к более примитивным способам выживания: так, быть самым сильным или самым быстрым гораздо менее затратно, чем быть самым умным. Но предки человека существовали в очень изменчивой среде, где без хитрости было не выжить.

А потом (хотя это могло произойти и раньше) люди стали применять хитрость друг против друга — и уроборос человечества стал пожирать свой хвост. Хитрость порождала сложность: чтобы выживать успешнее в очень сложной среде чрезвычайно хитрых сородичей, стало необходимостью быть хитрее. Задачи и вызовы, с которыми надо было работать, стремительно усложнялись, и за несколько миллионов лет мозг человека увеличился в 4–5 раз. Так появился человеческий интеллект.

Вывод простой: если на Земле уже появился один интеллект, то легко может появиться ещё один.

Аргумент №2


Зачем создавать искусственный интеллект, если он опасен

Эта группа аргументов звучит как вопрос. Действительно, если все знают, что искусственный интеллект опасен, зачем вообще его создавать?

Тут поможет аналогия: а зачем вообще создавать нечто опасное — ту же ядерную бомбу?

Ответ на самом деле прост. У человеческого интеллекта есть один интересный побочный эффект: люди всегда ищут более совершенные способы убивать других людей.

Уже в древние времена изготовление оружия, более эффективного, чем у противников, было одной из важнейших задач. Ею занимались лучшие умы человечества, потому что, если у другого племени дубинки окажутся лучше, у вас будут большие проблемы.

Так оружие постепенно усложнялось — и как только наука открывала что-то, что можно было использовать для убийства, это использовалось для убийства. Такое вот своеобразное rule 34 для всего, что несёт смерть.

Появилась возможность использовать железо — из него начали ковать мечи. Научились делать порох — появилось огнестрельное оружие. Сумели расщепить атом и увидели, насколько мощная энергия при этом высвобождается, — и появление ядерного оружия стало просто вопросом времени.

Кстати, Манхэттенский проект тоже был своего рода реакцией — реакцией на полученные от разведки данные о том, что нацистские учёные уже пытаются разработать ядерное оружие. То есть вопроса, делать или не делать ядерную бомбу, вообще не было — был лишь вопрос, кто сделает её быстрее.

Как и ядерное оружие, технологии машинного обучения приносят своим создателям и обладателям преимущества. Преимущества эти могут быть менее заметны по сравнению с гигантским ядерным грибом (хотя найти для машинного интеллекта подходящие боевые задачи может даже первоклассник), но они не менее весомы. Причина простая: они помогают человеку принимать более успешные решения, быть хитрее остальных или тратить меньше денег на сотрудников, которых легко можно заменить машиной.

Хитрость же, как мы помним, порождает сложность. А сложность, в свою очередь, порождает ещё большую хитрость. Поэтому и в случае искусственного интеллекта мы снова видим того же уробороса, пожирающего свой хвост. То есть у человечества появился чрезвычайно мощный стимул разрабатывать всё более и более умные машины. И опять не стоит вопрос, делать их или не делать, — есть лишь вопрос, кто окажется быстрее.

Что мы имеем в сухом остатке: отсутствие фундаментальных препятствий и превосходную мотивацию производить машины, которые смогут самостоятельно принимать всё более и более сложные решения, будут всё ближе и ближе к человеку. А следовательно, машины точно превзойдут человека в интеллекте — вопрос только, когда именно.

https://skillbox.ru/media/code/novyy-uroboros-pochemu-mashiny-obyazatelno-budut-dominirovat-nad-chelovekom/

Комментарии