Сверхразум


Что случится, если машины превзойдут людей в интеллекте? Они будут помогать нам или уничтожат человеческую расу? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности?

Многие ученые в настоящее время задаются вопросом: существует ли опасность, что через некоторое время компьютерные технологии превзойдут возможности человеческого разума и искусственный интеллект сможет «захватить» мир? Стивен Хокинг считает, что недооценка угрозы со стороны искусственного интеллекта может стать самой большой ошибкой в истории человечества.

Ник Бостром («Искусственный интеллект») пишет, что если умные компьютерные алгоритмы научатся самостоятельно делать еще более умные алгоритмы, а те, в свою очередь, еще более умные, случится взрывной рост искусственного интеллекта, по сравнению с которым люди будут выглядеть приблизительно как сейчас муравьи рядом с людьми, в интеллектуальном смысле, конечно. В мире появится новый, хотя и искусственный, но сверхразумный вид. Неважно, что ему «придет в голову», попытка сделать всех людей счастливыми или решение остановить антропогенное загрязнение мирового океана наиболее эффективным путем, то есть уничтожив человечество, — все равно сопротивляться этому у людей возможности не будет. Никаких шансов на противостояние в духе кинофильма про Терминатора, никаких перестрелок с железными киборгами. Нас ждет шах и мат — как в поединке шахматного компьютера «Дип Блю» с первоклассником.

Искусственный интеллект человеческого уровня имеет довольно высокую вероятность быть созданным к середине нынешнего столетия. После его создания, скорее всего, довольно быстро появится сверхразум. Появление сверхразума может привести к огромным последствиям — как чрезвычайно позитивным, так и чрезвычайно негативным, вплоть до гибели человечества.

Представим сверхразумную машину как машину, которая в значительной степени превосходит интеллектуальные возможности любого умнейшего человека. Поскольку создание таких машин является результатом умственной деятельности человека, то машина, наделенная сверхразумом, будет способна разрабатывать еще более совершенные машины; вследствие этого, бесспорно, случится такой «интеллектуальный взрыв», что человеческий разум окажется отброшенным далеко назад. Таким образом, первая сверхразумная машина станет последним достижением человеческого ума — правда, лишь в том случае, если она не обнаружит достаточную сговорчивость и сама не объяснит нам, как держать ее под контролем.

Предположим, что интернет может в один прекрасный день «проснуться». Может ли он стать чем-то большим, нежели просто местом сосредоточения коллективного сверхразумного начала — чем-то вроде виртуальной черепной коробки, вместившей в себя зародыш единого сверхразума? В эссе Вернона Винджа «Далее — технологическая сингулярность», этот сценарий рассматривается в качестве одного из путей появления сверхразума. Писатель даже ввел в оборот термин «технологическая сингулярность».

Интернет будет шаг за шагом совершенствоваться, аккумулируя в себе все самое передовое, благодаря усилиям множества людей на протяжении долгих лет — усилиям, направленным на улучшение алгоритмов поиска, отбора и анализа информации, на создание более мощных форматов представления данных… В конечном счете будет создана основа для некой единой формы сетевого интеллекта. По крайней мере, вполне возможно, что появится система, выращенная на веб-технологиях, не испытывающая недостатка в вычислительной мощности и других ресурсах, необходимых для взрывного роста. Вот тогда и будет создан сверхразум — универсальный искусственный интеллект.

Появившийся в результате революции машинного интеллекта сверхразум почти наверняка найдет способ бесконечно продлевать жизнь людей, которые окажутся его современниками, причем не просто продлевать жизнь, но и делать ее абсолютно качественной. Более того, сверхразум увеличит возможности человека далеко за пределы того, что можно было бы предположить; кто знает, вдруг он поможет человеку совсем избавиться от своего бренного организма, загрузит его мозг в цифровую среду и подарит ему идеально здоровое виртуальное тело.

Предположим, что люди решили проблемы контроля искусственного интеллекта и способны загрузить в мотивационную систему сверхразума любую ценность и убедить его считать ее своей конечной целью. Какую ценность нам все-таки следует выбрать? Выбор непрост. Если сверхразум обретет решающее стратегическое преимущество, именно его система ценностей начнет определять судьбу всего вселенского пространства.

Поэтому так важно не допускать ошибок при выборе цели. Но реально ли в подобных делах всерьез надеяться на безошибочность принятых решений? Мы можем заблуждаться относительно нравственных ценностей; не понять, что есть благо для нас самих. Ведь выбор конечной цели для машинного сверхразума — цели, от которой зависит будущее всего человечества — наиболее неведомый из всех возможных сюжетов.

Риски, связанные со сверхразумом, одинаковы независимо от того, когда он будет создан. Если все-таки риски снижаются с течением времени, возможно, лучше было бы замедлить революцию машинного интеллекта. Чем позже произойдет взрыв в развитии интеллекта, тем больше времени будет на решение проблемы контроля.

Чем раньше будет сформулирован принцип, что весь потенциал сверхразума принадлежит всему человечеству, тем больше будет времени, чтобы эта норма прочно утвердилась в умах людей. Сверхразум должен быть создан исключительно на благо всего человечества и отвечать общепринятым этическим идеалам.

Как говорит Ник Бостром, «перед лицом перспективы взрывного развития интеллекта мы похожи на детей, играющих с бомбой. Именно таков разрыв между мощностью нашей игрушки и незрелостью нашего поведения. Сверхразум — это вызов, ответить на который мы не готовы сегодня, и не будем готовы еще долгое время. Мы понятия не имеем, когда произойдет детонация, хотя если поднести устройство к уху, уже можно услышать тихое тиканье».

 


Valentina Zhitanskaya

Valentina Zhitanskaya

Меня зовут Валентина Житанская.

На моём сайте вы найдете:
* теории, гипотезы, мнения учёных и эзотериков о строении Вселенной, истории и будущем Земли;
* о существование в прошлом на Земле высокоразвитых цивилизаций;
* мифы и легенды древних народов;
* эзотерические учения и тайные знания.

Добавить комментарий