Искусственный ум: и не утопия, и не апокалипсис… однако что?

    Почти каждый, кто хоть малость окунается в тематику искусственного ума, приходит к выводу, что или он приведет нас к пламенному апокалипсису, или к магической утопии. Вариаций меж почти нет. Конечно же, частично это же продиктовано тем самым фактом, что все больше внимания завлекают лозунги вроде «Конец близок!» либо «Утопия грядет!». И все же…

    Частично это же сводится к тамошнему, как только люди относятся к изменениям, в особенности масштабным. Миллениаризм и не имеет никакого взаимоотношения к тамошнему, дабы быть «миллениалом», родиться в 90-х и держать в голове телесериал про Баффи, победительницу вампиров. Это же имидж мышления об грядущем, который сопряжен с глубоко устоявшимся чувством судьбы. Миллениаризм — это же «ожидание тамошнего, что мир будет уничтожен и заменен на совершенный мир и что придет искупитель, который повергнет зло и утешит праведников».

    Убеждения миллениалов, соответственно, тесновато связывают идеи разрушения и творения. Посреди их — идеи больших, апокалиптических, сейсмических сдвигов, кои убьют ткань пожилого мира и возведут нечто совсем новое. Аналогичная система убеждений бытует в почти всех больших религиях мира, и даже в и не вконец религиях атеистов и агностиков, кои веруют в технологии.

    Посмотрите, к примеру, как только футурологи ожидают технологической сингулярности. По воззрению Рэя Курцвейла, сингулярность — это производство рая. Каждый станет бессмертным, благодаря биотехнологиям, кои излечат наши заболевания; наши мозги можно будет загрузить в туча; неравенство и страдание пропадут как только явления. «Разрушение мира» (destruction of the world) заменяется на любимый термин Кремниевой равнины: disruption, либо радикальное изменение отрасли. И как только и в случае с иными тысячелетними убеждениями, ваш итоговый взор находится в зависимости от тамошнего, чего же вы ожидаете: финала света либо рождения утопии.

    Бытует не мало не плохих обстоятельств оставаться скептиком относительно этакого рода мышления. Самая убедительная из их состоит, возможно, в фолиант, что убеждения миллениалов просто-напросто отражают само отношение граждан к изменениям; ординарно взгляните, как только не мало вариантов этих убеждений вырастало во всем мире.

    Эти убеждения находятся в критериях христианского богословия, хоть и стали пользующимися популярностью в собственной современной форме в 19 и 20 веках. Идеи вроде Нескончаемой скорби — почти всех лет страданий и тягот — и Восхищения, когда праведники будут воскрешены, а уж зло наказано. Опосля этих разрушений мир будет сотворен поновой, или люди отправятся в рай.

    Невзирая на догматический атеизм, в марксизме существовало не мало схожих убеждений. Вопросец только в отношении к истории. Определенно эдак же, как только верующие отыскивают сигналы, кои намекнут на выполнение предсказаний, марксисты отыскивают символы тамошнего, что мы находимся в финишной стадии капитализма. Они полагают, что сообщество безизбежно деградирует и выродится перед началом самых низов — собственно, как только полагают и христиане.

    Согласно марксизму, когда эксплуатация рабочего класса зажиточным станет неуравновешенной, рабочий класс собирается и сбрасывает угнетателя. «Скорбь» сменяется «революцией». Время от времени революционные фигурки вроде Ленина либо самого Маркса провозглашаются мессиями, кои приближают пришествие Миллениума; них риторика безизбежно содержит призывы к разрушению старенькой системы, на развалинах которой «мы наш, мы новейший мир построим». Праведные рабочие получат свое по праву, а уж злая буржуазия будет уничтожена.

    Даже в норвежской мифологии существуют элемент этакого, как только помечает Джеймс Хьюз в собственном эссе в книжке Ника Бострома «Глобальные чертовские риски». В Рагнарок и люди, и боги терпят поражение в финишной апокалиптической битве, однако так как все это же немножечко мрачновато, скандинавы добавили идею возникновения новейшей почвы, на которой выжившие будут жить в гармонии.

    Судный денек тоже предстал культурным тропом. Взять старинных египтян и них верования на тематику загробной жизни; владыка подземного мира Осирис взвешивает сердечко смертного наряду с пером. Ежели сердечко погибшего будет очень отягощенным проступками, его съест бес и надежда на загробную жизнь пропадет.

    Может быть, во время сингулярности произойдет нечто схожее. По мере тамошнего, как только улучшаются наши технологии, а уж означает и наша сила, наши сердца, сердца граждан, будут взвешены против перьев. Ежели они окажутся очень трудными — с тупостью, высокомерием, предубеждением, злом — мы провалим испытание и будем уничтожены. Однако ежели мы пройдем и выйдем из сингулярности, нас ожидает рай. Как только и в остальных системах убеждений, тут нет пространства для неверующих; все сообщество конструктивно поменяется, желаете вы сего либо нет. Технологическое восхищение.

    Похоже, каждое нешуточное развитие стимулирует этакий ответ. И ядерное орудие тоже. Или это же станет крайней каплей и мы уничтожим себя, или ядерную энергию можно будет применять для сотворения наилучшего мира. На заре ядерной эры люди разговаривали о электричестве, «которое будет очень дешевеньким, дабы его считать». Ученые, кои ишачили над бомбой, частенько задумывались, что с этакий разрушительной силой в руках человека мы будем ординарно вынуждены собраться и ишачить сообща как только общий вид.

    Когда мы лицезреем один и этот же ответ, опять и опять, в различных обстоятельствах, возникающих в различных областях, будь то наука, религия либо политика, нам надо учесть людские предубеждения. Нам нравятся убеждения миллениалов, потому когда возникает мысль искусственного ума, который затмит человечий, мы здесь же накладываем знакомый шаблон.

    Нам и не нравятся факты. Нам и не нравится информация. Мы и не так рациональны, каковыми себя считаем. Мы сотворения нарратива. Физики наблюдают мир, и мы вплетаем собственные наблюдения в нарративные теории, истории об крохотных бильярдных шариках, кои летают здесь и там и сталкиваются меж собой, или об пространстве и времени, которое изгибается, искривляется и расширяется. Историки пробуют наделить смыслом нескончаемый поток обстоятельств. Мы обожаем истории: историями выложено наше прошедшее, наше полноценное и они же готовят нас к грядущему.

    Нарратив миллениалов великолепен и убедителен. Он приводит вас к соц изменениям. Он может оправдать ваши ежедневные мучения, ежели вы скорбите. Он предлагает для вас надежду на то, что ваша жизнь немаловажна и осмысленна. Он предлагает для вас ощущение развития вещей в конкретном направлении, в согласовании с правилами, а уж не совсем только в хаосе. Он обещает, что праведники будут сохранены, а уж еретики наказаны, даже ежели на пути будут мучения. В конце концов, нарратив миллениалов обещает рай в финале тоннеля.

    Нам стоит ли быть осторожнее с нарративом миллениалов, когда мы размышляем на тематику технологического развития, сингулярности и экзистенциальных рисков. Мы не мало раз орали «волки!», когда них и не существовало. Может быть, и ныне мир и не стоит ли на грани трагедии. Конечно же, эта история и не такова притягательная. Конечно же, всем охото феерического исхода.

    Однако копните поглубже — и вы поймете, что убеждения миллениалов и не все время самые многообещающие, так как они исключают людского агента из уравнения. Нам придется поверить в колеры сероватого и отрешиться от наизловещих апокалипсисов с красноглазым ИИ и от мифической утопии со всевластным ИИ, который любит граждан.