ИИ прибыл: вот что беспокоит безоблачные интеллекты населения земли

    В первое воскресенье 2015 года Элон Маск получился на сцену закрытой конференции в Пуэрто-Рико, дабы обсудить взрыв ума. Этот чудовищный теоретический термин значит неконтролируемый семимильный прыжок в познавательной навыки искусственного ума. Как только Маск, эдак и узнаваемый физик Стивен Хокинг полагают, что в один прекрасный момент ИИ готов стать приговором для людской расы.

    ИИ прибыл: вот что беспокоит безоблачные интеллекты человечества

    Само возникновение этакий фигурки, как только Элон Маск, на конференции, которая длительное время существовала вотчиной смутных академиков, — знаменательное обстоятельство. Но конференция с жизнеутверждающим заглавием «Будущее ИИ: способности и проблемы» предстала беспримерной встречей светлейших интеллектов населения земли; приехал профессионал по этике ИИ из Оксфорда Ник Бостром, основоположник Skype Яан Таллинн и эксперт по ИИ в Гугл Шейн Легг.

    Маск и Хокинг обеспокоены тем самым, что ИИ может привести к апокалипсису, хотя существуют и поболее явные опасности. За крайние пять лет заслуги в области искусственного ума — в частности, в сфере глубочайших нейронных сетей — вывели искусственный ум в нашу ежедневную жизнь. Гугл, Facebook, Microsoft, Baidu — ежели именовать несколько корпораций — нанимают профессионалов по искусственному уму с беспримерной скоростью и внедряют сотки миллионов баксов в гонку за наиболее совершенные методы и мозговитые компы.

    Трудности искусственного ума, кои казались нерешабельными всего пару лет обратно, уже решены. Глубочайшее обучение дозволило состояться искусному распознаванию речи. Гугл возводит самоуправляемые авто и компьютерные системы, кои умеют без помощи других обучаться измерять кошек на видео. Роботы-собаки прогуливаются практически эдак же, как только них живы сородичи.

    «Начинает ишачить компьютерное зрение, зафункционировало определение речи. Существуют определенное увеличение скорости в развитии систем искусственного ума, — разговаривает Барт Зельман, доктор Корнелльского вуза и этик ИИ, прошлый на мероприятии с Маском. — Все это же принуждает заниматься конкретно этикой ИИ».

    Беря во внимание этот значимый рост, Маск и альтернативные ученые призывают тамошних, кто образовывает эти товары, подробно анализировать этические последствия. На конференции в Пуэрто-Рико делегаты подписали открытие письмецо, призывающее заняться кропотливым исследованием последствий развития искусственного ума, дабы избежать потенциальных ошибок. Маск тоже подписался. «Ведущие исследователи ИИ рассказывают, что сохранность ИИ — максимально значимая вещь. Я с ними согласен».

    Гугл созывает совет

    Девять исследователей из DeepMind, предприятия по создании искусственного ума, которую заполучила Гугл в минувшем году, тоже подписались под письмецом. В целом история письмеца уходит корнями гораздо в 2011 год. Тогда-то Яан Таллинн познакомился с Демисом Хассабисом опосля тамошнего, как только крайний изготовил презентацию на конференции по искусственному уму. Недавно Хассабис основал жаркий стартап DeepMind, и Таллинн сиим очень заинтересовался. С момента основания Skype он предстал евангелистом неопасного ИИ и находил приверженцев. Двое мужиков разговорились о ИИ, и скоро Таллинн инвестировал в DeepMind, а уж в минувшем году Гугл изложила 400 миллионов баксов за организацию с 50 коллегами. В один присест Гугл овладела наикрупнейшим легкодоступным пулом талантов и профессионалов в сфере глубочайшего обучения. Гугл и не открывает амбиции DeepMind, однако доподлинно понятно, что DeepMind занимается исследовательскими работами, кои дозволят ботам либо самоуправляемым карам предпочтительнее ориентироваться в окружающей среде.

    Все это же тревожит Таллинна. В презентации, которую он вообразил на конференции в Пуэрто-Рико, Таллинн вспомянул, как только в один прекрасный момент за обедом Хассабис проявил ему же систему машинного обучения, которая могла играться в традиционную аркадную игру 80-х годов Breakout. Не достаточно тамошнего, что машинка освоила игру, она к тому же игралась в нее с кровожадной эффективностью, что потрясло Таллинна. Хотя «технолог во лично мне опешил этому достижению, иная моя сторона призадумалась об фолиант, каким кровожадным возможно искусственный ум, демонстрирующий неописуемые возможности», вспоминает Таллинн.

    Разрешения и запреты этического замысла уже принимались в истории, к примеру, молекулярными биологами во время встречи 1975 года Asilomar Conference on Recombinant DNA (Асиломарская конференция по рекомбинантной ДНК), когда они условились об эталонах сохранности, направленных на предотвращение сотворения искусственных на генном уровне измененных организмов и сотворения опасностей для мировой общественности. Асиломарская конференция пока что отдала наиболее объективные результаты, ежели дискуссии в Пуэрто-Рико.

    На конференции в Пуэрто-Рико участники подписали письмецо, излагающее ценности исследований в области ИИ — экономические и правовые последствия, также сохранность систем ИИ. Вчера Элон Маск подчеркнул 10 миллионов баксов на эти научные исследования (о этом ниже). Это же принципиальные первые шаги по удержанию ботов от разрушения экономики. Некие предприятия отправь гораздо далее. В минувшем году канадский производитель робототехники Clearpath Robotics пообещал и не производить автономных ботов для пользования в военных целях. «Люди, кои против роботов-убийц: мы поддерживаем вас», — написал технический директор Clearpath Robotics Райан Гэрипай на медиа-сайте предприятия.

    ИИ прибыл: вот что беспокоит безоблачные интеллекты человечества

    Обещания и не возводить терминаторов — это же один этап. Предприятия по создании искусственного ума вроде Гугл обязаны мыслить об сохранности и юридической ответственности собственных самоуправляемых каров, ботов, оставляющих граждан без работы, и ненамеренных последствий алгоритмов, кои умеют яизвестия себя несправедливо по отношению к людям. Например, этично ли исходя из убеждений Amazon продавать товары по одной стоимости одним людям, и по альтернативный — другим? Каковы гарантии тамошнего, что торговый метод и не обрушит товарные базары? Что будет с людьми, кои ишачят таксистами и водителями автобусов в эру самоуправляемого транспорта?

    Итамар Арель — основоположник Binatix, предприятия глубочайшего обучения, которая ишачит на фондовом базаре. Он и не был на конференции в Пуэрто-Рико, однако подписал письмецо скоро опосля чтения. По его словам, ввиду предстоящей революции в сфере разумных алгоритмов и дешевеньких разумных ботов, все это же надо подробно учить и прорабатывать. «Пришло время подчеркнуть добавочные ресурсы для осознания соц последствий систем искусственного ума, кои будут теснить темно-голубые воротнички с рабочих мест, — говорит он. — На мой взор, явно, что они будут развиваться со скоростью, при которой сообщество и не сумеет них догнать. И это же проблема».

    Средства массовой информации умеют как только угодно раздувать из мухи слона, снабжая аналогичные материалы заголовками на тематику тамошнего, что ИИ поработит мир, однако на самом деле все куда прозаичнее. Ординарно последствиями ИИ будут заниматься на метауровне, силами рекомендаций по этике и консультантов по сохранности искусственного ума.

    10 миллионов на борьбу с искусственным умом

    Элон Маск переживает, что научные исследования искусственного ума умеют пойти и не в ту самую степь, совсем и не в ту самую.

    Может появиться нежданным, что конструктор концептуальной скоростной транспортной системы Hyperloop, генеральный директор корпораций SpaceX и Tesla задумывается конкретно эдак. Однако Маск так всерьез к этому относится, что опосля конференции в Пуэрто-Рико он пожертвовал 10 миллионов баксов Колледжу грядущего жизни (Future of Life Institute, FLI), который будет разрабатывать глобальную исследовательскую программку, ориентированную на сохранение ИИ «полезным для человечества». То есть, Маск намерено, дабы ИИ вырос только в полезную, а уж и не страшную вещь для граждан.

    Програмка — и эти 10 миллионов баксов — будут спонсировать научные исследования по всему миру, ориентированные в этом русле. В пн FLI откроет портал, позволяющий ученым подавать заявки на гранты по програмке.

    Длительное время искусственный ум оставался в поле зрения Голливуда и научной фантастики или дискуссировался в абстрактной философии. Однако по мере тамошнего, как только великаны вроде Гугл включают ИИ в саму сердцевину собственных текущих и грядущих технологий, а уж волна маленьких стартапов образовывает деловую на гребне данной науки, мы и не можем опровергать сильное развитие ИИ. Но дебаты по поводу этической стороны вопросца будут длиться гораздо длительно.