Слияние граждан и машин и не приостановит восстание машин

    Генеральный директор Tesla и основоположник OpenAI Илон Маск на минувшей недельке представил, что население земли может свести на нет собственный ужас перед восстанием машин (другими словами ботов) за счет слияния с этими самыми машинками и перевоплощения в киборгов. Но современные тенденции в области искусственного ума, заточенного чисто под программное обеспечение, и технологии глубочайшего обучения вызывают суровые сомнения в почве этакого заявления, в особенности в длительной перспективе. И сопряжено это же не совсем только с аппаратными ограничениями, да и с участием людского головного мозга в этом всем.

    Тезис Маска очень прямолинеен: довольно развитые нейрокомпьютерные интерфейсы дозволят людям массово прирастить свои способности, предпочтительнее применять этакие технологии, как только машинное обучение и глубочайшее обучение. Однако этакий обмен будет двухсторонним. Нейрокомпьютерные интерфейсы посодействуют а также заполнить пробелы в методах машинного обучения за счет граждан, к примеру, при принятии контекстуальных решений. Мысль сама по самому себе и не нова. Ликлайдер и альтернативные размышляли об способности и последствиях «симбиоза человека и компьютера» посреди 20 века.

    Прогресс шел медлительно. И не в последнюю очередь по причине развития аппаратного обеспечения. «Если причина, посему hardware (аппаратное обеспечение) эдак именуется — потому что оно hard (тяжелое)», рассказывал Тони Фаделл, автор iPod. А уж сделать аппаратное обеспечение, которое будет сопряжено с органическими системами, будет гораздо сложнее.

    Современные технологии просты, ежели ассоциировать них с изображениями нейрокомпьютерных интерфейсов в научно-фантастических фильмах вроде «Матрицы».

    Причуды глубочайшего обучения

    Ежели представить, что аппаратная неполадка будет в конечном счете решена, остаются и альтернативные трудности. Крайнее десятилетие неописуемых достижений в области исследовательских работ глубочайшего обучения продемонстрировало, что некие препятствия преодолеть и не так и ординарно.

    Во-первых, мы ординарно и не осознаем не можем обрисовать, как только конкретно работают сложноватые нейронные паутине. Мы доверяем простейший технологии вроде калькулятора, так как знаем, что она все время будет определенно выполнять то, что мы от нее желаем. Его ошибки — это же в большинстве случаев итог неверных воздействий со стороны человека.

    К примеру, мы жаждили бы, дабы дополнение нас машинкой дозволило бы нам предстать совершенными в математике. Дабы заместо тамошнего, дабы доставать калькулятор либо телефон, мы могли бы поразмыслить об расчете и получить моментальный ответ от вспомогательной машинки.

    Все становится труднее тогда-то, когда мы пытаемся подключить наиболее сложноватые опции, предлагаемые способами машинного обучения. К примеру, глубочайшее обучение.

    Допустим, вы работаете коллегой сохранности аэропорта и ваш головной мозг дополняет машинка, которая автоматизированно сканирует тыщи лиц, кои вы видите повседневно, предупреждая об потенциальных рисках для сохранности.



    Большая часть систем машинного обучения мучаются от грустно знаменитой трудности: когда крохотное изменение внешнего облика либо объекта может привести к сбою в системе, и не отдать ей же определенно систематизировать объект. Измените изображение человека на 1% — и машинная система может поразмыслить, что это же велик.

    Террористы либо правонарушители умеют применять разнообразные уязвимости машинки, обходя проверку сохранности. Эта неполадка уже мешает онлайн-безопасности. Люди, хоть и консервативные в неком смысле, и не будут уязвимы к этаким обходам.

    Невзирая на то, что у машин сложилась репутация объективных, технологии машинного обучения тоже мучаются от предвзятости и даже умеют показывать расистское поведение, ежели внедрить надлежащие заданные. Эта непредсказуемость имеет суровые последствия для тамошнего, как только человек будет подключаться к машинке и как только будет ей же доверять.

    Веруй лично мне, я бот

    Доверие — это же улица с двухсторонним движением. Людская идея — это непростая, максимально динамическая деятельность. Как только машинке осознать, какую часть людской предвзятости игнорировать? Наконец, мы все сталкиваемся с ней, совсем и не отдавая самому себе в этом отчета. Как только сделать технологию, которая будет помогать для вас набирать граждан на работу?

    В некой степени мы можем следить вопросцы доверия в нейрокомпьютерных интерфейсах, ежели поглядим на то, как только оборонные силы по всему миру пробуют решить вопросец доверия граждан к машинкам на смешанном поле боя. Люди пробуют доверять машинкам, а уж машинки — людям.

    Существуют параллель меж боевым роботом, который воспринимает этическое решение проигнорировать нелегальный приказ, отданный человеком, и происходящим в нейрокомпьютерном интерфейсе: машинка обязана интерпретировать мысли человека и отфильтровать мимолетные мысли и глубочайшие безотчетные предвзятости.

    В оборонных сценариях логическая участие людского головного мозга будет заключаться в проверке этичности этаких решений. Однако как только быть, когда человечий головной мозг будет подключен к машинке, которая способна выполнять логические выводы на базе заданных в этаких масштабах, каких ни один головной мозг и не может окутать и осознать?

    В длительной перспективе вопросец состоит в том, когда и как только люди будут вовлечены в процессы, кои больше определяются машинками. Максимально вскоре машинки начнут воспринимать мед решения, кои ни один человек либо команда граждан и не сумеют осознать. Какую участие тогда-то будет играться головной мозг в этом процессе?

    В энных вариантах сочетание автоматизации и работников-людей может прирастить число рабочих мест, однако этот спецэффект будет мимолетным, вероятнее всего. Те самые самые боты и системы автоматизации будут улучшаться, пока что и не избавят сделанные ими же рабочие пространства. Определенно эдак же и люди, кои будут играться «полезную» участие в нейрокомпьютерных интерфейсах, будут меньше врубаться в эту цепочку, так как технологии будут улучшаться.

    Мысль сохранения актуальности населения земли за счет интеграции людского головного мозга с искусственным кажется симпатичной. Однако нам гораздо лишь предстоит узнать, какой же вклад будет выполнять человечий головной мозг, ежели развитие технологий опереждает развитие головного мозга в миллион раз.