Как только конкретно ИИ воспринимает решения? Учёные закончили это же осознавать

    Выступающие на конференции Neural Information Processing Systems спецы в области искусственного ума заявили, что закончили осознавать принцип принятия решений, которым управляется ИИ, — докладывает Quartz. По воззрению профессионалов, воспринимать как только подабающее деяния ИИ без осознания его логики — достаточно легкомысленно, ведь дабы люди приняли фотомодели машинного обучения, им же надо аристократию, чем конкретно управляется ИИ, решая, как только конкретно ему же следует поступить в заядлой ситуации.

    Частенько решения, общеустановленные ИИ, бывают тенденциозными, за исключением тамошнего, его ассоциативное «мышление» тоже часто бывает и не настолько безупречным, в итоге чего же ИИ проводит неверные аналогии. Этакие ошибки умеют дороговато обойтись, ежели ИИ будет управлять сложноватыми проектами, таковыми, например, как только полёт на Марс — в том случае ошибочный поступок искусственного ума может не совсем только убить дорогостоящее оборудование, да и повлечь за собой погибели граждан. Потому, перед тем самым, как только дозволить ИИ без помощи других воспринимать принципиальные решения, нужно на первых парах исследовать принципы, которыми он управляется, — объясняет Мэтра Рагху, профессионал по ИИ из Гугл.

    На конференции она предположила доклад, в каком обрисовала процесс отслеживания воздействий отдельных элементов нейросети. Отсматривая них по частям, можно осознать логику ИИ, а уж потом, в случае чего же, её и подкорректировать. Анализируя миллионы операций, она сумела выявить отдельные искусственные «нейроны», кои концентрировались на ошибочных представлениях, а уж потом отключить них, сделав ИИ наиболее покладистым и правильным.

    Это же кое-чем похоже на то, как только учитель подаёт некий материал, а уж потом требует ученика пересказать собственными словами, что конкретно он осознал из лекции, — объясняет Кири Вагстафф ИИ-эксперт из NASA.

    Судя по результатам сего научные исследования, правильно осознать деяния искусственного ума и не так и мудрено. Первостепенное — решить неурядицу перед началом тамошнего, как только станет очень поздно.