Нейросети никудышно распознают темнокожих мужиков и дам

    Система определения лиц уже довольно плотно вошла в нашу жизнь. Она находит применение в сканерах наподобие Face ID и даже употребляется для поиска преступников. Однако, как только докладывает издание Science Daily, группа исследователей из Массачусетского технологического вуза (MIT) и Стэнфорда, исследовав несколько коммерческих ИИ-алгоритмов для определения лиц, выявила в их признаки сексизма и расизма.

    В процессе научные исследования выяснилось, что при анализе фото белоснежных мужиков методы ошибочно измеряли пол только в 0,8% случаев, а уж в случае темнокожих дам процент ошибок составлял в посредственном подле 30%. Для выявления закономерностей сотрудница MIT Джой Буоламвини собрала 1200 фото различных граждан (на которых, вобщем, в большей степени были запечатлены дамы с черной поверхностью тела). Потом она обратилась к шкале Фитцпатрика, согласно которой бытует 6 фототипов кожи, где I – самый безоблачный, а уж VI – самый черный.

    Напоследок выяснилось, что для дам с черной поверхностью тела с оценкой IV, V либо VI по шкале Фицпатрика процент ошибок составил 20,8%, 34,5% и 34,7% соответственно. Таким макаром удалось установить, что чем мрачнее фототип кожи – тем самым все больше возможность тамошнего, что метод допустит ошибку. При идентификации мужиков со безоблачной поверхностью тела процент ошибок и не превосходил 0,8%. Наиболее тамошнего, Джой (которая сама является афроамериканкой) попробовала проанализировать собственные фотографии, и оказалось, что системы или и не распознают ее личико, или ошибочно формулируют пол.

    На деле, к схожему изучению можно относиться по-разному. Однако отбросив в сторону все шуточки и предрассудки об толерантности, изучение поднимает максимально важнейший вопросец: а уж вправду ли методы определения лиц ишачят подабающим образом? Ведь с помощью их в фолиант же Китае уже умеют постараться привлечь к уголовщины. За исключением тамошнего, новое изыскание малосильно соотносится с заявлением одной из софтовых корпораций, которая образовывала программное обеспечение для нейросетей и утверждала, что них софт распознает личика с точностью в 97% случаев. Как считаете вы? Выскажете свое воззрение в нашем новейшем телеграм-чате.