Прогнозирующий злодеяния ИИ «уволили»

    Метод Compas, работавший на южноамериканскую полицию с 1998 года, занимался анализом заданных подсудимых, а уж потом на базе приобретенной инфы помогал решить, к примеру, стоит отпускать правонарушителя под залог либо же предпочтительнее бросить под стражей. Выбирая меру пресечения, система учитывала возраст, пол и послужной перечень на преступном поприще. За 20 лет «службы» метод оценил наиболее миллиона человек, однако не так давно его признали несведущим, после этого он немедля был отозван.

    ??Ученые из Дартмутского института проверили, как точна система и можно ли ей же доверять. Для сего они набрали фрилансеров, обыкновенных граждан без юридического образования, вынести собственные решения на базе маленьких справок об людях, выдав испытуемым информацию об поле, возрасте, уголовном минувшем и ещё пары параметрах.

    Точность прогноза располагавших маленьким досье фрилансеров составила практически 70 процентов, програмка же отстала от граждан на пять процентов, причем делая упор на 137 пт биографии. Анализ соображений метода проявил, что чернокожие заключённые почаще присутствуют у програмки под подозрением.

    «Ошибки в этаких вариантах умеют максимально дороговато стоить, потому стоит ли призадуматься, а уж надо ли вообщем использовать этот метод для вынесения судебных вердиктов», — разговаривает один из создателей научные исследования.

    Исследовав механизм работы метода, исследователи сделали вывод, что чем младше подсудимый и чем все больше арестов у него за плечами, тем самым свыше возможность рецидива, потому спецы в области ИИ признали технологию неблагонадёжной.