В 2016 году компания Amazon разработала и представила общественности систему распознавания предметов и лиц людей. Основана она на работе искусственного интеллекта и называется Rekognition. Считалось, что данная система обладает высокой точностью. Не случайно, в помощь к себе на службу её взяли полицейские отдельных американских городов. Она интегрирована там в системы видеонаблюдения, размещённые на улицах. Наблюдая за прохожими, Rekognition сверяет лица людей с фотографиями разыскиваемых преступников и помогает их найти.
На днях, союз защиты гражданских свобод США (ACLU) решил перепроверить эффективность данной системы распознавания. Для этого, был поставлен эксперимент. Сотрудники ACLU отобрали фотографии 25 тысяч американских преступников и добавили к ним фотографии 535 конгрессменов. После этого, к работе подключили Rekognition, которая должна была проанализировать весь этот материал.
Результаты, как сообщается, оказались неутешительными. Система путалась, и, в числе 5 сотен конгрессменов, нашла 28 преступников. Мало того, система оказалась немного расистской. Большинство тех, кого она ошибочно называла преступниками, являлись конгрессменами афроамериканцами. Например, известного борца за гражданские права чернокожих Джона Льюиса система идентифицировала как грабителя.
Amazon, узнав о результатах этого исследования, конечно же расстроились, но не растерялись, и нашли себе оправдание. По их словам, организаторы эксперимента изначально неверно выставили порог доверия - вместо 90%, было поставлено 80%. Это означает, что когда система была уверена в своей правоте на 80%( или, к примеру, совпало 80% характерных маркеров) она давала утвердительный ответ. В тоже время, как сказали разработчики, этого мало. Нужно, чтобы было, как минимум, 90.
В общем, система не идеальная, но даже в таком виде, может быть полезной в различных сферах. Amazon, надо полагать, не сложно будет исправить ошибки и довести точность распознавания до более высоких значений. Что касается эксперимента, то он получился весёлым. Вряд ли к нему можно относиться с серьёзностью.
Система распознавания лиц Amazon Rekognition перепутала американских конгрессменов с преступниками
