Исследование ученых из Университета Нотр-Дам готовится к публикации в Journal of Applied Research in Memory and Cognition. Авторы сравнили коммерческие и открытые системы распознавания лиц с оценками примерно 4 тыс. человек. Участники и алгоритмы определяли сходство лиц на стандартизированных фотографиях, включая 329 изображений людей разных расовых групп.
Лучшие модели показали результат, сопоставимый с уровнем наиболее способных экспертов-людей. Однако это не означает, что технология распознает лица безошибочно. Скорее исследование показало, насколько сильно способности самих людей различаются: часть участников заметно хуже справлялась с задачей, тогда как люди с природно высокой способностью запоминать лица чаще соглашались с оценками алгоритмов. В зависимости от модели совпадение было как минимум на 15% выше.
Почему остались рассовые предрассудки
На результат влияли сразу три фактора: способности конкретного человека, расовая принадлежность участника и группа, к которой относилось лицо на фотографии. Разные модели нередко давали неодинаковые ответы и хуже работали с группами, которые были недостаточно представлены в данных для обучения. Высокая средняя точность могла скрывать заметные различия между отдельными категориями изображений.
Люди также оказались подвержены ошибкам, особенно при распознавании представителей других расовых групп. Поэтому схема «алгоритм предлагает совпадение, человек принимает окончательное решение» сама по себе не гарантирует справедливого результата. В полиции или суде ошибка системы может соединиться с ошибкой оператора, а не исправиться благодаря его участию.
Дополнительную проблему создает закрытость коммерческих алгоритмов. Пользователь часто не знает, какие признаки повлияли на решение и на каких данных обучалась система. Авторы приводят судебное дело в Нью-Джерси, где полицию обязали раскрыть устройство примененного алгоритма, чтобы обвиняемый мог оспорить полученное доказательство. Исследователи считают, что проверять необходимо обе части системы — и искусственный интеллект, и человека, который подтверждает его вывод.
Ранее Наука Mail рассказала об инструменте, который находит в обучающих данных случайные признаки, способные ввести медицинский ИИ в заблуждение.