В американском городе Детройт полицейские задержали для проверки мужчину по имени Роберт Джулиан-Борчак Уильямс. Программа алгоритмов на базе искусственного интеллекта в полицейском участке определила в нём преступника, совершившего кражу в магазине. Позже выяснилось, что система ошиблась, а мужчине пришлось провести за решёткой 30 часов.
Правоохранителям всё-таки удалось разобраться в ситуации, но в случае с Уильямсом программное обеспечение для идентификации лиц стало единственным «доказательством» его вины и причиной ареста, пишет The New York Times.
При этом система распознавания лиц вместе с результатами проверки выдала следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».
Адвокат Клер Гарви, который прокомментировал случай с Уильямсом, считает, что такие случаи уже были, но просто о них так никто и не узнал.
Серьёзно подозреваю, что это не первый случай ошибки системы, в результате которой был арестован человек, не совершавший преступления. Скорее всего, это всего лишь первый случай, когда об этом стало известно общественности, — сказал Гарви.
Сначала Уильямсу для того чтобы выйти пришлось заплатить залог. Когда полицейские выяснили, что он не преступник, они даже принесли извинения. При этом издание отмечает, что после этого случая возник прецедент, указывающий на серьёзную проблему доверия к системам распознавания лиц и алгоритмам ИИ.
Что касается России, то в Москве контроль за системой распознавания лиц находится у Единого центра хранения и обработки данных. ГИС ЕЦХД используется полицейскими, сотрудниками МЧС, а также службами городского управления. По данным МВД, с помощью этой системы видеонаблюдения в 2019 году было раскрыто более трёх тысяч преступлений. По словам главы МВД РФ Владимира Колокольцева, в Москве насчитывается около трёх тысяч интеллектуальных видеокамер по распознаванию лиц, объединённых в масштабную сеть. Данной функцией планируется в будущем оснастить все камеры столицы, которых более 160 тысяч, писал NEWS.ru.
