Как алгоритм распознавания лиц арестовал невиновного

Нейросеть распознавания лиц ошиблась: полиция Флориды арестовала невиновного мужчину по подозрению в попытке завлечения ребёнка на основе ошибки алгоритма, хотя он находился в 300 милях от места преступления и физически не мог быть там.

Как алгоритм распознавания лиц может ошибиться?

В этом случае алгоритм выдал 93% уверенность в совпадении, но мужчина жил в 300 милях от места преступления и физически не мог быть там.

Почему полиция полагается на распознавание лиц?

Полицейские Джексонвилл-Бич использовали алгоритм при анализе видео с камер безопасности McDonald's, где фиксировалась попытка завлечения девочки младше 12 лет.