В 2020 году из-за пандемии коронавируса и волны социальных протестов во многих странах споры вокруг биометрической идентификации людей усилились.
По мере развития пандемии в 2020 году во всем мире стал расти спрос на сервисы электронной торговли. Исследовательская компания Zacs оценивает годовой рост в 15%, отмечая, что рост этот распределяется по странам и месяцам неравномерно: например, в США в мае 2020 года рост e-commerce составил 93% к маю 2019 года.
Из-за санитарных ограничений в развитых и развивающихся странах начал расти спрос не только на доставку товаров, но и на социальные и финансовые сервисы, оказываемые в дистанционном формате. Это в свою очередь обострило дискуссии о биометрической идентификации личности. Энтузиасты новых технологий говорят об удобстве сервисов, которые предоставляются с помощью Face ID, скептики настаивают на опасностях, которые таит в себе биометрия.
Мое лицо в моем телефоне
Самый распространенный пример биометрии — функция Face ID в смартфонах. Такие алгоритмы могут распознавать одно конкретное лицо в хорошем разрешении и выполнять простые задачи — например, разблокировать телефон.
Более сложные версии могут намного больше. Они способны распознавать все лица, внесенные в базу данных, на видео и фото низкого разрешения. Их работе не мешает ни плохое освещение, ни движение лица. Многие системы даже способны распознавать лица, спрятанные под плотным макияжем или маской.
Эти сложные программы редко используются в потребительских продуктах. Сравнительно широкое распространение они получили только в системах умных домов, где распознавание лиц используется для систем безопасности, например, для входа в дом.
Amazon и полиция идут рука об руку
Зато эти программы весьма востребованы среди крупных компаний и властей, которым нужно быстро обрабатывать биометрические данные многих людей.
К примеру, Amazon использует собственную систему распознавания лиц в Amazon Go — сети магазинов без кассиров. Компания также продает доступ к системе полицейским в США. Продукт оказался настолько популярным, что год назад продавцы заявили, что не знают, сколько полицейских участков используют их технологию.
Польза таких программ для полиции очевидна. В сочетании с широкой системой видеонаблюдения, распознавание лиц помогает устанавливать личности преступников и быстро выслеживать их. Мощная программа распознавания лиц может обнаружить разыскиваемого преступника даже в толпе.
Нейросети укрепляют предрассудки
Но такая сила в руках полиции вызывает опасения скептиков. Во-первых, как и любые комплексные алгоритмы, системы распознавания «обучаются» на базах данных. Как отмечают исследователи, базы данных полицейских часто формируются на основе предрассудков, поэтому технологии могут только укрепить стереотипы: исследование трех коммерческих систем распознавания пола, проведенное Массачусетским технологическим институтом, показало, что у них уровень ошибок достигает 34% для темнокожих женщин, что почти в 49 раз больше, чем для белых мужчин.
Рассматривая случаи, когда алгоритм ошибочно идентифицировал двух разных людей как одного и того же человека, исследование показало, что частота ошибок для африканских мужчин и женщин была на два порядка выше, чем для восточноевропейцев, которые показали самые низкие показатели.
Возможность легко находить любого человека открывает перед полицейскими большие возможности для злоупотребления полномочиями. «Мы обеспокоены тем, что многие изображения, размещаемые протестующими в социальных сетях, будут использованы полицией против них», — сказал Альберт Фокс Кан, исполнительный директор Surveillance Technology Oversight Project.
СЕО Kairos Брайан Бракин — одной из крупных компаний-разработчиков систем распознавания лиц — даже заявил, что технология обязательно будет использована во вред простым людям.
Давление со стороны скептиков заставляет предпринимателей осторожно относиться к сотрудничеству с властями в этом направлении. В июне 2020, в разгар протестов Black Lives Matter, Amazon даже временно закрыл доступ полиции к своему инструменту для распознавания лиц. Представители компании заявили, что мораторий должен дать Конгрессу время на разработку нужных правил по использованию таких программ. Microsoft и IBM также приостановили доступ правоохранителей к своим системам.
Фото: unsplash.com