Когда система распознавания лиц становится небезопасной?

Сегодня в мире активно внедряют систему распознавания лиц и оценки личности по отпечаткам пальцев. Это помогает отследить преступника, который пытается пересечь в границу, а при помощи IP-адреса в комбинации с face recognition можно определить нарушителя порядка в толпе случайных прохожих, пишет Деловой Казахстан.

Но есть и обратная сторона медали – сохранность данных. Как найти баланс между безопасностью и вторжением в личное пространство.

Эксперты прогнозируют, что рынок биометрических технологий к 2027 году достигнет 55,42 млрд долларов. Такую необходимость диктует не только технический прогресс, но и действия преступников: по данным Comparitech, 63% киберпреступлений совершаются «благодаря» тому, что хакеры легко подбирают имена пользователей и паролей для доступа в аккаунт. Успешно противостоять этому помогает система распознавания лиц.

В ее основе - компьютерное «зрение» и алгоритм нейронных сетей. Система способна обнаружить, распознать и отличить людей, анализируя черты лица (изгиб носа, форму подбородка и губ, разрез глаз, наличие веснушек). Изначально распознавание лиц начали применять производители смартфонов: система с помощью сканирования лица определяла владельца телефона и устраняла блокировку, открывая доступ к устройству. Сегодня этим никого не удивишь, а к 2024 году количество гаджетов с таким ПО, по прогнозам, превысит 1,3 млрд.

Но технологии не стоят на месте, и нынче распознавание лиц встраивают в камеры безопасности в общественных местах- на стадионах, в аэропортах, парках и так далее. Цель face recognition - быстро и безошибочно распознать конкретного человека. Алгоритм обнаруживает черты лица, составляет цифровой фоторобот, обращается в базу данных и сравнивает digital-портрет со изображениями других пользователей. Технология определяет личность на основании анализа и сравнения.

Потребность в биометрике особенно ярко проявилась в период пандемии COVID-19, когда в Канаде, США и Таиланде людей, отказавшихся носить маски в общественных местах, фиксировали при помощи дронов. По IP-адресу смартфона и системе распознавания лиц в видеокамерах полиция наводила справки о провинившемся, и нарушителя ждали проблемы.

Чем опасна технология распознавания лиц?

Опрос среди жителей США, проведенный Reservations, показал, что лишь 42,6% респондентов считают принятые меры нормальными. 32,5% опрошенных выступили против использования системы распознавания лиц, потому что считают, что технология может неверно определить личность человека, например, обвинив невинного в совершении преступления.

«В целях безопасности авиалинии и правительства в различных странах собирают огромное количество биометрической информации о путешественниках. Однако предоставление собственной биометрики системе с низким процентом точности и неясными законными основаниями может привести к абьюзу и вторжению в личное пространство. Также до этих данных могут добраться хакеры, и самое страшное, что в системе распознавания лиц и отпечатков пальцев нет параметра «изменить пароль». Если украсть биометрику, будет невозможно устранить нанесенный вред», - выражает опасения вице-президент компании ExpressVPN Гарольд Ли.

Интересно, что еще в 2018 года сотрудник Microsoft Research и Google Тимнит Гебру и Джой Буоламвини из Массачусетского института технологий обнаружили, что программы распознавания лиц неверно устанавливали личность у особ женского пола и людей с темным оттенком кожи. Поэтому компания Axon (знаменитый производитель программного обеспечения и нательных камер для полиции) заявила, что система распознавания лиц недостаточно совершенна для того, чтобы присутствовать в продуктах бренда.

В июне 2020 года Ассоциация компьютерной машинерии в Нью-Йорке обвинила государственные органы в злоупотреблении технологией распознавания лиц «из-за проблем с определением личностей, учитывая этнические, расовые, гендерные и другие человеческие характеристики». А некоторые американские города запретили использование технологии в полиции. На то есть свои причины.

В январе 2020 года Роберт Уильямс был арестован в собственном доме в Мичигане из-за того, что система распознавания лиц посчитала его вором. Технология пришла к такому выводу, сравнив расплывчатое изображение некого темнокожего преступника с фотографией на водительских правах Роберта. Подозреваемый возмутился: неужели полиция не видит разницу между ним и снимком реального преступника? К счастью, через 30 часов после задержания невиновного освободили. Правда, за время, проведенное в полицейском участке, Роберт Уильямс получил травмы, что может свидетельствовать о не самых приятных последствиях «встречи» человека с системой распознавания лиц.

Кто виноват и что делать?

Технология распознавания лиц однозначно хороша, когда выполняет прямые функции – идентификацию обладателя смартфона и разблокировку экрана. Что касается использования в общественных местах, вероятно, face recognition также может помочь отследить нарушителей порядка и преступников. Но опора только на компьютер без применения других подходов не всегда приводит к достижению нужного результата, ибо система распознавания лиц – продукт технологий, пусть и невероятно умный, а техника имеет свойство подводить и ошибаться в самый неподходящий для этого момент.

Фото: из открытых источников