Никита Аронов, Ольга Филина, Кирилл Журенков, разбирались, зачем нас будут сканировать на каждом шагу
Новость недели: с будущего года все московские городские видеокамеры будут проверять прохожих по базам разыскиваемых преступников. Как наc начали сканировать при всяком удобном случае, разбирался «Огонек»
«Нет задачи контролировать каждого гражданина, но поиск преступников и пропавших людей — это важно»,— заявил на прошлой неделе замминистра строительства и ЖКХ Андрей Чибис и пообещал включить систему распознавания лиц в разрабатываемый сейчас министерством стандарт городской инфраструктуры «Умный город».
Но Москва взялась за дело, не дожидаясь. Столичная мэрия обещает в течение 2019 года подключить к системе розыска преступников все городские камеры наружного наблюдения. Причем 40 процентов столичных камер, по заявлениям мэрии, уже обновлены под эту задачу. Эксперимент с распознаванием лиц по видео запустили еще накануне чемпионата мира по футболу на камерах московского метро и, похоже, считают удачным.
Сколько удалось поймать настоящих преступников, цифры разнятся. В департаменте информационных технологий мэрии Москвы говорят о 98 нарушителях. «Ростех», инвестировавший в компанию NtechLab, которой принадлежит один из тестируемых алгоритмов FindFace Security, заявил о 180 правонарушителях из федеральных баз данных. А ведь есть еще второй алгоритм — FaceControl компании «Вокорд». Какой из них в итоге поставит на вооружение Москва, пока не известно. Но и то, и другое — отечественные разработки.
Конец приватности?
Наталия Беломестнова, советник практики IP / Digital компании Bryan Cave Leighton Paisner (Russia) LLP
Тут явный предмет для национальной гордости. В топе мировых рейтингов распознавания лиц три российские компании. И это, видимо, не просто совпадение.
— Сложились несколько факторов. Во-первых, у российских разработчиков была база имен и фотографий «Вконтакте», которую долгое время было очень легко выкачивать из этой социальной сети. Во-вторых, в нашей стране сильный запрос на безопасность, в том числе со стороны государства. Но не только государства — у нас на каждой парковке охранник со шлагбаумом,— объясняет Антон Мальцев, директор компании CVML, специализирующейся на компьютерном зрении и машинном обучении.
Стоит ли удивляться, что когда в отрасли случилась маленькая революция, российские компании ее возглавили. Революция связана с нейронными сетями, это такие программы, учащиеся решать задачи методом проб и ошибок. Изображение лица из видеокадра анализируется последовательно разными слоями нейросети. И на каждом следующем уровне программа выявляет для себя все более абстрактные признаки. Причем программист уже знать не знает, что именно нейросеть считает важным. Все работает по принципу «черного ящика». На входе картинка, на выходе ответ. И вот несколько лет назад эти «черные ящики» научились давать очень точные ответы при сравнении лиц. Впрочем, Мальцев считает, что хоронить привычную приватность пока рано.
— На сегодняшний день все системы распознавания лиц дают очень много ложных срабатываний. Если взять базу из тысячи человек, то каждый 10-тысячный случайный прохожий будет весьма похож на кого-нибудь из этой базы. Цифры ошибок в России никто не раскрывает, но уверен, что они очень большие.
В Британии, где полицейские тоже экспериментировали с распознаванием лиц, цифры обнародовали. И они впечатляют. В Лондоне насчитали 98 процентов ложных срабатываний, в Южном Уэльсе — 92 процента. Полиция Уэльса тут же получила судебный иск от местного жителя Эда Бриджеса. Он возмущен, что искусственный интеллект записал в потенциальные преступники тысячи обычных людей. На родине Оруэлла общественность вообще не одобряет сплошное сканирование лиц. Есть целое движение, в котором участвует баронесса Дженни Джонс из Палаты лордов.
— На Западе ошибочные задержания и проверки вызывают негативную реакцию. В России нет. Но у нас есть другой сдерживающий фактор,— успокаивает Антон Мальцев.— Если полицейские поймут, что большую часть времени они отрабатывают ложные срабатывания, то просто начнут саботировать работу системы.
Даже в Китае, где нет проблем ни с общественным мнением, ни с дисциплиной исполнителей, а за гражданами следит система «Острый глаз» из 176 млн камер, все работает далеко не безупречно. Недавно автоматика выписала штраф за переход улицы в неположенном месте актеру, чье фото было напечатано на борту автобуса.
Помощь вместо слежки
Между тем у технологий распознавания лиц множество применений, никак не связанных со слежкой за людьми. Одна из свежих новостей — такая система может заменить паспортный контроль в аэропортах Австралии, сократив очереди для пассажиров.
Похожая система может сделать ненужными проездные билеты. Такой эксперимент уже сейчас проводится на Киевском вокзале в Москве.
В некоторых сетях кофеен и пиццерий летом начали тестировать систему оплаты покупок при помощи системы распознавания лиц от компании VisionLabs. Достаточно загрузить в специальное приложение данные своей карты и свою фотографию, и можно платить за пиццу, просто посмотрев в камеру.
— Соотношение государственных и частных заказчиков среди наших клиентов — 50 на 50 процентов,— рассказал «Огоньку» генеральный директор NtechLab Михаил Иванов.— Среди частных клиентов есть, например, ритейл и компании из индустрии развлечений. Для них не всегда обязательно распознавать конкретного человека. Нейросети в нашем решении довольно хорошо научились определять по лицу пол и возраст. Большинству магазинов нужна обезличенная социодемографическая статистика, учитывающая эти показатели их посетителей.
Еще один важный сектор — контроль рабочего времени на предприятиях. Система с распознаванием лиц заменяет карточки-пропуска, которые сотрудники должны прикладывать, проходя через двери.
Лицо, как уже понятно,— далеко не самый безошибочный способ распознать человека. Зато самый дешевый — достаточно простенькой камеры за 5 долларов. В отличие от других видов биометрии, например по радужке глаза.
Впрочем, технологии зачастую начинают применяться совсем не для того, для чего их придумали. Так, одним из нашумевших продуктов с распознаванием лиц стал сервис FindFace от той же NtechLab. По изначальной задумке он помогал искать людей в сети по фотографии: понравилась девушка на фото, нашел ее во «Вконтакте» и познакомился. Но все очень быстро вышло из-под контроля. В рунете появился сайт, который деанонимизирует участников протестных акций. Другой сайт собирает базу воюющих на Донбассе. А еще началась массовая травля порноактрис с последующим шантажом. Весной FindFace был закрыт. Но одна важная вещь стала пугающе ясна. Если уж появилась технология, способная следить за людьми, она легко перестает быть монополией государства и, по идее, может попасть в любые руки.
экспертиза
Трактуем расширительно
Если распознавание лиц используется для установления личности человека (его идентификации), речь идет о получении биометрической информации — особой категории персональных данных, обрабатывать которые федеральный закон «О персональных данных» разрешает только с письменного согласия человека. Из этого правила есть ряд исключений: обработка биометрических данных в связи с осуществлением правосудия или обеспечением безопасности, а также, например, для противодействия терроризму не требует согласия субъекта. А значит, распознавание лиц в общественных местах и полицией в определенных случаях может вестись без вашего ведома.
Интересный с правовой точки зрения вопрос возникает в том случае, если распознавание лиц используется не для установления личности конкретного человека, а для сбора и анализа данных о неких субъектах (посетителях, прохожих), например если система видеонаблюдения просто констатирует, что «потребитель 555» бывает в таких-то магазинах семь раз в неделю, не устанавливая при этом его ФИО. Будут ли такие данные собственно «персональными»? Еще некоторое время назад на этот вопрос можно было ответить отрицательно, поскольку понятие «персональных данных» трактовалось на практике довольно узко. Сейчас же, со все большим внедрением в нашу жизнь IT-технологий, взгляды регуляторов и судов стали меняться.
На сегодняшний день в России, как и в Европе, берет верх «расширительная трактовка»: к персональным данным относится весь массив информации, связанной с человеком, даже если она не указывает на конкретного Ивана Петрова. А значит обработка таких данных требует получения согласия субъекта. Проще говоря: чтобы магазин мог анализировать с помощью системы распознавания лиц, как часто вы его посещаете, вы должны ему это разрешить, даже если при этом вы идентифицированы магазином лишь как «Посетитель Х».
Однако вопрос с правовым регулированием этой сферы остается все еще открытым. Поскольку большие пользовательские данные представляют гигантский коммерческий интерес, в настоящее время предпринимаются активные попытки ввести отдельное регулирование и установить новые правила их использования и оборота. Только за последний год разрабатывалось несколько независимых законопроектов, предлагающих разные, часто полярные, подходы к определению правил игры на этом поле. Какой подход в конечном итоге будет воплощен в принятом законе — вряд ли кто-то сегодня возьмется предсказать.
Никита Аронов
Кирилл Журенков
Ольга Филина
