В новом проекте бюджета города Москвы резко выделяется рост статьи «Безопасный город» и подстатьи «Внедрение цифровых технологий для обеспечения правопорядка и профилактики правонарушений». Финансирование статьи увеличилось на более чем 6 млрд руб., а расходы выросли практически в 14 раз.
Как несложно догадаться, большая часть этих средств будет направлена на распространение системы распознавания лиц.
Сейчас в Москве около 200 тысяч видеокамер, а в следующем году их все планируют оснастить специальным программным обеспечением для распознавания лиц. Система распознавания лиц в Москве действует с осени 2017 года, тогда к ней было подключено три тысячи видеокамер, но в соответствии с бюджетом, со следующего года система станет тотальной.
Как вы знаете, подобный цифровой авторитаризм идет к нам из Китая. Но давайте посмотрим, что происходит там…
Систему распознавания лиц в Китае начали вводить еще в 2016 году. Сейчас с помощью лица здесь можно оплатить чек в KFC, снять наличные в банкомате и получить туалетную бумагу в общественном туалете. Все приезжие сталкиваются с системой сразу же на границе. Кроме того, в Китае невозможно потеряться. Благодаря камерам, подключенным к системе распознавания лиц, китайские полицейские способны найти человека даже в многотысячной толпе.
Большая часть «умных камер» приходится на Синьцзян (регион, граничащий с Россией, Монголией, несколькими странами Центральной Азии, Индией и Пакистаном). Усиление цифрового контроля началось здесь в 2014 году, после волны террористических актов со стороны уйгурских боевиков, вызванных убийствами рабочих в Южном Китае в конце нулевых. По факту сейчас за народом организована тотальная слежка, в округе распространены массовые задержания, а за излишнюю религиозность жители могут попасть в воспитательные лагеря.
Система распознавания лиц в Китае используется и для составления так называемого социального рейтинга, по которой гражданам начисляют баллы за «достойное» поведение. Самые распространенные наказания за проступки (от неуплаты налогов до покупки слишком большого количества видеоигр) — запрет на авиаперелеты и поездки на поезде. Например, в 2018 году из-за рейтинга билеты на самолет не смогли купить 17,5 миллиона раз, на поезд — 5,5 миллиона.128 гражданам запретили выезд за границу.
И до недавнего времени почти не было никаких случаев общественного обсуждения и осуждения системы распознавания лиц в Китае, потому что она была полностью оправдана необходимостью обеспечения безопасности.
Однако, именно в последние дни наметилась новая для Китая тенденция. И система распознавания лиц, а главное вопросы хранения персональных данных и информации вдруг стали вопросами повестки дня по всему Китаю.
Приложение Zao, которое позволяет подставить любое лицо на место киноактера, либо героя любого нужного ролика, вдруг заставило китайцев задуматься о безопасности персональных данных и по-новому взглянуть на систему распознавания лиц. Молчавшие ранее китайцы, якобы не переживавшие за предоставление персональных данных во имя удобства и безопасности, вдруг озадачились тем, что массовое владение персональными данными в конечном счете может вести к манипуляциям и глобальному социальному обману. Многие вдруг поняли, что подобные манипуляции могут влиять на итоги выборов и предоставляют безграничное поле для черных технологий.
Пример с приложением Zao – один из случаев нарастающей дискуссии в Китае о безопасности сбора данных.
Хотя яркой дискуссии о безопасности сбора данных в Китае ранее не наблюдалось, однако попытка тихо уйти от системы распознавания лиц присутствовала в стране почти с самого начала ее возникновения.
Одновременно с внедрением системы на китайском рынке сразу появились многочисленные способы ее обхода:
1. Например, очки с LED-лампами, которые как будто занавеской, закрывают лицо от систем распознавания, подсвечивая глаза и нос.
2. Силиконовая маска, напечатанная на 3D-принтере. Камера, увидев лицо, распознает человека. Но только это будет кто-то другой.
3. Яркий макияж, по сути, меняющий черты лица. Изменения цвета кожи или возраста, также делают человека неузнаваемым для камер.
4. Нанесение на одежду и аксессуары специальных принтов, имитирующих черты лица и заставляющих камеры работать некорректно.
5. Проектор, который крепится на лбу и транслирует на лицо человека другое лицо. Такой проектор может также крепиться, например, к кепке.
6. Украшение для лица, которое не дает распознать человека. Это маска из латуни с отражающими элементами на щеках и на лбу. Аксессуар носится как очки. Кстати, украшения для лица стали одним из трендов моды в этом году.
Разработки в этой отрасли не стоят на месте, а развиваются вместе с системами распознавания, что создает, некую соревновательность – цифровую битву на этом фланге.
Но и биометрия идет вперед - будущее за определением человека по нескольким параметрам.
И если у нас пока можно уйти от систем распознавания, закрыв лицо, то в китайских городах Шанхае и Пекине уже сейчас человека могут найти по силуэту, походке и жестам. Систему не обмануть, даже если человек будет хромать или шагать шире. Программа сможет его распознать на расстоянии 50 метров и даже со спины. Сейчас в Китае работают 176 млн камер, а через два года их станет на 450 млн больше. По задумке властей, в 2020 году с помощью систем распознавания за три секунды можно будет узнать в лицо каждого из почти полутора миллиардов жителей страны.
К слову, дискуссия о внедрении системы распознавания лиц идет не только в нашей стране.
Не так давно власти Сан-Франциско запретили использовать как саму технологию распознавания лиц, так и информацию, полученную из внешних систем, которые используют технологию. При этом запрет не повлияет на системы распознавания лиц, которые используют частные компании.
Cан-Франциско стал первым американским городом, где решили отказаться от технологии. Города Окленд и Сомервилль (штат Массачусетс) также рассматривают введение подобных запретов.
В чем опасность использования китайского опыта для Москвы?
1. Одна из очевидных опасностей – это использования технологии в политических целях: слежка за участниками антиправительственных демонстраций. Очевидно, что ответная реакция последует и от самих протестующих… Яркий пример – военизированные события в Гонконге, где протестующие все до одного вынуждены скрывать свои лица. Но здесь возникает замкнутый круг эскалирующегося противостояния: сокрытие лица автоматически влечет чувство большей вседозволенности, а значит ожесточению самого протеста.
2. Еще один риск введения системы идентификации — масштабные утечки. В России и так проблемы с безопасностью данных, а слив централизованной базы с биометрической информацией москвичей может привести к катастрофическим последствиям. Более того, если будет выбран китайский подрядчик, то он будет обязан передавать все данные китайскому правительству. И как в этом случае Мэрия будет успокаивать сторонников всемирного заговора?
3. Сейчас в России отсутствует законодательство, которое регулировало бы распознавание лиц. Биометрию разрешено использовать только с согласия человека. Значит ли это что с нас со всех незаметно возьмут это согласие?
Я глубоко убеждена, что принимать подобного рода решения в столице без широкого общественного обсуждения и информационной кампании невозможно. Зашить подобного рода системную инициативу в подстатью бюджета по безопасности – это подковерная интрига и обман горожан. В мире уже достаточно накопленного опыта работы с системой распознавания лиц, и он должен быть доведен до граждан, а дальнейшие решения должны приниматься с учетом их мнения.
