Этот текст опубликован до 24 февраля 2022 года.
Чем опасна технология распознавания лиц? Всегда ли стоит ее бояться и в каких случаях она может быть полезна обществу? Как она вообще работает? Можно ли скрыться от умного алгоритма? Предлагаем присмотреться поближе к технологии распознавания лиц, а также способам и последствиям ее использования. В этом нам помогут художественные проекты с соответствующей тематикой и памятка от Tactical Tech, представленная на онлайн-выставке Data CTRL Centre.
Сборник целиком можно прочитать на сайте Теплицы. Материал создан в поддержку проекта Гёте-Института Data CTRL Centre.
«Технологии предполагают, что есть только один правильный способ делать что-то, и это никогда не верно»
— Роберт Пирсиг, «Дзэн и искусство ухода за мотоциклом» (1974).
О чем речь?
Сперва разберемся в терминологии. Термины Face Detection и Face Recognition на русский почти всегда переводятся одинаково — «распознавание лиц». На самом деле, первую фразу было бы корректнее перевести как «определение лиц»: этот концепт не подразумевает установление личности человека и алгоритм в этом случае не обращается к базе данных, содержащей изображения лиц, которые нужно отыскать на картинке. Перед программой стоит задача найти любые человеческие лица на видео или фото. Алгоритм не запоминает и не сохраняет «увиденные» лица. Например, определение лиц может быть полезно для автоматической фокусировки камер. А вот «настоящее» распознавание лиц связано непосредственно с идентификацией человека и сопоставлением входящих данных с изображениями из базы данных в реальном времени. Причем такой алгоритм значительно превышает возможности человека: он способен разглядеть конкретную личность в темноте или на картинке размером 100 × 100 пикселей. Эти две технологии очень важно различать. Подробнее о том, по каким параметрам машина распознает человеческие лица, можно узнать из инфографики, подготовленной Tactical Tech.
Теперь, когда мы в общих чертах разобрались с устройством технологии, давайте посмотрим, как с ней работают художники.
Data-Masks (2013-2015). Sterling Crispin
Это один из первых художественных проектов на эту тему. Стерлинг Криспин решил изучить, как работает программа по распознаванию лиц. Художник воспользовался методом обратной инженерии и вычислил элементы, по которым машина узнает, что перед ней человеческое лицо. Получившиеся дата-маски автор превратил в объекты, распечатав на 3D-принтере. Для нас такая маска выглядит как результат странного эксперимента с абстрактными формами, а алгоритм по-прежнему видит в ней лицо.
Spirit Is a Bone (2013). Broomberg & Chanarin
Адам Брумберг и Оливер Чанарин также заинтересовались тем, как программа видит и реконструирует человеческие лица. С помощью устройств, которые устанавливают на московских улицах для обеспечения общественной безопасности, они создали серию «портретов» людей разных специальностей — отсылая к известному проекту Августа Зандера «Люди двадцатого столетия» и похожему по затее проекту Хельмара Лерски. Зловещий параллелизм действительно напрашивается: ведь все системы искусственного интеллекта опираются на выдуманные людьми категории, которые часто бывают поверхностными и ошибочными и приравнивают субъекта к определенной функции. При этом 3D-маски не являются полноценными слепками лица: алгоритм воссоздает форму, складывая между собой данные с нескольких камер. Поэтому лицо лишено теней и текстуры, можно сказать, что оно сведено к минимальному набору характеристик, позволяющих опознать человека.
URME Surveillance (2014). Leo Selvaggio
Лео Сельваджио в далеком 2014 году придумал очень простой, но при этом довольно экстравагантный способ спрятаться от расползающихся по городскому пространству распознающих устройств — он предложил всем желающим надеть маску со слепком его собственного лица. Таким образом камеры считывали бы личность Сельваджио вместо настоящей личности владельца маски. Проект можно было поддержать на платформе Kickstarter. О том, не пришлось ли автору потом отвечать за чье-то неподобающее поведение, мы информации не нашли.
Exposing.ai (2021). Adam Harvey
Художник, базирующийся в Берлине, Адам Харви решил изучить, откуда поступают исходные изображения для систем распознавания лиц, а также проверить, можно ли найти в толпе человека по снимку, который тот выложил в соцсети. Будучи студентом HfG в Карлсруэ, Харви начал с создания поискового механизма, который находил похожие картинки в самой большой на тот момент публичной базе данных лиц MegaFace (V2). Большинство фотографий в датасет подгружались из Flickr — без ведома владельцев самих снимков. Программа MegaPixels позволяла проверить, не попала ли чья-то личная фотография в открытый доступ. После того как о проекте Харви написали в The Financial Times, компания Microsoft и несколько университетов отказались от баз данных, которыми пользовались раньше.
Позже Адам Харви продолжил и углубил свое исследование. Совсем недавно — 31 января 2021 года — появился проект Exposing.ai, который уже сканирует шесть разных датасетов и умеет находить снимки не только по фотографии того же человека, но и по никнейму пользователя.
Level of Confidence (2015). Rafael Lozano-Hemmer
Рафаэль Лозано-Хеммер в своей работе «Уровень уверенности» обнажает страшную истину: в этом мире безопасно себя ощущают только те, кто управляет системой, которая якобы призвана охранять общественный порядок. Даже если на каждом углу установить по умной камере, правду все равно можно скрыть, имея доступ к управлению системой видеонаблюдения.
В центре проекта — тайна похищения 43 учеников мексиканской школы Ayotzinapa. Инсталляция была создана спустя полгода после события. Когда зритель подходит к камере, алгоритм начинает сравнивать лицо посетителями с лицами похищенных детей. Затем компьютер показывает фотографию одной из жертв с похожими чертами лица и показывает степень совпадения двух изображений в процентах. Разумеется, машина никогда не выдаст стопроцентный результат, поскольку школьники, скорее всего, были убиты, а участники преступления как следует замели все следы.
Capture (2020). Paolo Cirio
Живой классик медиа-искусства Паоло Кирио в своем проекте Capture демонстрирует, каково это, жить под постоянным надзором и в страхе перед карательным режимом.
Для этой работы Кирио собрал около тысячи снимков, сделанных во время протестных акций во Франции, и вырезал из них лица полицейских. Затем художник распечатал портреты полицейских в большом масштабе и развесил на улицах Парижа. Кроме того, Кирио пропустил фотографии через систему распознавания лиц, а затем — создал сайт с теми же самыми снимками, по которым люди могли опознать полицейских. Проект вызвал бурную реакцию: полицейские профсоюзы начали протестовать, опасаясь за безопасность своих коллег; министр внутренних дел Франции выразил в твиттере свое недовольство происходящим; наконец, выставка, на которой должен был быть показан проект, была отменена. В то же время публика и французская пресса работу Кирио встретили с восторгом. Ведь художнику удалось указать на асимметрию использования подобных технологий: власти способны получить информацию практически о любом человеке, попавшем в поле зрения умной камеры, а рядовой житель даже не знает толком, где именно расположены цифровые глаза, как они работают и куда поступают полученные с них данные. Позже Паоло Кирио даже запустил общественную кампанию, призывающую к отмене использования технологий распознавания лиц #BanFacialRecognitionEU. Европейская комиссия в ответ на жалобу художника заявила, что необходимо на законодательном уровне ограничить сферу применения ИИ.
#следуй (2020). Катрин Ненашева
В том же 2020 году Катрин Ненашева вместе со студентами своего курса по арт-активизму придумала проект #следуй. Участники изучали, как с помощью специального мейкапа можно остаться неопознанным для умной камеры и написали чат-бот @followfollow_bot, который делится инструкциями по нанесению защитного грима. По словамхудожницы, акция носила скорее символический характер, чем практический — ведь алгоритмы постоянно совершенствуются, и мейкап нужно все время перепридумывать. Однако сам факт появления людей с таким гримом на улице помогает единомышленникам сплотиться и воодушевить прохожих на более внимательное и критическое отношение к городским технологиям и тому, что они с собой несут.
Отметим, что во многих европейских странах, США, России и Китае по закону участникам общественных мероприятий и митингов запрещено скрывать лица масками и любыми другими аксессуарами, которые «затрудняют установление личности». При этом медицинские маски, по словам экспертов, почти не мешают распознаванию лиц. Получается, что житель большого города фактически лишен права на анонимность. И это всего лишь одно из последствий повсеместного внедрения технологии распознавания лиц. По сути, она начала входить в нашу повседневность около 20 лет назад, но уже привнесла ощутимые изменения в нашу частную и общественную жизнь. Учитывая, что алгоритмы и способы использования технологии все время меняются, сложно сказать, как она повлияет на наше будущее, пока же стоит как минимум изучить основные принципы ее работы.
Тем, кто хочет глубже погрузиться в тему и понять, как меняется культура (визуальная, в особенности) под воздействием технологии распознавания лиц, советуем книгу Portraits of Automated Facial Recognition Лилы Ли-Моррисон.
