Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки

Джон Фасман (2021)

«Общество контроля» — масштабное исследование Джона Фасмана, вашингтонского корреспондента журнала The Economist. Оно посвящено правовым, политическим и моральным проблемам, неизбежно возникающим в обществе, где каждый из нас постоянно находится под наблюдением. Технологии распознавания лиц, автоматические считыватели автомобильных номеров, летающие дроны, алгоритмы прогнозирования поведения — все это попадает в фокус внимания автора, заставляя его задуматься о том, кому может быть выгодно массовое использование технологий слежки и как оно влияет на нашу жизнь. В формате PDF A4 сохранён издательский дизайн.

WE SEE IT ALL:

Liberty and Justice in an Age of Perpetual Surveillance

Jon Fasman

© 2021 Jon Fasman.

© Леонтьева Л.В., перевод на русский язык, 2023

© Оформление. ООО «Издательство «Эксмо», 2023

* * *

ПАМЯТИ ДЖОРДЖА ЭТУЭЛЛА КРИМСКИ И СИДНИ МЕТЦГЕР

Как война с наркотиками способствовала милитаризации полиции, так теперь война с терроризмом форсирует сбор полицейской разведывательной информации, и личная жизнь миллионов американцев находится под угрозой.

Адам БейтсИнститут Катона

Пролог

Идеальная архитектура контроля

Иногда будущее раскрывает себя как настоящее.

10 февраля 2020 года я летел из Нью-Йорка в Лас-Вегас. Президентская кампания началась всерьез. Как корреспондент The Economist в Вашингтоне и соведущий нашего нового американского политического подкаста «Сдержки и противовесы», я почти каждую неделю ездил по стране и освещал предвыборную кампанию — с первых дней нового года и до тех пор, пока COVID-19 не захлопнул все на свете. Неделей раньше я был в Нью-Гемпшире, а еще до этого в Айове, и собирался провести три дня в Неваде, а затем пять в Южной Каролине, ненадолго заскочив перед этим домой, чтобы постирать одежду и убедиться, что жена и дети все еще узнают меня в лицо и не поменяли замки.

Внутренние и международные рейсы «Дельты» отправляются из одного и того же терминала в аэропорту Кеннеди. Почти у всех выходов на посадку висели плакаты с рекламой терминалов распознавания лиц от компании «Дельта» — вертикальные синие экраны с контуром лица, вписанного в четыре угла видоискателя цифровой камеры. Над картинкой красовался лозунг: «Один взгляд — и ты в деле». Надпись на баннере чуть ниже гласила: «Теперь вы можете проходить на посадку с помощью Delta Biometrics, нового способа удобной навигации по аэропорту». А в самом низу, на уровне ног, мелким шрифтом: «Посадка с использованием технологии распознавания лиц не является обязательной. Пожалуйста, при возникновении любых вопросов или для прохождения альтернативных процедур обратитесь к сотруднику. Посетите delta.com, чтобы ознакомиться с нашей политикой конфиденциальности».

Месяцев за восемь до этого я летел в Кито и проходил на посадку через биометрический терминал «Дельты» в Атланте. Это была странная новинка: обычные камеры наблюдения не работали, и большинство пассажиров нашего рейса, включая меня, шли мимо камер распознавания лиц, а потом бортпроводник проверял наши билеты. Но система, видимо, работала достаточно хорошо — или скоро будет работать достаточно хорошо — для того, чтобы «Дельта» запустила ее агрессивную рекламу. Я замечал выходы на посадку с распознаванием лиц в Миннеаполисе и Детройте. В конце 2019 года «Дельта» объявила, что установит терминалы в Солт-Лейк-Сити. Около 93 % клиентов проходят процедуру без проблем, говорится в пресс-релизе «Дельты», а 72 % предпочитают ее стандартной посадке.

Признаки амбиций авиакомпании «Дельта» можно найти в нижнем тексте баннера, где упоминается не только посадка, но и возможность удобной навигации по аэропорту. И действительно, в пресс-релизе компании рекламировалось распознавание лица от порога до выхода на посадку: вы можете использовать свое лицо, чтобы зарегистрироваться на рейс, сдать багаж, пройти контроль безопасности и сесть в самолет. Все очень удобно. Если вы прилетели из-за границы, у авиакомпаний уже есть ваша паспортная фотография — либо в их собственной базе данных, либо в базе Таможенно-пограничной службы.

Мое отношение к этой программе очень ясное: я отказываюсь от нее. Надеюсь, после прочтения этой книги вы поступите так же. Распознавание лиц ставит под угрозу наши гражданские свободы. Пользуясь им добровольно, вы превращаете его в нечто повседневное. Чем чаще вы сами выбираете эту систему, тем чаще она будет применяться такими способами и в таких местах, которых вы никогда бы не выбрали. Всякий раз, когда у вас есть шанс уклониться от ее прохождения, вы должны им пользоваться: необходимо сделать все возможное, чтобы замедлить распространение систем распознавания лиц.

После того как я разместил в интернете фотографию этого рекламного баннера, один мой друг заметил, что «Дельта» хотя бы предоставляет пассажирам выбор. Этот друг летел рейсом «Сингапурских авиалиний» в Токио, и его обязали пройти на борт через терминал распознавания лиц. Это было относительно ново: до июля 2017 года я работал в Сингапуре по заданию The Economist и по несколько раз в месяц летал этими авиалиниями. Тогда они не использовали систему распознавания лиц. Будущее — уже сегодня.

Приземлившись в Лас-Вегасе, я увидел сообщения от нескольких друзей. Они спрашивали, что я думаю о сегодняшнем выпуске The Daily, ежедневного новостного подкаста «Нью-Йорк таймс». По их совету я послушал подкаст, пока ехал с одной встречи на другую. Это была аудиоверсия ужасающей истории, которую за пару недель до этого раскрыла Кашмир Хилл^[1]. Уже около десяти лет Хилл пишет о технологиях и защите данных. Она проницательный, вдумчивый и интересный писатель и потрясающий репортер — одна из немногих, чьи истории со временем становятся не только длиннее, но и лучше.

Этот конкретный материал касался небольшой компании под названием Clearview AI, которая разработала приложение для распознавания лиц. Пользователь делает снимок любого встречного и загружает в приложение, а система сообщает, кто изображен на фотографии. При этом используется база данных фирмы Clearview, содержащая более трех миллиардов изображений из общедоступных источников, в том числе с YouTube и других широко используемых ресурсов — в семь с лишним раз больше, чем в базе ФБР.

Иными словами, если вы американец, вероятность, что вы находитесь в базе данных, доступной для ФБР, — один к двум. Если живете в стране первого мира, скорее всего, находитесь в Clearview. Любой, у кого есть приложение Clearview на телефоне, может за несколько секунд узнать, кто вы такой. Проделав несложный поиск, он выяснит гораздо больше: адрес, работодателя, имена друзей и членов семьи — в общем, получит любую информацию о вас, которая может находиться в интернете.

Пока я это пишу, приложением Clearview пользуются сотни правоохранительных органов, а также некоторые частные компании (Clearview отказался сообщить, какие именно), в том числе инвесторы этой фирмы и их друзья. Например, магнат продуктовой сети Джон Кациматидис случайно увидел свою дочь на свидании с неизвестным парнем^[2]. Джон попросил официанта сфотографировать парня и затем прогнал фото через Clearview. Через несколько секунд приложение сообщило ему, с кем обедает его дочь, — незнакомец оказался венчурным капиталистом из Сан-Франциско. Кроме того, Кациматидис использовал эту систему в своих магазинах для выявления воров, которые крали мороженое. («Люди воровали наши Haagen-Dazs, — жаловался он. — Это была большая проблема».)

Полицейским нравится система Clearview: по их словам, она помогает быстро идентифицировать подозреваемых. Но такое удобство не должно определять ценность или законность продукта. Есть много вещей — например, бессрочное содержание под стражей без предъявления обвинения или отмена habeas corpus, — несовместимых с таким свободным и открытым обществом, которое облегчило бы работу правоохранительных органов.

Хотя основными клиентами Clearview сегодня являются полицейские, ничто не мешает компании продавать это приложение всем, кто хочет его купить. И похоже, основатель фирмы, которая была одним из первых инвесторов Clearview, смирился с такой возможностью. Он сказал Кашмир Хилл: «Я пришел к выводу, что, поскольку информации становится все больше, конфиденциальности не будет никогда. Законы должны определять, что является допустимым, но запретить технологии невозможно. Конечно, они могут привести к мрачному будущему или чему-то подобному, но запретить их не получится». Предполагаю, если технологии, создающие мрачное будущее или что-то подобное для всех на свете, обогащают автора этого высказывания — пусть уж будет мрачное будущее.

Facebook^[3] и другие социальные сети запрещают веб-скрейпинг своих изображений, но Clearview все равно этим занимается. Эрик Шмидт, бывший исполнительный директор Google, в 2011 году сказал, что распознавание лиц было единственной технологией, созданной Google, и, посмотрев на нее, компания решила остановиться, потому что такие технологии могут использоваться очень плохо^[4].

Основатель Clearview Хоан Тон-Тат не выказывал подобных сомнений. В «Дейли» он не казался плохим, но его слова звучали самодовольно, грубо и равнодушно. По словам Хилл, она спросила Тон-Тата о последствиях создания технологии, которая возвестила бы конец общественной анонимности, и он ответил: «Мне придется над этим подумать». Логично было подумать заранее, но Тон-Тат, по-видимому, не видел для этого оснований.

Сегодня от прихотей таких людей, как Тон-Тат, зависят наша частная жизнь и многие гражданские свободы. Я уверен, что Марк Цукерберг, сидя в своей комнате в общежитии Гарварда, вовсе не мечтал создать платформу, которая помогла бы России подорвать американскую демократию, но сделал он именно это. Скорее всего, он мечтал построить что-то великое и изменить мир — добиться успеха, оставить свой след. Это он тоже сделал. И сегодня несет фидуциарную ответственность перед своими инвесторами за максимизацию их прибыли. Перед остальными людьми у него нет таких обязательств. Если наши гражданские свободы ставят под угрозу прибыль бизнесов, торгующих технологиями слежки, предприниматели вольны всякий раз выбирать прибыль.

Причина не в том, что они плохие люди. В конце концов, даже руководители крутых зеленых компаний, таких как Burt’s Bees и Tom’s of Maine (ныне дочки компаний Clorox и Colgate-Palmolive), тоже больше заботятся о максимизации прибыли, чем о гражданских свободах незнакомцев. Но технология Clearview AI и — в более широком смысле — паноптические возможности современных технологий слежки в сочетании с недорогим и постоянным хранением информации (особенно в эпоху возрождающегося авторитаризма и институциональной слабости в развитых странах) создают невиданную угрозу нашей демократии. Другими словами: нашей свободе угрожают не те люди, которые покупают больше зубной пасты или отбеливателя, а те, которые покупают продукты Clearview.

Мы обязаны постоять за себя, заявить о наших гражданских свободах и о том, каким хотим видеть этот мир. Нужен ли нам мир, в котором любой незнакомец может сфотографировать нас и узнать о нас все? Если нет, мы должны предотвратить появление такого мира. В следующих главах я надеюсь показать вам, зачем это делать и как.

Эта книга выросла из серии статей, которые я написал для The Economist в первой половине 2018 года. В них говорится, как технологии меняют систему правосудия — в частности, работу полиции, тюрем и судов^[5]. Я решил сосредоточиться на полиции и ее технических специалистах, потому что полиция — это, пожалуй, самое осязаемое и привычное проявление государственной власти. Если я скажу, что у Агентства национальной безопасности или правительства Китая есть технология наблюдения, позволяющая подслушивать и сохранять все наши разговоры по мобильным телефонам или отслеживать передвижения, вы, возможно, возмутитесь, но вряд ли удивитесь. Но, надеюсь, вас возмутит и шокирует, если узнаете, что эта возможность есть у каждого полицейского управления — и нет практически никакого надзора за тем, как она используется. Говоря о полиции, я действительно имею в виду государственную власть.

Когда я делал репортажи для The Economist, распознавание лиц было в значительной степени теорией — оно еще не стало частью жизненного опыта большинства людей. Некоторые полицейские департаменты запускали скромные тестовые программы. Где-то такие системы использовались для ограниченного круга задач, например, в 2017 году округ Вашингтон в Орегоне начал таким способом выявлять подозреваемых. Сегодня эти системы появились в терминалах аэропортов. Даже если завтра Clearview разорится, то же самое будет делать другая фирма.

Некоторые критики утверждают, будто эта технология ненадежна, и так оно и есть, особенно в Америке и Европе для цветных людей. Но суть не в этом. Распознавание лиц опасно, когда оно ненадежно: это может привести к аресту невинных людей. Но и когда надежно — все равно опасно, поскольку позволяет правительствам публично отслеживать нас в любое время. И оно становится все надежнее. Считыватели номерных знаков умеют следить за нашими автомобилями, и такие приборы можно устанавливать на любом количестве полицейских машин и городских фонарных столбов — в зависимости от политической прихоти и бюджета. Устройства, которые имитируют узлы сотовой связи и обманывают наши телефоны, вынуждая их показывать, кому мы звонили, что писали и какие веб-сайты искали, теперь помещаются в багажнике автомобиля.

Нас окружают архитектура и инфраструктура тотальной государственной слежки. Мы знаем, как это выглядит в Китае, где сейчас больше государственных камер наблюдения, чем людей в Америке. Китай использует все возможности, чтобы подавлять свободу слова и самовыражения, следить за инакомыслящими и содержать более миллиона мусульман в современных концлагерях (а если и на свободе, то под сплошным неусыпным наблюдением).

Самый острый и тревожный вопрос, который я услышал, готовя материал для этой книги, задала Кэтрин Крамп, профессор права Калифорнийского университета в Беркли, руководитель семинара права, технологий и государственной политики и содиректор Центра права и технологий Беркли. «Сейчас мы можем получить идеальную архитектуру контроля, — сказала она мне, — как у Китая. Какие демократические практики нам нужны, чтобы мы не стали Китаем?» Настоящая книга представляет собой скромную попытку ответить на этот вопрос.

Примечания

1

Kashmir Hill, “The Secretive Company That Might End Privacy as We Know It”, New York Times, January 18, 2020, www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html.

2

Kashmir Hill, “Before Clearview Became a Police Tool, It Was a Secret Plaything of the Rich”, New York Times, March 5, 2020, www.nytimes.com/2020/03/05/technology/clearview-investors.html.

3

Принадлежит Мете, которая признана экстремистской на территории РФ.

4

Hill, “Secretive Company”.

5

John Fasman, “Data Detectives”, The Economist, Technology Quarterly: Justice, June 2, 2018.