тотальный контроль

В январе The New York Times опубликовала расследование о Clearview, революционном приложении для распознавания лиц и слежки, а в апреле HuffPost написала о связи компании с ультраправыми; приводим переводы обеих статей в сокращении.

Hoan Ton-That и Clearview AI

В 2017 году мистер Hoan Ton-That — австралийский технарь и бывшая модель (гук, прим. ПН14) — сделал нечто судьбоносное: он изобрел инструмент, который может лишить вас возможности ходить по улице анонимно, и предоставил его сотням правоохранительных органов, начиная от местных полицейских во Флориде и заканчивая ФБР и Министерством внутренней безопасности.

Его крошечная компания Clearview AI разработала революционное приложение для распознавания лиц. Вы берете чье-то изображение, загружаете его и получаете доступ к публичным фотографиям этого человека вместе со ссылками на то, где эти фотографии были выложены изначально. Система, основанная на базе данных из более чем трех миллиардов изображений, которые, как Clearview утверждает, она собрала на Facebook, YouTube, Venmo и миллионе других сайтов, выходит далеко за рамки всего, что когда-либо создавалось правительством Соединенных Штатов или гигантами Кремниевой долины.

Федеральные и государственные правоохранительные органы заявили, что, хотя они и плохо понимали, как работает Clearview и кто стоит за ним, они использовали приложение, чтобы расследовать дела о кражах в магазинах, похищению персональных данных, мошенничестве с кредитными картами, убийствах и сексуальной эксплуатации детей.

До настоящего момента технология, которая легко идентифицирует каждого человека по его или ее лицу, была под запретом из-за своей возможности кардинально вмешиваться в частную жизнь. Технологические компании воздерживались от выпуска подобного инструмента, если даже и были способны его создать. В 2011 году председатель правления Google сказал, что это была единственная технология, которую корпорация сдерживала, потому что ее можно было использовать «крайне неправильно». Некоторые крупные города, такие как Сан-Франциско, запретили полиции применять технологию распознавания лиц.

Но без общественного контроля более 600 правоохранительных органов начали использовать Clearview в прошлом году, по данным компании, которая отказалась предоставить их список.

Компьютерный код, лежащий в основе анализируемого The New York Times приложения, включает в себя язык программирования, связывающий его с очками дополненной реальности. Потенциально пользователи смогут идентифицировать каждого человека, которого они видели, от активиста протеста до привлекательного незнакомца в метро, раскрывая не только их имена, но и то, где они живут, чем занимаются и кого знают.

Clearview предоставила приложение не только правоохранительным органам, она также дала лицензию по крайней мере нескольким компаниям для целей безопасности.

«Возможности этого приложения безграничны, — сказал Эрик Голдман, содиректор юридического института высоких технологий в Университете Санта-Клары. — Представьте себе мерзавца из правоохранительных органов, который преследует потенциальных романтических партнеров, или иностранное правительство, использующее приложение, чтобы откапывать секреты о людях, шантажировать их или бросать в тюрьму».

Clearview была окутана тайной и избегала разговоров о границах своих возможностей. Когда журналист The New York Times начал изучать компанию в ноябре, ее сайт представлял собой пустую страницу, показывающую несуществующий Манхэттенский адрес в качестве месторасположения офиса. Один из сотрудников компании, найденный в LinkedIn, менеджер по продажам по имени Джон Гуд, оказался мистером Hoan Ton-That, использующим фальшивое имя. В течение месяца люди, связанные с компанией, не отвечали на электронные письма или телефонные звонки журналиста.

Вместе с тем, игнорируя его, она также следила за ним. По просьбе журналиста несколько полицейских загрузили его фотографию в приложение Clear view. Вскоре им позвонили представители компании и спросили, общаются ли они со СМИ, что означает, что Clearview имеет возможность и желание следить за тем, кого ищут правоохранительные органы.

Приложение Clearview несет в себе дополнительные риски, поскольку правоохранительные органы загружают конфиденциальные фотографии на серверы компании, чья способность защитить эти данные не проверена.

В феврале 2017 года полиция штата Индиана начала экспериментировать с Clearview. При помощи приложения полицейские решили одно дело в течение 20 минут. Двое мужчин подрались в парке, и все закончилось тем, что один из них выстрелил другому в живот. Случайный прохожий записал преступление на телефон, так что у полиции был снимок лица стрелка, который они запустили в Clearview.

Полиция сразу же получила результат: мужчина появился на видео, которое кто-то разместил в социальных сетях, и его имя было включено в подпись к видео. «У него не было водительских прав, и он не был арестован, поэтому его не нашли в правительственных базах данных», — сказал Чак Коэн, капитан полиции штата Индиана в то время.

Этот человек был арестован и обвинен. Коэн сказал, что его, вероятно, не опознали бы без возможности поиска лица в социальных сетях. По данным компании, полиция штата Индиана стала первым платежеспособным клиентом Clearview. Полиция отказалась от комментариев, сказав, что тестировала приложение Clearview.

Hoan Ton-That говорит о том, что инструмент работает не всегда. Большинство фотографий в базе данных Clearview сделаны на уровне глаз. Большая часть материалов, которые загружает полиция, поступает с камер наблюдения, установленных на потолках или высоко на стенах.

Несмотря на это, как рассказали в компании, возможность инструмента находить совпадения достигает 75%. Но неясно, как часто он выдает ложные совпадения, потому что он не был протестирован независимой стороной.

«У нас нет никаких данных, чтобы сделать вывод, насколько точен этот инструмент, — сказала Клэр Гарви, исследователь из Центра конфиденциальности и технологий Джорджтаунского университета, который изучал использование правительством распознавания лиц. — Чем больше база данных, тем выше риск ошибочной идентификации из-за эффекта доппельгангера. Они говорят о массивной базе данных случайных людей, которых нашли в интернете».

Но нынешние и бывшие сотрудники правоохранительных органов говорят, что приложение является эффективным. «Для нас важно было проверить, сработало ли это или нет», — сказал Коэн, бывший капитан полиции штата Индиана.

Одна из причин, по которой Clearview становится популярным, заключается в его уникальности: Facebook и другие соцсети запрещают собирать изображения пользователей. Clearview же нарушает условия предоставления услуг сайтами.

Поскольку полиция загружает фотографии людей, которых они пытаются идентифицировать, Clearview обладает растущей базой данных лиц. Компания также может управлять результатами, которые видит полиция. После того как организация поняла, что журналист попросил офицеров запустить его фотографию через приложение, его лицо было специальным образом помечено системами Clearview и некоторое время не показывало никаких совпадений.