Исследования в области компьютерного зрения — направления искусственного интеллекта (ИИ), в рамках которого машины учатся «видеть» и интерпретировать изображения и визуальную информацию — существенно способствовали распространению слежки за людьми и их привычками. Более того, рост масштабов наблюдения, по-видимому, совпал с ростом использования запутанной терминологии, которая либо нормализует слежку, либо скрывает её существование.
У спецслужб есть несколько способов сбора информации. Во-первых, они могут получать данные напрямую с инфраструктуры, по которой передаётся интернет-трафик. Такой метод называется «восходящее наблюдение» (upstream surveillance) и предполагает перехват информации непосредственно с маршрутизаторов, коммутаторов или подводных кабелей. Это позволяет получать огромные объёмы данных в режиме реального времени: от писем и поисковых запросов до метаданных и активности в браузере.

Во-вторых, существует так называемое «нисходящее наблюдение» (downstream surveillance), при котором доступ к информации осуществляется через сервисы вроде Google, Facebook или Yahoo. В этом случае государственные органы получают доступ к хранящимся или текущим данным, зачастую — при содействии самих компаний, якобы после получения ордера.
Оба этих метода вызывают множество споров. Однако новое исследование выявило тревожную тенденцию: именно нисходящее наблюдение получило стремительное развитие за счёт неожиданного источника — области компьютерного зрения (CV).
По своей сути CV занимается анализом цифровых изображений и видео с целью извлечения значимой информации для распознавания, интерпретации и понимания мира, подобно тому, как это делает человек. Сюда входит обучение ИИ распознаванию лиц и объектов, отслеживание движений, выявление аномалий и даже интерпретация эмоций.
Изначально CV развивалось для военных и тюремных нужд — для выявления целей, сбора разведданных, поддержки полиции и иммиграционного контроля. Однако со временем в развитие этой технологии начали активно вовлекаться университеты, государственные структуры, частные компании и фонды, формируя её направление в соответствии со своими интересами.
В целом считается, что лишь небольшая часть исследований в CV может быть вредной, однако последнее исследование утверждает, что масштабы слежки намного более «всеобъемлющи и нормализованы», чем представлялось ранее.
Работу провели учёные из Стэнфордского университета, Университета Карнеги-Меллон, Университета Вашингтона и Института искусственного интеллекта Аллена. Они проанализировали более 40 000 документов, научных статей по CV и патентов на нисходящее наблюдение за последние четыре десятилетия. Выяснилось, что за это время число публикаций по CV, связанных с подобными патентами, увеличилось в пять раз.
«Это исследование даёт систематическое и подробное понимание области компьютерного зрения и представляет собой конкретный эмпирический анализ, раскрывающий путь от академических разработок к технологиям слежки и масштабы их применения», — заявила доктор Абеба Бирхан (Abeba Birhane), директор Лаборатории подотчётности ИИ в Центре исследований ADAPT при Школе компьютерных наук и статистики Тринити-колледжа в Дублине.
Одним из интересных выводов стало то, что язык, используемый в CV, также претерпел изменения. Если в 1990-х публиковались в основном обобщённые статьи, то начиная с 2010-х появился акцент на анализе семантических категорий и человеческого поведения. Одновременно с этим терминология стала всё больше скрывать истинные цели наблюдения, отвлекая внимание от самих наблюдаемых.
Авторы также определили ключевые учреждения, стоящие за наибольшим числом проектов, связанных с наблюдением. Это:
- Microsoft
- Университет Карнеги-Меллон
- Массачусетский технологический институт (MIT)
- Университет Иллинойса в Урбана-Шампейн
- Китайский университет Гонконга
По оценке авторов, США занимают первое место по уровню внедрения слежки, за ними следуют Китай и Великобритания.
«С точки зрения языка, область всё активнее использует термины, скрывающие как само существование слежки, так и её масштаб. Например, слово «объект» стало универсальным обозначением, часто означающим именно человека», — добавила Бирхан.
«Наиболее тревожным последствием этого становится невозможность выйти из системы, отключиться или просто «быть собой». Технологии, рождающиеся в рамках таких исследований, используются для доступа к людям, монетизации, давления и контроля над уязвимыми слоями общества.»
Таким образом, исследование демонстрирует, насколько хрупкими оказались наши представления о конфиденциальности и свободе.
«Из-за повсеместного и интенсивного сбора данных наши права на частную жизнь, свободу передвижения, слова и самовыражения находятся под серьёзной угрозой», — подчеркнула Бирхан.
Несмотря на мрачную картину, учёные не считают ситуацию безнадёжной. Такие масштабные систематические исследования могут помочь регулирующим органам и политикам выработать решения.
«Мы надеемся, что эти данные вооружат активистов и местные сообщества доказательствами, необходимыми для требования перемен и трансформации систем в сторону большего уважения прав человека», — пояснила Бирхан.
«Исследователи в области CV также могут занять более критическую позицию: отказаться от участия в проектах наблюдения, протестовать, фокусироваться на этических аспектах, просвещать общественность и заниматься адвокацией с опорой на факты.»
Исследование было опубликовано в журнале Nature.


