Недавнее расследование Австралийского института стратегической политики (ASPI) выявило обширную сеть каналов YouTube, продвигающих прокитайское и антиамериканское общественное мнение в англоязычном мире.
Операция хорошо скоординирована и используется генеративный искусственный интеллект (ИИ) для быстрого создания и публикации контента, при этом умело используется алгоритмическая система рекомендаций YouTube.
Насколько велика сеть?
В операции «Shadow Play»/«Игра теней» задействована сеть из как минимум 30 каналов YouTube с около 730 тыс. подписчиков. На каналах около 4500 видеороликов с около 120 миллионами просмотров.
По данным ASPI, каналы привлекли аудиторию, используя алгоритмы искусственного интеллекта для перекрёстного продвижения контента, что предоставляет возможность здорово повышать обнаружение. Это вызывает беспокойство, поскольку позволяет государственным сообщениям пересекать границы с правдоподобным отрицанием.
Согласно отчёту, в сети видеороликов также был показан аватар с искусственным интеллектом, созданный британской компанией по искусственному интеллекту Synthesia, а также другие объекты, созданные с помощью искусственного интеллекта, и закадровый голос.
И хотя неясно, кто стоит за этой операцией, следователи говорят, что контролёр, скорее всего, говорит на китайском языке. Проанализировав поведение, они пришли к выводу, что это не соответствует поведению какого-либо известного деятеля, занимающегося операциями в сфере онлайн-воздействия. Вместо этого они предполагают, что это может быть коммерческое предприятие, действующее под некоторым контролем со стороны государства.
Эти результаты также являются последним свидетельством того, что передовые операции по оказанию влияния развиваются быстрее, чем защитные меры.
Конфликты интересов влиятельных лиц
Одной из явных параллелей между операцией «Игра теней» и другими кампаниями влияния является использование скоординированных сетей недостоверных учётных записей в социальных сетях и страниц, усиливающих обмен сообщениями.
Например, в 2020 году Facebook закрыл сеть из более чем 300 учётных записей Facebook, страниц и аккаунтов Instagram, которые вели из Китая и размещали контент о выборах в США и COVID-пандемии. Как и в случае с «Shadow Play», эти ресурсы работали вместе, чтобы распространять контент и делать его более популярным.
Достаточно ли сильно действующее законодательство?
Так, например, в Австралии, текущие требования к раскрытию информации о спонсируемом контенте имеют ряд вопиющих пробелов, когда речь заходит о трансграничных кампаниях влияния. Большинство австралийских нормативных актов по защите прав потребителей и рекламе сосредоточены на коммерческом спонсорстве, а не на геополитических конфликтах интересов.
Такие платформы, как YouTube, запрещают обманные действия в своих установленных правилах. Однако выявлять и обеспечивать соблюдение нарушений сложно, поскольку аккаунты, связанные с иностранными государствами, скрывают, кто именно дёргает их за ниточки.
Определение того, что такое пропаганда в отличие от свободы слова, поднимает сложные этические вопросы, связанные с цензурой и политическими взглядами. В идеале меры прозрачности не должны чрезмерно ограничивать защищённую свободу слова. Но зрители по-прежнему заслуживают понимания стимулов и потенциальных предубеждений влиятельных лиц.
Возможные меры могут включать чёткое раскрытие информации, когда контент прямо или косвенно связан с иностранным правительством, а также повышение видимости данных о принадлежности каналов и их местоположении.
Как распознать вводящий в заблуждение контент?
По мере того, как технологии становятся более сложными, становится всё труднее понять, какая повестка дня или конфликт интересов могут влиять на содержание видео.
Взыскательные зрители могут получить некоторое представление, посмотрев на создателей контента. Предоставляют ли они информацию о том, кто они, где базируются и о своём прошлом? Отсутствие же ясности может свидетельствовать о попытке скрыть их личность.
Вы также можете оценить тон и цель контента. Кажется ли, что он продиктован конкретным идеологическим аргументом? Какова конечная цель предлагаемого контента: он просто пытается получить клики или убеждает вас поверить в точку зрения стоящего за ним автора?
Проверьте наличие сигналов достоверности, например того, что другие авторитетные источники говорят об этом создателе или его заявлениях. Когда что-то кажется сомнительным, положитесь на авторитетных журналистов и проверяющих факты людей.
И постарайтесь не потреблять слишком много контента от одного автора. Получайте информацию из надёжных источников по всему политическому спектру, чтобы вы могли занять хорошо обоснованную позицию.
Общая картина
Развитие ИИ может экспоненциально увеличить охват и точность скоординированных операций по оказанию влияния, если не будут соблюдены этические гарантии. В самом крайнем случае, неограниченное распространение пропаганды ИИ может подорвать правду и манипулировать событиями реального мира.
Пропагандистские кампании могут не ограничиваться попытками сформировать нарративы и мнения. Они также могут быть использованы для создания гиперреалистичного текстового, аудио- и графического контента, направленного на радикализацию людей. Это может сильно дестабилизировать наше общество.
Мы уже видим предшественников того, что могло бы стать психологическими операциями с искусственным интеллектом, способными подделывать личности, массово следить за гражданами и автоматизировать производство дезинформации.
Без применения этической или контрольной структуры к модерации контента и алгоритмам рекомендаций, социальные платформы могут эффективно выступать в роли мега-усилителей дезинформации, оптимизированных для увеличения времени просмотра, независимо от последствий.
Со временем это может подорвать социальную сплочённость, сорвать выборы, спровоцировать насилие и даже подорвать наши демократические институты. И если мы не будем действовать быстро, темпы злонамеренных инноваций могут опередить любые меры регулирования.
Сейчас как никогда важно установить внешний надзор, чтобы убедиться, что платформы социальных сетей работают на общее благо, а не только ради краткосрочной прибыли.
