Yandex Metrika
1
1 голос

К 2024 году число голосовых помощников на базе искусственного интеллекта во всём мире превысило 8 миллиардов — больше, чем людей на планете. Эти ассистенты вежливы, услужливы и всегда готовы помочь. И почти все они по умолчанию — «женщины».

Даже их имена несут гендерную окраску. Так, Siri от Apple — скандинавское женское имя, которое переводится как «красивая женщина, ведущая к победе».

ИИ ассистенты и гендерные стереотипы
ИИ-ассистенты, как правило, имеют женский образ, усиливая представление о подчинённой роли женщин. Изображение: cottonbro studio/Pexels

При этом, когда IBM в 2015 году запустила систему Watson for Oncology для помощи врачам в анализе медицинских данных, ей дали мужской голос. Посыл очевиден: женщины обслуживают, мужчины принимают решения.

Это не безобидный маркетинг, а осознанное дизайнерское решение, которое укрепляет существующие представления о «мужских» и «женских» ролях в обществе.

И речь идёт не только о символах. Подобные решения имеют реальные последствия: они нормализуют подчинённое положение и создают почву для злоупотреблений.

Тёмная сторона «дружелюбного» ИИ

Современные исследования показывают масштаб токсичного взаимодействия с феминизированными ИИ-ассистентами.

Согласно исследованию 2025 года, до 50% диалогов между человеком и машиной содержали словесную агрессию.

В другой работе 2020 года этот показатель колебался от 10% до 44%, при этом многие разговоры включали сексуально откровенные высказывания.

Несмотря на это, отрасль в целом не предпринимает системных мер. Большинство разработчиков по-прежнему используют заранее зашитые нейтральные ответы на оскорбления вроде: «Я не совсем поняла, что вы имели в виду».

Подобная практика вызывает опасения, что такое поведение может переноситься и в реальные социальные отношения.

И в центре проблемы — именно гендер.

Эксперимент 2023 года показал: 18% взаимодействий с агентом, имеющим женское воплощение, были сосредоточены на сексуальной тематике. Для «мужского» образа этот показатель составил 10%, а для нейтрального, негдерного робота — всего 2%.

При этом реальные масштабы проблемы, вероятно, выше: намёки и завуалированная речь плохо поддаются автоматическому анализу. В отдельных случаях цифры шокируют. Так, бразильский банк Bradesco сообщил, что его чат-бот с женским образом получил 95 тысяч сексуально оскорбительных сообщений всего за один год.

Особенно тревожит скорость эскалации агрессии.

Чат-бот Microsoft Tay, запущенный в Twitter в 2016 году в тестовом режиме, продержался всего 16 часов, прежде чем пользователи «обучили» его расистским и мизогинным высказываниям.

В Южной Корее виртуальный персонаж Luda был намеренно приведён к ответам на сексуальные запросы в роли покорной «секс-рабыни». При этом часть интернет-сообщества назвала происходящее «преступлением без жертвы».

На деле же именно дизайнерские решения — женский голос, уступчивые формулировки, игривое уклонение от ответа — создают благоприятную среду для гендерной агрессии.

Такие взаимодействия отражают и усиливают реальный мизогинический опыт, формируя у пользователей ощущение, что приказывать, унижать и сексуализировать «её» допустимо. Когда агрессия становится нормой в цифровом пространстве, нельзя игнорировать риск её перехода в офлайн-поведение.

Игнорирование проблемы гендерной предвзятости

Регулирование не успевает за ростом проблемы. Гендерная дискриминация редко считается высокорисковой и часто воспринимается как нечто, что можно «исправить дизайном».

И хотя Закон ЕС об искусственном интеллекте требует оценки рисков для высокорисковых систем и запрещает технологии с «неприемлемым риском», большинство ИИ-ассистентов не подпадают под эту категорию.

Гендерные стереотипы, а также нормализация словесных оскорблений или домогательств не считаются достаточным основанием для запрета в рамках действующих норм. Лишь крайние случаи — например, технологии, искажающие поведение человека и поощряющие опасные действия — подпадают под действие закона.

В Канаде оценка гендерного воздействия обязательна для государственных ИИ-систем, но частный сектор этим не охвачен.

Это важные шаги, но они остаются ограниченными и, скорее, исключением из общего правила.

В большинстве стран отсутствуют нормы, регулирующие гендерные стереотипы в дизайне ИИ или их последствия. Там, где регулирование всё же существует, приоритет отдаётся прозрачности и подотчётности, тогда как проблема гендерного перекоса либо отходит на второй план, либо вовсе игнорируется.

В Австралии власти уже заявили, что будут опираться на существующие правовые рамки, не разрабатывая специальные законы для ИИ.

Этот вакуум особенно опасен, поскольку ИИ — система обучаемая. Каждая сексистская команда и каждый акт агрессии становятся данными, влияющими на будущие ответы. Без вмешательства мы рискуем «вшить» человеческую мизогинию в цифровую инфраструктуру повседневной жизни.

При этом не все технологии-ассистенты — даже с женским образом — несут вред. Они могут расширять возможности, обучать и способствовать защите прав женщин. Например, в Кении чат-боты по вопросам сексуального и репродуктивного здоровья значительно улучшили доступ молодёжи к информации по сравнению с традиционными инструментами.

Главная задача — найти баланс между инновациями и чёткими рамками, гарантирующими соблюдение стандартов, уважение прав и ответственность разработчиков.

Системная проблема

Проблема не ограничивается Siri или Alexa — она носит системный характер.

Женщины составляют лишь около 22% специалистов в сфере ИИ по всему миру. Их недостаточное присутствие за «столом проектирования» означает, что технологии создаются с узкой, односторонней перспективы.

Показательно и другое: опрос 2015 года среди более чем 200 топ-менеджеров-женщин в Кремниевой долине показал, что 65% из них сталкивались с нежелательными сексуальными домогательствами со стороны руководства. Культура, формирующая ИИ, сама по себе глубоко неравна.

Оптимистичные заявления о том, что предвзятость можно «исправить» с помощью этических кодексов или лучшего дизайна, звучат неубедительно без механизмов принуждения. Добровольные стандарты не способны разрушить укоренившиеся нормы.

Законодательство должно признать гендерный вред высокорисковым, обязать проводить гендерную оценку воздействия и требовать от компаний доказательств того, что риски были минимизированы. За несоблюдение должны следовать санкции.

Однако одного регулирования недостаточно. Образование — особенно в технологической среде — критически важно для осознания последствий гендерных «настроек по умолчанию» в голосовых помощниках. Эти инструменты — результат человеческого выбора. И именно этот выбор снова и снова воспроизводит мир, в котором женщины — реальные или виртуальные — остаются обслуживающими, покорными или безмолвными.

Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: