Yandex Metrika
1
2 репоста, 1 голос

От создания писем с помощью ChatGPT до рекомендаций сериалов и даже помощи в диагностике болезней — присутствие машинного интеллекта в нашей повседневной жизни уже давно перестало быть научной фантастикой.

И всё же, несмотря на обещания скорости, точности и эффективности, у многих остаётся чувство тревоги. Одни с удовольствием пользуются ИИ-инструментами. Другие — испытывают беспокойство, недоверие, а порой и ощущение предательства. Почему?

Страх перед искусственным интеллектом
Изображение: cundra/Getty Images

Ответ кроется не только в том, как работает ИИ, но и в том, как устроены мы. Мы не доверяем тому, чего не понимаем. Люди склонны больше верить системам, в которых разбираются. Обычные инструменты кажутся знакомыми: повернул ключ — машина завелась, нажал кнопку — приехал лифт.

Но многие ИИ-системы работают как «чёрные ящики»: вводишь запрос — получаешь решение. Логика, стоящая между этими действиями, скрыта. С психологической точки зрения это вызывает дискомфорт. Нам важно видеть причинно-следственную связь и возможность задать вопрос «почему?». Когда такой возможности нет, мы чувствуем себя бессильными.

Отсюда и явление, называемое «отвращением к алгоритмам». Этот термин ввёл маркетолог Беркли Дитворст (Berkeley Dietvorst), чьи исследования показали: люди часто предпочитают несовершённое человеческое мнение машинным решениям — особенно после того, как видят хотя бы одну ошибку алгоритма.

Мы знаем, рационально, что ИИ не имеет эмоций и личных целей. Но это не мешает нам наделять его человеческими чертами. Когда ChatGPT отвечает «слишком вежливо», кому-то становится не по себе. Когда система рекомендаций угадывает наши желания слишком точно, это воспринимается как вторжение. Мы начинаем подозревать манипуляцию, хотя у программы нет сознания.

Это проявление антропоморфизма — приписывания человеческих намерений неживым системам. Профессора коммуникации Клиффорд Нас (Clifford Nass) и Байрон Ривз (Byron Reeves) показали, что люди склонны реагировать на машины по-социальному, даже осознавая, что те не являются людьми.

Любопытный вывод из поведенческой науки: мы гораздо снисходительнее к человеческим ошибкам, чем к машинным. Когда ошибается человек, мы понимаем — такое бывает. Когда же сбоит алгоритм, особенно если его представляли как объективный и основанный на данных, мы чувствуем себя обманутыми.

Это связано с понятием «нарушения ожиданий» — когда нечто ведёт себя не так, как мы предполагали. Возникает дискомфорт и утрата доверия. Мы верим, что машины логичны и беспристрастны. Поэтому, когда они ошибаются — например, неверно классифицируют изображение, выдают предвзятые результаты или делают неуместные рекомендации — реакция особенно острая. Мы ожидали большего.

Парадокс в том, что люди ошибаются постоянно. Но хотя бы у человека можно спросить: «Почему?»

Доверие к ИИ
Изображение: BongkarnGraphic/Shutterstock

Мы ненавидим, когда ИИ ошибается

Для некоторых людей ИИ не просто непонятен — он тревожит на более глубоком уровне. Учителя, писатели, юристы и дизайнеры внезапно сталкиваются с инструментами, способными частично заменить их труд. Это не только вопрос автоматизации — это вопрос ценности наших навыков и самого смысла быть человеком.

Такое чувство может вызывать угрозу идентичности — термин, введённый социальным психологом Клодом Стилом (Claude Steele). Он описывает страх, что наши уникальные способности теряют значимость. Отсюда — сопротивление, защита или полное отрицание технологии. Недоверие в этом случае — не ошибка, а психологическая защита.

Мы ищем эмоции, а не только логику

Человеческое доверие строится не только на рассудке. Мы читаем интонацию, выражение лица, паузы, взгляд. У ИИ этого нет. Он может быть плавным, даже обаятельным, но не способен вселить уверенность, как другой человек.

Это напоминает феномен «зловещей долины», описанный японским робототехником Масахиро Мори (Masahiro Mori): странное чувство, когда нечто выглядит почти по-человечески, но всё же «не то». Внешне всё правильно, но эмоционально — пусто. Мы воспринимаем это как холодность или обман.

В мире, полном дипфейков и решений, принимаемых алгоритмами, отсутствие эмоционального отклика становится проблемой. Не потому, что ИИ делает что-то неправильно, а потому, что мы просто не знаем, как к нему относиться.

Важно отметить: не всякое недоверие к ИИ — иррационально. Алгоритмы действительно могут усиливать предвзятость, особенно в таких сферах, как наём сотрудников, правосудие или кредитование. Если вас уже когда-то несправедливо оценили по данным, ваша осторожность — не паранойя, а защита.

Это связано с идеей «выученного недоверия»: когда институты или системы неоднократно подводят определённые группы людей, скептицизм становится не просто оправданным, а жизненно необходимым.

Призывы «доверяйте системе» редко работают. Доверие нужно заслужить. Это значит — создавать ИИ-инструменты, которые прозрачны, понятны и ответственны. Давать пользователям не только удобство, но и контроль. Ведь психологически мы доверяем тому, что понимаем, можем проверить и что относится к нам с уважением.

Если мы хотим, чтобы ИИ приняли, он должен быть не чёрным ящиком, а диалогом, в который нас приглашают.

Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: