Yandex Metrika
1
1 голос

Современные чат-боты уже совсем не похожи на свои первые версии. Благодаря большим языковым моделям (LLM), сложным и масштабным, словно целые галактики, искусственный интеллект сегодня всегда у нас под рукой. Он умеет подбадривать, поддерживать и давать советы, которые помогают чувствовать себя лучше. Проблема лишь в том, что такие советы не всегда бывают действительно полезными.

Так называемые «галлюцинации» ИИ стали причиной целого ряда странных и даже пугающих ответов на серьезные вопросы, особенно на ранних этапах внедрения технологии, в том числе в продуктах Google. При этом каждый разработчик ИИ использует собственные подходы и алгоритмы, поэтому виртуальные собеседники не обязаны следовать единым правилам генерации ответов.

Нам может казаться, что мы не склонны доверять словам машины. Однако заложенные в ИИ модели угодничества и подстройки под пользователя делают технологии куда более убедительными, чем мы привыкли думать. В отсутствие естественных человеческих механизмов, которые помогают нам давать друг другу не то, что хочется услышать, а то, что действительно нужно, возникают опасные побочные эффекты. Исследователи уже говорят о новой форме психоза, связанной с ИИ, а в одном из задокументированных случаев виртуальный компаньон даже подталкивал человека к попытке покушения на королеву Англии.

«Когда ИИ-модель фактически подменяет собой человеческие отношения — предлагая доброту и поддержку, но без дополнительных измерений, необходимых для по-настоящему здоровой и глубокой близости, — такие отношения остаются поверхностными и “тонкими”, — объяснила профессор Ханна Фрай (Hannah Fry), ведущая нового сериала BBC AI Confidential, в интервью IFLScience. — И в этом, на мой взгляд, кроется реальная опасность.»

Отношения с чат-ботом и психология
«Поиск оптимальных способов напоминать людям о нечеловеческой природе чат-ботов — ключевая задача для будущих исследований». Изображение: GoodStudio / Shutterstck

Возникает закономерный вопрос: как вмешаться и снизить риски? Один из предложенных вариантов — обязать чат-ботов регулярно или постоянно напоминать пользователям о том, что они не являются людьми. Однако в новой аналитической статье исследователи утверждают, что такой подход может оказаться не только неэффективным, но и вредным, усиливая психологический дистресс у уже уязвимых людей.

«Ошибочно полагать, что обязательные напоминания существенно снизят риски для пользователей, которые осознанно ищут общения с чат-ботом, — заявила ведущий автор работы, специалист по общественному здравоохранению Линнеа Лаэстадиус (Linnea Laestadius) из Университета Висконсин-Милуоки. — Если напоминать человеку, который и так чувствует себя изолированным, что единственный источник поддержки в его жизни — не человек, это может привести к обратному эффекту и усилить чувство одиночества.»

Напоминание пользователю, уже зависящему от общения с чат-ботом, о том, что тот не является человеком, может подтолкнуть его к так называемому «горько-сладкому парадоксу эмоциональной связи с ИИ». Этот термин описывает состояние, при котором человек одновременно чувствует поддержку со стороны виртуального собеседника и грусть из-за осознания того, что этот собеседник не реален.

«Подчеркивание того, что компаньон не человек и недостижим в нашей реальности, может спровоцировать мысли и действия, направленные на уход из этой реальности ради “воссоединения” с чат-ботом, — добавила соавтор исследования Селеста Кампос-Кастильо (Celeste Campos-Castillo), специалист по медиа и технологиям из Университета штата Мичиган. — Подобное стремление “присоединиться” к ИИ было зафиксировано в последнем сообщении подростка, погибшего в результате самоубийства.»

Еще один важный момент, на который указывают исследователи, — распространенное предположение, что осознание нечеловеческой природы чат-бота должно автоматически мешать формированию эмоциональной привязанности. Однако существующие исследования показывают обратное: знание того, что ИИ не является человеком, вовсе не мешает людям сближаться с виртуальными компаньонами.

Более того, данные свидетельствуют о том, что пользователи нередко охотнее делятся личными переживаниями именно с чат-ботами — как раз потому, что те не являются людьми. В связи с этим авторы подчеркивают необходимость дальнейших исследований, направленных на поиск эффективных мер вмешательства, которые не нанесут больше вреда, чем пользы.

«Интуитивно может казаться, что если пользователи будут помнить, что общаются с чат-ботом, а не с человеком, они не станут так сильно к нему привязываться и не будут подвержены манипуляциям алгоритма. Однако на сегодняшний день доказательства не подтверждают эту гипотезу, — отмечает Лаэстадиус. — Поиск оптимальных способов напоминать людям о нечеловеческой природе чат-ботов — ключевая задача для будущих исследований. Нам необходимо понять, в какие моменты такие напоминания действительно защищают психическое здоровье пользователей, а когда их следует приостанавливать.»

Научная статья была опубликована в журнале Cell.

Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: