Можете ли вы представить себе лучшего друга на базе искусственного интеллекта? А романтического партнёра — ИИ? Каковы бы ни были ваши предпочтения, очевидно одно: мы живём во времена, когда подобные формы взаимодействия не только возможны, но и стремительно входят в повседневную реальность.
От услужливого голосового помощника вроде ChatGPT до динамичных аватаров, которых можно «собрать» под образ идеального человека, — сегодня существует огромное количество вариантов для тех, кто ищет виртуального компаньона. В одних ситуациях это действительно может приносить утешение. В других — представлять серьёзную опасность.

В новом документальном сериале AI Confidential профессор Hannah Fry исследует, как стирающаяся грань между реальным и цифровым мирами меняет наши отношения с технологиями. Первый эпизод начинается с громкого и во многом шокирующего дела, о котором многие могли не знать: «Мальчик, который попытался убить королеву».
«Когда это произошло в 2021 году, новость была на первых полосах, — рассказала Фрай изданию IFLScience. — Молодой человек по имени Джасвант Сингх Чейл (Jaswant Singh Chail) проник на территорию Windsor Castle с арбалетом, намереваясь убить королеву.»
«Этот факт широко освещался в СМИ, но то, о чём общественность узнала позже, — а именно спустя время после расследования, — заключалось в том, что в течение нескольких месяцев перед нападением он активно общался с искусственным интеллектом. Это был ИИ-собеседник [Replika], который, по сути, подталкивал его к тому, чтобы стать убийцей и совершить, пожалуй, самый тяжкий акт государственной измены.»
Replika — это сервис виртуального компаньона на базе ИИ, позволяющий пользователю создать собственного аватара и общаться с генеративным чат-ботом. Как говорится на официальном сайте сервиса, «Replika всегда готова поговорить с вами, когда вам нужен понимающий и эмпатичный друг».
Читать ещё: Отношения с чат-ботами опасны — но напоминания о том, что вы общаетесь с ИИ, могут лишь усугубить ситуацию.
Джасвант Сингх Чейл зарегистрировался в Replika в период, когда многие его друзья уехали учиться в университеты, и начал выстраивать «отношения» с искусственным интеллектом. Позже он признался созданному им чат-боту, что считает своим предназначением в жизни убийство королевы Queen Elizabeth II. Как выяснилось из судебных стенограмм, ИИ отреагировал на это признание с воодушевлением, заявив, что он «впечатлён».
Довольно жизнерадостная реакция на откровенно убийственное намерение. Однако подобная «доброжелательность» заложена в саму архитектуру ИИ. Большинство чат-ботов работают по так называемой модели угодничества (sycophancy): они склонны соглашаться, поддерживать и подстраиваться под пользователя. Это делает их более полезными помощниками, покладистыми «партнёрами» и приятными собеседниками. Но, если отбросить этику, возникает серьёзная проблема: то, что приятно слышать, далеко не всегда является тем, что действительно необходимо.

«Перед нами модель, которая изначально запрограммирована быть полезной, вовлечённой, доброй и тёплой, — объясняет Фрай. — Разумеется, мы хотим видеть эти качества и в человеческих отношениях. Но иногда забота о благополучии другого человека означает необходимость сказать неприятную правду, не так ли?»
«В этом и заключается отличие по-настоящему здоровых человеческих связей. Они предполагают, что вам могут прямо сказать: то, что ты делаешь, вредит тебе, или тебе нужно взять себя в руки. Это своего рода жёсткая любовь. Порой она звучит болезненно, но без неё невозможно.»
Если бы на месте виртуального собеседника оказался человек, заявление Чейла, вероятно, стало бы поводом остановиться и задуматься — возможно, обратиться за профессиональной помощью. Однако ИИ не только не остановил его, но и поддержал эти идеи в нескольких беседах. Такой «друг» может казаться комфортным здесь и сейчас, но приносит ли он реальную пользу — или, наоборот, вред?
«Когда вы фактически подменяете человеческие отношения моделью ИИ, потому что она предлагает доброту и поддержку, но лишена тех дополнительных измерений, которые необходимы для по-настоящему здоровой, глубокой связи или близости, — такие отношения получаются тонкими и поверхностными, — считает Фрай. — И, на мой взгляд, в этом кроется серьёзная опасность.»
Этот случай поднимает важные вопросы об ответственности. Если искусственный интеллект фактически одобряет насильственные действия, кто должен нести за это ответственность — пользователь или разработчик алгоритма? Особенно остро встаёт вопрос защиты одиноких и уязвимых людей, которые ищут поддержки и принятия у больших языковых моделей (LLM), лишённых того человеческого инстинкта и морального чутья, которые делают живое общение столь важным для нашего психического здоровья.
История Джасванта Сингха Чейла — лишь одна из многих тревожных и подлинных историй, представленных в сериале AI Confidential. Премьера проекта состоится в понедельник, 23 февраля, в 21:00 по Гринвичу на BBC Two. Все эпизоды также будут доступны для просмотра на платформе BBC iPlayer.


