Reddit грозит подать в суд на группу учёных, которые использовали чат-ботов с искусственным интеллектом (ИИ), чтобы тайно провести эксперимент на участниках платформы.
Учёные из Цюрихского университета внедрили целую «армию» ИИ-ботов на популярный форум Reddit — r/changemyview, где почти 4 миллиона человек обсуждают спорные темы. Целью было выяснить, может ли ИИ влиять на общественное мнение.
Для этого боты оставили более 1700 комментариев на сабреддите, выдавая себя за разных людей. Среди них был, например, мужчина, переживший изнасилование, который преуменьшал последствия травмы; консультант по домашнему насилию, утверждавший, что наиболее уязвимы женщины, выросшие в излишне защищённых семьях; и темнокожий мужчина, выступавший против движения Black Lives Matter. Одновременно работал ещё один бот, который анализировал профили пользователей, чтобы подстраивать ответы под конкретного человека и делать их максимально убедительными.
Позже исследователи сообщили модераторам форума о своём эксперименте, назвав это частью процедуры раскрытия информации. Они также прикрепили черновик с предварительными результатами исследования.
«Команда модераторов CMV должна проинформировать сообщество о несанкционированном эксперименте, который провели исследователи из Цюрихского университета на участниках форума, — написали модераторы в обращении. — Мы считаем, что это было неправильно. И тот факт, что “такого ещё не делали”, не является оправданием.»
Согласно черновику, ИИ-комментарии оказались в 3-6 раз эффективнее человеческих. Для измерения использовалась функция форума, с помощью которой пользователи могут награждать те ответы, которые действительно изменили их мнение.
Авторы исследования — чьи имена в черновике по неизвестным причинам скрыты, что нарушает академические нормы — также отметили, что ни один пользователь во время эксперимента не заподозрил, что общается с ботом.
Публикация вызвала волну возмущения как у обычных пользователей, так и у главного юриста Reddit Бена Ли (Ben Lee). Под ником traceroo он оставил комментарий под постом, в котором заявил, что компания готовится к юридическим действиям против Цюрихского университета.
«То, что сделала команда из Цюрихского университета, абсолютно недопустимо — и с этической, и с юридической точки зрения, — написал Ли. — «Это нарушает нормы научной этики, права человека и правила Reddit, включая правила конкретного сабреддита.»
В ответ Цюрихский университет сообщил изданию 404 Media, что результаты исследования опубликованы не будут. В будущем этический комитет университета усилит контроль и будет требовать обязательного согласования с онлайн-сообществами до начала подобных экспериментов.
Независимо от исхода юридического спора, этот случай наглядно показывает, насколько ИИ-боты уже способны проникать в онлайн-дискуссии. В марте стало известно, что модель GPT-4.5 от OpenAI прошла тест Тьюринга — 73% участников эксперимента были уверены, что разговаривают с человеком.
Это также добавляет аргументов в пользу так называемой «теории мёртвого интернета» — идеи о том, что большая часть контента в интернете уже создаётся не людьми, а ИИ. Пока это лишь теория заговора — но ненадолго.
