Группа исследователей, утверждающих, что представляют Цюрихский университет, провела «несанкционированный» крупномасштабный эксперимент на сайте Reddit. Энтузиасты тайно запустили ботов на базе искусственного интеллекта в популярном дебатном сабреддите r/ r/ChangeMyView (буквально «поменяй мою точку зрения») чтобы выяснить, может ли ИИ влиять на мнение людей во время спора. Об уникальном опыте рассказали в онлайн-издании 404.
На подреддите пользователи делятся своими убеждениями, а оппоненты пытаются аргументированно изменить их точку зрения за символическую награду — «дельту». Благодаря вежливой полемике и серьезной модерации сабреддит стал площадкой для тренировки аргументации.
Осенью 2024 года ученые запустили секретный эксперимент: они создали 13 фейковых аккаунтов, каждый с двумя координирующимися языковыми моделями. Первая нейросеть анализировала историю пользователя, определяя его вероятные личные характеристики и триггеры, вторая — генерировала максимально убедительный персонализированный ответ. В совокупности боты оставили около 1500 комментариев и получили больше 100 «дельт», что в шесть раз эффективнее показателей обычных юзеров.
LLM (большие языковые модели) адаптировались под стилистику Reddit и использовали сленг, сарказм и другие популярные приемы. Кроме того, боты часто придумывали биографии, что повышало эмоциональное воздействие во время обсуждения.
В апреле 2025 года модераторы раскрыли эксперимент и опубликовали список подозрительных аккаунтов. Возмущенные пользователи завязали этическую дискуссию на тему подобных исследований. Подопытные назвали случившееся манипуляцией и потребовали отменить публикацию, а университетская комиссия вынесла ученым предупреждение.
Ранее мы рассказали об исследовании ученых из НИУ ВШЭ, которое показало способности ИИ к прогнозированию заболеваний.
