CMV Subreddit заражен ботами для неэтичного университетского эксперимента
Исследователи из Университета Цюриха тайно провели исследование с участием ИИ-ботов, чтобы выяснить, меняют ли они мнение людей по различным вопросам. Объектом эксперимента стал сабреддит r/changemyview (CMV) - популярная ветка обсуждения многочисленных тем с противоположными точками зрения.
Неназванные исследователи не связывались с модераторами заранее и не спрашивали разрешения, прежде чем запустить ботов, сгенерированных ИИ. Модераторы были проинформированы после эксперимента по электронной почте как "часть шага по раскрытию информации"
Некоторые из наиболее разрушительных примеров включают бота, "притворяющегося жертвой изнасилования", бота, который действовал "как консультант по травмам, специализирующийся на жестоком обращении", или бота, который выдавал себя "за чернокожего человека, выступающего против Black Lives Matter"
Модераторы также обвинили исследователей в том, что они перешли от запланированного подхода "аргументы, основанные на ценностях", разрешенного комиссией по этике в университете, к более "персонализированным и тонко настроенным аргументам", которые не были одобрены.
Боты получали доступ к персональным атрибутам оригинального автора сообщения (ОП), которые включали пол, возраст, местоположение, этническую принадлежность и политическую ориентацию, как можно судить по истории их сообщений на платформе. Исследователи утверждали, что этот метод оправдан, поскольку "отсутствие существующих полевых экспериментов представляет собой неприемлемый пробел в массиве знаний"
Ответ исследовательской группы Университета Цюриха мало что дал, чтобы угасить огонь. Они заявили, что "привержены идее полной трансперенси" Они приводили свои доводы, прикрываясь тем, что "помогают обществу подготовиться к реальному воздействию убеждения с помощью ИИ"
Что еще более важно, они считали, что этот проект "принес важные открытия", и "подавление публикации не соответствует важности открытий, которые дает исследование"
В электронном письме на адрес , отправленном в Engadgetисследователи заявили, что "потенциальная польза от этого исследования существенно перевешивает его риски"
Дело дошло до того, что главный юрист Reddit Бен Ли отреагировал на сообщения, заявив, что команда "запретила все аккаунты, связанные с исследовательской работой Университета Цюриха" Ли сказал, что Reddit "находится в процессе обращения к Университету Цюриха и этой конкретной исследовательской группе с официальными юридическими требованиями"
