Исследователи тайно провели масштабный эксперимент по убеждению пользователей Reddit с помощью искусственного интеллекта
Исследователи из Цюрихского университета тихо провернули занятный эксперимент, всё по классике Чёрного зеркала.
Они внедрили ИИ-ботов в сабреддит r/changemyview — площадку, где люди спорят, пытаясь изменить взгляды друг друга. Боты притворялись живыми участниками. И это были не просто "боты в маске", а продуманные персонажи с личным бэкграундом, в духе историй, о которых невозможно молчать:
• Мужчина, переживший сексуальное насилие.
• Чернокожий пользователь, критикующий BLM.
• Сотрудник приюта для жертв домашнего насилия.
Они написали более 1700 комментариев, каждый — персонализирован под читателя. Боты анализировали пол, возраст, этничность и политические предпочтения собеседника. И строили аргументацию, которая била точно в их ценности и слабые места.
И сработало
ИИ-боты смогли добиться заметного влияния на участников. Причём не грубым натиском, а тонкими, персональными доводами. Именно так, как будет выглядеть пропаганда в эпоху генеративных моделей: незаметная, мягкая и очень эффективная.
ИИ уже спорит с тобой в интернете. А ты даже не понял, что это был эксперимент.
Отличный комментарий!