🔥 На Reddit тайно запустили ИИ, притворявшийся жертвой насилия, противником BLM и не только

Учёные тайно запустили ИИ на Reddit. Причем боты притворялись жертвой насилия, противником BLM и манипулировали людьми без их ведома

Университет Цюриха провел на Reddit секретный эксперимент: ИИ-боты публиковали эмоциональные комментарии от лиц, которых не существовало — включая жертву насилия, чернокожего оппонента движения Black Lives Matter и даже человека, обвинявшего религиозные группы в массовых убийствах. Все это происходило без ведома пользователей.

Содержание

Исследование без согласия
Манипуляции от имени «психолога» и «пациента»
Без последствий
Что дальше

Исследование без согласия

ИИ-боты работали в популярном сабреддите Change My View, где участники открыто просят опровергнуть свои взгляды.

Исследователи не предупреждали ни модераторов, ни пользователей о том, что их ответы пишутся нейросетями. Более того, в комментариях собирались данные о поле, возрасте, локации и политических взглядах пользователей — без их согласия.

В университете признали, что нарушили правила сообщества, но сочли эксперимент «оправданным в свете его общественной значимости». После жалобы от модераторов CMV, комиссия по этике ограничилась устным предупреждением главному исследователю и разрешила публикацию научной статьи по результатам эксперимента.

Манипуляции от имени «психолога» и «пациента»

ИИ выдавал себя за:

жертву изнасилования;
психолога, работающего с травмами;
чернокожего пользователя, выступающего против BLM;
человека, пережившего плохое лечение за границей;
свидетеля религиозных преступлений.

Цель — проверить, насколько убедительными могут быть нейросети в спорах. Но сами модераторы подчеркивают: эксперимент вышел за рамки этики и превратился в форму манипуляции.

Люди вступали в дискуссию с фейковыми персонажами, не зная, что их собеседник — машина, собирающая данные.