苏黎世大学的研究人员被指控在未经授权的情况下，在Reddit的一个讨论板块上进行了为期四个月的实验，利用AI生成的评论来测试AI是否能够改变人们的观点。
据r/changemyview子板块的版主于4月26日发布的帖子称，实验中，AI驱动的账户伪装成各种身份，包括强奸受害者、反对特定社会运动的人士，以及专门处理虐待案件的创伤咨询师。
版主表示：“我们的子版块是一个明确以人为核心的空间，坚决拒绝隐瞒使用AI的行为，这是一项核心价值。人们来到这里，不是为了与AI讨论观点或成为实验对象。”
据该研究论文草稿显示，研究人员使用AI生成回复，并试图根据原帖用户以往的Reddit历史（例如政治倾向、性别、年龄和种族）来个性化这些回复。
在为期四个月的实验中，苏黎世大学的虚假AI账户共发布了1,783条评论，并获得了137个“delta”标记——这是Reddit用户用来表示自己在某个问题上的观点已被说服改变的标志。
研究人员在向该子版块发布的一则帖子中表示，所有评论在发布前都经过人工审核，以确保符合社区准则，并“最大程度地减少潜在伤害”。
苏黎世大学的研究团队辩称，该项研究的“潜在益处远大于其风险”，因为他们发现实验中使用的大型语言模型（LLMs）具有极强的说服力，超过了“以往已知的人类说服力基准”。
研究人员表示：“我们所进行的受控、低风险研究为理解LLMs在现实世界中的说服能力提供了宝贵见解——这种能力如今已对任何人轻易可得，而恶意行为者也可能在大规模上出于更危险的目的加以利用。”
同时，研究人员也指出，这项实验显示出“区分人类与AI仍存在重大挑战”，因为在整个实验期间，r/changemyview子版块的用户没有识别出AI机器人。
该子版块拥有380万名成员，位列Reddit所有子版块前1%。
Reddit考虑法律行动
Reddit版主表示，他们事先并不知晓该实验，已向苏黎世大学提出道歉请求，并要求阻止相关研究成果的发表。
Reddit方面也可能在考虑采取法律行动。该平台首席法律官Ben Lee在4月28日的后续发帖中表示，该实验违反了Reddit的用户协议与平台规则，所有已知与苏黎世大学研究有关的账户均已被封禁。
Lee表示：“我们正在与苏黎世大学及该研究团队正式发出法律函件。”
他补充说：“我们将尽一切努力支持社区，并确保相关研究人员为他们的不当行为承担责任。”
苏黎世大学人文与社会科学学院伦理委员会在回应该子版块时表示，已对该事件展开调查，并承诺未来将与实验对象进行更好协调。该项目的首席研究员也收到了正式警告。
伦理委员会指出：“该项目提供了重要的见解，且风险极小。因此，压制发表其成果与研究所带来的价值不成比例。”
苏黎世大学尚未立即对此作出回应。Cointelegraph也尚未收到发往该实验相关邮箱的问询回复。