Reddit揭露AI机器人秘密操控辩论论坛事件

在Reddit最大的社区之一的幕后，令人毛骨悚然的事情一直在酝酿之中。四个月来，AI驱动的机器人伪装成人类，摇摆着观点并赢得了数千次投票。

该实验似乎在起作用 - 直到每个人都发现.

Reddit在本周早些时候宣布了计划，在得知苏黎世大学的研究人员对R/ChangeMyView Subreddit进行了未经授权的实验后，计划收紧用户验证，并使用AI机器人在未经其知识或同意的情况下操纵用户来操纵用户。

研究人员已经部署了使用敏感角色的机器人，包括创伤顾问，性侵犯幸存者和有争议的政治身份 - 从2024年末到2025年初，并发表了1,700多种评论。 AI实体还分析了用户的发布历史，以制定有说服力的个性化答复 - 所有人都没有透露他们是AI代理商。

在致社区的帖子中，雷迪特首席法律官本·李（Ben Lee）谴责该实验“在道德和法律层面上都深深地错误”，理由是违反了平台用户协议和研究道德的行为。该公司禁止与研究有关的所有帐户，并向苏黎世大学提出正式投诉。

保持Reddit人意味着共享更多信息

首席执行官史蒂夫·霍夫曼（Steve Huffman）在最近的一个平台更新。 “这是真正的人分享真实意见的少数几个地方之一……如果我们对此失去信任，我们会失去使Reddit…Reddit的原因。”

该实验使在线社区发挥作用的核心：信任。主持人将其描述为“心理操纵，“指出用户加入了期望真正的人类互动的subreddit，而不是不愿意的测试对象。

也就是说，AI机器人非常有效，收集了20,000多个投票和137个“ deltas” - 当某人成功更改另一个用户视图时，给予了Awards。但是，研究人员透露了他们的工作后，该实验只会获得蒸汽。为了防止另一项事件（甚至是秘密事件）现在正在采取快速追踪措施，以验证用户是人类而不损害隐私的情况。

霍夫曼解释说：“为了保持红色人类的人类并满足不断发展的监管要求，我们将需要更多信息。” “具体来说，我们需要知道您是否是人类，在某些地方，如果您是成年人。但是我们永远不想知道您的名字或您是谁。”

该公司计划与第三方验证服务合作进行此类检查。

霍夫曼强调，保持匿名仍然是该平台的基石：“匿名对reddit至关重要。我们一直在 - 并且将继续存在 - 对您的个人信息的保护。”

虽然Reddit已经使用AI工具来进行内容调节和垃圾邮件过滤等任务，但在模拟机器人的用户时，该公司设定了限制。霍夫曼确认：“我们的重点是，并且永远都是，将雷迪特保留一个值得信赖的人类对话的地方。”

该平台目前禁止“不良”机器人，但该事件突出了当前系统中的关键漏洞。随着人工智能变得越来越复杂，人类和机器生成的内容对在线社区提出了挑战。

Reddit没有回复发表评论请求，但是Reddit用户担任R/ChangeMyView的主持人的Reddit用户恐惧率_song490告诉解密主持人将仔细检查与AI的相互作用。他说：“我的普遍印象是，团队总是会接受研究人员，我们将逐案考虑要求。”

随着Reddit接近其成立20周年，该事件强调了平台和类似的在线社区。未来的挑战在于利用AI福利，同时保留了使这些空间首先使这些空间变得有价值的人类联系。

霍夫曼指出：“互联网正在迅速变化，人类的观点从未如此重要。” “没有解决方案是完美的 - 包括现状，但我们将尽力保留Reddit的人性和匿名性。”

由詹姆斯·鲁宾（James Rubin）编辑