Reddit用大语言模型对抗大语言模型催生的垃圾内容

随着强大的大语言模型变得触手可及，不法分子在互联网上散布垃圾信息的门槛大幅降低。近几年来，任何花时间上网的人都会发现，垃圾内容和机器人账号已成为比以往更严峻的顽疾。

Reddit表示，平台借助大语言模型开发了一套工具，专门用于打击垃圾内容——而这些垃圾内容本身，很大程度上也是由大语言模型生成的。这固然有些讽刺，但在AI时代，各大平台别无选择，只能以彼之道还施彼身。据Reddit披露，平台每天拦截2300万次垃圾内容浏览，每天捕获约2.5万条新垃圾帖子和评论。

社交平台多年来一直在构建自动化的垃圾内容过滤工具，但Reddit表示，此次更新后的工具拦截垃圾内容的命中率更高。

Reddit在一篇官方博客中写道："我们利用大语言模型来识别高度隐蔽的、经过协调的虚假行为和人为炒作模式，这些过去的系统曾一度对此束手无策。"该公司称，与前三个月相比，今年1月至3月间用户接触垃圾内容的频率降低了20%。

YouTube、Meta、Instagram等平台允许用户发布AI生成内容，前提是需要进行相应披露；TikTok则更进一步，允许用户自行调节希望看到的AI生成内容比例。

若平台能够更快速地识别AI生成内容，也意味着它们有能力更迅速地标记仇恨言论等违规内容。不过，平台领域的专家持续提醒我们：AI内容审核必须与人工审核相结合，才能实现最佳效果。

Q&A

Q1：Reddit每天能拦截多少垃圾内容？

A：根据Reddit公布的数据，平台每天拦截2300万次垃圾内容浏览，同时每天捕获约2.5万条新的垃圾帖子和评论。自今年1月至3月，用户接触垃圾内容的频率相较前三个月下降了20%。

Q2：Reddit用大语言模型反垃圾内容的原理是什么？

A：Reddit利用大语言模型识别传统系统难以发现的高度隐蔽、经过协调的虚假行为和人为炒作模式。大语言模型在理解语义和上下文方面具有更强的能力，因此能够更精准地甄别出那些刻意模仿正常用户行为的垃圾内容。

Q3：AI内容审核能完全替代人工审核吗？

A：目前不能完全替代。平台领域的专家持续强调，AI内容审核必须与人工审核协同配合，才能取得最有效的结果。AI虽然能够快速识别大规模的违规内容，但在处理复杂语境、文化差异以及边界案例时，仍然需要人工判断的介入。