近日，知识社交平台知乎发布社区管理产品「评论折叠」，通过智能机器人和社区用户自治两种方式共同把关留言评论的内容质量，维护认真、专业、友善的社区氛围。其中，被知乎称为「瓦力」的算法机器人会对有「辱骂性质」词汇以及「前排」、「666」等无营养的评论进行自动识别和即时折叠;而作者、知友则可分别通过「一键折叠」和「踩」功能管理低质量评论。
知乎文章评论区「折叠」/「踩」功能示意
今年1月，「评论折叠」开始逐步内测上线。截至3月8日，共有近30万条评论被折叠，其中「瓦力」折叠了近22万条，准确度达到 99.7%。而 16000 多位回答作者使用了「一键折叠」功能。超过40万知友使用了「踩」功能，累计「踩」了 近270万次，将 3 万余条评论踩进了折叠区。
近十几年互联网的蓬勃发展，使得人们能方便地表达自己的声音，但与真实社会不同的是，互联网世界尚未建立文明共识，很多互联网用户并未意识到，人们在网络空间中无所顾忌，恶意的、重复的、带有敌意的语言会形成网络暴力，带来伤害。
作为一个倡导友善分享自己知识、经验和见解的知识平台，知乎一直旗帜鲜明地反对网络暴力。过去几年，知乎分别从社区规范、算法识别和产品机制上维护社区氛围。而今，知乎基于用户反馈和不断反思，通过「评论折叠」开启了将「邻里守望」、「社区共识」产品化的尝试，让每一个用户都成为评论内容的治理者，帮助用户更高效发现有价值的内容。而在中文互联网社区中，知乎首家针对评论内容推出折叠功能，也由此迈入了一个更深层次的平台自治时代。
知乎用户marije是「评论折叠」的第一批体验者，她坦言：“我喜欢看完文章在评论区和大家一起讨论，十分讨厌评论区看不到高质量的观点，被没营养或粗俗的评论刷屏。所以我会去顶优秀评论，踩掉那些比较水的评论。”
「评论折叠」旨在清理诸如「阴阳怪气」、「发泄负面情绪」等严重影响知友讨论体验的评论，其实现方式是：当评论发出后，「瓦力」作为先头部队，进行自动识别和清理，接下来，回答评论区中有「折叠」和「踩」两个功能，每个人都可以对不礼貌的评论点击「踩」。当被踩评论的分值达到一定阈值后，评论会被自动折叠。同时，回答者拥有「一键折叠/取消折叠」的权利，进一步加大了对回答评论区的可控力度。此外，用户也有点击举报和申诉的权利，而知乎管理员会定期人工处理折叠区中的辱骂评论和帐号。
值得一提的是，不同用户的「踩」会在不同程度上决定该评论是否进入折叠区的命运。由于「评论折叠」延续了知乎原有的用户话题权重算法，专业的高权重用户的投票对是否折叠的影响更大，这将提高「折叠」处理的效率和准确度。此前，在知乎的试验中，依据用户权重以及用户以往举报准确度，系统自动对其举报的违规内容进行处理，这类举报处理的准确率达到了 99.6%，超越了目前任何人工判断的准确率。
「评论折叠」还能在一定程度上帮助用户情绪缓冲，降低非理性情况下矛盾冲突的激化。此前，知乎主要依靠删除和举报两项功能来管理评论区，有时可能出现用户在情绪中发表的激烈评论被回答者删除/举报后，会更加气愤或难以接受，继而引发更多冲突的情况。
除了「评论折叠」，知乎还在通过悟空反作弊系统，365天全年无休的实时识别垃圾广告内容、刷赞刷反对等行为。仅过去半年，悟空就累计处理近130万条恶意营销内容，封禁20余万个违规账号。未来，知乎还将持续优化「评论折叠」，优化「瓦力」的识别性能，提高「瓦力」的响应速度和准确率，并开发更多产品来推动社区实现良性自治。
