Facebook必须时刻保持警惕，防止其平台被“为非作歹之徒”所攻占，但他们究竟如何做到这一点，只有自己知道。然而在今天，该公司为我们提供了一些数据，说明他们正在使用何种工具以及正在取得什么成果，例如，今年到目前为止，已经删除了1400多万条“恐怖内容”。
在1400万内容中，半数以上是在2018年之前发布的旧帖子，其中一些内容已经上线好几年了。但正如Facebook所指出的，那些内容很有可能从来未被阅读过。很难想象一个招募恐怖分子的帖子在970天内被人看过，却未被管理系统识别出来。
也许更重要的是，新帖子被删除的数量似乎在稳步增长。在今年第一季度，120万条帖子被去除;在第二季度中，这一数字变为220万;在第三季度，为230万。用户报告内容的移除数量也在增长，尽管在数量上要小得多——在第三季度大约有16000条。事实上，Facebook自豪地报告说，其中99%的内容是该公司“主动”删除的。
值得注意的是，Facebook在谈到这种内容时总是言语谨慎、小心措辞，例如，他们不会说“恐怖分子发布了230万条内容”，而是说“被劫持”或“浮出水面”的内容数量。这样做更保守，在技术上也更正确，因为他们只能对自己的行动心中有数，但这种做法也淡化了恐怖分子每月发布数十万帖子的事实。
人们无法判断1400万条恐怖内容是多?还是少?不过，令人印象深刻的是，据说Facebook已经大大扩展了自动化检测工具的范围。该公司称：
“我们利用算法识别违规文本帖子(我们称之为“语言理解”)的实验，现在已涵盖19种语言。”
同时，降低内容删除速度的bug已被修复：
“2018年第二季度，使用我们的标准工具，将新内容上传到平台上的平均时间约为14小时，比2018年第一季度有显著增加。这种增长是由多种因素推动的，包括修复了一个阻止我们删除一些违反政策内容的bug，以及推出新的检测和执行系统。”
第三季度的数字还会有所提高，因为改进工作正在进行中。
“毫无疑问，我们都希望公司的内容管理早点达到严谨的水平。值得注意的是，这种机制最大的好处是不仅仅专注于删除内容，还会促进内容管理团队的不断成长。”
