美国纽约肖托夸县的治安官Joseph Gerace看到过许多自杀行为，在他成为公职人员之前，他最好朋友的父亲就以自杀结束了自己的生命。去年7月一位Facebook安全团队的成员打电话给911中心的调度员称，当地一位居民需要紧急救助。Gerace称：“这能够帮助我们提升公共安全。我们不会干预人们的私生活，但是如果出现危险我们就会介入。”
去年8月份肖托夸县当地媒体报道的第一起自杀案例就是由Facebook追踪到的，当时公司收到举报称一位女性在她的Facebook上发出了自杀的信息。多年以来，Facebook都允许内部审核人员对自杀内容进行审查，并且决定是否需要通过自杀预防热线为用户提供帮助，或者在紧急情况下让公司的法律反应团队介入。
随着技术的不断发展，对于Facebook来说必然存在一种工程学方案来应对自杀行为。大约1年以前，Facebook增加了新技术，能够自动标记涉及自杀意图的帖子供公司审查员进行分析。去年11月份，Facebook已经证实这个新系统已经获得了成效。
据Facebook称，这个新系统标记的涉及自杀想法的帖子数量已经提升了20倍，收到Facebook自杀预防系统帮助的人数也增加了两倍。公司也一直在对系统的语言和Instagram的自杀预防系统进行升级，但目前仍然处于研发的早期阶段。周三时Facebook也公布了关于这项技术更多的细节。
虽然表现自杀想法的帖子很少，但自杀是一种很普遍的威胁。据美国疾病控制和预防中心的数据，自杀在美国死亡原因中排名前十，在年龄15到34岁之间的死亡原因中排名第二，仅次于意外伤害。
Facebook自2013年建立一座人工智能(AI)研究实验室并且雇佣著名的研究人员Yann LeCun作为负责人之后，就开始打造AI人才和技术。实验室已经创造出许多令人印象深刻的技术，比如说借助用户照片识别物体、将文本内容转变成其它语言等等。
包括亚马逊、苹果、谷歌和微软在内的所有科技巨头都在AI领域投资升级自己的服务和平台。但是自杀预防并非AI研究人员关注的热门话题。曾在雅虎和微软AI部门任职的一位Facebook研究科学家Umut Ozertem称：“我从未听说过自杀预防系统，但它让我非常感兴趣。自杀行为曾让我失去了三位好朋友。”
Facebook对于自杀预防的探索已经超过了10年，自杀预防也是谷歌和微软正在进行的事情。比如说，如果有人用谷歌搜索“我想自杀”，就会出现国家自杀预防热线的电话号码。微软则会在搜索结果中显示救助中心的信息，并且让用户在Xbox线上服务上报自残信息。
