线上经济爆发式增长带来了更加便利的生活,但数字化跃迁的双刃剑效应也不断上演。随着数字化普及,躲藏在暗处的网络黑产也逐渐扩大规模,打破市场生态的良性循环,让许多企业叫苦不迭。
网络黑产以互联网为主要媒介,以网络技术为主要手段,形式多种多样,危害着网络、企业甚至社会的安全,《2019中国数字金融反欺诈全景报告》显示,我国黑产从业人员超过200万人,市场规模已达千亿级别,现已渗透到线上业务的各个行业。
近年来,网络黑产利益链条日益完整,危害性进一步扩大,国家监管部门也采取了严厉的治理手段,公安部网站数据显示,截至2020年底,全国网安部门侦办黑灰产案件共265起,抓获违法犯罪嫌疑人1637名,查获被恶意注册、非法使用的网络账号2.25亿个。即便如此,也只揭开了网络黑产利益链条的冰山一角。
网络黑产已经明显威胁到企业的效益,因此,打击网络黑产并不能只靠国家监管部门,企业更应该承担起主体责任,多方合力共同对抗网络黑产。黑产行业的规模与数字化普及程度呈现正相关,平台不断增加的流量便是网络黑产最好的“养分”,因此该运用何种手段来解决现状,便成为了数字化企业最重要的生命线之一。
一边增长,一边翻车
在新冠肺炎疫情影响下,传统行业加快拥抱数字化转型大潮,社交、游戏、电商、直播、在线教育等互联网C端业务随着用户需求激增而飞速发展,同时还带动了互联网行业的“卖水人”——SaaS、PaaS等2B行业节节高升。
但在线上经济高歌猛进的同时,翻车事故却层出不穷,其中主要包括两类风险事故:业务风险、内容风险。
疫情期间,大批明星进驻电商直播行业,却因数据造假数度冲上热搜。脱口秀演员李雪琴与知名经纪人杨天真等嘉宾受邀参与的一场“双十一”3C数码产品直播,平台显示共有311万观众。但据相关媒体报道,真实观众实际不到11万。
去年6月,某线上教育软件由于存在低俗视频、教唆早恋内容等突出问题,被北京网信办会同属地教育主管部门约谈和整改,要求完善信息安全制度,加强内容审核,切实履行主体责任。
这些事故暴露出,企业风控体系已经难以满足日益增长的业务需求。随着监管整治力度加大,企业也积极搭建自己的安全防线,不断加强业务、营销、内容风控能力,寻求与专业的在线业务风控商合作,构建更加智能化的风控体系。
看似意外,实则必然
2015年夏天,当时还供职于360的唐会军,意外接到了一位电商行业的朋友打来的咨询电话,对方提到公司业务深受黑灰产的困扰,希望唐会军能帮忙一解燃眉之急。彼时的双方也未曾预料到,这通电话提及的风险萌芽,会在不久的未来爆发成线上经济不可忽视的问题。
详尽调研后,唐会军发现市面上并没有一款能帮助客户全方位防御的风控产品,深谙人工智能的他,立即拉上其他几个伙伴,在清河附近的一间民居内创办了数美科技,联合创始人兼CTO梁堃便是其中之一。两人结识于百度,在搜索推荐、反欺诈、风险控制等大数据应用领域都颇有造诣,数美的其他初创团队成员也都在AI、大数据方向有着很深的积淀。
数美科技主打的天网、天净两款产品都是以SaaS形式为主,前者是数美结合多年黑产对抗经验打造的业务风控产品,旨在为客户防御营销活动欺诈、渠道流量作弊、刷榜刷单等风险问题;后者是结合人工智能技术打造的内容风险识别产品,为客户提供高效、精准、全面覆盖的内容审核过滤,帮助客户识别文本、图片、音频、视频、网页中出现的涉黄、涉政、低俗、色情、导流广告等问题。
数美科技风控产品矩阵
关于如何满足不同行业的需求,梁堃解释说,数美为客户提供的是一套高标准化的综合解决方案,虽然不同行业的业务外在形式有差异,但实质是相通的。比如银行业涵盖线上商城、在线支付等业务,其业务形式与电商行业各有偏重,但实质相同,而其中蕴含的风险就是数美科技最擅长的。遇到这些客户需求,深入研究场景、相应调整模型和策略参数,就可以为客户提供最契合的解决方案。即便在今年疫情的环境下,数美科技依然能够保持高速增长。这离不开他们的强大的技术能力和过往表现,也离不开独特的商业模式与产品形式。
新冠疫情期间,大量需求涌入线上,互联网2C应用不断走俏,数美也随着老客户快速增长的需求而增长。另一侧,数美还注意到许多传统行业,比如银行、地产、零售、航空公司,正将许多线下业务迁移到线上,而他们也面临着同样的黑产威胁,传统客户群体的数字化迁移也成为数美的发展机遇。
“只要客户的流量不断增长,我们就会不断快速发展。” 梁堃信心满满。
例如,数美前不久与中国工商银行建立了合作关系。作为中国资产规模最大的传统银行机构之一,工行在近几年正加快推进和深化银行金融数字化业务进程,旗下“三融”平台总客户规模已经超过3亿。双方合作探索更高效、更智能的金融风控解决方案。
不久前,数美科技也正式宣布完成1.35亿美元D轮融资,为技术研发、产品打造、海外拓展和服务优化注入了强大的活力,服务水平与产品能力将登上新的台阶。
更“狡猾”的对手
“网络的黑色产业链条,逐渐孵化成熟,并向组织化、集团化发展,黑客攻击事件频发,各类窃取信息的行为不断发生,国家层面和个人层面的信息安全面临着新的问题和挑战。”中国互联网金融协会秘书长陆书春曾说道。
数美也注意到,与之交手的黑产不再是单打独斗的个人,而是专业的黑产组织。
梁堃介绍,黑产链条可以分为四层。最底层是情报层,通过爬虫或其他监控技术发现各类平台活动和漏洞;然后是资源层,为黑产提供代理IP、设备农场、手机号、接码平台等资源;再往上一层出售诸如APP注册机、刷榜机等具体的自动化工具;最顶层是变现层,把薅到的羊毛变成实际利益。
完备的黑产链条
随着黑产产业链日益完整,攻击技术逐步提高,防控策略也要逐步进化。为此,数美科技专门成立了黑产研究院,主动挖掘黑产情报、复现黑产作恶并对黑产底层工具进行深入研究,有的放矢地制定完备的反欺诈策略。
电商营销活动一向是黑产、羊毛党的重点围猎目标。例如,2018年星巴克上线了新用户注册礼活动,仅一天半,就有40万虚假注册薅走了大量优惠券,损失近千万元。
数美科技也有多个电商客户在营销上吃过亏。数美一个曾经的电商平台客户案例发生在iPhone6S刚上市时,当时的许多黑产在该平台发帖或私信“只要1800,全新iPhone6s带回家。”大多数消费者可以一眼识破这个简单骗局;但一些触网不久的人便被套路,察觉受骗后,他们会误以为是电商平台售假诈骗,伤害到了平台的声誉。
意识到问题后,该电商平台也很快采取了措施——他们设置了专门的人力审核组,但收效甚微,直到他们开始使用数美的“天网”。数美识别出了高危黑产账号,不仅顺势找出了全部的诈骗广告,还做到了实时阻断。
另外一个让梁堃印象深刻的案例发生在2018年。彼时电商间的流量之战愈发激烈,社交裂变成为拉新、促活的有效方式。数美的某个客户采用的就是拉新补贴优惠券方式。
第一次见面沟通时,该客户告诉他们,目前他们识别出了新用户的黑产比例在百分之十几。于是梁堃提议,先接上数美的系统,实验两周看看情况。
系统上线的第一天,梁堃盯着后台跳动的数据,“当时就被吓坏了”——天网拒绝了92%的新用户。梁堃说,他当时的第一个念头是怀疑该不会哪个策略或者模型出现了问题。
他马上将情况同步客户,客户客服紧张地给被拒绝的用户电话回访,结果全都无法接通,这说明在这场社交裂变的营销活动中,巨额补贴只有不到8%落到了真实的用户手里。
由于利润丰厚和监管缺失,电商薅羊毛行为十分泛滥。数美在帮助电商客户对抗黑产的过程中发现,电商营销活动的补贴有很大一笔数额是被黑产薅走的,没有AI风控加持的营销活动,就如小儿持金过闹市。
目前大多数平台已经开始自主或者联合风控技术供应商加强风控。而数美科技的天网产品,在构建全栈式风控体系,打击专业黑产之外,还具备“积分墙”识别功能,防控业余羊毛党。
梁堃介绍,积分墙是黑产驱使的真人用户,接取黑产任务,完成后即可获取相应费用。一般的风控策略只是简单地“判黑判白”,对黑产账户采取封号、限制提现和优惠等措施,白户则可以享受一切正常的优惠。
过去的风控策略下,积分墙属于白户,但实质上对平台几乎没有任何价值。而数美可以准确标记积分墙账号标签,为客户提供更精细的处置方案,这将在扼制数据造假、营销作弊方面发挥巨大用处。
300多标签,助力客户精细化运营
除了业务风险,内容风险是线上经济不容忽视另一大主要风险。内容风险监控作为全新课题,技术挑战非常高,管控难点主要在缺乏成熟方案和标准,尤其新兴的直播行业,主播行为、直播内容不可控,高并发处理、实时响应等。
早期直播的恶性违规集中在色情低俗,以及敏感人物肖像两个方面,但直到今天,这依然是各类型直播的重灾区。
以智能鉴黄为例,市面上的解决方案其实大同小异,可分为明确分类标准、收集样本、样本打标、模型训练等几个步骤。其中,明确分类标准是第一步,且是最关键的一步。与同类产品相比,数美科技天净的特别之处就在于拥有多维度下总计超过300个的违规标签,这是数美2020年精细化运营的重要成果。
精细化运营,不仅指不断丰富标签体系,比如在“色情低俗”大类下进一步细分出诸如“露肩”、“粗口”等细化标签,还指为不同用户在不同场景提供个性化的多尺度选择,比如秀场直播和教育直播对于“露肩”的接受度就截然不同。
值得一提的是,数美整套标签还成为了客户培训审核团队的标准。
在此之前,在线内容生产行业缺乏统一的内容审核标准,直到数美科技这套清晰的标签出世——光是色情数美就做了60多个不同分类,审核人员培训、学习时有了统一、确定的审核标准。
每一次标签升级背后,是数美科技多团队通力合作的结果。梁堃介绍说,从一个客户需求到一个抽象标签,至少经过四个重要步骤。
首先,产品团队会判断现有标签能否满足客户需求,若不能,则开始考量新标签应用的普适性。第二,生成新标签,对标签进行准确定义,收集样本、准备算法等。第三,产品团队思考和撰写标签的使用手册,策略团队准备相应的配置策略,并将用法和策略相结合。第四,上线标签,在客户场景中使用。
梁堃记得,曾经服务过的某客户新上线了面向高端用户群体的直播电商业务,因为直播流数量较多,便安排了四五百人的外包团队进行审核。后来接上了天净系统提高审核效率,没想到一天之内,天净就提示几百个节帧、十几条流涉嫌违规,存在色情低俗等违规内容。
“在用户量和直播流巨大的情况下,即使有四五百人审核团队,也只能照顾到一些头部主播和头部视频流,而真正的风险其实藏在腰部、尾部区域。”梁堃表示。
最后,梁堃分享了一个小故事。2020年春节期间,某位客户准备上线一个营销活动,但直到活动前几个小时,他们才想起来告知数美,在微信群询问能否放开qps(每秒查询率)的限制。因为一般进行活动,流量势必大幅增长,会将数据的吞吐量拉到极高的位置。
数美团队立即对集群进行了扩容,仅仅用了两小时,就放开了qps,完整支撑了活动正常举办。“针对每一个问题,我们都有严格的解决时间要求,两小时是解决问题的时间,而响应时间是保持在5分钟之内。” 梁堃骄傲地说。
强大的技术和产品快速迭代能力,客户第一的服务精神,或许这就是数美科技五年间累计服务了数千家客户,被客户称赞为“同一个战壕里的战友”的原因,也是他们能够跻身行业前排的秘诀。
以上文章来源于36Kr