您的位置:首页>>人物动态

百度安全马杰:AI思维重塑安全边界 七种武器助力开放生态

发布时间:2018-11-16 16:22:34  来源:互联网    采编:徐彬  背景:

  AI会让世界变得更好吗?

  这是11月16日,百度安全总经理马杰在天府2018国际网络安全高峰论坛发表主题演讲时开场即抛出的问题。

  对于这个问题,马杰给出的答案是,“一定会!”

  以AI思维应对安全新挑战

  基于大数据和云计算,AI正在驱动整个人类社会在组织、制度和经济上的全方位变革。但是,当我们绘制AI时代的宏伟蓝图,将思维模式从Think Mobile向Think AI转向时,也不可避免的迎来了全新的安全挑战。

  在马杰看来,AI时代,一个很典型的特点便是软硬结合。大到智能汽车,小到智能音箱,几乎已经涉及到了终端设备制造商、第三方应用开发商、解决方案提供商、系统开发商、芯片厂商及云端服务商等全产业链环节。随之而来的安全威胁,也不再仅限于传统意义上的高危范畴,系统漏洞、设备劫持、云端风险、数据安全与隐私泄露,无时无刻不在威胁着你我的智能生活。

  AI时代AI思维下的另一特征,是算法正在推动传统行业转型的进程,然而算法自己有时也会“犯错”。

  如上图所示,马杰现场演示了百度安全关于交通安全标识AI识别的最新研究成果——同样是两个“停”的路标,但AI却将其中一个识别为限速60公里,即可以通行。“问题在于,图片在我们肉眼不可见的情况下被动了手脚,它不会影响到我们的判断,但会对AI产生严重的干扰。

  “人工智能还是一个几岁小朋友的水平,只是在特定领域比较强,像这样复杂被干扰的图片是容易引起歧义的,这种研究如果不是我们做在前面,而是黑客做在前面,容易产生非常危险的事情。”

  不过,问题的存在并不意味AI的时代不安全。相反,正如百度安全所坚持的理念,有AI,更安全。“我们需要让AI变得更安全,我们也需要通过AI让我们各种产品变得更安全。”而以技术赋能、标准驱动,生态共建为支点,百度安全也构建了一系列开放生态矩阵,由下至上覆盖基础层、平台层和生态层,以实现多层面的开放协作,共同应对AI时代所面临的全新且多维度的安全挑战,实现产业共赢。

  “七种武器”助力开放共建

  在基础层,百度安全今年推出了BASS下一代AI安全技术栈,将首创的七大技术全面开源汇成“七种武器”,全面解决云管端以及大数据和算法层面的一系列安全风险问题,助力AI生态。在演讲中,马杰系统地介绍了“七种武器”的来龙去脉和实际应用。

  在终端层面,备受行业认可的首先是OASES KARMA系统自适应热修复,其目标是为了解决Android生态高度碎片化所带来的安全隐患。

  众所周知,频繁迭代的Android系统对于旧版本的支持是有限的,大量厂商也缺乏精力和能力主动进行更新,这便造成大量已知的历史安全漏洞没有被修复,很容易成为黑客攻击的对象。“我们帮助终端厂商在系统层面直接解决掉这些问题,”马杰表示,“把漏洞用‘热补丁’补上。”换句话说,KARMA可以实现系统漏洞的实时修复,在减轻厂商成本的同时,还节省了用户时间。

  作为业内首创,KARMA囊括了9项专利技术并已登陆BlackHat、USENIX等国际顶级安全会议,现已运行在覆盖多个行业近亿台终端设备中。

  同在终端层面的还有MesaLock Linux内存安全操作系统,在马杰看来,“现在大部分高权限的安全漏洞,有非常高的比例是通过内存的问题导致的,这是安全行业的顽疾。”而MesaLock Linux则通过大量的审计工作和应用层系统内存安全语言重构,极大降低了整个系统的攻击面,并且使得剩余的攻击面可审计、可收敛。在保留Linux硬件兼容性的前提下,实质性地提升Linux生态的安全性。

  在管道层面,MesaLink TLS提供了一个内存安全的下一代安全通信库。通过对整个加密通讯库进行内存安全语言的重构,MesaLink TLS实现了对Heartbleed等高危漏洞的免疫,同时兼容最新的TLS 1.3版本,使整个通讯效率有大幅提升。

  在云端层面,百度安全则推出了OpenRASP下一代云端安全防护系统、HugeGraph大规模图数据库、AdvBox对抗样本工具箱和MesaTEE下一代可信安全计算服务。

  OpenRASP将新兴的RASP安全防护技术普及化,挂钩敏感函数,实现对数据库全面监控和保护,有效抵御新生漏洞。而作为易用、高效、通用的分析型图数据库,HugeGraph提供毫秒级关联查询能力,可广泛应用于欺诈检测、关联分析、知识图谱和数据治理等场景。

  特别值得一提的是AdvBox对抗样本工具箱,其是在机器学习层面用于自动化攻击AI模型的开源工具。在演讲中,马杰以“人脸识别”为例,讲解了“训练”对于AI提升识别能力的重要性——在恶意的篡改下,别人的照片在AI看来有可能比你更像你。

  这便是AdvBox对抗样本工具箱的意义所在,“我们把这个能力做成开源的工具分享给大家,不仅支持各家的深度学习平台,也支持多个主要的深度学习训练平台。让我们的工程师、我们的科学家可以自己生成更多的对抗样本,去分析学习和研究如何让我们的算法变得更强大,而不至于被这种东西所欺骗。”马杰表示,而AdvBox对抗样本工具箱的源代码向整个社区开放,百度安全将与社区共同努力,构建安全的AI生态环境。

  当AI时代网络安全防御体系逐渐完善,甚至到密不透风,其也带来了一个现实的矛盾——在用数据给用户创造价值的同时,如何实现隐私保护并确保合规?百度安全给出的答案是MesaTEE,下一代可信安全计算服务。

  基于百度HMS高级内存安全技术和英特尔SGX硬件防护,MesaTEE可以让云上数据得到芯片级的安全保障,数据可在放到其平台中进行综合计算。“我们互相既看不见对方具体的数据,又能用到对方数据的能力,从而实现数据保护与数据价值实现的兼顾和平衡。”

  为行业也为全社会

  基于以“七种武器”为代表的技术能力和在安全领域18年最佳实践的总结与提炼积累,百度安全在平台层为行业提供了一系列完整的开放解决方案。

  首先,是智能终端。

  即便是现在,我们身边也都已经有了不少智能终端设备。而这些设备一旦被劫持、篡改,将产生非常严重的危害——数据的泄露、支付的风险,甚至是对家庭财产和人身安全的损害。

  整合设备端、管道和云端的技术能力,百度安全智能终端安全解决方案为行业提供了一个可靠而便捷的安全保障。截止目前,该方案已超过30家合作伙伴,囊括中外学界、业界的重要院校和企业,覆盖包括智能手机、智能电视、智能音箱、智能家居、智能车载和服务器等众多领域在内的超过1亿部设备。

  第二,是智能车机。

  当下,汽车产业已全面进入智能互联时代,作为中枢,智能车机承担着从娱乐、社交、支付等交互的应用到人类复杂语言指令的识别,再到对各类数据的采集、分析和自我学习等诸多至关重要的功能。但是,复杂的生态系统也对应带来了巨大的安全挑战,且这一挑战不仅涉及到你我个人的隐私和财产安全,也延伸到人身和公共利益层面。

  百度安全联合百度Apollo信息安全实验室推出的智能车机安全解决方案正是为此而来,通过全面检测、纵深防御、安全可视、免召回修复四大特色能力,帮助厂商有效应对智能车机面临的各类安全风险,全面确保云、内外部通信、操作系统、应用、硬件、数据和手机终端安全,提供4S全生命周期的安全保障。

  第三,则来自社会治理层面。

  利用开源的HugeGraph大规模图数据库及所掌握的部分非法人员信息数据,包括不久前在公安机关“滤网行动”中配合侦破国内首例手机访客营销黑产在内,百度安全迄今已协助破获全国多起电信诈骗、DDoS黑产、撞库黑产、伪基站黑产、流量劫持黑产、用户隐私窃取黑产等重大案件。全方位实现从警务数据整合治理到分析挖掘,助力智慧公安新业态。

  我们都是蓝军

  AI时代,AI思维,从与国内外顶尖高校建立联合实验室开展前沿技术研究,到借助人工智能技术助力智慧警务;从连续五年支持中国安全战队走向全球舞台,到将具有26年历史的国际顶级极客大赛DEF CON首度引入中国,百度安全始终坚信开放、合作的力量,也在努力践行自己的社会责任。

  “安全不是任何一家公司、一个社区、一个生态能够独立解决的事情,需要以更开放的态度,更广泛的合作与共享应对,在开放包容、多元互鉴中寻求共赢。”在马杰看来,“万物皆变,归根结底,人是最重要的因素。我们要做的,是集结所有安全圈的力量,共同为安全生态建设贡献力量,让这个世界变得更加美好,让中国的网络安全生态更强更繁荣。”

  当我们再次回看开篇时的那个问题,AI会让世界变得更好吗?你的答案会是什么?也许你会变得更有自信,YES,AI DO!YES,WE DO!因为我们是这个世界的蓝军!




关注ITBear科技资讯公众号(itbear365 ),每天推送你感兴趣的科技内容。

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页 本文来源:互联网

本文评论
HTC王雪红:重头再来 没有什么不可以
早在安卓初诞生的时代,谷歌第一款搭载安卓系统的手机,代工商就来自于HTC。霎时间,从G1到G12,HTC...
日期:12-25
魅族黄章:搞奶茶不是我们热爱的事 未来产品走精品路线
近期,一份名为“魅族真店”的商标注册书在魅族论坛传得火热。这份商标注册书的类别一栏...
日期:12-23
产品掌门人详解百度智能小程序开源联盟如何运转
12月20日,百度智能小程序开源联盟签约仪式在京举行。会上,百度APP总经理平晓黎详细介绍了智能小程...
日期:12-20
李彦宏获颁改革先锋奖章:百度将在人工智能的正确轨道上为人类服务
12月18日,庆祝改革开放40周年大会在京召开,根据《中共中央 国务院关于表彰改革开放杰出贡献人员的...
日期:12-19
联想常程致敬舒马赫:感恩奇迹 继续加油
12月18日,据外媒报道,昏迷近5年的德国车王舒马赫已经苏醒。他已无需再通过插管维持生命。这一次车...
日期:12-18
上海杨浦区副区长一行莅临上海贝锐科技考察调研
2018年12月12日,上海市杨浦区副区长、公安局杨浦分局党委书记、局长陈志康一行考察调研民营企业,...
日期:12-18
【创业黑马专访】掌通家园叶荏芊:掌通家园要做教育界的“天猫”
“掌通家园把自己定义成一个平台。俞敏洪是我们的投资人,他也在我们董事会上表示,‘如...
日期:12-17
刘作虎:一加五周年 凭产品与口碑赢得世界认可
北京时间12月14日,一加手机在深圳风火G&G创意社区举办“以速度之名”一加五周年发布会。...
日期:12-14
华为张文林:联合创新,使能智慧工业
12月13日,2018产业互联与数字经济大会暨首届工业互联网平台创新发展大会在北京召开。华为公司副总裁...
日期:12-13
众安科技李雪峰:牺牲数据隐私才能换便利?科技给你权利说No!
你知道吗,在互联网面前,每一个人其实都没有遮掩的?
日期:12-12
易观朱江:国内大数据在探索中前行,易观方舟打造营销闭环
文章摘要:国内很多大数据公司都走在从工具向平台过度的路上,而打造平台,资源整合能力尤为重要,
日期:12-11
论玩人工智能他最拼 外媒评十足的“体验派”AI领军人
12月10日,美国权威媒体《哈佛商业评论》公布了“全球最受关注的十大AI领军人物”榜单,...
日期:12-10
迅雷孙雷:数字家庭成功的关键是生态建设
12月8日上午,以“和达万家 智享未来”为主题的中国移动全球合作伙伴大会数字家庭分论坛...
日期:12-10
田华:网易新闻的优势在于对品质内容的坚持
2018年12月9日,清博盛典暨新媒体峰会在北京举行。网易传媒副总编辑田华在大会上做了《视频的内容生...
日期:12-10
登上《TIME》封面后,李彦宏又上了《哈弗商业评论》的排行榜
12月10日,《哈佛商业评论》发布 “全球最受关注的十大AI领军人物”榜单。苹果公司CEO蒂...
日期:12-10
这名中国企业家  在全球AI领袖排名中比扎克伯格、马斯克还要高
最新一期出版的《哈佛商业评论》中文版,发布了“全球最受关注的十大AI领军人物”榜单。...
日期:12-10
库克:2018年对于华人开发者来说是非同凡响的一年
当硬件销量日趋下降的时候,软件生态就成为苹果赖以生存的关键。近期,苹果正式上线了“年度优...
日期:12-10
vivo胡柏山:NEX代表创新 没有创新点宁可不出
短短六个月vivo要发布两款NEX旗舰机:NEX和NEX双屏版。对这没按套路出牌的节奏,业界多少有些困惑:...
日期:12-10
同方威视董事长陈志强参加全球航空安全论坛并拜会ICAO秘书长柳芳
加拿大蒙特利尔2018年12月7日电-- 2018年11月28日,同方威视董事长陈志强参加国际民航组织(ICAO)在...
日期:12-07
“小火柴”方立军受邀担任暨南大学新闻与传播学院客座教授
12月6日,金鼠标数字营销大赛、TMA移动营销大奖、莱萌奖联合创办人/执行主席方立军在暨南大学分享了...
日期:12-07