春节期间，支付宝的「扫福得福」活动火爆异常。AR是一种新的交互方式，与传统营销方式相比，可以使用户更深入地参与互动，给用户带来新体验。而支付宝红包，寄托着用户对未来的期盼，因此其团队就考虑将AR与红包相结合，探索一种新的玩法。在AR领域走在前面的支付宝，其AR红包的技术选型、技术架构及其背后的技术故事都有哪些?
写在前面
2004年12月12日，我加入雅虎中国，也加入了互联网大军。至今，我还依稀记得，当时心中那种对互联网的敬畏之情。2009年，在雅虎的四年外企生活一晃而过，我有幸加入支付宝团队，并参与支付宝无线支付。从那之后，我每天都要接受无线浪潮的洗礼，人生轨迹从此也发生了巨变。
今天是我到阿里的第4096天，谈起“红包”，让我回忆起了，2015年参加第一次支付宝春节口令红包项目，团队获得蚂蚁金服CEO大奖;2016年负责识别猴子，开始具有了AR雏形，后续又提出了儿童时代“集卡片”玩法，可谓集五福前身;2016年开始建造支付宝AR系统，全面支撑了2017年AR实景红包、AR扫福等一系列活动……
提到AR红包，这是我们团队的一次大胆创新，现在就来和大家分享一下支付宝AR红包背后的技术和故事。
支付宝AR红包背景
AR的发展和旧玩法
AR是增强现实技术的简称，其历史可以追溯到1968年——哈佛大学电气工程副教授萨瑟兰，发明了名为“达摩克利斯之剑”的头戴式显示设备。
1998年，在当时的体育转播图文包装和运动数据追踪领域领先的公司Sportvision，在橄榄球赛的电视转播上使用了AR技术，将得分线叠加到了屏幕中的球场上。此后，AR技术开始被用于天气预报——将计算机图像叠加到现实图像和地图上面，从那时起，AR才真正地开始了其爆炸式的发展。
1999年，增强现实开发工具ARToolKit便问世了，很多开发者加入这个行业，推动领域向前发展。目前Microsoft、Google、Apple等公司都在AR领域进行了大规模投入，旨在推动下一代视窗交互系统的变革。
为什么要做支付宝AR红包
AR是一趟奔驰的列车，从个人到团队，从团队到公司，都希望搭上这趟列车，但是如何搭上，用何种技术搭上都是新的挑战。
AR是一种新的交互方式，与传统营销方式相比，可以使用户更深入地参与互动，给用户带来新体验。而支付宝红包，寄托着用户对未来的期盼，因此团队就考虑将AR与红包相结合，探索一种新的玩法。
AR新玩法
2015年，我们开始关注AR这个领域，当时为2016年制定的一个新春红包方案就是用手机识别猴子。这个方案让大家有了AR的感觉，项目组也想做一些AR的创新玩法。但是，由于当时相关技术储备不足，就放弃了。
方案虽然放弃了，但探索AR的新玩法这件事，深深地烙在了我们的心里。2016年一开春，我们创新组就开始储备相关技术知识：识别跟踪算，OpenGL、3D渲染引擎，建模能力，AR体系架构，等等。这些相关技术也陆续在小视频美颜、人脸贴图等社交场景进行了实践，为后续AR相关技术快速成型提供了保障。
如何推进AR的新玩法呢?当时，我们团队定下了两个目标，一是找一个小场景落地AR概念，二是在春节红包上使用AR技术，后者是我们的年度终极目标。
2016年的“中秋节扫月亮”，算是支付宝在AR领域的第一次尝鲜，体验和反响还不错。迈出这第一步之后，各种业务需求也接踵而来，AR新玩法也越来越多——双12线下商圈“扫双12集四宝”的活动，2017年春节AR实景红包，扫可口可乐福娃领红，扫福集福……
支付宝AR红包带来的挑战
新玩法自然会带来新挑战，不说别的，单单用怎么样一种方式呈现AR红包，就是非常大的挑战。
大多数AR的玩法都是针对预设的2D图片，离线训练好识别模型，然后在此基础上实现识别互动。由于是2D图片并且预先验证过，因此能较好的保证识别的效果。
支付宝AR实景红包算是业界的一次大胆尝试。用户自由选择真实3D场景，拍摄一张图片作为线索图，其他人根据线索图到指定位置拍摄图片进行比对。而这种方式呈现AR红包，自然也对图像匹配的算法性能提出了新的挑战，主要涉及如下方面。
算法鲁棒性：由于针对真实的3D场景拍照，匹配算法需要容忍一定的遮挡和角度、距离、光线、图片质量等的变化;
计算复杂度：由于在终端上进行实时匹配，算法的复杂度不能太高，否则会导致用户寻找红包时间变长，手机功耗消耗过大等问题;
手机流量：移动端应用需要考虑用户的流量问题，需要在数据大小和识别率之间做好平衡;
手机兼容性：对拥有亿级用户的支付宝而言，机型特别是Andriod机型分布很广。对于我们3D模型渲染带来了很大的挑战，需要制定完善的兼容性方案，确保AR功能的正常使用。
AR实景红包的技术选型
AR红包的初期方案也和很多已有的产品类似，仅依靠LBS和手机陀螺仪来进行互动：用户在某个位置发一个红包，其他人到达这个地点后打开摄像头，朝着某个方向拍摄就能看到别人发的红包。这个方案由于仅依赖LBS和手机陀螺仪，方案比较成熟，但主要存在两个问题：
定位精度：产品初期的定位是让附近的人领取红包(比如附近几十米的人或者同一层楼的人)，这对近距离定位要求就很高。内部也讨论了很多潜在的方案，比如结合WiFi定位、室内定位等等，但都不是很通用或者不成熟，没有很好的解决方案;
主观体验：由于GPS和陀螺仪的数据本身就存在较大的误差，位置定位和用户动作都无法精确度量，用户体验不太好，没有真实的藏?找的体验。
因此在AR红包中，我们希望能够重新设计交互方式，提出了图片匹配方案。在发红包时，用户对着场景拍摄一张图;其他人想要领取红包，必须到达该位置并且对着同一场景拍摄，只有位置和图片匹配才能领取，大大增加了精确度和用户趣味性。最终该方案被采纳，诞生出了AR实景红包。
AR实景红包最终的技术架构
AR实景红包
整个AR实景红包由两个场景组成：一是藏红包，用户对着某场景拍一张图，将红包藏在这个场景里面;二是找红包，用户在地图页选择一个红包，通过线索图走到对应地点，打开摄像头拍摄进行图片比对，匹配成功后领取红包。
藏红包
并不是所有的场景都适合藏红包，比如白墙到处可见，会造成线索图不唯一的情况。因此在藏红包时，我们会校验当前场景是否满足预设要求。藏成功后，拍摄的图片会传到服务端处理：一是将图片转成特征码用于图片匹配，二是生成一张线索图用于找红包。
找红包
根据用户当前的位置，服务端会下发附近的红包信息。用户通过红包列表可以选择领取某一个红包，此时客户端会到服务端拉取该红包的特征码和线索图。线索图在本地展示，提示用户红包的样子。特征码用于客户端本地实时比对。用户找红包时，将摄像头采集的图像转换成特征码，与服务端下发的红包特征码进行比对，如果本地匹配成功，则把图片信息传到服务端做二次校验来防止作弊。服务端校验通过后，红包就可以领取了。
扫福得福
在扫福字得福卡的活动中，为了解决高并发的问题，采用了客户端+服务端并行处理的架构体系，可支持两种识别方式：
所有图片都传至服务端做处理，这样识别精度更高，但是服务器端能处理的数量有限;二是先走客户端检测，客户端无法识别的再上传服务端。客户端检测能力稍弱，但将计算能力分散到各终端，能极大缓解服务端的压力。
活动开启后，由于用户的积极参与，我们在活动早期就打开了客户端识别，使得系统顺利支撑了14万次/秒的福字识别峰值，确保了整个活动的顺利进行。但是客户端的识别精度有限也导致了不是福字被是被为福字的问题，这个也是我们后续的优化方向。
如何防冒领
正常用户要成功领取红包，需要按照线索图的提示找到红包隐藏地点并完成实景拍摄，也就是说位置+图像匹配两个条件都需要满足，才可以领红包。
AR实景红包上线之初，为了让用户有较好的体验，线索图做的比较简洁美观。第一版线索图是通过添加均匀的横条纹蒙版(类似百叶窗效果)来对原图进行遮挡，同时确保用户能简单的识别出图片。
但是，由于该方案比较简单，部分用户通过PS线索图来补全被遮挡部分，后续甚至出现了自动化的PS工具。我们随后进行了升级，每个红包的线索图都是动态选择一个蒙版，蒙版还会随机的动态旋转/偏移等。新的线索图方案，大大增加了自动化PS的难度，基本解决了PS的问题。
除了对付图片的攻击外、对于LBS篡改等其他作弊手段，蚂蚁安全团队也做了大量的防控技术手段，通过对用户的行为数据来分析潜在的作弊用户，也有效地拦截了大部分作弊用户。
AR的未来
AR是一种新颖的交互形式，虽然该领域已经有了很多年的发展历程，但技术成熟度和用户普及度都不是很高。目前市面上的AR应用场景还是比较窄的，仍然有很多挖掘的空间，特别是结合各行业自身的特点去思考，肯定会产出很多好的创意玩法。
AR红包正式上线时，那几天地图页都是满满的红包，我们也很兴奋，说明大家对这个新鲜事物都很感兴趣并且能够接受。除了个人红包玩法，很多商家对这种新型互动方式更加感兴趣，也主动联系我们。商家希望用户通过拍摄自己的品牌Logo来加深用户对品牌的认知，认为这是一种新颖的营销方式，未来还会有更多的成长空间。
后续我们会朝着AR开放平台的方向发展，提供一个开放的AR平台让更多商家和用户都参与进来。同时，结合线下支付场景，围绕用户体验，打造更多的创新产品。
写在最后
第一版Windows Mobile钱包的诞生让我完成向移动转型，接着，我带领团队经历了Symbian从鼎盛到衰退，然后又经历了WP项目的纠结，经历了Android从开发版到现在的家喻户晓，经历了iOS从奇怪的语法到后来轻车熟路……
技术在发展，而我们在不断地创新。2013年开启了支付宝声波支付，2014年银行卡识别和身份证识别用于钱包业务……同时，团队相关算法技术、工程能力和创新思维在这个过程中也得到很大的沉淀，为连续三年参与红包项目奠定了基础，为今年AR红包的新玩法奠定了基础。能力越大，责任也就越大，既然承担起了这份责任，我相信我们的努力定会不负使命。
