听云(北京基调网络股份有限公司)成立于2007年,是国内首家推出业务可用性拨测产品的第三方企业,第一代产品名为“听云Network”。听云采用完善的会员机制发展了遍布全球的会员终端,经过多年积累目前拥有了中国国内最大的性能质量监测网络平台,有全球超过2000家客户在使用。中国Alexa排名前100位的互联网企业有89家在使用听云Network的服务,客户群体包括华为、腾讯等头部企业,其产品处于行业领先地位。
听云不断完善自己的产品线,目前可为各行业企业提供完整覆盖用户端、网络端、服务器端、业务端等全栈实时的监控与大数据智能分析平台。实现代码级应用性能监控、真实用户体验监控、实时业务能效监控,产品线包含数字终端体验监控(听云App、听云小程序、听云Web)、服务端性能监控(听云APM)、数字化业务运维(听云业务分析)、用户体验主动拨测(听云Network)、基础设施性能保障(听云Infra)、智能告警服务(听云北冥)、一站式数据可视化展示(听云大屏),帮助企业不断提升数字化业务运维效率,助力企业实现数字业务创新。听云凭借领先的技术、过硬的产品,成为亚太区唯一五次入选Gartner APM魔力象限的监控企业,并逐步发展成国内应用性能管理的头部企业。
听云在发展产品线的同时,在业务可用性拨测产品领域并没有停滞不前,在2010-2017年发布了听云AST、听云移动拨测等第二代拨测产品,并首次推出CDN综合分析和独创首屏时间,其中首屏时间获得国家级发明专利并被工信部采纳。在2018年,听云经过近一年的封闭式研发,推出了名为“听云AppBench”的第三代业务可用性拨测产品,该产品同样获得多项国家专利,凭借过硬的产品质量,产品一经推出就好评不断,一上市就异常火爆。下面我们就带来这款升级产品的独家分析。
听云AppBench推出的背景(关注品质,但不要关住品质)
移动App作为数字世界最主要、最自然的入口,已经无处不在。各种App为人们带来巨大便利的同时,也成了人们日常生活的严重依赖,与此同时,竞争日趋激烈,这必然对App的质量提出了更高、更苛刻的要求。在这种情况下,App的提供者会遇到那些问题呢?
l 如何在发布前更多的发现问题?
l 如何在发布后持续监控关键业务(性能和成功率)而又不影响真实用户?
l 如何让测试广泛覆盖真实场景中的各维度?
l 如何与竞品进行客观对比?
l 如何快速高效地进行测试工作?
以上的问题就是听云AppBench推出的初衷和使命,听云的目标就是要帮助App的提供者快速地、全场景覆盖地推进测试工作,帮助客户打造高品质App。
听云AppBench是什么?(和你一起守护,你守护的测试任务)
听云AppBench是一个云端的自动化测试平台,它利用云端的真机资源,以任务调度的方式,完成客户的测试任务。
l 自动化测试,从安装App到启动App和执行脚本,乃至报告和告警,都是自动化进行;
l 全方位覆盖测试,覆盖真实使用场景中的各维度,包括各种机型、系统版本、城市、运营商、网络类型等等;
l 深度数据采集和分析,它能采集深度的、丰富的数据,从而进行深层次问题分析,从不同层面分析和评估App,数据包括:启动、崩溃、卡顿、慢交互、网络响应时间、DNS、建联、SSL握手,还有CPU、Memory、FPS等等,还有任务时长(某业务)、步骤时长(业务的某环节),尤其是,这些数据并非相互孤立,而是相互关联的。
l 自定义的竞品分析,可以定义与哪些竞品比较,以及对比哪些数据
现有拨测产品分析(要改变世界,先改变自己)
听云,作为拨测行业的领军企业,新的拨测产品具有哪些独有的优势呢?下面重点介绍下:
l 拨测节点的覆盖是拨测产品最核心指标,听云AppBench部署和升级简单,有利于拨测节点的快速上线,目前无论是iOS的节点还是Android节点都覆盖全国各省会城市,远远领先传统拨测产品。
传统的拨测节点使用自建节点的方式进行部署,部署模式依赖PC+手机的方式,也就是部署拨测节点必须要PC主机。这种部署方式的缺点有:
1、PC和手机方式,主要是自建,成本高;
2、部署笨重,占地、耗电、安全、风险;
3、维护不易,设备更换、系统升级麻烦。
传统拨测节点部署
听云在规划产品时经过了无数次产品预研、试验,终于打破了常规,推出了全新的拨测节点部署模式,继续沿用听云自第一代产品就实行的会员模式,同时也可以兼顾自建拨测节点,该方式的巨大优势立刻呈现出来,表现在:
1、成本,只有一个蓝牙控制器的成本,手机是会员共享的;
2、部署简易,会员的手机,只要下载两个app,与蓝牙控制器配对即可;
3、安全和风险:会员自己承担自己手机的电、网,以及手机的安全风险;
4、维护容易,会员自己维护手机,我们可以用积分等各种策略引导设备的更新更换。
听云AppBench拨测节点部署
l 脚本编写能力是拨测产品又一核心能力,听云AppBench在脚本能力表现更加强大灵活
脚本编写灵活性和适配能力,是拨测产品核心能力,相比于传统的拨测产品,听云AppBench的脚本编写更灵活,更智能。在脚本编写能力上听云独家支持任意复杂的判断和控制、能访问APP内任意对象、能接受APP内通知、能自动感知UI元素内容变化。
对比模块 |
传统拨测产品 |
听云AppBench |
脚本能力 |
1、元素查找 |
1、元素查找 |
脚本能力对比
l 多资源关联分析:任务执行期间的网络瀑布图、CPU、RAM、FPS与任务的步骤关联,并在时间刻度上对齐,并关联步骤的截屏、步骤的log,强力支持问题的排查分析。
相比于传统的拨测产品只能提供步骤的截屏和步骤的性能指标,听云AppBench还可以提供相对应每步的log,和每个步骤的资源消耗,这样多资源的关联分析可以协助客户更加快速高效的发现问题所在,并精准锁定根因。产品真实截图如下:
多资源关联分析
l 网络分析指标全面,独家支持对网络的丢包率,延时,连接复用率,IPv4和IPv6指标对比等功能。
网络环境比较复杂,包括了运营商,CDN,云等,这部分环境对于最终APP使用用户的体验影响较大,也是很多客户难以掌控的环节。相比于传统拨测产品,听云AppBench可以提供多达17项网络指标,配合上大规模包括各省份,各运营商的节点覆盖,可以为客户提供更全面精准的网络分析能力。可以为最终用户提供网络测试,CDN选型,机房选型,链路选型以及日常服务质量的重要数据支撑。
对比模块 |
传统拨测 |
听云AppBench |
网络分析指标 |
1、网络请求数 |
1、网络请求数 |
网络分析指标对比
听云AppBench市场优势(历史的接力棒,总会交给创造历史的企业)
听云作为国内首家推出业务可用性拨测产品的企业,自2007年推出第一代产品起到推出第三代产品AppBench,经过10年发展,目前听云在金融行业的应用规模业界第一,其中12家股份制商业银行有9家都与听云有合作。此次我们选择了其中几家进行对比分析,得出结论如下
1.某企业服务平台(以下简称T)
T的优势在于布局早,是行业先行者,其业务在游戏领域优势突出。其劣势在于,部署模式过时,实验室集中部署模式只能满足机型兼容的测试,然而真实场景远不止机型的多样性,运营商、网络、CDN等更多种因素影响着App的性能,也带来更多例外,实验测试方式结论的价值和意义令人怀疑。T主要是兼容性测试,发版后的测试不是其关注点和方向。
2. 某传统的兼容性拨测公司
其APP拨测产品在T之后,技术原理与T类似,重点改进了拨测只能在一个机房进行测试的情况,但因实现原理上的限制,其拨测节点仍然难以部署和升级,拨测点覆盖非常有限,远远达不到现阶段客户实际业务覆盖全国的格局要求。此外脚本编写,分析能力上都属于比较初级和简单的状态。
因为APP拨测是很多客户的刚需,所以其产品推出后也一定程度填补了空白,在部分金融客户得到了应用。
3.听云AppBench
听云AppBench产品是听云10年来在拨测行业不断进行技术累积,倾听客户反馈后厚积薄发所推出的第三代拨测产品,其新的模式、新的技术都攻克了真机拨测的无数难题,在真实使用场景、易部署、易维护、保持设备更新和系统更新方面有技术上的独特优势。同时其中的数据采集引擎,经历多年时间和8亿+设备磨炼验证。
听云真机App聚焦金融和运营商行业,已经为多家银行、证券,运营商提供了测试/拨测服务,其中的数据采集模块更是被银行+证券几十家企业使用认可。从业务视角到性能数据的穿透式分析,不仅发现问题,更能深层次定位问题。
观察总结
通过本次对听云业务可用性第三代拨测产品AppBench的市场分析发现,听云作为最早推出拨测产品的企业,一直引领行业发展。在行业认可上,是首家获得国际认可的性能监测企业,5次入选Gartner APM魔力象限。另外,在技术实力上,听云获得首屏、APP拨测等多项技术专利。听云已成立14年,但仍在继续打磨其初创产品并不断推陈出新,我们在听云AppBench看到了对于问题的不妥协,也看到了听云的技术创新。最后,我们想说的是对于怀揣初心的企业,会赢得鲜花与掌声。