Top
首页 > 正文

QuickLogic、纵行科技联合推出ZETA-TinyML开发套件,助力实现端侧AI快速产品化

发布时间:2021-07-19 09:32        来源:TechWeb        作者:

01.实现TinyML应用的最后一公里:通讯和升级

在嵌入式设备部署和运行机器学习模型向来困难重重,但越来越多的软硬件平台正让这一切变得容易起来。QuickLogic是其中领先的佼佼者,其超低功耗可编程SOC半导体技术和旗下SensiML子公司一站式AutoML平台,为TinyML的训练部署和验证提供了一个完整的解决方案。

QuickFeather低功耗开源代码硬件开发工具包(HDK)是一个小型系统,这是第一款Arm CortexR-M4F MCU并完全支持Zephyr RTOS和FreeRTOS,是下一代低功耗、支持机器学习(ML)的物联网设备的理想选择。与其他基于专有硬件和软件工具的开发包不同,QuickFeather基于100%开源硬件并围绕100%开源软件(包括Symbiflow FPGA工具)构建。

QuickFeather开发板

SensiML提供了一套完整的TinyML数据捕获、算法生成和验证的工具包解决方案,适用于自动化创建并优化AI物联网传感器识别代码过程的每个步骤。整个工作流使用不断增长的高级ML和AI算法库来生成代码,这些代码可以在开发阶段或部署后从新数据中学习。

 SensiML工具包流程图

借助QuickFeather开发板和SensiML训练平台,现在可以将一个训练并验证好的机器学习推理模型直接部署到MCU中,但这些对于一个完整的TinyML应用来说还不够。物联网的应用大部分由电池驱动,虽然模型已经极度压缩节省了内存和计算耗能,但模型的推理结果仍需要上传,还需要考虑业务下行的传输要求。一般来说,通信耗能和计算耗能占比至少为3:1,低功耗传输仍是TinyML产品开发者必须直面的最大挑战之一。

此外,TinyML模型部署后并非一劳永逸,还存在一些不确定性的升级需求,这些不确定性包括模型参数调整、重新训练需求、业务逻辑变化等。有线连接更新仅适用于调试阶段,对于安装到客户现场的应用几乎不具备可行性。传统远程升级方式(OTA)占用资源且耗电,对于大部分物联网场景并不友好,升级困难无疑在某种程度上限制了端侧智能产品的发展。

所以,当一个算法工程师正在为串口打印出的98%模型精度击掌欢呼时,产品设计师却只是耸耸肩,“很好,还剩最后一公里。”

02.ZETA+TinyML满足“低功耗+通信+远程升级”需求

ZETA作为国内唯一全栈国产化的LPWAN物联网通信技术,解决物联网产业存在的终端功耗高、海量连接、广域覆盖能力不足和成本高等困难,非常适合大规模部署。作为全球首个支持分布式组网的LPWAN通讯标准,ZETA利用搭载Advanced M-FSK调试解调的超窄带技术,提出“LPWAN2.0泛在物联”愿景,旨在以更高性能、更强穿透力、更低成本加速物联网在工业、物流等成本敏感性行业的应用。

ZETA LPWAN 2.0泛在物联

ZETA并不局限于传统LPWAN行业的低速率场景,针对诸如图像、振动和声音等中、高速率应用,ZETA与TinyML技术 深度融合,各种“端智能“传感器内置着机器学习AI算法,以低成本、低功耗和穿透力更强的ZETA通信技术为载体,使智能泛在物联无处不在。

与此同时,针对TinyML远程升级难题,ZETA自研差分OTA算法,可在server端对新旧软件包进行对比分析和高效压缩,在保留远距离覆盖性能基础上完成低功耗升级。以100kB、10%差异的TinyML模型来说,最终的差分包大小将在11kB以下,而仅要求10kB的额外内存空间,几乎适用于所有物联芯片使用。

03.ZETA+QuickLogic:加速端侧AI产品应用进程

此次与QuickLogic的合作,将在QuickFeather开发板基础上,上叠ZETA高性能通信模组,并搭配ZETA低成本网关使用。软件层面,ZETA通信部分SDK将直接集成到SensiML软件平台上,可直接生成能部署运行的Binary文件,用户只需配置推理结果的对应关系。同时,ZETA为开发者提供云Server服务,进行终端管理、ZETA网络配置、协议解析和差分OTA升级功能,当有新的TinyML模型时,可一键完成远程升级。此开发套件将帮助那些端侧AI产品的开发者们进一步缩短原型验证周期,提前发现并评估网络环境带来的影响,从而加速整个产品的落地进程。

ZETA-TinyML开发套件包

主要技术指标

04.ZETA-TinyML开发套件:丰富泛在物联应用场景

此开发套件为那些运营商信号难以覆盖、远距离和需要实时处理的物联网应用带来了无限可能,无论是偏远山区的环境监测、畜牧群动态跟踪、户外广告牌的松动检测,还是工厂中设备的预测性维护、皮带机的启停和状态识别、管道气体的异常泄露监测,抑或是智能可穿戴设备、手势和语音识别,都能通过ZETA-TinyML开发套件来快速完成原型验证和匹配于真实场景的测试。

声音和语音分析需求是推动着TinyML应用快速发展的新劲动力,关键词唤醒应用正是到目前为止TinyML的最佳代表作。与此同时,自然界、工厂、城市、家居场景中无时无刻都存在着各种声音:动物的叫声、机器的轰鸣声、汽车行驶的噪声、婴儿的啼哭声…尽管这些声音没有确切的理论模型,但是通过ZETA-TinyML开发套件,仍能快速完成模型创建和验证,并瞄准于始终在线的低功耗检测。比如智能咳嗽检测以在公共场所排查新冠疫情风险、野外珍稀动物的叫声识别以帮助统计其活动范围和数量、变电站内声音异响检测以识别变压器异常放电故障、蓝牙耳机在使用中识别到地铁运行声音以自动开启主动降噪功能…这些音频分析场景都能在ZETA-TinyML套件上完成开发和样机测试。

使用声音识别皮带机脱落故障

QuickLogic中国区总经理张贵表示:

“我们非常高兴能与纵行科技在嵌入式人工智能领域展开合作,ZETA超低功耗特性和LPWAN2.0的泛在物联构想与QuickLogic的战略方向不谋而合。不论你是高校、企业还是个人开发者,都能使用ZETA-TinyML套件来激发你完成一些非常有创意、更具实用价值的智能物联网应用,甚至是一款‘杀手级’产品。”

【关于 QuickLogic】

QuickLogic Corporation (NASDAQ: QUIK)公司诞生于1988年,总部位于美国加州圣何塞,是领先的超低功耗定制化传感器和语音处理平台、显示和连接半导体解决方案提供商,这些解决方案面向智能手机、平板电脑、可穿戴设备、工业和移动企业OEM。QuickLogic 通过行业领先的超低功耗可编程 SoC 半导体解决方案、FPGA和嵌入式FPGA IP、嵌入式软件和算法解决方案为客户提供上述优势,这些解决方案适用于始终在线的语音和传感器处理应用。QuickLogic在全球有超过2000个用户以及65千万片的量产记录。SensiML是其于2019年收购的全资子公司,其 Analytics Toolkit平台使用 AI 技术,通过精确的传感器算法完善了端到端解决方案。全系列的平台、软件工具和 eFPGA IP 能够在移动、可穿戴、可听戴、消费、工业、边缘和端点物联网中高效采用并实现AI、语音和传感器处理技术。

每日必读

专题访谈

合作站点