Top
首页 > 正文

天下赢家宋诗诗:AI芯片的新风向

发布时间:2020-07-15 11:32        来源:TechWeb        作者:

天下赢家宋诗诗:AI芯片的新风向

天下赢家宋诗诗消息,天下赢家宋诗诗发现,人工智能已经成为现在芯片职业的一个重要驱动力。回顾人工智能在半导体职业的开展,宋诗诗能够明晰地看到一条从云到终端的演进路线。

开始,人工智能主要是作为一种服务布置在云端。本代人工智能根据大数据和神经网络,因而在练习时分需求大量的算力,在云端布置的时分也需求算力做支撑,因而云端人工智能范畴中以Nvidia为代表的GPU加快人工智能成为了关注焦点,一起也有以Graphcore、Habana为代表的云端专用人工智能芯片公司与GPU分庭抗礼。2018年之后,随着模型和芯片规划的优化,人工智能逐渐从云端下沉到手机等强智能设备终端,在手机上根据人工智能算法的超分辨、美颜、人脸辨认等运用也逐渐得到了主流认可,相应的芯片(IP)也就成为了手机SoC上不可或缺的一部分,高通、苹果、华为海思等都具有自己的高性能人工智能加快IP,用以支撑手机人工智能运用。

而随着人工智能技能的进一步演进,咱们看到它正在进一步和物联网结合,超低功耗人工智能正是这个人工智能继续下沉的新动向。

超低功耗人工智能芯片的运用场景

超低功耗人工智能芯片(IP)的作业功耗在数十毫瓦或更低(作为比较,手机端人工智能IP的作业功耗往往在数百毫瓦到瓦级别,而云端人工智能加快卡功耗通常在数百瓦),一起往往结合事情驱动技能,即绝大部分时刻核算部分都处于休眠状况,仅仅在发生相关事情时才会启动,这样就能够把均匀功耗降低到毫瓦数量级以下。

超低功耗人工智能能够运用在什么场景下呢?消费电子范畴中就有超低功耗人工智能的一席之地。在下一代智能设备如可穿戴设备和智能眼镜类设备中,设备因为尺寸等原因电池容量有限,而这些设备需求履行智能生物信号处理(例如智能手表上的心率检测)、手势辨认(例如在现在的HoloLens中,根据人工智能的手势辨认是主要用户交互方式)、语音辨认等等,因而需求十分高能效比的人工智能加快模块。除此之外,在智能家庭等范畴,超低功耗人工智能也有落地时机,例如现在的智能门锁商场,参加人脸辨认会使智能门锁的用户体验大大改进,可是智能门锁通常有必要依托电池供电,而且预期的电池寿数至少要半年到一年,这样一来关于履行人工智能核算的模块就提出了十分高的能效比需求。

除了消费电子之外,工业运用中也需求超低功耗人工智能。工业运用中关于超低功耗人工智能的需求往往来源于智能传感器。这类传感器安装在机器、机械臂、管道等重要环境中,需求能时刻监测各类信号而且运转相应的人工智能算法来判别运转状况。在这些场景下,传感器有必要依托电池供电,而超低功耗人工智能能够大大减少电池耗费,这也意味着传感器更换电池的间隔能够提高,这也就大大降低了这类传感器体系的布置和保护成本。

超低功耗人工智能芯片的技能途径

现在,超低功耗人工智能芯片大约能够分为三种技能途径。

首先是根据数字电路的超低功耗人工智能加快模块规划。运用数字电路向超低功耗方向的优化办法首先是从体系架构层面做优化,尽量减小模型的体积,并优化数据流以降低内存访问开销。此外,在电路层面能够降低电源电压,乃至运用亚阈值逻辑门规划,以降低电路运转时的功耗,以及漏电流。运用数字电路办法的优势在于能够更容易地与人工智能核算之外的模块集成并构成SoC,而无需在数模转换上耗费额外能量。

第二条技能途径是运用模拟核算来完结神经网络的核算。模拟核算往往和内存内核算相结合以完结高能效比,其详细的思路是现在人工智能核算中往往存储访问是能量耗费最大的部分,而运用模拟核算则能够在存储(如SRAM或Flash等NVM)读出电路中直接做核算,这样就省去了数据读出再核算的步骤,而能够直接在内存内完结核算。运用模拟核算配合内存内核算往往能够完结很高的能效比,例如欧洲的闻名半导体研究机构IMEC宣告将在未来数年内完结能效比高达10000TOPS/W的模拟核算人工智能加快模块。可是模拟核算关于模型往往有较多约束,例如有必要在核算精度较低时仍然能确保准确率等,因而需求很好的软件/硬件协同规划。

存内模拟核算是超低功耗人工智能的主要技能途径之一

第三条路途则是在模型规划上运用脉冲神经网络的规划(神经模态芯片)。运用脉冲神经网络规划的神经模态芯片仅仅在神经元被激活时耗费能量,而绝大部分神经元在大部分情况下都处于休眠状况而几乎不耗费能量,因而其均匀能效比能够做到比根据主流卷积神经网络的芯片高一个数量级。脉冲神经网络和神经模态芯片的难点主要在于模型规划和练习上存在很高的门槛,此外怎么对相应的脉冲神经网络模型做电路级优化也有很高的技能含量。

超低功耗人工智能芯片竞赛格局:我国公司占有有利地位

超低功耗人工智能芯片商场现在仍然处于起步阶段,可是随着未来物联网和下一代智能设备的技能演进,估计在未来几年内商场热度会越来越高。现在,从事超低功耗人工智能芯片开发的主要草创公司,可是未来超低功耗人工智能芯片的下一代领导者很可能就出现在这些草创公司中。

在消费电子范畴,美国的Syntiant得到了亚马逊Alexa Fund、微软M12和Intel Capital等职业资本的支撑,其主要产品是针对智能设备语音处理的超低功耗芯片。与此相对,我国的草创公司在这个范畴的布局则愈加多样。来自清华大学的清微科技运用可重构电路技能,其超低功耗产品能掩盖语音辨认、视觉辨认等多个范畴,可望为下一代智能设备赋能。另一家我国公司则是SynSense,SynSense的技能路线是运用脉冲神经网络,技能来自于神经脉冲网络威望,苏黎世大学Giacomo Indiveri教授的团队。现在SynSense的脉冲神经网络已经完结了屡次流片迭代和验证,相关的产品掩盖了视觉、生物信号处理、语音辨认等,均匀功耗能够低至微瓦数量级。此外,SynSense还于最近推出了运用神经脉冲网络结合动态视觉传感器DVS的产品Speck,该产品能真实完结事情驱动,在绝大多数时刻运转于超低的功耗下,而在检测到动态事情后DVS能提供超高的视觉采样频率,而且配合脉冲神经网络完结超高性能/超低推迟的视觉信号处理,从而兼具超低功耗和高性能。

而在工业运用范畴,相同来自清华大学的湃方科技走在了全球前列,成为了在工业范畴能真实落地的超低功耗人工智能算法和芯片解决方案公司。湃方科技的运用场景涵盖了卫星、机械臂、发电机、电机等等重要的工业运用,其芯片能提供高达50TOPS/W的能效比。

现在,在超低功耗人工智能芯片范畴,我国的草创公司和团队无论是数量还是质量都走在了全球前列。让咱们期待我国能在未来的超低功耗人工智能范畴继续引领全球的潮流。

每日必读

专题访谈

合作站点