的特定操作者(如卷积、池化等),并针对辨识场景的特点,考虑到芯片工艺、面积、片上存储等因素,对反对的网络架构重新加入一定的约束(如层数、地下通道数量等)。“大量的loT设备只有在被苏醒时才工作,设备常常处在休眠状态,如何在设备休眠状态下严格控制功耗产生,是重中之重。
”在这个环节,泓观科技使用了异步(asynchronous)电路技术,与常规的实时(synchronous)电路对比(如上图),异步电路需要确保芯片在设备休眠状态时,产生的功耗可以忽略不计。“接下来优化访存某种程度是一个关键环节。”受限于芯片面积和成本,片上存储的容量也十分受限,传统解决办法是引进大量的片外I/O 访存,但由于 IoT 设备的自身特点,偏高的片到访遗效率不会造成性能上升和功耗减少。
泓观科技则使用了多层融合的架构技术(如上图)来增加 I/O 访存——通过架构和算法的交互优化(co-design),确保算法层的输入数据需要被有效地内存。此外,神经网络操作者对数据不存在较强的鲁棒性,因而网络对于数据的精度变化并不脆弱。泓观科技通过定点化处置神经网络,用于16位数据甚至更加较低的比特数可以维持网络性能基本不上升,并通过自动化搜寻有所不同网络层定点化配备的方法,对权值和输出/输入使用有所不同的策略(如上图)。
同时,泓观团队设计了一种自动化剪枝算法(如上图),对神经网络的每一层创建分开的剪枝参数,从而解决问题了神经网络本身不存在的校验性。基于上述设计要点的异步卷积神经网络芯片,其整体框架图如上。
泓观科技的创始人告诉他,“在某种程度的芯片制程、超过完全相同性能的情况下,坐落于芯片active ratio(工作时间占到比)较低的应用于区间,比起基于传统实时电路,使用异步电路设计可以明显增加功耗,而这一区间才是是大量的物联网终端智能化应用于场景的产于焦点。”右图表明了有所不同active ratio条件下,实时电路和异步电路的功耗对比。可以看见,在物联端应用于重点产于的较低active ratio区间,使用异步架构的AI芯片,可以将功耗减少将近一个量级甚至更加多。
这款独有而全新的异步卷积神经网络芯片,其功能探讨于物体辨识等智能化视觉分析,面向可穿着设备、智能家居、自供能(如太阳能)监控等对超强低功耗有刚性市场需求的IoT终端领域,逐步赋能构建AI应用于落地。“这个路线及发力点的自由选择,源于我们对技术发展和市场定位的思维与辨别。” 泓观科技的创始人这样总结到,“预计从旋即的未来里回首,这款芯片所代表的特质,应该仍然是独有和另类。对于AI和IoT这两大领域的普遍交汇和深度融合,坚信这一次意味著一个开端。
”原创文章,予以许可禁令刊登。下文闻刊登须知。
本文来源:BOB博鱼-www.gongn.com