首个精度超过80的二值神经网络BNex

机器之心专栏

机器之心编辑部

两年前,当MeliusNet问世时,机器之心曾发表过一篇技术文章《第一次胜过MobileNet的二值神经网络,-1与+1的三年艰苦跋涉》,回顾了BNN的发展历程。彼时,依靠早期BNN工作XNOR-Net起家的XNOR.AI被苹果公司收购,大家曾畅想过这种低功耗、高效能的二值神经网络技术会不会即将开启广阔的应用前景。

然而,过去的两年时间,我们很难从对技术严格保密的苹果公司获得关于BNN技术应用的更多信息,而不论是学界和业界也未出现其他特别亮眼的应用案例。另一方面,随着终端设备数量的暴涨,边缘AI应用和市场正在迅速增长:预计到年将产生到亿台边缘设备,边缘计算市场将暴涨到亿美元规模。这其中有几个目前热门的应用领域:AIoT、元宇宙和机器人终端设备。相关业界正在加速发力技术落地,与此同时AI能力已经嵌入到以上领域的诸多核心技术环节中,如AI技术在三维重建、视频压缩以及机器人实时感知场景中的广泛应用。在这样的背景下,业界对基于边缘的高能效、低功耗AI技术、软件工具以及硬件加速的需求变的日益迫切。

目前,制约BNN应用的瓶颈主要有两方面:首先,无法有效缩小和传统32-bit深度学习模型的精度差距;第二则是缺乏在不同硬件上的高性能算法实现。机器学习论文上的加速比通常无法体现在你正在使用的GPU或CPU上。第二个原因的产生可能正是来自于第一个原因,BNN无法达到令人满意的精度,因此无法吸引来自系统和硬件加速、优化领域的从业者的广泛


转载请注明:http://www.odnmh.com/wazlyy/15491.html

  • 上一篇文章:
  • 下一篇文章: 没有了