NIPS 2017 | 机器之心线上分享:大疆提出高准确率的二值卷积神经网络

百家 作者:机器之心 2017-12-04 05:33:55

11 月初,我们发布了《攻略 | 虽然票早已被抢光,你可以从机器之心关注 NIPS 2017》。在 NIPS 2017 正式开始前,我们将选出数篇优质论文,邀请论文作者来做线上分享,聊聊理论、技术和研究方法。


最新一期的 NIPS 2017 线上分享,机器之心邀请到了大疆创新的林晓帆博士为我们介绍他们的 Spotlight 论文《Towards Accurate Binary Convolutional Neural Network》。


日期:北京时间 12 月 06 日 20:00-21:00


讲者简介:林晓帆,华南理工大学博士,研究方向为机器学习、稀疏与低秩矩阵复原、模型压缩、二值网络。目前就职于大疆创新。


演讲主题:高准确率的二值卷积神经网络


演讲摘要:


我们提出一种新的训练二值卷积神经网络的方案。二值卷积网络是一种权值和激活值在推理阶段只有两种取值(如 {-1, +1})的卷积神经网络。这种网络能显著减少模型存储容量和运行内存要求,并且可以用位操作代替算术操作,提高硬件的运算速度,减小电量损耗。然而,以往把浮点网络转化为二值网络的工作都存在严重的准确率下降的问题。我们提出两个创新点来改善这个情况:第一,用多个二值权值张量的线性组合来近似浮点权值张量;第二,用多个二值激活值张量来减少信息由于二值化带来的损失。根据上述创新,我们设计了 Accurate Binary Convolutional Neural Network (ABC-Net)。在有足够多二值权值和激活值的情况下,ABC-Net 的准确率远比以往的二值网络更接近它们对应的浮点版本,甚至能在 ImageNet 和 forest trail 数据集上达到可以与浮点网络相比较的准确率。



参与方式


线上分享将在「NIPS 2017 机器之心官方学霸群」中进行。加群方式:长按扫描下方二维码,添加「机器之心小助手Ⅱ」,备注暗号:147,由小助手拉大家入群。



线上分享往期回顾


「阅读原文」,查看机器之心 NIPS 2017 专题策划并参与其中。

关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接