AOGNets:首个语法生成网络,视觉识别优于当前最先进框架

百家 作者:新智元 2019-06-03 01:27:33




  新智元报道  

来源:techxplore

编辑:张佳

【新智元导读】神经网络结构是提高深度神经网络性能的基础。研究人员开发出了首个通过语法引导的神经网络生成器AOGNets,它能更有效地在原始数据中提取信息,在图像分类、目标检测和分割方面的表现优于包括ResNets、DenseNets、ResNeXts和DualPathNets在内最先进的神经网络。


北卡罗莱纳州立大学的研究人员开发了一个通过语法指导的网络生成器来打造深度神经网络的新框架。在实验测试中,被称为AOGNets的新网络在视觉识别任务方面优于现有的最先进的框架,包括广泛使用的ResNet和DenseNet系统。


作为这项研究中一篇论文的作者,北卡罗莱纳州立大学电子与计算机工程副教授吴田富博士说:“与我们对比过的任何一个网络相比,AOGNets都具有更好的预测精度。” AOGNets也更容易解释,这意味着用户可以看到系统是如何得出结论的。”


新框架对系统架构使用了一个组合语法方法,该方法可以从以前的网络系统上获取最佳实践,从而更有效地从原始数据中提取有用的信息。


吴教授说:“我们发现,层次和组合语法为我们提供了一种简单、优雅的方法来统一以前系统架构所采用的方法,据我们所知,这是第一个将语法用于网络生成的成果。”


为了测试他们的新框架,研究人员开发了AOGNets,并将其用三个图像分类基准(CIFAR-10、CIFAR-100和ImageNet-1K)进行了测试。


 “在公平比较下,AOGNets的表现明显优于其他所有最先进的网络,包括ResNets, DenseNets, ResNeXts和DualPathNets。” 吴田富说:”利用图像网络中的网络剖分度量,AOGNets获得了最高的模型可解释性分。AOGNets在对抗性防御和平台不可知( platform-agnostic)部署(移动vs云)方面进一步显示出巨大的潜力。”


研究人员还使用vanilla Mask R-CNN系统在微软Coco基准测试中测试了AOGNets在目标检测和实例语义分割方面的表现。


 “在模型尺寸更小、推理时间相似或更短的情况下,AOGNets比ResNet和ResNeXt获得了更好的结果。” 吴教授表示:“结果表明,在目标检测和分割任务中,AOGNets具有较好的学习效果。”


这些测试是相关的,因为图像分类是视觉识别的核心基础任务之一,而ImageNet是标准的大规模分类基准。同样,目标检测和分割是两个核心的高级视觉任务,而MS-COCO是最广泛使用的基准之一。


“为了评估用于视觉识别中进行深度学习的新网络体系结构,它们是黄金试验台。” 吴田富说道:“AOGNets是在一个有原则的语法框架下开发的,并在ImageNet和MS-COCO下都得到了显著的改进,从而对许多实际应用中的表示学习显示出潜在的广泛和深刻的影响。”


吴教授说:“我们对语法指导的AOGNets框架感到兴奋,并正在探索它在其他深度学习应用中的表现,如深度自然语言理解、深度生成性学习和深度强化学习。”


论文《AOGNets: 用于深度学习的复合语法体系结构》将于6月16日至20日在加州长滩举行的IEEE计算机视觉和模式识别会议上发表。论文的第一作者是Xilai Li,一名北卡罗莱纳州立大学的博士生。这篇论文是由一位独立研究员Xi Song共同撰写。


参考来源:

https://techxplore.com/news/2019-05-framework-deep-neural-networks.html



新智元春季招聘开启,一起弄潮AI之巅!

岗位详情请戳:


【加入社群】


新智元AI技术+产业社群招募中,欢迎对AI技术+产业落地感兴趣的同学,加小助手微信号:aiera2015_2   入群;通过审核后我们将邀请进群,加入社群后务必修改群备注(姓名 - 公司 - 职位;专业群审核较严,敬请谅解)。

关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接