博士后国际交流计划派出项目博士后黄高学术报告

2017-11-28

2017年11月23日上午10点,清华大学自动化系博士后国际交流计划派出计划博士后黄高在中央主楼610做了主题为“深度卷积神经网络的结构设计与优化”的学术报告,总结了在站期间的相关研究成果。

黄高.jpg

黄高博士的研究课题主要围绕深度神经网络的结构设计与优化问题,提出了新的算法与结构来解决深度模型训练效率低、容易过拟合等问题,取得了非常好的应用效果。报告首先介绍了一种可以随机变化深度的网络(Stochastic Depth Network)。这种网络只需对残差网络(ResNet)进行非常小的改动,就能显著地加快其训练速度并大幅提升其泛化性能,同时在一定程度上减弱梯度弥散的问题。其次介绍了一种具有密集连接的卷积网络结构(DenseNet)。该结构改变了传统神经网络的逐层连接方式,使网络中任何两层之间都有直接的连接。这种结构具有泛化性能好、易于收敛以及参数利用效率高等优点。DenseNet在多个数据集上的表现都显著的优于深度残差网络。最后介绍了一种具有自适应推理能力的多尺度密度连接卷积网络(Multi-scale DenseNet),该网络能够根据测试样本的难度自适应地选择计算量尽可能小的分类器,大幅减少神经网络的平均推理时间。

黄高博士在NIPS,ICML,CVPR等国际顶级会议及IEEE多个汇刊共计发表学术论文20余篇,被引用1200余次。其中一篇被中国科学技术信息研究所评选为2015年全国百篇最具国际影响学术论文;一篇获得2017年国际计算机视觉顶级会议CVPR最佳论文奖。

自动化系宋士吉教授、游科友副教授、人事科郭晓华老师以及10余名在站博士后、40余名研究生出席参加了本次报告会。会上各位老师和同学与黄高博士进行了深入的交流与探讨,报告会取得了很好的反响。

自动化系供稿

 

登录×
用户名:
密 码:
在站博士后使用“清华大学信息门户”的用户名密码登录
密码找回和修改在“清华大学信息门户”上操作