沈阳自动化所在深度学习泛化能力研究上取得重要进展
发布时间:2020-12-16
近日,依托于中国科学院沈阳自动化研究所机器人学国家重点实验室在深度学习泛化能力研究上取得了重要进展。以韩志研究员为第一作者、博士生余思泉为第二作者的最新研究成果Depth selection for deep ReLU nets in feature extraction and generalization发表于IEEE Trans. on Pattern Analysis and Machine Intelligence。
深度学习是近年受到广泛关注的研究领域,在目前人工智能与模式识别相关问题解决上表现出优越的性能。但随着求解问题复杂度的不断提升,网络深度也在不断加深。目前,该领域主要挑战之一是挖掘网络深度和求解问题复杂度之间的关系,明确网络深度及其泛化能力。针对该问题,韩志研究员等人联合西安交通大学林绍波教授、香港城市大学周定轩教授开展合作研究,通过在特征提取上深度-参数的平衡选择,给出了特征与网络深度之间的相互适应性,证明了经典经验风险极小化能够使得深度网络达到学习任务最优泛化性能的结论。
机器人学国家重点实验室机器人视觉研究组长期专注机器人视觉、人工智能与模式识别等方向的研究,在深度学习、机器人视觉复杂光照/天气处理、机器人视觉表达、低秩矩阵/张量建模等方向取得了一系列创新性成果,相关理论成果在一些国家重大工程项目中得到成功应用。
来源:中科院沈阳自动化所