关键词:
机器学习
小样本学习
度量学习
布朗距离协方差
混合注意力机制
特征重塑
摘要:
针对小样本图像分类中主干卷积神经网络所提取特征缺乏关联性,以及在将其表示为布朗距离协方差(Brownian distance covariance,BDC)矩阵时易出现通道特征信息丢失的问题,提出了基于混合注意力的布朗距离协方差(hybrid attention-Brownian distance covariance,HA-BDC)小样本图像分类算法。该算法首先在主干卷积神经网络中引入加权的非局部注意力机制来增强特征提取能力,然后采用跨空间学习的高效多尺度注意力模块重塑嵌入特征,使得新的特征张量能够保留每个通道上的信息。再用BDC度量模块将新的特征张量表示为BDC矩阵,并通过全连接层得到BDC矩阵的权重矩阵,最后采用逻辑回归模型进行分类。在大规模视觉识别挑战的子数据集(mini ImageNet large scale visual recognition challenge,miniImageN et)和分层大规模视觉挑战的子数据集(tiered ImageNet large scale visual recognition challenge,tieredImageNet)上进行分类实验,结果表明,HA-BDC算法相较于简单迁移学习深度布朗协方差(simple transfer learning deep Brownian distance covariance,STL DeepBDC)算法在5-类别1-样本任务中的分类准确率分别提升了2.83%和0.77%。该研究能有效应用于数据量较小的濒危动物识别、罕见疾病识别等领域。