第１３卷㊀第５期Ｖｏｌ．１３Ｎｏ．５㊀
㊀
智㊀能㊀计㊀算㊀机㊀与㊀应㊀用
ＩｎｔｅｌｌｉｇｅｎｔＣｏｍｐｕｔｅｒａｎｄＡｐｐｌｉｃａｔｉｏｎｓ
正则化残差
㊀
㊀２０２３年５月㊀
Ｍａｙ２０２３
㊀㊀㊀㊀㊀㊀
文章编号：２０９５－２１６３（２０２３）０５－０１８７－０４
中图分类号：ＴＰ３９１．４１
文献标志码：Ａ
基于深度残差注意力生成网络的数据增强图像分类
张目飞１，李㊀廷１，苏㊀鹏２
（１浪潮云信息技术股份公司服务研发部，济南２５００００；２山东浪潮新基建科技有限公司，济南２５００００）
摘㊀要：图像分类可能受到许多因素的影响，本文提出用一个深度残差注意力生成网络生成图像数据来进行数据增强，增加图像数据的多样性，从而提高分类的准确率㊂通过与一些流行的深度学习分类方法做对比实验，实验结果表明本文所提出的方法在分类性能上具有竞争力，在ＭＮＩＳＴ和ｃｉｒｆａｒ１０数据集上分别达到了９８．９５％和９２．６８％的分类准确率㊂关键词：图像分类；残差注意力；生成网络；数据增强
Ｄａｔａ－ｅｎｈａｎｃｅｄｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ
ｂａｓｅｄｏｎｄｅｅｐｒｅｓｉｄｕａｌａｔｔｅｎｔｉｏｎｇｅｎｅｒａｔｉｏｎｎｅｔｗｏｒｋｓ
ＺＨＡＮＧＭｕｆｅｉ１，ＬＩＹａｎ１，ＳＵＰｅｎｇ２
（１ＳｅｒｖｉｃｅＲｅｓｅａｒｃｈａｎｄＤｅｖｅｌｏｐｍｅｎｔＤｅｐａｒｔｍｅｎｔ，ＬａｎｇｃｈａｏＣｌｏｕｄＩｎｆｏｒｍａｔｉｏｎＴｅｃｈｎｏｌｏｇｙＪＳＣ，Ｊｉｎａｎ２５００００，Ｃｈｉｎａ；
２ＳｈａｎｄｏｎｇＬａｎｇｃｈａｏＮｅｗＩｎｆｒａｓｔｒｕｃｔｕｒｅＴｅｃｈｎｏｌｏｇｙＣｏＬｔｄ，Ｊｉｎａｎ２５００００，Ｃｈｉｎａ）ʌＡｂｓｔｒａｃｔɔＩｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎｍａｙｂｅａｆｆｅｃｔｅｄｂｙｍａｎｙｆａｃｔｏｒｓ．Ｉｎｔｈｉｓｐａｐｅｒ，ｗｅｐｒｏｐｏｓｅｔｏｇｅｎｅｒａｔｅｉｍａｇｅｄａｔａｗｉｔｈａｄｅｅｐｒｅｓｉｄｕａｌａｔｔｅｎｔｉｏｎｇｅｎｅｒａｔｉｏｎｎｅｔｗｏｒｋｔｏｐｅｒｆｏｒｍｄａｔａａｕｇｍｅｎｔａｔｉｏｎａｎｄｉｎｃｒｅａｓｅｔｈｅｄｉｖｅｒｓｉｔｙｏｆｉｍａｇｅｄａｔａ，ｔｈｕｓｉｍｐｒｏｖｉｎｇｃｌａｓｓｉｆｉｃａｔｉｏｎａｃｃｕｒａｃｙ．Ｂｙｄｏｉｎｇｃｏｍｐａｒｉｓｏｎｅｘｐｅｒｉｍｅｎｔｓｗｉｔｈｓｏｍｅｐｏｐｕｌａｒｄｅｅｐｌｅａｒｎｉｎｇｃｌａｓｓｉｆｉｃａｔｉｏｎｍｅｔｈｏｄｓ，ｔｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｉｎｔｈｉｓｐａｐｅｒｉｓｃｏｍｐｅｔｉｔｉｖｅｉｎｃｌａｓｓｉｆｉｃａｔｉｏｎｐｅｒｆｏｒｍａｎｃｅ，ａｃｈｉｅｖｉｎｇ９８．９５％ａｎｄ９２．６８％ｃｌａｓｓｉｆｉｃａｔｉｏｎａｃｃｕｒａｃｙｏｎＭＮＩＳＴａｎｄｃｉｒｆａｒ１０ｄａｔａｓｅｔｓ，ｒｅｓｐｅｃｔｉｖｅｌｙ．
ʌＫｅｙｗｏｒｄｓɔｒｅｓｉｄｕａｌｓｔｒｕｃｔｕｒｅ；ｇｅｎｅｒａｔｉｖｅａｄｖｅｒｓａｒｉａｌｎｅｔｗｏｒｋｓ；ａｔｔｅｎｔｉｏｎｍｅｃｈａｎｉｓｍ；ｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ
作者简介：张目飞（１９８５－），男，硕士，中级工程师，主要研究方向：深度学习㊁数据挖掘㊁云计算；李㊀廷（１９８４－），男，学士，高级工程师，主要研
究方向：图像处理㊁模式识别；苏㊀鹏（１９８３－），男，硕士，高级工程师，主要研究方向：大数据㊁通信系统㊂
通讯作者：张目飞㊀㊀Ｅｍａｉｌ：ｚｈａｎｇｍｕｆｅｉｌｃ＠ｉｎｓｐｕｒ．ｃｏｍ收稿日期：２０２２－１２－０５
０㊀引㊀言
随着个人智能设备和图像相关应用的普及，会产生大量的图像数据，如何高效㊁合理地对这些图像数据进行合理的分类是一项技术难题㊂在过去的几年中，深度神经网络（ＤＮＮ）在计算机视觉和模式识别任务中，如：图像分类㊁语义分割㊁对象检测应用广泛㊂卷积神经网络中的卷积层能够捕获图像的局部特征，以获得与输入维度相似的空间表示，使用全连接层和ｓｏｆｔｍａｘ分类层生成概率表示，来达
到分类效果［１］㊂Ｈｅ等［２］提出了深度残差网络ＲｅｓＮｅｔ３４，引入了残差结构，可以更好地学习残差信息，并在后续层中使用这些残差信息，提高了图像分类的性能，为深度学习领域带来了新的思路和方法㊂
许多基于深度神经网络，在网络学习过程中添加注意力机制来获得图像中感兴趣区域，通过选择给定输入的特征通道㊁区域来自动提取相关特
征［３］㊂Ｗｏｏ等［４］将注意力机制模块集成到ＣＮＮ
中，提高网络的特征表达能力，从而提高了图像分类的准确率；Ｗａｎｇ［５］提出了残差注意网络，残差结构可以使网络更好地学习图像中的特征，通过添加注意力模块来学习图像中的局部区域特征；Ｐａｒｋ等［６］提出了一种新的注意力机制，可以在空间和通道维度上同时进行特征加权，更加准确地捕捉到图像中的重要信息；Ｘｉ等［７］提出用残差注意模块进行特征提取，以增强分类任务中的关键特征，抑制无用的特征；Ｌｉａｎｇ［８］提出将自下而上和自上而下的前馈注意力残差模块用于图像分类㊂以上工作说明残差结构和注意力机制都可以帮助模型更好地学习图像特征，提高图像分类的准确性㊂
随着数据集规模的增大和类别的增多，训练一个高准确率的分类模型变得越来越困难㊂传统的数据增强方法对原始图像进行几何变换或者对图像进行随机扰动，虽然可以增加数据集的样本量，提高分
类模型的准确率，但是这些方法无法生成新的数据分布㊂而生成网络是一种可以学习数据分布的生成模型，可以生成新的样本，从而扩大数据集并且增加数据多样性，从而可以提高分类模型的泛化性［９］㊂因此，本文提出一个深度残差注意力生成网络来生成图像数据，对数据进行必要的数据增强，利用
ＲｅｓＮｅｔ３４网络进行图像分类㊂
１㊀深度残差注意力生成网络数据增强模型
和图像分类
１．１㊀深度残差注意力生成网络模型结构设计
本文提出了一个深度残差注意力生成网络模型用于图像数据增强，主要结构包括生成器㊁判别器和残差注意力模块㊂生成器包含４个反卷积层（ＤＣｏｎｖ）和３个残差注意力模型（ＳＰＡＭ），残差注意
力模型能够对图像的重点区域进行特别关注，以生成高质量的图像，在生成器的最后一层使用Ｔａｎｈ函数将数据映射到［－１，１］的区间内；判别器包括４个卷积层（Ｃｏｎｖ），能够提取图像细节特征㊂深度残差注意力生成网络模型结构如图１所示㊂
㊀㊀生成网络由生成器和判别器组成㊂生成器将随机向量Ｚ作为输入，学习真实数据分布ｐ（ｘ）从而合成逼真的图像；判别器区分生成的图像与真实的图像，其输出表示从真实分布ｐ（ｘ）提取样本ｙ的概率㊂生成网络的最终目标是让生成器生成和真实图像相同的数据分布，而判别器无法判定图像为真实图像还是生成图像，达到一个纳什平衡㊂在生成器和判别器相互博弈的过程中，生成网络的目标函数定义为公式（１）：㊀㊀
ｍｉｎＧ
ｍａｘＤ
ＬＧＡＮ＝Ｅｘ ｐ（ｘ）［ｌｏｇＤ（ｘ）］＋
㊀㊀㊀㊀Ｅｚ ｐ（ｚ）［ｌｏｇ（１－Ｄ（Ｇ（ｚ）））］
（１）
其中，ｐ（ｘ）表示真实数据分布；ｐ（ｚ）表示生成
数据分布；Ｄ（ｘ）表示判别器运算；Ｇ（ｚ）表示生成器运算㊂
Z =100
D C o n v 1
S P A M
D C o n v 2
S P A M
D C o n v 3
S P A M
D C o n v 4+T a n h
生成器结构
训练
判别器结构
差别
真/假
训练
真实图像
C o n v 4C o n v 3C o n v 2C o n v 1
生成图像
图１㊀深度残差注意力生成网络模型结构
Ｆｉｇ．１㊀Ｄｅｅｐｒｅｓｉｄｕａｌａｔｔｅｎｔｉｏｎｇｅｎｅｒａｔｉｏｎｎｅｔｗｏｒｋｍｏｄｅｌ
㊀㊀本文随机选取Ｚ＝１００维的随机数据作为生成器的输入，经过生成器生成图像；判别器网络的输入为生成图像和真实图像，判别器网络指导生成器合成图像，鼓励生成器捕捉更为精细的特征细节，使得生成器生成的图像和真实图像难以区分㊂
残差注意力模型使具有相似特征的区域相互增强，以突出全局视野中的感兴趣区域，残差注意力模型如
图２所示㊂通过ｓｉｇｍｏｉｄ函数可以得到一个［０，１］的系数，给每个通道或空间分配不同的权重，
可以给每个特征图分配不同的重要程度㊂
28?28?64
C o n v +B N C o n v S i g m o i d O u t p u t
图２㊀残差注意力模型Ｆｉｇ．２㊀Ｒｅｓｉｄｕａｌａｔｔｅｎｔｉｏｎｍｏｄｅｌ
㊀㊀本文设ＣˑＨˑＷ为残差注意力模型的输入，Ｃ
为特征图的数量，Ｈ和Ｗ分别表示为图像的高度和
宽度；通过卷积和批量归一化运算对输入的特征进行处理，利用Ｓｉｇｍｏｉｄ函数得到空间注意系数Ｓ；将
８
８１智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第１３卷㊀
输入的特征图和通过注意力模型得到的特征图利用残差结构进行融合，得到最终的残差空间注意力特征表示，公式（２）和公式（３）：
Ｓ＝ｓｉｇｍｏｉｄ（Ｃｏｎｖ（Ｘ））（２）
Ｏｕｔｐｕｔ＝Ｓ㊃Ｘ＋Ｘ（３）㊀㊀其中，Ｘ表示空间注意模型的输入，Ｃｏｎｖ表示卷积运算㊂
１．２㊀数据预处理和图像分类
首先，对输入图像进行数据预处理，主要包括：将图像裁剪为２８ˑ２８的大小，并进行随机旋转和对比度增强；其次，将预处理的数据送入到深度残差注意力生成网络中进行数据增强㊂深度残差注意力生成网络通过学习图像不变性特征，合成高质量的数据，注意力机制对图像的感兴趣区域进行重点关注；生成器通过学习随机数据来生成感兴趣的图像分布，判别器学习真实样本的分布，辨别生成器生成的图像；同时训练生成器和判别器，促使两者竞争，在理想情况下，生成器可以生成近似于真实的图像数据，而判别器不能将真实图像与生成图像区分，从而达到纳什平衡，达到数据增强的目的；最后，利用ＲｅｓＮｅｔ３４网络对增强的图像数据进行分类㊂
２㊀实验结果分析
２．１㊀实验参数设置
本文使用ＰｙＴｏｒｃｈ深度学习框架来训练模型，ＧＰＵ为ＮＶＩＤＩＡＴｅｓｌａＶ１００，显存为３２ＧＢ㊂采用Ａｄａｍ算法优化损失函数，采用小批量样本的方式训练深度学习模型，ｂａｔｃｈ＿ｓｉｚｅ设置为６４，在训练的过程中采用固定步长策略调整学习率，初始学习率设置为０．０００１，ｇａｍｍａ值为０．８５，Ｌ２正则化系数设置为０．０００１，迭代次数为５００００次㊂
２．２㊀数据集
本文采用的数据集为ＭＮＩＳＴ数据集和ｃｉｒｆａｒ１０数据集㊂ＭＮＩＳＴ数据集一共有７００００张图片，其中６００００张作为训练集，１００００张作为测试集，每张图片由２８ˑ２８的０ ９的手写数字图片组成；ｃｉｒｆａｒ１０数据集由６００００张３２ˑ３２的彩图片组成，一共有十个类别，每个类别有６０００张图片，其中５００００张图片作为训练集，１００００张图片作为测试集㊂２．３㊀实验结果
使用深度残差注意力生成网络分别对ＭＮＩＳＴ和ｃｉｒｆａｒ１０数据集中的图像进行图像增强，使得图像的特征更加多样，对ＭＮＩＳＴ数据集进行数据增强的效果如图３所示，对ｃｉｒｆａｒ１０数据进行数据增强的效果如图４所示
㊂
图３㊀ＭＮＩＳＴ数据集数据增强的效果
Ｆｉｇ．３㊀ＥｆｆｅｃｔｏｆｄａｔａｅｎｈａｎｃｅｍｅｎｔｏｆＭＮＩＳＴ
ｄａｔａｓｅｔ
图４㊀ｃｉｒｆａｒ１０数据集数据增强的效果
Ｆｉｇ．４㊀Ｅｆｆｅｃｔｏｆｄａｔａｅｎｈａｎｃｅｍｅｎｔｏｎｔｈｅｃｉｒｆａｒ１０ｄａｔａｓｅｔ㊀㊀从图３和图４可以看出，使用深度残差注意力生成网络对ＭＮＩＳＴ和ｃｉｒｆａｒ１０数据集进行数据增强，具有很强的视觉可读性，同时也具有较清晰的纹理特征，实现了数据增强，扩充了数据集㊂
为了验证本文模型数据增强后的ＭＮＩＳＴ以及ｃｉｒｆａｒ１０数据在分类方面的效果，选择ＣＮＮ㊁ＲｅｓＮｅｔ１８㊁ＲｅｓＮｅｔ３４㊁ＲｅｓＮｅｔ５０和ＲｅｓＮｅｔ１０１作为分类网络做对比实验㊂第一组测试增强数据的分类准确率；第二组，测试原始数据的分类准确率；第三组，将增强数据和原始数据各拿出５０％组成新的数据集进行测试，实验结果见表１和表２㊂
表１㊀ＭＮＩＳＴ数据集分类准确率实验结果（％）
Ｔａｂ．１㊀ＥｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｏｆｃｌａｓｓｉｆｉｃａｔｉｏｎａｃｃｕｒａｃｙｏｆＭＮＩＳＴｄａｔａｓｅｔ（％）
模型生成数据原始数据生成＋原始
ＣＮＮ９６．４９９７．８４９８．３６
ＲｅｓＮｅｔ１８９６．９３９７．９２９８．５２
ＲｅｓＮｅｔ３４９７．２６９８．０２９８．９５
ＲｅｓＮｅｔ５０９６．４３９７．６５９８．３５
ＲｅｓＮｅｔ１０１９６．７３９７．１７９７．９６
（下转第１９６页）
９８１
第５期张目飞，等：基于深度残差注意力生成网络的数据增强图像分类
具有对纹理和边缘的双重抵抗，在传统引导滤波的基础上，利用二次引导滤波去除图像的纹理和高频噪声，同时保留ＪＰＥＧ图像原来的边缘特性，使用改进人工蜂算法进行边缘提取和移除，有效地抑制图像中高频纹理和边缘对直方图周期性的干扰；使用交叉差分图像的方式来凸显块效应，更精确地提取直方图，减少重采样中下采样估计的误差，提高了算法性能，增强算法鲁棒性㊂
参考文献
［１］高铁杠杨富圣盛国瑞．一种新的基于ＤＣＴ域系数对直方图的图像篡改取证方法［Ｊ］．光电子．激光，２０１４，２５（１１）：２１９６－２２０２．
［２］ＺＨＡＮＧＺＬ，ＣＡＯＴＴ．Ｕｎｂａｌａｎｃｅｄｄａｔａｃｌａｓｓｉｆｉｃａｔｉｏｎａｌｇｏｒｉｔｈｍｂａｓｅｄｏｎｒｅｓａｍｐｌｉｎｇａｎｄｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎ［Ｊ］．ＪｏｕｒｎａｌｏｆＣｈｉｎｅｓｅＣｏｍｐｕｔｅｒＳｙｓｔｅｍｓ，２０２０，４１（６）：１３２７－１３３３．
［３］ＰＥＮＧＦ，ＺＨＡＯＹ，ＺＨＡＮＧＸ，ｅｔａｌ．ＲｅｖｅｒｓｉｂｌｅｄａｔａｈｉｄｉｎｇｂａｓｅｄｏｎＲＳＢＥＭＤｃｏｄｉｎｇａｎｄａｄａｐｔｉｖｅｍｕｌｔｉ－ｓｅｇｍｅｎｔｌｅｆｔａｎｄｒｉｇｈｔｈｉｓｔｏｇｒａｍｓｈｉｆｔｉｎｇ［Ｊ］．ＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ：ＩｍａｇｅＣｏｍｍｕｎｉｃａｔｉｏｎ，２０２０，８１：１１５７１５．
［４］ＬＩＵＹＸ，ＹＡＮＧＣＮ，ＳＵＮＱＤ，ｅｔａｌ．ＥｎｈａｎｃｅｄｅｍｂｅｄｄｉｎｇｃａｐａｃｉｔｙｆｏｒｔｈｅＳＭＳＤ－ｂａｓｅｄｄａｔａ－ｈｉｄｉｎｇｍｅｔｈｏｄ［Ｊ］．ＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ：ＩｍａｇｅＣｏｍｍｕｎｉｃａｔｉｏｎ，２０１９，７８：２１６－２２２．［５］ＢＩＲＡＪＤＡＲＧＫ，ＭＡＮＫＡＲＶＨ．Ｂｌｉｎｄｍｅｔｈｏｄｆｏｒｒｅ
ｓｃａｌｉｎｇｄｅｔｅｃｔｉｏｎａｎｄｒｅｓｃａｌｅｆａｃｔｏｒｅｓｔｉｍａｔｉｏｎｉｎｄｉｇｉｔａｌｉｍａｇｅｓｕｓｉｎｇｐｅｒｉｏｄｉｃｐｒｏｐｅｒｔｉｅｓｏｆｉｎｔｅｒｐｏｌａｔｉｏｎ［Ｊ］．ＡＥＵ－ＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＥｌｅｃｔｒｏｎｉｃｓａｎｄＣｏｍｍｕｎｉｃａｔｉｏｎｓ，２０１４，６８（７）：６４４－６５２．［６］ＶＡＺＱＵＥＺ－ＰＡＤＩＮＤ，ＣＯＭＥＳＡＮＡＰ，ＰＥＲＥＺ－ＧＯＮＺＡＬＥＺＦ．ＡｎＳＶＤａｐｐｒｏａｃｈｔｏｆｏｒｅｎｓｉｃｉｍａｇｅｒｅｓａｍｐｌｉｎｇｄｅｔｅｃｔｉｏｎ［Ｃ］／／２０１５２３ｒｄＥｕｒｏｐｅａｎＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇＣｏｎｆｅｒｅｎｃｅ（ＥＵＳＩＰＣＯ）．ＩＥＥＥ，２０１５：２０６７－２０７１．
［７］ＫＩＲＣＨＮＥＲＭ，ＧＬＯＥＴ．Ｏｎｒｅｓａｍｐｌｉｎｇｄｅｔｅｃｔｉｏｎｉｎｒｅ－ｃｏｍｐｒｅｓｓｅｄｉｍａｇｅｓ［Ｃ］／／２００９ＦｉｒｓｔＩＥＥＥｉｎｔｅｒｎａｔｉｏｎａｌｗｏｒｋｓｈｏｐｏｎｉｎｆｏｒｍａｔｉｏｎｆｏｒｅｎｓｉｃｓａｎｄｓｅｃｕｒｉｔｙ（ＷＩＦＳ）．ＩＥＥＥ，２００９：２１－２５．［８］ＲＡＮＷ，ＰＩＮＧＸ．Ｄｅｔｅｃｔｉｏｎｏｆｒｅｓａｍｐｌｉｎｇｂａｓｅｄｏｎｔｅｘｔｕｒｅｃｏｍｐｌｅｘｉｔｙａｎｄｓｉｎｇｕｌａｒｖａｌｕｅｄｅｃｏｍｐｏｓｉｔｉｏｎ［Ｊ］．ＪｏｕｒｎａｌｏｆＣｏｍｐｕｔｅｒ－ＡｉｄｅｄＤｅｓｉｇｎ＆ＣｏｍｐｕｔｅｒＧｒａｐｈｉｃｓ，２０１０，２２（９）：１６０６－１６１２．
［９］ＢＡＹＡＲＢ，ＳＴＡＭＭＭＣ．ＯｎｔｈｅｒｏｂｕｓｔｎｅｓｓｏｆｃｏｎｓｔｒａｉｎｅｄｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓｔｏＪＰＥＧｐｏｓｔ－ｃｏｍｐｒｅｓｓｉｏｎｆｏｒｉｍａｇｅｒｅｓａｍｐｌｉｎｇｄｅｔｅｃｔｉｏｎ［Ｃ］／／ＩＥＥＥＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＡｃｏｕｓｔｉｃｓ．ＩＥＥＥ，２０１７：２１５２－２１５６．
［１０］ＣＡＯＧ，ＺＨＯＵＡＴ，ＨＵＡＮＧＸＬ，ｅｔａｌ．Ｒｅｓａｍｐｌｉｎｇｄｅｔｅｃｔｉｏｎｏｆｒｅｃｏｍｐｒｅｓｓｅｄｉｍａｇｅｓｖｉａｄｕａｌ－ｓｔｒｅａｍｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋ［Ｊ］．ＭａｔｈｅｍａｔｉｃａｌＢｉｏｓｃｉｅｎｃｅｓａｎｄＥｎｇｉｎｅｅｒｉｎｇ，２０１９，１６（５）：５０２２－５０４０．
［１１］ＧＡＬＬＡＧＨＥＲＡＣ．ＤｅｔｅｃｔｉｏｎｏｆｌｉｎｅａｒａｎｄｃｕｂｉｃｉｎｔｅｒｐｏｌａｔｉｏｎｉｎＪＰＥＧｃｏｍｐｒｅｓｓｅｄｉｍａｇｅｓ［Ｃ］／／Ｔｈｅ２ｎｄＣａｎａｄｉａｎＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｕｔｅｒａｎｄＲｏｂｏｔＶｉｓｉｏｎ（ＣＲＶᶄ０５）．ＩＥＥＥ，２００５：６５－７２．
（上接第１８９页）
表２㊀ｃｉｒｆａｒ１０数据集分类准确率实验结果（％）
Ｔａｂ．２㊀Ｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｏｆｃｌａｓｓｉｆｉｃａｔｉｏｎａｃｃｕｒａｃｙ（％）ｆｏｒｔｈｅｃｉｒｆａｒ１０ｄａｔａｓｅｔ
模型生成数据原始数据生成＋原始
ＣＮＮ９０．３６９１．５６９１．８３
ＲｅｓＮｅｔ１８９０．７９９１．８２９２．０７
ＲｅｓＮｅｔ３４９１．８３９２．０３９２．６８
ＲｅｓＮｅｔ５０９０．３１９１．８５９２．４３
ＲｅｓＮｅｔ１０１９０．３７９１．７１９１．９５㊀㊀通过表１和表２可以看出，使用深度残差注意力生成网络进行数据增强能够提高数据集的分类效果，证明本文提出的模型是切实有效的㊂利用本文模型进行数据增强的数据和原始数据相结合，在ＭＮＩＳＴ数据集上达到了９８．９５％的准确率，在ｃｉｒｆａｒ１０数据集上达到了９２．６８％的准确率㊂
３㊀结束语
本文提出了一种深度残差注意力生成网络用于数据增强，从而提高分类的准确率㊂实验结果证明，该模型在ＭＮＩＳＴ数据集上获得了９８．９５％的准确率，准确率提高了０．９３个百分点；在ｃｉｒｆａｒ１０数据集上获得了９２．６８％的准确率，准确率提高了０．６５个百分点㊂本文模型的提出，为数据增强提供了一种解决思路和方式㊂
参考文献
［１］ＹＫＲＩＺＨＥＶＳＫＹＡ，ＳＵＴＳＫＥＶＥＲＩ，ＨＩＮＴＯＮＧＥ．Ｉｍａｇｅｎｅｔ
ｃｌａｓｓｉｆｉｃａｔｉｏｎｗｉｔｈｄｅｅｐｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．ＣｏｍｍｕｎｉｃａｔｉｏｎｓｏｆｔｈｅＡＣＭ，２０１７，６０（６）：８４－９０．［２］ＨＥＫ，ＺＨＡＮＧＸ，ＲＥＮＳ，ｅｔａｌ．Ｄｅｅｐｒｅｓｉｄｕａｌｌｅａｒｎｉｎｇｆｏｒｉｍａｇｅ
ｒｅｃｏｇｎｉｔｉｏｎ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｕｔｅｒＶｉｓｉｏｎａｎｄＰａｔｔｅｒｎＲｅｃｏｇｎｉｔｉｏｎ．２０１６：７７０－７７８．［３］ＨＵＪ，ＳＨＥＮＬ，ＳＵＮＧ．Ｓｑｕｅｅｚｅ－ａｎｄ－ｅｘｃｉｔａｔｉｏｎｎｅｔｗｏｒｋｓ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｕｔｅｒＶｉｓｉｏｎａｎｄＰａｔｔｅｒｎＲｅｃｏｇｎｉｔｉｏｎ．２０１８：７１
３２－７１４１．
［４］ＷＯＯＳ，ＰＡＲＫＪ，ＬＥＥＪＹ，ｅｔａｌ．Ｃｂａｍ：Ｃｏｎｖｏｌｕｔｉｏｎａｌｂｌｏｃｋａｔｔｅｎｔｉｏｎｍｏｄｕｌｅ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＥｕｒｏｐｅａｎＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｕｔｅｒＶｉｓｉｏｎ（ＥＣＣＶ）．２０１８：３－１９．
［５］ＷＡＮＧＦ，ＪＩＡＮＧＭ，ＱＩＡＮＣ，ｅｔａｌ．Ｒｅｓｉｄｕａｌａｔｔｅｎｔｉｏｎｎｅｔｗｏｒｋｆｏｒｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｕｔｅｒＶｉｓｉｏｎａｎｄＰａｔｔｅｒｎＲｅｃｏｇｎｉｔｉｏｎ，２０１７：３１５６－３１６４．［６］ＰＡＲＫＪ，ＷＯＯＳ，ＬＥＥＪＹ，ｅｔａｌ．Ｂａｍ：Ｂｏｔｔｌｅｎｅｃｋａｔｔｅｎｔｉｏｎｍｏｄｕｌｅ［Ｊ］．ａｒＸｉｖｐｒｅｐｒｉｎｔａｒＸｉｖ：１８０７．０６５１４，２０１８．［７］ＸＩＢ，ＬＩＪ，ＬＩＹ，ｅｔａｌ．Ｄｅｅｐｐｒｏｔｏｔｙｐｉｃａｌｎｅｔｗｏｒｋｓｗｉｔｈｈｙｂｒｉｄｒｅｓｉｄｕａｌａｔｔｅｎｔｉｏｎｆｏｒｈｙｐｅｒｓｐｅｃｔｒａｌｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｊ］．ＩＥＥＥＪｏｕｒｎａｌｏｆＳｅｌｅｃｔｅｄＴｏｐｉｃｓｉｎＡｐｐｌｉｅｄＥａｒｔｈＯｂｓｅｒｖａｔｉｏｎｓａｎｄＲｅｍｏｔｅＳｅｎｓｉｎｇ，２０２０，１３：３６８３－３７００．
［８］ＬＩＡＮＧＬ，ＣＡＯＪ，ＬＩＸ，ｅｔａｌ．Ｉｍｐｒｏｖｅｍｅｎｔｏｆｒｅｓｉｄｕａｌａｔｔｅｎｔｉｏｎｎｅｔｗｏｒｋｆｏｒｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｃ］／／ＩｎｔｅｌｌｉｇｅｎｃｅＳｃｉｅｎｃｅａｎｄＢｉｇＤａｔａＥｎｇｉｎｅｅｒｉｎｇ．ＶｉｓｕａｌＤａｔａＥｎｇｉｎｅｅｒｉｎｇ：９ｔｈＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅ，ＩＳｃＩＤＥ２０１９，Ｎａｎｊｉｎｇ，Ｃｈｉｎａ，Ｏｃｔｏｂｅｒ１７－２０，２０１９，Ｐｒｏｃｅｅｄｉｎｇｓ，ＰａｒｔＩ．Ｃｈａｍ：ＳｐｒｉｎｇｅｒＩｎｔｅｒｎａｔｉｏｎａｌＰｕｂｌｉｓｈｉｎｇ，２０１９：５２９－５３９．
［９］ＡＬＩ－ＧＯＭＢＥＡ，ＥＬＹＡＮＥ，ＪＡＹＮＥＣ．ＭｕｌｔｉｐｌｅｆａｋｅｃｌａｓｓｅｓＧＡＮｆｏｒｄａｔａａｕｇｍｅｎｔａｔｉｏｎｉｎｆａｃｅｉｍａｇｅｄａｔａｓｅｔ［Ｃ］／／２０１９ＩｎｔｅｒｎａｔｉｏｎａｌＪｏｉｎｔＣｏｎｆｅｒｅｎｃｅｏｎＮｅｕｒａｌＮｅｔｗｏｒｋｓ（ＩＪＣＮＮ）．ＩＥＥＥ，２０１９：１－８．
６９１智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第１３卷㊀

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。