第１４卷㊀第３期Ｖｏｌ．１４Ｎｏ．３㊀㊀
智㊀能㊀计㊀算㊀机㊀与㊀应㊀用
ＩｎｔｅｌｌｉｇｅｎｔＣｏｍｐｕｔｅｒａｎｄＡｐｐｌｉｃａｔｉｏｎｓ
㊀
㊀２０２４年３月㊀
Ｍａｒ．２０２４
㊀㊀㊀㊀㊀㊀
文章编号：２０９５－２１６３（２０２４）０３－００６１－０６中图分类号：ＴＰ３９１．４１
文献标志码：Ａ
融合ＭｏｂｉｌｅＮｅｔ与ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ的人脸识别研究
陈经纬，熊继平，程汉权
（浙江师范大学物理与电子信息工程学院，浙江金华３２１００４）
摘㊀要：ＦａｃｅＮｅｔ作为人脸识别的一大跨越，以其高精度㊁低硬件配置等优势被广泛应用于各个人脸识别相关领域㊂本文开源了首个餐厅支付场景下的中国人脸数据集ＣＮ－Ｆａｃｅ，该数据集拥有１３０００人的人脸图像，总计１０００００张㊂此外，本文以ＣＡ⁃ＳＩＡ－ＷｅｂＦａｃｅ作为训练集，利用改进后的ＭｏｂｉｌｅＮｅｔ主干网络，采取不同的注意力机制添加方法，改变激活函数并且融入ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ模块，大大降低了参数量和识别速度，显著提升了人脸识别精度㊂相较于原版ＦａｃｅＮｅｔ，在ＬＦＷ测试集下，准确率达到９８．７９％，提升了２．７４％，在ＣＮ－Ｆａｃｅ数据集中准确率达到９５．２２％，提升了１．３５％㊂关键词：ＥＣＡ注意力机制；人脸识别；ＦａｃｅＮｅｔ；深度学习；ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ
ＲｅｓｅａｒｃｈｏｎｆａｃｅｒｅｃｏｇｎｉｔｉｏｎｃｏｍｂｉｎｉｎｇＭｏｂｉｌｅＮｅｔａｎｄＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ
ＣＨＥＮＪｉｎｇｗｅｉ，ＸＩＯＮＧＪｉｐｉｎｇ，ＣＨＥＮＧＨａｎｑｕａｎ
（ＣｏｌｌｅｇｅｏｆＰｈｙｓｉｃｓａｎｄＥｌｅｃｔｒｏｎｉｃＩｎｆｏｒｍａｔｉｏｎＥｎｇｉｎｅｅｒｉｎｇ，ＺｈｅｊｉａｎｇＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ，Ｊｉｎｈｕａ３２１００４，
Ｚｈｅｊｉａｎｇ，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ：ＦａｃｅＮｅｔ，ａｓｔｈｅｍａｊｏｒｐｒｏｇｒｅｓｓｉｎｆａｃｅｒｅｃｏｇｎｉｔｉｏｎ，ｈａｓｂｅｅｎｗｉｄｅｌｙｕｓｅｄｉｎｒｅｌａｔｅｄｆａｃｅｒｅｃｏｇｎｉｔｉｏｎｆｉｅｌｄｓｄｕｅｔｏｉｔｓａｄｖａｎｔａｇｅｓｏｆｈｉｇｈｐｒｅｃｉｓｉｏｎａｎｄｌｏｗｈａｒｄｗａｒｅｃｏｎｆｉｇｕｒａｔｉｏｎｒｅｑｕｉｒｅｍｅｎｔｓ．ＴｈｅｌａｂｏｒａｔｏｒｙｃｏｌｌｅｃｔｓｆａｃｅｄａｔａｆｒｏｍｍｕｌｔｉｐｌｅｒｅｓｔａｕｒａｎｔｓａｎｄｃｏｍｂｉｎｅｓｔｈｅｍｔｏｆｏｒｍａＣｈｉｎｅｓｅｆａｃｅｄａｔａｓｅｔ（ＣＮ－Ｆａｃｅ）ｗｉｔｈｍｏｒｅｔｈａｎ１３０００ｆａｃｅＩＤｓａｎｄ１０００００ｆａｃｅｉｍａｇｅｓ．ＥｘｐｌｏｒｅｔｈｅｕｓｅｏｆＣＡＳＩＡ－ＷｅｂＦａｃｅａｓｔｈｅｔｒａｉｎｉｎｇｓｅｔ，ｕｓｅｔｈｅｉｍｐｒｏｖｅｄＭｏｂｉｌｅＮｅｔｂａｃｋｂｏｎｅｎｅｔｗｏｒｋ，ａｄｏｐｔｄｉｆｆｅｒｅｎｔａｔｔｅｎｔｉｏｎｍｅｃｈａｎｉｓｍａｄｄｉｔｉｏｎｍｅｔｈｏｄｓ，ｃｈａｎｇｅｔｈｅａｃｔｉｖａｔｉｏｎｆｕｎｃｔｉｏｎａｎｄｉｎｔｅｇｒａｔｅｔｈｅＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒｍｏｄｕｌｅ，ｗｈｉｃｈｇｒｅａｔｌｙｒｅｄｕｃｅｓｔｈｅｎｕｍｂｅｒｏｆｐａｒａｍｅｔｅｒｓａｎｄｒｅｃｏｇｎｉｔｉｏｎｓｐｅｅｄ，ａｎｄｓｉｇｎｉｆｉｃａｎｔｌｙｉｍｐｒｏｖｅｓｆａｃｅｒｅｃｏｇｎｉｔｉｏｎｐｒｅｃｉｓｉｏｎ．ＣｏｍｐａｒｅｄｗｉｔｈｔｈｅｏｒｉｇｉｎａｌＦａｃｅＮｅｔ，ｕｎｄｅｒｔｈｅＬＦＷｔｅｓｔｓｅｔ，ｔｈｅａｃｃｕｒａｃｙｒａｔｅｒｅａｃｈｅｓ９８．７９％，ａｎｉｎｃｒｅａｓｅｏｆ２．７４％．Ａｔｔｈｅｓａｍｅｔｉｍｅ，ｔｈｅａｃｃｕｒａｃ
ｙｒａｔｅｒｅａｃｈｅｓ９５．２２％ｕｎｄｅｒｔｈｅＣｈｉｎｅｓｅｆａｃｅｄａｔａｓｅｔ（ＣＮ－Ｆａｃｅ）ｃｏｌｌｅｃｔｅｄｉｎｔｈｅｌａｂｏｒａｔｏｒｙ，ａｎｉｎｃｒｅａｓｅｏｆ１．３５％．Ｋｅｙｗｏｒｄｓ：ＥＣＡａｔｔｅｎｔｉｏｎｍｅｃｈａｎｉｓｍ；ｆａｃｅｒｅｃｏｇｎｉｔｉｏｎ；ＦａｃｅＮｅｔ；ｄｅｅｐｌｅａｒｎｉｎｇ；ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ
基金项目：金华市公益项目（２０２１－４－１１６）㊂
作者简介：陈经纬（１９９６－），男，硕士研究生，主要研究方向：深度学习㊂
通讯作者：熊继平（１９８２－），男，博士，副教授，主要研究方向：深度学习㊁图像处理㊂Ｅｍａｉｌ：ｘｊｐｉｎｇ＠ｚｊｎｕ．ｃｎ收稿日期：２０２３－０８－０７
０㊀引㊀言
人脸识别是个人身份认定中的重要一环，相较于指纹识别和虹膜识别等身份认定手段，人脸识别具有无接触性㊁非强制性㊁并发性等优势，在金融安全㊁智能监控领域具有广泛的应用㊂人脸识别系统的基础是提取面部特征，并使用这些特征进行比较㊂其中，深度学习（ＤＬ）模型提供了一种成功提取分析数据特征的方法［１］㊂许多应用都需要先进的人脸识别技术，例如获取人脸信息㊁人机界面应用㊁多媒
体通信㊁创建人造人脸和管理基于内容的人脸数据库［２］㊂每个比较过程的接近值，是通过将识别过程中被质疑图像的独特特征与人脸数据库中的其他特征集进行比较来计算，通过考虑所有计算出的接近
度值来获得结果㊂人脸识别应用程序的质量与人脸识别数据库的创建，以及人脸识别过程中获得的人脸姿势的质量成正比［３］㊂人脸匹配最关键的是确定２个不同人脸的特征表示，以确保正确匹配［４］㊂
人脸识别自上世纪９０年代被Ｔｕｒｋ团队实现并开始应用迄今为止已经历了３０余年［５］，各种人脸识别算法也陆续问世，一直作为身份认定的重要方法㊂２１世纪，随着深度学习的兴起，运用深度学习挖掘人脸特征成为人脸识别的主要途径㊂２００６年，
Ｈｉｎｔｏｎ团队利用深度学习，提出了深度信念网络，挖掘图像之间的非线性特征，获取图像的高维特征［６－７］㊂卷积神经网络（ＣＮＮ）的提出，加快了人脸图像识别的发展㊂２０１４年，Ｔａｉｇｍａｎ团队提出ＤｅｅｐＦａｃｅ深度学习模型［８］，准确率达到了９７．３５％，突破
当时人脸识别准确率的最高记录㊂同年，Ｓｕｎ团队在人脸识别任务中引入了度量学习，开发出
ＤｅｅｐＩＤ［４］㊂２０１５年，Ｇｏｏｇｌｅ提出ＦａｃｅＮｅｔ人脸识别模型，采用了卷积神经
网络和Ｔｒｉｐｌｅｔｌｏｓｓ作为损失函数，大大提高了人脸识别的精度［９］㊂利用网络将人脸图像映射入一个可测的向量空间，通过计算人脸向量的欧氏距离，判定人脸相似度㊂近年，对损失函数的修改取得有效的进展，ＡｄａＣｏｓ［１０］㊁ＡｒｃＦａｃｅ［１１］㊁ＡｄａｐｔｉｖｅＦａｃｅ［１２］㊁ＣｉｒｃｌｅＬｏｓｓ［１３］等损失函数的提出，对人脸识别的识别率㊁推断速度等方面有着不同程度的改进㊂人脸数据集的发展是人脸识别的重要途径，主要分为两大方向㊂其一，对数据集进行提纯清洗，例如通过清理ＭＳ－Ｃｅｌｅｂ－１Ｍ数据集（包括１０万人的１亿张人脸图像），ｉＢＵＧ得到ＭＳ１Ｍ－ｉＢＵＧ数据集（包括８．５万人的３８０万张人脸图像），同样是ＭＳ－Ｃｅｌｅｂ－１Ｍ数据集，ＡｒｃＦａｃｅ得到ＭＳ１Ｍ－ＡｒｃＦａｃｅ数据集（包括８．５万人的５８０万张人脸图像）；其二，通过收集更多的人脸图像，当前最大的人脸数据集为文献［１３］提出的数据集ＷｅｂＦａｃｅ２６０Ｍ（包括４００万人的２．６亿人脸图像），并且设计了可以自动利用且自训练的自动清洗ｐｉｐｅｌｉｎｅ，所以ＷｅｂＦａｃｅ２６０Ｍ人脸数据集虽然巨大，但也具有相当的清洁度㊂
１㊀模型介绍
１．１㊀ＦａｃｅＮｅｔ
ＦａｃｅＮｅｔ是谷歌研究人员开发的用于人脸识别的深度神经网络模型㊂该模型使用卷积神经网络（
ＣＮＮ）架构，从面部图像中提取特征，然后将这些特征映射到称为 面部嵌入 的高维空间㊂该模型使用大量人脸数据集进行训练，即使在光照㊁姿势和表情变化等条件下也能准确识别人脸㊂ＦａｃｅＮｅｔ网络结构如图１所示㊂
批量人脸样本
卷积神经
网络
L2正则化
输
出
特
征
向
量
三元组损
失函数
图１㊀ＦａｃｅＮｅｔ网络结构
Ｆｉｇ．１㊀ＦａｃｅＮｅｔｎｅｔｗｏｒｋｓｔｒｕｃｔｕｒｅ
㊀㊀ＦａｃｅＮｅｔ的关键创新是在训练期间使用三元组损失函数（Ｔｒｉｐｌｅｔｌｏｓｓ），其作用是使模型将同一个人的图像映射到相似的人脸嵌入，将不同人的图像映射到不同的嵌入，有助于模型学习，可以区分不同个体的判别特征㊂
Ｔｒｉｐｌｅｔｌｏｓｓ三元组损失是深度学习中用于度量学习的一种损失函数，其目的是学习将输入映射到度量空间的函数，使得相似的输入在度量空间中比不同的输入彼此更接近㊂度量空间可用于图像检索㊁人脸识别和行人再识别等任务㊂
三元组损失函数接受３个输入：锚样本㊁正样本和负样本㊂其中，锚样本和正样本是同一类／类别的
２个示例，而负样本是不同类／类别的示例㊂三元组损失函数计算锚点和正样本间的距离，以及度量空间中锚点和负样本间的距离㊂目标是最小化锚点和正样本间的距离，同时最大化锚点和负样本间的距离㊂Ｔｒｉｐｌｅｔｌｏｓｓ可以表示为
：
＝ｍａｘ（ｄａ，ｐ
()－ｄａ，ｎ
()＋ｍａｒｇｉｎ，０）（１）㊀㊀其中，ｄ（ａ，ｐ）是ａｎｃｈｏｒ样本ａ（取一张人脸图像）和正样本ｐ（同一人的不同人脸图像）的距离；ｄ（ａ，ｎ）是ａｎｃｈｏｒ样本ａ（取一张人脸图像）和负样本ｎ（不同人的人脸像）的距离；ｍａｒｇｉｎ作为一个超参数，指定为零锚样本同负样本间最小期望距离㊂若锚点同正样本间的距离较之锚点同负样本间的距离至少小ｍａｒｇｉｎ，则损失为零，否则损失为正，并且与距离间的差异成正比㊂
三元组损失函数通常与连体或三元组网络架构结合使用，该架构由共享权重的同一网络的多个副本组成，
并采用多个输入，其输入将用于三元组中的每个样本㊂通过使用随机梯度下降或类似的优化算法优化三元组损失函数来训练网络㊂Ｔｒｉｐｌｅｔｌｏｓｓ训练阶段流程如图２所示㊂
喂入三元组数据，优化三
元组损失，更新网络参数
挑选满足规则的数据，
构成三元组
送入网络，正向传播，得到
相应的e m b e d d i n g向量
从训练集(已知源）随机
获取一批数据
初始化神经网络参数
开始
结束
保存网络模型
训练是否饱和?
Y
N
图２㊀Ｔｒｉｐｌｅｔｌｏｓｓ训练阶段流程图
Ｆｉｇ．２㊀ＦｌｏｗｃｈａｒｔｏｆｔｈｅｔｒａｉｎｉｎｇｐｈａｓｅｏｆＴｒｉｐｌｅｔｌｏｓｓ
２６智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第１４卷㊀
１．２㊀主干网络
ＭｏｂｉｌｅＮｅｔ是一种深度神经网络架构［１４］，专为高效移动和嵌入式视觉应用而设计，已广泛用于移动设备的计算机视觉应用程序，以及其他资源受限的环境㊂
ＭｏｂｉｌｅＮｅｔ的关键思想是使用深度可分离卷积代替传统卷积㊂通过将卷积操作分成２个单独的层：ｄｅｐｔｈｗｉｓｅｃｏｎｖｏｌｕｔｉｏｎ层对每个输入通道应用一个过滤器；ｐｏｉｎｔｗｉｓｅｃｏｎｖｏｌｕｔｉｏｎ层应用了１ˑ１卷积来组合跨通道的ｄｅｐｔｈｗｉｓｅ卷积结果㊂以此减少网络的计算成本和参数数量，同时保持视觉识别任务的高精度㊂
ＭｏｂｉｌｅＮｅｔ由３个阶段和自适应平均池化层与全连接层构成，其中３个阶段分别为ｓｔａｇｅ１㊁ｓｔａｇｅ２㊁ｓｔａｇｅ３㊂ｓｔａｇｅ１和ｓｔａｇｅ２包含６个卷积层，ｓｔａｇｅ３包含２个卷积层㊂
ＭｏｂｉｌｅＮｅｔ还使用了一种 瓶颈 技术，用来进一步降低计算成本㊂在瓶颈中，输入通道首先使用１ˑ１卷积扩展到更多通道，然后使用深度可分离卷积进行处理，不仅有助于提高网络的表示能力，同时还保持了较低的参数数量㊂
２㊀实验方法
２．１㊀数据集
２．１．１㊀训练集
ＣＡＳＩＡ－ＷｅｂＦａｃｅ是中国科学院自动化研究所（ＣＡＳＩＡ）开发的大规模人脸识别数据集
［１５］，其中包含从互联网上收集的超过１００００个人的５０００００多张图像㊂在这个数据集中涵盖了每一个人不同姿势㊁表情㊁光照条件和年龄的图片，并标记了每个人的身份，便于数据集后续的扩展㊂
㊀㊀ＣＡＳＩＡ－ＷｅｂＦａｃｅ数据集广泛用于人脸识别算法的开发和评估，尤其是基于深度学习的方法㊂数据集的庞大规模和多样性，使其可用于训练稳健且准确的人脸识别系统㊂
２．１．２㊀测试集２．１．２．１㊀ＬＦＷ
ＬＦＷ（ＬａｂｅｌｅｄＦａｃｅｓｉｎｔｈｅＷｉｌｄ）是一种流行的人脸识别数据集［１６］，由马萨诸塞大学的研究人员创建㊂该数据集包含从互联网上收集的１３０００多张人脸图像，每张图像都标有图像中人物的身份㊂
㊀㊀ＬＦＷ数据集广泛用于评估人脸识别算法的性能，特别是用于人脸验证任务（即确定２张图像是否显示同一个人）㊂这是一个具有挑战性的数据集，因为图像通常是低质量的，在不同的光照条件下拍摄的，并以各种姿势和表情显示面部㊂
本文实验利用ｐａｉｒｓ文件随机读取图像对，并通过计算人脸图像特征向量的欧氏距离，将人脸阈值确定为０．９０，测试所得准确率为９６．０５％㊂
２．１．２．２㊀ＣＮ－Ｆａｃｅ
实验室通过与中国某公司合作，经过人脸截取㊁图像聚类㊁图片清理等操作，共采集得到１３４００个人的１０００００张左右的人脸图像㊂该数据集仅包含中国人脸，为当前最大的中国人脸数据集㊂
㊀㊀该数据集可用于ＦａｃｅＮｅｔ人脸训练和人脸图像准确率测试㊂本实验采用的测试集为部分上述数据集，共包含８５７个人的８０００余张人脸图像㊂相较于ＬＦＷ测试集利用ｐａｉｒｓ文件随机读取图像，本实验通过遍历整个人脸数据集，共产生３２０万人脸图像对㊂人脸阈值定为０．９０时，测试所得准确率为９３．８７％㊂
２．２㊀ＦａｃｅＮｅｔ融合ＥＣＡ注意力机制模块
ＥＣＡ－Ｎｅｔ是香港中文大学研究人员于２０２０年推出的一种深度神经网络架构［１７］㊂ＥＣＡ－Ｎｅｔ的主要思想是通过引入一种更有效的新型通道注意机制，用以提高卷积神经网络（ＣＮＮ）的性能㊂
ＥＣＡ－Ｎｅｔ中使用的通道注意机制基于一种 有效通道注意 的新技术㊂该技术沿通道维度对每个特征图应用一维卷积核，并对输出应用ｓｉｇｍｏｉｄ激活函数，以生成一组注意力权重，然后使用这些注意力权重来缩放特征图，有效地放大或抑制结果响应㊂
ＥＣＡ－Ｎｅｔ中使用的有效通道注意机制与以往的通道注意方法相比，需要的参数和计算量少很多，同时在ＩｍａｇｅＮｅｔ分类和ＣＯＣＯ对象检测等各种基准上实现了相当㊁甚至更好的性能㊂
ＥＣＡ注意力机制侧重于通过对每个卷积层内通道之间的交互进行建模，来学习通道方面的特征依赖性㊂通过将具有固定内核大小的一维卷积运算应用于每个卷积层的输出，接着使用逐元素乘法，将此操作的输出与原始特征图组合㊂
ＥＣＡ注意力机制旨在计算高效且易于实施，同时仍能在图像识别基准测试中取得最先进的结果，已被证明在准确性和计算效率方面优于其他注意力机制，如挤压和激发（ＳＥ）和全局上下文（ＧＣ）注意力㊂ＥＣＡ注意力机制模块如图３所示㊂
３６
第３期陈经纬，等：融合ＭｏｂｉｌｅＮｅｔ与ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ的人脸识别研究
1?1?通道维度通道维度
1?1?通道维度通道维度k =5
x
x
~宽
高间距
宽
高相乘
σ
图３㊀ＥＣＡ注意力机制模块
Ｆｉｇ．３㊀ＥＣＡａｔｔｅｎｔｉｏｎｍｅｃｈａｎｉｓｍｍｏｄｕｌｅ
㊀㊀本文实验利用２种方式将ＦａｃｅＮｅｔ与ＥＣＡ注意力机制融合：
（１）用ＥＣＡ模块代替一层ＤＷ卷积㊂在ｓｔａｇｅ２
中，利用ＥＣＡ模块取代一层ＤＷ卷积层㊂采用通道注意力机制，相当于对通道做减法，能有效减少参数量和推断所需时间成本㊂
在ＬＦＷ测试集下得到了９５．３２％的准确率，虽然准确率降低了０．７３个百分点，但参数量较之原版减少了２７％，推断所需时间减少３０％㊂有利于在低配置硬件条件下达到实时检测效果㊂
（２）直接加入ＥＣＡ模块㊂在ｓｔａｇｅ２中，间隔ｄｗ
卷积层，加入３个ＥＣＡ注意力机制模块㊂在ＥＣＡ注意力机制模块中，一维卷积核大小Ｋ默认为Ｋ＝
５㊂实验旨在探求人脸识别任务中，ＥＣＡ模块添加
最合适位置及一维卷积核Ｋ的最佳大小㊂
㊀㊀ＥＣＡ－Ｌａｙｅｒ不同Ｋ值测试结果见表１㊂由表１可知，当Ｋ＝７时，在ＬＦＷ测试集上取得的准确率最高，为９８．３１％㊂
表１㊀ＥＣＡ－Ｌａｙｅｒ不同Ｋ值测试结果
Ｔａｂｌｅ１㊀ＤｉｆｆｅｒｅｎｔＫｖａｌｕｅｔｅｓｔｒｅｓｕｌｔｓｏｆＥＣＡ－Ｌａｙｅｒ％
一维卷积核Ｋ
准确率３９２．８７５９７．８１
７９８．３１９９７．４０１１
８７．６３
２．３㊀ＳｉＬＵ激活函数
ＲｅＬＵ（ＲｅｃｔｉｆｉｅｄＬｉｎｅａｒＵｎｉｔ）［１８］是人工神经网络中使用的激活函数，函数的数学公式为：
ｆ（ｘ）＝ｍａｘ（０，ｘ）
（１）
㊀㊀其中，ｘ表示函数的输入，ｆ（ｘ）表示输出㊂
激活函数ＲｅＬＵ如图４所示㊂由图４可知，当输
入为正时，函数返回与输入相同的值；当输入为负时，函数返回０㊂
2.001.75
1.501.251.000.750.500.250
-2.0-1.5-1.0-0.5
00.51.01.52.0
I n p u t
O u t p u t
图４㊀激活函数ＲｅＬＵＦｉｇ．４㊀ＡｃｔｉｖａｔｉｏｎｆｕｎｃｔｉｏｎＲｅＬＵ
㊀㊀ＭｏｂｉｌｅＮｅｔ原版使用ＲｅＬＵ，为适配ＥＣＡ模块，现将激励函数ＲｅＬＵ改为ＳｉＬＵ㊂
ＳｉＬＵ（Ｓｉｇｍｏｉｄ线性单元）是人工神经网络中使
用的激活函数［１９］，也被称为Ｓｗｉｓｈ，是 具有线性输出的自门控激活函数 的缩写㊂ＳｉＬＵ函数的数学公式为：
ｆ（ｘ）＝
ｘ１＋ｅ－ｘ
（２）
㊀㊀其中，ｘ表示函数的输入，ｆ（ｘ）表示输出㊂
ＳｉＬＵ是一个平滑且连续的函数，如图５所示㊂
由图５可看到，其形状与Ｓｉｇｍｏｉｄ函数相似，但具有正范围内的线性分量㊂
㊀㊀实验证明，在ＭｏｂｉｌｅＮｅｔ作为主干网络的情况下，以ＳｉＬＵ函数代替ＲｅＬＵ函数可以在ＬＦＷ数据集下取得９７．２３％的准确率㊂
1086420
-10.0-7.5-5.0-2.502.55.07.510.0
I n p u t
O u t p u t
图５㊀激活函数ＳｉＬＵＦｉｇ．５㊀ＡｃｔｉｖａｔｉｏｎｆｕｎｃｔｉｏｎＳｉＬＵ
４６智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第１４卷㊀
２．４㊀融合ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ模块
ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ是一种神经网络架构，通常用于自然语言处理（ＮＬＰ）任务，例如语言翻译㊁文本分类和问答等㊂这是Ｔｒａｎｓｆｏｒｍｅｒ架构的一个变体，在２０１７年Ｖａｓｗａｎｉ等学者的论文 ＡｔｔｅｎｔｉｏｎｉｓＡｌｌＹｏｕＮｅｅｄ 中被引入［２０］㊂
传统的Ｔｒａｎｓｆｏｒｍｅｒ架构［２１］的关键创新是使用自注意力，允许模型一次性捕获输入序列中所有位置对之间的依赖关系，使其非常适合需要理解远程依赖关系的任务（如：机器翻译）㊂
ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ网络的核心在于通过上下文转换器来提取全局特征，这也是其相异于传统Ｔｒａｎｓｆｏｒｍｅｒ的最大区别㊂在上下文转换器中，输入序列首先使用嵌入层转换为向量序列；这些向量由一系列自注意层处理，其中每个向量关注序列中的所有其他向量，以计算序列的加权表示；然后将得到的加权向量序列通过前馈网络产生最终输出，这也是ＣＮＮ网络的优点㊂
ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ模块能有效结合ＣＮＮ和Ｔｒａｎｓｆｏｒｍｅｒ的优点，利用Ｔｒａｎｓｆｏｒｍｅｒ的空间自注意力机制改善ＣＮＮ所固有的平移不变性和局限性，有效提高人脸图像特征提取的有效性和完整性㊂实验证明，ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ模块能明显提高人脸识别准确率，在ＬＦＷ数据集下得到９８．１６％的准确率㊂
２．５㊀实验结果分析
在ＭｏｂｉｌｅＮｅｔ同时融合ＥＣＡ（Ｋ＝７）和ＳｉＬＵ激活函数与ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ模块后，人脸识别准确率得到了显著提升，在ＬＦＷ数据集下达到了９８．７９％，超过原版２．７４个百分点，同时在实验室自采集数据集下准确率达到９５．２２％，提升了１．３５％个百分点，表明该网络具有较好的泛化能力，能更好地提高模型提取人脸特征能力㊂测试结果见表２㊂
表２㊀不同网络结构在ＬＦＷ数据集上测试结果
Ｔａｂｌｅ２㊀ＴｅｓｔｒｅｓｕｌｔｓｏｆｄｉｆｆｅｒｅｎｔｎｅｔｗｏｒｋｓｔｒｕｃｔｕｒｅｓｏｎｔｈｅＬＦＷｄａｔａｓｅｔ％
改进策略准确率
ＭｏｂｉｌｅＮｅｔ＋ＥＣＡ（Ｋ＝５）９７．８１
ＭｏｂｉｌｅＮｅｔ＋ＥＣＡ（Ｋ＝７）９８．３１
ＭｏｂｉｌｅＮｅｔ＋ＳｉＬＵ９７．２３ＭｏｂｉｌｅＮｅｔ＋ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆ
ｏｒｍｅｒ９８．１６ＭｏｂｉｌｅＮｅｔ＋ＳｉＬＵ＋ＥＣＡ（Ｋ＝７）＋ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ９８．７９㊀㊀同样，在ＣＡＳＩＡ－ＷｅｂＦａｃｅ数据集下，不同的ＥＣＡ注意力机制添加方法对实验结果具有较大偏差㊂当人脸识别系统对实时性要求较高时，可考虑利用ＥＣＡ模块代替一层ｄｗ卷积层，虽然降低了０．７３个百分点，但是可以大大提高推断速度和参数量，在特定场合具有一定的参考意义；在ｓｔａｇｅ２中间隔ＤＷ卷积层添加３个ＥＣＡ模块为最优方式，并且通过对一维向量大小的实验证明，在ｋ＝７时，ＥＣＡ模块最为适合人脸识别任务㊂
为适配ＥＣＡ模块，将ＤＷ卷积层的激活函数由ＲｅＬＵ改为ＳｉＬＵ，同样在准确率方面得到了提升㊂ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ模块能结合ＣＮＮ和Ｔｒａｎｓｆｏｒｍｅｒ，改善ＣＮＮ固有的平移不变性和局限性，充分发掘Ｔｒａｎｓｆｏｒｍｅｒ的自注意力机制，加强全局性㊁有效性方面特征的挖掘㊂综合以上的改进，最终在ＬＦＷ测试集上取得了９８．７９％的准确率，提升了２．７４个百分点，在ＣＮ－Ｆａｃｅ数据集上取得了９５．２２％的准确率，提升了１．３５个百分点㊂图６为ｌｏｓｓ曲线㊂由图６可见，最终ｌｏｓｓ已趋近于０㊂
t r a i n l o s s
v a l l o s s
s m o o t h t r a i n l o s s
s m o o t h v a l l o s s
6
5
4
3
2
1正则化过滤器
020*********
E p o c h
l
o
s
s
图６㊀损失函数ｌｏｓｓ曲线
Ｆｉｇ．６㊀Ｔｈｅｃｕｒｖｅｏｆｆｕｎｃｔｉｏｎｌｏｓｓ
３㊀结束语
本文首次将ＥＣＡ注意力机制模块与ＦａｃｅＮｅｔ相结合，并将ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ模块应用到人脸识别任务中㊂一方面从提高人脸识别判断速率进行实验，另一方面从提高人脸准确率入手，解决人脸识别现实工程中面临的两大问题㊂分别在ＬＦＷ数据集和自采集的中国人脸数据集上进行测试，实验结果表明均存在明显提升，说明该改进方法具有一定泛化能力㊂ＣＮ－Ｆａｃｅ数据集已经在ｇｉｔｈｕｂ中进行了开源（ｈｔｔｐｓ：／／ｇｉｔｈｕｂ．ｃｏｍ／Ｐｌａｎｋｔｏｎｗｉｔｈｃｒａｂ／ｆａｃｅ－ｄａｔａｓｅｔ－ｏｆ－ＣＮ㊂
当前开源数据集中，中国人脸乃至亚洲人脸极
５６
第３期陈经纬，等：融合ＭｏｂｉｌｅＮｅｔ与ＣｏｎｔｅｘｔｕａｌＴｒａｎｓｆｏｒｍｅｒ的人脸识别研究

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。