CN111027464A - 对卷积神经网络和序特征编码联合优化的虹膜识别方法 - Google Patents

对卷积神经网络和序特征编码联合优化的虹膜识别方法 Download PDF

Info

Publication number
CN111027464A
CN111027464A CN201911247185.5A CN201911247185A CN111027464A CN 111027464 A CN111027464 A CN 111027464A CN 201911247185 A CN201911247185 A CN 201911247185A CN 111027464 A CN111027464 A CN 111027464A
Authority
CN
China
Prior art keywords
image
iris
feature
neural network
convolutional neural
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911247185.5A
Other languages
English (en)
Other versions
CN111027464B (zh
Inventor
李培华
史雪玉
唐兴强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dalian University of Technology
Original Assignee
Dalian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dalian University of Technology filed Critical Dalian University of Technology
Priority to CN201911247185.5A priority Critical patent/CN111027464B/zh
Publication of CN111027464A publication Critical patent/CN111027464A/zh
Application granted granted Critical
Publication of CN111027464B publication Critical patent/CN111027464B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Abstract

一种对卷积神经网络和序特征编码联合优化的虹膜识别方法,属于生物特征识别、计算机视觉技术领域。本发明在卷积神经网络中嵌入序特征比较模块进行编码,并对该系统进行端到端训练,通过特征学习和特征建模的联合优化以获得更具表达力的模型。方法的基本流程如下:首先对虹膜图像进行预处理;第二步基于卷积神经网络进行图像特征提取;第三步基于序特征比较模块进行图像特征编码;第四步特征提取网络与序特征比较模块进行联合训练;第五步虹膜匹配并返回识别结果,以此判断访问人员身份。本发明在卷积神经网络中对特征学习与序特征比较编码模块进行联合优化,充分发掘了神经网络强大的学习能力,有助于提升虹膜识别的鲁棒性和准确率。

Description

对卷积神经网络和序特征编码联合优化的虹膜识别方法
技术领域
本发明涉及到生物特征识别、计算机视觉技术领域。具体为提出一种对卷积神经网络和序特征编码联合优化的虹膜识别方法。
背景技术
虹膜识别是指对位于人眼黑色瞳孔和白色巩膜之间的环形区域进行识别的生物特征识别技术,它是一种利用人眼虹膜丰富的纹理信息进行识别来获取身份信息的身份认证方法,其核心技术在于设计具有高判别性的纹理特征。现有的虹膜识别方法大多基于传统的手工设计特征的方法对虹膜纹理提取特征。这样的方法主要依靠设计者的先验知识,需要针对不同的应用场景进行大量的手工参数调整,而且受限于手工设计特征的表达能力,这类方法与通过自适应学习提高模型提取特征能力,从而可以自动提取更具表达能力和鲁棒性的特征的滤波器方法相比不是最优的策略。
近年来,出现了一些基于深度学习中卷积神经网络模型进行虹膜识别的方法,通过在大量的虹膜图像上训练神经网络可以使网络能够自动从图像中提取出更具表达能力的特征,例如Liu等人在[Liu N,Zhang M,Li H,et al.DeepIris: Learning pairwisefilter bank forheterogeneous iris verification[J].Pattern RecognitionLetters,2016,82]中利用现有卷积网络进行虹膜识别,采用网络的全连接层的输出表示虹膜特征。但是由于全连接层建模的是图像的全局信息,将特征图压缩为一维向量的过程中损失了特征的空间信息,而卷积特征捕捉的是图像的局部信息,可以将虹膜纹理这样的空间信息更好的保存下来,通过比较不同特征的纹理信息差异来判别是否属于同一类,因此卷积特征更适合于基于纹理的虹膜识别算法。现有的基于卷积特征的虹膜识别算法都对特征做进一步的建模处理以获得更加鲁棒高效的虹膜编码表示,比如利用序特征编码或者简单的二值化编码。但是网络训练对应的特征学习和后续的特征建模是互相分离的两部分,这样的情形限制了卷积神经网络自适应学习的能力。
本发明从特征学习和特性建模的联合优化入手,提出了一种将序特征比较模块嵌入卷积神经网络中进行端到端联合优化训练的虹膜识别方法。
发明内容
针对现有技术中存在的问题,本发明提出了一种将传统的特征建模方法嵌入卷积神经网络中进行端到端训练的虹膜识别方法,实现特征学习和特征建模的联合优化,从而获得更具表达能力的模型。本发明首先基于残差网络设计了用于提取虹膜图像的卷积特征的轻量级神经网络架构,此架构参数少,计算量小,并且引入了空洞卷积,可以在不增加计算量和参数的情况下增大特征图的感受野。此外,本发明提出将序特征比较模块嵌入神经网络最后一个卷积层后,即将特征编码部分也引入到模型的训练过程中,通过三元组损失进行特征学习和特征建模的联合优化,从而获得更具判别力的模型,提升识别算法的准确率。
为实现上述目的,本发明所采用的技术方案是:
一种对卷积神经网络和序特征编码联合优化的虹膜识别方法,包括以下步骤:
步骤S1、虹膜图像预处理。对原始人眼图像进行虹膜区域检测,即对原图像中包含虹膜的最小区域进行定位,将该区域中的圆环状虹膜图像进行分割和展开等预处理操作,设置展开后的虹膜图像大小为256×256像素,后续模型训练和算法测试都在此展开图像上进行。
步骤S2、基于卷积神经网络进行图像特征提取。设计一个轻量级的卷积神经网络,将该网络视作一个特征提取器,用其对输入图像提取特征。取其最后一层卷积层的输出作为虹膜图像的局部纹理特征,用于后续步骤计算。
步骤S3、通过序特征比较模块编码特征图像。将建模不同区域特征大小关系的序特征比较模块接到S2步骤设计的卷积神经网络后,形成一个完整的虹膜特征提取与编码的系统。
序特征比较模块通过建立一个包含三层操作的模块实现,并将该模块命名为FeatOM。FeatOM模块内的三层操作依次为局部特征聚合层、区域特征比较层以及近似序编码层。局部特征聚合层对图像特征进行均值池化操作,得到的新特征的每个像素值为原特征的一个小区域的像素平均值,即新特征的每个值反映了原始特征的一个小区域的特征的情况,使得该特征更具鲁棒性,增强了抵抗干扰点影响的能力。
区域特征比较层是本步骤的序特征比较部分,区域特征比较层将特征图上的相邻的两个区域的像素值进行大小比较,通过像素值相减得到了相邻像素的大小关系。
由于阶跃函数不能进行反向传播,所以在近似序编码层构建可导的近似的阶跃函数对相邻像素的大小关系进行编码。
步骤S4、卷积神经网络与序特征比较模块联合训练。将度量不同区域特征大小关系的序特征比较模块嵌入所设计的卷积神经网络后,采用三元组损失函数进行训练,并使用在线的三元组选择策略。采用汉明距离的展开形式
Figure RE-GDA0002396819700000031
度量不同图像经过卷积网络和FeatOM模块得到的编码后的特征的相似性。
步骤S5、虹膜匹配并返回识别结果。模型训练完成后,将图像输入网络并对FeatOM模块中近似序编码层的输出进行二值化,得到虹膜图像的0-1比特编码b,同时对掩模图像进行相应的处理得到编码匹配的有效权重w,然后计算编码b和权重w与数据库中已注册人员的虹膜编码之间的加权汉明距离,根据事先设定的距离阈值判断系统访问人员是否为已注册人员。
本发明的有益效果为:通过该方法建立的虹膜识别系统具有实现简单,计算复杂度低,识别准确率高,抗干扰(包括图像的旋转、模糊、遮挡等干扰) 能力强的优点。
附图说明
图1为本发明提出的整体流程示意图;
图2为对于卷积神经网络与序特征比较模块的联合训练过程示意图。
其中:(a)为在线选取的三元组图像,(b)为基于残差网络设计的轻量级特征提取网络,(c)为用于序特征编码的序特征比较模块(FeatOM模块),(d) 为三元组图像对应的三个0-1比特编码特征,(e)为用于网络的联合训练的三元组损失函数。
具体实施方式
为使本发明的具体实施方式更加清楚明白,以下结合本发明的技术方案与附图,对本发明包含的各个步骤进行详细完整的描述。
一种对卷积神经网络和序特征编码联合优化的虹膜识别方法,包括以下步骤:
步骤S1、虹膜图像预处理。
采用Adaboost级联分类器对原始人眼图像的Hog特征进行检测,从而捕捉到包含虹膜的最小区域图像,然后利用Canny边缘检测算子和霍夫圆检测算法,检测最小区域图像中虹膜内外圆边缘和上下眼睑位置,将虹膜区域从原始人眼图像中分割出来,即得到只包含虹膜区域像素的环形虹膜区域图像。将分割出的环形虹膜区域图像由笛卡尔坐标变换到极坐标下大小为256×256像素的虹膜展开图像。
在检测环形虹膜区域图像内外圆边缘的基础上以抛物线形式定位上下眼睑的位置,并进行睫毛的检测和高亮区域的去除,由此得到环状的二值化掩模图像,环状的二值化掩模图像中用0表示非虹膜纹理,1表示虹膜纹理,再将该图像展开到256×256像素,从而得到与虹膜展开图像对应的二值化掩模图像。识别算法的网络训练和测试都是在256×256像素的虹膜展开图像上进行,在虹膜匹配时通过掩模图像排除非虹膜区域的干扰以提升识别准确率。
步骤S2、基于卷积神经网络进行图像特征提取。
建立主干架构为表1所示的卷积神经网络,该架构在残差网络的基础上设计产生,具有参数量少,计算量小的优点,同时引入了空洞卷积,使得网络在不增加参数和计算量的情况下增大了输出特征的感受野,在保留了特征空间信息的情况下,获得了更大范围的虹膜纹理特征。将该卷积神经网络视作一个特征提取网络,用其对输入图像提取特征。取特征提取网络最后一层卷积层的输出作为虹膜图像的局部纹理特征,用于后续步骤计算。
表1.主干网络架构
Figure RE-GDA0002396819700000051
Figure RE-GDA0002396819700000061
步骤S3、基于序特征比较模块进行图像特征编码。
系统整体架构如附图1所示,将序特征比较模块接在表1所示架构的最后一个卷积层之后,即表1中的conv5_x层,然后对该架构采用三元组损失进行端到端的训练。
序特征比较模块是指对不同区域特征之间的大小关系的定性比较,其公式化的表述为:
Figure RE-GDA0002396819700000062
其中,d表示通道数;
z表示像素位置;
Δz表示两个像素之间的位移;
Ω(z)表示一个特征区域;
Ω(z+Δz)表示一个与Ω(z)的位置偏移Δz的特征区域;
t表示属于区域Ω(z)的像素;
t'表示属于区域Ω(z+Δz)的像素;
f(t)表示卷积特征图上位置t处的数值;
f(t')表示卷积特征图上位置t'处的数值;
H()表示阶跃函数;
bi(z)表示第i个通道上位置z处序编码的值。
序特征比较模块通过建立一个包含三层操作的FeatOM模块实现,FeatOM 模块内的三层操作依次为局部特征聚合层、区域特征比较层以及近似序编码层。
(1)局部特征聚合层。局部特征聚合层对应公式(1)中对局部特征求和的过程,采用等价的均值池化层完成。局部特征聚合层主要是对局部特征进行聚合以提升算法的鲁棒性,同时将超参数Ω(z)设定为8×2可以弥补将虹膜纹理展开成方形图像时导致虹膜在径向的拉伸形变。
(2)区域特征比较层。区域特征比较层是将公式(1)中的中括号内区域进行特征相减的操作,其运算是各通道独立进行,附图2以第d通道为例。前向传播中位置(i,j)的输出yi.j.d=xi,j,d-xi+Δw,j+Δh,d,同时忽略超出边界的部分,根据链式法则相应的反向传播公式为:
Figure RE-GDA0002396819700000071
其中,l表示经过卷积神经网络和序特征比较模块最终计算得到的损失函数;
i表示特征图的第i行;
j表示特征图的第j列;
d表示特征图的第d通道;
Δw表示特征图上行维度的偏移量;
Δh表示特征图上列维度的偏移量;
xi,j,d表示输入特征图第d通道位置(i,j)处的像素值;
xi+Δw,j+Δh,d表示输入特征图上第d通道位置(i+Δw,j+Δh)的像素值;
yi,j,d表示输出特征图上第d通道位置(i,j)处的像素值;
按照附图2所示的位置将两组梯度重叠区域相加即可得对第d通道输入xd的梯度
Figure RE-GDA0002396819700000081
区域特征比较层的超参数Δz=(Δw,Δh)固定为(2,3)。
(3)近似序编码层。近似序编码层采用阶跃函数的近似函数对上一层输出进行逐元素的二值编码,这样便解决嵌入序特征比较模块时遇到的不可导问题。该层的前向和反向传播的数学公式如下:
Figure RE-GDA0002396819700000082
其中,l表示经过卷积神经网络和序特征比较模块最终计算得到的损失函数;
y表示近似序编码层的输出特征图;
x表示近似序编码层的输入特征图;
λ表示一个可调节的参数。
步骤S4、特征提取网络与序特征比较模块进行联合训练。
虹膜近似二值编码的相似性度量准则:由于FeatOM模块最终得到的虹膜编码表示不再是0-1比特,而是0到1之间的值,因此不能采用汉明距离度量相似性。本发明采用汉明距离的展开形式
Figure RE-GDA0002396819700000083
作为相似性度量准则。那么一对图像的编码之间的相似性可用下式表示:
Figure RE-GDA0002396819700000091
其中,X为虹膜图像对应的编码表示;
h为X所具有的行数;
w为X所具有的列数;
C为X所具有的通道数。
Xi,j,d表示编码后的图像第d通道位置(i,j)处的值;
D表示两个虹膜编码之间的汉明距离。
本方法利用三元组损失函数实现卷积神经网络与序特征比较模块的联合训练:三元组损失函数的目的是最小化同类图像xa和xp距离的同时最大化不同类图像xa和xn距离。三元组图像(xa,xp,xn)经过序特征比较模块后的输出为 (Xa,Xp,Xn)。三元组图像(xa,xp,xn)对应的损失函数为 l=max(D(Xa,Xp)+α-D(Xa,Xn),0)。其中D(Xa,Xp)表示Xa与Xp之间的相似性, D(Xa,Xn)表示Xa与Xn之间的相似性。
当损失函数值不为0时,结合公式(4)可得其反向传播的公式为:
Figure RE-GDA0002396819700000092
其中,l表示经过卷积神经网络和序特征比较模块最终计算得到的损失函数;
Xa表示目标图片的二值化编码图像;
Xp表示与目标图像同类别的图像的二值化编码图像;
Xn表示与目标图像不同类别的图像的二值化编码图像;
h为X所具有的行数;
w为X所具有的列数;
C为X所具有的通道数。
在进行三元组损失的端到端训练时,三元组的选择策略对网络的收敛至关重要,不恰当的策略会影响收敛速度甚至无法收敛。本发明采用在线的三元组选择策略,即每一次迭代随机从所有图像类别中选择16个类别,然后每个类别中随机选择6张图像(每个类别的图像数都大于6,因此不用额外考虑少于6的情况),这96张图像构成一个用于随机梯度下降算法计算的最小批,对随机选出的这一批图像中的每幅图像计算其与除自身外批内其他所有图像的距离,找到这一批中与其同类别的图像中相似性最小的图像和与其不同类别的图像中相似性最大的图像构成一个三元组,因此这个最小批可以形成96个三元组。
步骤S5、虹膜匹配并返回识别结果。
测试时,将虹膜展开图像送入训练好的模型中,取FeatOM模块的输出X 作为编码表示。为提升算法的鲁棒性以及减少存储开销和提升匹配速度,通过关系式(X>0)进行逐元素比较以获得虹膜图像0-1比特的编码表示。匹配时在利用掩模图像排除非虹膜区域编码的干扰下,根据图像编码之间的汉明距离判断图像对是否属于同一人。具体实施步骤如下:
步骤S5.1、掩模图像的处理。
将掩模图像送入卷积神经网络中进行处理时,对卷积层,不再采用卷积的方式处理掩模图像,而是采用和卷积核相同大小的窗口对掩模图像进行均值池化,即对表1中conv1层,采用大小为3×3的均值池化对掩模图像进行处理。
对于使用了空洞卷积的卷积层,则是用与其感受野相同大小的窗口进行均值池化,即对于空洞间隔为1的3×3卷积,采用大小为5×5的均值池化对掩模图像进行处理。
池化层仍然采用步骤s2中的最大池化。
与虹膜展开图像卷积特征的序特征比较模块相对应,本发明对经过网络处理后的掩模图像进行如下运算:
Figure RE-GDA0002396819700000111
其中,z表示像素位置;
Δz表示两个像素之间的位移;
Ω(z)表示一个特征区域;
Ω(z+Δz)表示一个与Ω(z)的位置偏移Δz的特征区域;
|Ω(z)|表示区域Ω(z)中的元素个数;
t表示属于区域Ω(z)的像素;
t'表示属于区域Ω(z+Δz)的像素;
r(t)表示掩模图像上位置t处的像素值;
r(t')表示掩模图像上位置t′处的像素值;
w(z)表示经过该步处理后最终得到的掩模图像。
w(z)数值越接近1表示该位置对应的编码属于虹膜纹理的可能性也大,在匹配时所占的权重也越大。
步骤S5.2、编码匹配。
由于图像采集时用户姿态未必端正,很难使匹配的两幅虹膜图像中的特征点完全对应,因此需要在匹配过程中考虑到特征点发生移位的情况。
Figure RE-GDA0002396819700000112
其中,I1,I2表示待匹配的图像对;
Figure RE-GDA0002396819700000121
表示I1对应的序编码;
Figure RE-GDA0002396819700000122
表示I2对应的序编码;
Figure RE-GDA0002396819700000123
表示图像I1在位置z处的序编码;
Figure RE-GDA0002396819700000124
表示以z为中心的区域;
z'表示位于
Figure RE-GDA0002396819700000125
区域内的像素位置;
d表示
Figure RE-GDA0002396819700000126
所具有的通道数。
z*表示
Figure RE-GDA0002396819700000127
中以z为中心的区域内与
Figure RE-GDA0002396819700000128
匹配的特征点位置。
其中
Figure RE-GDA0002396819700000129
表示异或运算。考虑掩模图像的使用,那么虹膜编码之间的相似性为:
Figure RE-GDA00023968197000001210
其中,s表示图像之间的汉明距离;
Figure RE-GDA00023968197000001211
表示图像I1在位置z处的序编码;
Figure RE-GDA00023968197000001212
表示
Figure RE-GDA00023968197000001213
在图像I2上匹配的序编码;
Figure RE-GDA00023968197000001214
表示图像I1在位置z处的掩模;
Figure RE-GDA00023968197000001215
表示图像I2在位置z*处的掩模;
d表示序编码图像b(或掩模图像)所具有的通道数(掩模图像w、序编码图像b的通道数相等)。
根据事先设定的汉明距离阈值判断系统访问人员是否为已注册人员。
以上所述实施例仅表达本发明的实施方式,但并不能因此而理解为对本发明专利的范围的限制。对于本领域的技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些均属于本发明的保护范围。

Claims (4)

1.一种对卷积神经网络和序特征编码联合优化的虹膜识别方法,其特征在于,包括以下步骤:
步骤S1、虹膜图像预处理;
对原始人眼图像进行虹膜区域检测,即对原图像中包含虹膜的最小区域进行定位,将该区域中的圆环状虹膜图像进行分割和展开预处理操作,设置展开后的虹膜图像大小为256×256像素,后续模型训练和算法测试都在此展开图像上进行;
步骤S2、基于卷积神经网络进行图像特征提取;
建立卷积神经网络,卷积神经网络的主干架构在残差网络的基础上设计产生,同时引入空洞卷积;将该卷积神经网络视作一个特征提取网络,用其对输入图像提取特征;取特征提取网络最后一层卷积层的输出作为虹膜图像的局部纹理特征,用于后续步骤计算;
步骤S3、基于序特征比较模块进行图像特征编码;
将序特征比较模块接到S2步骤设计的卷积神经网络后,形成一个完整的虹膜特征提取与编码的系统;
所述的序特征比较模块通过建立一个包含三层操作的模块实现,并将该模块命名为FeatOM;FeatOM模块内的三层操作依次为局部特征聚合层、区域特征比较层以及近似序编码层;局部特征聚合层对图像特征进行均值池化操作,得到的新特征的每个像素值为原特征的一个小区域的像素平均值,即新特征的每个值反映原始特征的一个小区域的特征的情况;序特征比较模块是指对不同区域特征之间的大小关系的定性比较,其公式化的表述为:
Figure RE-FDA0002396819690000011
其中,d表示通道数;z表示像素位置;Δz表示两个像素之间的位移;Ω(z)表示一个特征区域;Ω(z+Δz)表示一个与Ω(z)的位置偏移Δz的特征区域;t表示属于区域Ω(z)的像素;t'表示属于区域Ω(z+Δz)的像素;f(t)表示卷积特征图上位置t处的数值;f(t')表示卷积特征图上位置t'处的数值;H()表示阶跃函数;bi(z)表示第i个通道上位置z处序编码的值;
(1)局部特征聚合层:局部特征聚合层对应公式(1)中对局部特征求和的过程,采用等价的均值池化层完成;局部特征聚合层主要是对局部特征进行聚合,同时将超参数Ω(z)设定为8×2可以弥补将虹膜纹理展开成方形图像时导致虹膜在径向的拉伸形变;
(2)区域特征比较层:区域特征比较层的运算是各通道独立进行;前向传播中位置(i,j)的输出yi.j.d=xi,j,d-xi+Δw,j+Δh,d,同时忽略超出边界的部分,根据链式法则相应的反向传播公式为:
Figure RE-FDA0002396819690000021
其中,l表示经过卷积神经网络和序特征比较模块最终计算得到的损失函数;i表示特征图的第i行,j表示特征图的第j列;d表示特征图的第d通道;Δw表示特征图上行维度的偏移量;Δh表示特征图上列维度的偏移量;xi,j,d表示输入特征图第d通道位置(i,j)处的像素值;xi+Δw,j+Δh,d表示输入特征图上第d通道位置(i+Δw,j+Δh)的像素值;yi,j,d表示输出特征图上第d通道位置(i,j)处的像素值;
将两组梯度重叠区域相加即可得对第d通道输入xd的梯度
Figure RE-FDA0002396819690000024
(3)近似序编码层:由于阶跃函数不能进行反向传播,所以在近似序编码层构建可导的近似的阶跃函数对相邻像素的大小关系进行编码,即近似序编码层采用阶跃函数的近似函数对上一层输出进行逐元素的二值编码;
步骤S4、卷积神经网络与序特征比较模块进行联合训练;
将度量不同区域特征大小关系的序特征比较模块嵌入所设计的卷积神经网络后,采用三元组损失函数进行训练,并使用在线的三元组选择策略;采用汉明距离的展开形式度量不同图像经过卷积网络和FeatOM模块得到的编码后的特征的相似性,具体为:
采用汉明距离的展开形式
Figure RE-FDA0002396819690000022
作为虹膜近似二值编码的相似性度量准则;那么一对图像的编码之间的相似性用下式表示:
Figure RE-FDA0002396819690000023
其中,X为虹膜图像对应的编码表示;h为X所具有的行数;w为X所具有的列数;C为X所具有的通道数;Xi,j,d表示编码后的图像第d通道位置(i,j)处的值;D表示两个虹膜编码之间的汉明距离;
利用三元组损失函数实现卷积神经网络与序特征比较模块的联合训练:三元组损失函数的目的是最小化同类图像xa和xp距离的同时最大化不同类图像xa和xn距离;三元组图像(xa,xp,xn)经过序特征比较模块后的输出为(Xa,Xp,Xn);三元组图像(xa,xp,xn)对应的损失函数为l=max(D(Xa,Xp)+α-D(Xa,Xn),0);其中D(Xa,Xp)表示Xa与Xp之间的相似性,D(Xa,Xn)表示Xa与Xn之间的相似性;
当损失函数值不为0时,结合公式(4)得其反向传播的公式为:
Figure RE-FDA0002396819690000031
其中,l表示经过卷积神经网络和序特征比较模块最终计算得到的损失函数;Xa表示目标图片的二值化编码图像;Xp表示与目标图像同类别的图像的二值化编码图像;Xn表示与目标图像不同类别的图像的二值化编码图像;h为X所具有的行数;w为X所具有的列数;C为X所具有的通道数;
在进行三元组损失的端到端训练时,采用在线的三元组选择策略,
步骤S5、虹膜匹配并返回识别结果;
测试时,将展开后的虹膜图像送入步骤S4训练好的模型中,并对FeatOM模块中近似序编码层的输出进行二值化,得到虹膜图像的0-1比特编码b,同时对掩模图像进行处理得到编码匹配的有效权重w,然后计算编码b和权重w与数据库中已注册人员的虹膜编码之间的加权汉明距离,根据事先设定的距离阈值判断系统访问人员是否为已注册人员;具体如下:
5.1)掩模图像的处理;
将掩模图像送入卷积神经网络中进行处理时,对卷积层,采用和卷积核相同大小的窗口对掩模图像进行均值池化,即对卷积神经网络的主干架构中的conv1层,采用大小为3×3的均值池化对掩模图像进行处理;对于使用空洞卷积的卷积层,采用与其感受野相同大小的窗口进行均值池化,即对于空洞间隔为1的3×3卷积,采用大小为5×5的均值池化对掩模图像进行处理;池化层仍然采用步骤s2中的最大池化;
与虹膜展开图像卷积特征的序特征比较模块相对应,对经过网络处理后的掩模图像进行如下运算:
Figure RE-FDA0002396819690000032
其中,z表示像素位置;Δz表示两个像素之间的位移;Ω(z)表示一个特征区域;Ω(z+Δz)表示一个与Ω(z)的位置偏移Δz的特征区域;|Ω(z)|表示区域Ω(z)中的元素个数;t表示属于区域Ω(z)的像素;t'表示属于区域Ω(z+Δz)的像素;r(t)表示掩模图像上位置t处的像素值;r(t')表示掩模图像上位置t′处的像素值;w(z)表示经过该步处理后最终得到的掩模图像;
5.2)编码匹配;
在匹配过程中考虑到特征点发生移位的情况;
Figure RE-FDA0002396819690000041
其中,I1,I2表示待匹配的图像对;
Figure RE-FDA0002396819690000042
表示I1对应的序编码;
Figure RE-FDA0002396819690000043
表示I2对应的序编码;
Figure RE-FDA0002396819690000044
表示图像I1在位置z处的序编码;
Figure RE-FDA0002396819690000045
表示以z为中心的区域;z'表示位于
Figure RE-FDA0002396819690000046
区域内的像素位置;d表示
Figure RE-FDA0002396819690000047
所具有的通道数;z*表示
Figure RE-FDA0002396819690000048
中以z为中心的区域内与
Figure RE-FDA0002396819690000049
匹配的特征点位置;
考虑掩模图像的使用,那么虹膜编码之间的相似性为:
Figure RE-FDA00023968196900000410
其中,s表示图像之间的汉明距离;
Figure RE-FDA00023968196900000411
表示图像I1在位置z处的序编码;
Figure RE-FDA00023968196900000412
表示
Figure RE-FDA00023968196900000413
在图像I2上匹配的序编码;
Figure RE-FDA00023968196900000414
表示图像I1在位置z处的掩模;
Figure RE-FDA00023968196900000415
表示图像I2在位置z*处的掩模;表示序编码图像(或掩模图像)所具有的通道数(掩模图像、序编码图像的通道数相等)。
根据事先设定的汉明距离阈值判断系统访问人员是否为已注册人员。
2.根据权利要求1所述的一种对卷积神经网络和序特征编码联合优化的虹膜识别方法,其特征在于,所述的步骤S1具体如下:
采用Adaboost级联分类器对原始人眼图像的Hog特征进行检测,捕捉到包含虹膜的最小区域图像,然后利用Canny边缘检测算子和霍夫圆检测算法,检测最小区域图像中虹膜内外圆边缘和上下眼睑位置,将虹膜区域从原始人眼图像中分割出来,即得到只包含虹膜区域像素的环形虹膜区域图像;将分割出的环形虹膜区域图像由笛卡尔坐标变换到极坐标下大小为256×256像素的虹膜展开图像;
在检测环形虹膜区域图像内外圆的基础上以抛物线形式定位上下眼睑的位置,并进行睫毛的检测和高亮区域的去除,由此得到环状的二值化掩模图像,环状的二值化掩模图像中用0表示非虹膜纹理,1表示虹膜纹理,再将该图像展开到256×256像素,从而得到与虹膜展开图像对应的二值化掩模图像;识别算法的网络训练和测试都是在256×256像素的虹膜展开图像上进行,在虹膜匹配时通过掩模图像排除非虹膜区域的干扰。
3.根据权利要求1所述的一种对卷积神经网络和序特征编码联合优化的虹膜识别方法,其特征在于,所述的步骤S2中的卷积神经网络的主干架构为表1所示:
表1
Figure RE-FDA0002396819690000051
4.根据权利要求1所述的一种对卷积神经网络和序特征编码联合优化的虹膜识别方法,其特征在于,所述的步骤S4中,采用在线的三元组选择策略,具体为:每一次迭代随机从所有图像类别中选择16个类别,然后每个类别中随机选择6张图像,这96张图像构成一个用于随机梯度下降算法计算的最小批,对随机选出的这一批图像中的每幅图像计算其与除自身外批内其他所有图像的距离,找到这一批中与其同类别的图像中相似性最小的图像和与其不同类别的图像中相似性最大的图像构成一个三元组,因此这个最小批可以形成96个三元组。
CN201911247185.5A 2019-12-09 2019-12-09 对卷积神经网络和序特征编码联合优化的虹膜识别方法 Active CN111027464B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911247185.5A CN111027464B (zh) 2019-12-09 2019-12-09 对卷积神经网络和序特征编码联合优化的虹膜识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911247185.5A CN111027464B (zh) 2019-12-09 2019-12-09 对卷积神经网络和序特征编码联合优化的虹膜识别方法

Publications (2)

Publication Number Publication Date
CN111027464A true CN111027464A (zh) 2020-04-17
CN111027464B CN111027464B (zh) 2023-07-18

Family

ID=70204780

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911247185.5A Active CN111027464B (zh) 2019-12-09 2019-12-09 对卷积神经网络和序特征编码联合优化的虹膜识别方法

Country Status (1)

Country Link
CN (1) CN111027464B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111506761A (zh) * 2020-04-22 2020-08-07 上海极链网络科技有限公司 一种相似图片查询方法、装置、系统及存储介质
CN111914646A (zh) * 2020-07-01 2020-11-10 天津中科智能识别产业技术研究院有限公司 一种基于光场图像序列的双流融合网络虹膜活体检测方法
CN112734734A (zh) * 2021-01-13 2021-04-30 北京联合大学 一种基于改进残差网络的铁路隧道裂缝检测方法
CN113256592A (zh) * 2021-06-07 2021-08-13 中国人民解放军总医院 图像特征提取模型的训练方法、系统及装置
CN113435416A (zh) * 2021-08-25 2021-09-24 北京万里红科技股份有限公司 一种虹膜搜索方法及计算设备
CN113706469A (zh) * 2021-07-29 2021-11-26 天津中科智能识别产业技术研究院有限公司 一种基于多模型投票机制的虹膜自动分割方法及系统
CN113837993A (zh) * 2021-07-29 2021-12-24 天津中科智能识别产业技术研究院有限公司 轻量级虹膜图像分割方法、装置、电子设备及存储介质
CN114092701A (zh) * 2021-12-04 2022-02-25 特斯联科技集团有限公司 一种基于神经网络的符号智能识别方法
CN116824681A (zh) * 2023-08-24 2023-09-29 北京集联网络技术有限公司 基于深度卷积神经网络的眼检测方法、系统及设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100014718A1 (en) * 2008-04-17 2010-01-21 Biometricore, Inc Computationally Efficient Feature Extraction and Matching Iris Recognition
CN103106401A (zh) * 2013-02-06 2013-05-15 北京中科虹霸科技有限公司 具有人机交互机制的移动终端虹膜识别装置和方法
CN106326874A (zh) * 2016-08-30 2017-01-11 天津中科智能识别产业技术研究院有限公司 一种人眼图像中的虹膜识别方法及其装置
CN106778664A (zh) * 2016-12-29 2017-05-31 天津中科智能识别产业技术研究院有限公司 一种虹膜图像中虹膜区域的分割方法及其装置
CN107292242A (zh) * 2017-05-31 2017-10-24 华为技术有限公司 一种虹膜识别方法和终端
CN109409342A (zh) * 2018-12-11 2019-03-01 北京万里红科技股份有限公司 一种基于轻量卷积神经网络的虹膜活体检测方法
CN110427804A (zh) * 2019-06-18 2019-11-08 中山大学 一种基于二次迁移学习的虹膜身份验证方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100014718A1 (en) * 2008-04-17 2010-01-21 Biometricore, Inc Computationally Efficient Feature Extraction and Matching Iris Recognition
CN103106401A (zh) * 2013-02-06 2013-05-15 北京中科虹霸科技有限公司 具有人机交互机制的移动终端虹膜识别装置和方法
CN106326874A (zh) * 2016-08-30 2017-01-11 天津中科智能识别产业技术研究院有限公司 一种人眼图像中的虹膜识别方法及其装置
CN106778664A (zh) * 2016-12-29 2017-05-31 天津中科智能识别产业技术研究院有限公司 一种虹膜图像中虹膜区域的分割方法及其装置
CN107292242A (zh) * 2017-05-31 2017-10-24 华为技术有限公司 一种虹膜识别方法和终端
CN109409342A (zh) * 2018-12-11 2019-03-01 北京万里红科技股份有限公司 一种基于轻量卷积神经网络的虹膜活体检测方法
CN110427804A (zh) * 2019-06-18 2019-11-08 中山大学 一种基于二次迁移学习的虹膜身份验证方法

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111506761A (zh) * 2020-04-22 2020-08-07 上海极链网络科技有限公司 一种相似图片查询方法、装置、系统及存储介质
CN111914646A (zh) * 2020-07-01 2020-11-10 天津中科智能识别产业技术研究院有限公司 一种基于光场图像序列的双流融合网络虹膜活体检测方法
CN112734734A (zh) * 2021-01-13 2021-04-30 北京联合大学 一种基于改进残差网络的铁路隧道裂缝检测方法
CN113256592B (zh) * 2021-06-07 2021-10-08 中国人民解放军总医院 图像特征提取模型的训练方法、系统及装置
CN113256592A (zh) * 2021-06-07 2021-08-13 中国人民解放军总医院 图像特征提取模型的训练方法、系统及装置
CN113706469A (zh) * 2021-07-29 2021-11-26 天津中科智能识别产业技术研究院有限公司 一种基于多模型投票机制的虹膜自动分割方法及系统
CN113837993A (zh) * 2021-07-29 2021-12-24 天津中科智能识别产业技术研究院有限公司 轻量级虹膜图像分割方法、装置、电子设备及存储介质
CN113837993B (zh) * 2021-07-29 2024-01-30 天津中科智能识别产业技术研究院有限公司 轻量级虹膜图像分割方法、装置、电子设备及存储介质
CN113706469B (zh) * 2021-07-29 2024-04-05 天津中科智能识别产业技术研究院有限公司 一种基于多模型投票机制的虹膜自动分割方法及系统
CN113435416A (zh) * 2021-08-25 2021-09-24 北京万里红科技股份有限公司 一种虹膜搜索方法及计算设备
CN114092701A (zh) * 2021-12-04 2022-02-25 特斯联科技集团有限公司 一种基于神经网络的符号智能识别方法
CN114092701B (zh) * 2021-12-04 2022-06-03 特斯联科技集团有限公司 一种基于神经网络的符号智能识别方法
CN116824681A (zh) * 2023-08-24 2023-09-29 北京集联网络技术有限公司 基于深度卷积神经网络的眼检测方法、系统及设备
CN116824681B (zh) * 2023-08-24 2023-11-24 北京集联网络技术有限公司 基于深度卷积神经网络的眼检测方法、系统及设备

Also Published As

Publication number Publication date
CN111027464B (zh) 2023-07-18

Similar Documents

Publication Publication Date Title
CN111027464B (zh) 对卷积神经网络和序特征编码联合优化的虹膜识别方法
CN110135375B (zh) 基于全局信息整合的多人姿态估计方法
CN108520216B (zh) 一种基于步态图像的身份识别方法
CN104601964B (zh) 非重叠视域跨摄像机室内行人目标跟踪方法及系统
CN106897673B (zh) 一种基于retinex算法和卷积神经网络的行人再识别方法
CN111368683B (zh) 基于模约束CenterFace的人脸图像特征提取方法及人脸识别方法
CN108921019B (zh) 一种基于GEI和TripletLoss-DenseNet的步态识别方法
CN110728209A (zh) 一种姿态识别方法、装置、电子设备及存储介质
CN108388896A (zh) 一种基于动态时序卷积神经网络的车牌识别方法
CN107833239B (zh) 一种基于加权模型约束的寻优匹配目标跟踪方法
CN110728179A (zh) 一种采用多路卷积神经网络的猪脸识别方法
CN110263768A (zh) 一种基于深度残差网络的人脸识别方法
CN111274915B (zh) 一种指静脉图像的深度局部聚合描述子提取方法及系统
CN107944431A (zh) 一种基于运动变化的智能识别方法
CN110728183A (zh) 一种基于注意力机制的神经网络的人体动作识别方法
CN111401211B (zh) 一种采用图像增广和小样本学习的虹膜识别方法
WO2020254857A1 (en) Fast and robust friction ridge impression minutiae extraction using feed-forward convolutional neural network
CN111783693A (zh) 果蔬采摘机器人的智能识别方法
Wang et al. Study on the method of transmission line foreign body detection based on deep learning
CN112818790A (zh) 一种基于注意力机制与空间几何约束的行人重识别方法
CN112861718A (zh) 一种轻量级特征融合人群计数方法及系统
CN111260655B (zh) 基于深度神经网络模型的图像生成方法与装置
CN110222568B (zh) 一种基于时空图的跨视角步态识别方法
CN114495170A (zh) 一种基于局部抑制自注意力的行人重识别方法及系统
CN113435225B (zh) 一种基于分块水平金字塔时空特征融合模型和步态重排序的跨视角步态识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant