CN110119695A - 一种基于特征融合和机器学习的虹膜活性检测方法 - Google Patents
一种基于特征融合和机器学习的虹膜活性检测方法 Download PDFInfo
- Publication number
- CN110119695A CN110119695A CN201910337212.1A CN201910337212A CN110119695A CN 110119695 A CN110119695 A CN 110119695A CN 201910337212 A CN201910337212 A CN 201910337212A CN 110119695 A CN110119695 A CN 110119695A
- Authority
- CN
- China
- Prior art keywords
- feature
- iris
- lbp
- hog
- test method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2135—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on approximation criteria, e.g. principal component analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/197—Matching; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/40—Spoof detection, e.g. liveness detection
- G06V40/45—Detection of the body part being alive
Abstract
本发明公开了一种基于特征融合和机器学习的虹膜活性检测方法,准备虹膜图像数据集,分别提取虹膜图像的LBP特征和HOG特征,对所提取的LBP特征和HOG特征进行降维处理,用典型相关性分析方法将降维后的LBP特征和HOG进行融合;将融合后的特征输入支持向量机模型,对虹膜图像特征进行训练和分类,实现对虹膜活性的检测。本发明可以解决现有虹膜活性检测方法中虹膜活性检测准确率不高、不能有效地对虹膜攻击进行防御和无法保证虹膜识别系统的安全性的问题。
Description
技术领域
本发明属于图像处理和模式识别技术领域,尤其涉及一种基于特征融合和机器学习的虹膜活性检测方法。
背景技术
随着近年来人类社会在信息化道路上的不断发展,身份认证的重要性更为突出,同时传统的身份认证方法也受到了严峻的挑战。而作为一种新型的身份认证手段,生物特征凭借其天然的高唯一性、安全性和便利性,受到了人们越来越多的关注。而且以此为基础的身份认证方法,即生物特征识别,也取得了飞速的发展。其中,虹膜识别在稳定性、唯一性和非侵犯性上都具有其不可比拟的优势,在身份识别领域中占据十分重要地位。
生物识别技术在快速发展和应用的同时也伴随着安全风险,一旦生物特征被伪造,将导致人们的财产和个人隐私数据的泄漏,更有可能作为犯罪的替代品。因此,在生物安全方面,活性检测的研究已经成为一个发展趋势。活性检测就是在生物识别系统中,判断进行识别的个体是否来自于一个真正的个体,而不是伪造个体,这对生物识别来说是至关重要的一环。生物识别系统就是要识别真正的生物个体,一旦系统识别了非活性的生物个体,整个系统就失去了原有的意义,也会造成巨大的损失。
与其它生物认证方法一样,虹膜识别也存在活性检测问题。虹膜攻击手段有打印攻击,通过将包含虹膜信息的数字图像打印在胶片或纸上做成伪造样本来攻击虹膜识别系统;隐形眼镜攻击,通过佩戴印有虹膜信息的隐形眼镜攻击虹膜识别系统。由于这两种攻击方式出现的比较早,目前市场上已有一些成熟的活性检测算法针对此类攻击。但随着科技的不断发展,最新型的虹膜攻击方式已转为人工合成虹膜图像攻击,该攻击手段通过图像技术人工合成虹膜纹理,将该纹理嵌入到虹膜环中,形成极其逼真的虹膜图像来攻击虹膜识别系统,传统的虹膜活性检测方法,对此防御效果不是很明显。
发明内容
本发明根据现有技术中存在的问题,提出了一种基于特征融合和机器学习的虹膜活性检测方法,本发明可以解决现有虹膜活性检测方法中虹膜活性检测准确率不高、不能有效地对虹膜攻击进行防御和无法保证虹膜识别系统的安全性的问题。
本发明所采用的技术方案如下:
一种基于特征融合和机器学习的虹膜活性检测方法,准备虹膜图像数据集,分别提取虹膜图像的LBP特征和HOG特征,对所提取的LBP特征和HOG特征进行降维处理,用典型相关性分析方法将降维后的LBP特征和HOG特征进行融合,得到特征融合后的典型相关特征,将典型相关特征输入支持向量机模型,对虹膜图像特征进行分类,实现对虹膜活性的检测。
进一步,所述提取LBP特征的方法为:用LBP模板对图像像素进行判断计算得到LBP值。根据LBP值统计每一个区域的直方图,级联所有区域直方图作为LBP特征向量。
进一步,所述提取HOG特征的方法为:设置滑动区域块,将区域块划分为若干大小统一的细胞单元,计算各像素梯度的幅值和方向,统计细胞单元梯度直方图,联合所有细胞单元的梯度直方图作为当前区域块的梯度直方图并对其标准化处理;级联所有区域块的梯度直方图作为图像的HOG特征向量。
进一步,所述典型相关特征的获取方法为:找到一组投影向量α和β,使得投影x*=αTxLBP与y*=βTyHOG之间的相关系数ρ最大相关,则获得LBP特征矩阵xLBP和HOG特征矩阵yHOG之间的典型相关特征;
进一步,所述相关系数ρ的计算方法为:
其中,Sxx表示xLBP的自协方差矩阵,Syy表示yHOG的自协方差矩阵。Sxy表示xLBP和yHOG的互协方差矩阵。
进一步,支持向量机模型选用二分类模型,构建该模型的过程如下:
步骤1,选取核函数K(x,x)以及惩罚参数C;
步骤2,输入融合后的特征,对二分类模型进行训练,并将训练好的模型用于虹膜活性的检测。
进一步,所述核函数K(x,x)选用线性核,惩罚参数C=1。
进一步,所述降维处理采用主成分分析进行降维,可以减少数据所需的存储空间,降低计算量,缩短数据处理时间,有效地提高方法检测速度。
本发明的有益效果:
(1)针对市场上已有的虹膜活性检测方法,对虹膜活性检测效果不是很明显,本发明采用一种基于LBP和HOG图像特征,基于主成分分析(PCA)降维,基于典型相关性分析(CCA)特征融合,基于支持向量机(SVM)训练和分类的虹膜活性检测方法,该实用发明能够有效地进行虹膜活性检测,提高虹膜识别认证的安全性。
(2)采用LBP和HOG方法提取虹膜图像特征,能够获得丰富的局部纹理信息和边缘结构信息,更好地表征出虹膜图像的特征,而且对光照变化和图像的几何旋转都具有一定的鲁棒性。
(3)采用主成分分析(PCA)对提取的虹膜图像特征信息进行降维,减少数据所需的存储空间,降低计算量,缩短数据处理时间,有效地提高方法检测速度。
(4)采用典型相关性分析(CCA)方法对降维后的LBP和HOG进行特征融合,不仅有效地进行了特征信息的融合,而且消除了特征之间的信息冗余,提高了虹膜活性检测的精度
(5)采用支持向量机(SVM)进行训练和分类,增强数据泛化能力,减轻对数据规模的要求,提高分类速度。
附图说明
图1是本发明的方法实现原理流程图;
图2为本发明提取虹膜图像LBP特征的流程图;
图3为本发明的单个虹膜像素LBP值计算方式图;
图4为本发明提取虹膜图像LBP特征的过程示意图;
图5为本发明提取虹膜图像HOG特征的流程图;
图6为本发明提取虹膜图像HOG特征的过程示意图;
图7为本发明对提取的LBP特征进行降维的流程图;
图8为本发明对提取的HOG特征进行降维的流程图;
图9为测试集在按照本发明方法训练好的模型上进行测试的结果图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用于解释本发明,并不用于限定本发明。
在本实施例中,人工合成型虹膜数据样本和真实虹膜数据样本都采用CASIA中科院提供的标准数据集,将人工合成型虹膜数据样本和真实虹膜数据样本各一分为二,训练集样本包含50%的人工合成型虹膜样本和50%的真实虹膜数据样本,测试集样本包含50%的人工合成型虹膜样本和50%的真实虹膜数据样本。训练集用来训练模型。测试集,用来测试本发明的虹膜活性检测效果。
如图1,本发明所设计的一种基于特征融合和机器学习的虹膜活性检测方法,具体过程如下:
(1)虹膜图像LBP特征提取;
如图2所示,引入虹膜图像训练集,将训练集中的每张图像划分成多个区域(cell),对每个cell中的每一个像素,将半径为1圆形领邻内的8个像素的灰度值与其比较,若周围像素值大于中心像素值,则该像素点的位置被标记为1,否则为0。计算方式如式(1)、式(2)所示。
其中,LBPN,R为中心像素点的8位二进制字符串,gi(i=1,2...N)表示以gc为中心的圆形邻域的N个像素点,R为圆形邻域的半径,fLBP(x)为邻域内像素与中心像素的比较值。
按照一定的顺序和方向将8个像素点的标记连接成一个8位的二进制字符串,把此二进制串转为十进制数作为中心像素的LBP值,如图2所示。然后按照十进制LBP值在cell中出现的频率,统计每个cell的直方图,对直方图进行归一化操作,作为该cell的特征向量。最后将得到的每个cell的统计直方图进行连接成为一个特征向量,得到每张图像的LBP特征向量,如图3所示。
(2)虹膜图像HOG特征提取;
如图5所示,引入虹膜图像训练集,对每张图像提取HOG特征,提取过程中把整张虹膜图像看成一个特征采集窗口。初始时在窗口内设置一个滑动区域块block,并把block划分为若干大小统一的细胞单元cell。在细胞单元内根据式(3)、式(4)、式(5)、式(6)计算各像素梯度的幅值和方向,将梯度方向均等划分为9个有符号的方向,每个方向为大小则为20°,并在cell内根据当前像素梯度方向和幅值进行加权投票得到当前cell的梯度直方图,直方图维度大小为9维。进而联合所有细胞单元的梯度直方图作为当前block的梯度直方图并对其标准化处理。然后把block沿着当前窗口的水平和竖直方向按着8个像素步进平移,每平移一定的距离即统计当前block的梯度直方图。最后级联所有block的梯度直方图作为每张虹膜图像的HOG特征向量,如图6所示。
Ix(x,y)=I(x+1,y)-I(x-1,y) (3)
Iy(x,y)=I(x,y+1)-I(x,y-1) (4)
其中,Ix(x,y)和Iy(x,y)为像素点(x,y)的水平梯度和垂直梯度,I(x+1,y)为与像素点(x,y)相邻的右边像素点的像素值,I(x-1,y)为与像素点(x,y)相邻的左边像素点的像素值,I(x,y+1)为与像素点(x,y)相邻的上面像素点的像素值,I(x,y-1)为与像素点(x,y)相邻的下面像素点的像素值。
其中,m(x,y)为像素点(x,y)的梯度幅值,像素点(x,y)的梯度方向。
(3)基于主成分分析(PCA)降维
如图7将虹膜训练集中得到的每张虹膜图像LBP特征向量组成LBP特征矩阵MLBP,对MLBP进行矩阵中心化后得到M′LBP,对M′LBP根据式(7)计算得到协方差矩阵CLBP。
其中,CLBP为协方差矩阵,d为虹膜样本数。
采用奇异值分解算法计算协方差矩阵CLBP的特征值和特征向量,按照特征值大小,取前100个对应的特征向量w1,w2......w100,组成投影矩阵WLBP。根据式(8)得到虹膜样本集降维到100维后的LBP特征矩阵PLBP:
PLBP=MLBPWLBP (8)
如图8,以同样的方法得到虹膜样本集降维到100维后的HOG特征PHOG:
PHOG=MHOGWHOG (9)
(4)典型相关性(CCA)特征融合
采用奇异值分解算法,按照相关系数ρ的大小取前100对投影向量α和β,使得投影x*=αTxLBP与y*=βTyHOG之间相关,根据(10)计算相关系数。
其中,ρ是相关系数,Sxx表示xLBP的自协方差矩阵,Syy表示yHOG的自协方差矩阵。Sxy表示xLBP和yHOG的互协方差矩阵,xLBP和yHOG分别是降维后的LBP特征矩阵和HOG特征矩阵。
记与为第1对提取的xLBP和yHOG之间的典型变量,与为第2对提取的xLBP和yHOG之间的典型变量,......与为第100对提取的xLBP和yHOG之间的典型变量。接着将与 分别看作是变换后的特征分量,即式(11)和式(12)所示
记Wx=(α1,α2,...,α100),Wy=(β1,β2,...,β100),根据式(13)将提取的LBP特征和HOG特征采取串行特征融合策略进行融合。
其中,Z为融合后的特征。
(5)用支持向量机(SVM)进行训练和分类
引入SVM模型,核函数选取线性核函数,惩罚参数C选取1,根据所选的模型参数和提取虹膜训练集融合的特征,训练得出分类模型。将测试集虹膜样本按照步骤进行操作后放入训练好的SVM模型进行测试。根据图9显示,本发明的虹膜活性检测方法准确率高达99.6185%,几乎百分之百,能够有效地对虹膜攻击进行防御。
以上实施例仅用于说明本发明的设计思想和特点,其目的在于使本领域内的技术人员能够了解本发明的内容并据以实施,本发明的保护范围不限于上述实施例。所以,凡依据本发明所揭示的原理、设计思路所作的等同变化或修饰,均在本发明的保护范围之内。
Claims (8)
1.一种基于特征融合和机器学习的虹膜活性检测方法,其特征在于,准备虹膜图像数据集,分别提取虹膜图像的LBP特征和HOG特征,对所提取的LBP特征和HOG特征进行降维处理,用典型相关性分析方法将降维后的LBP特征和HOG特征进行融合,得到特征融合后的典型相关特征,将典型相关特征输入支持向量机模型,对虹膜图像特征进行分类,实现对虹膜活性的检测。
2.根据权利要求1所述的一种基于特征融合和机器学习的虹膜活性检测方法,其特征在于,所述提取LBP特征的方法为:用LBP模板对图像像素进行判断计算得到LBP值。根据LBP值统计每一个区域的直方图,级联所有区域直方图作为LBP特征向量。
3.根据权利要求1所述的一种基于特征融合和机器学习的虹膜活性检测方法,其特征在于,所述提取HOG特征的方法为:设置滑动区域块,将区域块划分为若干大小统一的细胞单元,计算各像素梯度的幅值和方向,统计细胞单元梯度直方图,联合所有细胞单元的梯度直方图作为当前区域块的梯度直方图并对其标准化处理;级联所有区域块的梯度直方图作为图像的HOG特征向量。
4.根据权利要求1所述的一种基于特征融合和机器学习的虹膜活性检测方法,其特征在于,所述典型相关特征的获取方法为:找到一组投影向量α和β,使得投影x*=αTxLBP与y*=βTyHOG之间的相关系数ρ最大相关,则获得LBP特征矩阵xLBP和HOG特征矩阵yHOG之间的典型相关特征。
5.根据权利要求4所述的一种基于特征融合和机器学习的虹膜活性检测方法,其特征在于,所述相关系数ρ的计算方法为:
其中,Sxx表示xLBP的自协方差矩阵,Syy表示yHOG的自协方差矩阵;Sxy表示xLBP和yHOG的互协方差矩阵。
6.根据权利要求1所述的一种基于特征融合和机器学习的虹膜活性检测方法,其特征在于,支持向量机模型选用二分类模型,构建该模型的过程如下:
步骤1,选取核函数K(x,x)以及惩罚参数C;
步骤2,输入融合后的特征,对二分类模型进行训练,并将训练好的模型用于虹膜活性的检测。
7.根据权利要求6所述的一种基于特征融合和机器学习的虹膜活性检测方法,其特征在于,所述核函数K(x,x)选用线性核,惩罚参数C=1。
8.根据权利要求1所述的一种基于特征融合和机器学习的虹膜活性检测方法,其特征在于,所述降维处理采用主成分分析进行降维。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910337212.1A CN110119695A (zh) | 2019-04-25 | 2019-04-25 | 一种基于特征融合和机器学习的虹膜活性检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910337212.1A CN110119695A (zh) | 2019-04-25 | 2019-04-25 | 一种基于特征融合和机器学习的虹膜活性检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110119695A true CN110119695A (zh) | 2019-08-13 |
Family
ID=67521493
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910337212.1A Pending CN110119695A (zh) | 2019-04-25 | 2019-04-25 | 一种基于特征融合和机器学习的虹膜活性检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110119695A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110633691A (zh) * | 2019-09-25 | 2019-12-31 | 北京紫睛科技有限公司 | 一种基于可见光和近红外相机的双目活体检测方法 |
CN111784874A (zh) * | 2020-06-18 | 2020-10-16 | 戴纳智慧医疗科技有限公司 | 一种用手机管理存储箱开闭的方法 |
CN111950403A (zh) * | 2020-07-28 | 2020-11-17 | 武汉虹识技术有限公司 | 一种虹膜分类方法及系统、电子设备和存储介质 |
CN112187477A (zh) * | 2020-10-11 | 2021-01-05 | 桂林电子科技大学 | 一种虹膜保密认证方法 |
CN112818779A (zh) * | 2021-01-21 | 2021-05-18 | 南京邮电大学 | 一种基于特征优选与多种特征融合的人体行为识别方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104091147A (zh) * | 2014-06-11 | 2014-10-08 | 华南理工大学 | 一种近红外眼睛定位及眼睛状态识别方法 |
CN105095879A (zh) * | 2015-08-19 | 2015-11-25 | 华南理工大学 | 基于特征融合的眼睛状态识别方法 |
-
2019
- 2019-04-25 CN CN201910337212.1A patent/CN110119695A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104091147A (zh) * | 2014-06-11 | 2014-10-08 | 华南理工大学 | 一种近红外眼睛定位及眼睛状态识别方法 |
CN105095879A (zh) * | 2015-08-19 | 2015-11-25 | 华南理工大学 | 基于特征融合的眼睛状态识别方法 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110633691A (zh) * | 2019-09-25 | 2019-12-31 | 北京紫睛科技有限公司 | 一种基于可见光和近红外相机的双目活体检测方法 |
CN111784874A (zh) * | 2020-06-18 | 2020-10-16 | 戴纳智慧医疗科技有限公司 | 一种用手机管理存储箱开闭的方法 |
CN111950403A (zh) * | 2020-07-28 | 2020-11-17 | 武汉虹识技术有限公司 | 一种虹膜分类方法及系统、电子设备和存储介质 |
CN112187477A (zh) * | 2020-10-11 | 2021-01-05 | 桂林电子科技大学 | 一种虹膜保密认证方法 |
CN112818779A (zh) * | 2021-01-21 | 2021-05-18 | 南京邮电大学 | 一种基于特征优选与多种特征融合的人体行为识别方法 |
CN112818779B (zh) * | 2021-01-21 | 2022-08-12 | 南京邮电大学 | 一种基于特征优选与多种特征融合的人体行为识别方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yuan et al. | Fingerprint liveness detection using an improved CNN with image scale equalization | |
CN110119695A (zh) | 一种基于特征融合和机器学习的虹膜活性检测方法 | |
Song et al. | Accurate segmentation of cervical cytoplasm and nuclei based on multiscale convolutional network and graph partitioning | |
Chen et al. | Segmentation of fingerprint images using linear classifier | |
CN108520216B (zh) | 一种基于步态图像的身份识别方法 | |
Liu et al. | Contactless palmprint identification using deeply learned residual features | |
CN101142584B (zh) | 面部特征检测的方法 | |
CN101593272B (zh) | 一种基于asm算法的人脸特征定位方法 | |
Yan et al. | Enabling a single deep learning model for accurate gland instance segmentation: A shape-aware adversarial learning framework | |
CN110348319A (zh) | 一种基于人脸深度信息和边缘图像融合的人脸防伪方法 | |
Feng et al. | Robust and efficient algorithms for separating latent overlapped fingerprints | |
CN111126240B (zh) | 一种三通道特征融合人脸识别方法 | |
Zheng et al. | Attention-based spatial-temporal multi-scale network for face anti-spoofing | |
CN112052772A (zh) | 一种人脸遮挡检测算法 | |
CN107066969A (zh) | 一种人脸识别方法 | |
CN106778489A (zh) | 人脸3d特征身份信息库的建立方法及设备 | |
CN102214299A (zh) | 一种基于改进的asm算法的人脸特征定位方法 | |
CN109977887A (zh) | 一种抗年龄干扰的人脸识别方法 | |
Paul et al. | Extraction of facial feature points using cumulative histogram | |
CN110163182A (zh) | 一种基于kaze特征的手背静脉识别方法 | |
CN107784263A (zh) | 基于改进加速鲁棒特征的平面旋转人脸检测的方法 | |
Yi et al. | Object-guided instance segmentation with auxiliary feature refinement for biological images | |
CN113642385B (zh) | 基于深度学习的脸部痣识别方法及系统 | |
CN110348320A (zh) | 一种基于多损失深度融合的人脸防伪方法 | |
CN110222660B (zh) | 一种基于动态与静态特征融合的签名鉴伪方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |