CN112699775A - 基于深度学习的证件识别方法、装置、设备及存储介质 - Google Patents
基于深度学习的证件识别方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN112699775A CN112699775A CN202011581192.1A CN202011581192A CN112699775A CN 112699775 A CN112699775 A CN 112699775A CN 202011581192 A CN202011581192 A CN 202011581192A CN 112699775 A CN112699775 A CN 112699775A
- Authority
- CN
- China
- Prior art keywords
- certificate
- image
- semantic segmentation
- detection
- deep learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/412—Layout analysis of documents structured with printed lines or input boxes, e.g. business forms or tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4007—Interpolation-based scaling, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
- G06V10/225—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on a marking or identifier characterising the area
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/148—Segmentation of character regions
- G06V30/153—Segmentation of character regions using recognition of characters or words
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20132—Image cropping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Abstract
本发明涉及人工智能技术,揭露了一种基于深度学习的证件识别方法,包括:利使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图;对所述证件框图进行截取,得到证件图;使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框;根据所述关键字段框对所述证件图进行文字识别,得到证件信息。此外,本发明还涉及区块链技术,所述待识别图像可存储于区块链的节点。本发明还提出一种基于深度学习的证件识别装置、电子设备以及计算机可读存储介质。本发明可以解决证件识别准确性较低的问题。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种基于深度学习的证件识别方法、装置、电子设备及计算机可读存储介质。
背景技术
随着科技的发展,各种证件,如身份证应用的领域范围越来越广,对于证件的识别也越来越受到重视。
对于证件的识别,传统的方法是通过图像预处理,然后使用尺度不变特征转换提取证件上的关键字段,最后进行识别,但这种方式耗时较长,且对于稍微模糊的图片鲁棒性较差,而大多数证件的图像不是高清的,从而导致识别结果的准确性较低。
发明内容
本发明提供一种基于深度学习的证件识别方法、装置及计算机可读存储介质,其主要目的在于解决证件识别准确性较低的问题。
为实现上述目的,本发明提供的一种基于深度学习的证件识别方法,包括:
使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图;
对所述证件框图进行截取,得到证件图;
基于空洞卷积使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框;
根据所述关键字段框对所述证件图进行文字识别,得到证件信息。
可选地,所述使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图,包括:
将所述待识别图像进行尺寸调整,得到输入图像;
将所述输入图像输入至所述检测模型的特征提取网络进行特征提取,得到所述特征提取网络输出的特征图;
所述特征图进一步输入所述检测模型的分割网络进行图像分割,得到所述分割网络输出的多个网格;
所述多个网格经过所述检测模型的全连接层,以对每个网格内的图像进行目标检测,得到证件框图。
可选地,所述通过所述检测模型的全连接层对每个网格内的图像进行目标检测,得到证件框图,包括:
通过所述检测模型的全连接层对每个网格内的图像进行识别并预测出多个候选边界框,计算每个候选边界框的置信度;
将数值最高的置信度对应的候选边界框作为目标检测框,并根据所述目标检测框的大小和位置在所述待识别图像中相同位置进行框选标记,得到证件框图。
可选地,所述使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框,包括:
将所述证件图输入至所述证件语义分割模型的空洞卷积层进行特征提取,得到多个不同尺度的特征图;
将所述多个不同尺度的特征图输入所述证件语义分割模型的空间金字塔层进行融合,得到精细特征图;
将所述精细特征图输入所述证件语义分割模型的解码层进行卷积和上采样,得到分割结果图;
对所述分割结果图进行校正,得到多个关键字段框。
可选地,所述对所述分割结果图进行校正,得到多个关键字段框,包括:
获取所述分割结果图中所有字段框的顶点坐标;
利用预设的透视变换矩阵对所述顶点坐标进行映射变换,得到新顶点坐标;
根据所述新顶点坐标在所述证件图中相同位置进行框选标记,得到多个关键字段框。
可选地,所述根据所述关键字段框对所述证件图进行文字识别,将所述检测文本与对应类别汇集得到证件信息,包括:
将所述关键字段框作为所述证件图的文本检测框;
对所述证件图的文本检测框进行文字识别,得到与所述关键字段框对应的多个检测文本;
对所述多个检测文本进行类别识别,得到证件信息。
可选地,在使用预先训练完成的证件语义分割模型对所述证件图进行语义分割前,还包括:
采集多张证件图像,并根据预设标签对所述证件图像进行类别标签和位置标注,得到训练数据集;
使用证件语义分割模型对所述训练数据集进行语义分割,得到训练结果集;
利用预设的损失函数计算所述训练结果集的损失值;
根据所述损失值使用反向传播算法更新所述证件语义分割模型的参数,返回使用证件语义分割模型对所述训练数据集进行语义分割,得到训练结果集的步骤,直到所述损失值不再下降,得到训练完成的证件语义分割模型。
为了解决上述问题,本发明还提供一种基于深度学习的证件识别装置,所述装置包括:
检测模块,用于使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图;
截取模块,用于对所述证件框图进行截取,得到证件图;
语义分割模块,用于基于空洞卷积使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框;
识别模块,用于根据所述关键字段框对所述证件图进行文字识别,得到证件信息。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述所述的基于深度学习的证件识别方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的基于深度学习的证件识别方法。
本发明实施例使用基于YOLO算法的检测模型对待识别图像进行检测,所述YOLO算法为单阶段检测算法,具有速度快的优点,可以提高检测的效率;使用预先训练完成的证件语义分割模型对所述证件图进行语义分割可以确定证件信息的区域位置,所述证件语义分割模型是基于深度学习算法构建的,并基于训练数据集进行训练完成,具有更强的鲁棒性,可以进一步提高识别的准确性,提高工作效率。因此本发明提出的基于深度学习的证件识别方法、装置、电子设备及计算机可读存储介质,可以解决证件识别准确性较低的问题。
附图说明
图1为本发明一实施例提供的基于深度学习的证件识别方法的流程示意图;
图2为本发明一实施例提供的基于深度学习的证件识别装置的功能模块图;
图3为本发明一实施例提供的实现所述基于深度学习的证件识别方法的电子设备的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种基于深度学习的证件识别方法。所述基于深度学习的证件识别方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述基于深度学习的证件识别方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的基于深度学习的证件识别方法的流程示意图。在本实施例中,所述基于深度学习的证件识别方法包括:
S1、使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图。
本发明实施例所述待识别图像是含有证件的图像,如身份证、护照等。所述待识别图像可以从数据库中获取。为了进一步保证所述待识别图像的私密性和安全性,所述待识别图像还可以从一区块链的节点中获取。
所述基于YOLO算法的检测模型是一种基于深度神经网络的目标检测模型,可以根据预设的标签,实现证件检测任务,即识别出证件并确定其在图像中的确切位置。
详细地,所述使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图,包括:
将所述待识别图像进行尺寸调整,得到输入图像;
将所述输入图像输入至所述检测模型的特征提取网络进行特征提取,得到所述特征提取网络输出的特征图;
所述特征图进一步输入所述检测模型的分割网络进行图像分割,得到所述分割网络输出的多个网格;
所述多个网格经过所述检测模型的全连接层,以对每个网格内的图像进行目标检测,得到证件框图。
其中,所述特征提取是通过卷积操作将图像进行采样,去除图像中的细节部分,使得输入图像的特征更加明显。
本发明实施例中所述特征图进一步输入所述检测模型的分割网络进行图像分割是将图像分割成大小相同的多个图像块,所述网格即一个图像块。
进一步地,所述多个网格经过所述检测模型的全连接层,以对每个网格内的图像进行目标检测,得到证件框图,包括:
通过所述检测模型的全连接层对每个网格内的图像进行识别并预测出多个候选边界框,计算每个候选边界框的置信度;
将数值最高的置信度对应的候选边界框作为目标检测框,并根据所述目标检测框的大小和位置在所述待识别图像中相同位置进行框选标记,得到证件框图。
其中,所述置信度包括候选边界框含有目标(如身份证)的可能性大小以及候选边界框的准确度。将候选边界框含有目标的可能性大小记为Pr,当该候选边界框是背景时(即不包含目标),此时Pr=0,而当该候选边界框包含目标时,Pr=1。候选边界框的准确度可以用预测框与实际框的交并比(intersection over union)来表征,记为所述预测框是所述检测模型输出的候选边界框,所述实际框则是目标物体的真实边界框,候选边界框可以使用(x,y,w,h)表示,其中,(x,y)是候选边界框的中心坐标,而w和h是候选边界框的宽与高。因此可以使用公式计算所述置信度。
所述根据所述目标检测框的大小和位置在所述待识别图像中相同位置进行框选标记是指根据所述目标检测框的位置和大小,在所述待识别图像中相同位置标出相同大小的框,使所述待识别图像中目标,即证件的位置被标记出来。
例如,将待识别图像的大小调整为416*416的输入图像,通过所述检测模型的特征提取网络对所述输入图像提取特征,得到一定尺寸的特征图,比如13*13。然后所述检测模型的分割网络将所述特征图像分割成13*13个网格,所述检测模型的全连接层再对每个网格内的图像进行目标检测,查看网格内是否含有与预设标签相同的目标,若有则再通过候选边界框对目标进行位置预测,并通过计算置信度得到最终检测结果。
本发明实施例所述检测模型是基于YOLO算法的,而YOLO算法属于单阶段检测算法,具有速度快的优点,可以提高检测的效率。
S2、对所述证件框图进行截取,得到证件图。
本发明实施例中所述证件图是比所述待识别图像多包含目标检测框的图像,例如,在一张含有身份证的照片中含有框出身份证位置大小的绿色框线的图像。所述证件图是仅有证件的图像,如仅有绿色框线内的身份证,且没有其余背景的图像。
详细地,所述证件图中含有目标检测框,本发明实施例中目标检测框为证件对应的边界框,按照所述目标检测框的位置对所述证件图进行尺寸剪裁,截取出完整证件,保留所述目标检测框内的图像,去除所述证件图中其余部分,得到证件图。
S3、基于空洞卷积使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框。
本发明实施例中所述证件语义分割模型是基于深度神经网络的一种分割模型,可以用于图像分割。
详细地,所述使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框,包括:
将所述证件图输入至所述证件语义分割模型的空洞卷积层进行特征提取,得到多个不同尺度的特征图;
将所述多个不同尺度的特征图输入所述证件语义分割模型的空间金字塔层进行融合,得到精细特征图;
将所述精细特征图输入所述证件语义分割模型的解码层进行卷积和上采样,得到分割结果图,其中,所述分割结果图中包括多个字段框;
对所述分割结果图进行校正,得到多个关键字段框。
可选地,本发明实施例中所述证件语义分割模型的空洞卷积层可以在不改变特征图大小的同时控制感受野,有利于提取多尺度信息。
可选地,所述证件语义分割模型的空间金字塔层可以进一步提取多尺度信息,主要是通过不同rate的空洞卷积来实现的。进一步地,所述空间金字塔层,包括:(1)一个1×1卷积层,以及三个3x3的空洞卷积;(2)一个全局平均池化层可以得到图像特征,然后送入1x1卷积层,并双线性插值到原始大小;(3)将(1)和(2)得到的4个不同尺度的特征拼接在一起,然后送入1x1的卷积层进行融合并得到256通道大小的新特征图。
可选地,所述证件语义分割模型的解码层将经过空间金字塔层的结果进行上采样4倍,然后与经过空洞卷积层中进行特征采样时低层次的特征进行连接,再进行3x3的卷积,最后上采样4倍后得到最终结果。
进一步地,所述对所述分割结果图进行校正,得到多个关键字段框,包括:
获取所述分割结果图中所有字段框的顶点坐标;
利用预设的透视变换矩阵对所述顶点坐标进行映射变换,得到新顶点坐标;
根据所述新顶点坐标在所述证件图中相同位置进行框选标记,得到多个关键字段框。
其中,所述透视变换矩阵是通过训练图像中原始图像和变换图像的顶点坐标得到的变换矩阵;所述映射变换是利用通用的变换公式进行计算。
所述分割结果图中的字段框可能存在偏移,倾斜等误差,本发明实施例通过透视变换进行校正,通过获取字段框的四个顶点坐标进行透视变换,将所述字段框进行纠正,所述透视变换是对图像进行投影映射,可以将具有倾斜的图像纠正为正投影。
可选地,在使用预先训练完成的证件语义分割模型对所述证件图进行语义分割前,还包括:
采集多张证件图像,并根据预设标签对所述证件图像进行类别标签和位置标注,得到训练数据集;
使用证件语义分割模型对所述训练数据集进行语义分割,得到训练结果集;
利用预设的损失函数计算所述训练结果集的损失值;
根据所述损失值使用反向传播算法更新所述证件语义分割模型的参数,返回使用证件语义分割模型对所述训练数据集进行语义分割,得到训练结果集的步骤,直到所述损失值不再下降,得到训练完成的证件语义分割模型。
本发明实施例中所述损失函数,包括:
S4、根据所述关键字段框对所述证件图进行文字识别,得到证件信息。
详细地,所述根据所述关键字段框对所述证件图进行文字识别,得到证件信息,包括:
将所述关键字段框作为所述证件图的文本检测框;
对所述证件图的文本检测框进行文字识别,得到与所述关键字段框对应的多个检测文本;
对所述多个检测文本进行类别识别,将所述检测文本与对应类别汇集得到证件信息。
进一步地,所述对所述多个检测文本进行类别识别,包括:
获取所述检测文本对应的关键字段框;
计算所述关键字段框的轮廓大小,并根据所述轮廓大小在预设的类别信息表中查找,得到所述关键字段框对应的检测文本的类别。
其中,所述类别信息表中包含多个证件信息类别以及对应的轮廓大小范围。
例如,本发明实施例中采用OCR技术对所述证件图中多个关键字段框内得图像部分进行文字识别,得到文字内容,并根据关键字段框的轮廓大小识别出文字内容对应的证件信息类别,所述证件信息类别包括姓名,性别,民族及身份证号,将识别出的文字内容与对应的证件信息类别汇集,得到证件图像中的证件信息。
本发明实施例是基于深度学习算法对证件进行识别,物体检测用于证件截取,语义分割用于关键字段提取,相比于传统方案具有更强的鲁棒性,准确性更高。
本发明实施例使用基于YOLO算法的检测模型对待识别图像进行检测,所述YOLO算法为单阶段检测算法,具有速度快的优点,可以提高检测的效率;使用预先训练完成的证件语义分割模型对所述证件图进行语义分割可以确定证件信息的区域位置,所述证件语义分割模型是基于深度学习算法构建的,并基于训练数据集进行训练完成,具有更强的鲁棒性,可以进一步提高识别的准确性,提高工作效率。因此本发明提出的基于深度学习的证件识别方法、装置、电子设备及计算机可读存储介质,可以解决证件识别准确性较低的问题。
如图2所示,是本发明一实施例提供的基于深度学习的证件识别装置的功能模块图。
本发明所述基于深度学习的证件识别装置100可以安装于电子设备中。根据实现的功能,所述基于深度学习的证件识别装置100可以包括检测模块101、截取模块102、语义分割模块103和识别模块104。本发明所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述检测模块101,用于使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图。
本发明实施例所述待识别图像是含有证件的图像,如身份证、护照等。所述待识别图像可以从数据库中获取。为了进一步保证所述待识别图像的私密性和安全性,所述待识别图像还可以从一区块链的节点中获取。
所述基于YOLO算法的检测模型是一种基于深度神经网络的目标检测模型,可以根据预设的标签,实现证件检测任务,即识别出证件并确定其在图像中的确切位置。
详细地,所述检测模块101具体用于:
将所述待识别图像进行尺寸调整,得到输入图像;
将所述输入图像输入至所述检测模型的特征提取网络进行特征提取,得到所述特征提取网络输出的特征图;
所述特征图进一步输入所述检测模型的分割网络进行图像分割,得到所述分割网络输出的多个网格;
所述多个网格经过所述检测模型的全连接层,以对每个网格内的图像进行目标检测,得到证件框图。
其中,所述特征提取是通过卷积操作将图像进行采样,去除图像中的细节部分,使得输入图像的特征更加明显。
本发明实施例中所述特征图进一步输入所述检测模型的分割网络进行图像分割是将图像分割成大小相同的多个图像块,所述网格即一个图像块。
进一步地,所述多个网格经过所述检测模型的全连接层,以对每个网格内的图像进行目标检测,得到证件框图,包括:
通过所述检测模型的全连接层对每个网格内的图像进行识别并预测出多个候选边界框,计算每个候选边界框的置信度;
将数值最高的置信度对应的候选边界框作为目标检测框,并根据所述目标检测框的大小和位置在所述待识别图像中相同位置进行框选标记,得到证件框图。
其中,所述置信度包括候选边界框含有目标(如身份证)的可能性大小以及候选边界框的准确度。将候选边界框含有目标的可能性大小记为Pr,当该候选边界框是背景时(即不包含目标),此时Pr=0,而当该候选边界框包含目标时,Pr=1。候选边界框的准确度可以用预测框与实际框的交并比(intersection over union)来表征,记为所述预测框是所述检测模型输出的候选边界框,所述实际框则是目标物体的真实边界框,候选边界框可以使用(x,y,w,h)表示,其中,(x,y)是候选边界框的中心坐标,而w和h是候选边界框的宽与高。因此可以使用公式计算所述置信度。
所述根据所述目标检测框的大小和位置在所述待识别图像中相同位置进行框选标记是指根据所述目标检测框的位置和大小,在所述待识别图像中相同位置标出相同大小的框,使所述待识别图像中目标,即证件的位置被标记出来。
例如,将待识别图像的大小调整为416*416的输入图像,通过所述检测模型的特征提取网络对所述输入图像提取特征,得到一定尺寸的特征图,比如13*13。然后所述检测模型的分割网络将所述特征图像分割成13*13个网格,所述检测模型的全连接层再对每个网格内的图像进行目标检测,查看网格内是否含有与预设标签相同的目标,若有则再通过候选边界框对目标进行位置预测,并通过计算置信度得到最终检测结果。
本发明实施例所述检测模型是基于YOLO算法的,而YOLO算法属于单阶段检测算法,具有速度快的优点,可以提高检测的效率。
所述截取模块102,用于对所述证件框图进行截取,得到证件图。
本发明实施例中所述证件图是比所述待识别图像多包含目标检测框的图像,例如,在一张含有身份证的照片中含有框出身份证位置大小的绿色框线的图像。所述证件图是仅有证件的图像,如仅有绿色框线内的身份证,且没有其余背景的图像。
详细地,所述证件图中含有目标检测框,本发明实施例中目标检测框为证件对应的边界框,按照所述目标检测框的位置对所述证件图进行尺寸剪裁,截取出完整证件,保留所述目标检测框内的图像,去除所述证件图中其余部分,得到证件图。
所述语义分割模块103,用于基于空洞卷积使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框。
本发明实施例中所述证件语义分割模型是基于深度神经网络的一种分割模型,可以用于图像分割。
详细地,所述语义分割模块103具体用于:
将所述证件图输入至所述证件语义分割模型的空洞卷积层进行特征提取,得到多个不同尺度的特征图;
将所述多个不同尺度的特征图输入所述证件语义分割模型的空间金字塔层进行融合,得到精细特征图;
将所述精细特征图输入所述证件语义分割模型的解码层进行卷积和上采样,得到分割结果图,其中,所述分割结果图中包括多个字段框;
对所述分割结果图进行校正,得到多个关键字段框。
可选地,本发明实施例中所述证件语义分割模型的空洞卷积层可以在不改变特征图大小的同时控制感受野,有利于提取多尺度信息。
可选地,所述证件语义分割模型的空间金字塔层可以进一步提取多尺度信息,主要是通过不同rate的空洞卷积来实现的。进一步地,所述空间金字塔层,包括:(1)一个1×1卷积层,以及三个3x3的空洞卷积;(2)一个全局平均池化层可以得到图像特征,然后送入1x1卷积层,并双线性插值到原始大小;(3)将(1)和(2)得到的4个不同尺度的特征拼接在一起,然后送入1x1的卷积层进行融合并得到256通道大小的新特征图。
可选地,所述证件语义分割模型的解码层将经过空间金字塔层的结果进行上采样4倍,然后与经过空洞卷积层中进行特征采样时低层次的特征进行连接,再进行3x3的卷积,最后上采样4倍后得到最终结果。
进一步地,所述对所述分割结果图进行校正,得到多个关键字段框,包括:
获取所述分割结果图中所有字段框的顶点坐标;
利用预设的透视变换矩阵对所述顶点坐标进行映射变换,得到新顶点坐标;
根据所述新顶点坐标在所述证件图中相同位置进行框选标记,得到多个关键字段框。
其中,所述透视变换矩阵是通过训练图像中原始图像和变换图像的顶点坐标得到的变换矩阵;所述映射变换是利用通用的变换公式进行计算。
所述分割结果图中的字段框可能存在偏移,倾斜等误差,本发明实施例通过透视变换进行校正,通过获取字段框的四个顶点坐标进行透视变换,将所述字段框进行纠正,所述透视变换是对图像进行投影映射,可以将具有倾斜的图像纠正为正投影。
可选地,在使用预先训练完成的证件语义分割模型对所述证件图进行语义分割前,还包括:
采集多张证件图像,并根据预设标签对所述证件图像进行类别标签和位置标注,得到训练数据集;
使用证件语义分割模型对所述训练数据集进行语义分割,得到训练结果集;
利用预设的损失函数计算所述训练结果集的损失值;
根据所述损失值使用反向传播算法更新所述证件语义分割模型的参数,返回使用证件语义分割模型对所述训练数据集进行语义分割,得到训练结果集的步骤,直到所述损失值不再下降,得到训练完成的证件语义分割模型。
本发明实施例中所述损失函数,包括:
所述识别模块104,根据所述关键字段框对所述证件图进行文字识别,得到证件信息。
详细地,所述识别模块104具体用于:
将所述关键字段框作为所述证件图的文本检测框;
对所述证件图的文本检测框进行文字识别,得到与所述关键字段框对应的多个检测文本;
对所述多个检测文本进行类别识别,将所述检测文本与对应类别汇集得到证件信息。
进一步地,所述对所述多个检测文本进行类别识别,包括:
获取所述检测文本对应的关键字段框;
计算所述关键字段框的轮廓大小,并根据所述轮廓大小在预设的类别信息表中查找,得到所述关键字段框对应的检测文本的类别。
其中,所述类别信息表中包含多个证件信息类别以及对应的轮廓大小范围。
例如,本发明实施例中采用OCR技术对所述证件图中多个关键字段框内得图像部分进行文字识别,得到文字内容,并根据关键字段框的轮廓大小识别出文字内容对应的证件信息类别,所述证件信息类别包括姓名,性别,民族及身份证号,将识别出的文字内容与对应的证件信息类别汇集,得到证件图像中的证件信息。
本发明实施例是基于深度学习算法对证件进行识别,物体检测用于证件截取,语义分割用于关键字段提取,相比于传统方案具有更强的鲁棒性,准确性更高。
如图3所示,是本发明一实施例提供的实现基于深度学习的证件识别方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如基于深度学习的证件识别程序12。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如基于深度学习的证件识别程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如基于深度学习的证件识别程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图3仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的基于深度学习的证件识别程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图;
对所述证件框图进行截取,得到证件图;
基于空洞卷积使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框;
根据所述关键字段框对所述证件图进行文字识别,得到证件信息。
具体地,所述处理器10对上述指令的具体实现方法可参考图1至图3对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:
使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图;
对所述证件框图进行截取,得到证件图;
基于空洞卷积使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框;
根据所述关键字段框对所述证件图进行文字识别,得到证件信息。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种基于深度学习的证件识别方法,其特征在于,所述方法包括:
使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图;
对所述证件框图进行截取,得到证件图;
基于空洞卷积使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框;
根据所述关键字段框对所述证件图进行文字识别,得到证件信息。
2.如权利要求1所述的基于深度学习的证件识别方法,其特征在于,所述使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图,包括:
将所述待识别图像进行尺寸调整,得到输入图像;
将所述输入图像输入至所述检测模型的特征提取网络进行特征提取,得到所述特征提取网络输出的特征图;
所述特征图进一步输入所述检测模型的分割网络进行图像分割,得到所述分割网络输出的多个网格;
所述多个网格经过所述检测模型的全连接层,以对每个网格内的图像进行目标检测,得到证件框图。
3.如权利要求2所述的基于深度学习的证件识别方法,其特征在于,所述通过所述检测模型的全连接层对每个网格内的图像进行目标检测,得到证件框图,包括:
通过所述检测模型的全连接层对每个网格内的图像进行识别并预测出多个候选边界框,计算每个候选边界框的置信度;
将数值最高的置信度对应的候选边界框作为目标检测框,并根据所述目标检测框的大小和位置在所述待识别图像中相同位置进行框选标记,得到证件框图。
4.如权利要求1所述的基于深度学习的证件识别方法,其特征在于,所述使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框,包括:
将所述证件图输入至所述证件语义分割模型的空洞卷积层进行特征提取,得到多个不同尺度的特征图;
将所述多个不同尺度的特征图输入所述证件语义分割模型的空间金字塔层进行融合,得到精细特征图;
将所述精细特征图输入所述证件语义分割模型的解码层进行卷积和上采样,得到分割结果图;
对所述分割结果图进行校正,得到多个关键字段框。
5.如权利要求4所述的基于深度学习的证件识别方法,其特征在于,所述对所述分割结果图进行校正,得到多个关键字段框,包括:
获取所述分割结果图中所有字段框的顶点坐标;
利用预设的透视变换矩阵对所述顶点坐标进行映射变换,得到新顶点坐标;
根据所述新顶点坐标在所述证件图中相同位置进行框选标记,得到多个关键字段框。
6.如权利要求1所述的基于深度学习的证件识别方法,其特征在于,所述根据所述关键字段框对所述证件图进行文字识别,得到证件信息,包括:
将所述关键字段框作为所述证件图的文本检测框;
对所述证件图的文本检测框进行文字识别,得到与所述关键字段框对应的多个检测文本;
对所述多个检测文本进行类别识别,将所述检测文本与对应类别汇集得到证件信息。
7.如权利要求1至6中任一项所述的基于深度学习的证件识别方法,其特征在于,在使用预先训练完成的证件语义分割模型对所述证件图进行语义分割前,还包括:
采集多张证件图像,并根据预设标签对所述证件图像进行类别标签和位置标注,得到训练数据集;
使用证件语义分割模型对所述训练数据集进行语义分割,得到训练结果集;
利用预设的损失函数计算所述训练结果集的损失值;
根据所述损失值使用反向传播算法更新所述证件语义分割模型的参数,返回使用证件语义分割模型对所述训练数据集进行语义分割,得到训练结果集的步骤,直到所述损失值不再下降,得到训练完成的证件语义分割模型。
8.一种基于深度学习的证件识别装置,其特征在于,所述装置包括:
检测模块,用于使用基于YOLO算法的检测模型对待识别图像进行检测,得到证件框图;
截取模块,用于对所述证件框图进行截取,得到证件图;
语义分割模块,用于基于空洞卷积使用预先训练完成的证件语义分割模型对所述证件图进行语义分割,得到多个关键字段框;
识别模块,用于根据所述关键字段框对所述证件图进行文字识别,得到证件信息。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的基于深度学习的证件识别方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的基于深度学习的证件识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011581192.1A CN112699775A (zh) | 2020-12-28 | 2020-12-28 | 基于深度学习的证件识别方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011581192.1A CN112699775A (zh) | 2020-12-28 | 2020-12-28 | 基于深度学习的证件识别方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112699775A true CN112699775A (zh) | 2021-04-23 |
Family
ID=75511289
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011581192.1A Pending CN112699775A (zh) | 2020-12-28 | 2020-12-28 | 基于深度学习的证件识别方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112699775A (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113283421A (zh) * | 2021-06-24 | 2021-08-20 | 中国平安人寿保险股份有限公司 | 信息识别方法、装置、设备及存储介质 |
CN113313113A (zh) * | 2021-06-11 | 2021-08-27 | 北京百度网讯科技有限公司 | 证件信息获取方法、装置、设备以及存储介质 |
CN113313111A (zh) * | 2021-05-28 | 2021-08-27 | 北京百度网讯科技有限公司 | 文本识别方法、装置、设备和介质 |
CN113378821A (zh) * | 2021-07-02 | 2021-09-10 | 人民中科(济南)智能技术有限公司 | 基于深度学习的公章文字识别方法、系统、设备及存储介质 |
CN113591715A (zh) * | 2021-07-29 | 2021-11-02 | 青岛新奥胶南燃气有限公司 | 一种基于深度学习的lng车进站证验证全流程后处理方法 |
CN113744350A (zh) * | 2021-08-31 | 2021-12-03 | 广州极点三维信息科技有限公司 | 基于单张图像的柜体结构识别方法、装置、设备及介质 |
CN113780087A (zh) * | 2021-08-11 | 2021-12-10 | 同济大学 | 一种基于深度学习的邮政包裹文本检测方法及设备 |
CN115641594A (zh) * | 2022-12-23 | 2023-01-24 | 广州佰锐网络科技有限公司 | 基于ocr技术的身份证识别方法、存储介质及装置 |
CN116246287A (zh) * | 2023-03-15 | 2023-06-09 | 北京百度网讯科技有限公司 | 目标对象识别方法、训练方法、装置以及存储介质 |
-
2020
- 2020-12-28 CN CN202011581192.1A patent/CN112699775A/zh active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113313111A (zh) * | 2021-05-28 | 2021-08-27 | 北京百度网讯科技有限公司 | 文本识别方法、装置、设备和介质 |
CN113313113A (zh) * | 2021-06-11 | 2021-08-27 | 北京百度网讯科技有限公司 | 证件信息获取方法、装置、设备以及存储介质 |
CN113283421A (zh) * | 2021-06-24 | 2021-08-20 | 中国平安人寿保险股份有限公司 | 信息识别方法、装置、设备及存储介质 |
CN113283421B (zh) * | 2021-06-24 | 2024-03-01 | 中国平安人寿保险股份有限公司 | 信息识别方法、装置、设备及存储介质 |
CN113378821A (zh) * | 2021-07-02 | 2021-09-10 | 人民中科(济南)智能技术有限公司 | 基于深度学习的公章文字识别方法、系统、设备及存储介质 |
CN113378821B (zh) * | 2021-07-02 | 2023-02-28 | 人民中科(济南)智能技术有限公司 | 基于深度学习的公章文字识别方法、系统、设备及存储介质 |
CN113591715A (zh) * | 2021-07-29 | 2021-11-02 | 青岛新奥胶南燃气有限公司 | 一种基于深度学习的lng车进站证验证全流程后处理方法 |
CN113780087A (zh) * | 2021-08-11 | 2021-12-10 | 同济大学 | 一种基于深度学习的邮政包裹文本检测方法及设备 |
CN113744350A (zh) * | 2021-08-31 | 2021-12-03 | 广州极点三维信息科技有限公司 | 基于单张图像的柜体结构识别方法、装置、设备及介质 |
CN115641594A (zh) * | 2022-12-23 | 2023-01-24 | 广州佰锐网络科技有限公司 | 基于ocr技术的身份证识别方法、存储介质及装置 |
CN116246287A (zh) * | 2023-03-15 | 2023-06-09 | 北京百度网讯科技有限公司 | 目标对象识别方法、训练方法、装置以及存储介质 |
CN116246287B (zh) * | 2023-03-15 | 2024-03-22 | 北京百度网讯科技有限公司 | 目标对象识别方法、训练方法、装置以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112699775A (zh) | 基于深度学习的证件识别方法、装置、设备及存储介质 | |
CN112528863A (zh) | 表格结构的识别方法、装置、电子设备及存储介质 | |
CN111652845A (zh) | 异常细胞自动标注方法、装置、电子设备及存储介质 | |
CN112052850A (zh) | 车牌识别方法、装置、电子设备及存储介质 | |
CN112036292A (zh) | 基于神经网络的文字识别方法、装置及可读存储介质 | |
CN112528616B (zh) | 业务表单生成方法、装置、电子设备及计算机存储介质 | |
CN112860905A (zh) | 文本信息抽取方法、装置、设备及可读存储介质 | |
CN112396005A (zh) | 生物特征图像识别方法、装置、电子设备及可读存储介质 | |
CN113033543A (zh) | 曲形文本识别方法、装置、设备及介质 | |
CN113705462A (zh) | 人脸识别方法、装置、电子设备及计算机可读存储介质 | |
CN114881698A (zh) | 广告合规审核方法、装置、电子设备及存储介质 | |
CN113887438A (zh) | 人脸图像的水印检测方法、装置、设备及介质 | |
CN112560855B (zh) | 图像信息提取方法、装置、电子设备及存储介质 | |
CN114049568A (zh) | 基于图像比对的标的物形变检测方法、装置、设备及介质 | |
CN111476225B (zh) | 基于人工智能的车内人脸识别方法、装置、设备及介质 | |
CN113487621A (zh) | 医学图像分级方法、装置、电子设备及可读存储介质 | |
CN112668575A (zh) | 关键信息提取方法、装置、电子设备及存储介质 | |
CN111814743A (zh) | 笔迹识别方法、装置及计算机可读存储介质 | |
CN114708461A (zh) | 基于多模态学习模型的分类方法、装置、设备及存储介质 | |
CN115471775A (zh) | 基于录屏视频的信息验证方法、装置、设备及存储介质 | |
CN113128496B (zh) | 一种从图像中提取结构化数据的方法、装置和设备 | |
CN112528984A (zh) | 图像信息抽取方法、装置、电子设备及存储介质 | |
CN112580505A (zh) | 网点开关门状态识别方法、装置、电子设备及存储介质 | |
CN113435331B (zh) | 图像文字识别方法、系统、电子设备及存储介质 | |
CN114792295B (zh) | 基于智能相框的被遮挡物修正方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |