CN116403266A - 人脸识别方法、装置、电子设备、介质和程序产品 - Google Patents

人脸识别方法、装置、电子设备、介质和程序产品 Download PDF

Info

Publication number
CN116403266A
CN116403266A CN202310391703.0A CN202310391703A CN116403266A CN 116403266 A CN116403266 A CN 116403266A CN 202310391703 A CN202310391703 A CN 202310391703A CN 116403266 A CN116403266 A CN 116403266A
Authority
CN
China
Prior art keywords
face
image
face image
illumination
low
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310391703.0A
Other languages
English (en)
Inventor
蒲泽栋
许倍源
廖芯艺
吴念桓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202310391703.0A priority Critical patent/CN116403266A/zh
Publication of CN116403266A publication Critical patent/CN116403266A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)

Abstract

本公开提供了一种低光照条件下的人脸识别方法、装置、电子设备、介质和计算机程序产品。上述方法和装置可用于人工智能技术领域。低光照条件下的人脸识别方法包括:获取低光照条件下的第一人脸图像;利用预先构建的图像增强模型中的人脸图像增强映射关系,对所述第一人脸图像进行图像增强,得到正常光照条件下的第二人脸图像,其中,所述图像增强模型的训练样本通过人脸对齐技术得到,所述人脸对齐技术为提取获取的低光照人脸图像和正常光照人脸图像的图像对的m对人脸特征,并通过仿射变换函数对齐所述m对人脸特征;以及将所述第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。

Description

人脸识别方法、装置、电子设备、介质和程序产品
技术领域
本公开涉及人工智能技术领域,更具体地,涉及一种低光照条件下的人脸识别方法、装置、电子设备、介质和计算机程序产品。
背景技术
现有技术中,对于图像增强的方法分为两大类,第一类是传统图像增强方法,比如模糊增强、直方图均衡化或者频率域滤波等,第二类是基于学习的图像增强方法,其中分为两种,一种是基于成对图像的方法,成对图像数据集通常是简单地增加或者减少曝光时间来模拟光照变化,另一种是基于不成对图像的方法,仅针对光照差异,获取真实低光照人脸图像和正常光照人脸图像。
传统图像增强方法由于算法设计简单导致增强效果不佳,鲁棒性差。基于学习的图像增强方法中基于成对图像的方法难以模拟现实中的光照变化,偏离低光照和正常光照条件下的真实映射,因此增强效果不佳,准确性差。基于不成对图像的方法由于缺乏成对图像的约束,低光照人脸图像和正常光照人脸图像不对齐,造成增强效果较差。
基于此,现有技术中的低光照条件下的人脸识别技术由于人脸图像增强效果不佳,导致识别准确性较差,不便于广泛地应用。
发明内容
有鉴于此,本公开提供了一种图像增强效果好以及人脸识别结果准确的低光照条件下的人脸识别方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
本公开的一个方面提供了一种低光照条件下的人脸识别方法,包括:获取低光照条件下的第一人脸图像;利用预先构建的图像增强模型中的人脸图像增强映射关系,对所述第一人脸图像进行图像增强,得到正常光照条件下的第二人脸图像,其中,所述图像增强模型的训练样本通过人脸对齐技术得到,所述人脸对齐技术为提取获取的低光照人脸图像和正常光照人脸图像的图像对的m对人脸特征,并通过仿射变换函数对齐所述m对人脸特征;以及将所述第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。
根据本公开实施例的低光照条件下的人脸识别方法,通过人脸对齐技术得到训练样本,使用该训练样本预先构建的图像增强模型中的人脸图像增强映射关系比较准确,使得图像增强效果较好。利用本公开的图像增强模型得到的第二人脸图像较接近真实的正常光照条件下的图像,将第二人脸图像与人脸图像数据库中的人脸图像匹配,可以便于匹配到与第二人脸图像对应的人脸图像,使得人脸识别结果较准确。
在一些实施例中,所述预先构建图像增强模型,包括:构建训练样本,其中,所述训练样本包括m对人脸特征对齐后的对齐图像对,所述对齐图像对包括对齐低光照人脸图像和对齐正常光照人脸图像;利用所述训练样本按照设定的迭代次数优化所述图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系;以及将所述训练人脸图像增强映射关系作为所述图像增强模型的人脸图像增强映射关系进行应用。
在一些实施例中,所述构建训练样本,包括:将获取的低光照人脸图像和正常光照人脸图像组成图像对,其中,所述低光照人脸图像包括多个低光照时间点的图像,所述正常光照人脸图像包括正常光照条件下的图像;提取所述图像对的m对人脸特征,其中,每对所述人脸特征包括所述低光照人脸图像的一个人脸部位的特征和所述正常光照人脸图像的对应人脸部位的特征;以及通过仿射变换函数对齐所述m对人脸特征,将对齐后的对齐图像对作为训练样本。
在一些实施例中,所述人脸部位包括眼睛、鼻子、嘴巴、耳朵、眉毛、颧骨、下巴或额头。
在一些实施例中,所述利用所述训练样本按照设定的迭代次数优化所述图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系,包括:对所述训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像;以及将所述训练样本中的对齐正常光照人脸图像作为真值,根据所述增强图像和损失函数,按照设定的迭代次数优化所述图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系。
在一些实施例中,所述对所述训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像,包括:提取所述对齐低光照人脸图像的浅层特征;提取所述浅层特征的深层密集特征;以及对所述深层密集特征进行光照增强,得到增强图像。
在一些实施例中,所述将所述第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果,包括:对所述第二人脸图像进行特征提取,得到多维特征向量;将所述多维特征向量与人脸图像数据库中的人脸图像向量分别进行相似度计算,得到相似度结果;以及利用K最邻近分类算法对所述相似度结果进行处理,得到人脸识别结果。
本公开的另一个方面提供了一种低光照条件下的人脸识别装置,包括:获取模块,所述获取模块用于执行获取低光照条件下的第一人脸图像;第一确定模块,所述第一确定模块用于执行利用预先构建的图像增强模型中的人脸图像增强映射关系,对所述第一人脸图像进行图像增强,得到正常光照条件下的第二人脸图像,其中,所述图像增强模型的训练样本通过人脸对齐技术得到,所述人脸对齐技术为提取获取的低光照人脸图像和正常光照人脸图像的图像对的m对人脸特征,并通过仿射变换函数对齐所述m对人脸特征;以及第二确定模块,所述第二确定模块用于执行将所述第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。
本公开的另一方面提供了一种电子设备,包括一个或多个处理器以及一个或多个存储器,其中,所述存储器用于存储可执行指令,所述可执行指令在被所述处理器执行时,实现如上所述方法。
本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序产品,包括计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用方法、装置的示例性系统架构;
图2示意性示出了根据本公开实施例的低光照条件下的人脸识别方法的流程图;
图3示意性示出了根据本公开实施例的预先构建图像增强模型的流程图;
图4示意性示出了根据本公开实施例的构建训练样本的流程图;
图5示意性示出了根据本公开实施例的利用训练样本按照设定的迭代次数优化图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系的流程图;
图6示意性示出了根据本公开实施例的对训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像的流程图;
图7示意性示出了根据本公开实施例的将第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果的流程图;
图8示意性示出了根据本公开实施例的低光照条件下的人脸识别方法的流程图;
图9示意性示出了根据本公开实施例的低光照条件下的人脸识别装置的框图;
图10示意性示出了根据本公开实施例的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。在本公开的技术方案中,对数据的获取、收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。
现有技术中,对于图像增强的方法分为两大类,第一类是传统图像增强方法,比如模糊增强、直方图均衡化或者频率域滤波等,第二类是基于学习的图像增强方法,其中分为两种,一种是基于成对图像的方法,成对图像数据集通常是简单地增加或者减少曝光时间来模拟光照变化,另一种是基于不成对图像的方法,仅针对光照差异,获取真实低光照人脸图像和正常光照人脸图像。
传统图像增强方法由于算法设计简单导致增强效果不佳,鲁棒性差。基于学习的图像增强方法中基于成对图像的方法难以模拟现实中的光照变化,偏离低光照和正常光照条件下的真实映射,因此增强效果不佳,准确性差。基于不成对图像的方法由于缺乏成对图像的约束,低光照人脸图像和正常光照人脸图像不对齐,造成增强效果较差。
基于此,现有技术中的低光照条件下的人脸识别技术由于人脸图像增强效果不佳,导致识别准确性较差,不便于广泛地应用。
本公开的实施例提供了一种低光照条件下的人脸识别方法、装置、电子设备、计算机可读存储介质和计算机程序产品。低光照条件下的人脸识别方法包括:获取低光照条件下的第一人脸图像;利用预先构建的图像增强模型中的人脸图像增强映射关系,对第一人脸图像进行图像增强,得到正常光照条件下的第二人脸图像,其中,图像增强模型的训练样本通过人脸对齐技术得到,人脸对齐技术为提取获取的低光照人脸图像和正常光照人脸图像的图像对的m对人脸特征,并通过仿射变换函数对齐m对人脸特征;以及将第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。
需要说明的是,本公开的低光照条件下的人脸识别方法、装置、电子设备、计算机可读存储介质和计算机程序产品可用于人工智能技术领域,也可用于除人工智能技术领域之外的任意领域,例如金融领域,这里对本公开的领域不做限定。
图1示意性示出了根据本公开实施例的可以应用低光照条件下的人脸识别方法、装置、电子设备、计算机可读存储介质和计算机程序产品的示例性系统架构100。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的低光照条件下的人脸识别方法一般可以由服务器105执行。相应地,本公开实施例所提供的低光照条件下的人脸识别装置一般可以设置于服务器105中。本公开实施例所提供的低光照条件下的人脸识别方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的低光照条件下的人脸识别装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图7对本公开实施例的低光照条件下的人脸识别方法进行详细描述。
图2示意性示出了根据本公开实施例的低光照条件下的人脸识别方法的流程图。
如图2所示,该实施例的低光照条件下的人脸识别方法包括操作S210~操作S230。
在操作S210,获取低光照条件下的第一人脸图像。
在操作S220,利用预先构建的图像增强模型中的人脸图像增强映射关系,对第一人脸图像进行图像增强,得到正常光照条件下的第二人脸图像,其中,图像增强模型的训练样本通过人脸对齐技术得到,人脸对齐技术为提取获取的低光照人脸图像和正常光照人脸图像的图像对的m对人脸特征,并通过仿射变换函数对齐m对人脸特征。
在操作S230,将第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。
根据本公开实施例的低光照条件下的人脸识别方法,通过人脸对齐技术得到训练样本,使用该训练样本预先构建的图像增强模型中的人脸图像增强映射关系比较准确,使得图像增强效果较好。利用本公开的图像增强模型得到的第二人脸图像较接近真实的正常光照条件下的图像,将第二人脸图像与人脸图像数据库中的人脸图像匹配,可以便于匹配到与第二人脸图像对应的人脸图像,使得人脸识别结果较准确。
图3示意性示出了根据本公开实施例的预先构建图像增强模型的流程图。
预先构建图像增强模型包括操作S31 0~操作S330。
在操作S310,构建训练样本,其中,训练样本包括m对人脸特征对齐后的对齐图像对,对齐图像对包括对齐低光照人脸图像和对齐正常光照人脸图像。
作为一种可能实施的方式,如图4所示,操作S310构建训练样本,包括操作S311~操作S313。
在操作S311,将获取的低光照人脸图像和正常光照人脸图像组成图像对,其中,低光照人脸图像包括多个低光照时间点的图像,正常光照人脸图像包括正常光照条件下的图像。
例如,可以通过图像采集设备采集夜晚低光照条件下的低光照人脸图像,并在不同时间点,例如夜晚6点、8点和10点分别获取不同程度的低光照图像。上述夜晚6点、8点和10点仅为举例说明,不能理解为对本公开的限制。正常光照人脸图像可以通过补光设备得到,因此可以将不同时间点(例如夜晚6点、8点和10点)获取的不同程度的低光照人脸图像以及对应的正常光照人脸图像组成图像对,得到成对的真实低光照人脸数据集。成对的图像对具体可以表示为:
Figure BDA0004176046230000091
其中,i表示身份标识,s表示夜晚6点光照条件,e表示夜晚8点光照条件,t表示夜晚10点光照条件,g表示正常光照条件,K表示不同人脸图像总数。
在操作S312,提取图像对的m对人脸特征,其中,每对人脸特征包括低光照人脸图像的一个人脸部位的特征和正常光照人脸图像的对应人脸部位的特征。例如,可以通过计算机视觉库(opencv)中人脸关键点检测方法提取图像对的m对人脸特征,例如m可以为68。在一些示例中,人脸部位可以包括眼睛、鼻子、嘴巴、耳朵、眉毛、颧骨、下巴或额头。
在操作S313,通过仿射变换函数对齐m对人脸特征,将对齐后的对齐图像对作为训练样本。例如,可以将m对人脸特征表示为nums,对齐图像对可以表示为
Figure BDA0004176046230000092
通过公式(1)可以得到对齐图像对。
Figure BDA0004176046230000093
其中,f(·)表示仿射变换函数。通过操作S311~操作S313可以便于构建训练样本。
在操作S320,利用训练样本按照设定的迭代次数优化图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系。
作为一种可实施的方式,如图5所示,操作S320利用训练样本按照设定的迭代次数优化图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系,包括操作S321和操作S322。
在操作S321,对训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像。
在一些示例中,如图6所示,操作S321对训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像,包括操作S3211~操作S3213。
在操作S3211,提取对齐低光照人脸图像的浅层特征,例如可以将
Figure BDA0004176046230000094
作为待光照增强图像ILR输入到图像增强模型(RDN)中,通过两个浅层卷积层提取浅层特征,浅层特征可以表示为F0,F0可以通过公式(2)得到。
F0=HSFE(ILR) (2)
其中,HSFE(·)表示两个卷积函数。
在操作S3212,提取浅层特征的深层密集特征,例如可以通过残差密集块(RDB)提取深层密集特征,深层密集特征可以表示为FDF,FDF可以通过公式(3)得到。
FDF=HRDB,d(F0) (3)
其中,HRDB,d(·)表示多个残差密集块函数,d表示残差密集块个数。
在操作S3213,对深层密集特征进行光照增强,得到增强图像,例如可以通过上采样模块(Upscale)对深层密集特征进行光照增强,得到增强图像IHR,IHR可以通过公式(4)得到。
IHR=Hup(FDF) (4)
其中,Hup(·)表示上采样模块以及最后一个卷积层。
通过操作S3211~操作S3213可以便于实现对训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像。
在操作S322,将训练样本中的对齐正常光照人脸图像作为真值,根据增强图像和损失函数,按照设定的迭代次数优化图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系。通过操作S321和操作S322可以便于实现利用训练样本按照设定的迭代次数优化图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系。
在操作S330,将训练人脸图像增强映射关系作为图像增强模型的人脸图像增强映射关系进行应用。由此,通过操作S310~操作S330可以便于实现预先构建图像增强模型。
图7示意性示出了根据本公开实施例的将第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果的流程图。
操作S230将第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果,包括操作S231~操作S233。
在操作S231,对第二人脸图像进行特征提取,得到多维特征向量,多维特征向量可以表示为Fn,Fn可以通过公式(5)得到。
Fn=CNN(IHR) (5)
其中,CNN(·)表示卷积神经网络。例如n可以为128。
在操作S232,将多维特征向量与人脸图像数据库中的人脸图像向量分别进行相似度计算,得到相似度结果。
在操作S233,利用K最邻近分类算法对相似度结果进行处理,得到人脸识别结果。例如人脸识别结果可以用result表示,result可以通过公式(6)得到。
result=knn(L(Fn,FaceData)) (6)
其中,L(·)表示相似度计算公式,FaceData表示人脸图像数据库,knn(·)表示K最邻近分类算法。由此,通过操作S231~操作S233可以便于实现将第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。
下面参照图8详细描述根据本公开实施例的低光照条件下的人脸识别方法。值得理解的是,下述描述仅是示例性说明,而不是对本公开的具体限制。
本公开提供一种低光照条件下的人脸识别方法。首先采集真实低光照与正常光照人脸图像并通过人脸对齐模块对齐,然后通过基于深度学习的人脸增强方法学习低光照和正常光照条件下人脸图像的真实映射,从而能够更好地增强人脸,提升人脸识别准确率。
本公开的低光照条件下的人脸识别方法的流程图如图8所示,具体如下。
1、制作数据集。首先通过图像采集设备采集夜晚低光照人脸图像,并通过补光设备得到相应正常光照条件下的人脸图像,得到成对的低光照和正常光照的人脸图像对。并在不同时间点(夜晚6点,8点,10点)获取不同程度的低光照图像以及对应正常光照图像,组成成对图像,得到成对的真实低光照人脸数据集。成对图像具体为:
Figure BDA0004176046230000111
其中,i表示身份标识,s表示夜晚6点光照条件,e表示夜晚8点光照条件,t表示10点光照条件,g表示正常光照条件,K表示不同人脸图像总数。
2、人脸对齐。将
Figure BDA0004176046230000121
输入人脸对齐模块对齐低光照和正常光照条件下的人脸图像。首先通过计算机视觉库opencv中人脸关键点检测方法提取人脸68个关键点,表示为nums,包含眼睛、鼻子、嘴巴等部位的关键点,然后通过仿射变换将低光照人脸对齐正常光照人脸,具体为:/>
Figure BDA0004176046230000122
其中,
Figure BDA0004176046230000123
表示对齐后的人脸图像,f(·)表示仿射变换函数。
3、然后将
Figure BDA0004176046230000124
输入到基于深度学习的图像增强方法RDN(ResidualDense Network for image super-resolution),正常光照图像作为真值,损失函数是L2损失。RDN主要由多组残差密集块组成,残差密集块包括残差密集连接的卷积层,它们能够充分进行特征提取,有助于图像增强。RDN光照增强主要流程如下。
3.1、将
Figure BDA0004176046230000125
作为待光照增强图像ILR输入到RDN中,首先通过两个浅层卷积提取浅层特征,表示为F0,具体为:F0=HSFE(ILR)
其中,HSFE(·)表示两个卷积函数。
3.2、之后,将F0通过多个残差密集块RDB提取深层密集特征,表示为FDF,具体为:FDF=HRDB,d(F0)
其中,HRDB,d(·)表示多个残差密集块函数,d表示残差密集块个数。
3.3、最后是将FDF通过上采样模块Upscale(这里上采样倍数为1)以及最后一个卷积层实现最终光照增强,得到增强后的图像IHR,具体为:
IHR=Hup(FDF)
其中,Hap(·)表示上采样模块以及最后一个卷积层。
通过多轮迭代训练,RDN能够学习到低光照和正常光照条件下人脸图像之间的真实映射,对低光照人脸图像进行增强得到光照增强后的人脸图像。
4、将光照增强后的人脸图像IHR输入到人脸识别方法FaceNet(A UnifiedEmbedding for Face Recognition and Clustering)中进行人脸识别。
人脸识别流程如下。
4.1、提取特征。该方法首先通过卷积神经网络CNN进行特征提取,得到128维的特征向量表示为F128,具体为:F128=CNN(IHR)
其中,CNN表示卷积神经网络。
4.2、人脸识别。最后与数据库FaceData中人脸计算欧式距离,通过k最近邻分类算法得到识别结果result。具体为:result=knn(L(F128,FaceData))
其中,L(·)表示欧式距离计算函数,knn(·)表示k最近邻分类算法。
基于上述低光照条件下的人脸识别方法,本公开还提供了一种低光照条件下的人脸识别装置。以下将结合图9对低光照条件下的人脸识别装置10进行详细描述。
图9示意性示出了根据本公开实施例的低光照条件下的人脸识别装置10的结构框图。
低光照条件下的人脸识别装置10包括获取模块1、第一确定模块2和第二确定模块3。
获取模块1,获取模块1用于执行操作S210:获取低光照条件下的第一人脸图像。
第一确定模块2,第一确定模块2用于执行操作S220:利用预先构建的图像增强模型中的人脸图像增强映射关系,对第一人脸图像进行图像增强,得到正常光照条件下的第二人脸图像,其中,图像增强模型的训练样本通过人脸对齐技术得到,人脸对齐技术为提取获取的低光照人脸图像和正常光照人脸图像的图像对的m对人脸特征,并通过仿射变换对齐m对人脸特征。
第二确定模块3,第二确定模块3用于执行操作S230:将第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。
根据本公开的一些实施例,低光照条件下的人脸识别装置还可以包括预构建模块,预构建模块用于预先构建图像增强模型,预构建模块可以包括构建单元、训练单元和第一确定单元。
构建单元,构建单元用于构建训练样本,其中,训练样本包括m对人脸特征对齐后的对齐图像对,对齐图像对包括对齐低光照人脸图像和对齐正常光照人脸图像。
训练单元,训练单元用于利用训练样本按照设定的迭代次数优化图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系。
第一确定单元,第一确定单元用于将训练人脸图像增强映射关系作为图像增强模型的人脸图像增强映射关系进行应用。
根据本公开的一些实施例,构建单元可以包括第一确定元件、提取元件和第二确定元件。
第一确定元件,第一确定元件用于将获取的低光照人脸图像和正常光照人脸图像组成图像对,其中,低光照人脸图像包括多个低光照时间点的图像,正常光照人脸图像包括正常光照条件下的图像。
提取元件,提取元件用于提取图像对的m对人脸特征,其中,每对人脸特征包括低光照人脸图像的一个人脸部位的特征和正常光照人脸图像的对应人脸部位的特征。
第二确定元件,第二确定元件用于通过仿射变换函数对齐m对人脸特征,将对齐后的对齐图像对作为训练样本。
根据本公开的一些实施例,训练单元可以包括卷积元件和训练元件。
卷积元件,卷积元件用于对训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像。
训练元件,训练元件用于将训练样本中的对齐正常光照人脸图像作为真值,根据增强图像和损失函数,按照设定的迭代次数优化图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系。
根据本公开的一些实施例,卷积元件可以包括第一提取件、第二提取件和确定件。
第一提取件,第一提取件用于提取对齐低光照人脸图像的浅层特征。
第二提取件,第二提取件用于提取浅层特征的深层密集特征。
确定件,确定件用于对深层密集特征进行光照增强,得到增强图像。
根据本公开的一些实施例,第二确定模块可以包括提取单元、计算单元和处理单元。
提取单元,提取单元用于对第二人脸图像进行特征提取,得到多维特征向量。
计算单元,计算单元用于将多维特征向量与人脸图像数据库中的人脸图像向量分别进行相似度计算,得到相似度结果。
处理单元,处理单元用于利用K最邻近分类算法对相似度结果进行处理,得到人脸识别结果。
根据本公开实施例的低光照条件下的人脸识别装置10,通过人脸对齐技术得到训练样本,使用该训练样本预先构建的图像增强模型中的人脸图像增强映射关系比较准确,使得图像增强效果较好。利用本公开的图像增强模型得到的第二人脸图像较接近真实的正常光照条件下的图像,将第二人脸图像与人脸图像数据库中的人脸图像匹配,可以便于匹配到与第二人脸图像对应的人脸图像,使得人脸识别结果较准确。
另外,根据本公开的实施例,获取模块1、第一确定模块2和第二确定模块3中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。
根据本公开的实施例,获取模块1、第一确定模块2和第二确定模块3中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。
或者,获取模块1、第一确定模块2和第二确定模块3中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图10示意性示出了根据本公开实施例的适于实现上述方法的电子设备的方框图。
如图10所示,根据本公开实施例的电子设备900包括处理器901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 903中,存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备900还可以包括输入/输出(I/O)接口905,输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至输入/输出(I/O)接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例的方法。
在该计算机程序被处理器901执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分909被下载和安装,和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (11)

1.一种低光照条件下的人脸识别方法,其特征在于,包括:
获取低光照条件下的第一人脸图像;
利用预先构建的图像增强模型中的人脸图像增强映射关系,对所述第一人脸图像进行图像增强,得到正常光照条件下的第二人脸图像,其中,所述图像增强模型的训练样本通过人脸对齐技术得到,所述人脸对齐技术为提取获取的低光照人脸图像和正常光照人脸图像的图像对的m对人脸特征,并通过仿射变换函数对齐所述m对人脸特征;以及
将所述第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。
2.根据权利要求1所述的方法,其特征在于,所述预先构建图像增强模型,包括:
构建训练样本,其中,所述训练样本包括m对人脸特征对齐后的对齐图像对,所述对齐图像对包括对齐低光照人脸图像和对齐正常光照人脸图像;
利用所述训练样本按照设定的迭代次数优化所述图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系;以及
将所述训练人脸图像增强映射关系作为所述图像增强模型的人脸图像增强映射关系进行应用。
3.根据权利要求2所述的方法,其特征在于,所述构建训练样本,包括:
将获取的低光照人脸图像和正常光照人脸图像组成图像对,其中,所述低光照人脸图像包括多个低光照时间点的图像,所述正常光照人脸图像包括正常光照条件下的图像;
提取所述图像对的m对人脸特征,其中,每对所述人脸特征包括所述低光照人脸图像的一个人脸部位的特征和所述正常光照人脸图像的对应人脸部位的特征;以及
通过仿射变换函数对齐所述m对人脸特征,将对齐后的对齐图像对作为训练样本。
4.根据权利要求3所述的方法,其特征在于,所述人脸部位包括眼睛、鼻子、嘴巴、耳朵、眉毛、颧骨、下巴或额头。
5.根据权利要求2所述的方法,其特征在于,所述利用所述训练样本按照设定的迭代次数优化所述图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系,包括:
对所述训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像;以及
将所述训练样本中的对齐正常光照人脸图像作为真值,根据所述增强图像和损失函数,按照设定的迭代次数优化所述图像增强模型中的初始人脸图像增强映射关系,得到训练人脸图像增强映射关系。
6.根据权利要求5所述的方法,其特征在于,所述对所述训练样本中的对齐低光照人脸图像进行卷积操作,得到增强图像,包括:
提取所述对齐低光照人脸图像的浅层特征;
提取所述浅层特征的深层密集特征;以及
对所述深层密集特征进行光照增强,得到增强图像。
7.根据权利要求1所述的方法,其特征在于,所述将所述第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果,包括:
对所述第二人脸图像进行特征提取,得到多维特征向量;
将所述多维特征向量与人脸图像数据库中的人脸图像向量分别进行相似度计算,得到相似度结果;以及
利用K最邻近分类算法对所述相似度结果进行处理,得到人脸识别结果。
8.一种低光照条件下的人脸识别装置,其特征在于,包括:
获取模块,所述获取模块用于执行获取低光照条件下的第一人脸图像;
第一确定模块,所述第一确定模块用于执行利用预先构建的图像增强模型中的人脸图像增强映射关系,对所述第一人脸图像进行图像增强,得到正常光照条件下的第二人脸图像,其中,所述图像增强模型的训练样本通过人脸对齐技术得到,所述人脸对齐技术为提取获取的低光照人脸图像和正常光照人脸图像的图像对的m对人脸特征,并通过仿射变换函数对齐所述m对人脸特征;以及
第二确定模块,所述第二确定模块用于执行将所述第二人脸图像与人脸图像数据库中的人脸图像匹配,将匹配到的人脸图像作为人脸识别结果。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
一个或多个存储器,用于存储可执行指令,所述可执行指令在被所述处理器执行时,实现根据权利要求1~7中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质上存储有可执行指令,该指令被处理器执行时实现根据权利要求1~7中任一项所述的方法。
11.一种计算机程序产品,其特征在于,包括计算机程序,所述计算机程序包括一个或者多个可执行指令,所述可执行指令被处理器执行时实现根据权利要求1~7中任一项所述的方法。
CN202310391703.0A 2023-04-13 2023-04-13 人脸识别方法、装置、电子设备、介质和程序产品 Pending CN116403266A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310391703.0A CN116403266A (zh) 2023-04-13 2023-04-13 人脸识别方法、装置、电子设备、介质和程序产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310391703.0A CN116403266A (zh) 2023-04-13 2023-04-13 人脸识别方法、装置、电子设备、介质和程序产品

Publications (1)

Publication Number Publication Date
CN116403266A true CN116403266A (zh) 2023-07-07

Family

ID=87010131

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310391703.0A Pending CN116403266A (zh) 2023-04-13 2023-04-13 人脸识别方法、装置、电子设备、介质和程序产品

Country Status (1)

Country Link
CN (1) CN116403266A (zh)

Similar Documents

Publication Publication Date Title
CN108509915B (zh) 人脸识别模型的生成方法和装置
US11775574B2 (en) Method and apparatus for visual question answering, computer device and medium
WO2020215974A1 (zh) 用于人体检测的方法和装置
WO2022105125A1 (zh) 图像分割方法、装置、计算机设备及存储介质
CN108280477B (zh) 用于聚类图像的方法和装置
WO2022257578A1 (zh) 用于识别文本的方法和装置
US10552471B1 (en) Determining identities of multiple people in a digital image
EP4085369A1 (en) Forgery detection of face image
EP4394726A1 (en) Image classification method and apparatus, computer device, and storage medium
WO2022105118A1 (zh) 基于图像的健康状态识别方法、装置、设备及存储介质
WO2022247539A1 (zh) 活体检测方法、估算网络处理方法、装置、计算机设备和计算机可读指令产品
CN111078940A (zh) 图像处理方法、装置、计算机存储介质及电子设备
CN114611672B (zh) 模型训练方法、人脸识别方法及装置
TWI803243B (zh) 圖像擴增方法、電腦設備及儲存介質
CN112069412B (zh) 信息推荐方法、装置、计算机设备及存储介质
WO2023231753A1 (zh) 一种神经网络的训练方法、数据的处理方法以及设备
CN114037985A (zh) 信息提取方法、装置、设备、介质及产品
CN114445904A (zh) 基于全卷积神经网络的虹膜分割方法和装置、介质和设备
CN112396060B (zh) 基于身份证分割模型的身份证识别方法及其相关设备
WO2024027347A1 (zh) 内容识别方法、装置、设备、存储介质及计算机程序产品
CN117520815A (zh) 基于多模态的信息抽取方法、装置、设备及存储介质
Agarwal et al. Unmasking the potential: evaluating image inpainting techniques for masked face reconstruction
CN116403266A (zh) 人脸识别方法、装置、电子设备、介质和程序产品
CN111966851B (zh) 基于少量样本的图像识别方法和系统
US20240161382A1 (en) Texture completion

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination