CN114241588B - 一种自适应人脸比对方法及系统 - Google Patents
一种自适应人脸比对方法及系统 Download PDFInfo
- Publication number
- CN114241588B CN114241588B CN202210168544.3A CN202210168544A CN114241588B CN 114241588 B CN114241588 B CN 114241588B CN 202210168544 A CN202210168544 A CN 202210168544A CN 114241588 B CN114241588 B CN 114241588B
- Authority
- CN
- China
- Prior art keywords
- user
- face
- euclidean distance
- photograph
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000004364 calculation method Methods 0.000 claims description 26
- 230000003044 adaptive effect Effects 0.000 claims description 15
- 230000002123 temporal effect Effects 0.000 claims description 12
- 238000001514 detection method Methods 0.000 description 4
- 238000012795 verification Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000010845 search algorithm Methods 0.000 description 1
Images
Landscapes
- Collating Specific Patterns (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种自适应人脸比对方法及系统,包括:搜索当前人脸照与人脸特征值库中所有证照人脸特征值欧式距离最短的第一用户以及所有活体照人脸特征值欧式距离最短的第二用户;获取第一用户或第二用户的证照和活体照与当前人脸照的第一时间距离或第二时间距离,并计算第一时间权重或第二时间权重;计算当前人脸照与该用户证件照和活体照的第一时间权重欧式距离或第二时间权重欧式距离,并选择小于阈值中最小的权重欧式距离所对应的第一用户或第二用户作为当前人脸照的搜索结果。本发明采用时间距离作为权重计算人脸特征值欧式距离,提高了比对准确性;采用两轮搜索进行人脸特征值欧式距离比对,保障搜索结果一致性。
Description
技术领域
本发明涉及人脸识别技术领域,具体涉及一种自适应人脸比对方法及系统。
背景技术
当前,人脸识别技术普遍采用神经网络Facenet模型提取512维的人脸特征,在最后一层用传统机器学习的KNN(k-近邻算法)模型比对人脸特征,从而实现人脸识别。Facenet是Google提出的一个用于人脸识别的深度卷积神经网络,其具体模型其实是一个类似于Inception Net的CNN模型,只是其最后一层不是通过传统的Softmax layer来训练,而是通过提取512维的人脸特征用Triplet Loss来训练。
利用上述人脸特征提取算法,可进一步进行人脸比对。人脸比对算法的输入是两个人脸特征(注:人脸特征由上述的人脸特征提取算法获得),输出是两个特征之间的相似度;人脸验证、人脸识别、人脸检索都是在人脸比对的基础上加一些策略来实现。
在人脸比对中,通常采用欧氏距离和余弦距离来衡量人脸特征的差异来表征人脸相似度,当差异小于阈值,判别为同一个人;当前,该技术已普遍应用于智能楼宇门禁系统,并在银行用户开户业务进行试点。
现有人脸相似度比对算法,在应用于银行用户远程开户场景中,通过证件(如身份证)采集、活体检测,实现人证核验,完成开户;同时,银行将保存证件照和活体照的人脸特征值至人脸特征值库。但,在后续银行开展业务时将面临如下场景:
1.当用户下次使用另一个不同的证照(如护照),则需要搜索上述人脸特征值库,查询该用户是否曾经已成功开过户;
2.当用户用手机银行进行支付、转账等业务使用人脸校验,则需要比对该用户当前人脸采集特征值与开户时存储的特征值。
针对以上应用场景,现有的方法是将当前采集的人脸特征值与已存储的证照人脸或活体检测人脸特征值做比对;但是由于证件照与活体检测拍照的时间间隔较长,存在另一个证件中的人脸照片与哪一个相似度更接近的问题;
如果将当前采集的人脸特征值分别与已存储的证照人脸和活体检测人脸特征值做比对,则存在结果不一致问题,即第一轮搜索证件照,得到距离最接近的人脸,与第二轮搜索活体照得到的人脸,不能确保是同一人。
以上两种比对方法,都不适合于银行业务中人脸支付和转账交易场景。
发明内容
针对现有技术中存在的上述问题,本发明提供一种自适应人脸比对方法及系统,可有效消除证件照和活体照差异造成的搜索结果一致性的缺陷。
本发明公开了一种自适应人脸比对方法,包括:
采集证件或活体照片的当前人脸照,并获取当前人脸照特征值;
搜索当前人脸照与人脸特征值库中所有证照人脸特征值欧式距离最短的第一用户;
获取所述第一用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第一时间距离;
基于所述第一时间距离,计算第一时间权重;
基于当前人脸照特征值、第一用户证照人脸特征值、活体照人脸特征值和第一时间权重,计算当前人脸照与该用户证件照和活体照的第一时间权重欧式距离;
搜索当前人脸照与人脸特征值库中所有活体照人脸特征值欧式距离最短的第二用户;
若第二用户与第一用户不为同一用户,则获取所述第二用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第二时间距离;
基于所述第二时间距离,计算第二时间权重;
基于当前人脸照特征值、第二用户证照人脸特征值、活体照人脸特征值和第二时间权重,计算当前人脸照与该用户证件照和活体照的第二时间权重欧式距离;
若第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离小于预设阈值,则将该欧式距离对应的第一用户或第二用户作为当前人脸照的搜索结果。
作为本发明的进一步改进,还包括:
若第二用户与第一用户为同一用户,则直接判断第一时间权重欧式距离是否小于预设阈值;
若小于预设阈值,则将第一用户作为当前人脸照的搜索结果。
作为本发明的进一步改进,还包括:
若第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离不小于预设阈值,则输出无匹配结果。
作为本发明的进一步改进,
作为本发明的进一步改进,
所述第一时间权重的计算公式为:
所述第二时间权重的计算公式为:
作为本发明的进一步改进,
作为本发明的进一步改进,所述阈值为1.4。
本发明公开了一种自适应人脸比对系统,包括:
采集模块,用于:
采集证件或活体照片的当前人脸照,并获取当前人脸照特征值;
搜索模块,用于:
搜索当前人脸照与人脸特征值库中所有证照人脸特征值欧式距离最短的第一用户;
搜索当前人脸照与人脸特征值库中所有活体照人脸特征值欧式距离最短的第二用户;
时间距离计算模块,用于:
获取所述第一用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第一时间距离;
若第二用户与第一用户不为同一用户,则获取所述第二用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第二时间距离;
时间权重计算模块,用于:
基于所述第一时间距离,计算第一时间权重;
基于所述第二时间距离,计算第二时间权重;
欧式距离计算模块,用于:
基于当前人脸照特征值、第一用户证照人脸特征值、活体照人脸特征值和第一时间权重,计算当前人脸照与该用户证件照和活体照的第一时间权重欧式距离;
基于当前人脸照特征值、第二用户证照人脸特征值、活体照人脸特征值和第二时间权重,计算当前人脸照与该用户证件照和活体照的第二时间权重欧式距离;
判断模块,用于:
判断第二用户与第一用户是否同一用户;
比较第一时间权重欧式距离、第二时间权重欧式距离与阈值;
若第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离小于预设阈值,则将该欧式距离对应的第一用户或第二用户作为当前人脸照的搜索结果。
作为本发明的进一步改进,所述判断模块,还用于:
若第二用户与第一用户为同一用户,则直接判断第一时间权重欧式距离是否小于预设阈值;若小于预设阈值,则将第一用户作为当前人脸照的搜索结果。
作为本发明的进一步改进,所述判断模块,还用于:
若第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离不小于预设阈值,则输出无匹配结果。
与现有技术相比,本发明的有益效果为:
本发明采用时间距离作为权重计算人脸特征值欧式距离,自适应时间间隔对比对结果的影响,提高了比对准确性;
本发明采用两轮搜索进行人脸特征值欧式距离比对,保障搜索结果一致性。
附图说明
图1为本发明一种实施例公开的自适应人脸比对方法的流程图;
图2为本发明一种实施例公开的自适应人脸比对系统的框架图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面结合附图对本发明做进一步的详细描述:
如图1所示,本发明提供一种自适应人脸比对方法,包括:
步骤1、采集证件或活体照片的当前人脸照,并获取当前人脸照特征值。
步骤2、搜索当前人脸照与人脸特征值库中所有证照人脸特征值欧式距离最短的第一用户;其中,
人脸特征值库中存储有多组证照、活体照以及各自的人脸特征值;
采用向量数据对人脸特征进行存储,使用Navigable-Small-World-Graph( NSW)搜索算法,实现第一用户的搜索。
步骤3、获取第一用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第一时间距离;其中,
步骤4、基于第一时间距离,计算第一时间权重;其中,
步骤5、基于当前人脸照特征值、第一用户证照人脸特征值、活体照人脸特征值和第一时间权重,计算当前人脸照与第一用户证件照和活体照的第一时间权重欧式距离;其中,
步骤6、采用与步骤2相同的方法,搜索当前人脸照与人脸特征值库中所有活体照人脸特征值欧式距离最短的第二用户;
步骤7、判断第二用户与第一用户是否为同一用户;
若为同一用户,则无需采用与步骤3~步骤5相同的方法计算当前人脸照与第二用户证件照和活体照的第二时间权重欧式距离,直接跳至步骤11;
步骤8、若第二用户与第一用户不为同一用户,则获取第二用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第二时间距离;其中,
步骤9、基于第二时间距离,计算第二时间权重;其中,
步骤10、基于当前人脸照特征值、第二用户证照人脸特征值、活体照人脸特征值和第二时间权重,计算当前人脸照与第二用户证件照和活体照的第二时间权重欧式距离;其中,
步骤11、比较第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离是否小于预设阈值,优选预设阈值取1.4:
若第一时间权重欧式距离为最小的欧式距离且小于阈值,则将第一用户作为当前人脸照的搜索结果;
若第二时间权重欧式距离为最小的欧式距离且小于阈值,则将第二用户作为当前人脸照的搜索结果;
若最小的欧式距离不小于阈值,则输出无匹配结果;
若第二用户与第一用户为同一用户,则当该用户的时间权重欧式距离小于阈值时,输出该用户作为当前人脸照的搜索结果;当该用户的时间权重欧式距离不小于阈值时,则输出无匹配结果;
具体判断过程为:
如图2所示,本发明提供一种自适应人脸比对系统,包括:
采集模块,用于实现上述步骤1;
搜索模块,用于实现上述步骤2、6;
时间距离计算模块,用于实现上述步骤3、8;
时间权重计算模块,用于实现上述步骤4、9;
欧式距离计算模块,用于实现上述步骤5、10;
判断模块,用于实现上述步骤7、11。
实施例:
采集8560人的人脸和身份证照片库,每个人对应一个身份证和活体照片;用三个人进行拍照后进行搜索验证,其中两人已在库中存在身份证和活体照片,另一人未采集过相应照片;按以上方法,得到的匹配结果如表1:
表1
结论:
如果采用单一比对(只比对身份证)搜索,用户1能够匹配到正确的人脸用户信息,但用户2搜索到的人脸信息是错误的,用户3搜索比对距离超出阈值,匹配不到用户;
如果采用单一比对(只比对活体照)搜索,用户2能够匹配到正确的人脸用户信息,但用户1搜索到的人脸信息是错误的,用户3搜索到错误的匹配人脸用户。
以上仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种自适应人脸比对方法,其特征在于,包括:
采集证件或活体照片的当前人脸照,并获取当前人脸照特征值;
搜索当前人脸照与人脸特征值库中所有证照人脸特征值欧式距离最短的第一用户;
获取所述第一用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第一时间距离;
基于所述第一时间距离,计算第一时间权重;
基于当前人脸照特征值、第一用户证照人脸特征值、活体照人脸特征值和第一时间权重,计算当前人脸照与用户证件照和活体照的第一时间权重欧式距离;
搜索当前人脸照与人脸特征值库中所有活体照人脸特征值欧式距离最短的第二用户;
若第二用户与第一用户不为同一用户,则获取所述第二用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第二时间距离;
基于所述第二时间距离,计算第二时间权重;
基于当前人脸照特征值、第二用户证照人脸特征值、活体照人脸特征值和第二时间权重,计算当前人脸照与用户证件照和活体照的第二时间权重欧式距离;
若第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离小于预设阈值,则将该欧式距离对应的第一用户或第二用户作为当前人脸照的搜索结果。
2.如权利要求1所述的自适应人脸比对方法,其特征在于,还包括:
若第二用户与第一用户为同一用户,则直接判断第一时间权重欧式距离是否小于预设阈值;
若小于预设阈值,则将第一用户作为当前人脸照的搜索结果。
3.如权利要求1或2所述的自适应人脸比对方法,其特征在于,还包括:
若第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离不小于预设阈值,则输出无匹配结果。
7.如权利要求1所述的自适应人脸比对方法,其特征在于,所述阈值为1.4。
8.一种自适应人脸比对系统,用于实现如权利要求1~7中任一项所述的自适应人脸比对方法,其特征在于,包括:
采集模块,用于:
采集证件或活体照片的当前人脸照,并获取当前人脸照特征值;
搜索模块,用于:
搜索当前人脸照与人脸特征值库中所有证照人脸特征值欧式距离最短的第一用户;
搜索当前人脸照与人脸特征值库中所有活体照人脸特征值欧式距离最短的第二用户;
时间距离计算模块,用于:
获取所述第一用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第一时间距离;
若第二用户与第一用户不为同一用户,则获取所述第二用户的证照发布日期和活体照采集日期,并分别计算证照和活体照与当前人脸照的第二时间距离;
时间权重计算模块,用于:
基于所述第一时间距离,计算第一时间权重;
基于所述第二时间距离,计算第二时间权重;
欧式距离计算模块,用于:
基于当前人脸照特征值、第一用户证照人脸特征值、活体照人脸特征值和第一时间权重,计算当前人脸照与用户证件照和活体照的第一时间权重欧式距离;
基于当前人脸照特征值、第二用户证照人脸特征值、活体照人脸特征值和第二时间权重,计算当前人脸照与用户证件照和活体照的第二时间权重欧式距离;
判断模块,用于:
判断第二用户与第一用户是否同一用户;
比较第一时间权重欧式距离、第二时间权重欧式距离与阈值;
若第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离小于预设阈值,则将该欧式距离对应的第一用户或第二用户作为当前人脸照的搜索结果。
9.如权利要求8所述的自适应人脸比对系统,其特征在于,所述判断模块,还用于:
若第二用户与第一用户为同一用户,则直接判断第一时间权重欧式距离是否小于预设阈值;若小于预设阈值,则将第一用户作为当前人脸照的搜索结果。
10.如权利要求8或9所述的自适应人脸比对系统,其特征在于,所述判断模块,还用于:
若第一时间权重欧式距离与第二时间权重欧式距离中最小的欧式距离不小于预设阈值,则输出无匹配结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210168544.3A CN114241588B (zh) | 2022-02-24 | 2022-02-24 | 一种自适应人脸比对方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210168544.3A CN114241588B (zh) | 2022-02-24 | 2022-02-24 | 一种自适应人脸比对方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114241588A CN114241588A (zh) | 2022-03-25 |
CN114241588B true CN114241588B (zh) | 2022-05-20 |
Family
ID=80748109
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210168544.3A Active CN114241588B (zh) | 2022-02-24 | 2022-02-24 | 一种自适应人脸比对方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114241588B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117113321B (zh) * | 2023-09-04 | 2024-01-30 | 北京锐融天下科技股份有限公司 | 一种以脸搜脸的图像搜索方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2488882C1 (ru) * | 2012-01-19 | 2013-07-27 | Общество с ограниченной ответственностью "Вокорд СофтЛаб" | Способ идентификации личности человека |
CN103593598A (zh) * | 2013-11-25 | 2014-02-19 | 上海骏聿数码科技有限公司 | 基于活体检测和人脸识别的用户在线认证方法及系统 |
CN103714315A (zh) * | 2013-12-10 | 2014-04-09 | 柳州译海网络科技有限公司 | 一种基于生物特征信息的身份认证方法 |
CN109359546A (zh) * | 2018-09-19 | 2019-02-19 | 重庆第二师范学院 | 图书馆借书证人证比对方法 |
CN109829677A (zh) * | 2019-02-22 | 2019-05-31 | 西南科技大学 | 一种物流运输过程监控方法及系统 |
CN109871755A (zh) * | 2019-01-09 | 2019-06-11 | 中国平安人寿保险股份有限公司 | 一种基于人脸识别的身份验证方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100290677A1 (en) * | 2009-05-13 | 2010-11-18 | John Kwan | Facial and/or Body Recognition with Improved Accuracy |
CN108805751A (zh) * | 2018-05-02 | 2018-11-13 | 佛山市曇京电子科技有限公司 | 自助登记入住方法、装置、存储介质及终端 |
CN111242769A (zh) * | 2020-01-07 | 2020-06-05 | 深圳壹账通智能科技有限公司 | 身份验证方法、装置、设备及计算机可读存储介质 |
CN112818938B (zh) * | 2021-03-03 | 2023-06-16 | 长春理工大学 | 一种自适应光照干扰环境的人脸识别算法及人脸识别装置 |
-
2022
- 2022-02-24 CN CN202210168544.3A patent/CN114241588B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2488882C1 (ru) * | 2012-01-19 | 2013-07-27 | Общество с ограниченной ответственностью "Вокорд СофтЛаб" | Способ идентификации личности человека |
CN103593598A (zh) * | 2013-11-25 | 2014-02-19 | 上海骏聿数码科技有限公司 | 基于活体检测和人脸识别的用户在线认证方法及系统 |
CN103714315A (zh) * | 2013-12-10 | 2014-04-09 | 柳州译海网络科技有限公司 | 一种基于生物特征信息的身份认证方法 |
CN109359546A (zh) * | 2018-09-19 | 2019-02-19 | 重庆第二师范学院 | 图书馆借书证人证比对方法 |
CN109871755A (zh) * | 2019-01-09 | 2019-06-11 | 中国平安人寿保险股份有限公司 | 一种基于人脸识别的身份验证方法 |
CN109829677A (zh) * | 2019-02-22 | 2019-05-31 | 西南科技大学 | 一种物流运输过程监控方法及系统 |
Non-Patent Citations (3)
Title |
---|
Personal verification system using ID card and face photo;Adulwit Chinapas等;《International Journal of Machine Learning and Computing》;20190831;第9卷(第4期);第407-412页 * |
基于对称性的人脸识别算法研究;何振学;《中国优秀硕士学位论文全文数据库 (信息科技辑)》;20150615;第I138-489页 * |
基于活体检测和身份认证的人脸识别安防系统;陈放等;《计算机应用》;20201231;第40卷(第12期);第3666-3672页 * |
Also Published As
Publication number | Publication date |
---|---|
CN114241588A (zh) | 2022-03-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109344787B (zh) | 一种基于人脸识别与行人重识别的特定目标跟踪方法 | |
Galdi et al. | Multimodal authentication on smartphones: Combining iris and sensor recognition for a double check of user identity | |
WO2020248780A1 (zh) | 活体检测方法、装置、电子设备及可读存储介质 | |
US9524422B2 (en) | Method, system and computer program for validating a facial image-bearing identity document | |
EP1357520A2 (en) | Method for verifying users and updating database, and face verification system using the same | |
CN109190514B (zh) | 基于双向长短期记忆网络的人脸属性识别方法及系统 | |
CN112801054B (zh) | 人脸识别模型的处理方法、人脸识别方法及装置 | |
CN112215043A (zh) | 一种人脸活体检测方法 | |
CN111695502A (zh) | 用于人脸识别的特征更新方法、装置和计算机设备 | |
KR101774151B1 (ko) | 홍채템플릿 분산 저장 및 매칭을 이용한 홍채인식 보안 강화 방법 및 장치 | |
CN114241588B (zh) | 一种自适应人脸比对方法及系统 | |
CN108446687A (zh) | 一种基于移动端和后台互联的自适应人脸视觉认证方法 | |
Kumar et al. | Rank level integration of face based biometrics | |
WO2022000334A1 (zh) | 生物特征识别方法、装置、设备及存储介质 | |
CN102147862B (zh) | 一种基于生存指数熵的人脸特征提取方法 | |
JP4384366B2 (ja) | 画像照合処理システムおよび画像照合方法 | |
CN106650363A (zh) | 一种身份识别方法与系统 | |
Liu et al. | A novel high-resolution fingerprint representation method | |
CN112418078B (zh) | 分数调制方法、人脸识别方法、装置及介质 | |
JP5279007B2 (ja) | 照合システム、照合方法、プログラム及び記録媒体 | |
Gupta et al. | Unsupervised biometric anti-spoofing using generative adversarial networks | |
CN110688972B (zh) | 用于提升人脸生成性能的系统以及方法 | |
Prayogo et al. | A Novel Approach for Face Recognition: YOLO-Based Face Detection and Facenet | |
Trabelsi et al. | A bi-modal palmvein palmprint biometric human identification based on fusing new CDSDP features | |
Adebayo et al. | Combating Terrorism with Biometric Authentication Using Face Recognition |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |