CN110728271B - 一种针对人脸识别生成人物表情的方法 - Google Patents
一种针对人脸识别生成人物表情的方法 Download PDFInfo
- Publication number
- CN110728271B CN110728271B CN201911315376.0A CN201911315376A CN110728271B CN 110728271 B CN110728271 B CN 110728271B CN 201911315376 A CN201911315376 A CN 201911315376A CN 110728271 B CN110728271 B CN 110728271B
- Authority
- CN
- China
- Prior art keywords
- face
- forehead
- point
- eyebrow
- position information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000014509 gene expression Effects 0.000 title claims abstract description 69
- 238000000034 method Methods 0.000 title claims abstract description 52
- 210000001061 forehead Anatomy 0.000 claims description 67
- 210000004709 eyebrow Anatomy 0.000 claims description 25
- 210000005252 bulbus oculi Anatomy 0.000 claims description 23
- 238000006073 displacement reaction Methods 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 2
- 210000003128 head Anatomy 0.000 claims description 2
- 238000012545 processing Methods 0.000 abstract description 6
- 210000001508 eye Anatomy 0.000 description 6
- 230000001815 facial effect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000008921 facial expression Effects 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000004399 eye closure Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
Landscapes
- Engineering & Computer Science (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
Abstract
本申请涉及一种涉及图像处理领域,尤其涉及一种针对人脸识别生成人物表情的方法,利用面部识别,将图片或照片中人脸特征点识别完成后,根据特征点可以计算出不同表情,生成不同表情的图片,从而可以将现实的人脸照片置入到预设的模型脸部上进行真人角色扮演,还可以利用面部识别与虚拟形象进行交流。
Description
技术领域
本申请涉及图像处理领域,尤其涉及一种针对人脸识别生成人物表情的方法。
背景技术
人脸识别技术是基于人的脸部特征,对输入的人脸图像或者视频流判断其是否存在人脸,如果存在人脸,则进一步的给出每个脸的位置、大小和各个主要面部器官的位置信息。依据这些信息,进一步提取每个人脸中所蕴涵的身份特征,并将其与已知的人脸进行对比,从而识别每个人脸的身份。
具体的,人脸识别包括人脸图像采集、人脸定位、图像预处理、身份确认以及身份查找等。例如:数码相机的面部捕捉、安全门禁系统、网络应用身份校验、人物表情识别等。其中,数码相机的面部捕捉识别到人脸后只简单的给出了人脸的所在位置;安全门禁系统只是比对人脸数据是否在门禁系统数据库中;网络应用身份校验是根据预先输入的人脸数据比对进行微调;人脸表情识别仅是对人脸表情进行了识别。
综上,现有的人脸识别均是输入一张或一系列人脸图片,而输出的则是一系列数据,仅是应用于人脸识别过程。
发明内容
本申请提供了一种针对人脸识别生成人物表情的方法与装置,以根据人脸图像输出不同表情的图片。
为解决上述技术问题,本申请提供如下技术方案:
一种针对人脸识别生成人物表情的方法,包括如下步骤:对输入的图片的人脸图像提取人脸特征点,并且依据提取的人脸特征点计算额头特征点;根据提取的人脸特征点以及计算得到的额头特征点,构建三角形列表;按照人脸特征点和额头特征点与三角形列表的比例关系,等比例获得人脸图像四周的三角形的外边缘点的位置信息;对三角形列表中的各点的位置信息,应用预存的模特图片的位移分量,获得变形后的三角形分布数据;将变形后的三角形分布数据应用于输入的图片中,得到包含拉伸变换了的新人脸图像的图片;将预存的需要混合部分的模特表情图片,与新人脸图像的图片中需要变换表情的部分区域进行融合,生成具有其他表情人脸图像的图片。
如上所述的针对人脸识别生成人物表情的方法,其中,优选的,计算额头特征点,包括如下子步骤:根据人脸特征点中的左眉毛眉头处的特征点和右眉毛眉头处的特征点,得到眉心处位置信息;根据人脸特征点中的脸部轮廓上与眼球齐平的左右两个特征点,得到脸部中心位置信息;根据人脸特征点中的鼻尖的特征点和眉心处位置信息,得到鼻尖和眉心的距离;根据人脸特征点中的脸部轮廓上与眼球齐平的左右两个特征点,得到脸部一半宽度;根据脸部中心位置信息、眉心处位置信息以及鼻尖和眉心的距离,获得额头部分的高度;根据过程参数以及脸部轮廓上与眼球齐平的左右两个特征点,获得向上额头方向向量,根据脸部轮廓上与眼球齐平的左右两个特征点得到过程参数;根据向上额头方向向量、眉心处位置信息以及鼻尖和眉心的距离,获得额头正中心最高点位置信息;根据脸部轮廓上与眼球齐平的左面的特征点、向上额头方向向量、额头部分的高度、过程参数、脸部一半宽度,分别获得左半圈额头点集的各点位置信息和右半圈额头点集的各点位置信息。
如上所述的针对人脸识别生成人物表情的方法,其中,优选的是,依据公式,获得左半圈额头上的点的位置信息;其中,为脸部轮廓上与眼球齐平的左特征点,为向上额头方向向量,为额头部分的高度,为过程参数,为脸部一半宽度。
如上所述的针对人脸识别生成人物表情的方法,其中,优选的是,依据公式获得右半圈额头上的点的位置信息;其中,为脸部轮廓上与眼球齐平的左特征点,为向上额头方向向量,为额头部分的高度,为过程参数,为脸部一半宽度。
如上所述的针对人脸识别生成人物表情的方法,其中,优选的是,依据公式,获得向上额头方向向量;其中,为过程参数,,为脸部轮廓上与眼球齐平的左特征点,为脸部轮廓上与眼球齐平的右特征点,为在y方向的坐标,为在x方向的坐标。
相对上述背景技术,本发明利用面部识别,将图片或照片中人脸特征点识别完成后,根据特征点可以计算出不同表情,生成不同表情的图片,从而可以将现实的人脸照片置入到预设的模型脸部上进行真人角色扮演,还可以利用面部识别与虚拟形象进行交流。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的针对人脸识别生成人物表情的方法的流程图;
图2是本申请实施例提供的人脸特征点、额头特征点及三角形列表示意图;
图3是本申请实施例提供的依据人脸特征点计算额头特征点的流程图;
图4是本申请实施例提供的获得的不同表情图片的示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能解释为对本发明的限制。
本申请提供了一种针对人脸识别生成人物表情的方法,如图1所示,具体包括如下步骤:
步骤S110、对输入的图片的人脸图像提取人脸特征点,并且依据提取的人脸特征点计算额头特征点;
可根据预先建立的规则(例如:可以根据Dlib开源库提供的人脸特征点检测功能检测人脸特征点),对人脸进行体征点提取,提取出如图2所示的65个人脸特征点。可以将这65个特征点组成一个二维数组p(其中,点~点可以使用x、y坐标表示)。依据提取的65个人脸特征点,计算额头正中心最高点的位置信息以及左半圈额头点集(点~点)的各点位置信息和右半圈额头点集(点~点)的各点位置信息。
作为举例,输入正常状态(即睁开双眼、闭上嘴巴、没有表情的状态,也就是拍证件照的状态)人脸图像的图片,获得其他表情(愤怒、闭眼、张嘴、笑、吐舌等)人脸图像的图片。
具体的,请参阅图3,根据人脸特征点计算额头特征点,具体包括如下子步骤:
步骤S310、根据人脸特征点中的左眉毛眉头处的特征点和右眉毛眉头处的特征点,得到眉心处位置信息;
步骤S320、根据人脸特征点中的脸部轮廓上与眼球齐平的左右两个特征点,得到脸部中心位置信息;
步骤S330、根据人脸特征点中的鼻尖的特征点和眉心处位置信息,得到鼻尖和眉心的距离;
步骤S340、根据人脸特征点中的脸部轮廓上与眼球齐平的左右两个特征点,得到脸部一半宽度;
步骤S350、根据脸部中心位置信息、眉心处位置信息以及鼻尖和眉心的距离,获得额头部分的高度;
步骤S360、根据过程参数以及脸部轮廓上与眼球齐平的左右两个特征点,获得向上额头方向向量;
步骤S370、根据向上额头方向向量、眉心处位置信息以及鼻尖和眉心的距离,获得额头正中心最高点位置信息;
步骤S380、根据脸部轮廓上与眼球齐平的左面的特征点、向上额头方向向量、额头部分的高度、过程参数、脸部一半宽度,分别获得左半圈额头点集的各点位置信息和右半圈额头点集的各点位置信息;
其中,请继续参阅图2,其中,脸部轮廓上从与左眉毛眉尾相对的点至额头正中心最高点之间的各点为左半圈额头上的点,具体为、、、 、、,这些点组成左半圈额头点集;同理,脸部轮廓上从与右眉毛眉尾相对的点至额头正中心最高点之间的各点为右半圈额头上的点,具体为、 、、、、,这些点组成右半圈额头点集;
步骤S120、根据提取的人脸特征点以及计算得到的额头特征点,构建三角形列表;
步骤S130、按照人脸特征点和额头特征点与三角形列表的比例关系,等比例获得人脸图像四周的三角形的外边缘点的位置信息;
请继续参阅图2,三角形列表中,人脸图像四周的三角形的外边缘点分别为点至点,共24个点。其中,人脸图像四周的三角形中,在输入的图片四角处的三角形的内边缘点为相邻两个三角形的外边缘点,剩余的人脸图像四周的三角形的内边缘点为人脸图像脸部轮廓上的点(点至点、点至点)。根据点至点与人脸图像内部的三角形的比例关系,等比例获得人脸图像外部的三角形的外边缘点(点至点)的位置信息,以避免后续根据模特的位移分量对三角形列表中的各点进行变形处理时,人脸边缘变形失真。
步骤S140、对三角形列表中的各点的位置信息,应用预存的模特的位移分量,获得变形后的三角形分布数据;
例如:依据正常状态人脸图像的图片生成闭眼表情人脸图像的图片,那么预先在处理设备中存储有模特闭眼表情人脸图像的图片相对于模特正常状态人脸图像的图片的位移分量。
具体的,同样依据上述步骤S110(步骤S310-步骤S380)、步骤S120、步骤S130,获得模特正常状态人脸图像的图片的三角形列表中所有点的位置信息及模特闭眼表情人脸图像的图片的三角形列表的所有点的位置信息。
然后,根据模特闭眼表情人脸图像的图片的三角形列表的所有点的位置信息与模特正常状态人脸图像的图片的三角形列表中所有点的位置信息,获得模特闭眼表情人脸图像的图片相对于模特正常状态人脸图像的图片的位移分量。具体的,可以使用三角形插值法根据模特闭眼表情人脸图像的图片的三角形列表的所有点的位置信息与模特正常状态人脸图像的图片的三角形列表中所有点的位置信息计算模特闭眼表情人脸图像的图片相对于模特正常状态人脸图像的图片的位移分量。当然,也可以是模特的其他表情的图片相对于参考表情的图片的位移分量。将所得到的模特的位移分量预存于图像的处理设备中,以备图像处理时使用。
步骤S150、将变形后的三角形分布数据应用于输入的图片中,得到包含拉伸变换了的新人脸图像的图片;
步骤S160、将预存的需要混合部分的模特表情图片,与新人脸图像的图片中需要变换表情的部分区域进行融合,生成具有其他表情人脸图像的图片。
首先,预先在处理设备中存储需要混合部分的模特表情图片,例如:模特闭眼表情的眼部图片、模特张嘴的嘴部图片、模特笑的嘴部图片、模特吐舌的嘴部图片、模特愤怒的眼部及嘴部图片等。
上述需要混合部分的模特表情图片是分别对模特的各个表情时的脸部图像截取的透明过滤图。具体的,可以应用泊松融合算法将需要混合部分的模特表情图片应用至新人脸图像的图片中需要变换表情的部分区域,例如将模特闭眼表情的眼部图片融合至新人脸图像的图片中的眼睛部位,使之产生过度和色相融合,生成(如图4所示)的具有需要表情的人物图像的图片。
本申请还提供了一种针对人脸识别生成人物表情的装置,该装置执行上述所述的针对人脸识别生成人物表情的方法。
本申请利用面部识别,将图片或照片中人脸特征点识别完成后,根据特征点可以计算出不同表情,生成不同表情的图片,从而可以将现实的人脸照片置入到预设的模型脸部上进行真人角色扮演,还可以利用面部识别与虚拟形象进行交流。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。
此外,应当理解,虽然本说明书按照实施方式加以描述,但并非每个实施方式仅包含一个独立的技术方案,说明书的这种叙述方式仅仅是为清楚起见,本领域技术人员应当将说明书作为一个整体,各实施例中的技术方案也可以经适当组合,形成本领域技术人员可以理解的其他实施方式。
Claims (7)
1.一种针对人脸识别生成人物表情的方法,其特征在于,包括如下步骤:
对输入的图片的人脸图像提取人脸特征点,并且依据提取的人脸特征点计算额头特征点;
计算额头特征点,包括如下子步骤:
根据人脸特征点中的左眉毛眉头处的特征点和右眉毛眉头处的特征点,得到眉心处位置信息;
根据人脸特征点中的脸部轮廓上与眼球齐平的左右两个特征点,得到脸部中心位置信息;
根据人脸特征点中的鼻尖的特征点和眉心处位置信息,得到鼻尖和眉心的距离;
根据人脸特征点中的脸部轮廓上与眼球齐平的左右两个特征点,得到脸部一半宽度;
根据脸部中心位置信息、眉心处位置信息以及鼻尖和眉心的距离,获得额头部分的高度;
根据过程参数以及脸部轮廓上与眼球齐平的左右两个特征点,获得向上额头方向向量,根据脸部轮廓上与眼球齐平的左右两个特征点得到过程参数;
根据向上额头方向向量、眉心处位置信息以及鼻尖和眉心的距离,获得额头正中心最高点位置信息;
根据脸部轮廓上与眼球齐平的左面的特征点、向上额头方向向量、额头部分的高度、过程参数、脸部一半宽度,分别获得左半圈额头点集的各点位置信息和右半圈额头点集的各点位置信息;
根据提取的人脸特征点以及计算得到的额头特征点,构建三角形列表;
按照人脸特征点和额头特征点与三角形列表的比例关系,等比例获得人脸图像四周的三角形的外边缘点的位置信息;
对三角形列表中的各点的位置信息,应用预存的模特图片的位移分量,获得变形后的三角形分布数据;
将变形后的三角形分布数据应用于输入的图片中,得到包含拉伸变换了的新人脸图像的图片;
将预存的需要混合部分的模特表情图片,与新人脸图像的图片中需要变换表情的部分区域进行融合,生成具有其他表情人脸图像的图片。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911315376.0A CN110728271B (zh) | 2019-12-19 | 2019-12-19 | 一种针对人脸识别生成人物表情的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911315376.0A CN110728271B (zh) | 2019-12-19 | 2019-12-19 | 一种针对人脸识别生成人物表情的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110728271A CN110728271A (zh) | 2020-01-24 |
CN110728271B true CN110728271B (zh) | 2020-04-07 |
Family
ID=69226460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911315376.0A Active CN110728271B (zh) | 2019-12-19 | 2019-12-19 | 一种针对人脸识别生成人物表情的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110728271B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108537881A (zh) * | 2018-04-18 | 2018-09-14 | 腾讯科技(深圳)有限公司 | 一种人脸模型处理方法及其设备、存储介质 |
CN109410119A (zh) * | 2017-08-18 | 2019-03-01 | 北京凤凰都市互动科技有限公司 | 面具图像变形方法及其系统 |
CN109410298A (zh) * | 2018-11-02 | 2019-03-01 | 北京恒信彩虹科技有限公司 | 一种虚拟模型的制作方法及表情变化方法 |
CN109948454A (zh) * | 2019-02-25 | 2019-06-28 | 深圳大学 | 表情数据库的增强方法、训练方法、计算设备及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170323374A1 (en) * | 2016-05-06 | 2017-11-09 | Seok Hyun Park | Augmented reality image analysis methods for the virtual fashion items worn |
-
2019
- 2019-12-19 CN CN201911315376.0A patent/CN110728271B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109410119A (zh) * | 2017-08-18 | 2019-03-01 | 北京凤凰都市互动科技有限公司 | 面具图像变形方法及其系统 |
CN108537881A (zh) * | 2018-04-18 | 2018-09-14 | 腾讯科技(深圳)有限公司 | 一种人脸模型处理方法及其设备、存储介质 |
CN109410298A (zh) * | 2018-11-02 | 2019-03-01 | 北京恒信彩虹科技有限公司 | 一种虚拟模型的制作方法及表情变化方法 |
CN109948454A (zh) * | 2019-02-25 | 2019-06-28 | 深圳大学 | 表情数据库的增强方法、训练方法、计算设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
基于三角坐标系的人脸表情方向性研究;陆飞 等;《计算机辅助设计与图形学学报》;20170228;第29卷(第2期);262-268 * |
Also Published As
Publication number | Publication date |
---|---|
CN110728271A (zh) | 2020-01-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11087519B2 (en) | Facial animation implementation method, computer device, and storage medium | |
US10089522B2 (en) | Head-mounted display with facial expression detecting capability | |
Hu et al. | Avatar digitization from a single image for real-time rendering | |
KR102147052B1 (ko) | 얼굴 영상 기반의 감정 인식 시스템 및 방법 | |
US7876931B2 (en) | Face recognition system and method | |
Decarlo et al. | Optical flow constraints on deformable models with applications to face tracking | |
CN107169455B (zh) | 基于深度局部特征的人脸属性识别方法 | |
Koshimizu et al. | On KANSEI facial image processing for computerized facial caricaturing system PICASSO | |
CN109952594A (zh) | 图像处理方法、装置、终端及存储介质 | |
Hsu | Face detection and modeling for recognition | |
US11120535B2 (en) | Image processing method, apparatus, terminal, and storage medium | |
CN114283052A (zh) | 妆容迁移及妆容迁移网络的训练方法和装置 | |
CN104933742B (zh) | 一种卡通肖像自动生成方法 | |
US11120624B2 (en) | Three-dimensional head portrait generating method and electronic device | |
Wang et al. | Digital twin: Acquiring high-fidelity 3D avatar from a single image | |
Sheu et al. | Automatic generation of facial expression using triangular geometric deformation | |
Danieau et al. | Automatic generation and stylization of 3d facial rigs | |
CN113705466A (zh) | 用于遮挡场景、尤其高仿遮挡下的人脸五官遮挡检测方法 | |
CN110728271B (zh) | 一种针对人脸识别生成人物表情的方法 | |
WO2024059374A1 (en) | User authentication based on three-dimensional face modeling using partial face images | |
CN102496174A (zh) | 一种用于安防监控的人脸素描索引生成方法 | |
WO2021155666A1 (zh) | 用于生成图像的方法和装置 | |
CN104636727A (zh) | 一种适应多表情多姿态的人脸识别方法 | |
Yuen et al. | Multimodal interface for human-machine communication | |
KR102630872B1 (ko) | 표정 인식 학습 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |