CN113827234A - 一种基于高光谱人脸视频的远程脉搏波重建方法 - Google Patents
一种基于高光谱人脸视频的远程脉搏波重建方法 Download PDFInfo
- Publication number
- CN113827234A CN113827234A CN202111412880.XA CN202111412880A CN113827234A CN 113827234 A CN113827234 A CN 113827234A CN 202111412880 A CN202111412880 A CN 202111412880A CN 113827234 A CN113827234 A CN 113827234A
- Authority
- CN
- China
- Prior art keywords
- signal
- hyperspectral
- network
- video
- face video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/145—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
- A61B5/1455—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
- A61B5/14551—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
- A61B5/7267—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Heart & Thoracic Surgery (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Pathology (AREA)
- Computational Linguistics (AREA)
- Medical Informatics (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Optics & Photonics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Fuzzy Systems (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Signal Processing (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
本发明属于非接触式生理信号检测领域,涉及一种基于高光谱人脸视频的远程脉搏波重建方法,首先利用高光谱相机录制人脸视频,将录制好的人脸视频输入到光谱通道选择网络中,经过处理得到降维之后的特征;进一步的,将上一步得到的降维之后的特征输入进特征提取网络,输出为一段特征向量,最终将特征向量输入到信号重建网络中,得到重建的脉搏波信号。本发明通过光谱通道选择网络对大量的高光谱数据进行降维,提高了之后的推理速度;其次,在特征提取网络中,通过在组合数据集上的预训练加速了模型的收敛,并且通过注意力机制提高了网络对重要特征的关注程度;最后,在信号重建网络中,利用多层LSTM提取到网络的时序特征并以此对信号进行重建。
Description
技术领域
本发明涉及非接触式生理信号检测领域,尤其涉及一种基于高光谱人脸视频的远程脉搏波重建方法。
背景技术
光电容积脉搏波信号是由于血液和其他组织成分对不同频段的光吸收程度不同,且血液本身在血管中的血液容积量会随着心脏的搏动而发生变化,因此在心脏收缩和舒张的过程中,血液对光的吸收量也会随心脏收缩呈现出周期性的脉搏波动,这种波动反应在视频传感器所接受到的信号变化即为PPG信号。通过摄像头采集到的人脸视频可以通过对每帧图像进行像素计算,将每一帧计算出来的数值合成为一段信号,这就是原始的远程脉搏波信号,即rPPG。
高光谱图像是对图像在不同光谱波段的细致分割,通过区分不同的波段,得到不同的光谱通道,高光谱图像的理论依据是地球上每种元素及其化合物的光谱特性都不一样,可以以此在特殊的波段进行区分;
通过传统的R,G,B图像组成的视频来获取的原始rPPG信号噪声较大,这种噪声主要是来自图像采集设备,而高光谱图像可以选择合适的波段来减少外界噪声的干扰,但是高光谱图像的应用存在数据量较大从而造成推理速度较慢而无法实际应用的问题。
发明内容
为了解决现有技术中存在的上述技术问题,本发明提出了一种基于高光谱人脸视频的远程脉搏波重建方法,旨在通过深度学习的方法高效的从高光谱视频中对rPPG信号重建,其具体技术方案如下:
一种基于高光谱人脸视频的远程脉搏波重建方法,包括以下步骤:
步骤一,利用高光谱相机录制人脸视频,利用血氧仪读取人右手指尖的脉搏波信号PPG;
步骤二,对血氧仪采集到的PPG信号进行下采样,与所述人脸视频频率保持一致,使每一帧视频都对应一个信号采样点;
步骤三,将录制好的高光谱人脸视频的每一帧图像送入光谱选择网络中,光谱选择网络利用通道注意力机制选择对输入的高光谱人脸图像进行降维筛选,输出降维后的特征图;
步骤四,将降维后的特征图输入至特征提取网络,得到提取后的特征向量;
步骤五,对人脸视频的每一帧图像经过步骤三和步骤四操作,得到多维特征向量;
步骤六,将多维特征向量输入到信号重建网络,得到重建后的rPPG信号。
进一步的,所述步骤一,具体为:利用高光谱相机录制人脸视频,其中高光谱相机的波段为400nm-1000nm,一共有S个波段,采集帧率为M赫兹,分辨率为W*H;同时,利用血氧仪读取人右手指尖的脉搏波信号PPG,采样频率为N赫兹;所述视频和信号的采集周期为T秒。
进一步的,所述步骤二,具体为:对血氧仪采集到的PPG信号进行下采样,将频率从N赫兹降为 M 赫兹,和视频频率保持一致,使得每一帧视频都可以对应一个信号采样点,采样后视频的帧数为T*M,血氧仪的采样点数也为T*M。
进一步的,所述步骤四,包括以下步骤:
步骤4.1,预训练特征提取网络;
步骤4.2,加载步骤4.1训练好的特征提取网络模型;
步骤4.3,将步骤三输出的降维后的特征图输入到训练好的特征提取网络,得到输出向量;
步骤 4.4,将步骤4.3得到的输出向量改变维度得到提取后的特征向量;
进一步的,所述步骤4.1,具体为:采用组合数据集,包括同一个人的普通视频和红外视频,随机组合两种不同视频,如果是同一个人,则标签为1,反之则为0,利用交叉熵损失函数和梯度下降法来对特征提取网络进行预训练,训练次数为K次,训练结束保存特征提取网络模型参数。
进一步的,所述步骤六,包括以下步骤:
步骤6.1,预训练信号重建网络;
步骤6.2, 加载训练好的信号重建网络模型;
步骤6.3,在对视频中所有帧进行步骤一至四的处理后,将得到的全部特征向量,按照时间顺序输入到信号重建网络中,利用多层LSTM提取到网络的时序特征并以此对PPG信号进行重建,得到重建后的rPPG信号。
进一步的,所述步骤6.1,具体为:利用损失函数为MSE和梯度下降法,通过合成数据集对信号重建网络进行预训练,训练结束后,保存训练好的当前参数为模型参数,所述合成数据集表达式为:
其中,t为时间段,为模拟心率频率,为模拟呼吸频率,,为模拟心率信
号与模拟呼吸信号的相位,和分别为模拟心率和模拟呼吸强度,step()为阶跃信
号,t 1 和t 2 分别为阶跃信号的阈值,noise 1 ()和noise 2 ()分别为不同均值和标准差的高斯信
号作为噪声;所述合成数据集对应的标签为通过模拟心率频率所计算出的心率。
本发明的优点:
首先,本发明通过光谱通道选择网络对大量的高光谱数据进行降维,提高了之后的推理速度;其次,在特征提取网络中,本发明通过在组合数据集上的预训练加速了模型的收敛,并且通过注意力机制提高了网络对重要特征的关注程度;最后,在信号重建网络中,利用多层LSTM提取到网络的时序特征并以此对信号进行重建。
附图说明
图1是本发明方法的整体流程示意图;
图2是本发明的光谱通道选择网络的示意图;
图3是本发明方法的特征提取网络示意图;
图4是本发明方法的特征提取网络中提取模块示意图。
具体实施方式
为了使本发明的目的、技术方案和技术效果更加清楚明白,以下结合说明书附图,对本发明作进一步详细说明。
如图1所示,一种基于高光谱人脸视频的远程脉搏波重建方法,包括以下步骤:
步骤一,利用高光谱相机录制人脸视频,其中高光谱相机的波段为400nm-1000nm,一共有S个波段,采集帧率为M赫兹,分辨率为W*H,W表示宽,H表示高;同时,利用血氧仪读取人右手指尖的脉搏波信号PPG,采样频率为N赫兹;上述视频和信号的采集周期为T 秒;
步骤二,对血氧仪采集到的PPG信号进行下采样,将频率从N赫兹降为 M 赫兹,和视频频率保持一致,使得每一帧视频都可以对应一个信号采样点,采样后视频的帧数为T*M,血氧仪的采样点数也为T*M;
步骤三,如图2所示,将录制好的高光谱人脸视频的每一帧送入光谱选择网络中,其中输入帧的尺寸为W*H*128;光谱选择网络利用通道注意力机制选择对输入的高光谱图像的波段进行筛选,即降维处理,输出为(W/4)*(H/4)*32的特征图;
步骤四,如图3和图4所示,通过特征提取网络预训练和推理,得到特征向量,具体包括以下步骤:
步骤4.1,特征提取网络预训练,采用组合数据集,包括同一个人的普通视频和红外视频,通过随机组合两种不同视频,如果是同一个人,则标签为1,反之则为0,利用交叉熵损失函数和梯度下降法来对特征提取网络进行预训练,训练次数为50次,训练结束保存模型参数;
步骤4.2,加载步骤4.1训练好的模型;
步骤4.3,将步骤三输出的(W/4)*(H/4)*32的特征图输入到特征提取网络,得到输出向量,维度为:(W/64)*(H/64)*2;
步骤 4.4,将步骤4.3得到的(W/64)*(H/64)*2的输出向量改变维度为(1,(W/64)*(H/64)*2);
步骤五,对视频的每一帧经过步骤三和步骤四操作,得到(T*M,(W/64)*(H/64)*2)维特征;
步骤六,将步骤五得到的特征输入到信号重建网络,得到重建后的rPPG信号,具体包括以下步骤:
步骤6.1,信号重建网络预训练,通过合成数据集对信号重建网络进行预训练,所述合成数据集表达式为:
其中,t为时间段,为模拟心率频率,为模拟呼吸频率,,为模拟心率信
号与模拟呼吸信号的相位,和分别为模拟心率和模拟呼吸强度,step()为阶跃信
号,t 1 和t 2 分别为阶跃信号的阈值,noise 1 ()和noise 2 ()分别为不同均值和标准差的高斯信
号作为噪声,从而丰富合成信号的多样性;
在真实数据训练下,信号重建网络的输入为步骤四得到的特征,标签为经过步骤二采样后的真实的PPG信号;
所述信号重建网络模型利用损失函数为MSE和梯度下降法进行训练,训练次数为X次,训练结束后保存训练好的当前参数为模型参数;
步骤6.2,加载训练好的重建网络模型;
步骤6.3,在对视频中所有帧进行步骤一至四的处理后,将得到的全部特征向量,按照时间顺序输入到信号重建网络中,利用多层LSTM提取到网络的时序特征并以此对PPG信号进行重建,得到重建后的rPPG信号。
具体的,本发明的方法已应用于非接触人体心率测量中,如下表1所示为经过处理后得到的远程脉搏波信号在心率计算中的表现,得到本发明的方法均好于其他方法。
表1:
以上所述,仅为本发明的优选实施案例,并非对本发明做任何形式上的限制。虽然前文对本发明的实施过程进行了详细说明,对于熟悉本领域的人员来说,其依然可以对前述各实例记载的技术方案进行修改,或者对其中部分技术特征进行同等替换。凡在本发明精神和原则之内所做修改、同等替换等,均应包含在本发明的保护范围之内。
Claims (7)
1.一种基于高光谱人脸视频的远程脉搏波重建方法,其特征在于,包括以下步骤:
步骤一,利用高光谱相机录制人脸视频,利用血氧仪读取人右手指尖的脉搏波信号PPG;
步骤二,对血氧仪采集到的PPG信号进行下采样,与所述人脸视频频率保持一致,使每一帧视频都对应一个信号采样点;
步骤三,将录制好的高光谱人脸视频的每一帧图像送入光谱选择网络中,光谱选择网络利用通道注意力机制选择对输入的高光谱人脸图像进行降维筛选,输出降维后的特征图;
步骤四,将降维后的特征图输入至特征提取网络,得到提取后的特征向量;
步骤五,对人脸视频的每一帧图像经过步骤三和步骤四操作,得到多维特征向量;
步骤六,将多维特征向量输入到信号重建网络,得到重建后的rPPG信号。
2.如权利要求1所述的一种基于高光谱人脸视频的远程脉搏波重建方法,其特征在于,所述步骤一,具体为:利用高光谱相机录制人脸视频,其中高光谱相机的波段为400nm-1000nm,一共有S个波段,采集帧率为M赫兹,分辨率为W*H;同时,利用血氧仪读取人右手指尖的脉搏波信号PPG,采样频率为N赫兹;所述视频和信号的采集周期为T 秒。
3.如权利要求2所述的一种基于高光谱人脸视频的远程脉搏波重建方法,其特征在于,所述步骤二,具体为:对血氧仪采集到的PPG信号进行下采样,将频率从N赫兹降为 M 赫兹,和视频频率保持一致,使得每一帧视频都可以对应一个信号采样点,采样后视频的帧数为T*M,血氧仪的采样点数也为T*M。
4.如权利要求1所述的一种基于高光谱人脸视频的远程脉搏波重建方法,其特征在于,所述步骤四,包括以下步骤:
步骤4.1,预训练特征提取网络;
步骤4.2,加载步骤4.1训练好的特征提取网络模型;
步骤4.3,将步骤三输出的降维后的特征图输入到训练好的特征提取网络,得到输出向量;
步骤 4.4,将步骤4.3得到的输出向量改变维度得到提取后的特征向量。
5.如权利要求4所述的一种基于高光谱人脸视频的远程脉搏波重建方法,其特征在于,所述步骤4.1,具体为:采用组合数据集,包括同一个人的普通视频和红外视频,随机组合两种不同视频,如果是同一个人,则标签为1,反之则为0,利用交叉熵损失函数和梯度下降法来对特征提取网络进行预训练,训练次数为K次,训练结束保存特征提取网络模型参数。
6.如权利要求1所述的一种基于高光谱人脸视频的远程脉搏波重建方法,其特征在于,所述步骤六,包括以下步骤:
步骤6.1,预训练信号重建网络;
步骤6.2, 加载训练好的信号重建网络模型;
步骤6.3,在对视频中所有帧进行步骤一至四的处理后,将得到的全部特征向量,按照时间顺序输入到信号重建网络中,利用多层LSTM提取到网络的时序特征并以此对PPG信号进行重建,得到重建后的rPPG信号。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111412880.XA CN113827234B (zh) | 2021-11-25 | 2021-11-25 | 一种基于高光谱人脸视频的远程脉搏波重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111412880.XA CN113827234B (zh) | 2021-11-25 | 2021-11-25 | 一种基于高光谱人脸视频的远程脉搏波重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113827234A true CN113827234A (zh) | 2021-12-24 |
CN113827234B CN113827234B (zh) | 2022-03-18 |
Family
ID=78971439
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111412880.XA Active CN113827234B (zh) | 2021-11-25 | 2021-11-25 | 一种基于高光谱人脸视频的远程脉搏波重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113827234B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115953822A (zh) * | 2023-03-06 | 2023-04-11 | 之江实验室 | 一种基于rPPG生理信号的人脸视频鉴伪方法和装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020123724A1 (en) * | 2018-12-14 | 2020-06-18 | Spectral Md, Inc. | Machine learning systems and methods for assessment, healing prediction, and treatment of wounds |
EP3764888A2 (en) * | 2018-03-15 | 2021-01-20 | Sanmina Corporation | System method for motion detection using a ppg sensor |
CN113303776A (zh) * | 2021-05-28 | 2021-08-27 | 西安理工大学 | 基于循环神经网络的非接触式血压测量方法 |
EP3899463A1 (en) * | 2018-12-14 | 2021-10-27 | Spectral MD, Inc. | System and method for high precision multi-aperture spectral imaging |
-
2021
- 2021-11-25 CN CN202111412880.XA patent/CN113827234B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3764888A2 (en) * | 2018-03-15 | 2021-01-20 | Sanmina Corporation | System method for motion detection using a ppg sensor |
WO2020123724A1 (en) * | 2018-12-14 | 2020-06-18 | Spectral Md, Inc. | Machine learning systems and methods for assessment, healing prediction, and treatment of wounds |
EP3899463A1 (en) * | 2018-12-14 | 2021-10-27 | Spectral MD, Inc. | System and method for high precision multi-aperture spectral imaging |
CN113303776A (zh) * | 2021-05-28 | 2021-08-27 | 西安理工大学 | 基于循环神经网络的非接触式血压测量方法 |
Non-Patent Citations (3)
Title |
---|
MCDUFF D J,ET AL.: "A Survey of Remote Optical Photoplethysmographic Imaging Methods", 《CONF PROC IEEE ENG MED BIOL SOC》 * |
SO-EUI KIM, SU-GYEONG YU, NA HYE KIM.ET AL.: "Restoration of Remote PPG Signal through Correspondence with Contact Sensor Signal", 《SENSORS》 * |
VLADIMIR BLAZEK,ET AL.: "Photoplethysmography Imaging and", 《SPRINGER NATURE SWITZERLAND AG 2018》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115953822A (zh) * | 2023-03-06 | 2023-04-11 | 之江实验室 | 一种基于rPPG生理信号的人脸视频鉴伪方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113827234B (zh) | 2022-03-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109685813A (zh) | 一种自适应尺度信息的u型视网膜血管分割方法 | |
CN109063763A (zh) | 基于pca的视频微小变化放大方法 | |
CN112819910B (zh) | 基于双鬼注意力机制网络的高光谱图像重建方法 | |
CN110969124A (zh) | 基于轻量级多分支网络的二维人体姿态估计方法及系统 | |
CN113516601B (zh) | 基于深度卷积神经网络与压缩感知的图像恢复方法 | |
CN111243739A (zh) | 抗干扰的生理参数遥测方法及系统 | |
CN113408508A (zh) | 基于Transformer的非接触式心率测量方法 | |
Wang et al. | Detail-preserving pulse wave extraction from facial videos using consumer-level camera | |
CN113827234B (zh) | 一种基于高光谱人脸视频的远程脉搏波重建方法 | |
CN113180659B (zh) | 一种基于三维特征和空洞全卷积网络的脑电情感识别方法 | |
Yin et al. | Heart rate estimation based on face video under unstable illumination | |
Xie et al. | Non-contact heart rate monitoring for intensive exercise based on singular spectrum analysis | |
Lampier et al. | A deep learning approach to estimate pulse rate by remote photoplethysmography | |
Abdulrahaman | Two-stage motion artifact reduction algorithm for rPPG signals obtained from facial video recordings | |
Gupta et al. | Privacy-preserving remote heart rate estimation from facial videos | |
Das et al. | Time–frequency learning framework for rPPG signal estimation using Scalogram-based feature map of facial video data | |
CN116942172A (zh) | 一种基于编解码结构的小波双通道单导联心电去噪方法 | |
Chowdhury et al. | LGI-rPPG-Net: A shallow encoder-decoder model for rPPG signal estimation from facial video streams | |
Kuang et al. | Remote photoplethysmography signals enhancement based on generative adversarial networks | |
CN116092165A (zh) | 基于脑电信号的表情神经解码方法 | |
Yang et al. | Heart rate estimation from facial videos based on convolutional neural network | |
CN113689344B (zh) | 基于特征解耦学习的低曝光图像增强方法 | |
CN115905819B (zh) | 基于生成对抗网络的rPPG信号生成方法及装置 | |
Comas et al. | Deep Pulse-Signal Magnification for remote Heart Rate Estimation in Compressed Videos | |
CN116681700B (zh) | 用户心率和心率变异性的评估方法、装置和可读储存介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |