CN105554410B - 自动驾驶中摄像头动态曝光调整方法 - Google Patents
自动驾驶中摄像头动态曝光调整方法 Download PDFInfo
- Publication number
- CN105554410B CN105554410B CN201610057221.1A CN201610057221A CN105554410B CN 105554410 B CN105554410 B CN 105554410B CN 201610057221 A CN201610057221 A CN 201610057221A CN 105554410 B CN105554410 B CN 105554410B
- Authority
- CN
- China
- Prior art keywords
- gavg
- exposure
- etmp
- camera
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本发明提供了一种自动驾驶中摄像头动态曝光调整方法,包括如下步骤:(1)对摄像头进行标定,得到摄像头的最大曝光时间Emax和最小曝光时间Emin,以及摄像头拍摄图像的最大灰度值Gmax和最小灰度值Gmin;(2)提取摄像头的当前帧的图像,将当前帧图像的平均灰度值Gavg与Gmax、Gmin比较从而对Gavg进行修正,根据Gavg及上帧图像的曝光时间Ex′得到当前图像的预调整曝光时间Etmp;(3)将Etmp与Emax、Emin进行比较后对Etmp进行修正得到采集下一帧图像时应当用的最优曝光时间Ex,然后返回至步骤(2)。本发明实现了对运动中的摄像头曝光时间的动态调节,使摄像头适应高速移动的智能车周边环境的变化,随时间环境的变化不断来调整最佳曝光量,使摄像头得到的图像清晰度明显提升。
Description
技术领域
本发明属于自动驾驶领域,涉及自动驾驶或者安全辅助驾驶里的图像感知与图像处理模块,具体涉及一种自动驾驶中摄像头动态曝光调整方法。
背景技术
摄像头是自动驾驶系统或者安全辅助驾驶系统里最常用的传感器之一。通常情况下,自动驾驶系统通过对摄像头拍摄的图像进行分析,从而达到感知周边环境以及辅助驾驶安全的目的。
为了保证智能车中摄像头能取得良好质量的图像,需要对摄像头的众多参数进行调节。在摄像头的众多参数中,曝光量是非常重要的一个参数。图像过亮过曝光或者过暗曝光不足都将非常影响对图像细节的读取和分析。
目前,关于自动曝光的专利和算法论文,这些都是在摄像头静止不动的模型下,基于一些静态参数对摄像头的曝光量进行动态调节。但是,自动驾驶中摄像头是一边随车高速移动一边采集图像,目前对于动态移动中的摄像头的曝光量动态调节方法的研究比较欠缺。
现有的静止摄像头自动曝光算法往往是根据现有图片进行一个叫做“测光”的步骤,根据测光的结果一次性调整摄像头的曝光量。与静止摄像头不同,随着高速移动的智能车周边环境的变化,移动的摄像头面临着时时刻刻变化的光照环境,所以针对移动的摄像头需要一种随时间变化不断来调整曝光量的动态曝光调整方法,现有的静止摄像头自动曝光调整方法无法满足该要求。
发明内容
有鉴于此,本发明提供了一种自动驾驶中摄像头动态曝光调整方法。
一种自动驾驶中摄像头动态曝光调整方法,包括如下步骤:
(1)对摄像头进行标定,得到摄像头的最大曝光时间Emax和最小曝光时间Emin,以及摄像头拍摄图像的最大灰度值Gmax和最小灰度值Gmin;
(2)提取摄像头的当前帧的图像,将当前帧图像的平均灰度值Gavg与Gmax、Gmin比较从而对Gavg进行修正,根据Gavg及上帧图像的曝光时间Ex′得到当前图像的预调整曝光时间Etmp;
(3)将Etmp与Emax、Emin进行比较后对Etmp进行修正得到采集下一帧图像时应当用的最优曝光时间Ex,然后返回至步骤(2),循环调节至结束。
本发明的有益效果是:本发明实现了对运动中的摄像头曝光时间的动态调节,通过分析摄像头当前帧图像的平均灰度值Gavg及上帧图像的曝光时间Ex′,调节采集下一帧图像时应当用的最优曝光时间Ex,使摄像头适应高速移动的智能车周边环境的变化,随时间环境的变化不断来调整最佳曝光量,采用本发明的方法后,在摄像头进入隧道光线突然变暗的时候,摄像头的曝光时间瞬间被调节到最大,隧道里面所拍摄到的图片细节清晰;而当摄像头离开隧道的时候,曝光时间被迅速缩短,脱出隧道后的图片也不会产生过曝光现象,明显提高动态移动中的摄像头采集到的图像或视频效果。
附图说明
图1是本发明的摄像头动态曝光调整流程示意图;
图中Etmp为预调整曝光时间;Ex′为上帧图像的曝光时间,Emax为摄像头的最大曝光时间;Emin为摄像头的最小曝光时间;Gavg为当前帧图像的平均灰度值;Gmax为最大灰度值;Gmin为最小灰度值;Grefer为灰度参考常量值。
具体实施方式
本发明提供了一种自动驾驶中摄像头动态曝光调整方法,包括如下步骤:
(1)对摄像头进行标定,得到摄像头的最大曝光时间Emax和最小曝光时间Emin,以及摄像头拍摄图像的最大灰度值Gmax和最小灰度值Gmin;
(2)提取摄像头的当前帧的图像,将当前帧图像的平均灰度值Gavg与Gmax、Gmin比较从而对Gavg进行修正,根据Gavg及上帧图像的曝光时间Ex′得到当前图像的预调整曝光时间Etmp;
(3)将Etmp与Emax、Emin进行比较后对Etmp进行修正得到采集下一帧图像时应当用的最优曝光时间Ex,然后返回至步骤(2),循环调节至结束。
优选的,步骤(2)所述将当前帧图像的平均灰度值Gavg与Gmax、Gmin比较从而对Gavg进行修正的方法包括:
若Gmin<Gavg<Gmax,则进行后续步骤;
若Gavg≤Gmin或Gavg≥Gmax,则Gavg无效,重新进行步骤(2)。
更加优选的,步骤(2)所述根据当前帧图像的平均灰度值Gavg及上帧图像的曝光时间Ex′得到当前图像的预调整曝光时间Etmp的方法包括:
若Gavg<1,则Etmp=(Gmin+Gmax+1)×Ex′/3.0;
若Gavg≥1,则Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg);
优选的,步骤(2)所述当前帧图像的平均灰度值Gavg计算方法包括:其中Gi为每像素灰度值,N为像素数;
优选的,步骤(3)所述对Etmp进行修正得到采集下一帧图像时应当用的最优曝光时间Ex的方法包括:
若Etmp<Emin,则Etmp无效,直接返回至步骤(2);
若Emin≤Etmp≤Emax,则调整曝光时间使Ex=Etmp,然后返回至步骤(2);
若Etmp>Emax,且Gavg≤Grefer,所述Grefer为灰度参考常量值,则Etmp无效,直接返回至步骤(2);
若Etmp>Emax,且Gavg>Grefer,所述Grefer为灰度参考常量值,则调整曝光时间使Ex=Emax,然后返回步骤(2)。
更加优选的,所述灰度参考常量值Grefer=50。
下面将结合具体实施例对本发明提供的自动驾驶中摄像头动态曝光调整方法予以进一步说明。
实施例一
本技实施例的目的是要在车载环境中根据摄像头实时输出的每一帧图像动态调节曝光时间,即实时更新下一帧图像时应当用的最优曝光时间Ex的值,调节方法的流程如图1所示,具体步骤包括:
(1)在智能汽车出发前对摄像头进行当场标定,标定的同时根据当天天气环境得到摄像头的最大曝光时间Emax和最小曝光时间Emin,所述Emax、Emin可通过相机相关驱动工具直接调节并看画面得到阈值的大小,以保证画面信息清晰为准,本次太阳光线较强,Emax=1500,Emin=10,通过画面质量统计Grefer时得的最大阈值及最小阈值即为Gmax、Gmin,也可对阈值大小做出适当调整,本实施例中摄像头拍摄图像的最大灰度值Gmax=60和最小灰度值Gmin=40;根据图像画面质量统计平均灰度得到参考值Gmin~Gmax之间时画面很好信息量最多便于识别和取图像相关信息,其中处在Grefer时效果越最明显故得到Grefer常量灰度参考值,Grefer=50。
(2)智能汽车开始行驶,提取摄像头的当前帧的图像,计算出当前帧图像的平均灰度值Gavg,其中Gi为每像素灰度值,N为像素数,得到Gavg=35,由于Gavg<Gmin,因此不对曝光时间进行调节并重新开始步骤(2),即重新提取摄像头的当前帧的图像,计算出当前帧图像的平均灰度值Gavg,计算方法与上述相同,此次得到Gavg=45,由于Gmin<Gavg<Gmax,故以Gavg=45为基础继续进行后续步骤;
(3)根据Gavg值计算当前图像的预调整曝光时间Etmp:
若Gavg<1,则Etmp=(Gmin+Gmax+1)×Ex′/3.0;
若Gavg≥1,则Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg);
其中Ex′为上帧曝光时间;
由于计算得到Gavg>1,故Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg)=10.7ms,其中上祯图像的曝光时间Ex′=10ms。
(5)将Etmp与Emin比较,由于Etmp大于Emin,故继续进行后续步骤;
(6)将Etmp与Emax比较:
若Etmp≤Emax,则调整曝光时间使Ex=Etmp,然后返回至步骤(2);
若Etmp>Emax,且Gavg≤Grefer,所述Grefer为灰度参考常量值,则Etmp无效,直接返回至步骤(2);
若Etmp>Emax,且Gavg>Grefer,所述Grefer为灰度参考常量值,则调整曝光时间使Ex=Emax,然后返回步骤(2)。
由于本实施例中Etmp≤Emax,故将曝光时间Ex调整为Etmp,即将曝光时间Ex调整为10.7ms,即根据环境的改变对动态的摄像头的曝光时间做出了适应性调节,然后返回至步骤(2),随着摄像头的运动环境的改变继续调节曝光时间,下一轮的曝光时间调节开始,调节过程从步骤(2)开始,具体步骤如下:
(2)提取摄像头的当前帧的图像,计算出当前帧图像的平均灰度值Gavg,其中Gi为每像素灰度值,N为像素数,得到Gavg=70,由于Gavg>Gmax,因此不对曝光时间进行调节并重新开始步骤(2),即重新提取摄像头的当前帧的图像,计算出当前帧图像的平均灰度值Gavg,计算方法与上述相同,此次得到Gavg=52,由于Gmin<Gavg<Gmax,故以Gavg=52为基础继续进行后续步骤;
(3)根据Gavg值计算当前图像的预调整曝光时间Etmp:
若Gavg<1,则Etmp=(Gmin+Gmax+1)×Ex′/3.0;
若Gavg≥1,则Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg);
其中Ex′为上帧曝光时间;
由于计算得到Gavg>1,故Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg)=10.4ms,其中上祯图像的曝光时间Ex′=10.7ms。
(5)将Etmp与Emin比较,由于Etmp大于Emin,故继续进行后续步骤;
(6)将Etmp与Emax比较:由于Etmp≤Emax,故将曝光时间Ex调整为Etmp,即将曝光时间Ex调整为10.4ms,即根据环境的改变对动态的摄像头的曝光时间做出了适应性调节,然后返回至步骤(2),随着摄像头的运动环境的改变继续调节曝光时间,下一轮的曝光时间调节开始,调节过程从步骤(2)开始,如此循环调节直至驾驶结束。采用本实施例的摄像头动态曝光调整方法得到的图片均细节清晰,无过曝光或曝光不足现象发生,效果良好。
实施例二
本技实施例的目的是要在车载环境中根据摄像头实时输出的每一帧图像动态调节曝光时间,即实时更新下一帧图像时应当用的最优曝光时间Ex的值,调节方法的流程如图1所示,具体步骤包括:
(1)在智能汽车出发前对摄像头进行当场标定,标定的同时根据当天天气环境得到摄像头的最大曝光时间Emax和最小曝光时间Emin,所述Emax、Emin可通过相机相关驱动工具直接调节并看画面得到阈值的大小,以保证画面信息清晰为准,本次光线较阴暗,Emax=2500,Emin=18,通过画面质量统计Grefer时得的最大阈值及最小阈值即为Gmax、Gmin,也可对阈值大小做出适当调整,本实施例中摄像头拍摄图像的最大灰度值Gmax=65和最小灰度值Gmin=45;根据图像画面质量统计平均灰度得到参考值Gmin~Gmax之间时画面很好信息量最多便于识别和取图像相关信息,其中处在Grefer时效果越最明显故得到Grefer常量灰度参考值,Grefer=50。
(2)智能汽车开始行驶,提取摄像头的当前帧的图像,计算出当前帧图像的平均灰度值Gavg,其中Gi为每像素灰度值,N为像素数,得到Gavg=58,由于Gmin<Gavg<Gmax,故以Gavg=58为基础继续进行后续步骤;
(3)根据Gavg值计算当前图像的预调整曝光时间Etmp:
若Gavg<1,则Etmp=(Gmin+Gmax+1)×Ex′/3.0;
若Gavg≥1,则Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg);
其中Ex′为上帧曝光时间;
由于计算得到Gavg>1,故Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg)=347.6ms,其中上祯图像的曝光时间Ex′=360ms。
(5)将Etmp与Emin比较,由于Etmp大于Emin,故继续进行后续步骤;
(6)将Etmp与Emax比较:由于Etmp<Emax,故将曝光时间Ex调整为Etmp,即将曝光时间Ex调整为347.6ms,即根据环境的改变对动态的摄像头的曝光时间做出了适应性调节,然后返回至步骤(2),随着摄像头的运动环境的改变继续调节曝光时间,下一轮的曝光时间调节开始,调节过程从步骤(2)开始。
返回至步骤(2)后具体调节步骤如下:
(2)提取摄像头的当前帧的图像,计算出当前帧图像的平均灰度值Gavg,其中Gi为每像素灰度值,N为像素数,得到Gavg=64,由于Gmin<Gavg<Gmax,故以Gavg=64为基础继续进行后续步骤;
(3)根据Gavg值计算当前图像的预调整曝光时间Etmp:
若Gavg<1,则Etmp=(Gmin+Gmax+1)×Ex′/3.0;
若Gavg≥1,则Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg);
其中Ex′为上帧曝光时间;
由于计算得到Gavg>1,故Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg)=9.5ms,其中上祯图像的曝光时间Ex′=315ms。
(5)将Etmp与Emin比较,由于Etmp大于Emin,故继续进行后续步骤;
(6)将Etmp与Emax比较:由于Etmp<Emax,故将曝光时间Ex调整为Etmp,即将曝光时间Ex调整为315ms,即根据环境的改变对动态的摄像头的曝光时间做出了适应性调节,然后返回至步骤(2),随着摄像头的运动环境的改变继续调节曝光时间,下一轮的曝光时间调节开始,调节过程从步骤(2)开始,如此循环调节直至驾驶结束。采用本实施例的摄像头动态曝光调整方法得到的图片均细节清晰,无过曝光或曝光不足现象发生,效果良好。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (4)
1.一种自动驾驶中摄像头动态曝光调整方法,包括如下步骤:
(1)对摄像头进行标定,得到摄像头的最大曝光时间Emax和最小曝光时间Emin,以及摄像头拍摄图像的最大灰度值Gmax和最小灰度值Gmin;
(2)提取摄像头的当前帧的图像,将当前帧图像的平均灰度值Gavg与Gmax、Gmin比较从而对Gavg进行修正,根据Gavg及上帧图像的曝光时间Ex′得到当前图像的预调整曝光时间Etmp;
(3)将Etmp与Emax、Emin进行比较后对Etmp进行修正得到采集下一帧图像时应当用的最优曝光时间Ex,然后返回至步骤(2),循环调节至结束;
步骤(2)所述将当前帧图像的平均灰度值Gavg与Gmax、Gmin比较从而对Gavg进行修正的方法包括:
若Gmin<Gavg<Gmax,则进行后续步骤;
若Gavg≤Gmin或Gavg≥Gmax,则Gavg无效,重新进行步骤(2);
步骤(2)所述根据Gavg及上帧图像的曝光时间Ex′得到当前图像的预调整曝光时间Etmp的方法包括:
若Gavg<1,则Etmp=(Gmin+Gmax+1)×Ex′/3.0;
若Gavg≥1,则Etmp=(Gmin+Gmax+Gavg)×Ex′/(3.0×Gavg)。
2.如权利要求1所述的自动驾驶中摄像头动态曝光调整方法,其特征在于:步骤(2)所述当前帧图像的平均灰度值Gavg计算方法包括:其中Gi为每像素灰度值,N为像素数。
3.如权利要求1所述的自动驾驶中摄像头动态曝光调整方法,其特征在于:步骤(3)所述对Etmp进行修正得到采集下一帧图像时应当用的最优曝光时间Ex的方法包括:
若Etmp<Emin,则Etmp无效,直接返回至步骤(2);
若Emin≤Etmp≤Emax,则调整曝光时间使Ex=Etmp,然后返回至步骤(2);
若Etmp>Emax,且Gavg≤Grefer,所述Grefer为灰度参考常量值,则Etmp无效,直接返回至步骤(2);
若Etmp>Emax,且Gavg>Grefer,所述Grefer为灰度参考常量值,则调整曝光时间使Ex=Emax,然后返回步骤(2)。
4.如权利要求3所述的自动驾驶中摄像头动态曝光调整方法,其特征在于:所述灰度参考常量值Grefer=50。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610057221.1A CN105554410B (zh) | 2016-01-28 | 2016-01-28 | 自动驾驶中摄像头动态曝光调整方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610057221.1A CN105554410B (zh) | 2016-01-28 | 2016-01-28 | 自动驾驶中摄像头动态曝光调整方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105554410A CN105554410A (zh) | 2016-05-04 |
CN105554410B true CN105554410B (zh) | 2018-12-18 |
Family
ID=55833328
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610057221.1A Active CN105554410B (zh) | 2016-01-28 | 2016-01-28 | 自动驾驶中摄像头动态曝光调整方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105554410B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107395973A (zh) * | 2017-08-01 | 2017-11-24 | 科大讯飞股份有限公司 | 一种图像拍摄控制方法及装置、系统 |
JP6717333B2 (ja) * | 2018-03-23 | 2020-07-01 | 株式会社デンソー | 露出制御装置 |
CN108833797B (zh) * | 2018-06-06 | 2021-01-22 | 深圳京龙睿信科技有限公司 | 一种提高车载双目视觉系统性能的装置及其使用方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101119439A (zh) * | 2007-08-22 | 2008-02-06 | 东风汽车有限公司 | 车载摄像机拍摄清晰车道图像的自动控制方法 |
CN101267505A (zh) * | 2008-04-25 | 2008-09-17 | 北京中星微电子有限公司 | 一种曝光时间调整方法、装置及一种摄像头 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8059187B2 (en) * | 2007-12-27 | 2011-11-15 | Eastman Kodak Company | Image capturing apparatus |
-
2016
- 2016-01-28 CN CN201610057221.1A patent/CN105554410B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101119439A (zh) * | 2007-08-22 | 2008-02-06 | 东风汽车有限公司 | 车载摄像机拍摄清晰车道图像的自动控制方法 |
CN101267505A (zh) * | 2008-04-25 | 2008-09-17 | 北京中星微电子有限公司 | 一种曝光时间调整方法、装置及一种摄像头 |
Also Published As
Publication number | Publication date |
---|---|
CN105554410A (zh) | 2016-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106454145B (zh) | 一种具有场景自适应的自动曝光方法 | |
CN104184957B (zh) | 一种适用于空间探测成像的基于自适应预期图像平均亮度的自动曝光控制方法 | |
CN102694981B (zh) | 基于自适应阈值分割的直方图均衡化的自动曝光方法 | |
CN104954696B (zh) | 一种emccd增益自动调节方法 | |
CN102724404B (zh) | 一种全天候曝光增益自动调节方法和系统 | |
CN105430267A (zh) | 一种基于人脸图像光照参数的摄像机参数自适应调整方法 | |
CN105554410B (zh) | 自动驾驶中摄像头动态曝光调整方法 | |
CN101582160B (zh) | 前景检测方法和装置以及自适应阈值调节方法和装置 | |
CN111225160B (zh) | 基于图像多阈值控制的自动曝光控制方法 | |
CN102629988A (zh) | 一种摄像头自动控制方法及装置 | |
CN103810463A (zh) | 人脸识别装置及人脸图像检测方法 | |
CN104202537A (zh) | 一种红外摄像机的调光方法 | |
CN103780957A (zh) | 一种电视终端智能控制系统及其控制方法 | |
CN107392879B (zh) | 一种基于参考帧的低照度监控图像增强方法 | |
CN103237175A (zh) | 基于人眼视觉特性的数字相机自动曝光方法 | |
CN109510949A (zh) | 基于图像特征点有效亮度的相机自动曝光方法 | |
AU2017218753B2 (en) | Imaging device with white balance compensation and related systems and methods | |
CN102081275B (zh) | 一种基于数字图像的经纬仪全自动实时调光方法 | |
CN109618109B (zh) | 一种摄像机成像的曝光调节方法及调节系统 | |
JP2010049491A (ja) | 運転状態監視装置 | |
CN111556245A (zh) | 一种基于周围场景自适应调整的智能车载成像系统及方法 | |
CN106657807B (zh) | 一种彩色相机的自动曝光方法 | |
CN107220983B (zh) | 一种基于视频的生猪检测方法和系统 | |
CN113824875B (zh) | 一种基于调制光源亮度间隔和拍摄间隔的果蔬拍摄方法 | |
CN107545555B (zh) | 图像处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |