CN113959398A - 基于视觉的测距方法、装置、可行驶设备及存储介质 - Google Patents
基于视觉的测距方法、装置、可行驶设备及存储介质 Download PDFInfo
- Publication number
- CN113959398A CN113959398A CN202111174674.XA CN202111174674A CN113959398A CN 113959398 A CN113959398 A CN 113959398A CN 202111174674 A CN202111174674 A CN 202111174674A CN 113959398 A CN113959398 A CN 113959398A
- Authority
- CN
- China
- Prior art keywords
- target object
- image
- distance
- travelable
- distance measurement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000691 measurement method Methods 0.000 title abstract description 10
- 238000005259 measurement Methods 0.000 claims abstract description 106
- 238000000034 method Methods 0.000 claims abstract description 55
- 238000004590 computer program Methods 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 10
- 239000011159 matrix material Substances 0.000 claims description 7
- 230000000007 visual effect Effects 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 12
- 230000008901 benefit Effects 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 7
- 238000011084 recovery Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/10—Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument
Abstract
本申请实施例公开一种基于视觉的测距方法,应用于可行驶设备,所述可行驶设备包括:第一摄像装置和第二摄像装置;所述方法包括:获取第一摄像装置和第二摄像装置对目标物体进行拍摄得到的第一图像和第二图像;根据所述第一图像和所述第二图像计算所述目标物体中各个像素点分别对应的视差值;根据所述目标物体中各个像素点分别对应的视差值,从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略;执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离,能够提高基于视觉进行测距的准确性。
Description
技术领域
本申请涉及图像处理技术领域,具体涉及基于视觉的测距方法、装置、可行驶设备及存储介质。
背景技术
汽车或者载人飞行器等可行驶设备在行驶/飞行的过程中往往会遇到各种障碍物。以载人飞行器为例,无人机等其它飞行器、鸟类、电线杆等物体是飞行过程中经常遇到的障碍物。为了保障的行驶或者飞行的安全性,需要可行驶设备能够自动测量障碍物与可行驶设备之间的距离。然而,在实践中发现,目前应用在可行驶设备中的自动测距方法,仍然普遍存在测距准确度较低的问题。
发明内容
本申请实施例公开了一种基于视觉的测距方法、装置、可行驶设备及存储介质,能够提高基于视觉进行测距的准确性。
本申请实施例公开一种基于视觉的测距方法,应用于可行驶设备,所述可行驶设备包括:第一摄像装置和第二摄像装置;所述方法包括:
获取第一摄像装置和第二摄像装置对目标物体进行拍摄得到的第一图像和第二图像;根据所述第一图像和所述第二图像计算所述目标物体中各个像素点分别对应的视差值;根据所述目标物体中各个像素点分别对应的视差值,从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略;执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离。
在一个实施例中,所述根据所述目标物体对应的视差值,从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略,包括:将所述目标物体中各个像素点分别对应的视差值与视差阈值进行对比,并根据对比结果从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略。
在一个实施例中,所述将所述目标物体中各个像素点分别对应的视差值与视差阈值进行对比,并根据对比结果从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略,包括:统计所述目标物体包括的各个像素点中,对应的视差值大于所述视差阈值的像素点数量;根据所述对应的视差值大于所述视差阈值的像素点数量,与所述目标物体包括的各个像素点的总数量,计算有效视差像素点占比;在所述有效视差像素点占比大于占比阈值时,将双目测距策略确定为与所述目标物体对应的测距策略;和/或,在所述有效视差像素点占比小于所述占比阈值时,将单目测距策略确定为与所述目标物体对应的测距策略。
在一个实施例中,若所述目标物体对应的测距策略为单目测距策略,所述执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离,包括:识别所述目标物体的物体类别,并根据所述物体类别获取所述目标物体的实际物理尺寸;识别所述目标物体在所述第一图像中的图像尺寸;根据所述实际物理尺寸、所述图像尺寸以及所述第一摄像装置的焦距,计算所述目标物体与所述可行驶设备之间的测量距离。
在一个实施例中,若所述目标物体对应的测量策略为双目测距策略,所述执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离,包括:根据所述第一摄像装置的焦距、所述第一摄像装置和所述第二摄像装置之间的基线距离、以及所述目标物体中各个像素点分别对应的视差值,计算所述目标物体与所述可行驶设备之间的测量距离。
在一个实施例中,所述根据所述第一图像和所述第二图像计算所述目标物体中各个像素点分别对应的视差值,包括:识别所述目标物体在所述第一图像中的第一感兴趣区域;计算所述第一图像和所述第二图像的视差图,所述视差图包括所述第一图像和所述第二图像中相匹配的像素点对应的视差值;根据所述第一感兴趣区域确定所述目标物体在所述视差图中的第二感兴趣区域;从所述视差图中获取所述第二感兴趣区域包括的各个像素点分别对应的视差值,作为所述目标物体中各个像素点分别对应的视差值。
在一个实施例中,在计算出所述目标物体与所述可行驶设备之间的测量距离之后,所述方法还包括:计算所述第一感兴趣区域的中心点坐标;根据所述第一摄像装置的内参矩阵以及所述测量距离,将所述中心点坐标转换至相机坐标系下进行表示,得到所述目标物体在相机坐标系下的目标坐标;基于所述目标坐标执行与所述目标物体相对应的操作。
本申请实施例公开一种基于视觉的测距装置,应用于可行驶设备,所述可行驶设备包括:第一摄像装置和第二摄像装置;所述装置包括:获取模块,用于获取第一摄像装置和第二摄像装置同时对目标物体进行拍摄得到的第一图像和第二图像;视差计算模块,用于根据所述第一图像和所述第二图像计算所述目标物体中各个像素点分别对应的视差值;确定模块,用于根据所述目标物体中各个像素点分别对应的视差值,从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略;测距模块,用于执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离。
本申请实施例公开一种可行驶设备,其特征在于,包括存储器及处理器,所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器实现本申请实施例公开的任意一种基于视觉的测距方法。
本申请实施例公开一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现本申请实施例公开的任意一种基于视觉的测距方法。
与相关技术相比,本申请实施例具有以下有益效果:
可行驶设备可以通过两个摄像装置拍摄包括目标物体的第一图像和第二图像,以计算目标物体中各个像素点分别对应的视差值。视差值可用于预估目标物体与可行驶设备之间的距离,使得可形式设备可以在单目测距策略和双目测距策略中选取出适配于预估距离的测距策略。单目测距策略具有能够感知到较远物体的优点,双目测距具有近距离高精度深度恢复的优点。实施本申请实施例,可以结合二者的优点,同时兼顾远近距离的障碍物,极大的提高了基于视距的测距准确性和适用范围。此外,在本申请实施例中,无需对可行驶设备双目摄像系统的硬件设置进行改造,有利于减少设备改造成本。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是一个实施例公开的一种基于视觉的测距方法的应用场景示例图;
图2是一个实施例公开的一种基于视觉的测距方法的方法流程示意图;
图3是一个实施例公开的一种双目摄像系统的示例图;
图4是一个实施例公开的一种单目测距原理的示例图;
图5是一个实施例公开的另外一种基于视觉的测距方法的方法流程示意图;
图6是一个实施例公开的另一种基于视觉的测距方法的流程示意图;
图7是一个实施例公开的一种基于视觉的测距装置的结构示意图;
图8是本申请实施例公开的一种可行驶设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例及附图中的术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
在相关技术中,存在基于单个摄像装置拍摄到的图像进行测距的单目测距策略,以及基于两个摄像装置分别拍摄到的图像进行测距的双目测距策略。
单目测距策略在障碍物的距离较近(如<30米)时,存在较大的误差,较大的误差会严重降低可行驶设备的安全性。
双目测距策略在障碍物的距离较远(如>100米)时,由于受到两个摄像装置之间的基线距离的限制,两个摄像装置的共视范围趋向一致,视差较小,导致此时双目测距策略的效果与单目测距策略的效果差别不大,难以发挥双目测距的又是,无法测量出较远的障碍物的距离。
本申请实施例公开了一种基于视觉的测距方法、装置、可行驶设备及存储介质,能够提高基于视觉进行测距的准确性。以下分别进行详细说明。
请参阅图1,图1是一个实施例公开的一种基于视觉的测距方法的应用场景示例图。如图1所示,可行驶设备10可包括第一摄像装置110和第二摄像装置120。
可行驶设备10可行驶设备10可包括无人机、载人飞行器等飞行设备;或者,可行驶10也可包括汽车、公交车等车辆,具体不做限定。
第一摄像装置110或者第二摄像装置120可以包括可见光摄像头、红外摄像头、鱼眼摄像头等,具体不做限定。
第一摄像装置110和第二摄像装置120可以拍摄到包括目标物体20的图像。目标物体20可以是在可行驶设备周边的任意一种物体,例如其它飞行设备、鸟类、电线杆等,具体不做限定。
请参阅图2,图2是一个实施例公开的一种基于视觉的测距方法的方法流程示意图,该方法可应用于前述的任意一种可行驶设备。如图2所示,该方法可以包括以下步骤:
210、获取第一摄像装置和第二摄像装置对目标物体进行拍摄得到的第一图像和第二图像。
第一摄像装置和第二摄像装置可以按照一定的频率进行拍摄,得到包括目标物体的第一图像和第二图像。第一摄像装置和第二摄像装置可以是参数相同的摄像装置,二者的焦距、视角等参数相同。
在一些实施例中,第一摄像装置和第二摄像装置可以是可行驶设备上设置的双目摄像系统中的摄像装置。示例性的,第一摄像装置可以是双目摄像系统中的左目摄像头,第二摄像装置可以是双目摄像系统中的右目摄像头。或者,第一摄像装置也可以是双目摄像系统中的右目摄像头,第二摄像装置可以是双目摄像系统中的左目摄像头,具体不做限定。
220、根据第一图像和第二图像计算目标物体中各个像素点分别对应的视差值。
视差值可以是从一定距离的两个点上观察同一个目标所产生的方向差异。请参阅图3,图3是一个实施例公开的一种双目摄像系统的示例图。如图3所示,第一摄像装置310和第二摄像装置320可分别对三维空间中的任意一点330进行拍摄。
第一摄像装置310和第二摄像装置320之间的连线为基线距离b;第一摄像装置310到第一成像平面311a的距离为焦距f,第二摄像装置320到第二成像平面321a的距离相同,也为焦距f。
三维空间中的任意一点330在第一成像平面311a中的成像点为u0,三维空间中的任意一点330在第二成像平面321a中的成像点为u1。
也就是说,三维空间中的任意一点330在第一摄像装置310拍摄到的第一图像中的像素点可表示为u0,在第二摄像装置320拍摄到的第二图像中的像素点可表示为u1。该点330对应的视差值d1可以通过以下公式进行计算:
d1=xl-xr;其中,xl可表示像素点u0在第一图像中的横坐标,xr可表示像素点u1在第二图像中的横坐标。
在第一图像和第二图像中,目标物体可由一个或多个像素点构成。可行驶设备可以通过前述的视差值计算公式对目标物体中各个像素点分别对应的视差值进行计算。
230、根据目标物体中各个像素点分别对应的视差值,从单目测距策略和双目测距策略中确定与目标物体对应的测距策略。
视差值在一定程度上可以反映目标物体与可行驶设备之间的距离。若目标物体与可行驶设备之间的距离太远,则目标物体中各个像素点分别对应的视差值较小;若目标物体与可行驶设备之间的距离较近,则目标物体中各个像素点分别对应的视差值可能较大。
因此,可行驶设备可利用目标物体中各个像素点分别对应的视差值与视差阈值进行对比,并根据对比结果从前述的两种测距策略中确定出与目标物体对应的测距策略。其中,视差阈值可以根据实际的业务需求设置,具体不做限定。
视差值与视差阈值的对比,可用于预估目标物体与可行驶设备之间的距离。对比结果可以包括是否存在对应的视差值大于视差阈值的像素点;或者,对应的视差值大于视差阈值的像素点数量,对应的视差值小于或等于视差阈值的像素点数量;或者,对应的视差值大于视差阈值的像素点占比,对应的视差值小于或等于视差阈值的像素点占比,但不限于此。
示例性的,若目标物体包括的各个像素点中存在对应的视差值大于视差阈值的像素点,则可以利用视差值进行距离计算,将双目测距策略确定为与目标物体对应的测距策略;否则,不利用视差值进行计算,将单目测距策略确定为与目标物体对应的测距策略。
240、执行与目标物体对应的测距策略,得到目标物体与可行驶设备之间的测量距离。
无论是单目测距策略和双目测距策略,计算出的距离可以是目标物体实际上到摄像装置之间的距离。但在实际的应用中,由于摄像装置是安设在可行驶设备上的,一般可以将目标物体到摄像装置之间的距离看作目标物体与可行驶设备之间的距离。
在一些实施例中,若与目标物体对应的测距策略为双目测距策略,则步骤240的实施方式可包括:
根据第一摄像装置的焦距、第一摄像装置和第二摄像装置之间的基线距离、以及目标物体中各个像素点分别对应的视差值,计算目标物体与可行驶设备之间的测量距离。
示例性的,在双目测距策略中,目标物体中任意一个像素点与可行驶设备之间的测量距离z可以参考以下公式进行计算:
z=b*f/d1; 公式(1);
其中,b可表示第一摄像装置和第二摄像装置之间的基线距离,f可表示第一摄像装置的焦距,d1可表示像素点对应的视差值。
在一些实施例中,若与目标物体对应的测距策略为单目测距策略,则步骤240的实施方式可包括:
S1、识别目标物体的物体类别,并根据物体类别获取目标物体的实际物理尺寸。其中,同一类别的物体在实际物理尺寸上一般不会出现量级上的偏差。例如,小型无人机的高度一般在0.3米-1米左右,很少会大幅度超出该高度范围。可行驶设备可以为不同类别的物体增加对应的物体属性,例如物体类别、平均尺寸等属性,并使用例如回归的方法去预测目标物体的实际物理尺寸。或者,也可以预先建立一个查询表,表内可以包括常见的不同类别的物体分别对应的实际物理尺寸。可行驶设备可以从识别
S2、识别目标物体在第一图像中的图像尺寸;根据实际物理尺寸、图像尺寸以及第一摄像装置的焦距,计算目标物体与可行驶设备之间的测量距离。
其中,目标物体在第一图像中的图像尺寸可以包括在第一图像中的长度或者高度;目标物体实际的物理尺寸可以包括目标物体实际的宽度或者高度。
示例性的,请参阅图4,图4是一个实施例公开的一种单目测距原理的示例图。如图4所示,f可表示第一摄像装置的焦距,d2可表示目标物体到第一摄像装置的镜头之间的距离;H可表示目标物体的实际宽度;h可表示目标物体在第一摄像装置的感光元件上的宽度。目标物体到镜头之间的距离d2与目标物体在感光元件上成像的宽度h之间存在一定的相关性。因此,单目测距策略需要有一个空间尺度作为参考,可以利用目标物体的实际物理尺寸计算该空间尺度。
在单目测距策略中,目标物体与可行驶设备之间的测量距离z可通过以下公式进行计算:
Z=H*f/h; 公式(2);
其中,H可表示目标物体实际的高度,f可表示第一摄像装置的焦距,h可表示目标物体在第一图像中的高度。
可见,在前述的实施例中,可行驶设备可以通过两个摄像装置拍摄包括目标物体的第一图像和第二图像,以计算目标物体中各个像素点分别对应的视差值。视差值可用于预估目标物体与可行驶设备之间的距离,使得可形式设备可以在单目测距策略和双目测距策略中选取出适配于预估距离的测距策略。单目测距策略具有能够感知到较远物体的优点,双目测距具有近距离高精度深度恢复的优点。前述实施例公开的基于视觉的测距方法,可以结合二者的优点,同时兼顾远近距离的障碍物,极大的提高了基于视距的测距准确性和适用范围。此外,应用前述实施例公开的基于视觉的测距方法,无需对可行驶设备双目摄像系统的硬件设置进行改造,有利于减少设备改造成本。
为了更清楚地说明本申请实施例中根据视差值从单目测距策略和双目测距策略中确定出与目标物体对应的测距策略的具体实施方式。请参阅图5,图5是一个实施例公开的另外一种基于视觉的测距方法的方法流程示意图,该方法可应用于前述的可行驶设备。如图5所示,该方法可以包括以下步骤:
510、获取第一摄像装置和第二摄像装置对目标物体进行拍摄得到的第一图像和第二图像。
520、识别目标物体在第一图像中的第一感兴趣区域,并计算第一图像和第二图像的视差图。
可行驶设备可以对第一图像进行目标物体的识别,例如基于传统的特征匹配算法或者基于深度学习、机器学习方法进行的目标检测或者图像分割算法,识别出目标物体在第一图像中的第一感兴趣区域。
示例性的,第一感兴趣区域可以通过矩形框进行表示,矩形框的图像坐标可表示为(x,y,w,h)。其中,x可表示矩形框左上角点的横坐标,y可表示矩形框右上角点的纵坐标,w可表示矩形框的宽度,可用于指示目标物体在第一图像中的宽度,h可表示矩形框的高度,可用于指示目标物体在第一图像中的高度。
可行驶设备可进一步计算第一图像和第二图像的视差图,视差图中可包括第一图像和第二图像中相匹配的像素点对应的视差值。
示例性的,可行驶设备可基于绝对误差和(Sum of absolute differences,SAD)、图割法、基于固定窗口的区域匹配法等算法计算第一图像和第二图像的视差图。
530、根据第一感兴趣区域确定目标物体在视差图中的第二感兴趣区域。
540、从视差图中获取第二感兴趣区域包括的各个像素点对应的视差值,作为目标物体中各个像素点分别对应的视差值。
可行驶设备可以将第一感兴趣区域的图像坐标对应至视差图中,从而得到目标物体在视差图中的第二感兴趣区域,第二感兴趣区域包括的各个像素点可为目标物体中各个像素点,第二感兴趣区域中各个像素点分别对应的视差值可作为目标物体中各个像素点分别对应的视差值。
550、统计目标物体包括的各个像素点中,对应的视差值大于视差阈值的像素点数量,并根据对应的视差值大于视差阈值的像素点数量,与目标物体包括的各个像素点的总数量,计算有效视差像素点占比。
可行驶设备可以逐个遍历第二感兴趣区域中的像素点,并对比第二感兴趣区域中每个像素点对应的视差值与视差阈值。若某个像素点对应的视差值大于视差阈值,则该像素点对应的视差值有效,以此统计第二感兴趣区域中有效的视差值对应的像素点数量n。
在第二感兴趣区域中的各个像素点均完成视差值的对比之后,可行驶设备可计算对应的视差值大于视差阈值的像素点数量n,与第二感兴趣区域中像素点的总数量N之间的比值,得到有效视差像素点占比r。
560、判断有效视差像素点占比是否大于占比阈值;若是,执行步骤570;若否,执行步骤580。
可行驶区域可将有效视差像素点占比r与预设的占比阈值threshold进行比较。其中,占比阈值可以根据实际的业务需求设置,具体不做限定。
若有效视差像素点占比较大,则可行驶设备可以执行步骤570,利用双目测距策略计算目标物体与可行驶设备之间的测量距离;若有效视差像素点占比较小,则可行驶设备可以执行步骤580,利用单目测距策略计算目标物体与可行驶设备之间的策略距离。
570、将双目测距策略确定为与目标物体对应的测距策略。
580、将单目测距策略确定为与目标物体对应的测距策略。
590、执行与目标物体对应的测距策略,得到目标物体与可行驶设备之间的测量距离。
可行驶设备执行步骤590的具体实施方式可以参见前述实施例,以下内容不再赘述。
在一个实施例中,为了便于对目标物体执行避障、路径规划等后续处理操作,飞行设备在执行步骤590之后,还可以执行以下步骤:
S1、计算第一感兴趣区域的中心点坐标。
示例性的,第一感兴趣区域的图像坐标如前所示,可表示为(x,y,w,h)。中心点坐标(xcenter,ycenter)可通过以下公式进行计算:
xcenter=(x+w/2); 公式(3);
ycenter=(y+h/2); 公式(4);
其中,xcenter可表示中心点的横坐标,ycenter可表示中心点的纵坐标。
S2、根据第一摄像装置的内参矩阵以及步骤590计算出的测量距离,将中心点坐标转换至相机坐标系下进行表示,得到目标物体在相机坐标系下的目标坐标。
第一摄像装置的内参矩阵可以包括第一摄像装置与自身特性相关的参数,例如焦距、像素大小等。内参矩阵可以通过张正友标定法等方法对第一摄像装置进行标定得出,但不限于此。
示例性的,内参矩阵K可以表示如下:
中心点转换至相机坐标系下进行表示,得到的目标坐标(xc,yc,zc)可通过以下公式进行计算:
xc=(xcenter-cx)*z/fx; 公式(6);
yc=(ycenter-cy)*z/fy; 公式(7);
zc=z; 公式(8);
其中,z可为测量距离;
S3、基于目标坐标执行与目标物体相对应的操作。
可行驶设备可以利用目标坐标进行避障、路径规划等一种或多种操作,以便于可行驶设备能够实现躲避目标物体、跟随或者环绕目标物体飞行等效果。
示例性的,请参阅图6,图6是一个实施例公开的另一种基于视觉的测距方法的流程示意图。
可行驶设备可对第一摄像装置拍摄到的第一图像610进行目标物体的识别,得到目标物体的第一感兴趣区域614。并且,可行驶设备可计算第一图像610和第二图像612的视差图616。将第一感兴趣区域614的图像坐标对应至视差图616,可以得到目标物体在视差图616中的第二感兴趣区域618。
可行驶设备可通过前述实施例中计算有效视差像素点占比的方法判断第二感兴趣区域618是否有效。若有效视差像素占比大于占比阈值,则第二感兴趣区域618有效,可行驶设备基于双目测距策略计算目标物体与可行驶设备之间的测量距离。若有效视差像素占比小于占比阈值,则第二感兴趣区域618无效,可行驶设备基于单目测距策略计算目标物体与可行驶设备之间的测量距离。
可行驶设备在计算得到目标物体与可行驶设备之间的测量距离之后,可可以基于测量距离将目标物体转换至相机坐标系下进行表示,得到目标物体在相机坐标系下的目标坐标620。
可行驶设备可以基于目标坐标620对目标物体做出响应,包括但不限于:躲避目标物体、跟随目标物体飞行、环绕目标物体飞行。
可见,在前述实施例中,可行驶设备可以通过有效视差像素占比的大小预估目标物体与可行驶设备之间的距离,并且在目标物体距离较近时,通过双目测距策略计算目标物体与可行驶设备之间的测量距离,从而可以达到高精度的深度恢复效果;以及,在目标物体距离较远时,通过单目测距策略计算目标物体与可行驶设备之间的测量距离。较远的距离可以容忍相对比较大的误差,即使单目测距策略在深度恢复上存在一定误差,对可行驶设备后续的避障、规划等处理的影响也较小。因此,前述实施例可以结合单目测距和双目测距的优点,同时兼顾远近距离的障碍物,极大的提高了基于视距的测距准确性和适用范围。
此外,在前述实施例中,可行驶设备还可以基于计算出的测量距离将目标物体转换至相机坐标系下进行表示,以便于利用目标物体在相机坐标系下的目标坐标,控制可行驶设备执行与目标物体相关的操作。
请参阅图7,图7是一个实施例公开的一种基于视觉的测距装置的结构示意图,该装置可以应用于前述实施例公开的任意一种可行驶设备。如图7所示,基于视觉的测距装置700可以包括以下步骤:获取模块710、视差计算模块720、确定模块730、测距模块740。
获取模块710,可用于获取第一摄像装置和第二摄像装置同时对目标物体进行拍摄得到的第一图像和第二图像;
视差计算模块720,可用于根据第一图像和第二图像计算目标物体中各个像素点分别对应的视差值;
确定模块730,可用于根据目标物体中各个像素点分别对应的视差值,从单目测距策略和双目测距策略中确定与目标物体对应的测距策略;
测距模块740,可用于执行与目标物体对应的测距策略,得到目标物体与可行驶设备之间的测量距离。
在一个实施例中,确定模块730,还可用于将目标物体中各个像素点分别对应的视差值与视差阈值进行对比,并根据对比结果从单目测距策略和双目测距策略中确定与目标物体对应的测距策略。
在一个实施例中,确定模块730,可包括:统计单元、占比计算单元、确定单元。
统计单元,可用于统计目标物体包括的各个像素点中,对应的视差值大于视差阈值的像素点数量;
占比计算单元,可用于根据对应的视差值大于视差阈值的像素点数量,与目标物体包括的各个像素点的总数量,计算有效视差像素点占比;
确定单元,可用于在有效视差像素点占比大于占比阈值时,将双目测距策略确定为与目标物体对应的测距策略;和/或,在有效视差像素点占比小于占比阈值时,将单目测距策略确定为与目标物体对应的测距策略。
在一个实施例中,测距模块740,还可用于在目标物体对应的测距策略为单目测距策略时,识别目标物体的物体类别,并根据物体类别获取目标物体的实际物理尺寸;以及,识别目标物体在第一图像中的图像尺寸;以及,根据实际物理尺寸、图像尺寸以及第一摄像装置的焦距,计算目标物体与可行驶设备之间的测量距离。
在一个实施例中,测距模块740,还可用于在目标物体对应的测量策略为双目测距策略时,根据第一摄像装置的焦距、第一摄像装置和第二摄像装置之间的基线距离、以及目标物体中各个像素点分别对应的视差值,计算目标物体与可行驶设备之间的测量距离。
在一个实施例中,视差计算模块720,还可用于识别目标物体在第一图像中的第一感兴趣区域;以及,计算第一图像和第二图像的视差图,视差图包括第一图像和第二图像中相匹配的像素点对应的视差值;以及,根据第一感兴趣区域确定目标物体在视差图中的第二感兴趣区域;以及,从视差图中获取第二感兴趣区域包括的各个像素点分别对应的视差值,作为目标物体中各个像素点分别对应的视差值。
在一个实施例中,基于视觉的测距装置700,还可包括:转换模块和执行模块。
转换模块,可用于计算第一感兴趣区域的中心点坐标;以及,根据第一摄像装置的内参矩阵以及测量距离,将中心点坐标转换至相机坐标系下进行表示,得到目标物体在相机坐标系下的目标坐标;
执行模块,可用于基于目标坐标执行与目标物体相对应的操作。
可见,实施前述实施例公开的基于视觉的测距装置,可以通过两个摄像装置拍摄包括目标物体的第一图像和第二图像,以计算目标物体中各个像素点分别对应的视差值,从而在单目测距策略和双目测距策略中选取出适配于目标物体和可行驶设备之间的距离的测距策略。单目测距策略具有能够感知到较远物体的优点,双目测距具有近距离高精度深度恢复的优点。前述实施例公开的基于视觉的测距方法,可以结合二者的优点,同时兼顾远近距离的障碍物,极大的提高了基于视距的测距准确性和适用范围。此外,应用前述实施例公开的基于视觉的测距方法,无需对可行驶设备双目摄像系统的硬件设置进行改造,有利于减少设备改造成本。
请参阅图8,图8是本申请实施例公开的一种可行驶设备的结构示意图。如图8所示,该可行驶设备800可以包括:
存储有可执行程序代码的存储器810;
与存储器810耦合的处理器820;
其中,处理器820调用存储器810中存储的可执行程序代码,执行本申请实施例公开的任意一种基于视觉的测距方法。
需要说明的是,图8所示的可行驶设备还可以包括电源、扬声器、RF电路、Wi-Fi模块、蓝牙模块、传感器等未显示的组件,本实施例不作赘述。
本申请实施例公开一种计算机可读存储介质,其存储计算机程序,其中,该计算机程序被处理器执行时实现本申请实施例公开的任意一种基于视觉的测距方法。
本申请实施例公开一种计算机程序产品,该计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,且该计算机程序可操作来使计算机执行本申请实施例公开的任意一种基于视觉的测距方法。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本申请的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定特征、结构或特性可以以任意适合的方式结合在一个或多个实施例中。本领域技术人员也应该知悉,说明书中所描述的实施例均属于可选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在本申请的各种实施例中,应理解,上述各过程的序号的大小并不意味着执行顺序的必然先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物单元,即可位于一个地方,或者也可以分布到多个网络单元上。可根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
上述集成的单元若以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可获取的存储器中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或者部分,可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干请求用以使得一台计算机设备(可以为个人计算机、服务器或者网络设备等,具体可以是计算机设备中的处理器)执行本申请的各个实施例上述方法的部分或全部步骤。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质包括只读存储器(Read-Only Memory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、一次可编程只读存储器(One-time Programmable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
以上对本申请实施例公开的一种基于视觉的测距方法、装置、可行驶设备及存储介质进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (10)
1.一种基于视觉的测距方法,其特征在于,应用于可行驶设备,所述可行驶设备包括:第一摄像装置和第二摄像装置;所述方法包括:
获取第一摄像装置和第二摄像装置对目标物体进行拍摄得到的第一图像和第二图像;
根据所述第一图像和所述第二图像计算所述目标物体中各个像素点分别对应的视差值;
根据所述目标物体中各个像素点分别对应的视差值,从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略;
执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离。
2.根据权利要求1所述的方法,其特征在于,所述根据所述目标物体对应的视差值,从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略,包括:
将所述目标物体中各个像素点分别对应的视差值与视差阈值进行对比,并根据对比结果从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略。
3.根据权利要求2所述的方法,其特征在于,所述将所述目标物体中各个像素点分别对应的视差值与视差阈值进行对比,并根据对比结果从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略,包括:
统计所述目标物体包括的各个像素点中,对应的视差值大于所述视差阈值的像素点数量;
根据所述对应的视差值大于所述视差阈值的像素点数量,与所述目标物体包括的各个像素点的总数量,计算有效视差像素点占比;
在所述有效视差像素点占比大于占比阈值时,将双目测距策略确定为与所述目标物体对应的测距策略;和/或,
在所述有效视差像素点占比小于所述占比阈值时,将单目测距策略确定为与所述目标物体对应的测距策略。
4.根据权利要求1所述的方法,其特征在于,若所述目标物体对应的测距策略为单目测距策略,所述执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离,包括:
识别所述目标物体的物体类别,并根据所述物体类别获取所述目标物体的实际物理尺寸;
识别所述目标物体在所述第一图像中的图像尺寸;
根据所述实际物理尺寸、所述图像尺寸以及所述第一摄像装置的焦距,计算所述目标物体与所述可行驶设备之间的测量距离。
5.根据权利要求1所述的方法,其特征在于,若所述目标物体对应的测量策略为双目测距策略,所述执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离,包括:
根据所述第一摄像装置的焦距、所述第一摄像装置和所述第二摄像装置之间的基线距离、以及所述目标物体中各个像素点分别对应的视差值,计算所述目标物体与所述可行驶设备之间的测量距离。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述根据所述第一图像和所述第二图像计算所述目标物体中各个像素点分别对应的视差值,包括:
识别所述目标物体在所述第一图像中的第一感兴趣区域;
计算所述第一图像和所述第二图像的视差图,所述视差图包括所述第一图像和所述第二图像中相匹配的像素点对应的视差值;
根据所述第一感兴趣区域确定所述目标物体在所述视差图中的第二感兴趣区域;
从所述视差图中获取所述第二感兴趣区域包括的各个像素点分别对应的视差值,作为所述目标物体中各个像素点分别对应的视差值。
7.根据权利要求6所述的方法,其特征在于,在计算出所述目标物体与所述可行驶设备之间的测量距离之后,所述方法还包括:
计算所述第一感兴趣区域的中心点坐标;
根据所述第一摄像装置的内参矩阵以及所述测量距离,将所述中心点坐标转换至相机坐标系下进行表示,得到所述目标物体在相机坐标系下的目标坐标;
基于所述目标坐标执行与所述目标物体相对应的操作。
8.一种基于视觉的测距装置,其特征在于,应用于可行驶设备,所述可行驶设备包括:第一摄像装置和第二摄像装置;所述装置包括:
获取模块,用于获取第一摄像装置和第二摄像装置同时对目标物体进行拍摄得到的第一图像和第二图像;
视差计算模块,用于根据所述第一图像和所述第二图像计算所述目标物体中各个像素点分别对应的视差值;
确定模块,用于根据所述目标物体中各个像素点分别对应的视差值,从单目测距策略和双目测距策略中确定与所述目标物体对应的测距策略;
测距模块,用于执行与所述目标物体对应的测距策略,得到所述目标物体与所述可行驶设备之间的测量距离。
9.一种可行驶设备,其特征在于,包括存储器及处理器,所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器实现如权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111174674.XA CN113959398B (zh) | 2021-10-09 | 2021-10-09 | 基于视觉的测距方法、装置、可行驶设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111174674.XA CN113959398B (zh) | 2021-10-09 | 2021-10-09 | 基于视觉的测距方法、装置、可行驶设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113959398A true CN113959398A (zh) | 2022-01-21 |
CN113959398B CN113959398B (zh) | 2024-04-12 |
Family
ID=79463173
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111174674.XA Active CN113959398B (zh) | 2021-10-09 | 2021-10-09 | 基于视觉的测距方法、装置、可行驶设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113959398B (zh) |
Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060203335A1 (en) * | 2002-11-21 | 2006-09-14 | Martin Michael B | Critical alignment of parallax images for autostereoscopic display |
CN102802020A (zh) * | 2012-08-31 | 2012-11-28 | 清华大学 | 监测双目立体视频视差信息的方法和装置 |
CN103679121A (zh) * | 2012-09-14 | 2014-03-26 | 株式会社理光 | 采用视差图像检测路边的方法及系统 |
CN103868460A (zh) * | 2014-03-13 | 2014-06-18 | 桂林电子科技大学 | 基于视差优化算法的双目立体视觉自动测量方法 |
DE102013016241A1 (de) * | 2013-10-01 | 2015-04-02 | Daimler Ag | Verfahren und Vorrichtung zur augmentierten Darstellung |
DE102014000082A1 (de) * | 2014-01-02 | 2015-07-02 | Wolfgang Tzschoppe | Verfahren und Anordnung zur autoparallaktischen Anzeige |
US20160301855A1 (en) * | 2013-10-23 | 2016-10-13 | Olympus Corporation | Imaging device and phase difference detection method |
CN107221029A (zh) * | 2017-04-07 | 2017-09-29 | 天津大学 | 一种三维图像重建方法 |
CN109074476A (zh) * | 2016-08-01 | 2018-12-21 | 深圳市大疆创新科技有限公司 | 用于障碍物规避的系统以及方法 |
US20190273909A1 (en) * | 2016-11-14 | 2019-09-05 | SZ DJI Technology Co., Ltd. | Methods and systems for selective sensor fusion |
CN110332929A (zh) * | 2019-07-10 | 2019-10-15 | 上海交通大学 | 车载行人定位系统及方法 |
CN110992424A (zh) * | 2019-11-27 | 2020-04-10 | 苏州智加科技有限公司 | 基于双目视觉的定位方法和系统 |
CN111666876A (zh) * | 2020-06-05 | 2020-09-15 | 北京百度网讯科技有限公司 | 用于检测障碍物的方法、装置、电子设备和路侧设备 |
CN111664829A (zh) * | 2019-03-08 | 2020-09-15 | 上海博泰悦臻电子设备制造有限公司 | 一种校正方法、装置及计算机存储介质 |
CN111754574A (zh) * | 2020-05-28 | 2020-10-09 | 北京中科慧眼科技有限公司 | 基于双目相机的距离测试方法、装置、系统和存储介质 |
CN112489186A (zh) * | 2020-10-28 | 2021-03-12 | 中汽数据(天津)有限公司 | 一种自动驾驶双目数据感知算法 |
CN112837364A (zh) * | 2021-03-02 | 2021-05-25 | 东北大学 | 一种基于双目相机与单目相机结合的割刀辅助定位算法 |
CN112884845A (zh) * | 2021-01-14 | 2021-06-01 | 济南浪潮高新科技投资发展有限公司 | 一种基于单摄像机室内机器人障碍物定位的方法 |
CN113091694A (zh) * | 2019-12-23 | 2021-07-09 | 华为技术有限公司 | 一种测距方法以及测距装置 |
-
2021
- 2021-10-09 CN CN202111174674.XA patent/CN113959398B/zh active Active
Patent Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060203335A1 (en) * | 2002-11-21 | 2006-09-14 | Martin Michael B | Critical alignment of parallax images for autostereoscopic display |
CN102802020A (zh) * | 2012-08-31 | 2012-11-28 | 清华大学 | 监测双目立体视频视差信息的方法和装置 |
CN103679121A (zh) * | 2012-09-14 | 2014-03-26 | 株式会社理光 | 采用视差图像检测路边的方法及系统 |
DE102013016241A1 (de) * | 2013-10-01 | 2015-04-02 | Daimler Ag | Verfahren und Vorrichtung zur augmentierten Darstellung |
US20160301855A1 (en) * | 2013-10-23 | 2016-10-13 | Olympus Corporation | Imaging device and phase difference detection method |
DE102014000082A1 (de) * | 2014-01-02 | 2015-07-02 | Wolfgang Tzschoppe | Verfahren und Anordnung zur autoparallaktischen Anzeige |
CN103868460A (zh) * | 2014-03-13 | 2014-06-18 | 桂林电子科技大学 | 基于视差优化算法的双目立体视觉自动测量方法 |
CN109074476A (zh) * | 2016-08-01 | 2018-12-21 | 深圳市大疆创新科技有限公司 | 用于障碍物规避的系统以及方法 |
US20190273909A1 (en) * | 2016-11-14 | 2019-09-05 | SZ DJI Technology Co., Ltd. | Methods and systems for selective sensor fusion |
CN107221029A (zh) * | 2017-04-07 | 2017-09-29 | 天津大学 | 一种三维图像重建方法 |
CN111664829A (zh) * | 2019-03-08 | 2020-09-15 | 上海博泰悦臻电子设备制造有限公司 | 一种校正方法、装置及计算机存储介质 |
CN110332929A (zh) * | 2019-07-10 | 2019-10-15 | 上海交通大学 | 车载行人定位系统及方法 |
CN110992424A (zh) * | 2019-11-27 | 2020-04-10 | 苏州智加科技有限公司 | 基于双目视觉的定位方法和系统 |
CN113091694A (zh) * | 2019-12-23 | 2021-07-09 | 华为技术有限公司 | 一种测距方法以及测距装置 |
CN111754574A (zh) * | 2020-05-28 | 2020-10-09 | 北京中科慧眼科技有限公司 | 基于双目相机的距离测试方法、装置、系统和存储介质 |
CN111666876A (zh) * | 2020-06-05 | 2020-09-15 | 北京百度网讯科技有限公司 | 用于检测障碍物的方法、装置、电子设备和路侧设备 |
CN112489186A (zh) * | 2020-10-28 | 2021-03-12 | 中汽数据(天津)有限公司 | 一种自动驾驶双目数据感知算法 |
CN112884845A (zh) * | 2021-01-14 | 2021-06-01 | 济南浪潮高新科技投资发展有限公司 | 一种基于单摄像机室内机器人障碍物定位的方法 |
CN112837364A (zh) * | 2021-03-02 | 2021-05-25 | 东北大学 | 一种基于双目相机与单目相机结合的割刀辅助定位算法 |
Non-Patent Citations (1)
Title |
---|
孙靓 等: "面向三维立体动画制作的视差可视化调节方法设计与实现", vol. 29, no. 7, pages 1245 - 1255 * |
Also Published As
Publication number | Publication date |
---|---|
CN113959398B (zh) | 2024-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106960454B (zh) | 景深避障方法、设备及无人飞行器 | |
CN110148185B (zh) | 确定成像设备坐标系转换参数的方法、装置和电子设备 | |
CN107329490B (zh) | 无人机避障方法及无人机 | |
CN111326023B (zh) | 一种无人机航线预警方法、装置、设备及存储介质 | |
US10726576B2 (en) | System and method for identifying a camera pose of a forward facing camera in a vehicle | |
CN109961468B (zh) | 基于双目视觉的体积测量方法、装置及存储介质 | |
US10909395B2 (en) | Object detection apparatus | |
US20190172215A1 (en) | System and method for obstacle avoidance | |
CN103745452B (zh) | 相机外参评估方法、装置、相机外参标定方法和装置 | |
EP3591490A1 (en) | Obstacle avoidance method and device, and unmanned aerial vehicle | |
US11173841B2 (en) | Multicamera system for autonamous driving vehicles | |
CN110826499A (zh) | 物体空间参数检测方法、装置、电子设备及存储介质 | |
CN105627932A (zh) | 一种基于双目视觉的测距方法及装置 | |
CN110443186B (zh) | 立体匹配方法、图像处理芯片及移动载具 | |
CN110231832B (zh) | 用于无人机的避障方法和避障装置 | |
WO2021195886A1 (zh) | 距离确定方法、可移动平台及计算机可读存储介质 | |
WO2022217988A1 (zh) | 传感器配置方案确定方法、装置、计算机设备、存储介质及程序 | |
CN109658451B (zh) | 一种深度感知方法,装置和深度感知设备 | |
WO2020019175A1 (zh) | 图像处理方法和设备、摄像装置以及无人机 | |
CN113420704A (zh) | 一种基于视觉传感器的物体识别方法、装置及机器人 | |
CN111105465B (zh) | 一种摄像装置校准方法、装置、系统电子设备及存储介质 | |
CN113959398A (zh) | 基于视觉的测距方法、装置、可行驶设备及存储介质 | |
KR101332093B1 (ko) | 복수개의 센서에 의해 획득된 대상 객체의 좌표 정보를 이용하여 3차원 공간 데이터를 획득하는 공간영상처리 시스템 | |
CN114979956A (zh) | 一种无人机航拍地面目标定位方法及系统 | |
WO2022141262A1 (en) | Object detection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |