CN105865423A - 双目测距方法、装置和全景图像拼接方法及其系统 - Google Patents

双目测距方法、装置和全景图像拼接方法及其系统 Download PDF

Info

Publication number
CN105865423A
CN105865423A CN201610196018.2A CN201610196018A CN105865423A CN 105865423 A CN105865423 A CN 105865423A CN 201610196018 A CN201610196018 A CN 201610196018A CN 105865423 A CN105865423 A CN 105865423A
Authority
CN
China
Prior art keywords
image
distance
template
feature locations
scenery
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610196018.2A
Other languages
English (en)
Other versions
CN105865423B (zh
Inventor
孙浩
赵海洋
丁元
王乾
王一乾
宋金贵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shengyang Teche Science And Technology Co Ltd
Original Assignee
Shengyang Teche Science And Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shengyang Teche Science And Technology Co Ltd filed Critical Shengyang Teche Science And Technology Co Ltd
Priority to CN201610196018.2A priority Critical patent/CN105865423B/zh
Publication of CN105865423A publication Critical patent/CN105865423A/zh
Application granted granted Critical
Publication of CN105865423B publication Critical patent/CN105865423B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • G01C11/08Interpretation of pictures by comparison of two or more pictures of the same area the pictures not being supported in the same relative position as when they were taken

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种用于全景相机的双目测距方法、装置和全景图像拼接方法及其系统,其中该方法包括:根据第一图像和第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像;针对预存的距离模板组中的每个距离模板,根据当前距离模板计算左侧图像的特征位置与相对应的右侧图像的特征位置处图像之间的匹配度;针对当前距离模板,基于所计算出的匹配度计算左侧图像与右侧图像的图像在特征位置处图像的平均匹配度,并在平均匹配度是超过预设阈值时,将当前距离模板作为目标距离模板,并将目标距离模板的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离。该方法准确确定第一图像与第二图像中的镜头到景物的距离。

Description

双目测距方法、装置和全景图像拼接方法及其系统
技术领域
本发明涉及全景图像技术领域,尤其涉及一种用于全景相机的双目测距方法、装置和全景图像拼接方法及其系统。
背景技术
由于全景照片带来强大的视觉效果,全景相机应用逐渐广泛起来。全景相机中包含多个镜头,在拍摄景物的过程中,全景相机根据用户的操作进行全景拍摄模式,并通过相机中的多个镜头为用户拍摄多张图片,并将所拍摄的多张图片拼接为全景照片,为用户提供拼接后的全景照片。然而,在单张照片缝合成全景照片时,由于相机到景物的距离未知,从而导致缝合效果不佳的问题,为解决这一问题就需要在缝合图片时进行景物的测距。
传统的双目测距方式,是将两部照相机水平位置按一定距离摆放,拍照形成两张照片,在照片中选出焦点,计算焦点在两幅画面中距边缘位置的距离,根据已知量进行一系列计算,最终推算出焦点距拍摄平面的距离。
然而,在传统双目测距方式中,由于组装精度直接影响测量精度,因此,该双目测距方式对组装工艺要求高,并且随着测量焦点与相机越远,所测量的误差越大,即双目测距方式存在距离越远精度越差的问题,以及由于传统双目测距要求相机在同一垂直平面上,因此,上述双目测距的方式不适合应用到全景相机中。
发明内容
本发明的目的旨在至少在一定程度上解决上述的技术问题之一。
为此,本发明的第一个目的在于提出一种用于全景相机的双目测距方法,该方法根据预先保存的距离模板可准确确定第一图像与第二图像中的镜头到景物的距离。
本发明的第二个目的在于提出一种全景图像拼接方法。
本发明的第三个目的在于提出一种用于全景相机的双目测距装置。
本发明的第四个目的在于提出一种全景图像拼接系统。
为了实现上述目的,本发明第一方面实施例的用于全景相机的双目测距方法,包括:获取第一图像和第二图像;判断所述第一图像与所述第二图像的图像是否存在部分重叠;若存在部分重叠,则根据所述第一图像和所述第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像;针对预存的距离模板组中的每个距离模板,根据当前距离模板计算所述左侧图像的特征位置与相对应的所述右侧图像的特征位置处图像之间的匹配度,其中,所述距离模板组包括N个距离模板,N为正整数,所述距离模板包括镜头到样本景物的距离、至少一个左侧视图的特征位置的坐标信息和至少一个右侧视图的特征位置的坐标信息;针对所述当前距离模板,基于所计算出的匹配度计算所述左侧图像与所述右侧图像的图像在特征位置处图像的平均匹配度,并判断所述平均匹配度是否超过预设阈值;如果所述平均匹配度超过所述预设阈值,则将所述当前距离模板作为目标距离模板,并将所述目标距离模板的镜头到样本景物的距离作为所述第一图像与所述第二图像中的镜头到景物的距离。
根据本发明实施例的用于全景相机的双目测距方法,在根据第一图像和第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像后,从距离模板组中,获取左侧图像与右侧图像在特征位置处图像之间的平均匹配度大于预设阈值的距离模板,并将所获取的距离模板作为目标距离模板,并将该目标距离模板的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离。由此,准确确定第一图像与第二图像中的镜头到景物的距离,方便后续基于该距离进行全景照片的拼接。
根据本发明的一个实施例,所述方法还包括:如果所述平均匹配度未超过所述预设阈值,则继续匹配下一个距离模板,直至获取到平均匹配度超过所述预设阈值的距离模板或达到最大迭代次数,其中,所述最大迭代次数与所述目标模板组中的距离模板的个数相同。
根据本发明的一个实施例,所述根据当前距离模板计算所述左侧图像的特征位置与相对应的所述右侧图像的特征位置处图像之间的匹配度,包括:根据所述当前距离模块中的左侧视图的特征位置的坐标信息确定所述左侧图像的特征位置;根据所述当前距离模板中的右侧视图的特征位置的坐标信息确定所述右侧图像的特征位置;以及计算所述左侧图像的特征位置上与相对应的所述右侧图像的特征位置上图像之间的匹配度。
根据本发明的一个实施例,所述方法还包括:在达到所述最大迭代次数时,如果未获取到平均匹配度超过所述预设阈值的距离模板,则将平均匹配度最大的距离模板作为所述目标距离模板。
根据本发明的一个实施例,所述根据所述第一图像和所述第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像,包括:若所述第一图像位于所述重叠区域的左侧,则确定所述第一图像作为所述左侧图像,所述第二图像作为所述右侧图像;若所述第一图像位于所述重叠区域的右侧,则确定所述第二图像作为所述左侧图像,所述第一图像作为所述右侧图像。
其中,所述特征位置包括特征点和/或特征区域。
为了实现上述目的,本发明第二方面实施例的全景图像拼接方法,包括:通过本发明第一方面实施例的用于全景相机的双目测距方法确定所述第一图像与所述第二图像中的镜头到景物的距离;根据所述第一图像与所述第二图像中的景物到镜头的距离、所述第一图像和所述第二图像进行拼接,并生成全景图像。
根据本发明实施例提供的全景图像拼接方法,在准确确定第一图像与第二图像的镜头到景物的距离后,可根据该距离、第一图像和第二图像进行图像拼接,根据距离拼接图像缝合效果好,提高了全景图像的质量,方便用户从全景图像中获取真正需要的信息。
为了实现上述目的,本发明第三方面实施例的用于全景相机的双目测距装置,包括获取模块,用于获取第一图像和第二图像;判断模块,用于判断所述第一图像与所述第二图像的图像是否存在部分重叠;确定模块,用于若存在部分重叠,则根据所述第一图像和所述第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像;计算模块,用于针对预存的距离模板组中的每个距离模板,根据当前距离模板计算所述左侧图像的特征位置与相对应的所述右侧图像的特征位置处图像之间的匹配度,其中,所述距离模板组包括N个距离模板,N为正整数,所述距离模板包括镜头到样本景物的距离、至少一个左侧视图的特征位置的坐标信息和至少一个右侧视图的特征位置的坐标信息;第一处理模块,用于针对所述当前距离模板,基于所计算出的匹配度计算所述左侧图像与所述右侧图像的图像在特征位置处图像的平均匹配度,并判断所述平均匹配度是否超过预设阈值;第二处理模块,用于在所述平均匹配度超过所述预设阈值时,将所述当前距离模板作为目标距离模板,并将所述目标距离模板的镜头到样本景物的距离作为所述第一图像与所述第二图像中的镜头到景物的距离。
根据本发明实施例的用于全景相机的双目测距装置,在根据第一图像和第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像后,从距离模板组中,获取左侧图像与右侧图像在特征位置处图像之间的平均匹配度大于预设阈值的距离模板,并将所获取的距离模板作为目标距离模板,并将该目标距离模板的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离。由此,准确确定第一图像与第二图像中的镜头到景物的距离,方便后续基于该距离进行全景照片的拼接。
根据本发明的一个实施例,所述装置还包括:第三处理模块,用于在所述平均匹配度未超过所述预设阈值时,继续匹配下一个距离模板,直至获取到平均匹配度超过所述预设阈值的距离模板或达到最大迭代次数,其中,所述最大迭代次数与所述目标模板组中的距离模板的个数相同。
根据本发明的一个实施例,所述第一处理模块,具体用于:根据所述当前距离模块中的左侧视图的特征位置的坐标信息确定所述左侧图像的特征位置;根据所述当前距离模板中的右侧视图的特征位置的坐标信息确定所述右侧图像的特征位置;以及计算所述左侧图像的特征位置上与相对应的所述右侧图像的特征位置上图像之间的匹配度。
根据本发明的一个实施例,所述装置还包括:第四处理模块,用于在达到所述最大迭代次数时,如果未获取到平均匹配度超过所述预设阈值的距离模板,则将平均匹配度最大的距离模板作为所述目标距离模板。
根据本发明的一个实施例,所述确定模块,具体用于:若所述第一图像位于所述重叠区域的左侧,则确定所述第一图像作为所述左侧图像,所述第二图像作为所述右侧图像;若所述第一图像位于所述重叠区域的右侧,则确定所述第二图像作为所述左侧图像,所述第一图像作为所述右侧图像。
根据本发明的一个实施例,所述特征位置包括特征点和/或特征区域。
为了实现上述目的,本发明第四方面实施例的全景图像拼接系统,包括:本发明第三方面实施例的用于全景相机的双目测距装置;拼接装置,用于根据所述第一图像与所述第二图像中的景物到镜头的距离、所述第一图像和所述第二图像进行拼接,并生成全景图像。
根据本发明实施例的全景图像拼接装置,在准确确定第一图像与第二图像的镜头到景物的距离后,可根据该距离、第一图像和第二图像进行图像拼接,根据距离拼接图像缝合效果好,提高了全景图像的质量,方便用户从全景图像中获取真正需要的信息。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中,
图1是根据本发明一个实施例的用于全景相机的双目测距方法的流程图。
图2a-图2c是制作距离为M米的距离模板过程的示例图。
图3a是距离为1米的距离模板中左侧视图的示例图。
图3b是距离为1米的距离模板中右侧视图的示例图。
图4是根据本发明一个实施例的用于全景相机的双目测距装置的结构示意图。
图5是根据本发明另一个实施例的用于全景相机的双目测距装置的结构示意图。
图6是根据本发明又一个实施例的用于全景相机的双目测距装置的结构示意图
图7是根据本发明一个实施例的全景图像拼接方法的流程图。
图8是根据本发明一个实施例的全景图像拼接系统的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的用于全景相机的双目测距方法、装置和全景图像拼接方法及其系统。
图1是根据本发明一个实施例的用于全景相机的双目测距方法的流程图。
如图1所示,该用于全景相机的双目测距方法可以包括:
S101,获取第一图像和第二图像。
具体地,在用户使用全景相机拍摄图像的过程中,在用户通过全景相机拍摄两张图像后,分别为第一图像和第二图像。
S102,判断第一图像与第二图像的图像是否存在部分重叠。
S103,若存在部分重叠,则根据第一图像和第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像。
在本发明的一个实施例中,在判断出所获取的第一图像与第二图像中的图像中存在部分重叠后,为了可以通过预存的距离模板组中的距离模板确定第一图像与第二图像中镜头到景物的距离,可先根据第一图像和第二图像与重叠区域之间的位置关系确定这两个图像中那个图像是左侧图像,那个图像是右侧图像,即确定左侧图像为第一图像,右侧图像为第二图像,还是左侧图像为第二图像,右侧图像为第一图像。
具体地,如果第一图像位于重叠区域的左侧,则确定第一图像作为左侧图像,第二图像作为右侧图像;如果第一图像位于重叠区域的右侧,则确定第二图像作为左侧图像,第一图像作为右侧图像。
S104,针对预存的距离模板组中的每个距离模板,根据当前距离模板计算左侧图像的特征位置与相对应的右侧图像的特征位置处图像之间的匹配度。
其中,距离模板组包括N个距离模板,N为正整数,距离模板包括镜头到样本景物的距离、至少一个左侧视图的特征位置的坐标信息和至少一个右侧视图的特征位置的坐标信息。
需要理解的是,距离模板是制作者利用全景相机预先制作,且预先保存在全景相机中的距离模板。
在用户使用全景相机的过程中,用户可以直接使用全景相机出厂时预先默认的多个距离模板,也可以根据需求在全景相机中增加新的距离模板。
其中,在本发明的一个实施例中,特征位置可以为特征点,也可以为特征区域,还可以是特征点和特征位置。
需要理解的是,特征区域的形状可以为矩形、圆形等形状,上述矩形和圆形仅是特征区域的形状的示例,该实施例的特征区域的形状并不限制于此。
其中,每个距离模板中所包含的特征位置的个数可以是相同的,也可以是不同的。
例如,镜头到样本景物的距离为2米的距离模板1中可以包括一个左侧视图的特征点的坐标信息和一个右侧视图的特征点的坐标信息,镜头到样本景物的距离为5米的距离模板2中可以包括两个左侧视图的特征点的坐标信息和两个右侧视图的特征点的坐标信息。
需要理解的是,通常距离模板组中可以包括距离模板,其中,每个距离模板中的镜头到样本景物的距离是不相同的,为了方便本发明实施例中的距离模板,下面对制作距离模板的过程进行详细介绍。
首先,在距离全景相机M米(例如,3米)处摆放清晰标志物P(例如,标靶),然后,利用在同一水平位置上的两台照片捕捉设备对清晰标志物P进行拍照,形成两张照片M1(左侧视图)、M2(右侧视图),在M1、M2中手动选出清晰标志物P,确定出清晰标志物P在M1中靠近M2侧边界的特征点A的坐标(x1,y1),确定出标靶P在M2中靠近M1侧边界的特征点A的坐标(x2,y2),则坐标(x1,y1)为特征点A在左侧视图中的坐标、坐标(x2,y2)为特征点在右侧视图中的坐标,其中,包含左侧视图M1、右侧视图M1和重叠区(图像重叠所对应的区域)的示例图,如图2a所示。
为提高实用性,模板制作时,需要考虑一定兼容性和容差性看,还可以通过增清晰标志物P特征区域B而非单个特征点来避免由于光线等外界条件和色彩平衡等影响,其中,镜头到样本景物的距离为M米的距离模板,如图2a和2b所示,如图2a和2b所示,距离模板中包含特征点A在左侧视图M1中的坐标信息、特征点A在右侧视图M2的坐标信息和特征区域B在左侧视图中的坐标信息,以及特征区域B在右侧视图中的坐标信息。通过在距离模板中建立多个特征点和/或特征区域,可方便后续在测距过程中,可通过多方位比较,提高测距准度,同时避免照片上由于不同景深,不同距离景物造成的测量误差问题。
其中,需要理解的是,该实施例中的特征点与特征区域均为处于重叠区域中,且在制作模板的过程中,可从重叠区域中随机选择特征点和/或者特征区域。
需要理解的是,如需要制作远距离模板,可以通过加装光学镜头,将远处景物放大后再制作模板,但在测量时需要使用相同光学镜头进行成像。
具体地,在确定出左侧图像和右侧图像后,通常距离模板组中包含多个距离模板,可按照距离模板组中的距离模板的顺序,依次根据对应的距离模板对左侧图像和右侧图像进行处理。
具体而言,针对距离模板组中的每个距离模板,可先根据当前距离模块中的左侧视图的特征位置的坐标信息确定左侧图像的特征位置,然后根据当前距离模板中的右侧视图的特征位置的坐标信息与右侧图像的特征位置,最后,计算左侧图像的特征位置上与相对应的右侧图像的特征位置上图像之间的匹配度。
例如,对于镜头到样本景物的距离为1米的距离模板,假设该距离模板中保存的左侧视图和右侧视图,如图3a和3b所示,其中,图3a中的A1表示左侧视图的特征点,且该特征点的坐标信息为(x1,y1),A0表示坐标原点,且A2表示左侧视图的特征区域,该特征区域为矩形,且该特征区域的四个顶点的坐标分别为(x2,y2)、(x3,y3)、(x4,y4)和(x5,y5)。图3b中的B1表示左侧视图的特征点,且该特征点的坐标信息为(x6,y6),B0表示坐标原点,且B2处表示左侧视图的特征区域,该矩形的特征区域的四个顶点的坐标分别为(x7,y7)、(x8,y8)、(x9,y9)和(x10,y10)。在将第一图像C作为左侧图像,第二图像D作为右侧图像后,根据左侧视图中的特征点与特征区域的坐标信息可以确定出第一图像C中对应的特征位置,假设第一图像C中的特征点为C1,特征区域为C2;对应的,假设根据右侧视图中的特征点和特征位置的坐标信息确定出第二图像D的特征点为D1,特征区域为D2,此时,计算第一图像C和第二图像D在C1与D1处图像之间的匹配度,以及在D1与D2处图像之间的匹配度。
S105,针对当前距离模板,基于所计算出的匹配度计算左侧图像与右侧图像的图像在特征位置处图像的平均匹配度,并判断平均匹配度是否超过预设阈值。
其中,预设阈值为预设设置的匹配度的阈值。例如,预设阈值为85%。
为了提高实用性,以及兼容性和容差性,通常距离模板中左侧视图和右侧视图中均包含多个特征点和/或者特征区域,在计算出左侧图像和右侧图像在对应的特征点或者特征区域处图像之间的匹配度之后,对于当前距离模板,可计算出左侧图像与右侧图像在多个特征位置处图像的匹配度的平均值,所计算出的平均值即为平均匹配度,然后判断平均匹配度是否超过预设阈值。通过判断平均匹配度与预设阈值的关系,可以减小由于相机主动对照片进行修正而带来的识别困难等问题。
S106,如果平均匹配度超过预设阈值,则将当前距离模板作为目标距离模板,并将目标距离模板的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离。
例如,对于镜头到样本景物的距离为1米的距离模板,假设该距离模板中保存的左侧视图和右侧视图,如图3a和3b所示,在计算出第一图像C和第二图像D在特征点C1与D1处图像之间的匹配度E,以及计算出第一图像C和第二图像D在特征区域C2与D2处图像之间的匹配度F,根据匹配度E和匹配度F可计算出第一图像C和第二图像D在特征位置处图像的平均匹配度G=(E+F)/2,然后判断所计算出的平均匹配度G是否超过预设阈值,如果超过预设阈值,则确定第一图像与第二图像的镜头到景物的距离为1米。
再例如,假设预设阈值为85%,左侧图像为第一图像,右侧图像为第二图像,距离模板组中有3个距离模板,且分别为镜头到样本景物的距离为2米的距离模板1、镜头到样本景物的距离为2米的距离模板2和镜头到样本景物的距离为5米的距离模板3,在依次计算平均匹配度的过程中,如果基于距离模板2中的特征位置的坐标信息,计算出左侧图像与右侧图像在特征位置处图像的平均匹配度大于85%,则将距离模板2中的镜头到样本景物的距离作为左侧图像与右侧图像镜头到景物的距离,即,左侧图像与右侧图像镜头到景物的距离为2米。
根据本发明实施例的用于全景相机的双目测距方法,在根据第一图像和第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像后,从距离模板组中,获取左侧图像与右侧图像在特征位置处图像之间的平均匹配度大于预设阈值的距离模板,并将所获取的距离模板作为目标距离模板,并将该目标距离模板的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离。由此,准确确定第一图像与第二图像中的镜头到景物的距离,方便后续基于该距离进行全景照片的拼接。
基于上述实施例的基础上,在当前距离模板下,如果所计算出的左侧图像与右侧图像在特征位置处图像的平均匹配度未超过预设阈值,则继续匹配下一个距离模板,直至获取到平均匹配度超过预设阈值的距离模板或达到最大迭代次数。
其中,需要理解的是,最大迭代次数与目标模板组中的距离模板的个数相同。
例如,距离模板中包含5个距离模板,分别为距离模板1、距离模板2、距离模板3、距离模板4和距离模板5,如果当前距离模板为距离模板3,基于距离模板3中的特征位置的坐标信息所计算出的左侧图像与右侧图像在特征位置处上图像的平均匹配度未超过预设阈值时,可继续匹配距离模板4,如果基于距离模板4中的特征位置的坐标信息所计算出的左侧图像与右侧图像在特征位置处上图像的平均匹配度超过预设阈值,则将距离模板4中的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离;如果基于距离模板4中的特征位置的坐标信息所计算出的左侧图像与右侧图像在特征位置处上图像的平均匹配度未超过预设阈值,则继续匹配距离模板5,其中,匹配距离模板5的过程与距离模板4的过程相同,此处不再赘述。
在本发明的一个实施例中,在将距离模板中的所有距离模板进行了匹配后,即达到了最大迭代次数,如果未获取到平均匹配度超过预设阈值的距离模板,则将平均匹配度最大的距离模板作为目标距离模板,并将该目标距离模板中的距离作为左侧图像与右侧图像的镜头到景物的距离。
下面详细描述本发明的用于全景相机的双目测距装置,可以用于执行本发明的用于全景相机的双目测距方法。对于本发明用于全景相机的双目测距装置实施例中未披露的细节,请参照本发明用于全景相机的双目测距方法的实施例。
图4是根据本发明一个实施例的用于全景相机的双目测距装置的结构示意图。
如图4所示,该用于全景相机的双目测距装置可以包括获取模块110、判断模块120、确定模块130、计算模块140、第一处理模块150和第二处理模块160,其中:
获取模块110用于获取第一图像和第二图像。
判断模块120用于判断第一图像与第二图像的图像是否存在部分重叠。
确定模块130用于若存在部分重叠,则根据第一图像和第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像。
在本发明的一个实施例中,在判断出所获取的第一图像与第二图像中的图像中存在部分重叠后,为了可以通过预存的距离模板组中的距离模板确定第一图像与第二图像中镜头到景物的距离,可先根据第一图像和第二图像与重叠区域之间的位置关系确定这两个图像中那个图像是左侧图像,那个图像是右侧图像,即确定左侧图像为第一图像,右侧图像为第二图像,还是左侧图像为第二图像,右侧图像为第一图像。
具体地,确定模块130具体用于:如果第一图像位于重叠区域的左侧,则确定第一图像作为左侧图像,第二图像作为右侧图像;如果第一图像位于重叠区域的右侧,则确定第二图像作为左侧图像,第一图像作为右侧图像。
计算模块140用于针对预存的距离模板组中的每个距离模板,根据当前距离模板计算左侧图像的特征位置与相对应的右侧图像的特征位置处图像之间的匹配度。
其中,距离模板组包括N个距离模板,N为正整数,距离模板包括镜头到样本景物的距离、至少一个左侧视图的特征位置的坐标信息和至少一个右侧视图的特征位置的坐标信息。
需要理解的是,距离模板是制作者利用全景相机预先制作,且预先保存在全景相机中的距离模板。
在用户使用全景相机的过程中,用户可以直接使用全景相机出厂时预先默认的多个距离模板,也可以根据需求在全景相机中增加新的距离模板。
其中,在本发明的一个实施例中,特征位置可以为特征点,也可以为特征区域,还可以是特征点和特征位置。
需要理解的是,特征区域的形状可以为矩形、圆形等形状,上述矩形和圆形仅是特征区域的形状的示例,该实施例的特征区域的形状并不限制于此。
其中,每个距离模板中所包含的特征位置的个数可以是相同的,也可以是不同的。
具体地,计算模块140具体用于:根据当前距离模块中的左侧视图的特征位置的坐标信息确定左侧图像的特征位置;根据当前距离模板中的右侧视图的特征位置的坐标信息确定右侧图像的特征位置;以及计算左侧图像的特征位置上与相对应的右侧图像的特征位置上图像之间的匹配度。
第一处理模块150用于针对当前距离模板,基于所计算出的匹配度计算左侧图像与右侧图像的图像在特征位置处图像的平均匹配度,并判断平均匹配度是否超过预设阈值。
其中,预设阈值为预设设置的匹配度的阈值。例如,预设阈值为85%。
第二处理模块160用于在平均匹配度超过预设阈值时,将当前距离模板作为目标距离模板,并将目标距离模板的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离。
根据本发明实施例的用于全景相机的双目测距装置,在根据第一图像和第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像后,从距离模板组中,获取左侧图像与右侧图像在特征位置处图像之间的平均匹配度大于预设阈值的距离模板,并将所获取的距离模板作为目标距离模板,并将该目标距离模板的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离。由此,准确确定第一图像与第二图像中的镜头到景物的距离,方便后续基于该距离进行全景照片的拼接。
基于上述实施例的基础上,如图5所示,上述装置还可以包括第三处理模块170,该第三处理模块170用于在基于当前距离模板所计算出的左侧图像与右侧图像在特征位置上图像的平均匹配度未超过预设阈值时,继续匹配下一个距离模板,直至获取到平均匹配度超过预设阈值的距离模板或达到最大迭代次数。
其中,最大迭代次数与目标模板组中的距离模板的个数相同。
例如,距离模板中包含5个距离模板,分别为距离模板1、距离模板2、距离模板3、距离模板4和距离模板5,如果当前距离模板为距离模板3,基于距离模板3中的特征位置的坐标信息所计算出的左侧图像与右侧图像在特征位置处上图像的平均匹配度未超过预设阈值时,可继续匹配距离模板4,如果基于距离模板4中的特征位置的坐标信息所计算出的左侧图像与右侧图像在特征位置处上图像的平均匹配度超过预设阈值,则将距离模板4中的镜头到样本景物的距离作为第一图像与第二图像中的镜头到景物的距离;如果基于距离模板4中的特征位置的坐标信息所计算出的左侧图像与右侧图像在特征位置处上图像的平均匹配度未超过预设阈值,则继续匹配距离模板5,其中,匹配距离模板5的过程与距离模板4的过程相同,此处不再赘述。
在本发明的一个实施例中,在图5所示的基础上,如图6所示,上述装置还可以包括第四处理模块180,该第四处理模块180用于:在达到最大迭代次数时,如果未获取到平均匹配度超过预设阈值的距离模板,则将平均匹配度最大的距离模板作为目标距离模板,并将该目标距离模板中的距离作为左侧图像与右侧图像的镜头到景物的距离。
图7是根据本发明一个实施例的全景图像拼接方法的流程图。
如图7所示,该全景图像拼接方法包括:
S701,确定第一图像与所述第二图像中的镜头到景物的距离。
需要说明的是,确定第一图像与所述第二图像中的镜头到景物的距离的方法可通过第一方面实施例参照图1中详细描述的用于全景相机的双目测距方法,在此不再赘述。
S702,根据所述第一图像与所述第二图像中的景物到镜头的距离、所述第一图像和所述第二图像进行拼接,并生成全景图像。
根据距离、第一图像和第二图像进行图像拼接的方式可通过现有图像拼接技术实现,此处不再赘述。
根据本发明实施例提供的全景图像拼接方法,在准确确定第一图像与第二图像的镜头到景物的距离后,可根据该距离、第一图像和第二图像进行图像拼接,根据距离拼接图像缝合效果好,提高了全景图像的质量,方便用户从全景图像中获取真正需要的信息。
下面详细描述本发明全景图像拼接系统实施例,可以用于为执行本发明全景图像拼接方法实施例。对于本发明全景图像拼接系统实施例中未被披露的细节,请参照本发明全景图像拼接方法实施例。
图8是根据本发明一个实施例的全景图像拼接系统的结构示意图。
如图8所示,该全景图像拼接系统包括用于全景相机的双目测距装置100和拼接装置200。
需要说明的是,对用于全景相机的双目测距装置100的描述请参照图4-图6中对用于全景相机的双目测距装置的具体描述,在此不再赘述。
拼接装置200用于根据所述第一图像与所述第二图像中的景物到镜头的距离、所述第一图像和所述第二图像进行拼接,并生成全景图像。
根据本发明实施例提供的全景图像拼接装置,在用于全景相机的双目测距装置准确确定第一图像与第二图像的镜头到景物的距离后,拼接装置根据该距离、第一图像和第二图像进行图像拼接,根据距离拼接图像缝合效果好,提高了全景图像的质量,方便用户从全景图像中获取真正需要的信息。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (14)

1.一种用于全景相机的双目测距方法,其特征在于,包括以下步骤:
获取第一图像和第二图像;
判断所述第一图像与所述第二图像的图像是否存在部分重叠;
若存在部分重叠,则根据所述第一图像和所述第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像;
针对预存的距离模板组中的每个距离模板,根据当前距离模板计算所述左侧图像的特征位置与相对应的所述右侧图像的特征位置处图像之间的匹配度,其中,所述距离模板组包括N个距离模板,N为正整数,所述距离模板包括镜头到样本景物的距离、至少一个左侧视图的特征位置的坐标信息和至少一个右侧视图的特征位置的坐标信息;
针对所述当前距离模板,基于所计算出的匹配度计算所述左侧图像与所述右侧图像的图像在特征位置处图像的平均匹配度,并判断所述平均匹配度是否超过预设阈值;
如果所述平均匹配度超过所述预设阈值,则将所述当前距离模板作为目标距离模板,并将所述目标距离模板的镜头到样本景物的距离作为所述第一图像与所述第二图像中的镜头到景物的距离。
2.如权利要求1所述的用于全景相机的双目测距方法,其特征在于,所述方法还包括:
如果所述平均匹配度未超过所述预设阈值,则继续匹配下一个距离模板,直至获取到平均匹配度超过所述预设阈值的距离模板或达到最大迭代次数,其中,所述最大迭代次数与所述目标模板组中的距离模板的个数相同。
3.如权利要求1所述的用于全景相机的双目测距方法,其特征在于,所述根据当前距离模板计算所述左侧图像的特征位置与相对应的所述右侧图像的特征位置处图像之间的匹配度,包括:
根据所述当前距离模块中的左侧视图的特征位置的坐标信息确定所述左侧图像的特征位置;
根据所述当前距离模板中的右侧视图的特征位置的坐标信息确定所述右侧图像的特征位置;以及
计算所述左侧图像的特征位置上与相对应的所述右侧图像的特征位置上图像之间的匹配度。
4.如权利要求2所述的用于全景相机的双目测距方法,其特征在于,所述方法还包括:
在达到所述最大迭代次数时,如果未获取到平均匹配度超过所述预设阈值的距离模板,则将平均匹配度最大的距离模板作为所述目标距离模板。
5.如权利要求1-4任一项所述的用于全景相机的双目测距方法,其特征在于,所述根据所述第一图像和所述第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像,包括:
若所述第一图像位于所述重叠区域的左侧,则确定所述第一图像作为所述左侧图像,所述第二图像作为所述右侧图像;
若所述第一图像位于所述重叠区域的右侧,则确定所述第二图像作为所述左侧图像,所述第一图像作为所述右侧图像。
6.如权利要求1-4任一项所述的用于全景相机的双目测距方法,其特征在于,所述特征位置包括特征点和/或特征区域。
7.一种全景图像拼接方法,其特征在于,包括以下步骤:
通过如权利要求1-6任一项所述的用于全景相机的双目测距方法确定所述第一图像与所述第二图像中的镜头到景物的距离;
根据所述第一图像与所述第二图像中的景物到镜头的距离、所述第一图像和所述第二图像进行拼接,并生成全景图像。
8.一种用于全景相机的双目测距装置,其特征在于,包括:
获取模块,用于获取第一图像和第二图像;
判断模块,用于判断所述第一图像与所述第二图像的图像是否存在部分重叠;
确定模块,用于若存在部分重叠,则根据所述第一图像和所述第二图像与重叠区域之间的位置关系确定左侧图像和右侧图像;
计算模块,用于针对预存的距离模板组中的每个距离模板,根据当前距离模板计算所述左侧图像的特征位置与相对应的所述右侧图像的特征位置处图像之间的匹配度,其中,所述距离模板组包括N个距离模板,N为正整数,所述距离模板包括镜头到样本景物的距离、至少一个左侧视图的特征位置的坐标信息和至少一个右侧视图的特征位置的坐标信息;
第一处理模块,用于针对所述当前距离模板,基于所计算出的匹配度计算所述左侧图像与所述右侧图像的图像在特征位置处图像的平均匹配度,并判断所述平均匹配度是否超过预设阈值;
第二处理模块,用于在所述平均匹配度超过所述预设阈值时,将所述当前距离模板作为目标距离模板,并将所述目标距离模板的镜头到样本景物的距离作为所述第一图像与所述第二图像中的镜头到景物的距离。
9.如权利要求8所述的用于全景相机的双目测距装置,其特征在于,所述装置还包括:
第三处理模块,用于在所述平均匹配度未超过所述预设阈值时,继续匹配下一个距离模板,直至获取到平均匹配度超过所述预设阈值的距离模板或达到最大迭代次数,其中,所述最大迭代次数与所述目标模板组中的距离模板的个数相同。
10.如权利要求8所述的用于全景相机的双目测距装置,其特征在于,所述第一处理模块,具体用于:
根据所述当前距离模块中的左侧视图的特征位置的坐标信息确定所述左侧图像的特征位置;
根据所述当前距离模板中的右侧视图的特征位置的坐标信息确定所述右侧图像的特征位置;以及
计算所述左侧图像的特征位置上与相对应的所述右侧图像的特征位置上图像之间的匹配度。
11.如权利要求9所述的用于全景相机的双目测距装置,其特征在于,所述装置还包括:
第四处理模块,用于在达到所述最大迭代次数时,如果未获取到平均匹配度超过所述预设阈值的距离模板,则将平均匹配度最大的距离模板作为所述目标距离模板。
12.如权利要求8-11任一项所述的用于全景相机的双目测距装置,其特征在于,所述确定模块,具体用于:
若所述第一图像位于所述重叠区域的左侧,则确定所述第一图像作为所述左侧图像,所述第二图像作为所述右侧图像;
若所述第一图像位于所述重叠区域的右侧,则确定所述第二图像作为所述左侧图像,所述第一图像作为所述右侧图像。
13.如权利要求8-11任一项所述的用于全景相机的双目测距装置,其特征在于,所述特征位置包括特征点和/或特征区域。
14.一种全景图像拼接系统,其特征在于,包括:
如权利要求8-13任一项所述的用于全景相机的双目测距装置;
拼接装置,用于根据所述第一图像与所述第二图像中的景物到镜头的距离、所述第一图像和所述第二图像进行拼接,并生成全景图像。
CN201610196018.2A 2016-03-30 2016-03-30 双目测距方法、装置和全景图像拼接方法及其系统 Active CN105865423B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610196018.2A CN105865423B (zh) 2016-03-30 2016-03-30 双目测距方法、装置和全景图像拼接方法及其系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610196018.2A CN105865423B (zh) 2016-03-30 2016-03-30 双目测距方法、装置和全景图像拼接方法及其系统

Publications (2)

Publication Number Publication Date
CN105865423A true CN105865423A (zh) 2016-08-17
CN105865423B CN105865423B (zh) 2018-02-23

Family

ID=56627635

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610196018.2A Active CN105865423B (zh) 2016-03-30 2016-03-30 双目测距方法、装置和全景图像拼接方法及其系统

Country Status (1)

Country Link
CN (1) CN105865423B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109389648A (zh) * 2018-09-19 2019-02-26 晓智科技(成都)有限公司 一种通过数据迭代减小测量数据误差的方法
CN109801207A (zh) * 2019-01-08 2019-05-24 桂林电子科技大学 Cpu-fpga协同的影像特征高速检测与匹配系统
CN109858504A (zh) * 2017-11-30 2019-06-07 阿里巴巴集团控股有限公司 一种图像识别方法、装置、系统以及计算设备
CN110223226A (zh) * 2019-05-07 2019-09-10 中国农业大学 全景图像拼接方法及系统
CN114910020A (zh) * 2021-02-09 2022-08-16 北京小米移动软件有限公司 可移动设备的定位方法、装置、可移动设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101924953A (zh) * 2010-09-03 2010-12-22 南京农业大学 基于基准点的简便匹配方法
CN101968357A (zh) * 2010-09-21 2011-02-09 北京交通大学 一种从二维图像序列检测平面区域的方法
CN203472677U (zh) * 2013-07-16 2014-03-12 北京汽车股份有限公司 一种全景影像系统及车辆
WO2015058017A1 (en) * 2013-10-17 2015-04-23 Faro Technologies, Inc. Balancing colors in a scanned three-dimensional image
CN104601954A (zh) * 2015-01-13 2015-05-06 广州杰赛科技股份有限公司 一种全景图像拼接装置、方法及监控系统
CN104655106A (zh) * 2015-02-15 2015-05-27 武汉大学 基于gps rtk和全景影像的自主定位定向测图方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101924953A (zh) * 2010-09-03 2010-12-22 南京农业大学 基于基准点的简便匹配方法
CN101968357A (zh) * 2010-09-21 2011-02-09 北京交通大学 一种从二维图像序列检测平面区域的方法
CN203472677U (zh) * 2013-07-16 2014-03-12 北京汽车股份有限公司 一种全景影像系统及车辆
WO2015058017A1 (en) * 2013-10-17 2015-04-23 Faro Technologies, Inc. Balancing colors in a scanned three-dimensional image
CN104601954A (zh) * 2015-01-13 2015-05-06 广州杰赛科技股份有限公司 一种全景图像拼接装置、方法及监控系统
CN104655106A (zh) * 2015-02-15 2015-05-27 武汉大学 基于gps rtk和全景影像的自主定位定向测图方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
岳荣刚等: "基于相似原理的新型双目测距法", 《光电工程》 *
沈彤等: "基于双目立体视觉的目标测距系统", 《电子测量技术》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109858504A (zh) * 2017-11-30 2019-06-07 阿里巴巴集团控股有限公司 一种图像识别方法、装置、系统以及计算设备
CN109389648A (zh) * 2018-09-19 2019-02-26 晓智科技(成都)有限公司 一种通过数据迭代减小测量数据误差的方法
CN109389648B (zh) * 2018-09-19 2022-04-22 晓智未来(成都)科技有限公司 一种通过数据迭代减小测量数据误差的方法
CN109801207A (zh) * 2019-01-08 2019-05-24 桂林电子科技大学 Cpu-fpga协同的影像特征高速检测与匹配系统
CN110223226A (zh) * 2019-05-07 2019-09-10 中国农业大学 全景图像拼接方法及系统
CN114910020A (zh) * 2021-02-09 2022-08-16 北京小米移动软件有限公司 可移动设备的定位方法、装置、可移动设备及存储介质
CN114910020B (zh) * 2021-02-09 2023-11-21 北京小米机器人技术有限公司 可移动设备的定位方法、装置、可移动设备及存储介质

Also Published As

Publication number Publication date
CN105865423B (zh) 2018-02-23

Similar Documents

Publication Publication Date Title
EP3356887B1 (en) Method for stitching together images taken through fisheye lens in order to produce 360-degree spherical panorama
US7489335B2 (en) Photographic apparatus with function of image correction and method thereof
CN105865423A (zh) 双目测距方法、装置和全景图像拼接方法及其系统
US11575883B2 (en) 3D test chart, adjusting arrangement, forming method and adjusting method thereof
US7856172B2 (en) Jiggle measuring system and jiggle measuring method
CN104395692B (zh) 三维测定方法、装置、系统以及图像处理装置
WO2014002849A1 (ja) 3次元測定方法、装置及びシステム、並びに画像処理装置
US8153971B2 (en) Camera with two visual imaging subsystems for determining parallax and for focusing an IR imaging subsystem
US20080101784A1 (en) Method for calculating distance and actual size of shot object
US20120274762A1 (en) Obtaining distance between different points on an imaged object
JPH09181913A (ja) カメラシステム
CN106827515A (zh) 3d打印成像校准方法和系统
CN102550015A (zh) 多视点拍摄控制装置、控制方法以及控制程序
US7269281B2 (en) Method for measuring object based on image and photographing apparatus
JP2006279546A (ja) 電子カメラ、画像処理プログラム、および画像処理方法
KR20110068375A (ko) 어안 렌즈를 구비하는 카메라 모듈에 의해 획득된 영상의 왜곡 보정을 위한 파라미터 조정 방법
CN108053438A (zh) 景深获取方法、装置及设备
JP3799019B2 (ja) ステレオ撮影装置及びステレオ撮影装置の撮影方法
CN107590459A (zh) 发表评价的方法和装置
JP2010091669A (ja) 撮像装置
WO2020192218A1 (zh) 一种应用于光学系统的角度测量方法及测量装置
JP7504688B2 (ja) 画像処理装置、画像処理方法およびプログラム
CN108510537B (zh) 3d建模方法和装置
JPH09210649A (ja) 三次元計測装置
JP2006017632A (ja) 3次元画像処理装置、光軸調整方法、光軸調整支援方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information
CB03 Change of inventor or designer information

Inventor after: Li Yunkai

Inventor after: Ding Yuan

Inventor after: Sun Hao

Inventor after: Wang Yiqian

Inventor after: Song Jingui

Inventor after: Zhao Haiyang

Inventor before: Sun Hao

Inventor before: Zhao Haiyang

Inventor before: Ding Yuan

Inventor before: Wang Yiqian

Inventor before: Song Jingui

GR01 Patent grant
GR01 Patent grant