CN106815866B - 鱼眼相机的标定方法及其标定系统和标板 - Google Patents

鱼眼相机的标定方法及其标定系统和标板 Download PDF

Info

Publication number
CN106815866B
CN106815866B CN201510844966.8A CN201510844966A CN106815866B CN 106815866 B CN106815866 B CN 106815866B CN 201510844966 A CN201510844966 A CN 201510844966A CN 106815866 B CN106815866 B CN 106815866B
Authority
CN
China
Prior art keywords
target
fisheye camera
pattern
optical axis
cylindrical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510844966.8A
Other languages
English (en)
Other versions
CN106815866A (zh
Inventor
蒙诚哲
潘锋
杜亚凤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ningbo Sunny Opotech Co Ltd
Original Assignee
Ningbo Sunny Opotech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo Sunny Opotech Co Ltd filed Critical Ningbo Sunny Opotech Co Ltd
Priority to CN201510844966.8A priority Critical patent/CN106815866B/zh
Priority to PCT/CN2016/107427 priority patent/WO2017092631A1/zh
Publication of CN106815866A publication Critical patent/CN106815866A/zh
Application granted granted Critical
Publication of CN106815866B publication Critical patent/CN106815866B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)

Abstract

本发明提供一鱼眼相机的标定方法及其标定系统和标板,在标定方法中,鱼眼相机拍摄圆柱形立体标板的特征图案并提取特征点,然后调用非线性优化算法,输入特征点坐标,并基于标定用数学模型得到鱼眼相机的参数。特征图案基于将斑点图案基于鱼眼投影原理而得到,并被设置于圆柱面,该方法只需要对标板成像较少的次数如可以少至一次,即可计算得到鱼眼相机的内参数,从而用于校正鱼眼相机的畸变。

Description

鱼眼相机的标定方法及其标定系统和标板
技术领域
本发明在于提供一鱼眼相机的参数的测试方法,尤其涉及采用立体圆柱形标定筒作为标板并且基于鱼眼相机投影原理建立的数学模型对鱼眼相机进行标定的方法及其标定系统。
背景技术
相机的成像模型表达了像素与外部空间的对应关系,是图像处理、机器视觉的关键技术之一。目前,针对鱼眼相机的数学模型主要有两大类。一是基于鱼眼相机的投影原理而建立的解析式模型。这种模型往往包含一些物理意义明确的参数,如焦距、光轴中心坐标等。但是这种模型往往过于复杂,包含了许多外参,使得内参难以获得。二是多项式模型。这种模型通用性好,但是模型的阶数不确定,完全放弃了镜头本身的投射原理,难以验证结果的有效性。
无论采用哪一种模型,都需要确定模型的参数。确定参数的方法也分为两大类。一种是借助精密的机械台,依次求得每一个参数。在求某一参数时,旋转、平移相机或参照物并抵消其他参数的作用,从而求得目标参数。这种方法的成本高,效率低,只适合对精度要求极高的场合。另一种是用相机对参照物成像,通过优化算法,一次性得到全部参数。参照物又叫标板,其上绘有一系列的特征点,相机对标板成像后检测出特征点的实际像点。另一方面,通过数学模型可以算出特征点的模型像点。通过调整数学模型的参数,使得两组像点的误差最小,即可获得数学模型。
一种常见的标板图案是黑白棋盘格。特征点分布于黑白交变处的角点。这种方法理论上精确地定位了特征点,然而实践中由于噪声、畸变和算法的问题,所提取的特征点的误差是比较大的。这种定位方式虽然在理论上只需2、3次试验,但实际操作中往往需要20次以上,这足以说明该方法的不确定性。另一种常见的标板图案是黑白斑点序列。特征点分布于斑点的中心。该方法简单方便、抗噪性好,但当存在非线性畸变时,圆斑的中心会发生偏移。
另外,目前标板都是平面的,而鱼眼相机的广角范围大,进而无法有效覆盖鱼眼的大视角,会造成定位的偏差。
发明内容
本发明的一目的在于提供一鱼眼相机的标定方法及其标定系统和标板,其中所述方法基于鱼眼相机投影原理建立数学模型,并且只需要对所述标板成像较少的次数如可以少至一次,即可计算得到所述鱼眼相机的内参数如焦距或光轴中心,从而用于校正鱼眼相机的畸变。
本发明的另一目的在于提供一鱼眼相机的标定方法及其标定系统和标板,其中所述标版为圆柱形结构,以减少尺寸的限制,能够有效覆盖所述鱼眼相机的大视角,同时圆柱面得以无损平面展开,便于打印。
本发明的另一目的在于提供一鱼眼相机的标定方法及其标定系统和标板,其中所述标版的制作简单,可以在标版直接粘贴平面图案,从而形成立体测试图案。
本发明的另一目的在于提供一鱼眼相机的标定方法及其标定系统和标板,其通过斑点投影来产生特征纹理图案,几何形状的斑点以同心圆并呈同一径向的360度射状排列,将投影前图案投影到圆柱面,即可得到标板所需的图案。
本发明的另一目的在于提供一鱼眼相机的标定方法及其标定系统和标板,其中所述方法适合于对等距鱼眼相机的标定。
本发明的另一目的在于提供一鱼眼相机的标定方法及其标定系统和标板,其中所采用的非线性畸变的估计方法使得所设计的标定方法避开了斑点中心的偏移问题。
本发明的另一目的在于提供一鱼眼相机的标定方法及其标定系统和标板,其中通过成像后特征点的中心坐标的不重合程度,估计圆柱形标版与光轴的不重合程度,从而基于软件算法校正所述鱼眼相机与圆柱形标板的相对位置,避免对精密机械台的依赖。
为达到以上目的,本发明提供一鱼眼相机的标定方法,其包括如下步骤:
(A)鱼眼相机拍摄柱形立体标板的特征图案;
(B)连接至所述鱼眼相机的标定主机采集所述特征图案的图像并提取特征点;以及
(C)调用非线性优化算法,输入所述特征点坐标,并基于标定用数学模型得到所述鱼眼相机的参数。
在一个实施例中,所述标板呈圆柱形,所述标定方法进一步地包括制作所述标板的步骤(D):
(D.1)制作具有所述特征图案的圆柱面;以及
(D.2)通过所述圆柱面制作所述标板。
在一个实施例中,所述步骤(D.1)中的所述特征图案进一步地通过如下步骤制作:
(D.1.1)提供一投影前的斑点图案,其具有多个斑点,所述斑点以同心圆为一组,分别一层一层往外延伸,同时所述斑点又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角;
(D.1.2)将所述斑点图案基于鱼机相机投影原理和所述圆柱面的形状和尺寸进行投影,得到所述特征图案的样式;
(D.1.3)将所述特征图案印刷或粘贴于所述圆柱面。
在一个实施例中,在所述步骤(D.2)中,所述圆柱面卷成筒状从而制作圆柱形的所述标板。
在一个实施例中,在所述步骤(D.2)中,进一步地包括步骤:将具有所述特征图案的所述圆柱面贴合于圆柱形的标板主体从而得到所述标板。
在一个实施例中,在上述方法中的步骤(D)中,还包括非线性畸变的估计方法,其包括步骤:
(i)当所述标板绕着所述鱼眼相机的光轴旋转时,且其对着光轴的面始终对着光轴,则该所述标板的所有像点的相对位置不变,即畸变为0;以及
(ii)当所述标板沿着所述鱼眼相机的光轴平移时,其几何中心的偏移情况用下式估计:
Figure BDA0000861584550000031
其中上式中,e为畸变量,Rw为所述标板的半径,f为所述鱼眼相机的焦距,Z2为特征点的高度,δz为沿着光轴的平移量,Δr为畸变前斑点半径,Δr1为畸变后斑点半径。
在一个实施例中,所述步骤(C)中地一步的包括如下的所述数学模型,当世界坐标系的Z轴与所述鱼眼相机的光轴重合时,根据实施为等距鱼眼相机的投影原理,加上坐标变换,可得等距投影的数学模型为:
Figure BDA0000861584550000041
Figure BDA0000861584550000042
Figure BDA0000861584550000043
其中上式中,u,v是像空间坐标,Xw,Yw,Zw是世界坐标,x,y,X,Y,Z为中间变量,f为焦距,u0,v0为光轴在像空间的坐标,cy为y轴相对x轴的缩放系数,t为世界坐标系沿着光轴的平移量,θ为世界坐标绕着光轴的旋转角。f,u0,v0和cy构成标定所需辨识的参数,而t,θ为需额外辨识的参数。
在一个实施例中,所述步骤(B)和所述步骤(C)之间还包括将所述标板的中轴对准于所述鱼眼相机的光轴的对准步骤(E),其包括步骤:
(E.1)提取n个所述特征点121并按同心圆分组,设定一共具有k组,将每组内的所述特征点的坐标求平均,得该组的中心坐标
Figure BDA0000861584550000048
并与所述鱼眼相机的光轴进行判断是否重合;以及
(E.2)通过移动所述鱼眼相机或移动所述标板调整所述鱼眼相机与所述标板的相对位置。
在一个实施例中,在所述步骤(E.1)中,所采用的判据是:
Figure BDA0000861584550000044
当ex,ey均小于设定值时,完成对准。
在一个实施例中,在所述步骤(E.2)中,进一步地包括步骤:
(E.2.1)按照
Figure BDA0000861584550000045
的方向平移所述鱼眼相机;以及
(E.2.2)调整所述鱼眼相机的角度,调整角度时,
Figure BDA0000861584550000046
会离开
Figure BDA0000861584550000047
通过平移来使圆柱形标板的中轴对准到与所述鱼眼相机的光轴重新重合。
在一个实施例中,所述方法还包括步骤:将所述鱼眼相机固定于一固定板,通过移动所述固定板调整所述鱼眼相机的位置。
在一个实施例中,在完成对准后,将所述特征点坐标[xi,yi],i={1,...,n},加上所述等距投影的数学模型,带入所述非线性优化算法,即得所述数学模型的参数。
在一个实施例中,所述标板制作过程进一步地包括如下步骤:
(1)测量所述标板直径d,计算其周长;
(2)打印所述特征图案,使其宽W等于所述圆柱形的标板主体的周长,然后粘贴所述特征图案于所述标板主体而形成所述标板。
在一个实施例中,在所述步骤(B)中,获取的图像灰度处理并且根据设定的灰度阈值得到二值化图像,从而得到所述特征点的图像数据。
在一个实施例中,在调整所述鱼相相机的步骤中,进一步地包括步骤:
在所述标定主机的显示器显示对应所述特征点的中心坐标的测试点,所述测试点呈现大致U形线条;按照“动点”指向“不动点”的方向平移所述固定板;所显示的所述U型线条的底部指向所述固定板的一处边缘时将该处边缘往后拉。
在一个实施例中,实施参数为
Figure BDA0000861584550000051
Rw=50毫米,Z2=100毫米,δz=10毫米。
根据本发明的另外一方面,本发明提供一鱼眼相机,其采用上述方法标定得到。
根据本发明的另外一方面,本发明提供一鱼眼相机的标定系统,其包括:
一圆柱形标板;以及
一标定主机(即可实施为一显示计算单元如电脑),待标定的一鱼眼眼机连接于所述标定主机,并且与所述标板位置对应从而便于拍摄所述标板,获取图像数据并代入一数学模型得到所述鱼相眼机的相关参数。
在一个实施例中,在所述标定系统中,所述标板包括一圆柱形标板主体和设置于所述圆柱形标板主体的具有一特征图案的圆柱面。
在一个实施例中,在所述标定系统中,所述特征图案的样式与一斑点图案有如下对应的关系:
所述斑点图案具有多个斑点,所述斑点以同心圆为一组,分别一层一层往外延伸,同时所述斑点又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角,并且所述斑点图案基于鱼机相机投影原理和所述圆柱面的形状和尺寸进行投影,得到对应的所述特征图案的样式。
在一个实施例中,在所述标定系统中,具有所述特征图案的所述圆柱面粘贴于或通过固定元件固定于圆柱形的所述标板主体。
在一个实施例中,在所述标定系统中,还包括一固定板,其中所述鱼眼相机安装于所述固定板,以通过所述固定板调整所述鱼眼相机的位置。
根据本发明的另外一方面,本发明提供一标板,以用于一鱼眼相机的标定,其中所述标板具有一特征图案,所述特征图案具有多个特征点,所述特征点沿着深度方向和沿着环绕的方向布置。
在一个实施例中,所述标板是一圆柱形标板,所述特征图案设置于一圆柱面,其中所述特征图案的样式与一斑点图案有如下对应的关系:
所述斑点图案具有多个斑点,所述斑点以同心圆为一组,分别一层一层往外延伸,同时所述斑点又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角,并且所述斑点图案基于鱼机相机投影原理和所述圆柱面的形状和尺寸进行投影,得到对应的所述特征图案的样式。
附图说明
图1是根据本发明的一个优选实施例中形成标板的特征图案时的投影前的图案的示意图。
图2是根据本发明的上述优选实施例中投影前图案基于鱼眼相机投影原理投影到圆柱面得到的圆柱形标板所需的特征图案。
图3是根据本发明的上述优选实施例中将特征图案粘贴至标板的圆柱形主体的示意图。
图4是根据本发明的上述非线性畸变估计方法的原理示意图。
图5是根据本发明的上述优选实施例中数学模型的原理示意图。
图6是根据本发明的上述优选实施例中进行光轴对准时所显示的图像。
图7是根据本发明的上述优选实施例中鱼眼相机标定系统的整体示意图。
图8是根据本发明的上述优选实施例中鱼眼相机标定方法的流程示意图。
具体实施方式
如图1至图8所示是根据本发明的一个优选实施例的鱼眼相机的标定方法及其标定系统和标板。所述标定系统包括一标板10和一标定主机30,以针对一鱼眼相机20进行参数测试并且标定。所述鱼眼相机20连接于所述标定主机30,如具有显示器31的一个计算机,并且所述鱼眼相机20拍摄所述标板10,得到的影像数据供所述标定主机30分析,所述标定主机30调用预设的标定软件对所述鱼眼相机20进行标定。
更具体地,如图1至3所示是本发明的上述优选实施例的标板10的制作过程。在本发明的这个优选实施例,不像现有技术中使用平面型标板,而是采用立体标板,更进一步地,本发明的所述标板10是一个柱形标定筒,其可以具有相同或渐变的直径,如图3中所示,优选地,本发明的这个实施例是具有统一半径Rw的圆柱形标定筒。圆柱形的设计结构得以减少鱼眼相机在测试过程中对所述标板的尺寸限制。由于所述鱼眼相机的广角范围大,在测试过程中,传统的标板不能完整地显示所述鱼眼相机产生的特征图像,进而造成测试数据不精确,影响测试结果。而本发明采用的圆柱形标板,对尺寸没有要求,而且能够有效地覆盖鱼眼相机20的大视角。
所述标板10具有一圆柱面11,其具有特征图案12,如图3所示,供所述鱼眼相机20拍摄并成像,以供进一步地分析和计算。所述标板10可以是通过将具有所述特征图案12的图纸或薄膜卷成筒状而制成所述圆柱面11。在本发明的这个优选实施例中,所述标板10也可以进一步地具有筒状主体13,具有所述特征图案12的所述圆柱面11粘贴于所述筒状主体13从而得到本发明的圆柱形标定筒。即所述标板10的所述圆柱面11可无损展开成平面,便于直接打印或粘贴所述特征图案12。所述标板10具有制作简单,生产成本低等特点。
如图1至图3所示,本发明的所述特征图案12通过如下方法得到,即通过将图1中所示的斑点图案40投影来产生特征纹理图案。具体地,投影前的斑点图案40如图1所示,其包含多个斑点41,特征点可以是这些斑点41的几何中心。斑点41可以具有各种各样的几何形状,如圆形、椭圆形、线对形或各种多边形如三角形、四边形和五边形等。
这些所述斑点41以同心圆为一组,分别一层一层往外延伸,同时所述斑点41又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角。例如图1中所示,这些所述斑点41形成10个同心圆,并且沿着径向形成放射状的20条斑点线并等分360°,可以理解的是图1中所示的斑点41的排列只作为举例而并不限制本发明。
所述斑点图案40基于鱼眼相机投影原理逆投影到一圆柱形表面,即得到如图2所示的特征图案12,即各个所述斑点41投影后形成对应的各个特征点121,即通过逆向设计的方式得到所述特征图案12。本发明的标定过程中,所述鱼眼相机20拍摄所述特征图案12,可以得到大致与所述斑点图案40类似的成像图案,从而方便后续进一步的测试。
相应地,本发明的所述特征图案12得到后,测量所述标板10的直径d,计算得到其周长πd,此周长的长度即所述圆柱面11的宽度W。然后将所述特征图案12形成于所述圆柱面11,例如通过打印或粘贴于实施为图纸或薄膜的所述圆柱面11,然后进一步地将所述圆柱面11粘贴或其他方式固定于所述标板主体13,从而得到本发明的圆柱形的所述标板10。
然而,所述鱼眼相机20拍摄所述特征图案12,可以得到大致与所述斑点图案40类似的成像图案时,会产生非线性畸变。即在上述特征图案12基于投影原理产生阶段,像坐标系和世界坐标系之间有对应关系。但是在实际标定阶段,所述鱼眼相机20拍摄所述标板10时不重合前述的对应关系。具体表现为:特征点偏离了几何中心。所以,需要定量考察这种偏离的程度,以便设计出准确又便利的标定方法。
为解决这种偏离情况,本发明提出新的畸变估计方法,其基于平移所述标板10来反映畸变情况。如图4所示是根据本发明的上述优选实施例中所述标板10沿着所述鱼眼相机20的光轴平移的示意图。
具体地,本发明的畸变估计方法基于下面两部分内容。第一方面,当所述标板10绕着所述鱼眼相机20的光轴旋转时,且其对着光轴的面始终对着光轴,则该所述标板10的所有像点的相对位置不变,即畸变为0。第二方面,当所述标板沿着所述鱼眼相机的光轴平移时,其几何中心的偏移情况可用下式估计:
Figure BDA0000861584550000081
其中,e为畸变量,Rw为标板的半径,f为所述鱼眼相机的焦距,Z2为特征点的高度,δz为沿着光轴的平移量,Δr为畸变前斑点半径,Δr1为畸变后斑点半径,
Figure BDA0000861584550000082
的单位是度。该公式定量地表达了畸变情况,方便用户校验精度要求,且揭示了各个影响因素的作用。总体上,因为
Figure BDA0000861584550000083
很小,所以偏离不会太大。另外,越大越矮的标板、越小的斑点都能进一步抑制畸变。
值得一提的是,本发明推荐的实施参数为
Figure BDA0000861584550000084
另外可取试验数据Rw=50毫米,Z2=100毫米,δz=10毫米。这样的实验数据足以满足分辨率高达4000×4000的所述鱼眼相机测试,得到测试的畸变量为0.28个像素,这一误差在许多场合下是允许的,满足市场的生产需求。
根据以上畸变估计公式可知,当世界坐标系的Z轴与所述鱼眼相机20的光轴重合时,非线性畸变的作用很小。基于这一要求,并且参照如图5所示,根据实施为等距鱼眼相机的所述鱼眼相机20的投影原理,加上坐标变换,可得等距投影的数学模型为:
Figure BDA0000861584550000091
Figure BDA0000861584550000092
Figure BDA0000861584550000093
其中,u,v是像空间坐标,Xw,Yw,Zw是世界坐标,x,y,X,Y,Z为中间变量,f为焦距,u0,v0为光轴在像空间的坐标,cy为y轴相对x轴的缩放系数,t为世界坐标系沿着光轴的平移量,θ为世界坐标绕着光轴的旋转角。F,u0,v0和cy构成标定所需辨识的参数,而t,θ为需额外辨识的参数。
另外,本发明的标定方法中还包括将所述标板10的中轴对准于所述鱼眼相机20的光轴的对准方法,具体地,根据本发明所采用的数学模型和原理,需将圆柱形标板10的中轴对准于所述鱼眼相机的光轴。进而避免对精密机械台的依赖,同时本发明设计了一种软件对准方法。
假定已经提取得n个特征点121[xi,yi],如图2中200个所述特征点121,将这些特征点121按同心圆分组,假定一共具有k组,如图2中所示是10组,每组20个所述特征点121。将每组内的所述特征点121的坐标求平均,得该组的中心坐标
Figure BDA0000861584550000094
j∈{1,...,k}。若所述标板10与所述鱼眼相机20的光轴已重合,则所有的
Figure BDA0000861584550000095
应重合。相反,可根据
Figure BDA0000861584550000096
的不重合程度,估计所述标板10与所述鱼眼相机20的光轴的不重合程度。
在软件对准方法实施过程中,取最外圈对应的下标j=1,将
Figure BDA0000861584550000097
Figure BDA0000861584550000098
j∈{2,...,k}坐标处的像素突出显示,可得结果如图6所示。c为某一比较大的常数,用于放大显示
Figure BDA0000861584550000099
的不重合度。图6提供了完整的反馈信息,以用于调整所述鱼眼相机20与所述标板10的相对位置。在图6中,其显示了在所述标定主机30的所述显示器31显示的测试图案50,其包括多个测试点51,每个所述测试点51基于上述按同心圆分组并将每组内的所述特征点121的坐标求平均,得至该组的中心坐标而得到。例如在本发明的这个示例中,其具有10个所述测试点51,并且排列成大致U形形状,并且具有凹口52。
本发明的调整方法可以固定所述鱼眼相机20而调整所述标板10的位置,也可以移 动所述鱼眼相机20而固定所述标板10。以移动所述鱼眼相机20而固定所述标板10,本发明 的调整的方法是:按照的方向平移所述鱼眼相机20,调整所述鱼眼相机20的角 度,使其偏向“图6中线条的凹口52”所指的方向。调整角度时,会离开用户需通 过平移来使所述标板10的中轴与所述鱼眼相机20的光轴重新重合。同时平移过程不会产生 角度的变化,所以这两种调整是没有矛盾的。完成对准的判断式为:
Figure BDA0000861584550000104
其中ex,ey均小于设定值时,完成 对准。完成对准后,可将特征点坐标[xi,yi],i={1,...,n},加上所述等距投影的数学模型, 带入某一非线性优化算法,既得模型的参数。
相应地,本发明提供一种鱼眼相机的标定方法,其包括如下步骤:
(A)鱼眼相机20拍摄柱形立体标板10的特征图案12;
(B)连接至所述鱼眼相机20的标定主机30采集所述特征图案12的图像并提取特征点121;以及
(C)调用非线性优化算法,输入所述特征点121坐标,并基于标定用数学模型得到所述鱼眼相机20的参数。
相应地,在上述方法中,还包括非线性畸变的估计方法,其包括步骤:
(i)当所述标板10绕着所述鱼眼相机20的光轴旋转时,且其对着光轴的面始终对着光轴,则该所述标板10的所有像点的相对位置不变,即畸变为0;以及
(ii)当所述标板10沿着所述鱼眼相机20的光轴平移时,其几何中心的偏移情况可用下式估计:
Figure BDA0000861584550000105
其中上式中,e为畸变量,Rw为标板的半径,f为所述鱼眼相机的焦距,Z2为特征点的高度,δz为沿着光轴的平移量,Δr为畸变前斑点半径,Δr1为畸变后斑点半径。
进一步,本发明的所述标定方法的所述步骤(C)中地一步的包括如下的所述数学模型,当世界坐标系的Z轴与所述鱼眼相机20的光轴重合时,根据实施为等距鱼眼相机的所述鱼眼相机20的投影原理,加上坐标变换,可得等距投影的数学模型为:
Figure BDA0000861584550000111
Figure BDA0000861584550000112
Figure BDA0000861584550000113
其中上式中,u,v是像空间坐标,Xw,Yw,Zw是世界坐标,x,y,X,Y,Z为中间变量,f为焦距,u0,v0为光轴在像空间的坐标,cy为y轴相对x轴的缩放系数,t为世界坐标系沿着光轴的平移量,θ为世界坐标绕着光轴的旋转角。f,u0,v0和cy构成标定所需辨识的参数,而t,θ为需额外辨识的参数。
另外,优选地,本发明的所述标板10是圆柱形标板,所述标定方法进一步地包括制作所述标板10的步骤(D):
(D.1)制作具有特征图案12的圆柱面11;以及
(D.2)通过所述圆柱面11制作所述标板10。
其中所述步骤(D.1)中的所述特征图案12进一步地通过如下步骤制作:
(D.1.1)提供一投影前的斑点图案40,其具有多个斑点41,所述斑点41以同心圆为一组,分别一层一层往外延伸,同时所述斑点41又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角;
(D.1.2)将所述斑点图案40基于鱼机相机投影原理和所述圆柱面11的形状和尺寸进行投影,得到所述特征图案12的样式;
(D.1.3)将所述特征图案12印刷或粘贴于所述圆柱面11。
在所述步骤(D.2)中,所述圆柱面11卷成筒状从而制作圆柱形的所述标板10。或者其进一步地包括步骤:将具有所述特征图案12的所述圆柱面11贴合于(如粘贴或其他附着固定方式)圆柱形的标板主体13从而得到所述标板10。
在上述标定方法中,其还包括步骤:将所述鱼眼相机20固定于一固定板60,从而便于控制所述鱼眼相机20,如调整所述鱼眼相机20的位置。
在本发明的步骤(B)和步骤(C)之间还包括将所述标板10的中轴对准于所述鱼眼相机20的光轴的对准步骤(E),其包括步骤:
(E.1)提取n个所述特征点121并按同心圆分组,设定一共具有k组,将每组内的所述特征点121的坐标求平均,得该组的中心坐标
Figure BDA0000861584550000121
并与所述鱼眼相机20的光轴进行判断是否重合;以及
(E.2)通过移动所述鱼眼相机20或移动所述标板10调整所述鱼眼相机20与所述标板10的相对位置。
在步骤(E.1)中,判别重合的依据是:
Figure BDA0000861584550000122
当ex,ey均小于设定值 时,完成对准。
优选地,在所述步骤(E.2)中,进一步地包括步骤:
(E.2.1)按照
Figure BDA0000861584550000123
的方向平移所述鱼眼相机;以及
(E.2.2)调整所述鱼眼相机20的角度,调整角度时,
Figure BDA0000861584550000124
会离开
Figure BDA0000861584550000125
通过平移来使圆柱形标板10的中轴对准到与所述鱼眼相机20的光轴重新重合。
相应地,在调整所述鱼眼相机20的角度时,可以通过移动所述固定板60来完成。
并且在完成对准后,可将特征点坐标[xi,yi],i={1,...,n},加上所述等距投影的数学模型,带入某一非线性优化算法,既得模型的参数。
参照如图8所示是根据本发明的这个优选实施例的一个具体实施方式,其中所述标定系统包括所述圆柱形标板10,所述标定主机30和所述固定板60,其中待测试和标定的所述鱼眼相机20安装于所述固定板60,并且连接于所述标定主机30,并且与所述标板10位置对应从而便于拍摄所述标板10,在拍摄所述标板10以及有需要时平移所述标板10后获取图像数据并代入数学模型得到所述鱼相眼机的相关参数。
具体地,在一个具体的实施方案中,其包括如下步骤:
(1)测量所述标板10直径d,计算其周长。
(2)打印所述特征图案12,使其宽W等于圆柱体周长,然后尽可能准确地粘贴而形成所述标板10。
(3)连接所述鱼眼相机20和标定主机30(如电脑),启动标定软件。
(4)软件实时采集图像,进行二值化处理,提取特征点121并求取各组特征点121的中心坐标。相应地二值化处理中,获取的图像灰度处理并且根据设定的灰度阈值得到二值化图像,从而得到所述特征点121的图像数据。
(5)显示对准情况。
(6)用户根据对准情况,调整相机。具体调整方法如下(相机的方位与显示的方位大体一致):
①按照“动点”指向“不动点”的方向平移所述固定板60。
②所显示的U型线条40的底部指向所述固定板60的一处边缘时将该处边缘往后拉。
(7)判定是否已对准成功。若成功,则进入步骤(8),否则进入步骤(4)。
(8)调用非线性优化算法,输入特征点坐标,计算相机的参数,输出结果。
上述内容为本发明的具体实施例的例举,对于其中未详尽描述的设备和结构,应当理解为采取本领域已有的通用设备及通用方法来予以实施。
同时本发明上述实施例仅为说明本发明技术方案之用,仅为本发明技术方案的列举,并不用于限制本发明的技术方案及其保护范围。采用等同技术手段、等同设备等对本发明权利要求书及说明书所公开的技术方案的改进应当认为是没有超出本发明权利要求书及说明书所公开的范围。

Claims (32)

1.一鱼眼相机的标定方法,其特征在于,包括如下步骤:
(A)鱼眼相机拍摄柱形立体标板的特征图案;
(B)连接至所述鱼眼相机的标定主机采集所述特征图案的图像并提取特征点;
(C)调用非线性优化算法,输入所述特征点坐标,并基于标定用数学模型得到所述鱼眼相机的参数;以及
(D)制作所述标板,其中所述步骤(D)进一步包括步骤:
(D.1)制作具有所述特征图案的圆柱面,其中所述步骤(D.1)进一步包括步骤:
(D.1.1)提供一投影前的斑点图案,其具有多个斑点,所述斑点以同心圆为一组,分别一层一层往外延伸,同时所述斑点又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角;
(D.1.2)将所述斑点图案基于鱼眼相机投影原理和所述圆柱面的形状和尺寸进行投影,得到所述特征图案的样式;以及
(D.1.3)将所述特征图案印刷或粘贴于所述圆柱面;和
(D.2)通过所述圆柱面制作所述标板。
2.根据权利要求1所述的方法,其中在所述步骤(D.2)中,所述圆柱面卷成筒状从而制作圆柱形的所述标板。
3.根据权利要求2所述的方法,其中在所述步骤(D.2)中,进一步地包括步骤:将具有所述特征图案的所述圆柱面贴合于圆柱形的标板主体从而得到所述标板。
4.根据权利要求1至3中任一所述的方法,其中在上述方法中的步骤(D)中,还包括非线性畸变的估计方法:
(i)当所述标板绕着所述鱼眼相机的光轴旋转时,且其对着光轴的面始终对着光轴,则该所述标板的所有像点的相对位置不变,即畸变为0;以及
(ii)当所述标板沿着所述鱼眼相机的光轴平移时,其几何中心的偏移情况用下式估计:
Figure FDA0002371002410000021
上式中,e为畸变量,Rw为所述标板的半径,f为所述鱼眼相机的焦距,Z2为特征点的高度,δz为沿着光轴的平移量,△r为畸变前斑点半径,△r1为畸变后斑点半径。
5.根据权利要求4所述的方法,其中所述步骤(C)中进一步地包括如下的所述数学模型,当世界坐标系的Z轴与所述鱼眼相机的光轴重合时,根据所实施的等距鱼眼相机的投影原理,加上坐标变换,可得数学模型为:
Figure FDA0002371002410000022
Figure FDA0002371002410000023
Figure FDA0002371002410000024
其中,u,v是像空间坐标,Xw,Yw,Zw是世界坐标,x,y,X,Y,Z为中间变量,f为焦距,u0,v0为光轴在像空间的坐标,cy为y轴相对x轴的缩放系数,t为世界坐标系沿着光轴的平移量,θ为世界坐标绕着光轴的旋转角,f,u0,v0和cy构成标定所需辨识的参数,而t,θ为需额外辨识的参数。
6.根据权利要求5所述的方法,其中所述步骤(B)和所述步骤(C)之间还包括将所述标板的中轴对准于所述鱼眼相机的光轴的对准步骤(E),其包括步骤:
(E.1)提取n个所述特征点并按同心圆分组,设定一共具有k组,将每组内的所述特征点的坐标求平均,得该组的中心坐标
Figure FDA0002371002410000025
并与所述鱼眼相机的光轴进行判断是否重合;以及
(E.2)通过移动所述鱼眼相机或移动所述标板调整所述鱼眼相机与所述标板的相对位置。
7.根据权利要求6所述的方法,其中在所述步骤(E.1)中所使用的判别依据是:
Figure FDA0002371002410000031
当ex,ey均小于设定值时,完成对准。
8.根据权利要求7所述的方法,其中在所述步骤(E.2)中,进一步地包括步骤:
(E.2.1)按照
Figure FDA0002371002410000032
的方向平移所述鱼眼相机;以及
(E.2.2)调整所述鱼眼相机的角度,调整角度时,
Figure FDA0002371002410000033
会离开
Figure FDA0002371002410000034
通过平移来使圆柱形标板的中轴对准到与所述鱼眼相机的光轴重新重合。
9.根据权利要求8所述的方法,还包括步骤:将所述鱼眼相机固定于一固定板,通过移动所述固定板调整所述鱼眼相机的位置。
10.根据权利要求8所述的方法,其中在完成对准后,将所述特征点坐标[xi,yi],i={1,...,n},加上等距投影的数学模型,带入所述非线性优化算法,即得所述数学模型的参数。
11.根据权利要求3所述的方法,所述标板制作过程进一步地包括如下步骤:
(1)测量标板直径d,计算其周长;
(2)打印所述特征图案,使其宽W等于所述圆柱形的标板主体的周长,然后粘贴所述特征图案于所述标板主体而形成所述标板。
12.根据权利要求1至3中任一所述的方法,在所述步骤(B)中,获取的图像灰度处理并且根据设定的灰度阈值得到二值化图像,从而得到所述特征点的图像数据。
13.根据权利要求9所述的方法,其中在调整所述鱼眼相机的步骤中,进一步地包括步骤:
在所述标定主机的显示器显示对应所述特征点的中心坐标的测试点,所述测试点呈现大致U形线条;按照“动点”指向“不动点”的方向平移所述固定板;所显示的所述U形线条的底部指向所述固定板的一处边缘时将该处边缘往后拉。
14.一鱼眼相机,其特征在于,采用一标定方法标定得到,其中所述标定方法包括如下步骤:
(A)鱼眼相机拍摄柱形立体标板的特征图案;
(B)连接至所述鱼眼相机的标定主机采集所述特征图案的图像并提取特征点;
(C)调用非线性优化算法,输入所述特征点坐标,并基于标定用数学模型得到所述鱼眼相机的参数;以及
(D)制作所述标板,其中所述步骤(D)进一步包括步骤:
(D.1)制作具有所述特征图案的圆柱面,其中所述步骤(D.1)进一步包括步骤:
(D.1.1)提供一投影前的斑点图案,其具有多个斑点,所述斑点以同心圆为一组,分别一层一层往外延伸,同时所述斑点又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角;
(D.1.2)将所述斑点图案基于鱼眼相机投影原理和所述圆柱面的形状和尺寸进行投影,得到所述特征图案的样式;以及
(D.1.3)将所述特征图案印刷或粘贴于所述圆柱面;和
(D.2)通过所述圆柱面制作所述标板。
15.根据权利要求14所述的鱼眼相机,其中在所述步骤(D.2)中,所述圆柱面卷成筒状从而制作圆柱形的所述标板。
16.根据权利要求15所述的鱼眼相机,其中在所述步骤(D.2)中,进一步地包括步骤:将具有所述特征图案的所述圆柱面贴合于圆柱形的标板主体从而得到所述标板。
17.根据权利要求15或16所述的鱼眼相机,其中在上述方法中的步骤(D)中,还包括非线性畸变的估计方法:
(i)当所述标板绕着所述鱼眼相机的光轴旋转时,且其对着光轴的面始终对着光轴,则该所述标板的所有像点的相对位置不变,即畸变为0;以及
(ii)当所述标板沿着所述鱼眼相机的光轴平移时,其几何中心的偏移情况用下式估计:
Figure FDA0002371002410000041
上式中,e为畸变量,Rw为所述标板的半径,f为所述鱼眼相机的焦距,Z2为特征点的高度,δz为沿着光轴的平移量,△r为畸变前斑点半径,△r1为畸变后斑点半径。
18.根据权利要求17所述的鱼眼相机,其中所述步骤(C)中进一步地包括如下的所述数学模型,当世界坐标系的Z轴与所述鱼眼相机的光轴重合时,根据所实施的等距鱼眼相机的投影原理,加上坐标变换,可得数学模型为:
Figure FDA0002371002410000051
Figure FDA0002371002410000052
Figure FDA0002371002410000053
其中,u,v是像空间坐标,Xw,Yw,Zw是世界坐标,x,y,X,Y,Z为中间变量,f为焦距,u0,v0为光轴在像空间的坐标,cy为y轴相对x轴的缩放系数,t为世界坐标系沿着光轴的平移量,θ为世界坐标绕着光轴的旋转角,f,u0,v0和cy构成标定所需辨识的参数,而t,θ为需额外辨识的参数。
19.根据权利要求18所述的鱼眼相机,其中所述步骤(B)和所述步骤(C)之间还包括将所述标板的中轴对准于所述鱼眼相机的光轴的对准步骤(E),其包括步骤:
(E.1)提取n个所述特征点并按同心圆分组,设定一共具有k组,将每组内的所述特征点的坐标求平均,得该组的中心坐标
Figure FDA0002371002410000054
并与所述鱼眼相机的光轴进行判断是否重合;以及
(E.2)通过移动所述鱼眼相机或移动所述标板调整所述鱼眼相机与所述标板的相对位置。
20.根据权利要求19所述的鱼眼相机,其中在所述步骤(E.1)中所使用的判别依据是:
Figure FDA0002371002410000061
当ex,ey均小于设定值时,完成对准。
21.根据权利要求20所述的鱼眼相机,其中在所述步骤(E.2)中,进一步地包括步骤:
(E.2.1)按照
Figure FDA0002371002410000062
的方向平移所述鱼眼相机;以及
(E.2.2)调整所述鱼眼相机的角度,调整角度时,
Figure FDA0002371002410000063
会离开
Figure FDA0002371002410000064
通过平移来使圆柱形标板的中轴对准到与所述鱼眼相机的光轴重新重合。
22.根据权利要求21所述的鱼眼相机,还包括步骤:将所述鱼眼相机固定于一固定板,通过移动所述固定板调整所述鱼眼相机的位置。
23.根据权利要求21所述的鱼眼相机,其中在完成对准后,将所述特征点坐标[xi,yi],i={1,...,n},加上等距投影的数学模型,带入所述非线性优化算法,即得所述数学模型的参数。
24.根据权利要求17所述的鱼眼相机,所述标板制作过程进一步地包括如下步骤:
(1)测量标板直径d,计算其周长;
(2)打印所述特征图案,使其宽W等于所述圆柱形的标板主体的周长,然后粘贴所述特征图案于所述标板主体而形成所述标板。
25.根据权利要求14至16中任一所述的鱼眼相机,在所述步骤(B)中,获取的图像灰度处理并且根据设定的灰度阈值得到二值化图像,从而得到所述特征点的图像数据。
26.根据权利要求22所述的鱼眼相机,其中在调整所述鱼眼相机的步骤中,进一步地包括步骤:
在所述标定主机的显示器显示对应所述特征点的中心坐标的测试点,所述测试点呈现大致U形线条;按照“动点”指向“不动点”的方向平移所述固定板;所显示的所述U形线条的底部指向所述固定板的一处边缘时将该处边缘往后拉。
27.一鱼眼相机的标定系统,其特征在于,包括:
一圆柱形标板;以及
一标定主机,待标定的一鱼眼眼机连接于所述标定主机,并且与所述标板的位置对应从而便于拍摄所述标板,获取图像数据并代入一数学模型得到所述鱼眼相机的相关参数;
其中所述标板包括一圆柱形标板主体和设置于所述圆柱形标板主体的具有一特征图案的圆柱面;
其中所述特征图案的样式与一斑点图案有如下对应的关系:
所述斑点图案具有多个斑点,所述斑点以同心圆为一组,分别一层一层往外延伸,同时所述斑点又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角,并且所述斑点图案基于鱼眼相机投影原理和所述圆柱面的形状和尺寸进行投影,得到对应的所述特征图案的样式。
28.根据权利要求27所述的标定系统,其中具有所述特征图案的所述圆柱面粘贴于或通过固定元件固定于圆柱形的所述标板主体。
29.根据权利要求27或28所述的标定系统,还包括一固定板,其中所述鱼眼相机安装于所述固定板,以通过所述固定板调整所述鱼眼相机的位置。
30.一标板,以用于一鱼眼相机的标定,其特征在于,所述标板具有一特征图案,所述特征图案具有多个特征点,所述特征点沿着深度方向和沿着环绕的方向布置;
其中所述标板是一圆柱形标板,所述特征图案设置于一圆柱面,其中所述特征图案的样式与一斑点图案有如下对应的关系:
所述斑点图案具有多个斑点,所述斑点以同心圆为一组,分别一层一层往外延伸,同时所述斑点又以同一径向为一组,并从所述同心圆的圆心放射状延伸,各径向所形成的直线之间具有相等夹角,并且所述斑点图案基于鱼眼相机投影原理和所述圆柱面的形状和尺寸进行投影,得到对应的所述特征图案的样式。
31.根据权利要求30所述的标板,其中所述特征图案通过打印或粘贴于所述圆柱面。
32.根据权利要求31所述的标板,其中所述标板包括一圆柱形的标板主体,其中具有所述特征图案的所述圆柱面粘贴或或通过固定元件固定于所述标板主体。
CN201510844966.8A 2015-11-30 2015-11-30 鱼眼相机的标定方法及其标定系统和标板 Active CN106815866B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201510844966.8A CN106815866B (zh) 2015-11-30 2015-11-30 鱼眼相机的标定方法及其标定系统和标板
PCT/CN2016/107427 WO2017092631A1 (zh) 2015-11-30 2016-11-28 鱼眼图像的畸变图像校正方法及鱼眼相机的标定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510844966.8A CN106815866B (zh) 2015-11-30 2015-11-30 鱼眼相机的标定方法及其标定系统和标板

Publications (2)

Publication Number Publication Date
CN106815866A CN106815866A (zh) 2017-06-09
CN106815866B true CN106815866B (zh) 2020-04-03

Family

ID=59102649

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510844966.8A Active CN106815866B (zh) 2015-11-30 2015-11-30 鱼眼相机的标定方法及其标定系统和标板

Country Status (1)

Country Link
CN (1) CN106815866B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107492124B (zh) * 2017-07-27 2020-05-29 歌尔股份有限公司 鱼眼摄像头的平面标定装置
CN108171757A (zh) * 2017-12-28 2018-06-15 华勤通讯技术有限公司 摄像头标定系统及方法
US10609360B2 (en) * 2018-06-28 2020-03-31 Black Sesame International Holding Limited Dual camera calibration
CN111353945B (zh) * 2018-12-21 2023-10-20 杭州海康威视数字技术股份有限公司 鱼眼图像校正方法、装置及存储介质
CN109710477B (zh) * 2018-12-28 2019-10-18 哈尔滨拓博科技有限公司 一种对平面互动投影进行自动化测试的系统和方法
CN110163922B (zh) * 2019-05-22 2020-06-23 四川深瑞视科技有限公司 鱼眼相机标定系统、方法、装置、电子设备及存储介质
WO2020232971A1 (zh) 2019-05-22 2020-11-26 四川深瑞视科技有限公司 鱼眼相机标定系统、方法、装置、电子设备及存储介质
CN112747673B (zh) * 2020-12-25 2022-10-25 中国人民解放军陆军工程大学 一种基于标定筒的单目多线结构光传感器的标定方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101577002A (zh) * 2009-06-16 2009-11-11 天津理工大学 应用于目标检测的鱼眼镜头成像系统标定方法
KR20110068375A (ko) * 2009-12-16 2011-06-22 (주) 에투시스템 어안 렌즈를 구비하는 카메라 모듈에 의해 획득된 영상의 왜곡 보정을 위한 파라미터 조정 방법
CN102663734A (zh) * 2012-03-15 2012-09-12 天津理工大学 鱼眼镜头的标定及鱼眼图像的畸变矫正方法
CN104392435A (zh) * 2014-11-10 2015-03-04 中科院微电子研究所昆山分所 鱼眼相机标定方法及标定装置
CN104408730A (zh) * 2014-12-08 2015-03-11 北京市新技术应用研究所 鱼眼镜头的标定装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101577002A (zh) * 2009-06-16 2009-11-11 天津理工大学 应用于目标检测的鱼眼镜头成像系统标定方法
KR20110068375A (ko) * 2009-12-16 2011-06-22 (주) 에투시스템 어안 렌즈를 구비하는 카메라 모듈에 의해 획득된 영상의 왜곡 보정을 위한 파라미터 조정 방법
CN102663734A (zh) * 2012-03-15 2012-09-12 天津理工大学 鱼眼镜头的标定及鱼眼图像的畸变矫正方法
CN104392435A (zh) * 2014-11-10 2015-03-04 中科院微电子研究所昆山分所 鱼眼相机标定方法及标定装置
CN104408730A (zh) * 2014-12-08 2015-03-11 北京市新技术应用研究所 鱼眼镜头的标定装置

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
全景摄像机标定方法综述;严春燕;《电脑知识与技术》;20141231;第10卷(第34期);全文 *
基于2D模板与3D包围式标定块的鱼眼相机标定;祝海江 等;《仪器仪表学报》;20080731;第29卷(第7期);第1-2节 *
基于彩色圆柱的相机标定法;李起成 等;《第一届建立和谐人机环境联合学术会议(HHME2005)论文集》;20051031;第3节 *
李起成 等.基于彩色圆柱的相机标定法.《第一届建立和谐人机环境联合学术会议(HHME2005)论文集》.2005, *

Also Published As

Publication number Publication date
CN106815866A (zh) 2017-06-09

Similar Documents

Publication Publication Date Title
CN106815866B (zh) 鱼眼相机的标定方法及其标定系统和标板
TWI489082B (zh) 用於校正雷射量測裝置的方法及其系統
US8111907B2 (en) Method for repeatable optical determination of object geometry dimensions and deviations
CN111260731A (zh) 一种棋盘格亚像素级角点自适应检测的方法
CN108429908B (zh) 一种摄像模组的测试方法、装置、设备及介质
CN109272555B (zh) 一种rgb-d相机的外部参数获得及标定方法
CN113920206B (zh) 透视移轴相机的标定方法
CN115830103A (zh) 一种基于单目彩色的透明物体定位方法、装置及存储介质
CN111461963A (zh) 一种鱼眼图像拼接方法及装置
CN112598747A (zh) 一种单目相机与投影仪的联合标定方法
CN109974618A (zh) 多传感器视觉测量系统的全局标定方法
CN115540775A (zh) 一种ccd单相机的3d视频引伸计
CN109506629B (zh) 一种水下核燃料组件检测装置旋转中心标定的方法
Zexiao et al. Study on a full field of view laser scanning system
CN110838147A (zh) 摄像模组检测方法及装置
JP3704494B2 (ja) カメラのビューポイント及び焦点距離を調べる方法
CN114062265B (zh) 一种用于视觉系统的支撑结构稳定性的评估方法
JP2006010613A (ja) 画像の歪み補正方法
CN115239816A (zh) 一种相机标定方法、系统、电子设备及存储介质
JP4775541B2 (ja) 撮影画像における歪曲収差補正方法
CN112927299B (zh) 标定方法、装置及电子设备
Tsai et al. Calibration and analysis of eccentric error of the laser rotary-scanning measurement system
Xu et al. Cylindrical product label image stitching method
CN114693769A (zh) 一种c臂机的标定方法及装置
CN118090133B (zh) 一种基于数字散斑的风洞模型形变测量方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant