发明内容
针对现有技术中4D全息捕捉系统的标定效率、精度低的问题,本发明提供一种4D全息捕捉系统的快速精确标定方法、系统及存储介质。
为实现上述目的,本发明提供一种4D全息捕捉系统的快速精确标定方法,将具有若干标定面的标定装置置于4D全息捕捉系统的表演空间中,其中,标定装置的每一个标定面上均设置有若干控制点与控制直线,通过4D全息捕捉系统中各摄像机对标定装置进行拍摄,具体包括以下步骤:
步骤101,获取标定图像;
步骤102,对所有标定图像进行识别,获得各标定图像中的控制点与控制直线的二维图像表示;
步骤103,通过各控制点与控制直线在标定装置上的三维空间表示与二维图像表示结合摄像机标定方法进行摄像机标定,得到4D全息捕捉系统中各摄像机的内外参数。
进一步优选的,所述控制点为黑白棋盘格图像中黑方块和/或白方块的角点,所述控制直线为黑白棋盘图像中由各黑方块与白方块之间的分割线。
进一步优选的,黑白棋盘格图像中至少有一部分黑方块和/或白方块上设置有标识,用于对控制点和控制直线进行识别,进而匹配同一个控制点和/或控制直线的二维图像表示与三维空间表示。
进一步优选的,所述通过4D全息捕捉系统中各摄像机对标定装置进行拍摄,具体为:
通过4D全息捕捉系统中各摄像机对标定装置处于4D全息捕捉系统的表演空间中不同位置时的情况分别进行拍摄。
进一步优选的,步骤102中,获得各标定图像中的控制点与控制直线的二维图像表示的具体过程为:
步骤201,采用Harris角点检测算法得到各标定图像中黑白棋盘格图像中的控制点的第一二维图像坐标;
步骤202,采用Hough变换方法对各标定图像中黑白棋盘格图像中的各条控制直线进行检测,得到各条控制直线的二维图像坐标方程,即控制直线的二维图像表示;
步骤203,由检测到的所有控制直线确定各个交叉点,从而得到控制点的第二二维图像坐标;
步骤204,将同一个控制点的第一二维图像坐标与第二二维图像坐标进行加权平均,得到该控制点的二维图像坐标,即控制点的二维图像表示。
进一步优选的,步骤103中,所述摄像机标定方法分为两步标定过程:
第一步为采用Tsai标定方法,获得各摄像机内部参数以及粗糙外部参数;
第二步为通过建立基于各控制点和控制直线的三维空间表示与二维图像空间表示的残差模型,结合Tsai标定法获得的外部参数粗糙值作为初始值,获取最终的摄像机外部参数三维空间。
进一步优选的,所述摄像机的外部参数获取过程为:
步骤301,通过已知的各控制点的三维空间表示与二维图像表示获得若干控制点所在控制直线的二维位置表示与三维位置表示;
步骤302,根据步骤301中所有直线的二维图像表示与三维空间表示建立基于方向向量的残差方程模型:
式中,ec1表示摄像机c基于方向向量的残差,N表示由摄像机c拍摄的标定图像中所有已知控制直线的总数,i表示摄像机c拍摄的标定图像中的第i个控制直线,Ki表示摄像机c拍摄的标定图像中的第i个控制直线从三维投影到二维的投影算子,Di表示摄像机c拍摄的标定图像中的第i个控制直线的三维向量,Rc表示该摄像机c的姿态向量;
步骤303,根据已知的各控制点的三维空间表示与二维图像表示建立基于空间点位置的残差方程模型:
式中,ec2表示摄像机c基于空间点位置的残差,M表示由摄像机c拍摄的标定图像中所有已知控制点的总数,Pi表示摄像机c拍摄的标定图像中的第i个控制直线上的已知的控制点,Vi表示摄像机c拍摄的标定图像中的第i个控制直线上已知的控制点从三维投影到二维的投影算子,Tc表示该摄像机c的位置向量;
步骤304,将摄像机c的姿态向量与位置向量的最初值代入基于方向向量的残差方程模型与基于空间点位置的残差方程模型进行优化计算,即得到摄像机的最终姿态向量与位置向量,即外部参数,其中,摄像机c的姿态向量与位置向量的最初值由Tsai标定法获得。
进一步优选的,步骤304中,所述优化计算为最小化迭代优化。
为实现上述目的,本发明还提供一种4D全息捕捉系统的快速精确标定系统,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述方法的步骤。
为实现上述目的,本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述的方法的步骤。
本发明公开了一种4D全息捕捉系统的快速精确标定方法、系统及存储介质,通过将具有若干标定面的标定装置置于4D全息捕捉系统的表演空间中,通过4D全息捕捉系统中的各个摄像机同时对标定装置进行拍摄获得标定图像,进而根据标定图像中控制点与控制直线的三维空间表示与二维图像表示对4D全息捕捉系统中的多个摄像机同时进行高效、高精度、高稳定性的标定,有效的提升了工作效率与减少了工作量。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明,本发明实施例中所有方向性指示(诸如上、下、左、右、前、后……)仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
另外,在本发明中如涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“连接”、“固定”等应做广义理解,例如,“固定”可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接,还可以是物理连接或无线通信连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
另外,本发明各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
本实施例提供一种4D全息捕捉系统的快速精确标定方法,其中,标定是指对4D全息捕捉系统的摄像机标定。
本实施例首先提出一种标定装置,标定装置为多面刚性结构,可以是如图1所示的正八棱柱结构;也可以由相互叠加的正八棱柱与正八棱锥组合形成;标定装置的每一个标定面上均设贴装或标刻有控制图像,控制图像中具有若干控制点与控制直线,优选的,本实施例中,控制图像为由若干黑方块与白方块组成的黑白棋盘格图像,各黑方块与白方块的大小相同,控制图像每一行或列上黑方块与白方块的总数在7个以上,控制点为黑白棋盘格图像中黑方块和/或白方块的角点,控制直线为黑白棋盘图像中由各黑方块与白方块之间的分割线;采用黑白棋盘格图像作为控制图像,其中控制点为黑白棋盘格图像中黑方块和/或白方块的角点,使得各个控制点之间的位置关系相对固定,在利用全站仪测量控制点的三维空间坐标时,也能通过一个控制点的三维空间坐标直接推导出标定装置上同一面上其他控制点的三维空间坐标,减少了三维空间坐标的测量工序;同时也能与全站仪的测量结果相互印证,进而增加各控制点三维空间坐标测量的准确性,同时也能使得各控制直线为水平或竖直的情况,便于测量控制直线在三维空间坐标系下的表达式。其中,控制点在三维空间坐标系下的坐标即为控制点的三维控制表示,控制直线在在三维空间坐标系下的表达式即为控制直线的三维空间表示。
进一步的,黑白棋盘格图像中部分或全部的黑方块和/或白方块上设置有标识,用于对控制点进行识别。本实施例中的标识为固定粘结或绘制在黑方块或白方块中心区域的ArUco编码,ArUco编码标识是一种二进制方块标识,它由一个宽的黑边和一个内部的二进制矩阵组成,内部的矩阵决定了它们的ID号。ArUco编码标识是基于ArUco库,是一种检测二进制标识的计算机视觉库,是由Rafael
and Sergio Garrido提出的,具体的方法参见文献:S.Garrido-Jurado,R.
F.J.Madrid-Cuevas,and M.J.Marín-Jiménez.2014."Automatic generation and detection of highly reliable fiducialmarkers under occlusion".Pattern Recogn.47,6(June2014),2280-2292.DOI=10.1016/j.patcog.2014.01.005。每一个黑方块或白方块上的ArUco编码都各不相同,通过ArUco编码即能完成对部分或全部的控制点进行定位识别,进而完成后续过程中同一个控制点和/控制直线的三维空间表示与二维图像表示之间的匹配工作。如图2所示,黑白棋盘格图像中的白方块中均设置有不同的ArUco编码,通过对ArUco编码的识别即能完成对所有的控制点的识别定位。标识还可以是二维码、条形码等能够被计算机识别的图案。
将上述的标定装置置于4D全息捕捉系统的表演空间中,测得部分或全部控制点与控制直线的三维空间表示,并通过4D全息捕捉系统中各摄像机对标定装置进行拍摄,将4D全息捕捉系统中各摄像机拍摄的具有标定面的图像作为标定图像,以用于后续的摄像机标定;
优选的,所述通过4D全息捕捉系统中各摄像机对标定装置进行拍摄,具体为:通过4D全息捕捉系统中各摄像机对标定装置处于4D全息捕捉系统的表演空间中不同位置时的情况分别进行拍摄。即标定装置在4D全息捕捉系统的表演空间的一个位置被各摄像机拍摄获得标定图像后4D全息捕捉系统的表演空间内移动标定装置位置并再次使用各摄像机拍摄获得标定图像。本实施例中,标定装置在4D全息捕捉系统的表演空间内的拍摄位置为5~10个,获得多种不同角度的标定图像,进而提升后续过程中摄像机标定的精度。
在获得4D全息捕捉系统中各摄像机在多种不同角度拍摄的标定图像后,即能进行摄像机的标定,查考图3,具体包括以下步骤:
步骤101,获取4D全息捕捉系统中各摄像机所拍摄的具有标定面的标定图像;
步骤102,对步骤101中获得的所有标定图像进行识别,获得各标定图像中的控制点与控制直线的二维图像表示,其中,控制点的二维图像表示即控制点在图像坐标系下的坐标,控制直线的二维图像表示即为控制直线在图像坐标系下的表达式;同一个控制点和/或控制直线的三维空间表示与二维图像表示相对应,其中,获得各标定图像中的控制点的二维图像表示中的控制点具体指的是能够通过ArUco编码进行定位识别的控制点;
步骤103,通过各控制点与控制直线的三维空间表示与二维图像表示结合摄像机标定方法进行摄像机标定,得到4D全息捕捉系统中各摄像机的内外参数。
参考图4,步骤102中,获得各标定图像中的控制点的二维图像坐标的具体过程为:
步骤201,采用Harris角点检测算法得到各标定图像中黑白棋盘格图像中的控制点的第一二维图像坐标,其中,Harris角点检测是图像处理、计算机视觉领域常用的角点检测方法,因此本实施例中不再赘述;
步骤202,采用Hough变换方法对各标定图像中黑白棋盘格图像中的各条直线进行检测,得到各条控制直线的二维图像坐标方程,即控制直线的二维图像表示,其中,Hough变换直线检测是图像处理、计算机视觉常用的直线检测方法,因此本实施例中不再赘述;
步骤203,由检测到的所有直线确定各个交叉点,从而得到控制点的第二二维图像坐标;
步骤204,将同一个控制点的第一二维图像坐标与第二二维图像坐标进行加权平均,得到该控制点的二维图像坐标,即控制点的二维图像表示。
其中,首先通过Harris角点检测算法直接检测出黑白棋盘格图像中各个角点的坐标,即得到控制点在第一种图像识别方式下的二维图像坐标;随后通过Hough变换方法检测出黑白棋盘格图像中黑方块与白方块之间的分割线,得到各分割线的之间交点的坐标,即得到控制点在第二种图像识别方式下的二维图像坐标;最后将控制点在两种识别方式下的二维图像坐标进行加权融合,得到最终的控制点二维图像坐标,使得检测得到的控制点二维图像坐标具有更高的精度和鲁棒性。
优选的,步骤103中,摄像机标定方法分为两步标定过程:
第一步为采用Tsai标定方法,获得各摄像机内部参数以及粗糙外部参数;
第二步为通过建立基于各控制点和控制直线的三维空间表示与二维图像空间表示的残差模型,结合Tsai标定法获得的外部参数粗糙值作为初始值,获取最终的摄像机外部参数三维空间。
摄像机的内部参数具体包括等效焦距、主点坐标、畸变参数,Tsai摄像机标定方法是计算机视觉、遥感测量等领域的典型摄像机标定方法,采用Tsai摄像机标定方法估算摄像机的等效焦距、主点坐标、畸变参数属于常规技术手段,因此本实施例中不再赘述;
所述摄像机的外部参数通过各控制点的三维空间坐标与二维图像坐标结合Tsai标定法获得。摄像机的外部参数具体指的是摄像机的位置向量与姿态向量,本实施例中采用两步法对摄像机的位置向量与姿态向量进行计算:
第一步为通过Tsai摄像机标定方法计算出摄像机位置向量与姿态向量的最初值,这一过程属于常规技术手段,因此不再赘述;第二步综合利用控制点与ArUco编码特征对每个摄像机的位置向量Tc和姿态向量Rc的外部参数优化估计计算,本实施例通过采用一种基于2D-3D直线和点特征对应的摄像机位姿估计迭代优化方法进行外部参数的优化估计计算,参考图5,其过程具体为:
步骤301,通过已知的各控制点的三维空间坐标与二维图像坐标获得若干控制点所在控制直线的二维图像表示与三维空间表示,其中,已知的各控制点指的是已测量出三维空间坐标与二维图像坐标的控制点,控制点所在控制直线指的是黑白棋盘格图像上黑方块与白方块之间的分割线;
步骤302,根据步骤301中所有直线的二维图像表示与三维空间表示建立基于方向向量的残差方程模型,该方向向量残差方程模型的几何意义是所有标定图像中的图像直线对应的空间直线的方向向量应与由对应的空间直线、图像直线以及摄像机光心点组成的平面的法向量垂直。具体的,假定Di表示空间直线i的方向向量,Ki表示该直线对应的一种正交投影算子,该算子是将三维空间直线投影到二维图像像面,对于已知N个2D-3D直线对应,该投影算子是已知确定的。综合Di、Ki、对摄像机c对应的旋转矩阵Rc,因此所建立的残差方程模型为:
式中,ec1表示摄像机c基于方向向量的残差,N表示由摄像机c拍摄的标定图像中所有已知控制直线的总数,i表示摄像机c拍摄的标定图像中的第i个直线,Ki表示摄像机c拍摄的标定图像中的第i个控制直线从三维投影到二维的投影算子,Di表示摄像机c拍摄的标定图像中的第i个直线的三维向量,Rc表示该摄像机c的姿态向量;
步骤303,根据已知的各控制点的三维空间坐标与二维图像坐标建立基于空间点位置的残差方程模型具体为:假定Pi为空间控制直线i的已知的控制点,针对所有控制直线对应的已知控制点,以及所有控制点的2D-3D对应信息(设已知控制点对应个数为M),建立一种基于空间点位置的残差方程模型。该残差方程的几何意义是所有二维投影点向空间反投影与实际的空间位置点在理想情况下应该是重合的。Vi表示三维空间点投影到二维图像的一种正交投影算子,对于已知的2D-3D点对应,该投影算子是已知确定的。综合Pi、Vi、对摄像机c对应的旋转矩阵Rc、位置平移向量Tc,因此建立的残差方程模型为:
式中,ec2表示摄像机c基于空间点位置的残差,M表示由摄像机c拍摄的标定图像中所有已知控制点的总数,Pi表示摄像机c拍摄的标定图像中的第i个控制直线上的已知的控制点,Vi表示摄像机c拍摄的标定图像中的第i个控制直线上已知的控制点从三维投影到二维的投影算子,Tc表示该摄像机c的位置向量;
步骤304,将摄像机c的姿态向量与位置向量的最初值代入基于方向向量的残差方程模型与基于空间点位置的残差方程模型进行最小化优化计算,可采用迭代优化的计算框架,先由当前第k次迭代得到的姿态向量Rc k和位置向量Tc k来最小化残差ec1得到更新的姿态向量Rc k′,再由更新的姿态向量Rc k′计算更新的位置向量值Tc k′;由得到的Rc k′和Tc k′,再最小化残差ec2得到新的Rc k+1和Tc k+1。由此可以得到最终的姿态和位置向量,即得到摄像机的最终外部参数。为实现上述目的,本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述的方法的步骤。
以上所述仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是在本发明的发明构思下,利用本发明说明书及附图内容所作的等效结构变换,或直接/间接运用在其他相关的技术领域均包括在本发明的专利保护范围内。