CN111652946B - 显示标定方法及装置、设备、存储介质 - Google Patents
显示标定方法及装置、设备、存储介质 Download PDFInfo
- Publication number
- CN111652946B CN111652946B CN202010554384.7A CN202010554384A CN111652946B CN 111652946 B CN111652946 B CN 111652946B CN 202010554384 A CN202010554384 A CN 202010554384A CN 111652946 B CN111652946 B CN 111652946B
- Authority
- CN
- China
- Prior art keywords
- calibration
- camera
- display
- coordinate system
- display module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 238000006243 chemical reaction Methods 0.000 claims abstract description 59
- 238000013507 mapping Methods 0.000 claims abstract description 51
- 239000011159 matrix material Substances 0.000 claims description 30
- 230000009466 transformation Effects 0.000 claims description 12
- 230000004424 eye movement Effects 0.000 claims description 3
- 238000004590 computer program Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 description 17
- 230000003190 augmentative effect Effects 0.000 description 9
- 239000013598 vector Substances 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 238000009877 rendering Methods 0.000 description 4
- 238000013519 translation Methods 0.000 description 4
- 230000006978 adaptation Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
本公开是关于一种显示标定方法及装置、设备、存储介质,所述显示标定方法包括:确定标定映射关系,所述标定映射关系包括标定相机坐标系和显示模组坐标系的转换关系;利用所述标定相机获取标定板的第一标定图像组,所述第一标定图像组中包括多个第一标定图像;利用设备相机获取标定板的第二标定图像组,所述第二标定图像组包括多个和第一标定图像对应的第二标定图像;根据所述第一标定图像组、所述第二标定图像组和所述标定映射关系,确定所述设备相机坐标系和所述显示模组坐标系的转换关系。增加了显示模组标定的精度。
Description
技术领域
本公开涉及计算机技术领域,具体而言,涉及一种显示标定方法及装置、设备、存储介质。
背景技术
随着技术的发展和进步,增强现实设备逐渐开始应用,增强现实设备上通常设置有跟随相机和显示模组。跟随相机用于采集现实环境图像,显示模组用于显示虚拟图像,为了实现虚拟图像和现实图像的匹配通常需要对跟随相机和显示模组进行标定。
目前,增强现实设备常用的标定方法为单点主动对准法(SPAAM)。该方法要求用户佩戴增强现实设备,并且将显示模组上的十字光标与真实世界中的物体进行多次对齐,多次对齐需要通过头部转动完成。由于十字光标的对齐需要用户肉眼确定,因此标定精度较低。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种显示标定方法及装置、设备、存储介质,进而至少一定程度上提高显示标定的精度。
根据本公开的第一方面,提供一种显示标定方法,所述显示标定方法包括:
确定标定映射关系,所述标定映射关系包括标定相机坐标系和显示模组坐标系的转换关系;
利用所述标定相机获取标定板的第一标定图像组,所述第一标定图像组中包括多个第一标定图像;
利用设备相机获取标定板的第二标定图像组,所述第二标定图像组包括多个和第一标定图像对应的第二标定图像;
根据所述第一标定图像组、所述第二标定图像组和所述标定映射关系,确定所述设备相机坐标系和所述显示模组坐标系的转换关系。
根据本公开的第二方面,提供一种显示标定装置,所述显示标定装置包括:
第一确定模块,用于确定标定映射关系,所述标定映射关系包括标定相机坐标系和显示模组坐标系的转换关系;
第一获取模块,用于利用所述标定相机获取标定板的第一标定图像组,所述第一标定图像组中包括多个第一标定图像;
第二获取模块,用于利用设备相机获取标定板的第二标定图像组,所述设备相机和所述显示模组设于一电子设备,所述第二标定图像组包括多个和第一标定图像对应的第二标定图像;
第二确定模块,用于根据所述第一标定图像组、所述第二标定图像组和所述标定映射关系,确定所述设备相机坐标系和所述显示模组坐标系的转换关系。
根据本公开的第三方面,提供一种显示标定设备,用于待标定设备的标定,所述待标定设备包括显示模组和设备相机,所述显示标定设备包括:
固定夹具,所述固定夹具用于夹持待标定设备;
标定板,所述标定板设于所述固定夹具的一侧,并且所述标定板位于所述设备相机的拍摄范围内;
标定相机,所述标定相机设于所述显示模组的眼动范围内;
控制单元,所述控制单元分别连接所述标定相机和所述设备相机,所述控制单元被配置为能够执行上述的显示标定方法。
根据本公开的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现根据上述任意一项所述的方法。
本公开实施例提供的显示标定方法,通过第一标定图像组、第二标定图像组和标定映射关系,确定设备相机坐标系和显示模组坐标系的转换关系,实现了显示标定,并且在标定过程中通过标定相机获取第一标定图像组,避免了标定时通过人眼判断十字光标的对齐,增加了显示模组标定的精度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
通过参照附图来详细描述其示例实施例,本公开的上述和其它特征及优点将变得更加明显。
图1为本公开示例性实施例提供的一种显示标定设备的结构示意图;
图2为本公开示例性实施例提供的第一种显示标定方法的流程图;
图3为本公开示例性实施例提供的一种坐标系转换示意图;
图4为本公开示例性实施例提供的第二种显示标定方法的流程图;
图5为本公开示例性实施例提供的第三种显示标定方法的流程图;
图6为本公开示例性实施例提供的第四种显示标定方法的流程图;
图7为本公开示例性实施例提供的一种显示标定装置的框图;
图8为本公开示例性实施例提供的一种控制器的框图;
图9为本公开示例性实施例提供的一种计算机可读存储介质的示意图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而,示例实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施例;相反,提供这些实施例使得本公开将全面和完整,并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本公开的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而没有所述特定细节中的一个或更多,或者可以采用其它的方法、组元、材料、装置、步骤等。在其它情况下,不详细示出或描述公知结构、方法、装置、实现、材料或者操作以避免模糊本公开的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个软件硬化的模块中实现这些功能实体或功能实体的一部分,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
本公开示例性实施例首先提供一种显示标定设备,该显示标定设备用于对待标定设备进行标定。待标定设备可以是增强现实眼镜、增强现实头盔、混合现实眼镜或者混合现实头盔等电子设备。待标定设备可以包括显示模组和设备相机(跟随相机),也即是设备相机和显示模组设于同一电子设备,显示模组的显示出光侧和设备相机的镜头侧的方向相反。显示模组可以是半透半反射显示模组,比如光波导显示模组,一方面现实场景中的光线可以透过显示模组进入用户的眼睛,另一方面虚拟画面可以通过显示模组的反射进入人眼。在增强现实设备显示虚拟画面时,需要根据现实场景确定虚拟图像的位置,设备相机获取当前现实场景图像。当然在实际应用中,设备相机和显示模组也可以是分体式结构,本公开实施例并不以此为限。
如图1所示,该显示标定设备包括:固定夹具101、标定板102、标定相机103和控制单元(图中未示出),固定夹具101用于夹持待标定设备;标定板102设于固定夹具的一侧,并且标定板102位于设备相机112的拍摄范围内,标定板102位于显示模组111远离标定相机103的一侧;标定相机103设于显示模组的眼动范围内;控制单元分别连接标定相机103和设备相机112,控制单元用于控制显示标定。
进一步的,本公开实施例提供的显示标定设备还可以包括:相机调节装置104和标定板调节装置105,相机调节装置104和固定夹具101以及标定相机103连接,相机调节装置104用于调节标定相机103和固定夹具101的相对位置。标定板调节装置105和标定板102以及固定夹具101连接,标定板调节装置102用于调节标定板102和固定夹具101的相对位置关系。
如图2所示,本公开实施例提供一种显示标定方法,该显示标定方法可以包括如下步骤:
步骤S210,确定标定映射关系,标定映射关系包括标定相机坐标系和显示模组坐标系的映射关系;
步骤S220,利用标定相机获取标定板的第一标定图像组,第一标定图像组中包括多个第一标定图像;
步骤S230,利用设备相机获取标定板的第二标定图像组,第二标定图像组包括多个和第一标定图像对应的第二标定图像;
步骤S240,根据第一标定图像组、第二标定图像组和标定映射关系,确定设备相机坐标系和显示模组坐标系的转换关系。
本公开实施例提供的显示标定方法,通过第一标定图像组、第二标定图像组和标定映射关系,确定设备相机坐标系和显示模组坐标系的转换关系,实现了显示标定,并且在标定过程中通过标定相机获取第一标定图像组,避免了标定时通过人眼判断十字光标的对齐,增加了显示模组标定的精度,进而能够增加待标定设备的显示渲染精度。并且在在标定过程中不需要用户佩戴待标定设备节省人力。
在本公开实施例提供的显示标定方法中,标定原理如下,如图3所示,定义坐标系W表示世界坐标系,坐标系C表示设备相机坐标系,坐标系S表示显示模组坐标系,坐标系V表示人眼与显示模组的成像平面组成的一个针孔模型的虚拟摄像机的坐标系统(也即是标定相机坐标系),标定相机的成像平面为P。矩阵H为标定相机坐标系P和显示模组坐标系S的单应性矩阵,G为设备相机坐标系C和显示模组坐标系S坐标转换的转换矩阵,F为设备相机坐标系C和世界坐标系W的转换矩阵。
本公开实施例提供的显示标定方法的标定的目的是为了获得设备相机坐标系与显示模组坐标系之间的映射关系。假设空间中任意一点P,在世界坐标系W中的坐标为Pw,在设备相机坐标系C中的坐标为Pc,通过显示模组的显示区域看点P,点P在显示模组坐标系中的坐标为Ps,则得到如下两个等式:
Pc=[Rwc|Twc;0 0 0 1]Pw
Ps=K[Rcv|Tcv]Pc=G Pc;
其中,Pw和Pc是三维位置的齐次坐标(齐次坐标就是将一个原本是n维的向量用一个n+1维向量来表示,是用于投影几何中的坐标系统),因此Pw和Pc都是四维向量。Ps是二维位置的齐次坐标,因此是三维向量。每一个出现的R都是3x3的旋转矩阵,每个T都是3x1的平移向量,T是包含3个元素的列向量。K是表示包含人眼的虚拟摄像机的内参数矩阵,K是3x3矩阵。
令Ps=[u v 1]T,Pc=[xc yc zc 1]T,G=[g11 g12 g13 g14;g21 g22g23 g24;g31 g32 g33 g34],则得到如下表达式:
此时需要标定的是G,G表示设备相机坐标系与显示模组坐标系之间的映射关系,根据G实现从踪相机坐标系到显示模组坐标系之间的坐标转换,可以在显示模组的显示区域对现实中的真实物体做虚拟信息标注。G也可以分解成内参数矩阵和旋转矩阵、平移矩阵(平移矩阵是平移向量看成nx1时的矩阵),在此基础上,不仅可以进行文字标注,还可以根据虚拟摄像机和设备摄像机之间的空间位置关系,进行三维虚拟物体的叠加,从而可以实现在现实环境中叠加一些虚拟的画面(比如人物、建筑等物体的效果)。
在步骤S210中,可以确定标定映射关系,标定映射关系包括标定相机坐标系和显示模组坐标系的映射关系。
其中,如图4所示,在步骤S210中确定标定映射关系可以包括如下步骤:
步骤S410,控制显示模组显示标定图案;
步骤S420,利用标定相机获取第三标定图像,第三标定图像为标定图案的图像;
步骤S430,根据第三标定图像,确定标定特征点的坐标;
步骤S440,根据标定特征点的坐标和显示模组标定图案中和标定特征点对应的点的坐标,确定标定映射关系。
在步骤S410中,可以控制显示模组显示标定图案。
其中,标定图案可以是棋盘图案。通过待标定设备的处理器和显示驱动电路驱动显示模组显示棋盘标定图案。当然,在实际应用中标定图案也可以是其他图案(比如远点标定图案或者AprilTag标定图案),本公开实施例并不以此为限。显示模组在显示标定图案时,可以以不同的角度显示标定图案,也即是显示模组按照预设顺序显示不同的角度的标定图案。比如,显示模组可以显示三个不同角度的标定图案。
在步骤S420中,可以利用标定相机获取第三标定图像,第三标定图像为标定图案的图像。
其中,第三标定图像即为标定相机拍摄的显示模组显示的标定图案的图像。在显示模组显示标定图案时,通过标定相机拍摄显示模组显示的画面。当显示模组上显示的是棋盘图案时,第三标定图像为棋盘图案的照片。当显示模组显示多个角度的标定图案时,第三标定图像可以包括多张图片,通过多张图片实现对标定相机和显示模组的标定。
在步骤S430中,可以根据第三标定图像,确定标定特征点的坐标。
其中,该标定特征点的坐标为标定相机坐标系下的坐标。标定特征点可以是第三标定图像中的特征点。示例的,当标定图案为棋盘图案时,标定特征点可以是棋盘的交点。可以通过步骤S420中获取的多张标定图案的图像确定在标定相机坐标系下的标定特征点的坐标,比如可以通过张正友标定法(最小二乘法等)获取标定相机坐标系下的标定特征点的坐标。
在步骤S440中,根据标定特征点的坐标和显示模组标定图案中和标定特征点对应的点的坐标,确定标定映射关系。
其中,标定特征点的坐标可以在步骤S430中获取,显示模组中显示的标定图案中和标定特征点对应点的坐标在图像渲染时已确定。获取标定图案渲染时,棋盘角点的坐标。根据相同的点在不同坐标系下的坐标,获取显示模组坐标系和标定相机坐标系之间的转换关系。
示例的,在获取显示模组和标定相机的转换关系时,可以关闭标定板补光光源或者背光光源,在显示模组中渲染一幅虚拟标定图案。使用标定相机拍摄该显示模组中的虚拟标定图案,得到该虚拟标定图案的拍摄图像V,在拍摄图像V中检测该棋盘格角点,获得棋盘格角点坐标V_Points。同时渲染在显示模组中的虚拟标定图案的角点坐标是已知的D_Points。在上述V_Points和D_Points两组角点进行同名点筛选,拿到一一对应的点对,求解获得单映性矩阵H(显示模组坐标系和标定相机坐标系之间的转换关系)。当然,在实际应用中也可以通过两元多次项曲线进行最小二乘求解显示模组和标定相机的坐标转换关系,本公开实施例并不以此为限。
在步骤S220中,可以利用标定相机获取标定板的第一标定图像组,第一标定图像组中包括多个第一标定图像。
其中,显示模组可以透光,标定板所反射的光线可以透过显示模组进入标定相机。在标定过程中,可以利用标定相机分别获取标定板在多个不同预设角度的第一标定图像。
利用标定相机在标定板处于第一预设角度、第二预设角度和第三预设角度时,分别拍摄标定板的照片(也即是第一标定图像),第一预设角度、第二预设角度和第三预设角度均不同。
示例的,可以获取标定板在0度、-20度和+20度时的图像。其中,标定板处于0度是指标定模板和标定相机镜头平面平行。当然在实际用用中,标定板的的角度也可以是其他角度,第一标定图像组中的图像的数量也可以是其他数量,本公开实施例对此不做具体限定。
在步骤S230中,可以利用设备相机获取标定板的第二标定图像组,设备相机和显示模组设于一电子设备,第二标定图像组包括多个和第一标定图像对应的第二标定图像。
其中,设备相机和显示模组设于同一电子设备,比如,当电子设备为增强现实设备时,设备相机可以是增强现实设备的跟随相机。标定相机的镜头朝向远离用户的一侧,显示模组的出光侧朝向靠近用户的一侧。
在标定相机获取第一标定图像时,可以利用设备相机分别获取标定板的多个和第一标定图像对应的第二标定图像。设备相机获取的第二标定图像和标定相机获取的第一标定图像一一对应,对应的第一标定图像和第二标定图像为标定板在同一时刻的图像。
利用设备相机在标定板处于第一预设角度、第二预设角度和第三预设角度时,分别拍摄标定板的照片(也即是第二标定图像),第一预设角度、第二预设角度和第三预设角度均不同。
示例的,可以获取标定板在0度、-20度和+20度时的图像。其中,标定板处于0度是指标定模板和标定相机镜头平面平行。当然在实际用用中,标定板的的角度也可以是其他角度,第二标定图像组中的图像的数量也可以是其他数量,本公开实施例对此不做具体限定。
在实际应用中,可以开启标定板补光光源,并将标定板版转至0°(和标定相机平行),标定相机与设备相机同时拍摄,得到图像W_0与T_0;旋转(顺时针)标定板板至20°,标定相机与设备相机同时拍摄,得到图像W_20,T_20;旋转(逆时针)标定板至-20°,标定相机与设备相机同时拍摄,得到图像W_-20,T_-20。
在步骤S240中,可以根据第一标定图像组、第二标定图像组和标定映射关系,确定设备相机坐标系和显示模组坐标系的转换关系。
在本公开一可行的实施方式中,如图5所示,步骤S240可以通过如下步骤实现:
步骤S510,根据标定映射关系,将第一标定图像转换为显示标定图像;
步骤S520,根据显示标定图像和第二标定图像,确定设备相机坐标系和显示模组坐标系的转换矩阵。
在步骤S510中,根据标定映射关系,将第一标定图像转换为显示标定图像。
其中,第一标定图像为标定相机坐标系下的标定板图像,显示标定图像为显示模组坐标系下的标定板图像。根据标定映射关系,将第一标定图像转换为显示标定图像可以通过如下方式实现:
获取第一特征点的坐标,第一特征点为第一标定图像中的特征点;利用标定映射关系,将第一特征点的坐标转换为显示模组坐标系下的显示特征点坐标。
需要说明的是第一特征点可以是第一标定图像上的多个特征点,并不代表此处只获取一个特征点的坐标。比如,标定板为棋盘标定板时,第一特征点为第一标定图像上棋盘的角点。
在步骤S520,根据显示标定图像和第二标定图像,确定设备相机坐标系和显示模组坐标系的转换矩阵。
通过在步骤S510中,将第一标定图像转换为显示标定图像,此时显示模组和设备相机的标定可以转换为双目相机标定。通过双目相机标定获取显示模组和设备相机的转换关系。确定设备相机坐标系和显示模组坐标系的转换矩阵可以通过如下方式实现:
获取第二特征点的坐标,第二特征点的坐标为第二标定图像中和第一特征点对应的特征点;根据显示特征点坐标和第二特征点坐标,确定设备相机坐标系和显示模组坐标系的转换矩阵。
需要说明的是第二特征点可以是第二标定图像上的多个特征点,并不代表此处只获取一个特征点的坐标。比如,标定板为棋盘标定板时,第一特征点为第一标定图像上棋盘的角点,第二特征点为第二标定图像上棋盘的角点。
示例的,对图像W_0、T_0、W_20、T_20、W_-20和T_-20分别进行特征点检测得到特征点对W_0_Point,T_0_Points,W_20_Point,T_20_Points,W_-20_Point,T_-20_Points,使用步骤S210中获取的标定映射关系H,将设备相机图像检测到的特征点转换为显示模组坐标D_i_Point2=W_i_Point*H,然后使用D_i_Points与T_i_Points采用双目相机标定的方法,求解显示模组内参、显示模组与设备相机外参,完成整个标定流程。
在本公开一可行的实施方式中,如图6所示,步骤S240可以通过如下步骤实现:
步骤S610,根据第一标定图像和第二标定图像,确定相机转换关系,相机转换关系包括设备相机坐标系和标定相机的坐标系的转换关系;
步骤S620,根据标定映射关系和相机转换关系,确定设备相机坐标系和显示模组坐标系的转换矩阵。
在步骤S610中,可以根据第一标定图像和第二标定图像,确定相机转换关系,相机转换关系包括设备相机坐标系和标定相机的坐标系的转换关系。
其中,根据第一标定图像和第二标定图像,确定相机转换关系,可以通过如下方式实现:
获取第一特征点的坐标,第一特征点为第一标定图像中的特征点;获取第二特征点的坐标,第二特征点的坐标为第二标定图像中和第一特征点对应的特征点;根据第一特征点的坐标和第二特征点的坐标,确定设备相机坐标系和标定相机的坐标系的转换矩阵。
在上述实施例中获取了多张第一标定图像和多张第二标定图像。可以通过不同第一标定图像上的第一特征点的坐标与对应的第二标定图像上的第二特征点的坐标,获得相机转换关系。比如,通过双目相机标定算法。
需要说明的是第一特征点可以是第一标定图像上的多个特征点,并不代表此处只获取一个特征点的坐标。第二特征点可以是第二标定图像上的多个特征点,并不代表此处只获取一个特征点的坐标。比如,标定板为棋盘标定板时,第一特征点为第一标定图像上棋盘的角点,第二特征点为第二标定图像上棋盘的角点。
在步骤S620中,可以根据标定映射关系和相机转换关系,确定设备相机坐标系和显示模组坐标系的转换矩阵。
示例的,对图像W_0、T_0、W_20、T_20、W_-20和T_-20分别进行特征点检测得到特征点对W_0_Point,T_0_Points,W_20_Point,T_20_Points,W_-20_Point,T_-20_Points。根据W_0_Point,T_0_Points,W_20_Point,T_20_Points,采用双目相机标定的方法,求解标定相机模组内参,与标定与设备相机外参。使用步骤S210中获取的标定映射关系(H矩阵),将标定相机模组内参、标定相机与设备相机外参,转换为设备相机坐标系和显示模组坐标系的转换矩阵,完成整个标定流程。
本公开实施例提供的显示标定方法,通过第一标定图像组、第二标定图像组和标定映射关系,确定设备相机坐标系和显示模组坐标系的转换关系,实现了显示标定,并且在标定过程中通过标定相机获取第一标定图像组,避免了标定时通过人眼判断十字光标的对齐,增加了显示模组标定的精度,进而能够增加待标定设备的显示渲染精度。并且在在标定过程中不需要用户佩戴待标定设备节省人力。
需要说明的是,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
本公开示例性实施例还提供一种显示标定装置,如图7所示,显示标定装置包括:
第一确定模块710,用于确定标定映射关系,标定映射关系包括标定相机坐标系和显示模组坐标系的映射关系;
第一获取模块720,用于利用标定相机获取标定板的第一标定图像组,第一标定图像组中包括多个第一标定图像;
第二获取模块730,用于利用设备相机获取标定板的第二标定图像组,第二标定图像组包括多个和第一标定图像对应的第二标定图像;
第二确定模块740,用于根据第一标定图像组、第二标定图像组和标定映射关系,确定设备相机坐标系和显示模组坐标系的转换关系。
本公开实施例提供的显示标定装置,通过第一标定图像组、第二标定图像组和标定映射关系,确定设备相机坐标系和显示模组坐标系的转换关系,实现了显示标定,并且在标定过程中通过标定相机获取第一标定图像组,避免了标定时通过人眼判断十字光标的对齐,增加了显示模组标定的精度,进而能够增加待标定设备的显示渲染精度。并且在在标定过程中不需要用户佩戴待标定设备节省人力。
可选的,第一确定模块可以包括:
第一控制单元,用于控制显示模组显示标定图案;
第一获取单元,用于利用标定相机获取第三标定图像,第三标定图像为标定图案的图像;
第一确定单元,用于根据第三标定图像,确定标定特征点的坐标;
第二确定单元,根据标定特征点的坐标和显示模组标定图案中和标定特征点对应的点的坐标,确定标定映射关系。
可选的,第一获取模块可以包括:
第二获取单元,用于利用标定相机分别获取标定板在第一预设角度、第二预设角度和第三预设角度的第一标定图像,第一预设角度、第二预设角度和第三预设角度均不同。
可选的,第二获取模块可以包括:
第三获取单元,用于利用设备相机分别获取标定板在第一预设角度、第二预设角度和第三预设角度的第二标定图像。
可选的,第二确定模块可以包括:
第一转换单元,用于根据标定映射关系,将第一标定图像转换为显示标定图像;
第三确定单元,用于根据显示标定图像和第二标定图像,确定设备相机坐标系和显示模组坐标系的转换矩阵。
可选的,第一转换单元可以包括:
第一获取子单元,用于获取第一特征点的坐标,第一特征点为第一标定图像中的特征点;
第一转换子单元,用于利用标定映射关系,将第一特征点的坐标转换为显示模组坐标系下的显示特征点坐标。
可选的,第三确定单元可以包括:
第二获取子单元,用于获取第二特征点的坐标,第二特征点的坐标为第二标定图像中和第一特征点对应的特征点;
第一确定子单元,用于根据显示特征点坐标和第二特征点坐标,确定设备相机坐标系和显示模组坐标系的转换矩阵。
可选的,第二确定模块可以包括:
第二转换单元,用于根据第一标定图像和第二标定图像,确定相机转换关系,相机转换关系包括设备相机坐标系和标定相机的坐标系的转换关系;
第四确定单元,用于根据标定映射关系和相机转换关系,确定设备相机坐标系和显示模组坐标系的转换矩阵。
可选的,第二转换单元可以包括:
第三获取子单元,用于获取第一特征点的坐标,第一特征点为第一标定图像中的特征点;
第四获取子单元,用于获取第二特征点的坐标,第二特征点的坐标为第二标定图像中和第一特征点对应的特征点;
第五确定子单元,根据第一特征点的坐标和第二特征点的坐标,确定设备相机坐标系和标定相机的坐标系的转换矩阵。
上述中各显示标定装置模块的具体细节已经在对应的显示标定方法中进行了详细的描述,因此此处不再赘述。
应当注意,尽管在上文详细描述中提及了显示标定装置的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施例、完全的软件实施例(包括固件、微代码等),或硬件和软件方面结合的实施例,这里可以统称为“电路”、“模块”或“系统”。
此外,如图8所示,在本公开的示例性实施例中,显示标定设备还可以包括控制器800,控制器800分别连接标定相机103和设备相机112,控制器800被配置为能够执行上述的显示标定方法。
其中,显示标定设备上可以设置有数据接口,待标定设备通过该数据接口和显示标定设备连接。控制器可以包括至少一个处理单元810、至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830、显示单元840等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元810执行,使得所述处理单元810执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施例的步骤。
存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202,还可以进一步包括只读存储单元(ROM)8203。
存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204,这样的程序模块8205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
显示标定设备也可以与一个或多个外部设备870(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备800交互的设备通信,和/或与使得该显示标定设备能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且,显示标定设备还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器840通过总线830与显示标定设备的其它模块通信。应当明白,尽管图中未示出,可以结合显示标定设备使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施例的描述,本领域的技术人员易于理解,这里描述的示例实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施例的方法。
在本公开的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施例中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施例的步骤。
参考图9所示,描述了根据本发明的实施例的用于实现上述方法的程序产品900,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。
Claims (11)
1.一种显示标定方法,其特征在于,所述显示标定方法包括:
控制显示模组显示不同角度的标定图案,利用标定相机获取所述标定图案对应的第三标定图像,根据所述第三标定图像中标定特征点的坐标和显示模组标定图案中和所述标定特征点对应的点的坐标,确定标定映射关系,所述标定映射关系包括标定相机坐标系和显示模组坐标系的转换关系;
利用所述标定相机获取标定板的第一标定图像组,所述第一标定图像组中包括多个不同预设角度的第一标定图像;
利用设备相机获取标定板的第二标定图像组,所述第二标定图像组包括多个和第一标定图像对应的第二标定图像;
根据所述第一标定图像组和所述第二标定图像组,确定相机转换关系,所述相机转换关系包括设备相机坐标系和所述标定相机的坐标系的转换关系;根据所述标定映射关系和所述相机转换关系,确定所述设备相机坐标系和所述显示模组坐标系的转换矩阵。
2.如权利要求1所述的显示标定方法,其特征在于,所述利用所述标定相机获取标定板的第一标定图像组,包括:
利用所述标定相机分别获取所述标定板在多个不同预设角度的第一标定图像;
所述利用设备相机获取标定板的第二标定图像组,包括:
利用所述设备相机分别获取所述标定板的多个和所述第一标定图像对应的第二标定图像。
3.如权利要求2所述的显示标定方法,其特征在于,所述利用所述标定相机获取标定板的第一标定图像组,包括:
利用所述标定相机分别获取所述标定板在第一预设角度、第二预设角度和第三预设角度的第一标定图像,所述第一预设角度、所述第二预设角度和所述第三预设角度均不同;
所述利用设备相机获取标定板的第二标定图像组,包括:
利用所述设备相机分别获取所述标定板在第一预设角度、第二预设角度和第三预设角度的第二标定图像。
4.如权利要求1所述的显示标定方法,其特征在于,所述确定所述设备相机坐标系和所述显示模组坐标系的转换关系,包括:
根据所述标定映射关系,将所述第一标定图像转换为显示标定图像;
根据所述显示标定图像和所述第二标定图像,确定所述设备相机坐标系和所述显示模组坐标系的转换矩阵。
5.如权利要求4所述的显示标定方法,其特征在于,所述根据所述标定映射关系,将所述第一标定图像转换为显示标定图像,包括:
获取第一特征点的坐标,所述第一特征点为第一标定图像中的特征点;
利用所述标定映射关系,将所述第一特征点的坐标转换为显示模组坐标系下的显示特征点坐标。
6.如权利要求1所述的显示标定方法,其特征在于,所述根据所述第一标定图像和所述第二标定图像,确定相机转换关系,包括:
获取第一特征点的坐标,所述第一特征点为第一标定图像中的特征点;
获取第二特征点的坐标,所述第二特征点的坐标为第二标定图像中和第一特征点对应的特征点;
根据所述第一特征点的坐标和所述第二特征点的坐标,确定所述设备相机坐标系和所述标定相机的坐标系的转换矩阵。
7.一种显示标定装置,其特征在于,所述显示标定装置包括:
第一确定模块,用于控制显示模组显示不同角度的标定图案,利用标定相机获取所述标定图案对应的第三标定图像,根据所述第三标定图像中标定特征点的坐标和显示模组标定图案中和所述标定特征点对应的点的坐标,确定标定映射关系,所述标定映射关系包括标定相机坐标系和显示模组坐标系的转换关系;
第一获取模块,用于利用所述标定相机获取标定板的第一标定图像组,所述第一标定图像组中包括多个不同预设角度的第一标定图像;
第二获取模块,用于利用设备相机获取标定板的第二标定图像组,所述第二标定图像组包括多个和第一标定图像对应的第二标定图像;
第二确定模块,用于根据所述第一标定图像组和所述第二标定图像组,确定相机转换关系,所述相机转换关系包括设备相机坐标系和所述标定相机的坐标系的转换关系;根据所述标定映射关系和所述相机转换关系,确定所述设备相机坐标系和所述显示模组坐标系的转换矩阵。
8.一种显示标定设备,其特征在于,用于待标定设备的标定,所述待标定设备包括显示模组和设备相机,所述显示标定设备包括:
固定夹具,所述固定夹具用于夹持待标定设备;
标定板,所述标定板设于所述固定夹具的一侧,并且所述标定板位于所述设备相机的拍摄范围内;
标定相机,所述标定相机设于所述显示模组的眼动范围内;
控制器,所述控制器分别连接所述标定相机和所述设备相机,所述控制器被配置为能够执行权利要求1-6任一所述的显示标定方法。
9.如权利要求8所述的显示标定设备,其特征在于,所述显示标定设备还包括:
相机调节装置,所述相机调节装置和所述固定夹具以及所述标定相机连接,所述相机调节装置用于调节所述标定相机和所述固定夹具的相对位置。
10.如权利要求8所述的显示标定设备,其特征在于,所述显示标定设备还包括:
标定板调节装置,所述标定板调节装置和所述标定板以及所述固定夹具连接,所述标定板调节装置用于调节所述标定板和所述固定夹具的相对位置关系。
11.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现根据权利要求1至6中任一项所述方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010554384.7A CN111652946B (zh) | 2020-06-17 | 2020-06-17 | 显示标定方法及装置、设备、存储介质 |
PCT/CN2021/091942 WO2021254014A1 (zh) | 2020-06-17 | 2021-05-06 | 显示标定方法及装置、设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010554384.7A CN111652946B (zh) | 2020-06-17 | 2020-06-17 | 显示标定方法及装置、设备、存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111652946A CN111652946A (zh) | 2020-09-11 |
CN111652946B true CN111652946B (zh) | 2024-05-24 |
Family
ID=72348214
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010554384.7A Active CN111652946B (zh) | 2020-06-17 | 2020-06-17 | 显示标定方法及装置、设备、存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111652946B (zh) |
WO (1) | WO2021254014A1 (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111652946B (zh) * | 2020-06-17 | 2024-05-24 | Oppo广东移动通信有限公司 | 显示标定方法及装置、设备、存储介质 |
CN112945090B (zh) * | 2020-12-11 | 2023-04-21 | 深圳市菲森科技有限公司 | 一种三维测量系统的标定装置及标定方法 |
US11863730B2 (en) * | 2021-12-07 | 2024-01-02 | Snap Inc. | Optical waveguide combiner systems and methods |
CN114596792A (zh) * | 2022-02-24 | 2022-06-07 | 武汉精立电子技术有限公司 | 微显示器的贴合方法及设备 |
CN115457148A (zh) * | 2022-09-16 | 2022-12-09 | 博众精工科技股份有限公司 | 一种旋转中心的标定方法、装置、计算机设备和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109978956A (zh) * | 2019-03-22 | 2019-07-05 | 新华三技术有限公司 | 采集设备的标定方法、装置及标定系统 |
CN110782499A (zh) * | 2019-10-23 | 2020-02-11 | Oppo广东移动通信有限公司 | 一种增强现实设备的标定方法、标定装置及终端设备 |
CN110880188A (zh) * | 2018-09-06 | 2020-03-13 | 舜宇光学(浙江)研究院有限公司 | 用于近眼显示光学系统的标定方法、标定装置和标定系统 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014095557A (ja) * | 2012-11-07 | 2014-05-22 | Shimadzu Corp | モーショントラッカ装置 |
JP6507730B2 (ja) * | 2015-03-10 | 2019-05-08 | 富士通株式会社 | 座標変換パラメータ決定装置、座標変換パラメータ決定方法及び座標変換パラメータ決定用コンピュータプログラム |
CN109949228A (zh) * | 2019-03-14 | 2019-06-28 | 北京航空航天大学 | 一种光学透视的ar眼镜的在线标定装置及方法 |
WO2021237520A1 (zh) * | 2020-05-27 | 2021-12-02 | 华为技术有限公司 | 外参标定方法、装置、设备及存储介质 |
CN111652946B (zh) * | 2020-06-17 | 2024-05-24 | Oppo广东移动通信有限公司 | 显示标定方法及装置、设备、存储介质 |
-
2020
- 2020-06-17 CN CN202010554384.7A patent/CN111652946B/zh active Active
-
2021
- 2021-05-06 WO PCT/CN2021/091942 patent/WO2021254014A1/zh active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110880188A (zh) * | 2018-09-06 | 2020-03-13 | 舜宇光学(浙江)研究院有限公司 | 用于近眼显示光学系统的标定方法、标定装置和标定系统 |
CN109978956A (zh) * | 2019-03-22 | 2019-07-05 | 新华三技术有限公司 | 采集设备的标定方法、装置及标定系统 |
CN110782499A (zh) * | 2019-10-23 | 2020-02-11 | Oppo广东移动通信有限公司 | 一种增强现实设备的标定方法、标定装置及终端设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2021254014A1 (zh) | 2021-12-23 |
CN111652946A (zh) | 2020-09-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111652946B (zh) | 显示标定方法及装置、设备、存储介质 | |
CN110782499B (zh) | 一种增强现实设备的标定方法、标定装置及终端设备 | |
US11625841B2 (en) | Localization and tracking method and platform, head-mounted display system, and computer-readable storage medium | |
US10726580B2 (en) | Method and device for calibration | |
CN109032348B (zh) | 基于增强现实的智能制造方法与设备 | |
US20190130605A1 (en) | Method and device for verification | |
US20230037922A1 (en) | Image display method and apparatus, computer device, and storage medium | |
JP2021166075A (ja) | 画像の投影方法、装置、デバイス及び記憶媒体 | |
CN109615664B (zh) | 一种用于光学透视增强现实显示器的标定方法与设备 | |
CN109961522A (zh) | 图像投射方法、装置、设备和存储介质 | |
US11593960B2 (en) | Determining the relative position between a point cloud generating camera and another camera | |
WO2021112382A1 (en) | Apparatus and method for dynamic multi-camera rectification using depth camera | |
WO2023056840A1 (zh) | 三维物体的显示方法、装置、设备及介质 | |
US20190116354A1 (en) | Camera calibration | |
WO2024055837A1 (zh) | 一种图像处理方法、装置、设备及介质 | |
CN114926542A (zh) | 基于光学定位系统的混合现实固定参考系校准方法 | |
WO2019004594A1 (ko) | 곡면 디스플레이 장치 및 그 동작 방법 | |
CN114140771A (zh) | 一种图像深度数据集自动标注方法及系统 | |
JP2021180017A (ja) | 路側感知方法、路側感知装置、電子デバイス、記憶媒体、路側設備、及びプログラム | |
CN110675445B (zh) | 一种视觉定位方法、装置及存储介质 | |
WO2017200289A1 (ko) | 360도 이미지를 형성할 수 있는 렌즈 모듈, 360도 이미지 형성 방법, 이 방법을 실행하는 컴퓨터 프로그램, 및 이 컴퓨터 프로그램을 저장하는 저장 매체 | |
CN109636713A (zh) | 定位方法、装置、设备和介质 | |
US20230410414A1 (en) | Method and system for video transformation for video see-through augmented reality | |
AU2020404293B2 (en) | Image processing method and apparatus, electronic device and computer-readable storage medium | |
WO2023092638A1 (zh) | 头戴显示设备的标定方法、装置、设备、系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |