CN118524200A - 一种光场显示屏的数据源制作方法、装置、设备及介质 - Google Patents
一种光场显示屏的数据源制作方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN118524200A CN118524200A CN202410687620.0A CN202410687620A CN118524200A CN 118524200 A CN118524200 A CN 118524200A CN 202410687620 A CN202410687620 A CN 202410687620A CN 118524200 A CN118524200 A CN 118524200A
- Authority
- CN
- China
- Prior art keywords
- target
- camera
- cameras
- arc
- light field
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004519 manufacturing process Methods 0.000 title claims abstract description 21
- 230000003287 optical effect Effects 0.000 claims abstract description 89
- 238000000034 method Methods 0.000 claims abstract description 56
- 238000004590 computer program Methods 0.000 claims description 18
- 238000003860 storage Methods 0.000 claims description 9
- 230000007704 transition Effects 0.000 abstract description 10
- 238000010586 diagram Methods 0.000 description 13
- 239000011159 matrix material Substances 0.000 description 11
- 238000012545 processing Methods 0.000 description 7
- 230000000007 visual effect Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000004544 sputter deposition Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 206010047571 Visual impairment Diseases 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Landscapes
- Image Processing (AREA)
Abstract
本申请涉及光场显示技术领域,尤其涉及一种光场显示屏的数据源制作方法、装置、设备及介质,用于解决相关技术下获得的光场显示屏的数据源显示时出现画面失真、模糊、过渡不平滑问题,该方法为:基于多视角图像的相机位姿,拟合得到目标圆弧,在目标圆弧上部署多台虚拟相机,并分别确定每台虚拟相机的位姿;其中,多视角图像用于拍摄目标对象的不同视角图像,目标圆弧的角度为光场显示屏的视差总角度;这样,可以保证多台虚拟相机的光心在同一平面上,且聚集同一点,即目标圆弧所在圆的圆心,从而使得基于通过多视角图像及相机位姿进行3D重建得到的3D模型,分别获取每台虚拟相机的位姿下的目标图像,在显示时画面更加清晰、图像过渡更加平滑。
Description
技术领域
本申请涉及光场显示技术领域,尤其涉及一种光场显示屏的数据源制作方法、装置、设备及介质。
背景技术
光场显示屏是一种特殊的显示屏,它利用光栅原理实现立体视觉效果,从而使用户在不同视角看到不同的画面,给予用户一种在观看三维(3D)物体的感觉,常用于广告宣传、医疗、教学等应用场景。
目前在制作光场显示屏的立体成像数据源时,通常使用弧形相机阵列中的各真实相机,对显示对象拍摄m张不同视角的视差图像,再基于弧形相机阵列中各真实相机的相机位姿,采用3D高斯溅射算法构建隐式3D模型,再通过给定n台虚拟相机的相机位姿,便可以基于构建的隐式3D模型,得到用于光场显示屏的数据源,该数据源包括n张图像,其中,第一张图像与最后一张图像的视差为θ度,m<n。
相关技术中,通常通过标定q(q<n)台虚拟相机的相机位姿,再通过旋转插值方法在q台虚拟相机之间进行插值,从而得到n台虚拟相机的相机位姿。然而,基于该方法得到的数据源,在显示时往往会出现画面失真、模糊、过渡不平滑的视觉现象。
发明内容
本申请实施例提供一种光场显示屏的数据源制作方法、装置、设备及介质,用以制作更精准的光场显示屏的数据源,使得画面清晰且过渡平滑。
本申请实施例提供的具体技术方案如下:
第一方面,本申请实施例提供一种光场显示屏的数据源制作方法,应用于显示设备,所述显示设备包括光场显示屏,所述方法包括:
基于对目标对象拍摄获得的多视角图像,以及所述多视角图像的相机位姿,对所述目标对象进行三维3D重建,得到所述目标对象的3D模型,其中,所述3D模型用于获取所述目标对象不同视角下的图像;
基于所述多视角图像的相机位姿,拟合得到目标圆弧,在所述目标圆弧上部署多台虚拟相机,并分别确定每台虚拟相机的位姿;其中,所述目标圆弧的角度为所述光场显示屏的视差总角度;
基于所述3D模型,分别获取每台虚拟相机的位姿下的目标图像。
通过上述方法,可以基于拍摄得到的多视角图像的相机位姿,对多视角图像对应的真实相机的光心进行拟合,得到一个三维空间中的目标圆弧,将多台虚拟相机部署在该目标圆弧上,可以保证多台虚拟相机的光心在同一平面上,且聚集同一点,即目标圆弧所在圆的圆心,从而使得基于3D模型,以及目标圆弧上部署的多台虚拟相机的相机位姿,获得的各目标图像,即制作得到的数据源,在光场显示屏显示时画面更加清晰、视角切换时图像过渡更加平滑,进而提高用户的观看体验感。
在一种可能的实现方式中,所述基于所述多视角图像的相机位姿,拟合得到目标圆弧,包括:
基于所述多视角图像的相机位姿,对各真实相机的光心进行平面拟合,得到目标平面,其中,所述各真实相机中光心位于所述目标平面上的相机台数与相机总数之比大于阈值;
在所述目标平面上拟合得到所述目标圆弧所在圆的圆心位置,其中,所述圆心与所述各真实相机的焦点的距离统计值小于预设值;
根据所述视差总角度、所述多视角图像关联的弧形相机阵列中两台边缘真实相机的光心之间的距离,确定所述目标圆弧所在圆的圆半径;
基于所述圆心位置、所述圆半径,以及所述两台边缘真实相机的光心的位置,确定所述目标圆弧。
上述方法,基于拍摄得到的多视角图像的相机位姿,对多视角图像对应的真实相机的光心进行拟合,得到包含尽量多真实相机的光心的目标平面,然后,再在该目标平面上拟合得到目标圆弧,保证部署虚拟相机的光心在同一平面,且焦点聚集在同一点。
在一种可能的实现方式中,所述基于所述多视角图像的相机位姿,对各真实相机的光心进行平面拟合,得到目标平面,包括:
从每台真实相机的光心与焦点之间连线上选取参考点;
对所述各真实相机的光心及参考点进行平面拟合,得到所述目标平面,其中,所述各真实相机的光心及参考点中位于所述目标平面上的各点的数量与总点数之比大于所述阈值。
上述方法,通过选取参考点,由于参考点是从各真实相机的光心与焦点之间连线(即相机坐标系的z轴)上选取的,可以保证拟合得到的目标平面尽量使得真实相机的光心和z轴在目标平面上,从而确保后续基于目标平面拟合得到的目标圆弧更加准确、合理。
在一种可能的实现方式中,所述在所述目标平面上拟合得到所述目标圆弧所在圆的圆心位置,包括:
基于所述各真实相机中每两台真实相机的光心的位置,分别得到与所述目标平面关联的参考平面,其中,每个参考平面与所述目标平面的交线为相应两台真实相机的光心连接的中垂线;
基于所述各参考平面与所述目标平面的交线,对所述各真实相机的焦点进行拟合,得到所述圆心位置。
在一种可能的实现方式中,所述在所述目标圆弧上部署多台虚拟相机,包括:
基于所述光场显示屏显示所述目标对象所需的图像数量,确定所述多台虚拟相机的台数,其中,每台虚拟相机对应一张目标图像;
基于所述台数,将所述多台虚拟相机均匀分布在所述目标圆弧上,或,将所述多台虚拟相机分散分布在所述目标圆弧上。
在一种可能的实现方式中,所述方法还包括:
将获取到的各目标图像与所述目标对象进行关联,得到所述光场显示屏针对所述目标对象的数据源;
在接收到针对所述目标对象的显示指令后,将所述数据源中的各目标图像通过所述光场显示屏进行显示。
第二方面,本申请实施例提供一种光场显示屏的数据源制作装置,应用于显示设备,所述显示设备包括光场显示屏,所述装置包括:
数据重建模块,用于基于对目标对象拍摄获得的多视角图像,以及所述多视角图像的相机位姿,对所述目标对象进行三维3D重建,得到所述目标对象的3D模型,其中,所述3D模型用于获取所述目标对象不同视角下的图像;
确定模块,用于基于所述多视角图像的相机位姿,拟合得到目标圆弧,在所述目标圆弧上部署多台虚拟相机,并分别确定每台虚拟相机的位姿;其中,所述目标圆弧的角度为所述光场显示屏的视差总角度;
获取模块,用于基于所述3D模型,分别获取每台虚拟相机的位姿下的目标图像。
在一种可能的实现方式中,所述确定模块具体用于:
基于所述多视角图像的相机位姿,对所述各真实相机的光心进行平面拟合,得到目标平面,其中,所述各真实相机中光心位于所述目标平面上的相机台数与相机总数之比大于阈值;
在所述目标平面上拟合得到所述目标圆弧所在圆的圆心位置,其中,所述圆心与所述各真实相机的焦点的距离统计值小于预设值;
根据所述视差总角度、所述多视角图像关联的弧形相机阵列中两台边缘真实相机的光心之间的距离,确定所述目标圆弧所在圆的圆半径;
基于所述圆心位置、所述圆半径,以及所述两台边缘真实相机的光心的位置,确定所述目标圆弧。
在一种可能的实现方式中,所述确定模块具体用于:
从每台真实相机的光心与焦点之间连线上选取参考点;
对所述各真实相机的光心及参考点进行平面拟合,得到所述目标平面,其中,所述各真实相机的光心及参考点中位于所述目标平面上的各点的数量与总点数之比大于所述阈值。
在一种可能的实现方式中,所述确定模块具体用于:
基于所述各真实相机中每两台真实相机的光心的位置,分别得到与所述目标平面关联的参考平面,其中,每个参考平面与所述目标平面的交线为相应两台真实相机的光心连接的中垂线;
基于所述各参考平面与所述目标平面的交线,对所述各真实相机的焦点进行拟合,得到所述圆心位置。
在一种可能的实现方式中,所述确定模块具体用于:
基于所述光场显示屏显示所述目标对象所需的图像数量,确定所述多台虚拟相机的台数,其中,每台虚拟相机对应一张目标图像;
基于所述台数,将所述多台虚拟相机均匀分布在所述目标圆弧上,或,将所述多台虚拟相机分散分布在所述目标圆弧上。
在一种可能的实现方式中,所述获取模块还用于:
将获取到的各目标图像与所述目标对象进行关联,得到所述光场显示屏针对所述目标对象的数据源;
在接收到针对所述目标对象的显示指令后,将所述数据源中的各目标图像通过所述光场显示屏进行显示。
第三方面,本申请实施例提供一种显示设备,包括:
光场显示屏,用于显示图像;
存储器,用于存储计算机程序或指令;
处理器,用于执行所述存储器中的计算机程序或指令,使得如上述第一方面中任一项的方法被执行。
第四方面,本申请实施例提供一种计算机可读的非易失性存储介质,当所述存储介质中的指令由处理器执行时,使得所述处理器能够执行上述第一方面中任一项所述的方法。
第五方面,本申请实施例提供一种计算机程序产品,所述计算机程序产品包括:计算机程序代码,当所述计算机程序代码在计算机上运行时,使得计算机执行上述如第一方面中任一项所述的方法。
附图说明
图1为相关技术中一种虚拟相机通过插值方法得到的相机阵列俯视图;
图2为本申请实施例中的一种可选的应用场景示意图;
图3为本申请实施例中的一种光场显示屏的数据源制作方法的流程示意图;
图4为本申请实施例中的一种拟合得到目标圆弧的流程示意图;
图5为本申请实施例中的一种拟合得到目标平面的流程示意图;
图6A为本申请实施例中的一种拟合得到的圆的效果示意图;
图6B为本申请实施例中的一种拟合得到的圆上的圆弧示意图;
图7为本申请实施例中的一种确定目标圆弧所在圆的圆半径的示意图;
图8A为本申请实施例中的一种拟合得到的目标圆弧所在圆的效果示意图;
图8B为本申请实施例中的一种拟合得到的目标圆弧示意图;
图9为本申请实施例中的一种部署多个虚拟相机的效果示意图;
图10为本申请实施例中的一种光场显示屏的数据源制作装置的逻辑架构示意图;
图11为本申请实施例中的显示设备的实体架构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,并不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够在除了这里图示或描述的那些以外的顺序实施。
以下,对本申请实施例中的部分用语进行解释说明,以便于本领域技术人员理解。
(1)本申请实施例中术语“3D高斯溅射”(3D Gaussian Splatting)是一种用于场景重建和表示的神经辐射场方法,通过将场景中的点云数据转化为高斯函数的形式来进行建模。通过该3D高斯溅射,只需使用普通相机阵列拍摄较少的不同视角的图像,便可获得物体的隐式三维模型。为了便于描述本申请后续实施例中将隐式三维模型记为“3D模型”。
(2)本申请实施例中术语“相机坐标系”,相机坐标系下的原点为相机的光心,即相机的聚焦中心,x轴与y轴分别平行与图像坐标系的X轴和Y轴,相机的光轴为z轴,它与图像平面垂直。
光轴与图像平面的交点,即为图像坐标系的原点,图像坐标系为二维直角坐标系。像素坐标系和图像坐标系都在成像平面上,只是各自的原点和度量单位不一样。像素坐标系:就是看到相机拍出来保存下来的图像。一般情况下相机坐标系光轴都在相机中心,所以成像的图像坐标系原点也在中心,然后人为转换到左上角原点的像素坐标系上。
(3)本申请实施例中术语“世界坐标系”,也称为测量坐标系,是一个三维直角坐标系,以其为基准可以描述相机和待测物体的空间位置。例如,世界坐标系是客观三维世界的绝对坐标系,也称客观坐标系。因为数码相机安放在三维空间中,我们需要世界坐标系这个基准坐标系来描述数码相机的位置,并且用它来描述安放在此三维环境中的其它任何物体的位置,用三维坐标来表示。
下面对本申请实施例的设计思想进行简要介绍。
本申请涉及光场显示技术领域,主要涉及一种光场显示屏的数据源制作方法、装置、设备及介质。
光场显示屏可以利用光栅原理实现立体视觉效果,从而使得用户可以在不同视角看到不同的画面,给予用户3D观感,常用于广告宣传、医疗、教学等应用场景。目前在制作光场显示屏的立体成像数据源时,通常使用弧形相机阵列中的各真实相机,拍摄m张不同视角的待显示对象的视差图像,再基于弧形相机阵列中各真实相机的相机位姿,采用3D高斯溅射算法构建隐式3D模型,然后,通过给定n台虚拟相机的相机位姿,便可以基于构建的隐式3D模型,得到用于光场显示屏的数据源,该数据源包括n张图像,其中,第一张图像与最后一张图像的视差为θ度,θ表征光场显示屏的视差总角度。
相关技术中,通常通过标定q(q<n)台虚拟相机的相机位姿,再通过旋转插值方法在q台虚拟相机之间进行插值,插值得到(n-q)台虚拟相机的相机位姿,进而得到光场显示频的数据源。然而,由于该方法是在标定的q台虚拟相机之间插值(n-q)台,这就限制了虚拟相机的总台数,同时由于标定的不确定、不稳定性,难以保证标定的q台虚拟相机的光心位于同一平面和聚焦于同一点,这就导致插值得到的虚拟相机的光心也不在同一平面,如图1所示,图1示出了通过插值方法得到的相机阵列俯视图,其中,该俯视图中包括13台虚拟相机:7台标定的虚拟相机(如图1示出的实框),6台插值得到的虚拟相机(如图1示出的虚框)。参阅图1可知,标定的各虚拟相机的光心不位于同一平面(图1未示出)和/或聚焦于同一点,从而使得插值得到的虚拟相机也不聚集于同一平面和/或同一点,进而使得获得的数据源用于光场显示屏时,出现画面失真、模糊、过渡不平滑的视觉现象。
有鉴于此,为了解决相关技术下获得的光场显示屏的数据源显示时出现画面失真、模糊、过渡不平滑的视觉问题,本申请实施例提供一种光场显示屏的数据源制作方法,本申请实施例中,基于对目标对象拍摄获得的多视角图像,以及多视角图像的相机位姿,对目标对象进行3D重建,得到目标对象的3D模型,其中,3D模型用于获取目标对象不同视角下的图像;基于多视角图像的相机位姿,拟合得到目标圆弧,在目标圆弧上部署多台虚拟相机,并分别确定每台虚拟相机的位姿;其中,目标圆弧的角度为光场显示屏的视差总角度;基于3D模型,分别获取每台虚拟相机的位姿下的目标图像。
这样,通过拍摄得到的多视角图像的相机位姿,对多视角图像对应的真实相机的光心进行拟合,得到一个三维空间中的目标圆弧,然后,将多台虚拟相机部署在该目标圆弧上,可以保证多台虚拟相机的光心在同一平面上,且聚集同一点,即目标圆弧所在圆的圆心,从而使得基于3D模型以及多台虚拟相机的相机位姿,获得的各目标图像,即制作得到的数据源,在光场显示屏显示时画面更加清晰、视角切换时图像过渡更加平滑,进而提高用户的观看体验感。
本申请实施例的一种光场显示屏的数据源制作方法适用于显示设备。该显示设备包括光场显示屏,例如,可以为智能终端,智能移动终端,平板电脑,笔记本电脑,智能掌上设备,个人电脑(Personal Computer,PC),计算机,智能屏,显示设备、车载显示设备、各类可穿戴设备(如,虚拟现实(Virtual Reality,VR),增强现实(Augmented Reality,AR)),个人数字助理(Personal Digital Assistant,PDA)等。
需要说明的是,本申请中的光场显示屏是指利用光栅原理,使得用户在不同视角能够看到不同的画面的显示面板,可以理解的是,本申请不对显示屏的具体名称做限定,也可为用于光场显示屏的显示原理相同或相似的其他显示屏。
下面结合附图对本申请的方案进行详细说明。
图2为本申请实施例中的一种可选的应用场景示意图。如图2所示,该应用场景包括显示设备10和真实相机11,其中,真实相机11用于拍摄对象的不同视角图像,得到多视角图像;显示设备10利用前述光场显示屏的数据源制作方法,获取到每台虚拟相机的位姿下的目标图像,即得到光场显示屏显示目标对象的数据源,由于获得的各目标图像的虚拟相机部署在同一目标圆弧上,因此,各虚拟相机的光心位于同一平面,且各虚拟相机的焦点聚集在同一点,因此,在光场显示屏显示该数据源时,可以使得画面更加清晰、图像过渡平滑,从而提高用户的观看体验感。
当然,本申请实施例提供的方法并不限于图2所示的应用场景,还可以用于其它可能的应用场景,本申请实施例不作限定。
在介绍完本申请实施例的应用场景之后,下面结合附图对本申请优选的实施方式做出进一步详细说明,应当理解,此处所描述的优选实施例仅用于说明和解释本申请,并不用于限定本申请,并且在不冲突的情况下,本申请实施例及实施例中的特征可以相互组合。
本申请实施例提供了一种光场显示屏的数据源制作方法,图3为本申请一些实施例中的光场显示屏的数据制作方法的流程示意图,该方法应用于显示设备,该方法的具体流程包含但不限于如下:
步骤300:基于对目标对象拍摄获得的多视角图像,以及多视角图像的相机位姿,对目标对象进行3D重建,得到目标对象的3D模型,其中,3D模型用于获取目标对象不同视角下的图像。
本申请实施例中,首先,安排多台真实相机,对目标对象进行拍摄,得到上述多视角图像,其中,多台真实相机呈弧形排布,如图2所示。
一些实施例中,在执行步骤300,采用3D高斯溅射算法,对目标对象拍摄获得的多视角图像进行3D重建,得到目标对象的3D模型。作为一个具体实施例中,该算法的输入为静态场景的一组具有一定重叠度的图像,即前述多视角图像,通过运动恢复结构(Structurefrom Motion,SfM,又称为稀疏重建)技术产生一组被拍摄物体或场景的稀疏点云,然后,基于该点云的每个点建立一个3D高斯模型。其中,SfM在产生一组稀疏点云的同时,也估计出拍摄每张图像时真实相机的相机位姿,将多视角图像的相机位姿即各真实相机的相机位姿作为标签,可以训练得到一个误差在可接收范围内的3D高斯模型,即前述得到的3D模型。
步骤310:基于多视角图像的相机位姿,拟合得到目标圆弧;其中,目标圆弧的角度为光场显示屏的视差总角度。
参阅图4所示,在执行步骤310时,可以具体执行包含但不限于如下:
步骤3101:基于多视角图像的相机位姿,对各真实相机的光心进行平面拟合,得到目标平面,其中,各真实相机中光心位于目标平面上的相机台数与相机总数之比大于阈值。
一些实施例中,参阅图5所示,在执行步骤3101时,可以具体执行包含但不限于如下:
步骤500:从每台真实相机的光心与焦点之间连线上选取参考点。
本申请实施例中,在得到每台真实相机的相机位姿后,可以通过位姿定义获取每台真实相机的光心的位置,其中,光心记为Ci,(i=1,2,...,m),其中,假设真实相机的台数为m。针对每台相机来说,相机位姿由旋转矩阵和平移矩阵组成,其中,旋转矩阵记为R,平移矩阵记为T,那么,根据相机位姿的定义,可以通过如下公式来表示相机坐标系和世界坐标系之间的坐标映射关系:
其中,(Xc,Yc,Zc)为相机坐标系的坐标(位置),(Xw,Yw,Zw)为世界坐标系的坐标(位置)。后续实施例中的坐标是位置的一种具体表现形式,后续不再赘述。
相关技术下,相机的光心在相机坐标系下的坐标为(0,0,0),即(Xci,Yci,Zci)=(0,0,0),因此,给定相机位姿Ri和Ti,即可得到Ci在世界坐标系下的坐标,记为(Xwi,Ywi,Zwi)。
相关技术下,相机坐标系的z轴是相机光心和焦点所定义的直线,那么,选取相机坐标系下z轴上一点Fi,即为参考点。又假设选取的Fi在相机坐标系下的坐标为(0,0,1),那么,结合上式,可以通过下式来获得相机坐标系下z轴上一点Fi在世界坐标下的坐标,记为(Xfi,Yfi,Zfi):
步骤510:对各真实相机的光心及参考点进行平面拟合,得到前述目标平面,其中,各真实相机的光心及参考点中位于目标平面上的各点的数量与总点数之比大于阈值。
一些实施例中,在执行步骤510时,基于各真实相机的光心及参考点,拟合得到一个目标平面,使得这些点尽可能在该目标平面上。
步骤3102:在目标平面上拟合得到目标圆弧所在圆的圆心位置,其中,圆心与各真实相机的焦点的距离统计值小于预设值。
一些实施例中,在执行步骤3102时,可以具体执行如下操作:操作一,基于各真实相机中每两台真实相机的光心的位置,分别得到与目标平面关联的参考平面,其中,每个参考平面与目标平面的交线为相应两台真实相机的光心连接的中垂线;操作二,基于各参考平面与目标平面的交线,对各真实相机的焦点进行拟合,得到圆心位置。
步骤3103:根据视差总角度、多视角图像关联的弧形相机阵列中两台边缘真实相机的光心之间的距离,确定目标圆弧所在圆的圆半径。
一些实施例中,在执行步骤3103时,将多视角图像关联的弧形相机阵列中两台边缘真实相机的光心之间的距离,作为目标圆弧的两个端点之间的距离,将光场显示屏显示目标对象的第一张目标图像和最后一张目标图像之间的视差总角度,作为该目标圆弧的角度,那么,基于该距离和角度,可以得到目标圆弧所在圆的圆半径。
步骤3104:基于圆心位置、圆半径,以及两台边缘真实相机的光心的位置,确定目标圆弧。
一些实施例中,在得到目标圆弧的圆心位置、圆半径、以及两台边缘真实相机的光心的位置,既可以得到该目标圆弧。
下面采用具体实施例来对本申请中拟合得到目标平面和目标圆弧的过程进行详述。
仍假设有m台真实相机,针对每台真实相机,根据相机坐标系与世界坐标系之间的坐标映射关系,分别获取m台真实相机的光心在世界坐标系下的坐标,以及z轴上选取的一个参考点在世界坐标系下的坐标,这样,便得到2m个离散点。
假设这2m个离散点位于同一平面,即前述目标平面,而目标平面的方程可用如下公式来表示,其中,a、b、c为未知数:
ax+by+cz-1=0
将上述目标平面的方程用矩阵形式表示,则可以用如下公式来表示:MA=L1,其中,M由m台真实相机的光心及m台真实相机在相机坐标系的z轴上选取的一个参考点在世界坐标系下的坐标组成,即
根据数学知识可知,上式中有m个方程,3个未知数,m>3,则求解上式中的a、b、c,即为求解一个超定方程。本实施例中,根据最小二乘法,可以求出上述方程中A=(MTM)- 1MTL1,即目标平面的法向量,这样,便在三维空间中拟合得到目标平面。
接下来在拟合目标圆弧前,先对如何拟合这个目标平面上的圆的方法进行简要介绍,以使得尽可能多的真实相机的光心落在该圆上。
假设所有离散点都在圆上,那么任意两点连线的中垂线一定会经过圆心。又假设该圆的圆心O的坐标为(x0,y0,z0),任取两点P1(x1,y1,z1)和P2(x2,y2,z2),则P1和P2连线的向量为P1和P2连线的中点坐标则圆心O与P12连线的向量为 若想P1和P2在圆上,需满足即整理后可得:
Δx12·x0+Δy12·y0+Δz12·z0-l1=0
其中,Δx12=x2-x1,Δy12=y2-y1,Δz12=z2-z1,
所有点都在圆上,则有BC=L2,其中,
由于圆所在目标平面的法向量A已知,因此满足ax0+by0+cz0-1=0,即ATC=1。
本实施例中,可以通过构建最优化问题来求解上述圆心,即构建的约束条件为f(C)=‖BC-L2‖2+λ(ATC-1),其中,λ为拉格朗日乘子,‖BC-L2‖为要求解的原方程,以确保尽可能多的点在拟合得到的圆上,(ATC-1)为约束条件,以确保拟合得到的圆在目标平面上。
对上式进行求偏导,并令可得到如此,便可求得圆心O的坐标C与λ,即:
这样,便可以在三维空间中拟合得到一个圆,如图6A所示。
一些实施例中,通过计算所有真实相机的光心到圆心O的距离,可以求出该圆的半径:即所有点到该圆心O的距离平均值。
相关技术下,光场显示屏的视差总角度是固定的,即光场显示屏显示目标对象的第一张图像和最后一张图像之间的视差角度是固定的,换言之,光场显示屏关联的虚拟相机的弧形相机阵列的角度是固定的,而上述在平面上拟合圆的方法拟合得到的圆的半径并不固定,因此,直接采用拟合到的圆部署虚拟相机大概率不能满足光场显示屏所需的视差总角度。如图6B所示,假设以真实相机关联的弧形相机阵列的两台边缘真实相机的C1和Cm,对应部署的两个边缘虚拟相机的光心的位置,得到的两个边缘虚拟相机的光心之间的圆弧的角度为α,与后续图8B拟合得到的目标圆弧的角度θ相比,明显α<θ,因此,需进一步确定目标圆弧所在圆,以适配光场显示屏的视差总角度θ。
下面对如何确定目标圆弧所在圆进行说明。
假设真实相机关联的弧形相机阵列的两台边缘真实相机的C1和Cm对应拟合出的圆上两个虚拟相机P′1和P′n,P′1和P′n与圆心O连线的夹角θ应与光场显示屏所需的视差总角度相同,其中,虚拟相机的台数为n,则如图7所示,可以得出目标圆弧所在圆的圆半径其中,r是目标圆弧所在圆的圆半径,d是P′1和P′n之间的距离,θ是目标圆弧的角度,即光场显示屏的视差总角度。
本实施例中,可以将两台边缘真实相机的光心C1和Cm之间的距离记为d,则基于前述公式,便可以得到目标圆弧所在圆的圆半径
相关技术中,三维空间的圆可以用如下公式来表示:
其中,(x′0,y′0,z′0)为圆心坐标,A=(a,b,c)T为法向量。
由于已知法向量A(目标平面的法向量)和圆半径r,因此,只需拟合圆心坐标(x′0,y′0,z′0)即可得出所需目标弧形所在圆。
本实施例中,可令当F最小时的(x′0,y′0,z′0)即为拟合出的目标圆弧所在圆的圆心坐标,由于圆心坐标位于拟合出的目标平面上,因此需要满足:ax′0+by′0+cz′0=1。综上,便可以得出如下方程:
本实施例中,在求解上述方程时,将拟合出的目标平面旋转到xy平面,便可消除一个未知数z′0,变化后可以采用如下方程式来表示:
本实施例中,根据牛顿法迭代得到上述方程式的数值解,其中,将前述公式(*)的解,即前述(x0,y0,z0),旋转到xy平面,作为圆心坐标(x′0,y′0,z′0)的初始值。在得到上述方程式的数值解后,再将最终圆心坐标旋转回原始平面,即目标平面,便得到了目标圆弧所在圆的圆心坐标。
此时拟合出的目标圆弧与目标圆弧的角度符合光场显示屏关联的虚拟相机所需的角度。这样,已知目标平面的法向量、目标圆弧所在圆的圆心坐标和圆半径,即可确定目标圆弧所在圆的方程,拟合得到的目标圆弧所在圆如图8A所示。
通过真实相机关联的弧形相机阵列的两台边缘真实相机C1和Cm的光心的坐标,可以确定与之距离最近且在圆上的两个坐标,即为光场显示屏关联的弧形虚拟相机阵列中边缘虚拟相机P′1和P′n的坐标,得到的目标圆弧如图8B所示,目标圆弧的角度为光场显示屏的视差总角度,即θ,进而便于后续根据圆方程获取中间的(n-2)个坐标,使得所有虚拟相机距离相同,或,符合预设间隔条件,本申请不对具体间隔条件做限定。焦点的坐标即为圆心坐标。
步骤320:在目标圆弧上部署多台虚拟相机。
一些实施例中,在得到目标圆弧之后,执行步骤320,具体可以执行如下流程:
步骤1,基于光场显示屏显示目标对象所需的图像数量,确定多台虚拟相机的台数,其中,每台虚拟相机对应一张目标图像;
步骤2,基于台数,将多台虚拟相机均匀分布在目标圆弧上(如图9所示),或,将多台虚拟相机分散分布在目标圆弧上。
这样,在目标圆弧上部署多台虚拟相机,可以保证部署的多台虚拟相机位于同一平面,且聚集在同一点,从而保证后续基于确定的每台虚拟相机的位姿,获取到的各目标图像在显示时,画面更加清晰、过渡更加平滑。
步骤330:分别确定每台虚拟相机的位姿。
一些实施例中,在目标圆弧上部署多台虚拟相机后,可以得到每台虚拟相机的坐标,其中,该坐标为在世界坐标系下的坐标,然后,再基于相机坐标系和世界坐标系之间的坐标映射关系,可以得到每台虚拟相机在各自相机坐标系下的坐标;再结合每台虚拟相机的光心在相机坐标系和世界坐标系下的坐标,便可以确定每台虚拟相机的位姿。
作为一个具体实施例中,假设虚拟相机的台数为n,针对每台虚拟相机来说,其位姿仍用R′(旋转矩阵)和T′(平移矩阵)来表示,那么,根据相机位姿定义,可以构建如下方程组:
其中,t1、t2、t3分别为3个未知数;由于R′是正交阵,因此,R′也可以通过如下方法转化为用3个未知数来表示,这3个未知数分别记为相互独立的a、b、c;具体转化流程如下:
引入一个具有3个独立元素的反对称矩阵S,如下所示:
基于罗德里格矩阵,可将R′用如下公式来表示:
R′=(I+S)(I-S)-1
其中,R′是个正交矩阵,I是一个3阶单位阵。
R′可以展开为:
对于每台虚拟相机,均已知虚拟相机的光心在世界坐标系下的坐标(Xw,Yw,Zw)和在相机坐标系下的坐标(0,0,0),以及焦点(即目标圆弧所在圆的圆心)在世界坐标下的坐标(Xf,Yf,Zf)和在相机坐标系下的坐标(0,0,r);那么,将这两对坐标,以及用6个未知数表示的R′和T′,代入前述方程组(根据相机位姿构建的方程组),即可得到6个方程,利用这6个方程,可求解前述6个未知数。由此,即可得到n台虚拟相机的位姿。
步骤340:基于3D模型,分别获取每台虚拟相机的位姿下的目标图像。
本申请实施例中,在得到每台虚拟相机的位姿后,执行步骤340,将每台虚拟相机的位姿,分别输入3D重建好的3D模型,便获取到每台虚拟相机的位姿下的目标图像,即便得到了光场显示屏显示目标对象的数据源。
一些实施例中,在获取到每台虚拟相机的位姿下的目标图像后,将获取到的各目标图像与目标对象进行关联,得到光场显示屏针对目标对象的数据源。
在一些实施例中,在接收到针对该目标对象的显示指令后,将数据源中的各目标图像通过光场显示屏进行显示。
基于同一发明构思,参阅图10所示,本申请实施例中提供一种光场显示屏的数据源制作装置,应用于显示设备,所述显示设备包括光场显示屏,所述装置包括:
数据重建模块1010,用于基于对目标对象拍摄获得的多视角图像,以及所述多视角图像的相机位姿,对所述目标对象进行三维3D重建,得到所述目标对象的3D模型,其中,所述3D模型用于获取所述目标对象不同视角下的图像;
确定模块1020,用于基于所述多视角图像的相机位姿,拟合得到目标圆弧,在所述目标圆弧上部署多台虚拟相机,并分别确定每台虚拟相机的位姿;其中,所述目标圆弧的角度为所述光场显示屏的视差总角度;
获取模块1030,用于基于所述3D模型,分别获取每台虚拟相机的位姿下的目标图像。
在一种可能的实现方式中,所述确定模块1020具体用于:
基于所述多视角图像的相机位姿,对所述各真实相机的光心进行平面拟合,得到目标平面,其中,所述各真实相机中光心位于所述目标平面上的相机台数与相机总数之比大于阈值;
在所述目标平面上拟合得到所述目标圆弧所在圆的圆心位置,其中,所述圆心与所述各真实相机的焦点的距离统计值小于预设值;
根据所述视差总角度、所述多视角图像关联的弧形相机阵列中两台边缘真实相机的光心之间的距离,确定所述目标圆弧所在圆的圆半径;
基于所述圆心位置、所述圆半径,以及所述两台边缘真实相机的光心的位置,确定所述目标圆弧。
在一种可能的实现方式中,所述确定模块1020具体用于:
从每台真实相机的光心与焦点之间连线上选取参考点;
对所述各真实相机的光心及参考点进行平面拟合,得到所述目标平面,其中,所述各真实相机的光心及参考点中位于所述目标平面上的各点的数量与总点数之比大于所述阈值。
在一种可能的实现方式中,所述确定模块1020具体用于:
基于所述各真实相机中每两台真实相机的光心的位置,分别得到与所述目标平面关联的参考平面,其中,每个参考平面与所述目标平面的交线为相应两台真实相机的光心连接的中垂线;
基于所述各参考平面与所述目标平面的交线,对所述各真实相机的焦点进行拟合,得到所述圆心位置。
在一种可能的实现方式中,所述确定模块1020具体用于:
基于所述光场显示屏显示所述目标对象所需的图像数量,确定所述多台虚拟相机的台数,其中,每台虚拟相机对应一张目标图像;
基于所述台数,将所述多台虚拟相机均匀分布在所述目标圆弧上,或,将所述多台虚拟相机分散分布在所述目标圆弧上。
在一种可能的实现方式中,所述获取模块1030还用于:
将获取到的各目标图像与所述目标对象进行关联,得到所述光场显示屏针对所述目标对象的数据源;
在接收到针对所述目标对象的显示指令后,将所述数据源中的各目标图像通过所述光场显示屏进行显示。
基于同一发明构思,参阅图11所示,本申请实施例中提供一种显示设备,包括:
光场显示屏111,用于显示图像;
存储器112,用于存储计算机程序或指令;
处理器113,用于执行所述存储器112中的计算机程序或指令,使得如上述各个实施例中任意一种方法被执行。
其中,处理器113,可以包括一个或多个中央处理单元(Central ProcessingUnit,CPU),或者数字处理单元等等,用于执行存储器112中的计算机程序或指令,使得如上述各个实施例中任意一种方法被执行;
需要说明的是,本申请实施例中不限定上述存储器112、处理器113之间的具体连接介质。本申请实施例在图11中,存储器112、处理器113之间通过总线114连接,其它部件之间的连接方式,仅是进行示意性说明,并不引以为限。所述总线114可以分为地址总线、数据总线、控制总线等。为便于表示,图11中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
基于同一发明构思,本申请实施例提供一种计算机可读的非易失性存储介质,当所述存储介质中的指令由处理器执行时,使得所述处理器能够执行上述各个实施例中的任意一种方法。由于上述计算机可读存储介质解决问题的原理与一种光场显示屏的数据源制作方法相似,因此上述计算机可读存储介质的实施可以参见方法的实施,重复之处不再赘述。
基于同一发明构思,本申请实施例提供一种计算机程序产品,所述计算机程序产品包括:计算机程序代码,当所述计算机程序代码在计算机上运行时,使得计算机执行上述各个实施例中的任意一种方法。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图中的一个流程或多个流程和/或方框图中的一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图中的一个流程或多个流程和/或方框图中的一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图中的一个流程或多个流程和/或方框图中的一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。
Claims (10)
1.一种光场显示屏的数据源制作方法,其特征在于,应用于显示设备,所述显示设备包括光场显示屏,所述方法包括:
基于对目标对象拍摄获得的多视角图像,以及所述多视角图像的相机位姿,对所述目标对象进行三维3D重建,得到所述目标对象的3D模型,其中,所述3D模型用于获取所述目标对象不同视角下的图像;
基于所述多视角图像的相机位姿,拟合得到目标圆弧,在所述目标圆弧上部署多台虚拟相机,并分别确定每台虚拟相机的位姿;其中,所述目标圆弧的角度为所述光场显示屏的视差总角度;
基于所述3D模型,分别获取每台虚拟相机的位姿下的目标图像。
2.如权利要求1所述的方法,其特征在于,所述基于所述多视角图像的相机位姿,拟合得到目标圆弧,包括:
基于所述多视角图像的相机位姿,对各真实相机的光心进行平面拟合,得到目标平面,其中,所述各真实相机中光心位于所述目标平面上的相机台数与相机总数之比大于阈值;
在所述目标平面上拟合得到所述目标圆弧所在圆的圆心位置,其中,所述圆心与所述各真实相机的焦点的距离统计值小于预设值;
根据所述视差总角度、所述多视角图像关联的弧形相机阵列中两台边缘真实相机的光心之间的距离,确定所述目标圆弧所在圆的圆半径;
基于所述圆心位置、所述圆半径,以及所述两台边缘真实相机的光心的位置,确定所述目标圆弧。
3.如权利要求2所述的方法,其特征在于,所述基于所述多视角图像的相机位姿,对各真实相机的光心进行平面拟合,得到目标平面,包括:
从每台真实相机的光心与焦点之间连线上选取参考点;
对所述各真实相机的光心及参考点进行平面拟合,得到所述目标平面,其中,所述各真实相机的光心及参考点中位于所述目标平面上的各点的数量与总点数之比大于所述阈值。
4.如权利要求2所述的方法,其特征在于,所述在所述目标平面上拟合得到所述目标圆弧所在圆的圆心位置,包括:
基于所述各真实相机中每两台真实相机的光心的位置,分别得到与所述目标平面关联的参考平面,其中,每个参考平面与所述目标平面的交线为相应两台真实相机的光心连接的中垂线;
基于所述各参考平面与所述目标平面的交线,对所述各真实相机的焦点进行拟合,得到所述圆心位置。
5.如权利要求1所述的方法,其特征在于,所述在所述目标圆弧上部署多台虚拟相机,包括:
基于所述光场显示屏显示所述目标对象所需的图像数量,确定所述多台虚拟相机的台数,其中,每台虚拟相机对应一张目标图像;
基于所述台数,将所述多台虚拟相机均匀分布在所述目标圆弧上,或,将所述多台虚拟相机分散分布在所述目标圆弧上。
6.如权利要求1-5任一所述的方法,其特征在于,所述方法还包括:
将获取到的各目标图像与所述目标对象进行关联,得到所述光场显示屏针对所述目标对象的数据源;
在接收到针对所述目标对象的显示指令后,将所述数据源中的各目标图像通过所述光场显示屏进行显示。
7.一种光场显示屏的数据源制作装置,其特征在于,应用于显示设备,所述显示设备包括光场显示屏,所述装置包括:
数据重建模块,用于基于对目标对象拍摄获得的多视角图像,以及所述多视角图像的相机位姿,对所述目标对象进行三维3D重建,得到所述目标对象的3D模型,其中,所述3D模型用于获取所述目标对象不同视角下的图像;
确定模块,用于基于所述多视角图像的相机位姿,拟合得到目标圆弧,在所述目标圆弧上部署多台虚拟相机,并分别确定每台虚拟相机的位姿;其中,所述目标圆弧的角度为所述光场显示屏的视差总角度;
获取模块,用于基于所述3D模型,分别获取每台虚拟相机的位姿下的目标图像。
8.如权利要求7所述的装置,其特征在于,所述确定模块具体用于:
基于所述多视角图像的相机位姿,对所述各真实相机的光心进行平面拟合,得到目标平面,其中,所述各真实相机中光心位于所述目标平面上的相机台数与相机总数之比大于阈值;
在所述目标平面上拟合得到所述目标圆弧所在圆的圆心位置,其中,所述圆心与所述各真实相机的焦点的距离统计值小于预设值;
根据所述视差总角度、所述多视角图像关联的弧形相机阵列中两台边缘真实相机的光心之间的距离,确定所述目标圆弧所在圆的圆半径;
基于所述圆心位置、所述圆半径,以及所述两台边缘真实相机的光心的位置,确定所述目标圆弧。
9.一种显示设备,其特征在于,包括:
光场显示屏,用于显示图像;
存储器,用于存储计算机程序或指令;
处理器,用于执行所述存储器中的计算机程序或指令,使得如权利要求1-6任一所述的方法被执行。
10.一种计算机可读的非易失性存储介质,其特征在于,当所述存储介质中的指令由处理器执行时,使得所述处理器能够执行如权利要求1-6任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410687620.0A CN118524200A (zh) | 2024-05-30 | 2024-05-30 | 一种光场显示屏的数据源制作方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410687620.0A CN118524200A (zh) | 2024-05-30 | 2024-05-30 | 一种光场显示屏的数据源制作方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118524200A true CN118524200A (zh) | 2024-08-20 |
Family
ID=92283644
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410687620.0A Pending CN118524200A (zh) | 2024-05-30 | 2024-05-30 | 一种光场显示屏的数据源制作方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118524200A (zh) |
-
2024
- 2024-05-30 CN CN202410687620.0A patent/CN118524200A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6563609B2 (ja) | 中間ビューからの効率的なキャンバスビューの生成 | |
EP3057066B1 (en) | Generation of three-dimensional imagery from a two-dimensional image using a depth map | |
CN103839227B (zh) | 鱼眼图像校正方法和装置 | |
CN108475327A (zh) | 三维采集与渲染 | |
JP2019510311A (ja) | 平面の鏡を用いたステレオ画像システムを較正するための方法およびコンピュータプログラム製品 | |
CN110648274B (zh) | 鱼眼图像的生成方法及装置 | |
CN113643414B (zh) | 一种三维图像生成方法、装置、电子设备及存储介质 | |
CN112215880B (zh) | 一种图像深度估计方法及装置、电子设备、存储介质 | |
CN111161398B (zh) | 一种图像生成方法、装置、设备及存储介质 | |
JP5809607B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
CN105516579A (zh) | 一种图像处理方法、装置和电子设备 | |
CN109495733B (zh) | 三维影像重建方法、装置及其非暂态电脑可读取储存媒体 | |
JP6581359B2 (ja) | 情報処理装置及びその制御方法及びプログラム及び記憶媒体、並びに、ビデオカメラ | |
Pagani et al. | Dense 3D Point Cloud Generation from Multiple High-resolution Spherical Images. | |
US20180213215A1 (en) | Method and device for displaying a three-dimensional scene on display surface having an arbitrary non-planar shape | |
JP2012084105A (ja) | 立体像生成装置およびそのプログラム | |
CN108898550B (zh) | 基于空间三角面片拟合的图像拼接方法 | |
Mulligan et al. | Stereo-based environment scanning for immersive telepresence | |
CN117152244A (zh) | 屏幕间位置关系确定方法、装置、电子设备及存储介质 | |
JP4778569B2 (ja) | ステレオ画像処理装置、ステレオ画像処理方法及びステレオ画像処理プログラム | |
CN109816765A (zh) | 面向动态场景的纹理实时确定方法、装置、设备和介质 | |
CN118524200A (zh) | 一种光场显示屏的数据源制作方法、装置、设备及介质 | |
WO2018150086A2 (en) | Methods and apparatuses for determining positions of multi-directional image capture apparatuses | |
CN114332356A (zh) | 一种虚实画面结合方法和装置 | |
Lumentut et al. | 6-DOF motion blur synthesis and performance evaluation of light field deblurring |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |