CN115002345B - 一种图像校正方法、装置、电子设备及存储介质 - Google Patents

Abstract

本公开实施例公开了一种图像校正方法、装置、电子设备及存储介质。该方法可包括：针对多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像；基于与拍摄设备对应的校正参数，对目标图像进行校正；其中，将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。本公开实施例的技术方案，可以消除相邻视角变换带来的图像抖动现象。

Description

一种图像校正方法、装置、电子设备及存储介质

技术领域

本公开实施例涉及图像处理技术领域，尤其涉及一种图像校正方法、装置、电子设备及存储介质。

背景技术

自由视角视频是时下热门的一种视频形式，其是通过向用户提供交互选择观看角度的功能，赋予了固定二维(two dimensional，2D)视频“移步换景”的观看体验，从而给用户带来了强烈的立体冲击。

自由视角视频的制作过程需要多角度多相机拍摄的环境，考虑到视角转动时图像(如视频帧)的顺滑连续性，这对相机部署(如相机的摆放位置和俯仰朝向等)提出了较高的要求。目前，主要是通过人工部署相机来满足上述要求。

但是，人工部署耗时耗力且精度较低(即无法真正满足上述要求)，这使得相邻视角变换时，图像会出现明显抖动现象，如上下视差、左右视差以及图像缩放等，从而影响了用户的视频观看体验。

发明内容

本公开实施例提供了一种图像校正方法、装置、电子设备及存储介质，以消除相邻视角变换带来的图像抖动现象。

第一方面，本公开实施例提供了一种图像校正方法，可以包括：

针对多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像；

基于与拍摄设备对应的校正参数，对目标图像进行校正；

其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。

第二方面，本公开实施例还提供了一种图像校正装置，可以包括：

目标图像获取模块，用于针对多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像；

目标图像校正模块，用于基于与拍摄设备相对应的校正参数，对目标图像进行校正；

其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。

第三方面，本公开实施例还提供了一种电子设备，可以包括：

一个或多个处理器；

存储器，用于存储一个或多个程序，

当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现本公开任意实施例所提供的图像校正方法。

第四方面，本公开实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时可实现本公开任意实施例所提供的图像校正方法。

本公开实施例的技术方案，针对多台拍摄设备中的每台拍摄设备，通过该拍摄设备对应的校正参数，对该拍摄设备拍摄的目标图像进行校正。上述技术方案，针对多台拍摄设备对应的虚拟平面上的与多台拍摄设备的物理光心对应的虚拟中心，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，这说明校正后的各目标图像对应于同一旋转轴，即它们上的空间点均已由各自的拍摄设备坐标系转换到定轴坐标系下，因此校正后的各目标图像不会再因为视角变换而存在抖动现象，从而消除了相邻视角变换带来的图像抖动现象，并且因为可在正常拍摄过程中同步校正图像，降低了对于多台拍摄设备的搭建精度的要求。

附图说明

结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。

图1是本公开实施例中的一种图像校正方法的流程图；

图2是本公开实施例中的另一种图像校正方法的流程图；

图3是本公开实施例中的另一种图像校正方法中可选示例的示意图；

图4是本公开实施例中的再一种图像校正方法的流程图；

图5是本公开实施例中的再一种图像校正方法中可选示例的示意图；

图6是本公开实施例中的一种图像校正装置的结构框图；

图7是本公开实施例中的一种电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

图1是本公开实施例中所提供的一种图像校正方法的流程图。本实施例可适用于图像校正的情况，尤其适用于对多台拍摄设备拍摄的目标图像进行校正的情况。该方法可以由本公开实施例提供的图像校正装置来执行，该装置可以由软件和/或硬件的方式实现，该装置可以集成在电子设备上，该电子设备可以是各种终端设备或服务器。

参见图1，本公开实施例的方法具体包括如下步骤：

S110、针对于多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像。

其中，多台拍摄设备可以是多台具有拍摄功能的电子设备，如相机、摄像机或摄像头等。在实际应用中，可选的，这些拍摄设备可被用于自由视角拍摄或是光场拍摄等，在此未做具体限定；再可选的，这些拍摄设备可以呈圆环形环绕部署在被拍摄对象的周围，以便对该被拍摄对象进行视频或是图像的同步采集，从而给用户带来平滑的空间视频或空间图像的观看体验。目标图像可以是多台拍摄设备中的任一台拍摄设备拍摄(即采集)的图像或是视频中的某个视频帧(即视频画面)，该视频可以是录播视频或直播视频等，在此未做具体限定。

S120、基于与拍摄设备对应的校正参数，对目标图像进行校正，其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到该目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。

其中，每个拍摄设备均对应有各自的校正参数，其是用于对相应拍摄设备拍摄的目标图像进行校正，具体来说可以是几何校正或是仿射变换校正的参数。在实际应用中，可选的，校正参数可以通过多种方式进行表示，如校正矩阵、校正向量、校正张量或校正图像等。针对于每个拍摄设备，基于与该拍摄设备对应的校正参数，对该拍摄设备拍摄的目标图像进行校正。在此基础上，可选的，当目标图像是视频帧时，校正后的视频帧可供离线存储或是实时播放。

需要说明的是，人工在搭建多台拍摄设备时，通常期望将它们搭建到同一平面(即同一高度)上，当然，事实上很难将它们真正搭建到同一平面上，而与多台拍摄设备对应的虚拟平面可以理解为该同一平面，即满足搭建期望的各拍摄设备所在的平面。虚拟中心可以是该虚拟平面上的与多台拍摄设备的物理光心对应的虚拟出来的中心，即当各台搭建设备的搭建位置满足期望时，它们的光轴所汇聚的中心，此时各物理光心位于一个标准圆上。在此基础上，针对于包含虚拟中心的旋转轴上的至少两个轴点，在将该至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，即该校正后的各目标图像对应于同一旋转轴，换言之，其上的空间点均已由各自的拍摄设备坐标系转换到定轴坐标系下(即已将不同轴点的目标图像校正为相同轴点的目标图像)，因此校正后的各目标图像不会再因为视角变换而存在抖动现象。需要强调的是，校正前后的目标图像上不一定有投影轴，上文只是通过在目标图像上投影出投影轴来表示校正效果。

本公开实施例的技术方案，针对多台拍摄设备中的每台拍摄设备，通过该拍摄设备对应的校正参数，对该拍摄设备拍摄的目标图像进行校正。上述技术方案，针对多台拍摄设备对应的虚拟平面上的与多台拍摄设备的物理光心对应的虚拟中心，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，这说明校正后的各目标图像对应于同一旋转轴，即它们上的空间点均已由各自的拍摄设备坐标系转换到定轴坐标系下，因此校正后的各目标图像不会再因为视角变换而存在抖动现象，从而消除了相邻视角变换带来的图像抖动现象，并且因为可在正常拍摄过程中同步校正图像，降低了对于多台拍摄设备的搭建精度的要求。

图2是本公开实施例中提供的另一种图像校正方法的流程图。本实施例以上述实施例中各个可选方案为基础进行优化。本实施例中，可选的，校正参数通过如下步骤预先得到：确定虚拟平面，并得到虚拟平面上的虚拟中心；确定包含虚拟中心的旋转轴，将旋转轴上的至少两个轴点投影到每台拍摄设备分别拍摄的样本图像上，得到样本轴；将各样本图像中由多台拍摄设备中的主拍摄设备拍摄的样本图像作为主样本图像、以及辅拍摄设备拍摄的样本图像作为辅样本图像；针对于每个辅样本图像，对辅样本图像进行校正，以使校正后的辅样本图像上的样本轴与主样本图像上的样本轴相一致；根据校正结果得到各拍摄设备的校正参数。与上述各实施例相同或相应的术语的解释在此不再赘述。

相应的，如图2所示，本实施例的方法具体可以包括如下步骤：

S210、针对多台拍摄设备，确定与多台拍摄设备对应的虚拟平面，并得到虚拟平面上的与多台拍摄设备的物理光心对应的虚拟中心。

其中，多台拍摄设备对应于同一虚拟平面，多个物理光心对应于同一虚拟中心，虚拟平面和虚拟中心已在上文中进行解释，在此不再赘述。

S220、确定包含虚拟中心的旋转轴，并将旋转轴上的至少两个轴点投影到每台拍摄设备分别拍摄的样本图像上，得到样本轴。

其中，旋转轴上的一个轴点是虚拟中心，该旋转轴可以是与虚拟平面相互垂直的轴，也可以是与虚拟平面呈一定倾斜角度的轴，在此未做具体限定。该旋转轴上的至少两个轴点可以是手动选择出来的，也可以是自动确定出来的；该至少两个轴点可以包括虚拟中心，当然，也可以未包括虚拟中心，在此未做具体限定。将这些轴点投影到各拍摄设备分别拍摄的样本图像上，即每个样本图像上都包含投影出来的这些轴点，任一样本图像上的这些轴点构成了各自的投影轴，该投影轴可以通过投影直线、投影射线或投影线段等进行表示。这些样本图像可以是这些拍摄设备同步拍摄的图像，如拍摄的视频中的同一视频帧；当然，也可以不是同步拍摄的图像，在此未做具体限定。

需要说明的是，样本图像和目标图像的本质均是图像，这里只是为了区分是校正参数确定过程中拍摄的图像还是校正参数应用过程中拍摄的图像而进行的不同命名，并非是对它们的本质含义的具体限定。

S230、将各样本图像中由多台拍摄设备中的主拍摄设备拍摄的样本图像作为主样本图像、以及辅拍摄设备拍摄的样本图像作为辅样本图像。

其中，从多台拍摄设备中确定主拍摄设备，并且将主拍摄设备拍摄的样本图像作为主样本图像；在此基础上，将主拍摄设备之外的其余的拍摄设备分别作为辅拍摄设备，并且将辅拍摄设备拍摄的样本图像作为辅样本图像。在实际应用中，可选的，主拍摄设备的数量可以是一个，以便结合后续步骤，令其余的辅拍摄设备拍摄的辅样本图像均以主样本图像为基准进行校正，从而保证了各样本图像上的样本轴的一致性。

S240、针对于每个辅样本图像，对辅样本图像进行校正，以使校正后的辅样本图像上的样本轴与主样本图像上的样本轴相一致。

S250、根据校正结果得到各拍摄设备的校正参数。

其中，针对于每个辅样本图像，当对其进行校正，以使其上的样本轴与主样本图像上的样本轴相一致时，可以根据具体的校正过程得到校正参数，即与拍摄出该样本图像的辅拍摄设备对应的校正参数，从而得到各个辅拍摄设备的校正参数。另外，如果在与主样本图像进行比较之前，未对主样本图像进行过任何校正，则与主拍摄设备对应的校正参数可以理解为不会让主样本图像出现畸变的参数；否则，可以根据主样本图像的具体校正过程得到相应的校正参数。

S260、针对每台拍摄设备，获取拍摄设备拍摄的目标图像，并基于与拍摄设备对应的校正参数，对目标图像进行校正。

本公开实施例的技术方案，通过将包含有虚拟中心的旋转轴上的至少两个轴点投影到每台拍摄设备分别拍摄的样本图像上，得到样本轴；进而，针对各样本图像中由多台拍摄设备中的每台辅拍摄设备拍摄的辅样本图像，对其进行校正，以使校正后的辅样本图像上的样本轴与各样本图像中由多台拍摄设备中的主拍摄设备拍摄的主样本图像相一致，从而根据校正结果得到各拍摄设备的校正参数，即通过几何投影运算的方式，得到每个拍摄设备的校正参数。

一种可选的技术方案，在上述实施例的基础上，上述图像校正方法，还可包括：分别确定各拍摄设备的位姿参数；在此基础上，确定虚拟平面，并得到虚拟平面上的虚拟中心，可以包括：根据各物理光心的光心位置拟合得到平面方程，并基于平面方程得到虚拟平面；针对于每个拍摄设备，根据平面方程和拍摄设备的位姿参数，将与拍摄设备对应的光心位置投影到虚拟平面上，得到投影位置，以在得到各投影位置后，通过对各投影位置进行拟合得到虚拟位置，并基于虚拟位置得到虚拟中心。

其中，分别标定出每个拍摄设备的位姿参数。在此基础上，根据各个物理光心的光心位置拟合得到平面方程，进而基于平面方程得到虚拟平面。在实际应用中，可选的，可以通过采用最小二乘算法来计算平面系数，从而得到平面方程；再可选的，上述光心位置可以通过光心坐标进行表示。针对于每个拍摄设备，可以根据平面方程和该拍摄设备的位姿参数，将相应的光心位置投影到虚拟平面上，得到投影位置，以在得到各个光心位置的投影位置之后，通过对这些投影位置进行拟合来得到虚拟位置，如基于最小二乘算法进行拟合，然后基于虚拟位置得到虚拟中心。由此可知，位姿参数是校正参数的确定过程中的重要参考因素之一，其保证了校正参数的确定精度。

在实际应用中，可选的，位姿参数除了在光心位置投影方面有所应用外，还可在轴点投影方面有所应用。具体的，将旋转轴上的至少两个轴点投影到各拍摄设备分别拍摄的样本图像上，可以包括：针对于每个拍摄设备，基于拍摄设备的位姿参数，将旋转轴上的至少两个轴点投影到拍摄设备拍摄的样本图像。

在此基础上，可选的，分别确定各拍摄设备的位姿参数，可以包括：分别获取各拍摄设备拍摄的目标图像序列，并确定各目标图像序列之间的特征匹配关系；根据特征匹配关系分别得到各拍摄设备的位姿参数。即通过获取采集到的多视角视频，并通过计算出该多视角视频之间的特征匹配关系，从而得到各拍摄设备的位姿参数(即标定结果)，实际应用中，可选的，该位姿参数可以通过外参参数(如旋转矩阵和平移矩阵等)进行表示。需要说明的，上述标定过程是一种自标定过程，在标定过程中无需标定板，通过录制的视频即可完成标定，由此大大降低了标定时间，从而提高了标定效率。

另一可选的技术方案，在上述实施例的基础上，确定包含虚拟中心的旋转轴，可包括：获取虚拟平面的平面方程，并对平面方程进行归一化处理，得到虚拟平面的平面法向量；将包含虚拟中心的平面法向量所在的轴，作为旋转轴。其中，对平面方程进行归一化处理后，可以得到虚拟平面的平面法向量。由于虚拟平面上包含有至少一条平面法向量，将该至少一条平面法向量中穿过虚拟中心的平面法向量作为旋转轴，由此得到了与虚拟平面相互垂直的旋转轴。在实际应用中，可选的，虚拟平面通常与地面平行，而且被拍摄对象通常是站在地面上(即与地面相互垂直)的，那么当旋转轴垂直于虚拟平面(即地面)时，对应于旋转轴的校正后的样本图像更加符合用户的视觉感受，提升了用户体验。

另一可选的技术方案，在上述实施例的基础上，样本轴通过样本线段进行表示，对辅样本图像进行校正，以使校正后的辅样本图像上的样本轴与主样本图像上的样本轴相一致，可以包括：对辅样本图像执行校正操作，以使校正后的辅样本图像上的样本线段与主样本图像上的样本线段相平行并且长度相同，而且校正后的辅样本图像上的样本线段在校正后的辅样本图像上的相对位置、与主样本图像上的样本线段在主样本图像上的相对位置相同，其中，校正操作包括旋转操作、缩放操作和平移操作。其中，旋转操作可以让校正后的辅样本图像上的样本线段与主样本图像上的样本线段相平行，缩放操作可以让校正后的辅样本图像上的样本线段与主样本图像上的样本线段长度相同，且平移操作可以让校正后的辅样本图像上的样本线段在校正后的辅样本图像上的相对位置、与主样本图像上的样本线段在主样本图像上的相对位置相同，从而保证了校正后的辅样本图像上的样本线段与主样本图像上的样本线段的一致性，即二者上的轴点的一致性。需要说明的是，旋转操作、缩放操作和平移操作的先后执行顺序没有具体要求，因为它们都可以被归结到校正参数中。示例性的，以校正参数通过校正矩阵进行表示为例，可以将旋转操作对应的旋转矩阵、缩放操作对应的缩放矩阵、及平移操作对应的平移矩阵进行合并，从而得到校正矩阵。

另一可选的技术方案，在上述实施例的基础上，在对辅样本图像进行校正之前，上述图像校正方法，还可包括：对主样本图像进行旋转，以使旋转后的主样本图像上的样本轴与样本图像的目标轴相平行；根据旋转结果更新主样本图像，并且得到主拍摄设备的校正参数；根据校正结果得到各拍摄设备的校正参数，可包括：根据校正结果得到辅拍摄设备的校正参数。其中，目标轴可以是样本图像的水平轴或是竖直轴，在实际应用中，可选的，其可以是竖直轴，这样一来，在对被拍摄对象进行水平拍摄的情况下，被拍摄对象在旋转后的主样本图像上是垂直站立在地面上的，与用户的视觉感受更为匹配。进而，根据旋转结果更新主样本图像，以便将旋转后的主样本图像作为基准来校正其余的辅样本图像，并根据校正结果得到辅拍摄设备的矫正参数；与此同时，还可以根据旋转结果得到主拍摄设备的校正参数。

为了从整体上更好地理解上述各技术方案，下面通过结合具体示例来进行示例性说明。示例性的，目标图像和样本图像均是拍摄设备拍摄到的视频中的视频帧，校正矩阵确定过程可以理解为预处理过程，且校正矩阵应用过程可以发生在视频播放过程中。在此基础上，参见图3，输入同步视频帧(即同步的各样本图像)，并基于这些视频帧进行多相机自标定，得到各相机的位姿参数。根据各相机的物理光心的光心坐标拟合得到虚拟平面，并结合位姿参数，将各物理光心投影到该虚拟平面上，对各投影结果进行拟合，得到虚拟中心。计算虚拟平面的平面法向量，并将穿过虚拟中心的平面法向量作为旋转轴，确定该旋转轴上的两个轴点。将这两个轴点投影到各视频帧上，得到每个视频帧上的投影线段。基于各视频帧上的投影线段进行相应相机的仿射变换矩阵(即校正矩阵)的计算，输出校正矩阵，并将校正矩阵和相应相机的相机编号一一对应。至此，预处理过程完成。在视频播放过程中，针对于获取的某视频帧(即目标图像)，输入该视频帧对应的相机编号，并查询与该相机编号对应的校正矩阵，然后基于该校正矩阵校正该视频帧，最后输出校正后的视频帧，从而可以基于该校正后的视频帧实现离线存储或是实时播放。

在介绍本公开下述实施例前，先对其的应用场景进行示例性说明：以自由视角拍摄为例，为了能够拍摄到自由视角的多视角视频，采集端往往需要搭建多台拍摄设备来同步采集视频，以便在播放端构建平滑的空间视频观看体验。但是，多台拍摄设备的搭建方案存在如下问题：1)硬件成本较高；2)拍摄设备需要做到白平衡和亮度等设备参数的一致性、以及时间同步的一致性，越多数量的拍摄设备，越难以统一一致性；3)需要标定每个拍摄设备的位姿参数，越多数量的拍摄设备会导致标定复杂度的显著上升，从而导致标定时间过长。需要说明的是，下述实施例是以自由视角拍摄的应用场景为例进行阐述，但这并非意味着下述实施例只能应用在该应用场景中，其余应用场景(如光场拍摄的应用场景)下的图像校正过程依然适用。

图4是本公开实施例中提供的再一种图像校正方法的流程图。本实施例以上述实施例中各个可选方案为基础进行优化。在本实施例中，可选的，在对目标图像进行校正之后，上述图像校正方法，还可以包括：针对于多台拍摄设备中在摆放位置上相邻的第一拍摄设备和第二拍摄设备，将第一拍摄设备拍摄的目标图像作为第一物理图像并且将第二拍摄设备拍摄的目标图像作为第二物理图像；基于第一物理图像和第二物理图像，生成虚拟图像，其中，虚拟图像所在的虚拟视角位于第一物理图像所在的物理视角以及第二物理图像所在的物理视角之间。其中，与上述各实施例相同或是相应的术语的解释在此不再赘述。

相应的，如图4所示，本实施例的方法具体可以包括如下步骤：

S310、针对于多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像。

S320、基于与拍摄设备对应的校正参数，对目标图像进行校正，其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到该目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。

S330、针对多台拍摄设备中在摆放位置上相邻的第一拍摄设备和第二拍摄设备，将第一拍摄设备拍摄的目标图像作为第一物理图像并且将第二拍摄设备拍摄的目标图像作为第二物理图像。

其中，第一拍摄设备和第二拍摄设备可以是在摆放位置上相邻的两台拍摄设备，由于它们是实际存在的电子设备，因此可以将它们拍摄的目标图像称为物理图像。这里将第一拍摄设备拍摄的目标图像作为第一物理图像并且将第二拍摄设备拍摄的目标图像作为第二物理图像。

S340、基于第一物理图像以及第二物理图像，生成虚拟图像，其中，虚拟图像所在的虚拟视角位于第一物理图像所在的物理视角以及第二物理图像所在的物理视角之间。

其中，基于第一物理图像和第二物理图像生成虚拟图像，该虚拟图像所在的虚拟视角位于第一物理图像所在的物理视角和第二物理图像所在的物理视角之间，即通过自动合成相邻物理视角之间的虚拟视角下的虚拟图像来达到视频插帧的效果。这样一来，为了达到同样的空间视频观看体验，或是说同等或者更佳的自由视角视频效果，可以通过生成虚拟图像(即虚拟视角下的图像)的方式来降低拍摄设备的数量，从而解决了因拍摄设备过多而带来的一些列问题，是一种轻量化的自由视角采集方案。

本公开实施例的技术方案，针对于多台拍摄设备中的在摆放位置上相邻的第一拍摄设备拍摄的第一物理图像和第二拍摄设备拍摄的第二物理图像，根据这二者生成相应物理视角之间的虚拟视角下的虚拟图像，其通过生成虚拟图像的方式来降低拍摄设备的数量，从而解决了因拍摄设备过多而带来的硬件成本较高、难以统一一致性、以及标定时间过长的问题。

一种可选的技术方案，在上述实施例的基础上，基于第一物理图像和第二物理图像，生成虚拟图像，可包括：确定第一拍摄设备的第一景深和第二拍摄设备的第二景深，且对第一物理图像和第二物理图像进行匹配，根据第一景深、第二景深和匹配结果进行点云重建，并基于点云重建结果得到虚拟图像。其中，第一物理图像以及第二物理图像的匹配过程可以基于立体匹配(stereo matching)等算法来实现，然后基于第一景深、第二景深和匹配结果进行点云重建，从而生成虚拟视角下的点云，得到虚拟图像，由此达到了视频插帧的效果。

另一可选的技术方案，在上述实施例的基础上，基于第一物理图像和第二物理图像，生成虚拟图像，可以包括：将第一物理图像以及第二物理图像作为视频文件来计算光流，并根据光流生成虚拟图像。其中，自由视角是同一时间点下在空间上的多视角拍摄的结果，换个思路，其也可以理解为基于同一拍摄设备在多个空间位置(即多个视角)上的拍摄结果，这就是时域。因此，可以将第一物理图像和第二物理图像作为视频文件来计算光流，然后根据光流生成虚拟图像，由此达到了视频插帧的效果。

另一可选的技术方案，在上述实施例的基础上，基于第一物理图像和第二物理图像，生成虚拟图像，可以包括：将第一物理图像和第二物理图像输入到预先训练完成的视频插帧深度学习模型中，根据视频插帧深度学习模型的输出结果，生成虚拟图像。其中，视频插帧深度学习模型可以理解为端到端的用于实现视频插帧的深度学习模型，在将第一物理图像和第二物理图像输入到其中之后，可以得到两个物理视角中间的虚拟视角下的虚拟图像，具体来说可以在两个物理图像的基础上生成两个虚拟图像，由此达到了视频插帧的效果。

为了从整体上更好地理解上述各技术方案，下面通过结合具体示例来进行示例性说明。示例性的，通过在舞台、场馆或演播厅等现场内的多个物理视角下环绕部署相机，将现场(即采集端)采集到的多路视频通过网络回传至视频云端进行处理，然后将处理后的自由视角视频实时传送给播放端进行播放，以让用户的观看体验更加身临其境。在视频云端上，可以对采集的多路视频进行如图5所示的处理过程：将采集的多路视频输入到标定系统中，得到各相机的位姿参数；进而，再将该多路视频和相应的位姿参数输入到定轴系统中，以将各路视频的空间点均转换到定轴坐标系下，得到相应的定轴视角(即定轴下的物理视角)；然后，基于相邻的定轴视角生成虚拟视角，从而可以基于定轴视角和虚拟视角得到自由视角视频，这是一种轻量化的自由视角采集方案。

图6为本公开实施例中提供的图像校正装置的结构框图，该装置用于执行上述任意实施例所提供的图像校正方法。该装置与上述各个实施例的图像校正方法属于同一个构思，在图像校正装置的实施例中未详尽描述的细节内容，可参考上述图像校正方法的实施例。参见图6，该装置具体可以包括：目标图像获取模块410和目标图像校正模块420。其中，

目标图像获取模块410，用于针对多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像；

目标图像校正模块420，用于基于与拍摄设备对应的校正参数，对该目标图像进行校正；

其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。

可选的，校正参数通过如下模块预先确定：

虚拟中心得到模块，用于确定虚拟平面，并得到虚拟平面上的虚拟中心；

样本轴得到模块，用于确定包含虚拟中心的旋转轴，并将旋转轴上的至少两个轴点投影到每台拍摄设备分别拍摄的样本图像上，得到样本轴；

辅样本图像得到模块，用于将各样本图像中由多台拍摄设备中的主拍摄设备拍摄的样本图像作为主样本图像、及辅拍摄设备拍摄的样本图像作为辅样本图像；

辅样本图像校正模块，用于针对每个辅样本图像，对辅样本图像进行校正，以使校正后的辅样本图像上的样本轴与主样本图像上的样本轴相一致；

校正参数第一得到模块，用于根据校正结果得到各拍摄设备的校正参数。

在此基础上，一可选的，上述图像校正装置，还可以包括：

位姿参数获取模块，用于分别确定各拍摄设备的位姿参数；

虚拟中心得到模块，可以包括：

虚拟平面得到单元，用于根据各物理光心的光心位置拟合得到平面方程，并基于平面方程得到虚拟平面；

虚拟中心得到单元，用于针对于每个拍摄设备，根据平面方程和拍摄设备的位姿参数，将与拍摄设备对应的光心位置投影到虚拟平面上，得到投影位置，以在得到各投影位置之后，通过对各投影位置进行拟合得到虚拟位置，并基于虚拟位置得到虚拟中心；

和/或，

样本轴得到模块，可以包括：

轴点投影单元，用于针对每个拍摄设备，基于拍摄设备的位姿参数，将旋转轴上的至少两个轴点投影到拍摄设备拍摄的样本图像。

在此基础上，可选的，位姿参数获取模块，可以包括：

特征匹配关系确定单元，用于分别获取各拍摄设备拍摄的样本图像序列，确定各样本图像序列之间的特征匹配关系；

位姿参数得到单元，用于根据特征匹配关系得到各拍摄设备的位姿参数。

另一可选的，样本轴得到模块，可以包括：

平面法向量得到单元，用于获取虚拟平面的平面方程，并对平面方程进行归一化处理，得到虚拟平面的平面法向量；

旋转轴得到单元，用于将包含虚拟中心的平面法向量所在的轴作为旋转轴。

另一可选的，样本轴是通过样本线段进行表示的，辅样本图像校正模块，可以包括：

辅样本图像校正单元，用于对辅样本图像执行校正操作，以使校正后的辅样本图像上的样本线段与主样本图像上的样本线段相平行并且长度相同，而且校正后的辅样本图像上的样本线段在校正后的辅样本图像上的相对位置、与主样本图像上的样本线段在主样本图像上的相对位置相同，其中，校正操作包括旋转操作、缩放操作和平移操作。

另一可选的，上述图像校正装置，还可以包括：

主样本图像旋转模块，用于在对辅样本图像进行校正之前，对主样本图像进行旋转，以使旋转后的主样本图像上的样本轴与样本图像的目标轴相平行；

校正参数第二得到模块，用于根据旋转结果更新主样本图像，并且得到主拍摄设备的校正参数；

校正参数第一得到模块，具体可以用于：

根据校正结果得到辅拍摄设备的校正参数。

可选的，上述图像校正装置，还可以包括：

第二物理图像得到模块，用于在对目标图像进行校正之后，针对于多台拍摄设备中在摆放位置上相邻的第一拍摄设备和第二拍摄设备，将第一拍摄设备拍摄的目标图像作为第一物理图像、并且将第二拍摄设备拍摄的目标图像作为第二物理图像；

虚拟图像生成模块，用于基于第一物理图像以及第二物理图像，生成虚拟图像，其中，虚拟图像所在的虚拟视角位于第一物理图像所在的物理视角以及第二物理图像所在的物理视角之间。

在此基础上，可选的，虚拟图像生成模块，可以包括：

虚拟图像第一生成单元，用于确定第一拍摄设备的第一景深和第二拍摄设备的第二景深，并且对第一物理图像和第二物理图像进行匹配，根据第一景深、第二景深以及匹配结果进行点云重建，并基于点云重建结果得到虚拟图像。

再可选的，虚拟图像生成模块，可以包括：

虚拟图像第二生成单元，用于将第一物理图像以及第二物理图像作为视频文件来计算光流，并根据光流生成虚拟图像。

再可选的，虚拟图像生成模块，可以包括：

虚拟图像第三生成单元，用于将第一物理图像和第二物理图像输入到预先训练完成的视频插帧深度学习模型中，根据视频插帧深度学习模型的输出结果，生成虚拟图像。

本公开实施例所提供的图像校正装置，通过目标图像获取模块和目标图像校正模块相互配合，针对多台拍摄设备中的每台拍摄设备，通过与该拍摄设备对应的校正参数，对该拍摄设备拍摄的目标图像进行校正。上述装置，针对与多台拍摄设备对应的虚拟平面上的与多台拍摄设备的物理光心对应的虚拟中心，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴一致，这说明校正后的各目标图像对应于同一旋转轴，即它们上的空间点均已由各自的拍摄设备坐标系转换到定轴坐标系下，因此校正后的各目标图像不会再因为视角变换而存在抖动现象，从而消除了相邻视角变换带来的图像抖动现象，并且因为可在正常拍摄过程中进行同步的图像校正，降低了对于多台拍摄设备的搭建精度的要求。

本公开实施例提供的图像校正装置可执行本公开任意实施例所提供的图像校正方法，具备执行方法相应的功能模块和有益效果。

值得注意的是，上述图像校正装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本公开的保护范围。

下面参考图7，其示出了适于用来实现本公开实施例的电子设备(例如图7中的终端设备或服务器)500的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图7示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图7所示，电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

通常，以下装置可以连接至I/O接口505：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507；包括例如磁带、硬盘等的存储装置508；以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图7中示出了具有各种装置的电子设备500，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置509从网络上被下载和安装，或者从存储装置508被安装，或者从ROM 502被安装。在该计算机程序被处理装置501执行时，执行本公开实施例的方法中限定的上述功能。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：

针对多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像；

基于与拍摄设备对应的校正参数，对目标图像进行校正；

其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，目标图像获取模块还可被描述为“针对多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像的模块”。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

根据本公开的一个或多个实施例，【示例一】提供了一种图像校正方法，该方法可以包括：

针对多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像；

基于与拍摄设备对应的校正参数，对目标图像进行校正；

其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。

根据本公开的一个或是多个实施例，【示例二】提供了示例一的方法，校正参数可以通过如下步骤预先确定：

确定虚拟平面，并得到虚拟平面上的虚拟中心；

确定包含虚拟中心的旋转轴，并将旋转轴上的至少两个轴点投影到每台拍摄设备分别拍摄的样本图像上，得到样本轴；

将各样本图像中的由多台拍摄设备中的主拍摄设备拍摄的样本图像作为主样本图像、以及辅拍摄设备拍摄的样本图像作为辅样本图像；

针对每个辅样本图像，对辅样本图像进行校正，以使校正后的辅样本图像上的样本轴与主样本图像上的样本轴相一致；

根据校正结果得到各拍摄设备的校正参数。

根据本公开的一个或是多个实施例，【示例三】提供了示例二的方法，上述图像校正方法，还可以包括：

分别确定各拍摄设备的位姿参数；

确定虚拟平面，并得到虚拟平面上的虚拟中心，可以包括：

根据各物理光心的光心位置拟合得到平面方程，并基于平面方程得到虚拟平面；

针对每个拍摄设备，根据平面方程和拍摄设备的位姿参数，将与拍摄设备对应的光心位置投影到虚拟平面上，得到投影位置，以在得到各投影位置后，通过对各投影位置进行拟合得到虚拟位置，并基于虚拟位置得到虚拟中心。

根据本公开的一个或是多个实施例，【示例四】提供了示例三的方法，分别确定各拍摄设备的位姿参数，可以包括：

分别获取各拍摄设备拍摄的样本图像序列，并确定各样本图像序列之间的特征匹配关系；

根据特征匹配关系分别得到各拍摄设备的位姿参数。

根据本公开的一个或是多个实施例，【示例五】提供了示例二的方法，确定包含虚拟中心的旋转轴，可以包括：

获取虚拟平面的平面方程，并对平面方程进行归一化处理，得到虚拟平面的平面法向量；

将包含虚拟中心的平面法向量所在的轴，作为旋转轴。

根据本公开的一个或多个实施例，【示例六】提供了示例二的方法，样本轴是通过样本线段进行表示的，则对辅样本图像进行校正，以使校正后的辅样本图像上的样本轴与主样本图像上的样本轴相一致，可以包括：

对辅样本图像执行校正操作，以使校正后的辅样本图像上的样本线段与主样本图像上的样本线段相平行且长度相同，而且校正后的辅样本图像上的样本线段在校正后的辅样本图像上的相对位置与主样本图像上的样本线段在主样本图像上的相对位置相同，其中，校正操作包括旋转操作、缩放操作和平移操作。

根据本公开的一个或是多个实施例，【示例七】提供了示例二的方法，在对辅样本图像进行校正之前，上述图像校正方法，还可以包括：

对主样本图像进行旋转，以使旋转后的主样本图像上的样本轴与样本图像的目标轴相平行；

根据旋转结果更新主样本图像，并且得到主拍摄设备的校正参数；

根据校正结果得到各拍摄设备的校正参数，可以包括：

根据校正结果得到辅拍摄设备的校正参数。

根据本公开的一个或是多个实施例，【示例八】提供了示例一的方法，在对目标图像进行校正之后，上述图像校正方法，还可以包括：

针对多台拍摄设备中在摆放位置上相邻的第一拍摄设备和第二拍摄设备，将第一拍摄设备拍摄的目标图像作为第一物理图像并且将第二拍摄设备拍摄的目标图像作为第二物理图像；

基于第一物理图像和第二物理图像，生成虚拟图像，其中，虚拟图像所在的虚拟视角位于第一物理图像所在的物理视角及第二物理图像所在的物理视角之间。

根据本公开的一个或是多个实施例，【示例九】提供了示例八的方法，基于第一物理图像和第二物理图像，生成虚拟图像，可以包括：

确定第一拍摄设备的第一景深和第二拍摄设备的第二景深，且对第一物理图像和第二物理图像进行匹配，并根据第一景深、第二景深以及匹配结果进行点云重建，并基于点云重建结果得到虚拟图像。

根据本公开的一个或是多个实施例，【示例十】提供了示例八的方法，基于第一物理图像和第二物理图像，生成虚拟图像，可以包括：

将第一物理图像以及第二物理图像作为视频文件来计算光流，并根据光流生成虚拟图像。

根据本公开的一个或多个实施例，【示例十一】提供了示例八的方法，基于第一物理图像和第二物理图像，生成虚拟图像，可以包括：

将第一物理图像和第二物理图像输入到预先训练完成的视频插帧深度学习模型中，根据视频插帧深度学习模型的输出结果，生成虚拟图像。

根据本公开的一个或多个实施例，【示例十二】提供了一种图像校正装置，该装置可以包括：

目标图像获取模块，用于针对多台拍摄设备中的每台拍摄设备，获取拍摄设备拍摄的目标图像；

目标图像校正模块，用于基于与拍摄设备相对应的校正参数，对目标图像进行校正；

其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到目标图像上后得到投影轴的情况下，校正后的各目标图像上的投影轴相一致，虚拟中心位于多台拍摄设备对应的虚拟平面上，并且与多台拍摄设备的物理光心对应。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (14)

1.一种图像校正方法，其特征在于，包括：

针对多台拍摄设备中的每台所述拍摄设备，获取所述拍摄设备拍摄的目标图像；

基于与所述拍摄设备对应的校正参数，对所述目标图像进行校正；

其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到所述目标图像上后得到投影轴的情况下，校正后的各所述目标图像上的所述投影轴相一致，所述虚拟中心位于所述多台拍摄设备对应的虚拟平面上，并且与所述多台拍摄设备的物理光心对应。

2.根据权利要求1所述的方法，其特征在于，所述校正参数通过如下步骤预先确定：

确定所述虚拟平面，并得到所述虚拟平面上的所述虚拟中心；

确定包含所述虚拟中心的旋转轴，并将所述旋转轴上的所述至少两个轴点投影到每台所述拍摄设备分别拍摄的样本图像上，得到样本轴；

将各所述样本图像中由所述多台拍摄设备中的主拍摄设备拍摄的所述样本图像作为主样本图像、以及辅拍摄设备拍摄的所述样本图像作为辅样本图像；

针对每个所述辅样本图像，对所述辅样本图像进行校正，以使校正后的所述辅样本图像上的所述样本轴与所述主样本图像上的所述样本轴相一致；

根据校正结果得到各所述拍摄设备的所述校正参数。

3.根据权利要求2所述的方法，其特征在于，还包括：

分别确定各所述拍摄设备的位姿参数；

所述确定所述虚拟平面，并得到所述虚拟平面上的所述虚拟中心，包括：

根据各所述物理光心的光心位置拟合得到平面方程，并基于所述平面方程得到所述虚拟平面；

针对每个所述拍摄设备，根据所述平面方程和所述拍摄设备的位姿参数，将与所述拍摄设备对应的所述光心位置投影到所述虚拟平面上，得到投影位置，以在得到各所述投影位置后，通过对各所述投影位置进行拟合得到虚拟位置，并基于所述虚拟位置得到所述虚拟中心。

4.根据权利要求3所述的方法，其特征在于，所述分别确定各所述拍摄设备的位姿参数，包括：

分别获取各所述拍摄设备拍摄的样本图像序列，确定各所述样本图像序列之间的特征匹配关系；

根据所述特征匹配关系分别得到各所述拍摄设备的位姿参数。

5.根据权利要求2所述的方法，其特征在于，所述确定包含所述虚拟中心的旋转轴，包括：

获取所述虚拟平面的平面方程，并对所述平面方程进行归一化处理，得到所述虚拟平面的平面法向量；

将包含所述虚拟中心的所述平面法向量所在的轴，作为旋转轴。

6.根据权利要求2所述的方法，其特征在于，所述样本轴是通过样本线段进行表示的，所述对所述辅样本图像进行校正，以使校正后的所述辅样本图像上的所述样本轴与所述主样本图像上的所述样本轴相一致，包括：

对所述辅样本图像执行校正操作，以使校正后的所述辅样本图像上的所述样本线段与所述主样本图像上的所述样本线段相平行并且长度相同，而且所述校正后的所述辅样本图像上的所述样本线段在所述校正后的所述辅样本图像上的相对位置、与所述主样本图像上的所述样本线段在所述主样本图像上的相对位置相同，其中，所述校正操作包括旋转操作、缩放操作和平移操作。

7.根据权利要求2所述的方法，其特征在于，在所述对所述辅样本图像进行校正之前，还包括：

对所述主样本图像进行旋转，以使旋转后的所述主样本图像上的所述样本轴与所述样本图像的目标轴相平行；

根据旋转结果更新所述主样本图像，并且得到所述主拍摄设备的所述校正参数；

所述根据校正结果得到各所述拍摄设备的所述校正参数，包括：

根据校正结果得到所述辅拍摄设备的所述校正参数。

8.根据权利要求1所述的方法，其特征在于，在所述对所述目标图像进行校正之后，还包括：

针对所述多台拍摄设备中在摆放位置上相邻的第一拍摄设备以及第二拍摄设备，将所述第一拍摄设备拍摄的所述目标图像作为第一物理图像并且将所述第二拍摄设备拍摄的所述目标图像作为第二物理图像；

基于所述第一物理图像和所述第二物理图像，生成虚拟图像，其中，所述虚拟图像所在的虚拟视角位于所述第一物理图像所在的物理视角以及所述第二物理图像所在的物理视角之间。

9.根据权利要求8所述的方法，其特征在于，所述基于所述第一物理图像和所述第二物理图像，生成虚拟图像，包括：

确定所述第一拍摄设备的第一景深和所述第二拍摄设备的第二景深，并且对所述第一物理图像和所述第二物理图像进行匹配，根据所述第一景深、所述第二景深以及匹配结果进行点云重建，并基于点云重建结果得到虚拟图像。

10.根据权利要求8所述的方法，其特征在于，所述基于所述第一物理图像和所述第二物理图像，生成虚拟图像，包括：

将所述第一物理图像以及所述第二物理图像作为视频文件来计算光流，并根据所述光流生成虚拟图像。

11.根据权利要求8所述的方法，其特征在于，所述基于所述第一物理图像和所述第二物理图像，生成虚拟图像，包括：

将所述第一物理图像和所述第二物理图像输入到预先训练完成的视频插帧深度学习模型中，根据所述视频插帧深度学习模型的输出结果，生成虚拟图像。

12.一种图像校正装置，其特征在于，包括：

目标图像获取模块，用于针对多台拍摄设备中的每台所述拍摄设备，获取所述拍摄设备拍摄的目标图像；

目标图像校正模块，用于基于与所述拍摄设备相对应的校正参数，对所述目标图像进行校正；

其中，在将包含虚拟中心的旋转轴上的至少两个轴点投影到所述目标图像上后得到投影轴的情况下，校正后的各所述目标图像上的所述投影轴相一致，所述虚拟中心位于所述多台拍摄设备对应的虚拟平面上，并且与所述多台拍摄设备的物理光心对应。

13.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-11中任一所述的图像校正方法。

14.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-11中任一所述的图像校正方法。