CN112154484A - 正射影像生成方法、系统和存储介质 - Google Patents

Abstract

一种正射影像生成方法(100)、系统(700)和存储介质，方法(100)包括：获取多个摄像头对目标测区进行拍摄得到的目标测区的多个影像，其中，多个摄像头设置在移动平台(S110)；获取多个影像中的主影像的成像位姿信息，并根据主影像和成像位姿信息生成用于拟合目标测区高程的高程数据(S120)；根据高程数据和成像位姿信息，矫正多个影像中除主影像以外的其他影像，得到对应其他影像的正射影像(S130)。正射影像生成方法(100)、系统(700)和存储介质将获取的主影像的成像位姿信息和测区的高程数据用于生成对应其他影像的正射影像，这样，可减小多摄像头采集场景下获取多个正射影像的计算量，提高正射影像的生成效率。

Description

正射影像生成方法、系统和存储介质

技术领域

本发明总地涉及正射影像技术领域，更具体地涉及一种正射影像生成方法、系统和存储介质。

背景技术

目前，利用多光谱影像生成正射影像采用的策略是获取各波段影像的成像位姿信息，并基于各波段影像的成像位姿信息各自生成各波段影像的正射影像。值得说明的是，在影像采集过程伴随着移动平台不定向移动，针对每一波段的影像，需要大量的计算步骤以重建影像被采集时的成像位姿信息。因此，上述的方法由于需要获取各波段影像的成像位姿信息因而将使得计算量非常大，正射影像的生成效率低下。

发明内容

为了解决上述问题而提出了本发明。本发明提供一种正射影像生成方案，其将获取的多光谱影像中主影像的成像位姿信息和测区的高程数据用于生成对应其他影像的正射影像，这样，可减小多摄像头采集场景下获取多个正射影像的计算量，提高正射影像的生成效率。下面简要描述本发明提出的正射影像生成方案，更多细节将在后续结合附图在具体实施方式中加以描述。

根据本发明一方面，提供了一种正射影像生成方法，所述方法包括：获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述多个摄像头设置在移动平台；获取所述多个影像中的主影像的成像位姿信息，并根据所述主影像和所述成像位姿信息生成用于拟合所述目标测区高程的高程数据；以及根据所述高程数据和所述成像位姿信息，矫正所述多个影像中除所述主影像以外的其他影像，得到对应所述其他影像的正射影像。

在本发明的一个实施例中，所述获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，包括：获取多个摄像头在同一曝光时段内对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述曝光时段的时长小于预设时长阈值。

在本发明的一个实施例中，所述获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，还包括：获取多个摄像头在多个曝光时段内对目标测区进行拍摄得到的所述目标测区的多个影像，其中，各个曝光时段内拍摄得到的主影像由所述多个摄像头中的同一个摄像头拍摄得到；并且所述获取所述主影像的成像位姿信息，包括：通过SFM算法，对所述各个曝光时段内拍摄得到的所述主影像进行重建处理，得到所述主影像的所述成像位姿信息。

在本发明的一个实施例中，所述影像的类型包括RGB影像、近红外影像、红色波段影像、绿色波段影像中的至少两项。

在本发明的一个实施例中，所述主影像为RGB影像。

在本发明的一个实施例中，所述方法还包括：在矫正所述其他影像之前，通过矫正参数对所述其他影像进行预处理；并且所述矫正包括：根据所述高程数据和所述成像位姿信息，矫正经预处理的所述其他影像，得到对应所述其他影像的正射影像。

在本发明的一个实施例中，所述通过矫正参数对所述其他影像进行预处理，包括：将所述其他影像与所述主影像对齐；和/或对所述主影像和所述其他影像进行辐射校正处理。

在本发明的一个实施例中，所述将所述其他影像与所述主影像对齐，包括：在所述主影像和所述其他影像之间确定同名像点，基于所述同名像点确定将所述其他影像映射到所述主影像的映射变换矩阵，并基于所述映射变换矩阵将所述其他影像映射到所述主影像上。

在本发明的一个实施例中，所述将所述其他影像与所述主影像对齐，包括：基于通过传感器记录的所述主影像和所述其他影像各自的成像位姿信息确定所述其他影像与所述主影像之间的映射关系，并基于所述映射关系将所述其他影像映射到所述主影像上。

在本发明的一个实施例中，所述方法还包括：在将所述其他影像与所述主影像对齐之前，确定所述主影像和所述其他影像各自的梯度信息，并基于所述主影像和所述其他影像各自的对应的梯度信息将所述其他影像与所述主影像对齐。

在本发明的一个实施例中，所述方法还包括：在将所述其他影像与所述主影像对齐之前，分别对所述主影像和所述其他影像进行畸变矫正处理，并基于已畸变矫正的所述主影像和所述其他影像将所述其他影像与所述主影像对齐。

在本发明的一个实施例中，所述畸变矫正处理是基于所述多个摄像头的内参数和畸变参数。

在本发明的一个实施例中，所述高程数据是基于点云生成的，所述点云是基于所述成像位姿信息生成的。

在本发明的一个实施例中，所述点云是基于所述成像位姿信息生成的稠密点云。

在本发明的一个实施例中，所述点云是基于对所述主影像执行SFM算法而得到的稀疏点云。

在本发明的一个实施例中，所述方法还包括：将由同一摄像头拍摄的所述影像各自的正射影像进行镶嵌融合以生成各个波段的正射影像。

在本发明的一个实施例中，所述方法还包括：基于所述各个波段的正射影像生成植被指数地图。

在本发明的一个实施例中，所述方法还包括：将所述植被指数地图进行伪彩色的可视化渲染。

在本发明的一个实施例中，所述方法还包括：在将所述其他影像与所述主影像对齐之后，基于所述主影像和经对齐的所述其他影像生成植被指数地图；以及根据所述高程数据和所述成像位姿信息矫正所述植被指数地图，得到对应所述植被指数地图的正射影像。

根据本发明另一方面，提供了一种正射影像生成系统，所述系统包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行上述任一项所述的正射影像生成方法。

根据本发明又一方面，提供了一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行上述任一项所述的正射影像生成方法。

根据本发明实施例的正射影像生成方法、系统和存储介质仅获取多光谱影像中的主影像的成像位姿信息，并基于主影像的成像位姿信息生成拟合目标测区高程的高程数据，最后基于主影像的成像位姿信息和生成的高程数据矫正主影像以外的其他影像以得到其他影像的正射影像，也就是说，将获取的主影像的成像位姿信息和测区的高程数据用于生成对应其他影像的正射影像，这样，可减小多摄像头采集场景下获取多个正射影像的计算量，提高正射影像的生成效率。

附图说明

图1示出根据本发明实施例的正射影像生成方法的示意性流程图；

图2示出根据本发明实施例的多个影像的示例图；

图3示出根据本发明另一实施例的正射影像生成方法的示意性流程图；

图4A示出根据本发明实施例的对齐前绿色波段影像与红色边缘波段影像的卷帘叠加显示效果；

图4B示出根据本发明实施例的对齐及辐射校正后绿色波段影像与红色边缘波段影像的卷帘叠加显示效果；

图5示出根据本发明又一实施例的正射影像生成方法的示意性流程图；

图6A到图6C分别示出根据本发明实施例的正射影像生成方法得到的不同波段的正射影像的示意图；

图6D示出根据本发明实施例的正射影像生成方法得到的经伪彩色可视化渲染的植被指数地图的示意图；以及

图7示出根据本发明实施例的正射影像生成系统的示意性框图。

具体实施方式

为了使得本发明的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例，本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。

在下文的描述中，给出了大量具体的细节以便提供对本发明更为彻底的理解。然而，对于本领域技术人员而言显而易见的是，本发明可以无需一个或多个这些细节而得以实施。在其他的例子中，为了避免与本发明发生混淆，对于本领域公知的一些技术特征未进行描述。

应当理解的是，本发明能够以不同形式实施，而不应当解释为局限于这里提出的实施例。相反地，提供这些实施例将使公开彻底和完全，并且将本发明的范围完全地传递给本领域技术人员。

在此使用的术语的目的仅在于描述具体实施例并且不作为本发明的限制。在此使用时，单数形式的“一”、“一个”和“所述/该”也意图包括复数形式，除非上下文清楚指出另外的方式。还应明白术语“组成”和/或“包括”，当在该说明书中使用时，确定所述特征、整数、步骤、操作、元件和/或部件的存在，但不排除一个或更多其它的特征、整数、步骤、操作、元件、部件和/或组的存在或添加。在此使用时，术语“和/或”包括相关所列项目的任何及所有组合。

为了彻底理解本发明，将在下列的描述中提出详细的步骤以及详细的结构，以便阐释本发明提出的技术方案。本发明的较佳实施例详细描述如下，然而除了这些详细描述外，本发明还可以具有其他实施方式。

如前所述，目前的正射影像生成方法需要获取各波段影像的成像位姿信息，并基于各波段影像的成像位姿信息各自生成各波段影像的正射影像，这样的方法计算量非常大，正射影像的生成效率低下。基于此，本发明提供一种正射影像生成方案，下面结合附图来描述根据本发明实施例的正射影像生成方案。

图1示出根据本发明实施例的正射影像生成方法100的示意性流程图。如图1所示，正射影像生成方法100可以包括如下步骤：

在步骤S110，获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述多个摄像头设置在移动平台。

在本发明的实施例中，在步骤S110所获取的多个影像是通过多个摄像头对目标测区进行拍摄得到的，所述多个摄像头设置在移动平台(诸如无人机)上，在移动平台移动的过程中，所述多个摄像头针对目标测区拍摄得到多个影像。在同一曝光时段内(其中所述曝光时段的时长小于预设时长阈值)，所述多个摄像头所拍摄的多个影像之间可能具有较多的重叠部分。在不同曝光时段内，所述多个摄像头所拍摄的多个影像之间可能具有较少的重叠部分或不具有重叠部分。

应理解，本文中所述的多个摄像头拍摄得到多个影像可以理解为：同一个相机中的多个摄像头各自拍摄得到多个影像。例如，同一个相机中包括RGB摄像头和近红外摄像头，其针对目标测区拍摄的影像可以包括RGB影像和近红外影像。此外，本文中所述的多个摄像头拍摄得到多个影像也可以理解为：多个相机各自拍摄得到多个影像。例如，RGB相机和近红外相机，其针对目标测区拍摄的影像分别为RGB影像和近红外影像。此外，本文中所述的多个摄像头拍摄得到多个影像还可以理解为：同一相机中的同一摄像头拍摄得到一个影像，并从该影像中获取多个通道的图像或多种格式的图像。例如，RGB摄像头拍摄得到RGB影像，可从该RGB影像获取红色波段影像、绿色波段影像等。总之，基于设置在移动平台上的多个摄像头，可以获取到多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像。所述多个影像可以是同一曝光时段的多个影像，此时这多个影像彼此为不同波段的影像；所述多个影像也可以是多个曝光时段的多个影像，此时所述多个影像在同一曝光时段内的影像彼此之间为不同波段的影像，在不同曝光时段内的影像彼此之间可能为不同波段的影像，也可能为同一波段的影像。

可以参照图2理解上文所述的多个影像。图2示出了根据本发明实施例的多个影像的示例图，如图2所示，示例性地示出了四行六列的影像。其中，每一行的影像是同一曝光时段内不同波段的影像，每一列的影像是不同曝光时段同一波段的影像。也就是说，在图2中，示例性地示出了四个曝光时段的、六个波段的影像。应理解，图2所示的示例仅是示例性的，实际应用当中可能包括其他数目的曝光时段和其他数目的波段。

下面继续参考图1，描述根据本发明实施例的正射影像生成方法100的后续步骤。

在步骤S120，获取所述多个影像中的主影像的成像位姿信息，并根据所述主影像和所述成像位姿信息生成用于拟合所述目标测区高程的高程数据。

在本发明的实施例中，可以从步骤S110获取到的多个影像中，仅获取主影像的成像位姿信息。其中，主影像可以是所述多个影像中任一波段的影像，所述多个影像中除主影像以外的影像都可以称为附属影像或其他影像。例如，继续参考图2的示例，如果在步骤S110中仅获取同一曝光时段内的多个影像(例如图2中的一行影像)，则主影像可以为所述多个影像中的任一张影像(例如图2中的一行影像中的任一张影像)；如果在步骤S110中获取多个曝光时段内的多个影像(例如图2中的四行六列影像)，则主影像可以为所述多个影像中的任一列影像(例如图2中的四行六列影像中的任一列影像)。示例性地，主影像可以是RGB影像。RGB影像与其他波段的影像相比，纹理信息更为丰富，因此获取RGB影像的成像位姿信息进行三维重建容易得到精确可靠的结果。

在一个示例中，可以基于每个影像的标签(标识符)来确定该影像是什么波段的影像，或者确定该影像是主影像还是其他影像。在其他示例中，还可以通过任何其他合适的方式来从多个影像中获取主影像，本申请对此不作限制。

在本发明的实施例中，可以通过SFM(structure from motion)算法对主影像进行重建处理，得到所述主影像的成像位姿信息。主影像的成像位姿信息可以包括拍摄主影像的摄像头在拍摄主影像时的定位信息、姿态信息以及相机内参数和畸变参数。其中，该定位信息和姿态信息可以是摄像头设置在的移动平台的定位信息和姿态信息。示例性地，该姿态信息可以包括云台角信息。示例性地，该云台角信息可以包括摄像头在拍摄主影像时云台的姿态信息，例如云台的横滚角(roll)、俯仰角(pitch)或者偏航角(yaw)。

在获取主影像的成像位姿信息后，可以根据主影像及其成像位姿信息生成用于拟合所述目标测区高程的高程数据。示例性地，可以根据主影像及其成像位姿信息生成稠密点云，再由稠密点云生成目标测区的数字高程模型或数字表面模型。示例性地，也可以基于前述SFM过程中生成的稀疏点云生成用于拟合所述目标测区高程的高程数据。此外，除了前述数字高程模型或数字表面模型，该用于拟合所述目标测区高程的高程数据也可以是其他几何曲面或者平面。

下面继续参考图1，描述根据本发明实施例的正射影像生成方法100的后续步骤。

在步骤S130，根据所述高程数据和所述成像位姿信息，矫正所述多个影像中除所述主影像以外的其他影像，得到对应所述其他影像的正射影像。

在本发明的实施例中，基于步骤S120得到的高程数据，可以生成主影像的正射影像，例如通过数字微分纠正算法将主影像的视角变为正射视角，以生成主影像的正射影像。对于除主影像以外的其他影像，在本发明的实施例中，采用基于主影像的成像位姿信息得到的目标测区的高程数据矫正其他影像的视角，以生成其他影像的正射影像，减少了一一获取其他各波段影像的成像位姿信息的计算量，因此相比于获取各波段影像的成像位姿信息各自生成正射影像的方式，不管包括多少波段的影像，均可利用主影像这一个波段的影像进行重建算法获取成像位姿信息，进而再生成其他波段的正射影像，因而可减小多摄像头采集场景下获取多个正射影像的计算量，提高正射影像的生成效率，并且能够避免各波段影像各自重建时出现重建结果不一致的情况，还使得无需对相机要求严格统一的曝光时间。

下面参考图3描述根据本发明另一实施例的正射影像生成方法。图3示出了根据本发明另一实施例的正射影像生成方法300的示意性流程图。如图3所示，正射影像生成方法300可以包括如下步骤：

在步骤S310，获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述多个摄像头设置在移动平台。

在步骤S320，获取所述多个影像中的主影像的成像位姿信息，并根据所述主影像和所述成像位姿信息生成用于拟合所述目标测区高程的高程数据。

在步骤S330，通过矫正参数对所述其他影像进行预处理。

在步骤S340，根据所述高程数据和所述成像位姿信息，矫正经预处理的所述其他影像，得到对应所述其他影像的正射影像。

在参考图3描述的根据本申请实施例的正射影像生成方法300中的步骤S310、步骤S320和步骤S340与参考图1描述的根据本申请实施例的正射影像生成方法100中的步骤S110步骤S120和步骤S130类似，为了简洁，此处不再赘述。与参考图1描述的根据本申请实施例的正射影像生成方法100不同的是，在参考图3描述的根据本申请实施例的正射影像生成方法300还包括步骤S330，即在矫正其他影像之前，通过矫正参数对所述其他影像进行预处理，然后步骤S340根据所述高程数据和所述成像位姿信息，矫正经预处理的所述其他影像，得到对应所述其他影像的正射影像。在该实施例中，通过在生成其他影像的正射影像之前对其他影像进行预处理，可以得到可靠性更高的正射影像。

示例性地，所述通过矫正参数对所述其他影像进行预处理，可以包括将所述其他影像与所述主影像对齐，和/或对所述主影像和所述其他影像进行辐射校正处理。在该示例中，可以对主影像和其他影像进行辐射矫正处理，以消除或改正因辐射误差而引起的影像畸变，使得后续的处理更为精确。此外，还可以通过将其他影像与主影像对齐(例如纹理对齐)，使得其他影像可以映射到主影像上获得与主影像一致的相机内外参数，从而使得基于主影像成像位姿信息生成其他影像的正射影像更为精确可靠。可以参照图4A和图4B理解影像对齐前和对齐及辐射校正后的效果，其中，图4A示出了对齐前绿色(Green)波段影像与红色边缘(RedEdeg)波段影像的卷帘叠加显示效果，图4B示出了对齐及辐射校正后绿色波段影像与红色边缘波段影像的卷帘叠加显示效果。

在本发明的一个实施例中，所述将所述其他影像与所述主影像对齐，可以包括：在所述主影像和所述其他影像之间确定同名像点，基于所述同名像点确定将所述其他影像映射到所述主影像的映射变换矩阵，并基于所述映射变换矩阵将所述其他影像映射到所述主影像上。在一个示例中，可以在主影像和其他影像之间确定四个(或四个以上)同名像点，并基于这些同名像点确定将其他影像映射到主影像的单应变换矩阵，并基于该单应变换矩阵将其他影像映射到主影像上。在另一个示例中，可以在主影像和其他影像之间确定同名像点，并基于这些同名像点确定将其他影像映射到主影像的相似变换矩阵或仿射变换矩阵，并基于该相似变换矩阵或仿射变换矩阵将其他影像映射到主影像上。在其他示例中，也可以在主影像和其他影像之间确定同名像点，并基于这些同名像点确定将其他影像映射到主影像的其他任何变换矩阵，并基于该变换矩阵将其他影像映射到主影像上。在进一步的示例中，还可以通过除同名像点以外的其他影像相关系数的优化方法计算得到将其他影像映射到主影像的变换关系。在进一步的示例中，上述对齐方式可以以各种组合来实施，例如对影像进行分区，第一区域采用一种变换方式对齐，第二区域采用另一种变换方式对齐等；或者分步骤进行对齐，第一步骤采用第一变换方式，第二步骤采用第二变换方式，最终经过多个步骤实现对齐等。

在本发明的另一个实施例中，所述将所述其他影像与所述主影像对齐，可以包括：基于通过传感器记录的所述主影像和所述其他影像各自的成像位姿信息确定所述其他影像与所述主影像之间的映射关系，并基于所述映射关系将所述其他影像映射到所述主影像上。在该实施例中，可以基于移动平台上设置的位置和姿态传感器确定主影像和其他影像各自成像时刻的位置和姿态，进一步推算出其他影像与主影像之间的映射关系。

值得说明的是，由于主影像和其他影像可能分别由不同的摄像头曝光采集得到，并且曝光时间、位姿上可能有细微的差别，导致不同影像的成像亮度不同，会导致主影像和其他影像之间映射变换失准，即而对齐精度不够。

在本发明进一步的实施例中，方法300还可以包括如下步骤(未在图3中示出)：在将所述其他影像与所述主影像对齐之前，确定所述主影像和所述其他影像各自的梯度信息，并基于所述主影像和所述其他影像各自的对应的梯度信息将所述其他影像与所述主影像对齐。影像的梯度信息更能体现影像的边缘特性，因此在该实施例中，基于主影像和其他影像各自的对应的梯度信息将其他影像与主影像对齐，能够准确对不同对象之间进行区分，进一步提高对齐的精度。

在本发明进一步的实施例中，方法300还可以包括如下步骤(未在图3中示出)：在将所述其他影像与所述主影像对齐之前，分别对所述主影像和所述其他影像进行畸变矫正处理，并基于已畸变矫正的所述主影像和所述其他影像将所述其他影像与所述主影像对齐。畸变矫正处理可以矫正相机成像过程中因透镜精度和工艺等引入的畸变，因此在该实施例中，基于经畸变矫正处理后的其他影像和主影像实施其他影像与主影像的对齐，能够进一步提高后续处理的精度。示例性地，所述畸变矫正处理可以是基于所述多个摄像头的内参数和畸变参数。其中，该内参数可以包括焦距、画幅、感光度等参数信息，其可以包括是经由传感器采集的，也可以是预先标定的。此外，上述的畸变矫正处理也可以作为前述的对其他影像进行的预处理。

基于上面的描述，根据本发明另一实施例的正射影像生成方法300将获取的主影像的成像位姿信息和测区的高程数据用于生成对应其他影像的正射影像，这样，可减小多摄像头采集场景下获取多个正射影像的计算量，提高正射影像的生成效率。此外，根据本发明另一实施例的正射影像生成方法300在生成其他影像的正射影像之前对其他影像进行预处理，可以得到可靠性更高的正射影像。

下面参考图5描述根据本发明又一实施例的正射影像生成方法。图5示出了根据本发明又一实施例的正射影像生成方法500的示意性流程图。如图5所示，正射影像生成方法500可以包括如下步骤：

在步骤S510，获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述多个摄像头设置在移动平台。

在步骤S520，获取所述多个影像中的主影像的成像位姿信息，并根据所述主影像和所述成像位姿信息生成用于拟合所述目标测区高程的高程数据。

在步骤S530，根据所述高程数据和所述成像位姿信息，矫正所述多个影像中除所述主影像以外的其他影像，得到对应所述其他影像的正射影像。

在步骤S540，将由同一摄像头拍摄的所述影像各自的正射影像进行镶嵌融合以生成各个波段的正射影像。

在参考图5描述的根据本申请实施例的正射影像生成方法500中的步骤S510、步骤S520和步骤S530与参考图1描述的根据本申请实施例的正射影像生成方法100中的步骤S110步骤S120和步骤S130类似，为了简洁，此处不再赘述。与参考图1描述的根据本申请实施例的正射影像生成方法100不同的是，在参考图5描述的根据本申请实施例的正射影像生成方法500还包括步骤S540，即在得到其他影像的正射影像之后，将由同一摄像头拍摄的所述影像各自的正射影像进行镶嵌融合以生成各个波段的正射影像。如前文结合图1和图2所描述的，多个影像可以是多个曝光时段得到的多个影像，每个曝光时段均能得到多个波段的影像，每个波段的影像对应于一个摄像头，且每个曝光时段中的一个波段的影像为主影像，其余波段的影像为其他影像。因此，在得到各曝光时段中的其他影像的正射影像之后，可以将不同曝光时段的、同一波段影像的正射影像进行镶嵌融合(也就是将图2中每一列影像的正射影像进行镶嵌融合)，以生成各波段的正射影像，从而得到目标测区较大范围的正射影像，例如如图6A到图6C所示的，图6A、图6B和图6C分别示出了三个波段的正射影像的示意图。

进一步地，基于各波段的正射影像，可以生成目标测区的植被指数地图，植被指数地图可以量化地为精准农业提供施肥和用药依据，有效提高肥料和农药利用率，还可用于早期检测农作物病虫害减少损失。进一步地，为了更好地可视化区分指数的数值大小，在一个示例中，可以对生成的植被指数地图进行伪彩色的可视化渲染，如图6D所示的(应理解，图6D所示的植被指数地图应为彩色的，但考虑到专利申请文件的要求将其调成了灰度图的形式)。

在本发明的再一个实施例中，还可以在将其他影像与主影像对齐之后，基于主影像和经对齐的其他影像生成植被指数地图，然后再根据所述高程数据和所述成像位姿信息矫正所述植被指数地图，得到对应所述植被指数地图的正射影像。在该实施例中，先基于主影像和其他影像生成植被指数地图，再生成植被指数地图的正射影像，也可以实现对正射视角植被指数地图的生成。

以上示例性地描述了根据本发明实施例的正射影像生成方法。基于上面的描述，根据本发明实施例的正射影像生成方法仅获取多光谱影像中的主影像的成像位姿信息，并基于主影像的成像位姿信息生成拟合目标测区高程的高程数据，最后基于主影像的成像位姿信息和生成的高程数据矫正主影像以外的其他影像以得到其他影像的正射影像，也就是说，将获取的主影像的成像位姿信息和测区的高程数据用于生成对应其他影像的正射影像，这样，可减小多摄像头采集场景下获取多个正射影像的计算量，提高正射影像的生成效率。此外，根据本发明实施例的正射影像生成方法可在生成其他影像的正射影像之前对其他影像进行预处理，可以得到可靠性更高的正射影像。进一步地，根据本发明实施例的正射影像生成方法可以用于生成目标测区的植被指数地图，从而量化地为精准农业提供施肥和用药依据，有效提高肥料和农药利用率，还可用于早期检测农作物病虫害减少损失。

下面结合图7描述根据本发明另一方面提供的正射影像生成系统。图7示出了根据本发明实施例的正射影像生成系统700的示意性框图。正射影像生成系统700包括存储装置710以及处理器720。

其中，存储装置710存储用于实现根据本发明实施例的正射影像生成方法中的相应步骤的程序。处理器720用于运行存储装置710中存储的程序，以执行根据本发明实施例的正射影像生成方法的相应步骤。

在一个实施例中，在所述程序被处理器720运行时使得正射影像生成系统700执行以下步骤：获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述多个摄像头设置在移动平台；获取所述多个影像中的主影像的成像位姿信息，并根据所述主影像和所述成像位姿信息生成用于拟合所述目标测区高程的高程数据；以及根据所述高程数据和所述成像位姿信息，矫正所述多个影像中除所述主影像以外的其他影像，得到对应所述其他影像的正射影像。

在本发明的一个实施例中，在所述程序被处理器720运行时使得正射影像生成系统700执行的所述获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，包括：获取多个摄像头在同一曝光时段内对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述曝光时段的时长小于预设时长阈值。

在本发明的一个实施例中，在所述程序被处理器720运行时使得正射影像生成系统700执行的所述获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，还包括：获取多个摄像头在多个曝光时段内对目标测区进行拍摄得到的所述目标测区的多个影像，其中，各个曝光时段内拍摄得到的主影像由所述多个摄像头中的同一个摄像头拍摄得到；并且所述获取所述主影像的成像位姿信息，包括：通过SFM算法，对所述各个曝光时段内拍摄得到的所述主影像进行重建处理，得到所述主影像的所述成像位姿信息。

在本发明的一个实施例中，所述影像的类型包括RGB影像、近红外影像、红色波段影像、绿色波段影像中的至少两项。

在本发明的一个实施例中，所述主影像为RGB影像。

在本发明的一个实施例中，在所述程序被处理器720运行时还使得正射影像生成系统700执行以下步骤：在矫正所述其他影像之前，通过矫正参数对所述其他影像进行预处理；并且所述矫正包括：根据所述高程数据和所述成像位姿信息，矫正经预处理的所述其他影像，得到对应所述其他影像的正射影像。

在本发明的一个实施例中，在所述程序被处理器720运行时使得正射影像生成系统700执行的所述通过矫正参数对所述其他影像进行预处理，包括：将所述其他影像与所述主影像对齐；和/或对所述主影像和所述其他影像进行辐射校正处理。

在本发明的一个实施例中，在所述程序被处理器720运行时使得正射影像生成系统700执行的所述将所述其他影像与所述主影像对齐，包括：在所述主影像和所述其他影像之间确定同名像点，基于所述同名像点确定将所述其他影像映射到所述主影像的映射变换矩阵，并基于所述映射变换矩阵将所述其他影像映射到所述主影像上。

在本发明的一个实施例中，在所述程序被处理器720运行时使得正射影像生成系统700执行的所述将所述其他影像与所述主影像对齐，包括：基于通过传感器记录的所述主影像和所述其他影像各自的成像位姿信息确定所述其他影像与所述主影像之间的映射关系，并基于所述映射关系将所述其他影像映射到所述主影像上。

在本发明的一个实施例中，在所述程序被处理器720运行时还使得正射影像生成系统700执行以下步骤：在将所述其他影像与所述主影像对齐之前，确定所述主影像和所述其他影像各自的梯度信息，并基于所述主影像和所述其他影像各自的对应的梯度信息将所述其他影像与所述主影像对齐。

在本发明的一个实施例中，在所述程序被处理器720运行时还使得正射影像生成系统700执行以下步骤：在将所述其他影像与所述主影像对齐之前，分别对所述主影像和所述其他影像进行畸变矫正处理，并基于已畸变矫正的所述主影像和所述其他影像将所述其他影像与所述主影像对齐。

在本发明的一个实施例中，所述畸变矫正处理是基于所述多个摄像头的内参数和畸变参数。

在本发明的一个实施例中，所述高程数据是基于点云生成的，所述点云是基于所述成像位姿信息生成的。

在本发明的一个实施例中，所述点云是基于所述成像位姿信息生成的稠密点云。

在本发明的一个实施例中，所述点云是基于对所述主影像执行SFM算法而得到的稀疏点云。

在本发明的一个实施例中，在所述程序被处理器720运行时还使得正射影像生成系统700执行以下步骤：将由同一摄像头拍摄的所述影像各自的正射影像进行镶嵌融合以生成各个波段的正射影像。

在本发明的一个实施例中，在所述程序被处理器720运行时还使得正射影像生成系统700执行以下步骤：基于所述各个波段的正射影像生成植被指数地图。

在本发明的一个实施例中，在所述程序被处理器720运行时还使得正射影像生成系统700执行以下步骤：将所述植被指数地图进行伪彩色的可视化渲染。

在本发明的一个实施例中，在所述程序被处理器720运行时还使得正射影像生成系统700执行以下步骤：在将所述其他影像与所述主影像对齐之后，基于所述主影像和经对齐的所述其他影像生成植被指数地图；以及根据所述高程数据和所述成像位姿信息矫正所述植被指数地图，得到对应所述植被指数地图的正射影像。

此外，根据本发明实施例，还提供了一种存储介质，在所述存储介质上存储了程序指令，在所述程序指令被计算机或处理器运行时用于执行本发明实施例的正射影像生成方法的相应步骤。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合。

在一个实施例中，所述计算机程序指令在被计算机运行时可以执行根据本发明实施例的正射影像生成方法。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述多个摄像头设置在移动平台；获取所述多个影像中的主影像的成像位姿信息，并根据所述主影像和所述成像位姿信息生成用于拟合所述目标测区高程的高程数据；以及根据所述高程数据和所述成像位姿信息，矫正所述多个影像中除所述主影像以外的其他影像，得到对应所述其他影像的正射影像。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，包括：获取多个摄像头在同一曝光时段内对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述曝光时段的时长小于预设时长阈值。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，还包括：获取多个摄像头在多个曝光时段内对目标测区进行拍摄得到的所述目标测区的多个影像，其中，各个曝光时段内拍摄得到的主影像由所述多个摄像头中的同一个摄像头拍摄得到；并且所述获取所述主影像的成像位姿信息，包括：通过SFM算法，对所述各个曝光时段内拍摄得到的所述主影像进行重建处理，得到所述主影像的所述成像位姿信息。

在本发明的一个实施例中，所述影像的类型包括RGB影像、近红外影像、红色波段影像、绿色波段影像中的至少两项。

在本发明的一个实施例中，所述主影像为RGB影像。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：在矫正所述其他影像之前，通过矫正参数对所述其他影像进行预处理；并且所述矫正包括：根据所述高程数据和所述成像位姿信息，矫正经预处理的所述其他影像，得到对应所述其他影像的正射影像。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述通过矫正参数对所述其他影像进行预处理，包括：将所述其他影像与所述主影像对齐；和/或对所述主影像和所述其他影像进行辐射校正处理。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述将所述其他影像与所述主影像对齐，包括：在所述主影像和所述其他影像之间确定同名像点，基于所述同名像点确定将所述其他影像映射到所述主影像的映射变换矩阵，并基于所述映射变换矩阵将所述其他影像映射到所述主影像上。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述将所述其他影像与所述主影像对齐，包括：基于通过传感器记录的所述主影像和所述其他影像各自的成像位姿信息确定所述其他影像与所述主影像之间的映射关系，并基于所述映射关系将所述其他影像映射到所述主影像上。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：在将所述其他影像与所述主影像对齐之前，确定所述主影像和所述其他影像各自的梯度信息，并基于所述主影像和所述其他影像各自的对应的梯度信息将所述其他影像与所述主影像对齐。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：在将所述其他影像与所述主影像对齐之前，分别对所述主影像和所述其他影像进行畸变矫正处理，并基于已畸变矫正的所述主影像和所述其他影像将所述其他影像与所述主影像对齐。

在本发明的一个实施例中，所述畸变矫正处理是基于所述多个摄像头的内参数和畸变参数。

在本发明的一个实施例中，所述高程数据是基于点云生成的，所述点云是基于所述成像位姿信息生成的。

在本发明的一个实施例中，所述点云是基于所述成像位姿信息生成的稠密点云。

在本发明的一个实施例中，所述点云是基于对所述主影像执行SFM算法而得到的稀疏点云。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：将由同一摄像头拍摄的所述影像各自的正射影像进行镶嵌融合以生成各个波段的正射影像。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：基于所述各个波段的正射影像生成植被指数地图。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：将所述植被指数地图进行伪彩色的可视化渲染。

在本发明的一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：在将所述其他影像与所述主影像对齐之后，基于所述主影像和经对齐的所述其他影像生成植被指数地图；以及根据所述高程数据和所述成像位姿信息矫正所述植被指数地图，得到对应所述植被指数地图的正射影像。

以上示例性地描述了根据本发明实施例的正射影像生成方法、系统和存储介质。基于上面的描述，根据本发明实施例的正射影像生成方法、系统和存储介质仅获取多光谱影像中的主影像的成像位姿信息，并基于主影像的成像位姿信息生成拟合目标测区高程的高程数据，最后基于主影像的成像位姿信息和生成的高程数据矫正主影像以外的其他影像以得到其他影像的正射影像，也就是说，将获取的主影像的成像位姿信息和测区的高程数据用于生成对应其他影像的正射影像，这样，可减小多摄像头采集场景下获取多个正射影像的计算量，提高正射影像的生成效率。

尽管这里已经参考附图描述了示例实施例，应理解上述示例实施例仅仅是示例性的，并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改，而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个设备，或一些特征可以忽略，或不执行。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该本发明的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如相应的权利要求书所反映的那样，其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域的技术人员可以理解，除了特征之间相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本发明的具体实施方式或对具体实施方式的说明，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。

Claims (21)

1.一种正射影像生成方法，其特征在于，所述方法包括：

获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述多个摄像头设置在移动平台；

获取所述多个影像中的主影像的成像位姿信息，并根据所述主影像和所述成像位姿信息生成用于拟合所述目标测区高程的高程数据；以及

根据所述高程数据和所述成像位姿信息，矫正所述多个影像中除所述主影像以外的其他影像，得到对应所述其他影像的正射影像。

2.根据权利要求1所述的方法，其特征在于，所述获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，包括：

获取多个摄像头在同一曝光时段内对目标测区进行拍摄得到的所述目标测区的多个影像，其中，所述曝光时段的时长小于预设时长阈值。

3.根据权利要求2所述的方法，其特征在于，所述获取多个摄像头对目标测区进行拍摄得到的所述目标测区的多个影像，还包括：

获取多个摄像头在多个曝光时段内对目标测区进行拍摄得到的所述目标测区的多个影像，其中，各个曝光时段内拍摄得到的主影像由所述多个摄像头中的同一个摄像头拍摄得到；并且

所述获取所述主影像的成像位姿信息，包括：通过SFM算法，对所述各个曝光时段内拍摄得到的所述主影像进行重建处理，得到所述主影像的所述成像位姿信息。

4.根据权利要求1-3中的任一项所述的方法，其特征在于，所述影像的类型包括RGB影像、近红外影像、红色波段影像、绿色波段影像中的至少两项。

5.根据权利要求4所述的方法，其特征在于，所述主影像为RGB影像。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

在矫正所述其他影像之前，通过矫正参数对所述其他影像进行预处理；并且

所述矫正包括：根据所述高程数据和所述成像位姿信息，矫正经预处理的所述其他影像，得到对应所述其他影像的正射影像。

7.根据权利要求6所述的方法，其特征在于，所述通过矫正参数对所述其他影像进行预处理，包括：

将所述其他影像与所述主影像对齐；和/或

对所述主影像和所述其他影像进行辐射校正处理。

8.根据权利要求7所述的方法，其特征在于，所述将所述其他影像与所述主影像对齐，包括：

在所述主影像和所述其他影像之间确定同名像点，基于所述同名像点确定将所述其他影像映射到所述主影像的映射变换矩阵，并基于所述映射变换矩阵将所述其他影像映射到所述主影像上。

9.根据权利要求7所述的方法，其特征在于，所述将所述其他影像与所述主影像对齐，包括：

基于通过传感器记录的所述主影像和所述其他影像各自的成像位姿信息确定所述其他影像与所述主影像之间的映射关系，并基于所述映射关系将所述其他影像映射到所述主影像上。

10.根据权利要求7-9中的任一项所述的方法，其特征在于，所述方法还包括：

在将所述其他影像与所述主影像对齐之前，确定所述主影像和所述其他影像各自的梯度信息，并基于所述主影像和所述其他影像各自的对应的梯度信息将所述其他影像与所述主影像对齐。

11.根据权利要求7-9中的任一项所述的方法，其特征在于，所述方法还包括：

在将所述其他影像与所述主影像对齐之前，分别对所述主影像和所述其他影像进行畸变矫正处理，并基于已畸变矫正的所述主影像和所述其他影像将所述其他影像与所述主影像对齐。

12.根据权利要求11所述的方法，其特征在于，所述畸变矫正处理是基于所述多个摄像头的内参数和畸变参数。

13.根据权利要求1所述的方法，其特征在于，所述高程数据是基于点云生成的，所述点云是基于所述成像位姿信息生成的。

14.根据权利要求13所述的方法，其特征在于，所述点云是基于所述成像位姿信息生成的稠密点云。

15.根据权利要求13所述的方法，其特征在于，所述点云是基于对所述主影像执行SFM算法而得到的稀疏点云。

16.根据权利要求4所述的方法，其特征在于，所述方法还包括：

将由同一摄像头拍摄的所述影像各自的正射影像进行镶嵌融合以生成各个波段的正射影像。

17.根据权利要求16所述的方法，其特征在于，所述方法还包括：

基于所述各个波段的正射影像生成植被指数地图。

18.根据权利要求17所述的方法，其特征在于，所述方法还包括：

将所述植被指数地图进行伪彩色的可视化渲染。

19.根据权利要求7所述的方法，其特征在于，所述方法还包括：

在将所述其他影像与所述主影像对齐之后，基于所述主影像和经对齐的所述其他影像生成植被指数地图；以及

根据所述高程数据和所述成像位姿信息矫正所述植被指数地图，得到对应所述植被指数地图的正射影像。

20.一种基于多光谱影像的正射影像生成系统，其特征在于，所述系统包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行如权利要求1-19中的任一项所述的基于多光谱影像的正射影像生成方法。

21.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行如权利要求1-19中的任一项所述的基于多光谱影像的正射影像生成方法。

Images