发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种基于地形环境适配的无人机遥感信息采集系统及方法,其获取由部署于无人机的高清摄像头采集的地形拍摄图像;采用基于深度学习的人工智能技术,构建基于卷积神经网络模型的图像质量评估算法,以在图像质量评估时充分考虑地形影像数据中的地形语义特征,以提高图像质量评估与应用场景之间的适配性。
第一方面,提供了一种基于地形环境适配的无人机遥感信息采集方法,其包括:
获取由部署于无人机的高清摄像头采集的地形拍摄图像;
对所述地形拍摄图像进行图像预处理以得到预处理后地形拍摄图像;
将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图;
对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图;
对所述多个地形子特征图进行分组卷积以得到多个地形深度子特征图;
将所述多个地形深度子特征图聚合为地形深度特征图,并对所述地形深度特征图进行通道重排以得到分类特征图;
将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准;和
基于所述分类结果,生成无人机飞行高度调整指令。
在上述基于地形环境适配的无人机遥感信息采集方法中,所述图像预处理包括图像灰度化、图像降噪和直方图均衡化。
在上述基于地形环境适配的无人机遥感信息采集方法中,将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图,包括:从所述包含深浅特征融合模块的卷积神经网络模型的浅层提取浅层特征图;从所述包含深浅特征融合模块的卷积神经网络模型的深层提取深层特征图;以及,使用所述卷积神经网络模型的深浅特征融合模块融合所述浅层特征图和所述深层特征图以得到所述地形特征图。
在上述基于地形环境适配的无人机遥感信息采集方法中,对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图,包括:对所述地形特征图进行均通道切分以得到所述多个地形子特征图,其中,所述多个地形子特征图中各个地形子特征图具有相同的尺寸。
在上述基于地形环境适配的无人机遥感信息采集方法中,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准,包括:计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数;以所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数作为权重分别对所述分类特征图中各个位置的特征值进行加权校正以得到校正后分类特征图;将所述校正后分类特征图展开为分类特征向量;以及,将所述分类特征向量通过所述分类器以得到所述分类结果。
在上述基于地形环境适配的无人机遥感信息采集方法中,计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数,包括:以如下优化公式计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数;其中,所述优化公式为:
其中,fi是所述分类特征图中各个位置特征值,(xi,yi,zi)为所述分类特征图的各个位置特征值的位置坐标,且是所述分类特征图的所有特征值的全局均值,/>和分别代表将二维实数和三维实数映射为一维实数的函数,W、H和C分别是所述分类特征图的宽度、高度和通道数,log表示以2为底的对数函数,wi表示所述每个位置的特征值的位置信息图式场景注意力无偏估计因数。
在上述基于地形环境适配的无人机遥感信息采集方法中,将所述校正后分类特征图展开为分类特征向量,包括:将所述校正后分类特征图按照行向量或列向量展开为所述分类特征向量。
在上述基于地形环境适配的无人机遥感信息采集方法中,将所述分类特征向量通过所述分类器以得到所述分类结果,包括:使用所述分类器的多个全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量;以及,将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。
第二方面,提供了一种基于地形环境适配的无人机遥感信息采集系统,其包括:
图像获取模块,用于获取由部署于无人机的高清摄像头采集的地形拍摄图像;
预处理模块,用于对所述地形拍摄图像进行图像预处理以得到预处理后地形拍摄图像;
深浅特征融合模块,用于将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图;
特征图切分模块,用于对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图;
分组卷积模块,用于对所述多个地形子特征图进行分组卷积以得到多个地形深度子特征图;
通道重排模块,用于将所述多个地形深度子特征图聚合为地形深度特征图,并对所述地形深度特征图进行通道重排以得到分类特征图;
图像质量判断模块,用于将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准;和
调整指令生成模块,用于基于所述分类结果,生成无人机飞行高度调整指令。
在上述基于地形环境适配的无人机遥感信息采集系统中,所述图像预处理包括图像灰度化、图像降噪和直方图均衡化。
与现有技术相比,本申请提供的基于地形环境适配的无人机遥感信息采集系统及方法,其获取由部署于无人机的高清摄像头采集的地形拍摄图像;采用基于深度学习的人工智能技术,构建基于卷积神经网络模型的图像质量评估算法,以在图像质量评估时充分考虑地形影像数据中的地形语义特征,以提高图像质量评估与应用场景之间的适配性。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
除非另有说明,本申请实施例所使用的所有技术和科学术语与本申请的技术领域的技术人员通常理解的含义相同。本申请中所使用的术语只是为了描述具体的实施例的目的,不是旨在限制本申请的范围。
在本申请实施例记载中,需要说明的是,除非另有说明和限定,术语“连接”应做广义理解,例如,可以是电连接,也可以是两个元件内部的连通,可以是直接相连,也可以通过中间媒介间接相连,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
需要说明的是,本申请实施例所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序。应该理解“第一\第二\第三”区分的对象在适当情况下可以互换,以使这里描述的本申请的实施例可以除了在这里图示或描述的那些以外的顺序实施。
针对上述技术问题,本申请的技术构思为构建基于卷积神经网络模型的图像质量评估算法,以在图像质量评估时充分考虑地形影像数据中的地形语义特征以提高图像质量评估与应用场景之间的适配性,即,利于后续基于地形影像数据来生成三维点云、模型、地形图等多种测绘成果。
具体地,在本申请的技术方案中,首先获取由部署于无人机的高清摄像头采集的地形拍摄图像。应可以理解,在基于地形环境适配的无人机遥感信息采集系统中,获取由部署于无人机上的高清摄像头采集的地形拍摄图像是图像采集的初始步骤,相当于采集地形原始影像数据。
接着,对所述地形拍摄图像进行图像预处理以得到预处理后地形拍摄图像。所述地形拍摄图像往往由于光照、投影畸变等原因存在一定程度的噪声和失真,而预处理可以对图像进行去噪去失真等操作,提高图像质量和精度,为后续的特征提取和图像分类提供更加可靠的数据支撑。其次,在无人机遥感数据采集过程中,可能会出现天气变化、云雾覆盖等情况,导致地形拍摄图像的颜色、亮度等参数发生变化,影响图像处理和应用。相应地,通过图像预处理,可以将地形拍摄图像进行标准化,使得不同条件下拍摄的图像具有一定的统一性,方便后续的数据管理和分析。还有,所述图像预处理还可以对地形拍摄图像进行图像增强,比如调整对比度、增加饱和度等,以凸显图像中的有价值信息,为后续数据处理提供更多的可选项和灵活性。
接着,将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图。也就是,在本申请的技术方案中,使用卷积神经网络模型来提取图像特征,本领域普通技术人员应知晓,在遥感数据处理领域,卷积神经网络模型已经成为一种重要的图像处理工具,其具有强大的特征提取能力,能够从复杂的原始数据中自动学习特征并进行有效的分类和回归等任务。因此,采用卷积神经网络模型对预处理后的地形拍摄图像进行处理是非常合理和可行的。
特别地,本领域普通技术人员应知晓,卷积神经网络模型在进行图像卷积编码的过程中,随着其编码深度的加深,其浅层特征会被淹没或者模糊化,其中,浅层特征通常包括线条、纹理、形状等。在遥感测绘领域,图像中的线条、纹理和形状等特征更多地表示地形分界,地形形状等重要信息,因此,在进行影像数据质量评估时,充分保留浅层特征由于提高图像质量评估的合理性和准确性。
进一步地,在本申请的技术方案中,如果一直采用卷积编码会使得所述卷积神经网络模型的参数量较大,会导致网络过拟合的可能性增大。因此,在本申请的技术方案中,在得到所述地形特征图后进一步引入分组卷积和通道重排操作以在充分提取特征的同时尽可能地减少模型参数量。
具体地,首先对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图,然后对所述多个地形子特征图进行分组卷积以得到多个地形深度子特征图。也就是,对所述地形特征图进行沿通道维度的特征切分以得到多个地形子特征图,并对所述各个地形特征图进行卷积操作,其中,分组卷积的参数量相较于标准卷积会发生量级缩减。但是,分组卷积操作限制了网络特征信息层的交流,缺少组间的信息交流,这就降低了网络的特征提取能力。因此,在进行分组卷积操作后,进一步引入了通道重排操作:将所述多个地形深度子特征图聚合为地形深度特征图,并对所述地形深度特征图进行通道重排以得到分类特征图。
相应地,通道重排操作将输出层不同组的特征信息重新分组,确保每组特征信息之间能够相互交流。通道重排操作可以在不影响网络精准率前提下,促进各通道间的信息充分流动,提高组间特征信息的学习能力,进一步降低网络的计算量。
最终,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准。也就是,使用所述分类器来确定所述分类特征图所属的类概率标签,其中,所述类概率标签用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准。
应可以理解,相比于传统的图像质量评价算法,本方案采用深度特征和分类器相结合的方法,能够更全面、准确地评估地形拍摄图像的质量,它既考虑了图像的分辨率,也考虑了图像的内容语义,从而具备更强的自适应性和泛化能力,可以适应各种复杂的地形环境。
特别地,在本申请的技术方案中,所述分类特征图的沿通道维度的各个特征矩阵用于表示地形影像数据的高维局部图像语义特征,即,所述分类特征图的沿通道维度的各个特征矩阵中的各个位置的特征值具有相应的位置属性,而在对所述地形特征图进行分组卷积和通道重排的操作中都涉及到特征图的特征值的位置属性,因此得到的所述分类特征图的各个位置的特征值也具有相应的位置属性。
但是,在将所述分类特征图通过分类器进行分类时,需要将所述分类特征矩阵展开为特征向量,也就是,涉及到所述分类特征图的特征值的按位置聚合,因此,期望提升所述分类特征图的各个特征值在按位置聚合时对于所述分类特征图的原特征流形的表达效果。
基于此,本申请的申请人计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数,表示为:
其中和/>分别代表将二维实数和三维实数映射为一维实数的函数,例如,实现为非线性激活函数激活加权和加偏置的表示,W、H和C分别是所述分类特征图的宽度、高度和通道数,(xi,yi,zi)为所述分类特征图的各个特征值fi的坐标,例如,可以特征矩阵的任意顶点或者中心作为坐标原点,且/>是所述分类特征图的所有特征值的全局均值。
这里,所述位置信息图式场景注意力无偏估计因数通过使用融合特征值相对于整体特征分布的高维空间位置的相对几何方向和相对几何距离的图式信息表示和高维特征本身的信息表示的更高阶的特征表达,来在特征值对整体特征分布的按位置聚合时进一步进行特征流形的形状信息聚合,以实现高维空间内的基于特征流形的各个子流形集合形状分布的场景几何的无偏估计,以准确表达特征图的流形形状的几何性质。这样,通过以所述位置信息图式场景注意力无偏估计因数对所述分类特征图的各个位置的特征值进行加权,就可以提升所述分类特征图的各个特征值在按位置聚合时对于所述分类特征图的原特征流形的表达效果,从而提升所述分类特征图通过分类器得到的分类结果的准确性。
值得一提的是,在本申请的技术方案中,在得到所述分类结果后,可基于所述所述分类结果,生成无人机飞行高度调整指令,也就是,基于影像数据的图像质量评估结果来生成无人机飞行高度调整指令,来提高所述无人机的高度设定和调整的目的性和适应性。
图1为根据本申请实施例的基于地形环境适配的无人机遥感信息采集方法的场景示意图。如图1所示,在该应用场景中,首先,获取由部署于无人机(例如,如图1中所示意的N)的高清摄像头采集的地形拍摄图像(例如,如图1中所示意的D);然后,将获取的地形拍摄图像输入至部署有基于地形环境适配的无人机遥感信息采集算法的服务器(例如,如图1中所示意的S)中,其中所述服务器能够基于地形环境适配的无人机遥感信息采集算法对所述地形拍摄图像进行处理,以生成用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准的分类结果。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
在本申请的一个实施例中,图2为根据本申请实施例的基于地形环境适配的无人机遥感信息采集方法的流程图。如图2所示,根据本申请实施例的基于地形环境适配的无人机遥感信息采集方法100,包括:110,获取由部署于无人机的高清摄像头采集的地形拍摄图像;120,对所述地形拍摄图像进行图像预处理以得到预处理后地形拍摄图像;130,将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图;140,对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图;150,对所述多个地形子特征图进行分组卷积以得到多个地形深度子特征图;160,将所述多个地形深度子特征图聚合为地形深度特征图,并对所述地形深度特征图进行通道重排以得到分类特征图;170,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准;和,180,基于所述分类结果,生成无人机飞行高度调整指令。
图3为根据本申请实施例的基于地形环境适配的无人机遥感信息采集方法的架构示意图。如图3所示,在该网络架构中,首先,获取由部署于无人机的高清摄像头采集的地形拍摄图像;然后,对所述地形拍摄图像进行图像预处理以得到预处理后地形拍摄图像;接着,将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图;然后,对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图;接着,对所述多个地形子特征图进行分组卷积以得到多个地形深度子特征图;然后,将所述多个地形深度子特征图聚合为地形深度特征图,并对所述地形深度特征图进行通道重排以得到分类特征图;接着,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准;和,最后,基于所述分类结果,生成无人机飞行高度调整指令。
具体地,在步骤110中,获取由部署于无人机的高清摄像头采集的地形拍摄图像。针对上述技术问题,本申请的技术构思为构建基于卷积神经网络模型的图像质量评估算法,以在图像质量评估时充分考虑地形影像数据中的地形语义特征以提高图像质量评估与应用场景之间的适配性,即,利于后续基于地形影像数据来生成三维点云、模型、地形图等多种测绘成果。
具体地,在本申请的技术方案中,首先获取由部署于无人机的高清摄像头采集的地形拍摄图像。应可以理解,在基于地形环境适配的无人机遥感信息采集系统中,获取由部署于无人机上的高清摄像头采集的地形拍摄图像是图像采集的初始步骤,相当于采集地形原始影像数据。
具体地,在步骤120中,对所述地形拍摄图像进行图像预处理以得到预处理后地形拍摄图像。接着,对所述地形拍摄图像进行图像预处理以得到预处理后地形拍摄图像。所述地形拍摄图像往往由于光照、投影畸变等原因存在一定程度的噪声和失真,而预处理可以对图像进行去噪去失真等操作,提高图像质量和精度,为后续的特征提取和图像分类提供更加可靠的数据支撑。
其次,在无人机遥感数据采集过程中,可能会出现天气变化、云雾覆盖等情况,导致地形拍摄图像的颜色、亮度等参数发生变化,影响图像处理和应用。相应地,通过图像预处理,可以将地形拍摄图像进行标准化,使得不同条件下拍摄的图像具有一定的统一性,方便后续的数据管理和分析。还有,所述图像预处理还可以对地形拍摄图像进行图像增强,比如调整对比度、增加饱和度等,以凸显图像中的有价值信息,为后续数据处理提供更多的可选项和灵活性。
其中,所述图像预处理包括图像灰度化、图像降噪和直方图均衡化。
具体地,在步骤130中,将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图。接着,将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图。也就是,在本申请的技术方案中,使用卷积神经网络模型来提取图像特征,本领域普通技术人员应知晓,在遥感数据处理领域,卷积神经网络模型已经成为一种重要的图像处理工具,其具有强大的特征提取能力,能够从复杂的原始数据中自动学习特征并进行有效的分类和回归等任务。因此,采用卷积神经网络模型对预处理后的地形拍摄图像进行处理是非常合理和可行的。
特别地,本领域普通技术人员应知晓,卷积神经网络模型在进行图像卷积编码的过程中,随着其编码深度的加深,其浅层特征会被淹没或者模糊化,其中,浅层特征通常包括线条、纹理、形状等。在遥感测绘领域,图像中的线条、纹理和形状等特征更多地表示地形分界,地形形状等重要信息,因此,在进行影像数据质量评估时,充分保留浅层特征由于提高图像质量评估的合理性和准确性。
图4为根据本申请实施例的基于地形环境适配的无人机遥感信息采集方法中步骤130的子步骤的流程图,如图4所示,将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图,包括:131,从所述包含深浅特征融合模块的卷积神经网络模型的浅层提取浅层特征图;132,从所述包含深浅特征融合模块的卷积神经网络模型的深层提取深层特征图;以及,133,使用所述卷积神经网络模型的深浅特征融合模块融合所述浅层特征图和所述深层特征图以得到所述地形特征图。
应可以理解,相较于标准卷积神经网络模型,根据本申请的所述卷积神经网络模型能够保留所述预处理后地形拍摄图像的浅层特征和深层特征,以不仅使得特征信息更为丰富,且不同深度的特征能得以保留,以提高分类结果的精准度。同时,深度神经网络的结构往往比较复杂,需要大量的样本数据来训练和调整,而深度网络的训练时间较长,容易过拟合。因此,在神经网络模型的设计中,通常采用浅层网络和深层网络的结合,通过深浅特征融合,可以在一定程度上降低网络的复杂度和过拟合的风险,同时提高模型的特征提取能力和泛化能力。
在使用卷积神经网络模型对所述预处理后地形拍摄图像进行编码的过程中,首先从所述卷积神经网络模型的浅层提取出浅层特征图(例如,所述浅层指的是第一层至第六层),并从所述卷积神经网络模型的深层提取深层特征图(例如,所述卷积神经网络模型的最后一层),然后,通过融合所述浅层特征图和所述深层特征图以得到包含浅层特征和深层特征的特征表示。在具体编码过程中,所述浅层特征图的提取位置由所述卷积神经网络模型的整体网络深度所决定,例如,当网络深度是30时,从所述卷积神经网络模型的第3层,当网络深度是40时,从所述卷积神经网络模型的第4层,对此,并不为本申请所局限。同样地,所述深层特征图的提取位置也并不为本申请所局限,其可以是最后一层,也可以是倒数最二层,也可以是同时从最后一层和倒数第二层。
具体地,在步骤140、步骤150和步骤160中,对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图;对所述多个地形子特征图进行分组卷积以得到多个地形深度子特征图;以及,将所述多个地形深度子特征图聚合为地形深度特征图,并对所述地形深度特征图进行通道重排以得到分类特征图。
进一步地,在本申请的技术方案中,如果一直采用卷积编码会使得所述卷积神经网络模型的参数量较大,会导致网络过拟合的可能性增大。因此,在本申请的技术方案中,在得到所述地形特征图后进一步引入分组卷积和通道重排操作以在充分提取特征的同时尽可能地减少模型参数量。
具体地,首先对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图,然后对所述多个地形子特征图进行分组卷积以得到多个地形深度子特征图。也就是,对所述地形特征图进行沿通道维度的特征切分以得到多个地形子特征图,并对所述各个地形特征图进行卷积操作,其中,分组卷积的参数量相较于标准卷积会发生量级缩减。但是,分组卷积操作限制了网络特征信息层的交流,缺少组间的信息交流,这就降低了网络的特征提取能力。因此,在进行分组卷积操作后,进一步引入了通道重排操作:将所述多个地形深度子特征图聚合为地形深度特征图,并对所述地形深度特征图进行通道重排以得到分类特征图。
相应地,通道重排操作将输出层不同组的特征信息重新分组,确保每组特征信息之间能够相互交流。通道重排操作可以在不影响网络精准率前提下,促进各通道间的信息充分流动,提高组间特征信息的学习能力,进一步降低网络的计算量。
其中,对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图,包括:对所述地形特征图进行均通道切分以得到所述多个地形子特征图,其中,所述多个地形子特征图中各个地形子特征图具有相同的尺寸。
应可以理解,如图5A和图5B所示,分组卷积的参数量式标准卷积参数量的1/G,同理,分组卷积的计算量也是标准卷积计算量的1/G。分组卷积不仅可以减少参数量,还可以降低网络过拟合的可能性。但是,分组卷积操作限制了网络特征信息层的交流,缺少组间的信息交流,这就降低了网络的特征提取能力。
因此,引入了通道重排操作,如图6所示,通道重排操作将输出层不同组的特征信息重新分组,确保每组特征信息之间能够相互交流。通道重排操作可以在不影响网络精准率前提下,促进各通道间的信息充分流动,提高组间特征信息的学习能力,进一步降低网络的计算量。
具体地,在步骤170中,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准。最终,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准。也就是,使用所述分类器来确定所述分类特征图所属的类概率标签,其中,所述类概率标签用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准。
应可以理解,相比于传统的图像质量评价算法,本方案采用深度特征和分类器相结合的方法,能够更全面、准确地评估地形拍摄图像的质量,它既考虑了图像的分辨率,也考虑了图像的内容语义,从而具备更强的自适应性和泛化能力,可以适应各种复杂的地形环境。
图7为根据本申请实施例的基于地形环境适配的无人机遥感信息采集方法中步骤170的子步骤的流程图,如图7所示,将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准,包括:171,计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数;172,以所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数作为权重分别对所述分类特征图中各个位置的特征值进行加权校正以得到校正后分类特征图;173,将所述校正后分类特征图展开为分类特征向量;以及,174,将所述分类特征向量通过所述分类器以得到所述分类结果。
特别地,在本申请的技术方案中,所述分类特征图的沿通道维度的各个特征矩阵用于表示地形影像数据的高维局部图像语义特征,即,所述分类特征图的沿通道维度的各个特征矩阵中的各个位置的特征值具有相应的位置属性,而在对所述地形特征图进行分组卷积和通道重排的操作中都涉及到特征图的特征值的位置属性,因此得到的所述分类特征图的各个位置的特征值也具有相应的位置属性。
但是,在将所述分类特征图通过分类器进行分类时,需要将所述分类特征矩阵展开为特征向量,也就是,涉及到所述分类特征图的特征值的按位置聚合,因此,期望提升所述分类特征图的各个特征值在按位置聚合时对于所述分类特征图的原特征流形的表达效果。
基于此,本申请的申请人计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数,表示为:以如下优化公式计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数;其中,所述优化公式为:
其中,fi是所述分类特征图中各个位置特征值,(xi,yi,zi)为所述分类特征图的各个位置特征值的位置坐标,且是所述分类特征图的所有特征值的全局均值,/>和分别代表将二维实数和三维实数映射为一维实数的函数,W、H和C分别是所述分类特征图的宽度、高度和通道数,log表示以2为底的对数函数,wi表示所述每个位置的特征值的位置信息图式场景注意力无偏估计因数。
这里,所述位置信息图式场景注意力无偏估计因数通过使用融合特征值相对于整体特征分布的高维空间位置的相对几何方向和相对几何距离的图式信息表示和高维特征本身的信息表示的更高阶的特征表达,来在特征值对整体特征分布的按位置聚合时进一步进行特征流形的形状信息聚合,以实现高维空间内的基于特征流形的各个子流形集合形状分布的场景几何的无偏估计,以准确表达特征图的流形形状的几何性质。这样,通过以所述位置信息图式场景注意力无偏估计因数对所述分类特征图的各个位置的特征值进行加权,就可以提升所述分类特征图的各个特征值在按位置聚合时对于所述分类特征图的原特征流形的表达效果,从而提升所述分类特征图通过分类器得到的分类结果的准确性。
其中,将所述校正后分类特征图展开为分类特征向量,包括:将所述校正后分类特征图按照行向量或列向量展开为所述分类特征向量。
进一步地,图8为根据本申请实施例的基于地形环境适配的无人机遥感信息采集方法中步骤174的子步骤的流程图,如图8所示,将所述分类特征向量通过所述分类器以得到所述分类结果,包括:1741,使用所述分类器的多个全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量;以及,1742,将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。
具体地,在步骤180中,基于所述分类结果,生成无人机飞行高度调整指令。值得一提的是,在本申请的技术方案中,在得到所述分类结果后,可基于所述分类结果,生成无人机飞行高度调整指令,也就是,基于影像数据的图像质量评估结果来生成无人机飞行高度调整指令,来提高所述无人机的高度设定和调整的目的性和适应性。
综上,基于本申请实施例的基于地形环境适配的无人机遥感信息采集方法100被阐明,其获取由部署于无人机的高清摄像头采集的地形拍摄图像;采用基于深度学习的人工智能技术,构建基于卷积神经网络模型的图像质量评估算法,以在图像质量评估时充分考虑地形影像数据中的地形语义特征,以提高图像质量评估与应用场景之间的适配性。
在本申请的一个实施例中,图9为根据本申请实施例的基于地形环境适配的无人机遥感信息采集系统的框图。如图9所示,根据本申请实施例的基于地形环境适配的无人机遥感信息采集系统200,包括:图像获取模块210,用于获取由部署于无人机的高清摄像头采集的地形拍摄图像;预处理模块220,用于对所述地形拍摄图像进行图像预处理以得到预处理后地形拍摄图像;深浅特征融合模块230,用于将所述预处理后地形拍摄图像通过包含深浅特征融合模块的卷积神经网络模型以得到地形特征图;特征图切分模块240,用于对所述地形特征图进行沿通道维度的特征图切分以得到多个地形子特征图;分组卷积模块250,用于对所述多个地形子特征图进行分组卷积以得到多个地形深度子特征图;通道重排模块260,用于将所述多个地形深度子特征图聚合为地形深度特征图,并对所述地形深度特征图进行通道重排以得到分类特征图;图像质量判断模块270,用于将所述分类特征图通过分类器以得到分类结果,所述分类结果用于表示无人机的高清摄像头采集的地形拍摄图像的图像质量是否符合预定标准;和,调整指令生成模块280,用于基于所述分类结果,生成无人机飞行高度调整指令。
在一个具体示例中,在上述基于地形环境适配的无人机遥感信息采集系统中,所述图像预处理包括图像灰度化、图像降噪和直方图均衡化。
在一个具体示例中,在上述基于地形环境适配的无人机遥感信息采集系统中,所述深浅特征融合模块,包括:浅层提取单元,用于从所述包含深浅特征融合模块的卷积神经网络模型的浅层提取浅层特征图;深层提取单元,用于从所述包含深浅特征融合模块的卷积神经网络模型的深层提取深层特征图;以及,融合单元,用于使用所述卷积神经网络模型的深浅特征融合模块融合所述浅层特征图和所述深层特征图以得到所述地形特征图。
在一个具体示例中,在上述基于地形环境适配的无人机遥感信息采集系统中,所述特征图切分模块,用于:对所述地形特征图进行均通道切分以得到所述多个地形子特征图,其中,所述多个地形子特征图中各个地形子特征图具有相同的尺寸。
在一个具体示例中,在上述基于地形环境适配的无人机遥感信息采集系统中,所述图像质量判断模块,包括:无偏估计因数计算单元,用于计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数;加权校正单元,用于以所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数作为权重分别对所述分类特征图中各个位置的特征值进行加权校正以得到校正后分类特征图;展开单元,用于将所述校正后分类特征图展开为分类特征向量;以及,分类结果单元,用于将所述分类特征向量通过所述分类器以得到所述分类结果。
在一个具体示例中,在上述基于地形环境适配的无人机遥感信息采集系统中,所述无偏估计因数计算单元,用于:以如下优化公式计算所述分类特征图的每个位置的特征值的位置信息图式场景注意力无偏估计因数;其中,所述优化公式为:
其中,fi是所述分类特征图中各个位置特征值,(xi,yi,zi)为所述分类特征图的各个位置特征值的位置坐标,且是所述分类特征图的所有特征值的全局均值,/>和分别代表将二维实数和三维实数映射为一维实数的函数,W、H和C分别是所述分类特征图的宽度、高度和通道数,log表示以2为底的对数函数,wi表示所述每个位置的特征值的位置信息图式场景注意力无偏估计因数。
在一个具体示例中,在上述基于地形环境适配的无人机遥感信息采集系统中,所述展开单元,用于:将所述校正后分类特征图按照行向量或列向量展开为所述分类特征向量。
在一个具体示例中,在上述基于地形环境适配的无人机遥感信息采集系统中,所述分类结果单元,包括:编码子单元,用于使用所述分类器的多个全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量;以及,分类子单元,用于将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。
这里,本领域技术人员可以理解,上述基于地形环境适配的无人机遥感信息采集系统中的各个单元和模块的具体功能和操作已经在上面参考图1到图8的基于地形环境适配的无人机遥感信息采集方法的描述中得到了详细介绍,并因此,将省略其重复描述。
如上所述,根据本申请实施例的基于地形环境适配的无人机遥感信息采集系统200可以实现在各种终端设备中,例如用于基于地形环境适配的无人机遥感信息采集的服务器等。在一个示例中,根据本申请实施例的基于地形环境适配的无人机遥感信息采集系统200可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如,该基于地形环境适配的无人机遥感信息采集系统200可以是该终端设备的操作系统中的一个软件模块,或者可以是针对于该终端设备所开发的一个应用程序;当然,该基于地形环境适配的无人机遥感信息采集系统200同样可以是该终端设备的众多硬件模块之一。
替换地,在另一示例中,该基于地形环境适配的无人机遥感信息采集系统200与该终端设备也可以是分立的设备,并且基于地形环境适配的无人机遥感信息采集系统200可以通过有线和/或无线网络连接到该终端设备,并且按照约定的数据格式来传输交互信息。
本申请还提供了一种计算机程序产品,所述计算机程序产品包括指令,当所述指令被执行时,以使得装置执行对应于上述方法中的操作。
在本申请的一个实施例中,还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有执行上述所述方法的计算机程序。
应可以理解,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请实施例的方法、系统、和计算机程序产品的流程图和/或框图来描述的。应理解可由计算机程序指令实现流程图和/或框图中的每一流程和/或方框、以及流程图和/或框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或框图一个方框或多个方框中指定的功能的步骤。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。