CN116309379B - 基于多数据融合的航摄质量自动检查方法 - Google Patents
基于多数据融合的航摄质量自动检查方法 Download PDFInfo
- Publication number
- CN116309379B CN116309379B CN202310163727.0A CN202310163727A CN116309379B CN 116309379 B CN116309379 B CN 116309379B CN 202310163727 A CN202310163727 A CN 202310163727A CN 116309379 B CN116309379 B CN 116309379B
- Authority
- CN
- China
- Prior art keywords
- image
- data
- aerial
- aerial photography
- path
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000007689 inspection Methods 0.000 title claims abstract description 38
- 238000000034 method Methods 0.000 title claims abstract description 33
- 230000004927 fusion Effects 0.000 title claims abstract description 17
- 230000000007 visual effect Effects 0.000 claims abstract description 21
- 238000007781 pre-processing Methods 0.000 claims abstract description 8
- 230000005489 elastic deformation Effects 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 9
- 238000012937 correction Methods 0.000 claims description 6
- 230000001133 acceleration Effects 0.000 claims description 5
- 238000005070 sampling Methods 0.000 claims description 5
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims description 4
- 238000002156 mixing Methods 0.000 claims description 3
- 230000007704 transition Effects 0.000 claims description 3
- 238000001303 quality assessment method Methods 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000013441 quality evaluation Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
Abstract
本发明提供一种基于多数据融合的航摄质量自动检查方法,包括以下步骤:在空间定位系统结合航摄设备的影像幅面进行航摄路径规划;在航摄路径上设置拍摄节点;采集姿态数据融入对应图像数据;采集环境光数据融入对应图像数据;实时进行过曝、欠曝或焦距检查;根据姿态数据和环境光数据对图像进行预处理;根据视野重叠相似性进行图像拼接;通过以上步骤获得多数据融合图像。通过采用提前规划和在线质量检查的方案,大幅提高航摄质量。通过采用卫星定位为主、姿态跟踪为辅的路径追踪方案,能够提高无人机航摄的自动化程度,结合在线色阶算法和失焦判断,能够避免出现航摄图像的质量问题,减少返工作业,进一步提高航摄质量并降低航摄成本。
Description
技术领域
本发明涉及航空影像采集领域,特别是一种基于多数据融合的航摄质量自动检查方法。
背景技术
现有的航摄质量检查通常采用浏览检查和利用POS数据进行质量检查,存在效率较低、检查准确度不够的问题。CN107941202A记载了一种航空摄影飞行质量即时检查方法及装置,其中记载了获取相机参数,计算重叠度和旋偏角的方案,能够提高检测准确度。但是该方案存在公式中部分参数,例如高精度坐标参数获取难度较大的问题。而且该方案为后检测方案,难以预防可能出现的质量问题。在航摄过程中对航摄质量影响较大的问题是影像失焦问题,目前实时检查影像失焦事故难度较大。
发明内容
本发明所要解决的技术问题是提供一种基于多数据融合的航摄质量自动检查方法,能够预防航摄质量问题,能够实时修正航摄路径,以及实时检查航摄质量,降低航摄成本。
为解决上述的技术问题,本发明的技术方案是:一种基于多数据融合的航摄质量自动检查方法,包括以下步骤:
S1、在空间定位系统结合航摄设备的影像幅面进行航摄路径规划;
S2、在航摄路径上设置拍摄节点;
S3、沿航摄路径执行拍摄规划;
S4、采集飞行器姿态数据融入对应图像数据;
S5、采集环境光数据融入对应图像数据;
S6、存储航摄POS数据;
S7、实时进行过曝、欠曝或焦距检查;
S8、根据姿态数据和环境光数据对图像进行预处理;
S9、根据视野重叠相似性进行图像拼接;
S10、根据卫星图像和航摄POS数据,生成对比图像,依据对比图像对成品图像进行质量检查;
通过以上步骤获得多数据融合并经过质量检查的航摄图像。
优选的方案中,步骤S1中包括以下步骤:
S11、获取目标位置卫星图像;
S12、在卫星图像上根据航摄设备的影像幅面进行分割单个视野图像,各个视野图像之间需要具有一定的重叠部分;
S13、在卫星图像上依据效率原则依次对各个视野图像连接,并将连接路径设置为航摄路径,航摄路径以经纬度标记。
优选的方案中,步骤S2中,将航摄路径与视野图像中心点对应的位置设置为拍摄节点;
步骤S3中,在飞行器上设有陀螺仪、加速度传感器、磁惯导传感器和高度计,由此获得飞行器的姿态数据,根据姿态数据生成实时路径,根据实时路径对飞行器的导航路径进行修正;
步骤S6中,所述的POS数据包括航摄时经纬度、曝光点高程、姿态数据、焦距、曝光时间。
优选的方案中,步骤S7中,对图像进行色阶算法检查,根据色阶分布判断图像是否过曝或欠曝。
优选的方案中,步骤S7中,选取图像的色彩差异超出预设值的局部部分,计算图像高对比度边界矢量过度区域的像素值数量,根据预设的数量值判断图像是否失焦。
优选的方案中,步骤S8中,根据姿态数据计算图像缩放比例和梯形变形参数,对图像进行几何校正;
包括以下步骤:
S81、将姿态数据中的高程数据与拍摄节点的高程数据求差;
S82、根据高程差值确定图像缩放比例,对图像进行缩放预处理;
S83、将姿态数据中的俯仰角、翻滚角和偏转角数据,对图像进行多边形变形处理,将图像的四个角点作为控制点根据距离算法对图像进行弹性变形操作,对图像进行多边形变形预处理。
优选的方案中,步骤S8中,采集第一个拍摄节点的环境光数据,计算当前拍摄节点与第一个拍摄节点的环境光数据差值,根据差值对图像亮度和色彩进行补偿。
优选的方案中,步骤S9中包括以下步骤:
S901、输入,根据航摄路径和航摄顺序初始化所有视野图像位置Xn、Yn;
S902、输入,结果集初始化M;
S903、设置当前视野图像i为第一个视野;
S904、求当前视野图像i与相邻视野图像j的可能重叠区域Ri和Rj;
S905、将重叠区域Ri栅格化为模板子块集合Pi;
S906、设置当前模板子块P为模板子块集合Pi中第一个;
S907、在相邻视野图像j中求模板子块P的可能重叠区域s;
S908、以模板子块P为模板,s为搜索区域,进行模板匹配搜索;
S909、将最佳匹配m加入结果集M;
S910、根据最佳匹配m调整相邻视野j的位置,作为输出结果。
优选的方案中,步骤S9中还包括以下步骤:
S921、根据视野图像中直线线段长度或数量对视野图像进行区域分类;
S922、若为城市区域,则将道路线段和建筑物线段作为特征,以U-Net网络赋予权值进行特征对齐拼接,其余位置采用弹性形变操作;
S923、若为非城市区域,则将山岭、山谷和水域图像分界曲线作为特征,以U-Net网络赋予权值进行特征对齐拼接,其余位置采用弹性形变操作。
优选的方案中,步骤S10中包括以下步骤:
S101、根据航摄POS数据,以地面平均高程为每个拍摄节点生成矢量平面框架;
检查相邻矢量框架的经纬度数值,完成航摄图像重叠度、旋偏角和航线弯曲度的质量检查;
地面平均高程为地面多点取样高程的平均值;
S102、读取卫星图像,根据经纬度数据将卫星图像填充至对应的矢量平面框架,读取地面高程数据,根据高程数据生成块轮廓线,根据块轮廓线将矢量平面框架依据轮廓线拉伸高度,得到立体矢量框架;
S103、根据航摄POS数据在地面平均高程生成立体矢量框架的投影图作为对比图像;
S104、随机以经纬度数据选择对比图像和成品图像相似度,根据相似度完成航摄质量评估。
本发明的基于多数据融合的航摄质量自动检查方法,通过采用提前规划和在线质量检查的方案,大幅提高航摄质量。通过采用卫星定位为主、姿态跟踪为辅的路径追踪方案,能够提高航摄的自动化程度,结合在线色阶算法和失焦判断,能够避免出现航摄图像的质量问题,减少返工作业,进一步提高航摄质量并降低航摄成本。采用基于姿态数据的图像预处理方案,能够大幅降低后续的图像处理难度,尤其是大幅降低后续的自动化图像处理的难度,提高最终航摄图像成品的质量。
附图说明
下面结合附图和实施例对本发明作进一步说明:
图1为本发明的流程图。
图2为本发明的优选方案的流程图。
图3为本发明作业时的整体结构示意图。
图4为本发明中对图像做多边形处理时的结构示意图。
图5为本发明中矢量平面框架的对比图像与成品图像进行质量检查时的示意图。
图6为本发明中图像根据特征进行拼接时的示意图。
图7为本发明中U-Net网络的流程图。
图8为本发明中两张需要多边形变形处理的相邻航摄影像示意图。
图9为本发明中两张需要旋偏角处理的相邻航摄影像示意图。
图10为本发明中检查出的失焦航摄影像示意图。
图11为本发明中对航摄影像进行色阶算法检查的示意图。
图12为本发明中未进行亮度补偿使拼接边缘亮度不均匀的航摄影像示意图。
图13为本发明中以正射影像拼接后的图像。
图中:卫星1、飞行器2、规划路径3、修正路径4、视野图像5、校正后的姿态图像6、原始视野图像7、矢量平面框架8、成品图像9。
具体实施方式
实施例1:
如图1~4中,一种基于多数据融合的航摄质量自动检查方法,包括以下步骤:
S1、在空间定位系统结合航摄设备的影像幅面进行航摄路径规划;所述的空间定位系统包括GPS或北斗卫星定位系统。通过空间定位系统结合高度计为航摄路径进行规划。
优选的方案如图2、3中,步骤S1中包括以下步骤:
S11、获取目标位置卫星图像,此处的目标位置是指需要航摄作业的区域。卫星图像可以作为航摄目标的缩略图,用于指导航摄设备的路径规划。
S12、在卫星图像上根据航摄设备的影像幅面进行分割单个视野图像5,如图5、6中所示,各个视野图像之间需要具有一定的重叠部分;优选的,在规划过程中,各个视野图像之间设置10%的重叠部分,以避免在矫正后使相邻的视野图像之间出现空白区域。参见图6中所示。
S13、在卫星图像上依据效率原则依次对各个视野图像连接,例如采用如图3中的“S”形或者螺旋形路径,并将各个相邻的视野图像5之间的连接路径设置为航摄路径,航摄路径以经纬度标记,在航摄路径设置高度参数。当航摄相机采用定焦镜头时,高度参数直接影响影像幅面的大小。因此进行航摄作业时,需要精确控制航摄路径的高度参数。
S2、在航摄路径上设置拍摄节点;
优选的方案如图3、6中,步骤S2中,将航摄路径与视野图像中心点对应的位置设置为拍摄节点。优选的,本例中的拍摄节点位置的设置以正摄工业相机或者工作相机的正摄镜头作为设置基础,不考虑旁摄相机或旁摄镜头。避免梯形校正后,建筑物立体变形导致的误差。
S3、沿航摄路径执行拍摄规划;
优选的方案如图3中,步骤S3中,在飞行器上设有陀螺仪、加速度传感器、磁惯导传感器和高度计,由此获得飞行器的姿态数据,根据姿态数据生成实时路径,根据实时路径对飞行器的导航路径进行修正。在民用级别,通过GPS导航系统的定位精度为2.5~10米,而北斗导航系统的定位精度为1.5~3米,而基于MEMS的姿态传感器,即集成陀螺仪、加速度传感器、磁惯导传感器的9轴传感器,精度误差大约在5×10^-4/h~10^-1/h°范围内,而采用大疆FPV飞行器的最高时速140km/h,平均时速120 km/h计算,即每120 km最大误差在0.1°,每公里偏移约为0.015米,远高于卫星定位系统的精度。因此以陀螺仪、加速度传感器、磁惯导传感器和高度计对轨迹进行跟踪是有益的。具体的路径修正方法是,以卫星定位系统的路径起始点作为原点P0,下一个拍摄节点作为P1,以姿态传感器跟踪飞行器的运行路径,将姿态传感器的路径转化为经纬度,然后与卫星定位系统的导航路径进行比较,并在一定范围内以姿态传感器的路径作为实际运行路径,将姿态传感器的路径与卫星定位系统的导航路径的差值存储。所述的一定范围是指卫星定位系统的误差范围,通常按卫星定位系统的误差极限值进行计算。若出现姿态传感器的路径超出卫星定位系统的误差极限值的情形,需要重新设定新的拍摄节点作为卫星定位系统的路径起始点原点。优选的方案中,采用至少两个特征点进行激光导航定位。即根据经纬度明确的特征构建物,例如大桥的桥墩、高层建筑等构建物,通过至少两点激光测距的方式重新校准航摄相机的经纬度和高度数据,即先根据激光测距结果得出两个解,再根据卫星定位系统的数据分辨真假解,以减少定位误差。
S4、采集姿态数据融入对应图像数据;即在航摄时,将包括偏转角即以z轴为轴心相对z、x轴平面的夹角、俯仰角即以y轴为轴心相对z、y水平面的夹角、翻滚角即以x轴为轴心相对x、y轴平面的夹角、分时速度数据、当前经纬度数据和高度数据等姿态数据融入图像数据中,也可以采用关系数据库加以对应存储。
S5、采集环境光数据融入对应图像数据;由于整个航摄所需时间较长,当需要确保最终影像的亮度值保持一致,则需要采集每张视野图像5的环境光数据,以辅助后续的亮度和颜色补偿。以大幅提高最终影响的一致性。
S6、存储航摄POS数据;所述的POS数据包括航摄时经纬度、曝光点高程、姿态数据、焦距、曝光时间。
S7、实时进行过曝、欠曝或焦距检查;
优选的方案如图11中,步骤S7中,对图像进行色阶算法检查,根据色阶分布判断图像是否过曝或欠曝。色阶算法采用将RGB 整体通道做色阶运算,结合相邻视野图像的色阶数据,对每个视野图像的色阶参数进行分析,若黑场阈值大于预设值或相邻视野图像的色阶数据加权优化预设值,则判断为欠曝,加权优化预设值是指若相邻的超出预设值的图像最终经过人工判断为正常,则重新以该相邻视野图像的色阶数据对预设值施加影响,例如相应增大黑场阈值。相应的若白场阈值大于预设值或相邻视野图像的色阶数据加权优化预设值,则判断为过曝。出现欠曝或过曝的结果,需要调整航摄参数后重新补拍,若两次拍摄均不满足检查要求,则发送信号请求人工处理,包括继续调整航摄参数,以及停止作业,择期继续进行航摄等处理方式。如图11中,即检查发现存在欠曝的情形。
优选的方案如图10中,步骤S6中,选取图像的色彩差异较大的局部部分,计算图像高对比度边界矢量过度区域的像素值数量,根据预设的数量值判断图像是否失焦。失焦判断采用以下的方案,首先利用神经网络训练的选择器将图像中具有高对比度的区域位置选定,选择其中对比度最高的2~3个区域进行分析,对其中一个区域的边缘进行轮廓追踪,以折线对轮廓进行拟合,生成折线的垂直线,根据高对比度区域的对比度变化对垂直线的长度取值,例如在一个高对比度区域,一个区域的RGB值为200、50、100,而另一个区域的RGB值为50、50、80,则对沿着相应垂直线的两个区域边缘的最短距离作为垂直线的长度,取垂直线的长度最短的1~10组数据,即得出高对比度边界矢量过度区域的像素值数量,将该像素值数量与预设值例如5~10个像素值进行比对,即可判断是否出现图像失焦。如图10中所示,由于受风、机械振动、设备故障、水雾、灰尘等的影响,失焦一直是自动化航摄中最容易出现且难以克服的质量事故,采用上述的方案能够较好的避免相应的成本损失,大幅提高最终影像的质量。
S8、根据姿态数据和环境光数据对图像进行预处理;
优选的方案中,步骤S8中,根据姿态数据计算图像缩放比例和梯形变形参数,对图像进行几何校正;
包括以下步骤:
S81、将姿态数据中的高程数据与拍摄节点的高程数据求差;
S82、根据高程差值确定图像缩放比例,对图像进行缩放预处理;以当前视野图像的高程值、航摄参数与预设高程值之间的差值作为输入参数,根据经验公式,即不同高程值和航摄参数与缩放比例之间的关系式,对图像进行缩放预处理。经验公式通过计算和标定获得。
S83、将姿态数据中的俯仰角、翻滚角和偏转角数据,对图像进行多边形变形处理,将图像的四个角点作为控制点根据距离算法对图像进行弹性变形操作,对图像进行多边形变形预处理。优选的,采用如图4中所示的方案对视野影像进行校正,以姿态参数作为数据输入,通过三角函数计算出各个角点在投影面上位移距离,对图像的四个角点的位置进行位移,图像中其他像素采用弹性变形计算,例如两次立方插值运算。如图8中所示,当视野影像存在变形误差时,需要对局部进行多边形变形处理,才能使两张相邻航摄影像对齐。
优选的方案中,步骤S8中,采集第一个拍摄节点的环境光数据,计算当前拍摄节点与第一个拍摄节点的环境光数据差值,根据差值对图像亮度和色彩进行补偿。需要说明的,亮度变化会对色彩造成一定的影响,相应的补偿参数也通过先人工调节亮度,然后进行色彩补偿的方式获得,将相应的调整参数存储为数据库形成亮度和色彩补偿的经验公式。如图12中,如果未对相邻的航摄影像进行亮度补偿,则在两个航摄影像之间形成较为明显的分界线。
S9、根据视野重叠相似性进行图像拼接;
优选的方案如图8中,步骤S8中包括以下步骤:
S901、输入,根据航摄路径和航摄顺序初始化所有视野图像位置Xn、Yn;
S902、输入,结果集初始化M;
S903、设置当前视野图像i为第一个视野;
S904、求当前视野图像i与相邻视野图像j的可能重叠区域Ri和Rj;
S905、将重叠区域Ri栅格化为模板子块集合Pi;
S906、设置当前模板子块P为模板子块集合Pi中第一个;
S907、在相邻视野图像j中求模板子块P的可能重叠区域s;
S908、以模板子块P为模板,s为搜索区域,进行模板匹配搜索;
S909、将最佳匹配m加入结果集M;
S910、根据最佳匹配m调整相邻视野j的位置,作为输出结果。
优选的方案中,步骤S9中还包括以下步骤:
S921、根据视野图像中直线线段长度或数量对视野图像进行区域分类;
S922、若为城市区域,则将道路线段和建筑物线段作为特征,以U-Net网络赋予较高权值进行特征对齐拼接,其余位置采用弹性形变操作;如图7中所示。拼接方式是将特征在通道维度拼接组合在一起,保留了更多维度信息,保证上采样恢复出来的特征不会很粗糙;向下箭头表示下采样模块最大池化操作,用于降低数据维度;向上箭头表示上采样模块反卷积操作;横向箭头表示 1x1 卷积操作。其中重叠-切片(Overlap-tile)策略是适用于数据量较少或者不适合原图进行插值操作的情况,其策略可解决图像细节损失问题,可直接对边界区域提供上下文信息,并在数据量较少时能够扩充数据量,在输入网络前对图像进行镜像填充,使得最终的输出尺寸与原图保持一致。
S923、若为非城市区域,则将山岭、山谷和水域图像分界曲线作为特征,以U-Net网络赋予较高权值进行特征对齐拼接,其余位置采用弹性形变操作。
优选的方案中,步骤S10中包括以下步骤:
S101、如图5中,根据航摄POS数据和高程数据,以地面平均高程为每个拍摄节点生成矢量平面框架8;在CN 107941202 A中,采用了较为粗糙的计算方案,尤其是在经纬度-坐标转换中存在较大的误差,以及投影面设定误差等,其检查精度不高,仅能作为估算参考,尤其是涉及不同高程构建物的投影图像,在现有技术中均未能体现,因此对于质量检查的评估效果并不可靠。本发明中以地面平均高程作为投影面生成基于航摄POS数据和高程数据的矢量平面框架8,与现有技术相比,更能反映出真实的航摄质量。
检查相邻矢量框架的经纬度数值,完成航摄图像如图8中的重叠度、如图9中的旋偏角和航线弯曲度的质量检查;以矢量框架的四个角点经纬度数值生成矩阵聚类,比较相邻矢量框架的矩阵聚类,即可判断是否存在交叉区域,从而完成重叠度质量检查。该检查步骤可以不依赖实际图像,仅由航摄POS数据和高程数据即完成检查工作。旋偏角是在航空摄影过程中,相邻图像的主点连线与像幅沿航线方向的两框标连线之间的夹角,以矢量框架沿航向的边求取过中点的平行线与相邻拍摄节点之间夹角即得出旋偏角。以航摄POS数据中的相邻拍摄节点之间进行连线,求取相邻线段之间的夹角,即可得出各个拍摄节点之间的航线弯曲度。根据预设的阈值对重叠度、旋偏角和航线弯曲度进行检查。由于在航摄过程中即完成了视野图像的过曝、欠曝和失焦检查,因此本发明的整体航摄质量评估较为全面。
地面平均高程为地面多点取样高程的平均值;通过获取近似值的方式,在确保评估质量的基础上,大幅减少了运算量。此处的地面仅包括自然或人工地面,不包含地面上的构建物。
S102、读取卫星图像,根据经纬度数据将卫星图像填充至对应的矢量平面框架,读取地面高程数据,根据高程数据生成块轮廓线,根据块轮廓线将矢量平面框架依据轮廓线拉伸高度,得到立体矢量框架;该方案能够快速生成矢量图形,以作为生成检查对比图像的基础。此处的地面高程数据包括地形的高程数据,以及人工构建物,例如楼房、桥梁等构建物的高程数据,地面高程数据由激光雷达的激光点云或历史数据库中的数据获得。
S103、根据航摄POS数据在地面平均高程生成立体矢量框架的投影图作为对比图像;即将立体矢量框架在矢量框架上进行投影,投影方式为点透视投影,投影点为各个矢量框架所对应的拍摄节点。
S104、随机以经纬度数据选择对比图像和成品图像9特征区域作为特征点,进行相似度评估,根据相似度数值完成航摄质量评估。以特征点结果的交并比IoU值对航摄质量进行评估:
𝐼𝑜𝑈(D, C)= 𝐴𝑟𝑒𝑎(D ⋂ C)/ 𝐴𝑟𝑒𝑎(D ∪ C);
D为对比图像中提取的特征点,C为成品图像中提取的特征点。IoU的值越高,则表示二者的高重叠精度,通常将阈值设定为0.45,即表示航摄质量符合质量要求。
通过以上步骤获得多数据融合并经过质量检查的航摄图像。如图13中所示。
上述的实施例仅为本发明的优选技术方案,而不应视为对于本发明的限制,本申请中的实施例及实施例中的特征在不冲突的情况下,可以相互任意组合。本发明的保护范围应以权利要求记载的技术方案,包括权利要求记载的技术方案中技术特征的等同替换方案为保护范围。即在此范围内的等同替换改进,也在本发明的保护范围之内。
Claims (8)
1.一种基于多数据融合的航摄质量自动检查方法,其特征是包括以下步骤:
S1、在空间定位系统结合航摄设备的影像幅面进行航摄路径规划;
本步骤中包括以下步骤:
S11、获取目标位置卫星图像;
S12、在卫星图像上根据航摄设备的影像幅面进行分割单个视野图像,各个视野图像之间需要具有一定的重叠部分;
S13、在卫星图像上依据效率原则依次对各个视野图像连接,并将连接路径设置为航摄路径,航摄路径以经纬度标记;
S2、在航摄路径上设置拍摄节点;
S3、沿航摄路径执行拍摄规划,得到图像数据;
S4、采集飞行器的姿态数据融入对应图像数据;
S5、采集环境光数据融入对应图像数据;
S6、存储航摄POS数据;
S7、实时进行过曝、欠曝或焦距检查;
S8、根据姿态数据和环境光数据对图像进行预处理;
S9、根据视野重叠相似性进行图像拼接,得到成品图像;
S10、根据卫星图像和航摄POS数据,生成对比图像,依据对比图像对成品图像进行质量检查;
本步骤中包括以下步骤:
S101、根据航摄POS数据,以地面平均高程为每个拍摄节点生成矢量平面框架;
检查相邻矢量框架的经纬度数值,完成航摄图像重叠度、旋偏角和航线弯曲度的质量检查;
地面平均高程为地面多点取样高程的平均值;
S102、读取卫星图像,根据经纬度数据将卫星图像填充至对应的矢量平面框架,读取地面高程数据,根据高程数据生成块轮廓线,根据块轮廓线将矢量平面框架依据轮廓线拉伸高度,得到立体矢量框架;
S103、根据航摄POS数据在地面平均高程生成立体矢量框架的投影图作为对比图像;
S104、随机以经纬度数据选择对比图像和成品图像相似度,根据相似度完成航摄质量评估;
获得多数据融合并经过质量检查的航摄图像。
2.根据权利要求1所述的一种基于多数据融合的航摄质量自动检查方法,其特征是:
步骤S2中,将航摄路径与视野图像中心点对应的位置设置为拍摄节点;
步骤S3中,在飞行器上设有陀螺仪、加速度传感器、磁惯导传感器和高度计,由此获得飞行器的姿态数据,根据姿态数据生成实时路径,根据实时路径对飞行器的导航路径进行修正;
步骤S6中,所述的POS数据包括航摄时经纬度、曝光点高程、姿态数据、焦距和曝光时间。
3.根据权利要求1所述的一种基于多数据融合的航摄质量自动检查方法,其特征是:步骤S7中,对图像进行色阶算法检查,根据色阶分布判断图像是否过曝或欠曝。
4.根据权利要求1或3所述的一种基于多数据融合的航摄质量自动检查方法,其特征是:步骤S7中,选取图像的色彩差异超出预设值的局部部分,计算图像高对比度边界矢量过度区域的像素值数量,根据预设的数量值判断图像是否失焦。
5.根据权利要求1所述的一种基于多数据融合的航摄质量自动检查方法,其特征是:步骤S8中,根据姿态数据计算图像缩放比例和梯形变形参数,对图像进行几何校正;
包括以下步骤:
S81、将姿态数据中的高程数据与拍摄节点的高程数据求差;
S82、根据高程差值确定图像缩放比例,对图像进行缩放预处理;
S83、将姿态数据中的俯仰角、翻滚角和偏转角数据,对图像进行多边形变形处理,将图像的四个角点作为控制点根据距离算法对图像进行弹性变形操作,对图像进行多边形变形预处理。
6.根据权利要求1所述的一种基于多数据融合的航摄质量自动检查方法,其特征是:步骤S8中,采集第一个拍摄节点的环境光数据,计算当前拍摄节点与第一个拍摄节点的环境光数据差值,根据差值对图像亮度和色彩进行补偿。
7.根据权利要求1所述的一种基于多数据融合的航摄质量自动检查方法,其特征是步骤S9中包括以下步骤:
S901、输入,根据航摄路径和航摄顺序初始化所有视野图像位置Xn、Yn;
S902、输入,结果集初始化M;
S903、设置当前视野图像i为第一个视野;
S904、求当前视野图像i与相邻视野图像j的可能重叠区域Ri和Rj;
S905、将重叠区域Ri栅格化为模板子块集合Pi;
S906、设置当前模板子块P为模板子块集合Pi中第一个;
S907、在相邻视野图像j中求模板子块P的可能重叠区域s;
S908、以模板子块P为模板,s为搜索区域,进行模板匹配搜索;
S909、将最佳匹配m加入结果集M;
S910、根据最佳匹配m调整相邻视野j的位置,作为输出结果。
8.根据权利要求1所述的一种基于多数据融合的航摄质量自动检查方法,其特征是步骤S9中还包括以下步骤:
S921、根据视野图像中直线线段长度或数量对视野图像进行区域分类;
S922、若为城市区域,则将道路线段和建筑物线段作为特征,以U-Net网络赋予权值进行特征对齐拼接,其余位置采用弹性形变操作;
S923、若为非城市区域,则将山岭、山谷和水域图像分界曲线作为特征,以U-Net网络赋予权值进行特征对齐拼接,其余位置采用弹性形变操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310163727.0A CN116309379B (zh) | 2023-02-24 | 2023-02-24 | 基于多数据融合的航摄质量自动检查方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310163727.0A CN116309379B (zh) | 2023-02-24 | 2023-02-24 | 基于多数据融合的航摄质量自动检查方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116309379A CN116309379A (zh) | 2023-06-23 |
CN116309379B true CN116309379B (zh) | 2023-11-03 |
Family
ID=86831702
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310163727.0A Active CN116309379B (zh) | 2023-02-24 | 2023-02-24 | 基于多数据融合的航摄质量自动检查方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116309379B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107941202A (zh) * | 2018-01-03 | 2018-04-20 | 中煤航测遥感集团有限公司 | 一种航空摄影飞行质量即时检查方法及装置 |
CN112113542A (zh) * | 2020-09-14 | 2020-12-22 | 浙江省自然资源征收中心 | 一种无人机航摄建设用地土地专项数据验收的方法 |
CN114820583A (zh) * | 2022-05-28 | 2022-07-29 | 自然资源部国土卫星遥感应用中心 | 一种海量多源卫星遥感影像自动化质量检查方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008115405A2 (en) * | 2007-03-16 | 2008-09-25 | Sti Medicals Systems, Llc | A method of image quality assessment to procuce standardized imaging data |
-
2023
- 2023-02-24 CN CN202310163727.0A patent/CN116309379B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107941202A (zh) * | 2018-01-03 | 2018-04-20 | 中煤航测遥感集团有限公司 | 一种航空摄影飞行质量即时检查方法及装置 |
CN112113542A (zh) * | 2020-09-14 | 2020-12-22 | 浙江省自然资源征收中心 | 一种无人机航摄建设用地土地专项数据验收的方法 |
CN114820583A (zh) * | 2022-05-28 | 2022-07-29 | 自然资源部国土卫星遥感应用中心 | 一种海量多源卫星遥感影像自动化质量检查方法 |
Non-Patent Citations (1)
Title |
---|
基于FANS FES的IMU/DGPS辅助航空摄影快速质量检查方法;陈燕燕;崔迎迎;;科技资讯(第18期);第31-33页 * |
Also Published As
Publication number | Publication date |
---|---|
CN116309379A (zh) | 2023-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108692719B (zh) | 物体检测装置 | |
CN115439424B (zh) | 一种无人机航拍视频图像智能检测方法 | |
US20130135474A1 (en) | Automotive Camera System and Its Calibration Method and Calibration Program | |
CN109931939A (zh) | 车辆的定位方法、装置、设备及计算机可读存储介质 | |
CN111260615B (zh) | 基于激光和机器视觉融合的无人机桥梁表观病害检测方法 | |
EP3876189A1 (en) | Geographic object detection device, geographic object detection method, and geographic object detection program | |
CN102208036A (zh) | 车辆位置检测系统 | |
CN110766760B (zh) | 用于相机标定的方法、装置、设备和存储介质 | |
CN110033411A (zh) | 基于无人机的公路施工现场全景图像高效拼接方法 | |
KR20210081983A (ko) | 카메라 기반의 자동화된 정밀도로지도 생성 시스템 및 방법 | |
CN112347205B (zh) | 一种车辆误差状态的更新方法和装置 | |
CN113819974A (zh) | 一种免水尺的河流水位视觉测量方法 | |
CN113903011A (zh) | 一种适用于室内停车场的语义地图构建及定位方法 | |
KR101255461B1 (ko) | 도로시설물 자동 위치측정 방법 | |
WO2021212477A1 (zh) | 校正点云数据的方法和相关装置 | |
CN110009675A (zh) | 生成视差图的方法、装置、介质及设备 | |
CN103411587A (zh) | 定位定姿方法及系统 | |
CN113834492A (zh) | 地图匹配方法、系统、设备及可读存储介质 | |
CN112947526A (zh) | 一种无人机自主降落方法和系统 | |
CN114719873A (zh) | 一种低成本精细地图自动生成方法、装置及可读介质 | |
KR102490521B1 (ko) | 라이다 좌표계와 카메라 좌표계의 벡터 정합을 통한 자동 캘리브레이션 방법 | |
KR102316818B1 (ko) | 도로 네트워크를 갱신하는 방법 및 장치 | |
CN110415299B (zh) | 一种运动约束下基于设定路牌的车辆位置估计方法 | |
CN116309379B (zh) | 基于多数据融合的航摄质量自动检查方法 | |
CN115950435A (zh) | 无人机巡检影像的实时定位方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |