CN112946679A - 一种基于人工智能的无人机测绘果冻效应检测方法及系统 - Google Patents

一种基于人工智能的无人机测绘果冻效应检测方法及系统 Download PDF

Info

Publication number
CN112946679A
CN112946679A CN202110132863.4A CN202110132863A CN112946679A CN 112946679 A CN112946679 A CN 112946679A CN 202110132863 A CN202110132863 A CN 202110132863A CN 112946679 A CN112946679 A CN 112946679A
Authority
CN
China
Prior art keywords
point cloud
region
interest
sub
cloud density
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110132863.4A
Other languages
English (en)
Other versions
CN112946679B (zh
Inventor
王栋
刘利
陈强
王晓雯
高祥
张潇潇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN202110132863.4A priority Critical patent/CN112946679B/zh
Publication of CN112946679A publication Critical patent/CN112946679A/zh
Application granted granted Critical
Publication of CN112946679B publication Critical patent/CN112946679B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明涉及人工智能技术领域,具体涉及一种基于人工智能的无人机测绘果冻效应检测方法及系统。该方法通过无人机上部署的双目相机和激光雷达扫描仪获得RGB图像和三维点云,并根据三维点云获得深度图像;获得双目相机重叠区域中的建筑物区域作为第一感兴趣区域并获得双目点云;在第一感兴趣区域中进一步划分第一子区域,对第一子区域内点云密度比进行差异性分析获得第二感兴趣区域;在第二感兴趣区域中划分第二子区域,通过每个第二子区域内的坐标差异特征、第二感兴趣区域的稳定度和第二子区域的比例差异均值分析果冻效应程度。通过双目点云和三维点云的对比分析获得准确且量化的果冻效应程度,为无人机测绘过程提供了参考依据。

Description

一种基于人工智能的无人机测绘果冻效应检测方法及系统
技术领域
本发明涉及人工智能技术领域,具体涉及一种基于人工智能的无人机测绘果冻效应检测方法及系统。
背景技术
在利用无人机进行航拍测绘过程中,为了得到清晰的图像,会在无人机上部署具有卷帘快门的RGB相机。卷帘快门的相机成像质量好,图像清晰,但是因为卷帘快门的特性,在无人机飞行过程中,当机架或装置发生共振时,相机采集的图像将会发生果冻效应。全局快门虽然可以避免果冻效应,但是卷帘快门具有输出简单、成本效益高、电子噪声少等优点,因此卷帘快门相机仍是目前最广泛的快门技术。但是在城市测绘中卷帘快门噪声的果冻效应会对获得的数据精度有一定影响,因为果冻效应程度不同,所以将果冻效应量化,解决果冻效应程度的检测是当前需要解决的问题。
发明内容
为了解决上述技术问题,本发明的目的在于提供一种基于人工智能的无人机测绘果冻效应检测方法及系统,所采用的技术方案具体如下:
本发明提出了一种基于人工智能的无人机测绘果冻效应检测方法,所述方法包括:
通过无人机上双目相机和激光雷达扫描仪获得RGB图像和所述三维点云;利用所述三维点云获得深度图像;
获得RGB图像内所述双目相机的重叠区域;提取所述重叠区域内建筑物区域作为第一感兴趣区域;对所述第一感兴趣区域进行三维重建获得双目点云;
将所述第一感兴趣区域划分多个第一子区域;分别计算所述第一子区域和所述深度图像对应区域内的点云密度;所述点云密度包括双目点云密度和三维点云密度;所述双目点云密度和所述三维点云密度比例为点云密度比;选取一个所述第一子区域内的点云密度比为第一点云密度比,计算其他每个所述第一子区域的所述点云密度比与所述第一点云密度比的差异性;选取差异性最小的所述点云密度比为标准点云密度比;差异性最大的所述第一子区域作为第二感兴趣区域;
将所述第二感兴趣区域划分多个第二子区域;所述深度图像中划分相同的所述第二子区域;计算每个所述第二子区域内所述RGB图像和所述深度图像中的坐标误差特征;
根据每个所述第二子区域内的所述点云密度计算所述第二感兴趣区域的稳定度;
计算每个所述第二子区域内点云密度比与所述标准点云密度比的比例差异均值;
利用所述坐标误差特征、所述稳定度和所述比例差异均值分析获得果冻效应程度。
进一步地,所述激光雷达扫描仪采用TOF激光雷达,且所述激光雷达扫描仪和所述双目相机中一个相机的拍摄角度和范围相同。
进一步地,所述提取所述重叠区域内建筑物区域作为第一感兴趣区域包括:
提取所述双目相机所拍摄的两张所述RGB图像中的建筑物角点作为特征点;寻找同一空间位置在两张所述RGB图像中的所述特征点的投影点,对所述特征点进行匹配得到重叠区域;
分析所述重叠区域中的颜色特征信息,提取建筑物区域,并提取所述建筑物区域的外接矩形作为所述第一感兴趣区域。
进一步地,所述计算每个所述第二子区域内所述RGB图像和所述深度图像中的坐标误差特征:
将所述深度图像中对应所述第二感兴趣区域的区域内的所述三维点云坐标转换到所述双目点云坐标中,获得转换坐标;计算所述转换坐标和所述双目点云的坐标差异均值;
通过坐标误差特征计算模型获得所述坐标误差特征:
Figure BDA0002925993510000021
其中,σ′为所述第二感兴趣区域中的所述坐标误差特征,σi表示第i个所述第二子区域的所述坐标误差均值,σj示第j个所述第二子区域的所述坐标误差均值,
Figure BDA0002925993510000022
表示σj所占的整个所述第二感兴趣区域内的权重,n为所述第二子区域数量。
进一步地,所述三维点云坐标转换到所述双目点云坐标中包括:
通过三维点云坐标转换公式进行坐标转换:
pt=R·ps+T
其中,pt为所述转换坐标,ps为所述三维点云坐标,R为旋转矩阵,T为平移矩阵。
进一步地,所述根据每个所述第二子区域内的所述点云密度计算所述第二感兴趣区域的稳定度包括:
计算最大所述点云密度比与最小所述点云密度比的比值获得点云密度比例差异比;
所述点云密度比例差异比减一的绝对值为所述稳定度。
进一步地,所述利用所述坐标误差特征、所述稳定度和所述比例差异均值分析获得果冻效应程度包括:
通过果冻效应指标分析模型分析所述果冻效应程度:
Figure BDA0002925993510000031
其中,ω为果冻效应指标,α、β和γ为拟合权重,σ′N为归一化后的所述坐标误差特征,
Figure BDA0002925993510000032
为归一化后的所述稳定度,
Figure BDA0002925993510000033
为归一化后的所述比例差异均值。
本发明还提出了一种基于人工智能的无人机测绘果冻效应检测系统,所述系统包括:图像信息获取模块、第一感兴趣区域获取模块、第二感兴趣区域获取模块、坐标误差特征获取模块、稳定度获取模块、比例差异获取模块和果冻效应程度获取模块;
所述图像信息获取模块用于通过无人机上双目相机和激光雷达扫描仪获得RGB图像和三维点云;利用所述三维点云获得深度图像;
所述第一感兴趣区域获取模块用于获得所述RGB图像内所述双目相机的重叠区域;提取所述重叠区域内建筑物区域作为第一感兴趣区域;对所述第一感兴趣区域进行三维重建获得双目点云;
所述第二感兴趣区域获取模块用于将所述第一感兴趣区域划分多个第一子区域;分别计算所述第一子区域和所述深度图像对应区域内的点云密度;所述点云密度包括双目点云密度和三维点云密度;所述双目点云密度和所述三维点云密度比例为点云密度比;选取一个所述第一子区域内的点云密度比为第一点云密度比,计算其他每个所述第一子区域的所述点云密度比与所述第一点云密度比的差异性;选取差异性最小的所述点云密度比为标准点云密度比;差异性最大的所述第一子区域作为第二感兴趣区域;
所述坐标误差特征获取模块用于将所述第二感兴趣区域划分多个第二子区域;所述深度图像中划分相同的所述第二子区域;计算每个所述第二子区域内所述RGB图像和所述深度图像中的坐标误差特征;
所述稳定度获取模块用于根据每个所述第二子区域内的所述点云密度计算所述第二感兴趣区域的稳定度;
所述比例差异获取模块用于计算每个所述第二子区域内点云密度比与所述标准点云密度比的比例差异均值;
所述果冻效应程度获取模块用于利用所述坐标误差特征、所述稳定度和所述比例差异均值分析获得果冻效应程度。
进一步地,所述图像信息获取模块中的激光雷达扫描仪采用TOF激光雷达,且所述激光雷达扫描仪和所述双目相机中一个相机的拍摄角度和范围相同。
进一步地,所述第一感兴趣区域获取模块还包括重叠区域获取模块和颜色特征分析模块;
所述重叠区域获取模块用于提取所述双目相机所拍摄的两张所述RGB图像中的建筑物角点作为特征点;寻找同一空间位置在两张所述RGB图像中的所述特征点的投影点,对所述特征点进行匹配得到重叠区域;
所述颜色特征分析模块用于分析所述重叠区域中的颜色特征信息,提取建筑物区域,并提取所述建筑物区域的外接矩形作为所述第一感兴趣区域。
本发明具有如下有益效果:
1.本发明实施例分析多个特征对果冻效应程度的影响,把更多因素考虑在内,更全面更准确的检测了果冻效应程度,获得了量化的果冻效应程度。为无人机测绘过程提供了参考依据。
2.本发明实施例结合双目相机和激光雷达扫描仪对图像进行采集,获得了颜色特征鲜明的RGB图像和三维点云获得的深度图像。通过RGB图像获得的双目点云和激光雷达扫描仪获得的三维点云对当前发生的果冻效应图片进行分析,提高了检测果冻效应的准确度。
3.本发明实施例通过划分多个感兴趣区域和相应的子区域,仅对划分的感兴趣区域进行处理分析,减少了系统计算量,提高了检测效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案和优点,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它附图。
图1为本发明一个实施例所提供的一种基于人工智能的无人机测绘果冻效应检测方法流程图;
图2为本发明一个实施例所提供的一种基于人工智能的无人机测绘果冻效应检测系统框图;
具体实施方式
为了更进一步阐述本发明为达成预定发明目的所采取的技术手段及功效,以下结合附图及较佳实施例,对依据本发明提出的一种基于人工智能的无人机测绘果冻效应检测方法及系统,其具体实施方式、结构、特征及其功效,详细说明如下。在下述说明中,不同的“一个实施例”或“另一个实施例”指的不一定是同一实施例。此外,一或多个实施例中的特定特征、结构、或特点可由任何合适形式组合。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。
下面结合附图具体的说明本发明所提供的一种基于人工智能的无人机测绘果冻效应检测方法及系统的具体方案。
请参阅图1,其示出了本发明一个实施例提供的一种基于人工智能的无人机测绘果冻效应检测方法流程图,该方法具体包括:
步骤S1:利用双目相机和激光雷达扫描仪获得RGB图像和深度图像。
在无人机上部署双目相机和激光雷达扫描仪,激光雷达扫描仪的拍摄角度和范围与双目相机中的一个相机拍摄角度和范围相同。在本发明实施例中,激光雷达扫描仪和左侧相机拍摄角度和范围相同,激光雷达扫描仪采用TOF激光雷达。
使用卷帘快门的双目相机可以采集到高质量的RGB图像,使用TOF激光雷达可以采集到的高质量的三维点云数据。当无人机产生振动时,利用卷帘快门的双目相机逐行曝光时不同像素行之间可能会产生相互挤压导致果冻效应。TOF激光雷达采用全局快门采集数据,在一次曝光一张图片时不会出现果冻效应。通过双目相机和激光雷达扫描仪获得RGB图像和三维点云,利用三维点云可获得深度图像,根据RGB图像和深度图像对比分析果冻效应程度。
步骤S2:通过双目相机重叠区域和建筑区域划分第一感兴趣区域。
为了能够降低无关工况对检测RGB图像果冻效应的影响,提高系统的检测速度,减少系统计算量,本发明实施例通过双目相机重叠区域内的建筑区域划分第一感兴趣区域,对第一感兴趣区域进行三维重建获得双目点云,具体包括:
1)提取双目相机采集的RGB图像中的特征数据,本发明实施例应用场景为无人机城市测绘,建筑物特征比较突出和明显,在图像中建筑物与周围像素变化也比较大,因此选用建筑物角点作为特征点。本发明实施例采用SIFT算法检测建筑物角点。
2)进行特征点的匹配,寻找同一空间位置在双目相机采集的两个图像中的特征点投影点。通过特征描述子判断两个图像中特征点的相似性。特征点匹配过程中受场景几何形状和外界因素的影响,很难保证高精度的影像匹配,所以在特征匹配过程中采用RANSAC算法去除无匹配点,提高匹配精度,使得后续三维重建结果更精准。
3)根据特征点匹配之后可以得到两个图像中的重叠区域。因为在城市测绘中建筑物为刚性物体,发生果冻效应时特征比较明显,能够更好体现果冻效应程度,因此本发明实施例在重叠区域内根据颜色信息获得建筑物区域。将重叠区域图像转换成CIE-Lab颜色模型,将图像中每个像素点在颜色模型中对应的(L,a,b)值和位置信息(x,y)共同作为一个五维特征向量:[L,a,b,x,y]。其中,L表示亮度,a红色到绿色的范围,b表示黄色到蓝色的范围,x,y为像素点的坐标信息。采用DBSCAN算法对像素特征进行聚类分析,将具有相似特性的像素聚合成一个簇,形成一个更具有代表性的大元素。选取簇中元素最多的一个集合对应的区域作为最终的建筑物区域,并提取建筑物区域的外接矩形作为第一感兴趣区域。
4)在第一感兴趣区域内基于对极几何原理进行三维重建,本发明实施例使用PMVS算法进行稠密重建,最终获得第一感兴趣区域内的双目点云。
步骤S3:根据第一感兴趣区域内的点云密度比划分第二感兴趣区域。
将第一感兴趣区域划分多个第一子区域。在本发明实施例中,将第一感兴趣区域均匀的划分成9分,划分成3*3的九宫格,每一个格代表一个第一子区域。
分别计算每个第一子区域和深度图像对应区域的点云密度,获得双目点云密度和三维点云密度。点云密度由第一子区域内的点云数目与第一子区域的面积相比得到。在本发明实施例中,根据交并比模型在深度图中搜索对应的区域。
根据获得的双目点云密度和三维点云密度获得每个第一子区域的点云密度比:
Figure BDA0002925993510000061
其中,ki为第i个第一子区域的点云密度比,ρi为第i个第一子区域的双目点云密度,ρi′为第i个第一子区域的三维点云密度。
将一个第一子区域内的点云密度比作为第一点云密度比,利用差异度量模型依次计算第一点云密度比和其他子区域的点云密度比的差异性大小,差异性度量模型为:
Figure BDA0002925993510000062
其中,τi表示第i个第一子区域的差异性度量值,ki为设置为第一点云密度比的第i个第一子区域的点云密度比,kj为除了第i个第一子区域外的第j个第一子区域的点云密度比。
根据差异性度量模型得到9个第一子区域的差异性,选取差异性最小的第一子区域的点云密度比作为标准点云密度比,选取差异性最大的第一子区域作为第二感兴趣区域。
划分第二感兴趣区域能够减少系统计算量,提高检测精度和检测效率。
步骤S4:在第二感兴趣区域中划分第二子区域,计算每个第二子区域内的RGB图像和深度图像中的坐标误差特征。
将第二感兴趣区域划分多个第二子区域,在本发明实施例中,将第二感兴趣区域均匀的划分成9分,划分成3*3的九宫格,每一个格代表一个第二子区域。将深度图像中划分相同的第二子区域。
双目点云和三维点云的坐标差异可以很好的体现果冻效应程度。若存在果冻效应,果冻效应越大,两种点云在同一坐标系下的点云坐标误差程度越大。
通过三维点云坐标转换公式将第二感兴趣区域内的三维点云数据坐标转换到双目点云坐标中,三维点云坐标转换公式为:
pt=R·ps+T
其中,ps为转换坐标,ps为三维点云坐标,R为旋转矩阵,T为平移矩阵。旋转矩阵和平移矩阵可以通过迭代最近的求取,计算公式如下:
Figure BDA0002925993510000071
其中,
Figure BDA0002925993510000072
为一对对应点,Np为第二感兴趣区域内对应点的个数。当f(R,T)取最小值时,求出R和T,作为最终的旋转矩阵和平移矩阵。
将三维点云坐标信息转换到双目点云坐标信息后,计算每个第二子区域内的坐标误差:
Figure BDA0002925993510000073
其中,ε为每个点的坐标误差,(xt,yt,zt)为转换坐标,(xT,yT,zT)为双目点云坐标。
根据坐标误差可以求得第二子区域的坐标误差均值:
Figure BDA0002925993510000074
其中,N为第二子区域内的点云个数,σ为坐标误差均值。
通过坐标误差特征模型输出坐标误差特征:
Figure BDA0002925993510000075
其中,σ′为第二感兴趣区域中的坐标误差特征,σi表示第i个第二子区域的坐标误差均值,σj示第j个第二子区域的坐标误差均值,
Figure BDA0002925993510000076
表示σj所占的整个第二感兴趣区域内的权重。
步骤S5:计算第二感兴趣区域的稳定度。
计算最大点云密度比与最小点云密度比的比值获得点云密度比例差异比,点云密度比例差异比减一的绝对值为稳定度。用公式描述为:
Figure BDA0002925993510000081
Figure BDA0002925993510000082
Figure BDA0002925993510000083
其中,ρ(v,v)表示稳定度,ρ(u,v)越小表示第二感兴趣区域越稳定;u,v分别表示双目点云和三维点云类别;ρumax和ρvmax分别表示双目点云密度最大值和三维点云密度最大值;ρumin和ρvmin别表示双目点云密度最小值和三维点云密度最小值;MAX(ρuv)为最大点云密度;MIN(ρuv)为最小点云密度。
需要说明的是,为保证模型检测结果的准确性,ρumax、ρvmax所在第二子区域必须为双目点云和三维点云中互相对应的子区域,同理ρumin、ρvmin也应保持对应。因此本发明实施例中设置密度最大和最小对应区域搜索方法,避免将点云密度的最大值或最小值所在的去不是对应区域而送入稳定性度量模型进行分析的情况。以密度最大对应区域搜索方法举例:首先判断双目点云与三维点云的第二感兴趣区域中最大值所在的第二子区域是否对应,若为对应,则直接计算MAX(ρuv);若点云密度的最大值所在区域编号是不对应的,则舍弃该区域,继续寻找点云密度最大值所对应的区域,直到找到其余部分的点云密度最大值区域。如果最后没有寻找到编号对应的区域,则选择第一次时的双目视觉点云最大值区域,并在三维点云找到对应区域,将其用于稳定性度量模型。
步骤S6:计算每个第二子区域内点云密度比与标准点云密度比的比例差异均值。
分别计算第二子区域内的双目点云密度和三维点云密度,根据双目点云密度和三维点云密度获得第二子区域的点云密度比。计算每个第二子区域的点云密度比与标准点云密度比的比例差异均值
Figure BDA0002925993510000084
Figure BDA0002925993510000085
其中,
Figure BDA0002925993510000086
为比例差异均值,k0为标准点云密度比,k′j为第j个第二子区域的点云密度比。
步骤S7:分析果冻效应程度。
将获得的坐标误差特征、稳定度和比例差异均值构建特征向量并归一化处理,通过果冻效应指标分析果冻效应程度:
Figure BDA0002925993510000091
其中,ω为果冻效应指标,α、β和γ为拟合权重,σ′N为归一化后的坐标误差特征,
Figure BDA0002925993510000092
为归一化后的稳定度,
Figure BDA0002925993510000093
为归一化后的比例差异均值。在本发明实施例中设置α为0.4,β为0.2,γ为0.4。ω越大,则对应图像的果冻效应越严重,图像质量越差。
测绘人员可依据果冻效应程度输出结果对测绘航拍影响的果冻效应进行判断,只管的交接到发生果冻效应的程度,辅助工作人员选取高质量、高精度的无人机测绘航拍影像,对城市地貌的规划及建设过程提供了有利的帮助。
综上所述,通过无人机上部署的双目相机和激光雷达扫描仪获得RGB图像和三维点云,利用三维点云获得深度图像。进而在RGB图像上和深度图像上划分第一感兴趣区域,获得第一感兴趣区域的双目点云和三维点云。划分第一子区域获得各个第一子区域内的点云密度比,通过差异性分析确定第二感兴趣区域和标准点云密度比。在第二感兴趣区域内进行进一步分析,划分第二子区域。计算第二子区域中RGB图像和深度图像的坐标误差特征。根据第二子区域的点云密度比获得第二感兴趣区域的稳定度。计算第二子区域内点云密度比与标准点云密度比的比例差异均值。根据坐标误差特征、稳定度和比例差异均值分析并获得果冻效应程度。
请参阅图1,其示出了本发明一个实施例提供的一种基于人工智能的无人机测绘果冻效应检测系统框图,该系统包括:图像信息获取101、第一感兴趣区域获取模块102、第二感兴趣区域获取模块103、坐标误差特征获取模块104、稳定度获取模块105、比例差异获取模块106和果冻效应程度获取模块107。
图像信息获取模块101用于通过无人机上双目相机和激光雷达扫描仪获得RGB图像和三维点云。利用三维点云获得深度图像。
第一感兴趣区域获取模块102用于获得RGB图像内双目相机的重叠区域。提取重叠区域内建筑物区域作为第一感兴趣区域。对第一感兴趣区域进行三维重建获得双目点云。
第二感兴趣区域获取模块103用于将第一感兴趣区域划分多个第一子区域。分别计算第一子区域和深度图像对应区域内的点云密度。点云密度包括双目点云密度和三维点云密度。双目点云密度和三维点云密度比例为点云密度比。选取一个第一子区域内的点云密度比为第一点云密度比,计算其他每个第一子区域的点云密度比与第一点云密度比的差异性。选取差异性最小的点云密度比为标准点云密度比。差异性最大的第一子区域作为第二感兴趣区域。
坐标误差特征获取模块104用于将第二感兴趣区域划分多个第二子区域。深度图像中划分相同的第二子区域。计算每个第二子区域内RGB图像和深度图像中的坐标误差特征。
稳定度获取模块105用于根据每个第二子区域内的点云密度计算第二感兴趣区域的稳定度。
比例差异获取模块106用于计算每个第二子区域内点云密度比与标准点云密度比的比例差异均值。
果冻效应程度获取模块107用于利用坐标误差特征获取模块104提取的坐标误差特征、稳定度获取模块105提取的稳定度和比例差异获取模块106提取的比例差异均值分析获得果冻效应程度。
优选的,图像信息获取模块107中的激光雷达扫描仪采用TOF激光雷达,且激光雷达扫描仪和双目相机中的一个相机的拍摄角度和范围相同。
优选的,第一感兴趣区域获取模块还包括重叠区域获取模块和颜色特征分析模块。
重叠区域获取模块用于提取图像信息获取模块107中的双目相机所拍摄的两张RGB图像中的建筑物角点作为特征点。寻找同一空间位置在两张RGB图像中的特征点的投影点,对特征点进行匹配得到重叠区域。
颜色特征分析模块用于分析重叠区域中的颜色特征信息,提取建筑物区域,并提取建筑物区域的外接矩形作为所述第一感兴趣区域。
需要说明的是:上述本发明实施例先后顺序仅仅为了描述,不代表实施例的优劣。且上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于人工智能的无人机测绘果冻效应检测方法,其特征在于,所述方法包括:
通过无人机上双目相机和激光雷达扫描仪获得RGB图像和所述三维点云;利用所述三维点云获得深度图像;
获得RGB图像内所述双目相机的重叠区域;提取所述重叠区域内建筑物区域作为第一感兴趣区域;对所述第一感兴趣区域进行三维重建获得双目点云;
将所述第一感兴趣区域划分多个第一子区域;分别计算所述第一子区域和所述深度图像对应区域内的点云密度;所述点云密度包括双目点云密度和三维点云密度;所述双目点云密度和所述三维点云密度比例为点云密度比;选取一个所述第一子区域内的点云密度比为第一点云密度比,计算其他每个所述第一子区域的所述点云密度比与所述第一点云密度比的差异性;选取差异性最小的所述点云密度比为标准点云密度比;差异性最大的所述第一子区域作为第二感兴趣区域;
将所述第二感兴趣区域划分多个第二子区域;所述深度图像中划分相同的所述第二子区域;计算每个所述第二子区域内所述RGB图像和所述深度图像中的坐标误差特征;
根据每个所述第二子区域内的所述点云密度计算所述第二感兴趣区域的稳定度;
计算每个所述第二子区域内点云密度比与所述标准点云密度比的比例差异均值;
利用所述坐标误差特征、所述稳定度和所述比例差异均值分析获得果冻效应程度。
2.根据权利要求1所述的一种基于人工智能的无人机测绘果冻效应检测方法,其特征在于,所述激光雷达扫描仪采用TOF激光雷达,且所述激光雷达扫描仪和所述双目相机中一个相机的拍摄角度和范围相同。
3.根据权利要求1所述的一种基于人工智能的无人机测绘果冻效应检测方法,其特征在于,所述提取所述重叠区域内建筑物区域作为第一感兴趣区域包括:
提取所述双目相机所拍摄的两张所述RGB图像中的建筑物角点作为特征点;寻找同一空间位置在两张所述RGB图像中的所述特征点的投影点,对所述特征点进行匹配得到重叠区域;
分析所述重叠区域中的颜色特征信息,提取建筑物区域,并提取所述建筑物区域的外接矩形作为所述第一感兴趣区域。
4.根据权利要求1所述的一种基于人工智能的无人机测绘果冻效应检测方法,其特征在于,所述计算每个所述第二子区域内所述RGB图像和所述深度图像中的坐标误差特征:
将所述深度图像中对应所述第二感兴趣区域的区域内的所述三维点云坐标转换到所述双目点云坐标中,获得转换坐标;计算所述转换坐标和所述双目点云的坐标差异均值;
通过坐标误差特征计算模型获得所述坐标误差特征:
Figure FDA0002925993500000021
其中,σ′为所述第二感兴趣区域中的所述坐标误差特征,σi表示第i个所述第二子区域的所述坐标误差均值,σj示第j个所述第二子区域的所述坐标误差均值,
Figure FDA0002925993500000022
表示σj所占的整个所述第二感兴趣区域内的权重,n为所述第二子区域数量。
5.根据权利要求4所述的一种基于人工智能的无人机测绘果冻效应检测方法,其特征在于,所述三维点云坐标转换到所述双目点云坐标中包括:
通过三维点云坐标转换公式进行坐标转换:
pt=R·ps+T
其中,pt为所述转换坐标,ps为所述三维点云坐标,R为旋转矩阵,T为平移矩阵。
6.根据权利要求1所述的一种基于人工智能的无人机测绘果冻效应检测方法,其特征在于,所述根据每个所述第二子区域内的所述点云密度计算所述第二感兴趣区域的稳定度包括:
计算最大所述点云密度比与最小所述点云密度比的比值获得点云密度比例差异比;
所述点云密度比例差异比减一的绝对值为所述稳定度。
7.根据权利要求1所述的一种基于人工智能的无人机测绘果冻效应检测方法,其特征在于,所述利用所述坐标误差特征、所述稳定度和所述比例差异均值分析获得果冻效应程度包括:
通过果冻效应指标分析模型分析所述果冻效应程度:
Figure FDA0002925993500000023
其中,ω为果冻效应指标,α、β和γ为拟合权重,σ′N为归一化后的所述坐标误差特征,
Figure FDA0002925993500000024
为归一化后的所述稳定度,
Figure FDA0002925993500000025
为归一化后的所述比例差异均值。
8.一种基于人工智能的无人机测绘果冻效应检测系统,其特征在于,所述系统包括:图像信息获取模块、第一感兴趣区域获取模块、第二感兴趣区域获取模块、坐标误差特征获取模块、稳定度获取模块、比例差异获取模块和果冻效应程度获取模块;
所述图像信息获取模块用于通过无人机上双目相机和激光雷达扫描仪获得RGB图像和三维点云;利用所述三维点云获得深度图像;
所述第一感兴趣区域获取模块用于获得所述RGB图像内所述双目相机的重叠区域;提取所述重叠区域内建筑物区域作为第一感兴趣区域;对所述第一感兴趣区域进行三维重建获得双目点云;
所述第二感兴趣区域获取模块用于将所述第一感兴趣区域划分多个第一子区域;分别计算所述第一子区域和所述深度图像对应区域内的点云密度;所述点云密度包括双目点云密度和三维点云密度;所述双目点云密度和所述三维点云密度比例为点云密度比;选取一个所述第一子区域内的点云密度比为第一点云密度比,计算其他每个所述第一子区域的所述点云密度比与所述第一点云密度比的差异性;选取差异性最小的所述点云密度比为标准点云密度比;差异性最大的所述第一子区域作为第二感兴趣区域;
所述坐标误差特征获取模块用于将所述第二感兴趣区域划分多个第二子区域;所述深度图像中划分相同的所述第二子区域;计算每个所述第二子区域内所述RGB图像和所述深度图像中的坐标误差特征;
所述稳定度获取模块用于根据每个所述第二子区域内的所述点云密度计算所述第二感兴趣区域的稳定度;
所述比例差异获取模块用于计算每个所述第二子区域内点云密度比与所述标准点云密度比的比例差异均值;
所述果冻效应程度获取模块用于利用所述坐标误差特征、所述稳定度和所述比例差异均值分析获得果冻效应程度。
9.根据权利要求8所述的一种基于人工智能的无人机测绘果冻效应检测系统,其特征在于,所述图像信息获取模块中的激光雷达扫描仪采用TOF激光雷达,且所述激光雷达扫描仪和所述双目相机中一个相机的拍摄角度和范围相同。
10.根据权利要求8所述的一种基于人工智能的无人机测绘果冻效应检测系统,其特征在于,所述第一感兴趣区域获取模块还包括重叠区域获取模块和颜色特征分析模块;
所述重叠区域获取模块用于提取所述双目相机所拍摄的两张所述RGB图像中的建筑物角点作为特征点;寻找同一空间位置在两张所述RGB图像中的所述特征点的投影点,对所述特征点进行匹配得到重叠区域;
所述颜色特征分析模块用于分析所述重叠区域中的颜色特征信息,提取建筑物区域,并提取所述建筑物区域的外接矩形作为所述第一感兴趣区域。
CN202110132863.4A 2021-02-01 2021-02-01 一种基于人工智能的无人机测绘果冻效应检测方法及系统 Active CN112946679B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110132863.4A CN112946679B (zh) 2021-02-01 2021-02-01 一种基于人工智能的无人机测绘果冻效应检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110132863.4A CN112946679B (zh) 2021-02-01 2021-02-01 一种基于人工智能的无人机测绘果冻效应检测方法及系统

Publications (2)

Publication Number Publication Date
CN112946679A true CN112946679A (zh) 2021-06-11
CN112946679B CN112946679B (zh) 2023-12-22

Family

ID=76240258

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110132863.4A Active CN112946679B (zh) 2021-02-01 2021-02-01 一种基于人工智能的无人机测绘果冻效应检测方法及系统

Country Status (1)

Country Link
CN (1) CN112946679B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113470093A (zh) * 2021-09-01 2021-10-01 启东市德立神起重运输机械有限公司 基于航拍图像处理的视频果冻效应检测方法、装置及设备
CN113706424A (zh) * 2021-10-28 2021-11-26 江苏英斯泊物联网科技有限公司 一种基于人工智能的果冻效应图像校正方法及系统
CN114757848A (zh) * 2022-04-28 2022-07-15 北京与子成科技有限公司 基于人工智能的相机果冻效应检测方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN203658576U (zh) * 2013-12-31 2014-06-18 国家电网公司 无人机载激光雷达架空输电走廊测绘系统
CN107977992A (zh) * 2017-12-05 2018-05-01 深圳大学 一种基于无人机激光雷达的建筑物变化检测方法及装置
CN108827249A (zh) * 2018-06-06 2018-11-16 歌尔股份有限公司 一种地图构建方法和装置
KR20190089791A (ko) * 2019-07-11 2019-07-31 엘지전자 주식회사 삼차원 어라운드 뷰 제공 장치 및 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN203658576U (zh) * 2013-12-31 2014-06-18 国家电网公司 无人机载激光雷达架空输电走廊测绘系统
CN107977992A (zh) * 2017-12-05 2018-05-01 深圳大学 一种基于无人机激光雷达的建筑物变化检测方法及装置
CN108827249A (zh) * 2018-06-06 2018-11-16 歌尔股份有限公司 一种地图构建方法和装置
KR20190089791A (ko) * 2019-07-11 2019-07-31 엘지전자 주식회사 삼차원 어라운드 뷰 제공 장치 및 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
蔡泽宇;金诚谦;: "基于二维激光雷达点云的物体轮廓识别", 应用激光, no. 03 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113470093A (zh) * 2021-09-01 2021-10-01 启东市德立神起重运输机械有限公司 基于航拍图像处理的视频果冻效应检测方法、装置及设备
CN113706424A (zh) * 2021-10-28 2021-11-26 江苏英斯泊物联网科技有限公司 一种基于人工智能的果冻效应图像校正方法及系统
CN114757848A (zh) * 2022-04-28 2022-07-15 北京与子成科技有限公司 基于人工智能的相机果冻效应检测方法及系统
CN114757848B (zh) * 2022-04-28 2022-11-11 宁夏方博科技有限公司 基于人工智能的相机果冻效应检测方法及系统

Also Published As

Publication number Publication date
CN112946679B (zh) 2023-12-22

Similar Documents

Publication Publication Date Title
CN109598794B (zh) 三维gis动态模型的构建方法
CN106373088B (zh) 大倾斜低重叠率航空图像的快速拼接方法
CN112946679A (zh) 一种基于人工智能的无人机测绘果冻效应检测方法及系统
CN108596108B (zh) 基于三元组语义关系学习的航拍遥感图像变化检测方法
CN113065558A (zh) 一种结合注意力机制的轻量级小目标检测方法
CN111047695B (zh) 一种城市群高度空间信息及等高线的提取方法
CN115439424A (zh) 一种无人机航拍视频图像智能检测方法
CN109376641B (zh) 一种基于无人机航拍视频的运动车辆检测方法
CN111126184B (zh) 一种基于无人机视频的震后建筑物损毁检测方法
CN110243390B (zh) 位姿的确定方法、装置及里程计
CN105160649A (zh) 基于核函数非监督聚类的多目标跟踪方法及系统
CN111369495A (zh) 一种基于视频的全景图像的变化检测方法
CN111383335B (zh) 一种众筹照片与二维地图结合的建筑物三维建模方法
CN112164117A (zh) 一种基于Kinect相机的V-SLAM位姿估算方法
CN115376109B (zh) 障碍物检测方法、障碍物检测装置以及存储介质
CN111247564A (zh) 一种数字地表模型的构建方法及处理设备、系统
CN116778288A (zh) 一种多模态融合目标检测系统及方法
CN111783834B (zh) 一种基于联合图频谱特征分析的异源图像匹配方法
CN116258817A (zh) 一种基于多视图三维重建的自动驾驶数字孪生场景构建方法和系统
CN112734822A (zh) 一种基于红外和可见光图像的立体匹配算法
CN113160390A (zh) 一种三维稠密重建方法及系统
CN117218201A (zh) Gnss拒止条件下无人机影像定位精度提升方法及系统
WO2021051382A1 (zh) 白平衡处理方法和设备、可移动平台、相机
CN112884795A (zh) 一种基于多特征显著性融合的输电线路巡检前景与背景分割方法
CN113345084B (zh) 三维建模系统及三维建模方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant