CN110197147A - 遥感影像的建筑物实例提取方法、装置、存储介质及设备 - Google Patents
遥感影像的建筑物实例提取方法、装置、存储介质及设备 Download PDFInfo
- Publication number
- CN110197147A CN110197147A CN201910433928.1A CN201910433928A CN110197147A CN 110197147 A CN110197147 A CN 110197147A CN 201910433928 A CN201910433928 A CN 201910433928A CN 110197147 A CN110197147 A CN 110197147A
- Authority
- CN
- China
- Prior art keywords
- building
- building example
- boundary
- initial detecting
- feature vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/176—Urban or other man-made structures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种遥感影像的建筑物实例提取方法、装置、存储介质及设备,该方法包括:提取遥感影像数据的特征图,根据特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框;根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合;根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从候选边界线集合中选取对应建筑物实例的目标边界线;根据各个建筑物实例的目标边界线对各自的初始检测框进行调整;从得到的各个建筑物实例的目标检测框中提取对应的建筑物实例,实现遥感影像中建筑物实例的精确提取。
Description
技术领域
本发明涉及遥感影像处理及深度学习技术领域,尤其涉及一种遥感影像的建筑物实例提取方法、装置、存储介质及设备。
背景技术
建筑物实例指的是每个独立的建筑物个体,可以是公寓、商场、工厂等能够提供给人们居住、娱乐、工作、储物等功能的空间场所。实例提取就是为每个像素预测其类别及所属实例。遥感影像的建筑物实例提取就是在遥感影像中分别找出每个建筑物实例对应的所有像素点。
由于遥感影像具有容易获得且更新周期短的特点,从遥感影像中提取建筑物实例能了解到最新的建筑物分布情况,对于城市管理和规划、城市化评估、人口估计以及灾后重建等多项工作都具有重要意义。为了获得建筑物的分布情况,测绘等相关行业以人工的方式用ARCGIS等工具在遥感影像上标注出每个建筑物实例。由于建筑物分布变化频繁,需要及时更新建筑物标注,同时遥感影像本身具有对比度低、城区建筑物分布密集等特点,导致以手工方式标注遥感影像中的建筑物实例会耗费大量的时间与精力。
现有的遥感影像建筑物提取方法旨在自动为每个像素分配建筑物和非建筑物标签,可以分为传统方法和基于深度学习的方法。传统的建筑物提取方法通常采用手工设计的特征来区分建筑物与非建筑物,如形状、颜色、阴影等信息。由于遥感影像中建筑物间的差异性较大,若要提取不同类型的建筑物必然要考虑到能够区分建筑物与非建筑物的多种特征,这使得传统建筑物提取方法需要在建筑物的覆盖范围以及建筑物提取方法的时间空间成本间取得平衡,所以这些方法不适用于复杂的场景。现有的基于深度学习的方法,由于遥感影像中城市区域的建筑物分布密集,这导致在提取城区建筑物实例时难以保证所有的建筑物都能被检测到;而且由于遥感影像具有相邻建筑物实例间的相似度高以及与背景的对比度低等特点,使得难以准确地区分与建筑物具有相似特征的其他地物以及不同的建筑物实例,难以精确的将每个像素分配到对应的实例。
发明内容
本发明提出了一种遥感影像的建筑物实例提取方法、装置、存储介质及设备,解决了现有技术中难以精确的将每个像素分配到对应的实例的问题。
本发明的一个方面,提供了一种遥感影像的建筑物实例提取方法,所述方法包括:
提取遥感影像数据的特征图,根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框;
根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合;
根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从所述候选边界线集合中选取对应建筑物实例的目标边界线;
根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框;
从各个建筑物实例的目标检测框中提取对应的建筑物实例。
优选地,所述提取遥感影像数据的特征图,根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框,包括:
采用深层卷及神经网络提取遥感影像数据的特征图;
根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的多个预估面积,并根据各个建筑物实例的多个预估面积为对应的建筑物实例生成相应的多个推荐区域;
从所述特征图中提取各个推荐区域对应位置的特征向量,根据所述特征向量采用预设的学习模型确定每一推荐区域包含对应的建筑物实例的置信度以及位置偏移量;
根据每一推荐区域包含对应的建筑物实例的置信度,确定各建筑物实例对应的目标推荐区域,并根据位置偏移量对所述目标推荐区域进行位置调整,得到各个建筑物实例的初始检测框。
优选地,根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合,包括:
提取各个建筑物实例的初始检测框内部的特征点,并计算各个特征点的梯度方向;
根据各个特征点的梯度方向确定所述初始检测框对应的建筑物实例的边界线方向;
根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合。
优选地,所述根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合,包括:
根据所述初始检测框内各个特征点的梯度方向确定对应特征点的边缘方向,同一特征点的梯度方向与边缘方向相互垂直;
根据预设的划分模型将所述初始检测框内各个特征点按照其边缘方向划分为与所述边界线方向一致的候选边界线集合,所述边界线方向包括与初始检测框内多数特征点的边缘方向相同的角度方向θ1和与所述θ1相差90°的角度方向θ2,所述划分模型为:
Point1={i|βi∈[θ1-δ,θ1+δ],i∈P}
Point2={i|βi∈[θ2-δ,θ2+δ],i∈P}
其中,Point表示特征点的集合,
Point1为边缘方向与θ1方向一致的特征点组成的候选边界线集合,
Point2为边缘方向与θ2方向一致的特征点组成的候选边界线集合,δ表示建筑物实例方向的最大偏差阈值,βi表示特征点i的边缘方向。
优选地,所述根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从所述候选边界线集合中选取对应建筑物实例的目标边界线,包括:
按照预设尺寸将各个建筑物实例的初始检测框划分为多个检测区域,根据各个初始检测框内每一检测区域的特征向量查找检测区域内包含建筑物实例的目标检测区域;
根据各个初始检测框内每一目标检测区域在边界线方向θ1和θ2对应的切线,与对应候选边界线集合中靠近该目标检测区域中心点的候选边界线形成的区域作为当前候选边界线的有效区域;
提取目标检测区域中各个像素点在对应的初始检测框的特征图的特征向量平均值,得到目标检测区域的维度为n的特征向量A,并分别提取对应建筑物实例的每一候选边界线的有效区域中各个像素点在当前初始检测框的特征图的特征向量平均值,得到各个选边界线的有效区域的维度为n的特征向量B,分别计算目标检测区域的特征向量A与各个选边界线的有效区域的特征向量B的余弦相似度;
从对应的特征向量B与特征向量A的余弦相似度小于预设相似阈值的各个候选边界线中,在θ1和θ2的正负方向上分别选取远离当前目标检测区域中心点的候选边界线作为对应建筑物实例的目标边界线。
优选地,所述根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框,包括:
根据各个建筑物实例的目标边界线的交点确定位置调整参数,并根据所述位置调整参数对对应建筑物实例的初始检测框进行调整,得到各个建筑物实例的目标检测框。
优选地,所述从各个建筑物实例的目标检测框中提取对应的建筑物实例,包括:
从所述遥感影像数据的特征图中提取目标检测框对应位置的特征向量;
将所述目标检测框对应位置的特征向量输入预设神经网络模型的全连接网络,生成目标检测框包含对应建筑物实例的概率预测结果;
将所述目标检测框对应位置的特征向量输入预设神经网络模型的卷积层,得到包含所述目标检测框局部信息的特征向量;
将所述概率预测结果的维度调整为所述包含所述目标检测框局部信息的特征向量的维度,并将维度调整后的概率预测结果与所述包含所述目标检测框局部信息的特征向量逐元素相乘后得到的特征作为预设分类模型的输入,根据分类输出结果提取所述目标检测框内的建筑物实例。
本发明的另一个方面,提供了一种遥感影像的建筑物实例提取装置,所述装置包括:
预估模块,用于提取遥感影像数据的特征图,根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框;
判定模块,用于根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合;
选取模块,用于根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从所述候选边界线集合中选取对应建筑物实例的目标边界线;
调整模块,用于根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框;
提取模块,用于从各个建筑物实例的目标检测框中提取对应的建筑物实例。
可选地,所述预估模块,包括:
第一提取单元,用于采用深层卷及神经网络提取遥感影像数据的特征图;
预估单元,用于根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的多个预估面积,并根据各个建筑物实例的多个预估面积为对应的建筑物实例生成相应的多个推荐区域;
学习单元,用于从所述特征图中提取各个推荐区域对应位置的特征向量,根据所述特征向量采用预设的学习模型确定每一推荐区域包含对应的建筑物实例的置信度以及位置偏移量;
调整单元,用于根据每一推荐区域包含对应的建筑物实例的置信度,确定各建筑物实例对应的目标推荐区域,并根据位置偏移量对所述目标推荐区域进行位置调整,得到各个建筑物实例的初始检测框。
可选地,所述判定模块,包括:
第二提取单元,用于提取各个建筑物实例的初始检测框内部的特征点,并计算各个特征点的梯度方向;
判定单元,用于根据各个特征点的梯度方向确定所述初始检测框对应的建筑物实例的边界线方向;
划分单元,用于根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合。
可选地,所述划分单元,具体用于根据所述初始检测框内各个特征点的梯度方向确定对应特征点的边缘方向,同一特征点的梯度方向与边缘方向相互垂直;根据预设的划分模型将所述初始检测框内各个特征点按照其边缘方向划分为与所述边界线方向一致的候选边界线集合,所述边界线方向包括与初始检测框内多数特征点的边缘方向相同的角度方向θ1和与所述θ1相差90°的角度方向θ2,所述划分模型为:
Point1={i|βi∈[θ1-δ,θ1+δ],i∈P}
Point2={i|βi∈[θ2-δ,θ2+δ],i∈P}
其中,Point表示特征点的集合,
Point1为边缘方向与θ1方向一致的特征点组成的候选边界线集合,
Point2为边缘方向与θ2方向一致的特征点组成的候选边界线集合,δ表示建筑物实例方向的最大偏差阈值,βi表示特征点i的边缘方向。
可选地,所述选取模块,包括:
查找单元,用于按照预设尺寸将各个建筑物实例的初始检测框划分为多个检测区域,根据各个初始检测框内每一检测区域的特征向量查找检测区域内包含建筑物实例的目标检测区域;
配置单元,用于根据各个初始检测框内每一目标检测区域在边界线方向θ1和θ2对应的切线,与对应候选边界线集合中靠近该目标检测区域中心点的候选边界线形成的区域作为当前候选边界线的有效区域;
第三提取单元,用于提取目标检测区域中各个像素点在对应的初始检测框的特征图的特征向量平均值,得到目标检测区域的维度为n的特征向量A,并分别提取对应建筑物实例的每一候选边界线的有效区域中各个像素点在当前初始检测框的特征图的特征向量平均值,得到各个选边界线的有效区域的维度为n的特征向量B,分别计算目标检测区域的特征向量A与各个选边界线的有效区域的特征向量B的余弦相似度;
选取单元,用于从对应的特征向量B与特征向量A的余弦相似度小于预设相似阈值的各个候选边界线中,在θ1和θ2的正负方向上分别选取远离当前目标检测区域中心点的候选边界线作为对应建筑物实例的目标边界线。
可选地,所述调整模块,具体用于根据各个建筑物实例的目标边界线的交点确定位置调整参数,并根据所述位置调整参数对对应建筑物实例的初始检测框进行调整,得到各个建筑物实例的目标检测框。
可选地,所述提取模块,包括:
第四提取单元,用于从所述遥感影像数据的特征图中提取目标检测框对应位置的特征向量;
第一训练单元,用于将所述目标检测框对应位置的特征向量输入预设神经网络模型的全连接网络,生成目标检测框包含对应建筑物实例的概率预测结果;
第二训练单元,用于将所述目标检测框对应位置的特征向量输入预设神经网络模型的卷积层,得到包含所述目标检测框局部信息的特征向量;
第五提取单元,用于将所述概率预测结果的维度调整为所述包含所述目标检测框局部信息的特征向量的维度,并将维度调整后的概率预测结果与所述包含所述目标检测框局部信息的特征向量逐元素相乘后得到的特征作为预设分类模型的输入,根据分类输出结果提取所述目标检测框内的建筑物实例。
此外,本发明还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上所述方法的步骤。
此外,本发明还提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上所述方法的步骤。
本发明实施例提供的遥感影像的建筑物实例提取方法、装置、存储介质及设备,通过提取遥感影像数据的特征图,根据特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框,能够保证分布密集的所有建筑物都能被检测到,并结合遥感影像低阶特征信息对建筑物实例的检测框位置进行精准调整,有效的提升了预测的建筑物实例检测框的精度,实现遥感影像中建筑物实例的精确提取。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1为本发明实施例的一种遥感影像的建筑物实例提取方法的流程示意图;
图2为本发明实施例提供的遥感影像的建筑物实例提取方法中步骤S11的流程示意图;
图3为本发明实施例提供的遥感影像的建筑物实例提取方法中步骤S12的流程示意图;
图4为本发明实施例中遥感影像数据的特征点方向分布示意图;
图5为本发明实施例中遥感影像数据中建筑物实例对应候选边界线及特征点的分布示意图;
图6为本发明实施例提供的遥感影像的建筑物实例提取方法中步骤S13的流程示意图;
图7为本发明实施例中遥感影像数据中建筑物实例对应候选边界线的有效区域的示意图;
图8为本发明实施例提供的遥感影像的建筑物实例提取方法中步骤S15的流程示意图;
图9为本发明实施例的一种遥感影像的建筑物实例提取装置的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非被特定定义,否则不会用理想化或过于正式的含义来解释。
遥感影像的建筑物实例提取对于城市管理和规划、城市化评估、人口估计以及灾后重建等多项工作都具有重要意义,然而以手工方式标注遥感影像中的建筑物实例会耗费大量的时间与精力,需要自动从遥感影像中提取建筑物实例减少人力消耗。而已有的遥感影像建筑物提取方法难以区分分布密集的城区遥感影像建筑物区域中的建筑物实例。考虑到由于遥感影像中的建筑物分布密集、实例间的相似度高并且与背景的对比度低等特点带来的挑战,本发明针对遥感影像的这些特点提出了一种遥感影像的建筑物实例提取方法,能够实现遥感影像中建筑物实例的精确提取。
图1示意性示出了本发明一个实施例的遥感影像的建筑物实例提取方法的流程图。本发明实施例提出的遥感影像的建筑物实例提取方法具体包括步骤S11~S15,如下所示:
S11、提取遥感影像数据的特征图,根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框。
本实施例中,首先对遥感影像进行特征提取,得到遥感影像数据的特征图,根据得到的特征图预测推荐区域中心点及尺寸,确定遥感影像中建筑物最可能存在的区域范围;然后判断这些区域存在建筑物实例的概率以及预测这些区域位置的偏移量,以此对推荐区域进行筛选及位置调整,最后为了避免多个检测框对应一个实例对象的情况,为每个建筑物实例选择最终的初始检测框。
S12、根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合。
本步骤中,通过提取初始检测框对应遥感影像的特征点,根据梯度信息计算特征点方向等特征信息以及初始检测框对应建筑物实例的方向;然后根据建筑物实例方向和特征点方向为建筑物实例生成候选边界线集合。
S13、根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从所述候选边界线集合中选取对应建筑物实例的目标边界线。
S14、根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框。
本实施例中,在得到对应建筑物实例的候选边界线集合之后,从候选边界线集合中选择四条最终的目标边界线,生成调整后的检测框;最后判断调整后的检测框是否满足停止迭代的条件,若是,得到调整后的检测框,否则重复以上步骤。
S15、从各个建筑物实例的目标检测框中提取对应的建筑物实例。
本实施例中,基于各个建筑物实例的目标检测框,为每个建筑物实例生成综合调整后目标检测框全局信息与局部信息的检测框特征向量,再根据得到的该特征向量生成建筑物实例预测结果。
本发明实施例提供的遥感影像的建筑物实例提取方法,通过提取遥感影像数据的特征图,根据特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框,能够保证分布密集的所有建筑物都能被检测到,并结合遥感影像低阶特征信息对建筑物实例的检测框位置进行精准调整,有效的提升了预测的建筑物实例检测框的精度,实现遥感影像中建筑物实例的精确提取。
在本发明一个实施例中,如图2所示,所述步骤S11,包括以下具体步骤:
S111、采用深层卷及神经网络提取遥感影像数据的特征图;
S112、根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的多个预估面积,并根据各个建筑物实例的多个预估面积为对应的建筑物实例生成相应的多个推荐区域;
S113、从所述特征图中提取各个推荐区域对应位置的特征向量,根据所述特征向量采用预设的学习模型确定每一推荐区域包含对应的建筑物实例的置信度以及位置偏移量;
S114、根据每一推荐区域包含对应的建筑物实例的置信度,确定各建筑物实例对应的目标推荐区域,并根据位置偏移量对所述目标推荐区域进行位置调整,得到各个建筑物实例的初始检测框。
本实施例中,首先对分辨率为512*512,包含104个建筑物实例的遥感影像进行特征提取,遥感影像中一个像素对应实际区域0.2m*0.2m,根据得到的分辨率为256*256、维度为256的特征图预测推荐区域中心点及尺寸,确定遥感影像中建筑物最可能存在的区域范围;然后判断这些区域存在建筑物实例的概率以及预测这些区域位置的偏移量,对推荐区域进行筛选及位置调整;最后为了避免多个检测框对应一个实例对象的情况,为104个建筑物实例选择最终的检测框。
具体的,采用RESNET-101作为特征提取器提取遥感影像的特征,结合RESNET-101第1、2、3、4、5阶段生成的分辨率分别256*256、128*128、64*64、32*32、16*16的特征图得到遥感影像最终的特征图,最终的特征图分辨率为256*256。将得到的分辨率为256*256、维度为256的特征图,输入包含两个卷积层、一个反卷积层以及一个分类器的小型的卷积神经网络,得到维度为[512,512,4]的输出,即为分辨率为512*512遥感影像的每一个像素预测一个数值,0表示该像素不是中心点,1表示该像素为中心点且建筑物面积类别为小,2表示该像素为中心点且建筑物面积类别为中,3表示该像素为中心点且建筑物面积类别为大。然后为预测为1的像素点分配以该像素为中心点且大小为24*24和48*48的矩形框,为预测为2的像素点分配以该像素为中心点且大小为96*96和152*152的矩形框,为预测为3的像素点分配以该像素为中心点且大小为256*256和384*384的矩形框,可得到1000+个矩形框构成了该遥感影像的推荐区域。对1000+个推荐区域,从得到的分辨率为256*256、维度为256的遥感影像特征图中提取其对应位置的7*7*256的特征向量,然后将每个特征向量输入到全连接网络中,得到1000+个推荐区域维度为2和维度为4的输出,分别代表推荐区域包含建筑物的概率以及在x,y方向上的位置回归值。先从得到的1000+个推荐区域中选择包含建筑物实例的概率值大于预设阈值的推荐区域,其中预设阈值可以为0.4~0.8,再计算这些推荐区域两两之间中心点的距离,并根据中心点距离的阈值0.03*512将这些推荐区域划分为多个互不相交的集合,在每个划分的集合中选取预测包含建筑物实例概率最大的推荐区域,综合这些集合选取的推荐区域并根据预测的位置偏移量对推荐区域进行位置调整,为分辨率为512*512的遥感影像中的104个建筑物实例生成对应的初始检测框。
在本发明一个实施例中,如图3所示,所述步骤S12,包括以下具体步骤:
步骤S121、提取各个建筑物实例的初始检测框内部的特征点,并计算各个特征点的梯度方向;
步骤S122、根据各个特征点的梯度方向确定所述初始检测框对应的建筑物实例的边界线方向;
步骤S123、根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合。
本实施例中,对于分辨率为512*512,包含104个建筑物实例的遥感影像,需要对该遥感影像中的每个检测框进行位置调整,现以104个建筑物实例中的一个为例说明检测框位置调整的过程。首先使用MHEC特征点检测算法提取该检测框内对应遥感影像的198个特征点;其次根据每个特征点5*5邻域内地梯度信息计算特征点方向以及检测框对应建筑物实例的方向;然后根据建筑物实例方向和特征点方向为建筑物实例生成候选边界线集合。
具体的,在分辨率为512*512的遥感影像中提取该检测框的对应位置的分辨率为93*68的遥感影像,使用MHEC算法提取分辨率为93*68的遥感影像的角点和边缘特征点,共提取198个特征点。计算检测框内的198个特征点5*5的邻域内每个像素点的梯度大小及梯度方向,根据下式得到每个特征点的梯度方向α:
α=argmaxφθ(φ)
式中,Is×s表示每个特征点5*5邻域内所有像素点的集合,Magi表示像素i的梯度值,表示像素i的梯度方向。分辨率为93*68的遥感影像的特征点方向分布如图4所示。
从图4可以看到,特征点数最多的梯度方向角为114°,选择与特征点数最多的梯度方向垂直的方向角θ1,θ1为24°,作为建筑物实例的主方向,由于建筑物边缘通常互相垂直,选择与主方向角θ1相差90的角度θ2的作为建筑物实例的另一个方向。由此,得到建筑物实例中小于90角度的方向角θ1与大于等于90角度的方向角θ2。
分别选择特征点边缘方向与建筑物实例的两个方向角24和114相近的特征点分为两个集合;然后分别在两个集合上生成与对应的建筑物实例方向一致的候选边界线集合。
进一步地,在本发明实施中,步骤S124中的根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合,具体实现流程如下:
根据所述初始检测框内各个特征点的梯度方向确定对应特征点的边缘方向,同一特征点的梯度方向与边缘方向相互垂直;
根据预设的划分模型将所述初始检测框内各个特征点按照其边缘方向划分为与所述边界线方向一致的候选边界线集合,所述边界线方向包括与初始检测框内多数特征点的边缘方向相同的角度方向θ1和与所述θ1相差90°的角度方向θ2,所述划分模型为:
Point1={i|βi∈[θ1-δ,θ1+δ],i∈P}
Point2={i|βi∈[θ2-δ,θ2+δ],i∈P}
其中,Point表示特征点的集合,
Point1为边缘方向与θ1方向一致的特征点组成的候选边界线集合,
Point2为边缘方向与θ2方向一致的特征点组成的候选边界线集合,δ表示建筑物实例方向的最大偏差阈值,βj表示特征点i的边缘方向。
将Point1中的所有特征点按其所处位置在θ1=24方向上的距离小于阈值4分为多个不相交的特征点集合,对每个不相交特征点集合计算在θ2=114方向上坐标的平均值得到一条方向为θ1=24的候选边界线,再对分辨率为93*68的遥感影像找到θ2=114方向上最远和最近的两个点,得到两条方向为θ1=24的候选边界线。同样的处理方式对Point2中的特征点进行处理,再找到分辨率为93*68的遥感影像θ1=24方向上最远和最近的两个点,得到所有方向为θ2=114的候选边界线。该例生成的所有方向角为24和114的候选边界线如图5中黑色直线所示,图5中的白色点为该例的特征点。
在本发明一个实施例中,如图6所示,所述步骤S13,包括以下具体步骤:
S131、按照预设尺寸将各个建筑物实例的初始检测框划分为多个检测区域,根据各个初始检测框内每一检测区域的特征向量查找检测区域内包含建筑物实例的目标检测区域;
S132、根据各个初始检测框内每一目标检测区域在边界线方向θ1和θ2对应的切线,与对应候选边界线集合中靠近该目标检测区域中心点的候选边界线形成的区域作为当前候选边界线的有效区域;
S133、提取目标检测区域中各个像素点在对应的初始检测框的特征图的特征向量平均值,得到目标检测区域的维度为n的特征向量A,并分别提取对应建筑物实例的每一候选边界线的有效区域中各个像素点在当前初始检测框的特征图的特征向量平均值,得到各个选边界线的有效区域的维度为n的特征向量B,分别计算目标检测区域的特征向量A与各个选边界线的有效区域的特征向量B的余弦相似度;
S134、从对应的特征向量B与特征向量A的余弦相似度小于预设相似阈值的各个候选边界线中,在θ1和θ2的正负方向上分别选取远离当前目标检测区域中心点的候选边界线作为对应建筑物实例的目标边界线。
本实施例中,将分辨率为93*68的遥感影像输入全连接层得到遥感影像对应建筑物实例大致区域;其次计算该区域相关参数确定每条候选边界线的有效区域;最后计算检测框内对应建筑物实例大致区域与候选边界线的有效区域的相似度,决定最终的四条目标边界线,生成调整后的检测框。
具体的,将分辨率为93*68的遥感影像划分成7*7块互不相交的矩形检测区域,从得到的分辨率为256*256、维度为256的遥感影像特征图中提取该遥感影像对应推荐区域的7*7*256的特征向量输入到全连接层,得到7*7的输出。1代表分辨率为93*68的遥感影像的每一块矩形区域包含对应的建筑物实例,0则代表不包含。再将7*7的输出重新映射成93*68的大小,得到对应建筑物实例大致区域,记作目标检测区域att。计算分辨率为93*68的遥感影像区域att的中心点c,该区域两条方向为θ1=24的切线e1min、e1max,该区域两条方向为θ2=114的切线e2min、e2max。对于Point1上的候选边界线e1i,选取Point1上与其相邻且靠近中心点c的候选边界线e1j,则e1i、e1j、e2m、e2max围成的矩形区域为e1i的有效区域如图7所示。同样对于Point2上的候选边界线e2i,其有效区域为e2i、e2j、e1min、e1max围成的矩形区域。
得到候选边界线的有效区域后,从得到的分辨率为256*256、维度为256的遥感影像特征图中上提取分辨率为93*68的遥感影像对应位置的特征图,得到分辨率为93*68、维度为256的特征图。先提取目标检测区域att的每个像素在分辨率为93*68、维度为256的特征图的特征向量取平均值,得到维度为256的特征向量A。再提取候选边界线有效区域的每个像素在检测框特征图的特征向量取平均值,得到维度为256的特征向量B。计算特征向量A与特征向量B间的余弦相似度:
式中,Ai表示区域att特征向量A的第i个分量,Bi表示候选边界线有效区域特征向量B的第i个分量。
对于图2中的所有候选边界线,其有效区域特征向量与att区域的余弦相似度小于阈值45时,判定为正例候选边界线,否则为负例候选边界线。从中心点c开始,在θ1=24和θ2=114的正负方向上分别选择第一个连续正例候选边界线集合中的最远离中心点的一条作为分辨率为93*68的遥感影像的对应建筑物实例的四条边界线。由四条边界线交点的最小最大x,y值确定调整后的检测框。
若在θ1=24和θ2=114的正负方向上,从中心点c出发,在任意一个方向上没有负例候选边界线,则认为调整后的检测框不是分辨率为93*68的遥感影像的对应建筑物实例的最终检测框,此时重复前四步,继续迭代,直至确定最终检测框或迭代次数超过迭代阈值,迭代阈值可根据具体应用场景进行设置,可选3~5次。
在本发明实施例中,所述步骤S14中记载的根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框,具体实现流程如下:根据各个建筑物实例的目标边界线的交点确定位置调整参数,并根据所述位置调整参数对对应建筑物实例的初始检测框进行调整,得到各个建筑物实例的目标检测框。
在本发明一个实施例中,如图8所示,所述步骤S15,包括以下具体步骤:
S151、从所述遥感影像数据的特征图中提取目标检测框对应位置的特征向量;
S152、将所述目标检测框对应位置的特征向量输入预设神经网络模型的全连接网络,生成目标检测框包含对应建筑物实例的概率预测结果;
S153、将所述目标检测框对应位置的特征向量输入预设神经网络模型的卷积层,得到包含所述目标检测框局部信息的特征向量;
S154、将所述概率预测结果的维度调整为所述包含所述目标检测框局部信息的特征向量的维度,并将维度调整后的概率预测结果与所述包含所述目标检测框局部信息的特征向量逐元素相乘后得到的特征作为预设分类模型的输入,根据分类输出结果提取所述目标检测框内的建筑物实例。
本实施例中,对于分辨率为512*512,包含104个建筑物实例的遥感影像,为每个建筑物实例生成综合调整后的检测框全局信息与局部信息的28*28*256的特征向量,再根据该特征向量生成分辨率与调整后检测框大小一致、维度为2的建筑物实例预测结果。
具体的,从分辨率为256*256、维度为256的遥感影像特征图中提取调整后检测框对应位置的7*7*256的特征向量以及14*14*256的特征向量。将调整后检测框的7*7*256的特征向量输入全连接层,生成7*7的概率预测结果,代表将调整后检测框的遥感影像分为7*7块,输出每一块包含对应建筑物实例的概率预测结果。将调整后检测框的14*14*256特征向量输入卷积层以及反卷积层,得到保留检测框局部信息的大小为28*28、维度为256的特征向量。将包含全局信息的7*7的概率预测结果放大至28*28,再与包含大小为28*28、维度为256局部信息的特征向量逐元素相乘,将相乘后的特征输入二分类器得到大小为28*28、维度为2的输出,将该输出放缩至调整后检测框的大小,代表调整后检测框内的每个像素是否属于对应的建筑物实例生成建筑物实例预测结果。
本发明实施例提出的遥感影像的建筑物实例提取方法,具有以下优点:
1、提出了根据建筑物的面积大小生成不同尺寸推荐区域的方法,实现了用尽量少的推荐区域覆盖占地面积相差很大的建筑物实例。
2、提出了根据中心点距离筛选检测框的方法,减少了建筑物分布密集区域相邻建筑物间互相抑制的情况。
3、提出了结合遥感影像低阶特征调整检测框位置的方法,对从深度学习模型得到检测框位置进一步调整,提升了预测的建筑物实例检测框的精度。
4、提出了结合全局信息和局部信息的从检测框中提取对应建筑物实例的方法,实现了从检测框中区分具有相似外观的相邻建筑物。
对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
图9示意性示出了本发明一个实施例的遥感影像的建筑物实例提取装置的结构示意图。参照图9,本发明实施例的遥感影像的建筑物实例提取装置具体包括预估模块201、判定模块202、选取模块203、调整模块204以及提取模块205,其中:
预估模块201,用于提取遥感影像数据的特征图,根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框;
判定模块202,用于根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合;
选取模块203,用于根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从所述候选边界线集合中选取对应建筑物实例的目标边界线;
调整模块204,用于根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框;
提取模块205,用于从各个建筑物实例的目标检测框中提取对应的建筑物实例。
在本发明实施例中,所述预估模块201,具体包括第一提取单元、预估单元、学习单元和调整单元,其中:
第一提取单元,用于采用深层卷及神经网络提取遥感影像数据的特征图;
预估单元,用于根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的多个预估面积,并根据各个建筑物实例的多个预估面积为对应的建筑物实例生成相应的多个推荐区域;
学习单元,用于从所述特征图中提取各个推荐区域对应位置的特征向量,根据所述特征向量采用预设的学习模型确定每一推荐区域包含对应的建筑物实例的置信度以及位置偏移量;
调整单元,用于根据每一推荐区域包含对应的建筑物实例的置信度,确定各建筑物实例对应的目标推荐区域,并根据位置偏移量对所述目标推荐区域进行位置调整,得到各个建筑物实例的初始检测框。
在本发明实施例中,所述判定模块202,具体包括第二提取单元、判定单元和划分单元,其中:
第二提取单元,用于提取各个建筑物实例的初始检测框内部的特征点,并计算各个特征点的梯度方向;
判定单元,用于根据各个特征点的梯度方向确定所述初始检测框对应的建筑物实例的边界线方向;
划分单元,用于根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合。
进一步地,所述划分单元,具体用于根据所述初始检测框内各个特征点的梯度方向确定对应特征点的边缘方向,同一特征点的梯度方向与边缘方向相互垂直;根据预设的划分模型将所述初始检测框内各个特征点按照其边缘方向划分为与所述边界线方向一致的候选边界线集合,所述边界线方向包括与初始检测框内多数特征点的边缘方向相同的角度方向θ1和与所述θ1相差90°的角度方向θ2,所述划分模型为:
Point1={i|βi∈[θ1-δ,θ1+δ],i∈P}
Point2={i|βi∈[θ2-δ,θ2+δ],i∈P}
其中,Point表示特征点的集合,
Point1为边缘方向与θ1方向一致的特征点组成的候选边界线集合,
Point2为边缘方向与θ2方向一致的特征点组成的候选边界线集合,δ表示建筑物实例方向的最大偏差阈值,βi表示特征点i的边缘方向。
在本发明实施例中,所述选取模块203,具体包括查找单元、配置单元、第三提取单元和选取单元,其中:
查找单元,用于按照预设尺寸将各个建筑物实例的初始检测框划分为多个检测区域,根据各个初始检测框内每一检测区域的特征向量查找检测区域内包含建筑物实例的目标检测区域;
配置单元,用于根据各个初始检测框内每一目标检测区域在边界线方向θ1和θ2对应的切线,与对应候选边界线集合中靠近该目标检测区域中心点的候选边界线形成的区域作为当前候选边界线的有效区域;
第三提取单元,用于提取目标检测区域中各个像素点在对应的初始检测框的特征图的特征向量平均值,得到目标检测区域的维度为n的特征向量A,并分别提取对应建筑物实例的每一候选边界线的有效区域中各个像素点在当前初始检测框的特征图的特征向量平均值,得到各个选边界线的有效区域的维度为n的特征向量B,分别计算目标检测区域的特征向量A与各个选边界线的有效区域的特征向量B的余弦相似度;
选取单元,用于从对应的特征向量B与特征向量A的余弦相似度小于预设相似阈值的各个候选边界线中,在θ1和θ2的正负方向上分别选取远离当前目标检测区域中心点的候选边界线作为对应建筑物实例的目标边界线。
进一步地,所述调整模块204,具体用于根据各个建筑物实例的目标边界线的交点确定位置调整参数,并根据所述位置调整参数对对应建筑物实例的初始检测框进行调整,得到各个建筑物实例的目标检测框。
在本发明实施例中,所述提取模块205,具体包括第四提取单元、第一训练单元、第二训练单元和第五提取单元,其中:
第四提取单元,用于从所述遥感影像数据的特征图中提取目标检测框对应位置的特征向量;
第一训练单元,用于将所述目标检测框对应位置的特征向量输入预设神经网络模型的全连接网络,生成目标检测框包含对应建筑物实例的概率预测结果;
第二训练单元,用于将所述目标检测框对应位置的特征向量输入预设神经网络模型的卷积层,得到包含所述目标检测框局部信息的特征向量;
第五提取单元,用于将所述概率预测结果的维度调整为所述包含所述目标检测框局部信息的特征向量的维度,并将维度调整后的概率预测结果与所述包含所述目标检测框局部信息的特征向量逐元素相乘后得到的特征作为预设分类模型的输入,根据分类输出结果提取所述目标检测框内的建筑物实例。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
本发明实施例提供的遥感影像的建筑物实例提取方法、装置,通过提取遥感影像数据的特征图,根据特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框,能够保证分布密集的所有建筑物都能被检测到,并结合遥感影像低阶特征信息对建筑物实例的检测框位置进行精准调整,有效的提升了预测的建筑物实例检测框的精度,实现遥感影像中建筑物实例的精确提取。
此外,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上所述方法的步骤。
本实施例中,所述遥感影像的建筑物实例提取装置集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
本发明实施例提供的电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述各个遥感影像的建筑物实例提取方法实施例中的步骤,例如图1所示的S11~S15。或者,所述处理器执行所述计算机程序时实现上述各遥感影像的建筑物实例提取装置实施例中各模块/单元的功能,例如图9所示的预估模块201、判定模块202、选取模块203、调整模块204以及提取模块205。
示例性的,所述计算机程序可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器中,并由所述处理器执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序在所述遥感影像的建筑物实例提取装置中的执行过程。例如,所述计算机程序可以被分割成预估模块201、判定模块202、选取模块203、调整模块204以及提取模块205。
所述电子设备可以是移动型计算机、笔记本、掌上电脑及手机等设备。所述电子设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,本实施例中的电子设备可以包括更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述电子设备还可以包括输入输出设备、网络接入设备、总线等。
所述处理器可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器是所述电子设备的控制中心,利用各种接口和线路连接整个电子设备的各个部分。
所述存储器可用于存储所述计算机程序和/或模块,所述处理器通过运行或执行存储在所述存储器内的计算机程序和/或模块,以及调用存储在存储器内的数据,实现所述电子设备的各种功能。所述存储器可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
本领域的技术人员能够理解,尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (16)
1.一种遥感影像的建筑物实例提取方法,其特征在于,所述方法包括:
提取遥感影像数据的特征图,根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框;
根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合;
根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从所述候选边界线集合中选取对应建筑物实例的目标边界线;
根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框;
从各个建筑物实例的目标检测框中提取对应的建筑物实例。
2.根据权利要求1所述的方法,其特征在于,所述提取遥感影像数据的特征图,根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框,包括:
采用深层卷及神经网络提取遥感影像数据的特征图;
根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的多个预估面积,并根据各个建筑物实例的多个预估面积为对应的建筑物实例生成相应的多个推荐区域;
从所述特征图中提取各个推荐区域对应位置的特征向量,根据所述特征向量采用预设的学习模型确定每一推荐区域包含对应的建筑物实例的置信度以及位置偏移量;
根据每一推荐区域包含对应的建筑物实例的置信度,确定各建筑物实例对应的目标推荐区域,并根据位置偏移量对所述目标推荐区域进行位置调整,得到各个建筑物实例的初始检测框。
3.根据权利要求1所述的方法,其特征在于,根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合,包括:
提取各个建筑物实例的初始检测框内部的特征点,并计算各个特征点的梯度方向;
根据各个特征点的梯度方向确定所述初始检测框对应的建筑物实例的边界线方向;
根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合。
4.根据权利要求3所述的方法,其特征在于,所述根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合,包括:
根据所述初始检测框内各个特征点的梯度方向确定对应特征点的边缘方向,同一特征点的梯度方向与边缘方向相互垂直;
根据预设的划分模型将所述初始检测框内各个特征点按照其边缘方向划分为与所述边界线方向一致的候选边界线集合,所述边界线方向包括与初始检测框内多数特征点的边缘方向相同的角度方向θ1和与所述θ1相差90°的角度方向θ2,所述划分模型为:
Point1={i|βi∈[θ1-δ,θ1+δ],i∈P}
Point2={i|βi∈[θ2-δ,θ2+δ],i∈P}
其中,Point表示特征点的集合,
Point1为边缘方向与θ1方向一致的特征点组成的候选边界线集合,
Point2为边缘方向与θ2方向一致的特征点组成的候选边界线集合,δ表示建筑物实例方向的最大偏差阈值,βi表示特征点i的边缘方向。
5.根据权利要求1所述的方法,其特征在于,所述根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从所述候选边界线集合中选取对应建筑物实例的目标边界线,包括:
按照预设尺寸将各个建筑物实例的初始检测框划分为多个检测区域,根据各个初始检测框内每一检测区域的特征向量查找检测区域内包含建筑物实例的目标检测区域;
根据各个初始检测框内每一目标检测区域在边界线方向θ1和θ2对应的切线,与对应候选边界线集合中靠近该目标检测区域中心点的候选边界线形成的区域作为当前候选边界线的有效区域;
提取目标检测区域中各个像素点在对应的初始检测框的特征图的特征向量平均值,得到目标检测区域的维度为n的特征向量A,并分别提取对应建筑物实例的每一候选边界线的有效区域中各个像素点在当前初始检测框的特征图的特征向量平均值,得到各个选边界线的有效区域的维度为n的特征向量B,分别计算目标检测区域的特征向量A与各个选边界线的有效区域的特征向量B的余弦相似度;
从对应的特征向量B与特征向量A的余弦相似度小于预设相似阈值的各个候选边界线中,在θ1和θ2的正负方向上分别选取远离当前目标检测区域中心点的候选边界线作为对应建筑物实例的目标边界线。
6.根据权利要求5所述的方法,其特征在于,所述根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框,包括:
根据各个建筑物实例的目标边界线的交点确定位置调整参数,并根据所述位置调整参数对对应建筑物实例的初始检测框进行调整,得到各个建筑物实例的目标检测框。
7.根据权利要求1所述的方法,其特征在于,所述从各个建筑物实例的目标检测框中提取对应的建筑物实例,包括:
从所述遥感影像数据的特征图中提取目标检测框对应位置的特征向量;
将所述目标检测框对应位置的特征向量输入预设神经网络模型的全连接网络,生成目标检测框包含对应建筑物实例的概率预测结果;
将所述目标检测框对应位置的特征向量输入预设神经网络模型的卷积层,得到包含所述目标检测框局部信息的特征向量;
将所述概率预测结果的维度调整为所述包含所述目标检测框局部信息的特征向量的维度,并将维度调整后的概率预测结果与所述包含所述目标检测框局部信息的特征向量逐元素相乘后得到的特征作为预设分类模型的输入,根据分类输出结果提取所述目标检测框内的建筑物实例。
8.一种遥感影像的建筑物实例提取装置,其特征在于,所述装置包括:
预估模块,用于提取遥感影像数据的特征图,根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的初始检测框;
判定模块,用于根据各个建筑物实例的初始检测框内部的特征点的特征信息确定对应建筑物实例的候选边界线集合;
选取模块,用于根据各个建筑物实例的初始检测框内的建筑物实例的预测位置区域与对应建筑物实例的候选边界线集合中各候选边界线的有效区域的相似度,从所述候选边界线集合中选取对应建筑物实例的目标边界线;
调整模块,用于根据各个建筑物实例的目标边界线对各自的初始检测框进行调整,得到各个建筑物实例的目标检测框;
提取模块,用于从各个建筑物实例的目标检测框中提取对应的建筑物实例。
9.根据权利要求8所述的装置,其特征在于,所述预估模块,包括:
第一提取单元,用于采用深层卷及神经网络提取遥感影像数据的特征图;
预估单元,用于根据所述特征图预估遥感影像数据中存在的建筑物实例以及各个建筑物实例的多个预估面积,并根据各个建筑物实例的多个预估面积为对应的建筑物实例生成相应的多个推荐区域;
学习单元,用于从所述特征图中提取各个推荐区域对应位置的特征向量,根据所述特征向量采用预设的学习模型确定每一推荐区域包含对应的建筑物实例的置信度以及位置偏移量;
调整单元,用于根据每一推荐区域包含对应的建筑物实例的置信度,确定各建筑物实例对应的目标推荐区域,并根据位置偏移量对所述目标推荐区域进行位置调整,得到各个建筑物实例的初始检测框。
10.根据权利要求8所述的装置,其特征在于,所述判定模块,包括:
第二提取单元,用于提取各个建筑物实例的初始检测框内部的特征点,并计算各个特征点的梯度方向;
判定单元,用于根据各个特征点的梯度方向确定所述初始检测框对应的建筑物实例的边界线方向;
划分单元,用于根据各个建筑物实例的边界线方向将对应初始检测框内的特征点划分为与所述边界线方向一致的候选边界线集合。
11.根据权利要求10所述的装置,其特征在于,所述划分单元,具体用于根据所述初始检测框内各个特征点的梯度方向确定对应特征点的边缘方向,同一特征点的梯度方向与边缘方向相互垂直;根据预设的划分模型将所述初始检测框内各个特征点按照其边缘方向划分为与所述边界线方向一致的候选边界线集合,所述边界线方向包括与初始检测框内多数特征点的边缘方向相同的角度方向θ1和与所述θ1相差90°的角度方向θ2,所述划分模型为:
Point1={i|βi∈[θ1-δ,θ1+δ],i∈P}
Point2={i|βi∈[θ2-δ,θ2+δ],i∈P}
其中,Point表示特征点的集合,
Point1为边缘方向与θ1方向一致的特征点组成的候选边界线集合,
Point2为边缘方向与θ2方向一致的特征点组成的候选边界线集合,δ表示建筑物实例方向的最大偏差阈值,βi表示特征点i的边缘方向。
12.根据权利要求8所述的装置,其特征在于,所述选取模块,包括:
查找单元,用于按照预设尺寸将各个建筑物实例的初始检测框划分为多个检测区域,根据各个初始检测框内每一检测区域的特征向量查找检测区域内包含建筑物实例的目标检测区域;
配置单元,用于根据各个初始检测框内每一目标检测区域在边界线方向θ1和θ2对应的切线,与对应候选边界线集合中靠近该目标检测区域中心点的候选边界线形成的区域作为当前候选边界线的有效区域;
第三提取单元,用于提取目标检测区域中各个像素点在对应的初始检测框的特征图的特征向量平均值,得到目标检测区域的维度为n的特征向量A,并分别提取对应建筑物实例的每一候选边界线的有效区域中各个像素点在当前初始检测框的特征图的特征向量平均值,得到各个选边界线的有效区域的维度为n的特征向量B,分别计算目标检测区域的特征向量A与各个选边界线的有效区域的特征向量B的余弦相似度;
选取单元,用于从对应的特征向量B与特征向量A的余弦相似度小于预设相似阈值的各个候选边界线中,在θ1和θ2的正负方向上分别选取远离当前目标检测区域中心点的候选边界线作为对应建筑物实例的目标边界线。
13.根据权利要求12所述的装置,其特征在于,所述调整模块,具体用于根据各个建筑物实例的目标边界线的交点确定位置调整参数,并根据所述位置调整参数对对应建筑物实例的初始检测框进行调整,得到各个建筑物实例的目标检测框。
14.根据权利要求8所述的装置,其特征在于,所述提取模块,包括:
第四提取单元,用于从所述遥感影像数据的特征图中提取目标检测框对应位置的特征向量;
第一训练单元,用于将所述目标检测框对应位置的特征向量输入预设神经网络模型的全连接网络,生成目标检测框包含对应建筑物实例的概率预测结果;
第二训练单元,用于将所述目标检测框对应位置的特征向量输入预设神经网络模型的卷积层,得到包含所述目标检测框局部信息的特征向量;
第五提取单元,用于将所述概率预测结果的维度调整为所述包含所述目标检测框局部信息的特征向量的维度,并将维度调整后的概率预测结果与所述包含所述目标检测框局部信息的特征向量逐元素相乘后得到的特征作为预设分类模型的输入,根据分类输出结果提取所述目标检测框内的建筑物实例。
15.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7任一项所述方法的步骤。
16.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-7任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910433928.1A CN110197147B (zh) | 2019-05-23 | 2019-05-23 | 遥感影像的建筑物实例提取方法、装置、存储介质及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910433928.1A CN110197147B (zh) | 2019-05-23 | 2019-05-23 | 遥感影像的建筑物实例提取方法、装置、存储介质及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110197147A true CN110197147A (zh) | 2019-09-03 |
CN110197147B CN110197147B (zh) | 2022-12-02 |
Family
ID=67752940
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910433928.1A Active CN110197147B (zh) | 2019-05-23 | 2019-05-23 | 遥感影像的建筑物实例提取方法、装置、存储介质及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110197147B (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111523391A (zh) * | 2020-03-26 | 2020-08-11 | 上海刻羽信息科技有限公司 | 建筑物的识别方法、系统、电子设备及可读存储介质 |
CN111652251A (zh) * | 2020-06-09 | 2020-09-11 | 星际空间(天津)科技发展有限公司 | 遥感影像建筑物特征提取模型构建方法、装置及存储介质 |
CN111652250A (zh) * | 2020-06-09 | 2020-09-11 | 星际空间(天津)科技发展有限公司 | 基于多边形的遥感影像建筑物提取方法、装置及存储介质 |
CN111754536A (zh) * | 2020-06-29 | 2020-10-09 | 上海商汤智能科技有限公司 | 图像标注方法、装置、电子设备及存储介质 |
CN112149585A (zh) * | 2020-09-27 | 2020-12-29 | 上海商汤智能科技有限公司 | 一种图像处理方法、装置、设备和存储介质 |
CN112699745A (zh) * | 2020-12-16 | 2021-04-23 | 安徽建筑大学 | 一种用于火灾现场的被困人员定位方法 |
CN113920147A (zh) * | 2021-12-14 | 2022-01-11 | 星际空间(天津)科技发展有限公司 | 基于深度学习的遥感影像建筑物提取方法及设备 |
CN113920148A (zh) * | 2021-12-14 | 2022-01-11 | 星际空间(天津)科技发展有限公司 | 基于多边形的建筑物边界提取方法、设备及存储介质 |
CN114092813A (zh) * | 2021-11-25 | 2022-02-25 | 中国科学院空天信息创新研究院 | 一种工业园区图像提取方法、模型、电子设备和存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102938066A (zh) * | 2012-12-07 | 2013-02-20 | 南京大学 | 一种基于多元数据重建建筑物外轮廓多边形的方法 |
CN106056598A (zh) * | 2016-05-27 | 2016-10-26 | 哈尔滨工业大学 | 基于线段检测和图像分割融合的卫星高分图像建筑物轮廓提取方法 |
JP2017033197A (ja) * | 2015-07-30 | 2017-02-09 | 日本電信電話株式会社 | 変化領域検出装置、方法、及びプログラム |
CN107871124A (zh) * | 2017-11-15 | 2018-04-03 | 陕西师范大学 | 一种基于深度神经网络的遥感图像目标检测方法 |
CN108304873A (zh) * | 2018-01-30 | 2018-07-20 | 深圳市国脉畅行科技股份有限公司 | 基于高分辨率光学卫星遥感影像的目标检测方法及其系统 |
CN108564109A (zh) * | 2018-03-21 | 2018-09-21 | 天津大学 | 一种基于深度学习的遥感图像目标检测方法 |
CN108596101A (zh) * | 2018-04-25 | 2018-09-28 | 上海交通大学 | 一种基于卷积神经网络的遥感图像多目标检测方法 |
CN109215047A (zh) * | 2018-08-16 | 2019-01-15 | 中国科学院深海科学与工程研究所 | 基于深海视频的运动目标检测方法和装置 |
CN109446992A (zh) * | 2018-10-30 | 2019-03-08 | 苏州中科天启遥感科技有限公司 | 基于深度学习的遥感影像建筑物提取方法及系统、存储介质、电子设备 |
-
2019
- 2019-05-23 CN CN201910433928.1A patent/CN110197147B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102938066A (zh) * | 2012-12-07 | 2013-02-20 | 南京大学 | 一种基于多元数据重建建筑物外轮廓多边形的方法 |
JP2017033197A (ja) * | 2015-07-30 | 2017-02-09 | 日本電信電話株式会社 | 変化領域検出装置、方法、及びプログラム |
CN106056598A (zh) * | 2016-05-27 | 2016-10-26 | 哈尔滨工业大学 | 基于线段检测和图像分割融合的卫星高分图像建筑物轮廓提取方法 |
CN107871124A (zh) * | 2017-11-15 | 2018-04-03 | 陕西师范大学 | 一种基于深度神经网络的遥感图像目标检测方法 |
CN108304873A (zh) * | 2018-01-30 | 2018-07-20 | 深圳市国脉畅行科技股份有限公司 | 基于高分辨率光学卫星遥感影像的目标检测方法及其系统 |
CN108564109A (zh) * | 2018-03-21 | 2018-09-21 | 天津大学 | 一种基于深度学习的遥感图像目标检测方法 |
CN108596101A (zh) * | 2018-04-25 | 2018-09-28 | 上海交通大学 | 一种基于卷积神经网络的遥感图像多目标检测方法 |
CN109215047A (zh) * | 2018-08-16 | 2019-01-15 | 中国科学院深海科学与工程研究所 | 基于深海视频的运动目标检测方法和装置 |
CN109446992A (zh) * | 2018-10-30 | 2019-03-08 | 苏州中科天启遥感科技有限公司 | 基于深度学习的遥感影像建筑物提取方法及系统、存储介质、电子设备 |
Non-Patent Citations (4)
Title |
---|
YANKANG ZHANG等: "Nearshore vessel detection based on Scene-mask R-CNN in remote sensing image", 《2018 INTERNATIONAL CONFERENCE ON NETWORK INFRASTRUCTURE AND DIGITAL CONTENT (IC-NIDC)》 * |
ZONGZE ZHAO等: "Extracting buildings from and regularizing boundaries in airborne lidar data using connected operators", 《INTERNATIONAL JOURNAL OF REMOTE SENSING》 * |
李鹏程: "机载全波形LiDAR数据的地形与建筑物重建技术", 《中国博士学位论文全文数据库基础科学辑》 * |
许遐祯等: "基于多源数据的中国近海风场融合方法研究", 《杭州师范大学学报(自然科学版)》 * |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111523391B (zh) * | 2020-03-26 | 2021-11-05 | 上海刻羽信息科技有限公司 | 建筑物的识别方法、系统、电子设备及可读存储介质 |
CN111523391A (zh) * | 2020-03-26 | 2020-08-11 | 上海刻羽信息科技有限公司 | 建筑物的识别方法、系统、电子设备及可读存储介质 |
CN111652251A (zh) * | 2020-06-09 | 2020-09-11 | 星际空间(天津)科技发展有限公司 | 遥感影像建筑物特征提取模型构建方法、装置及存储介质 |
CN111652250A (zh) * | 2020-06-09 | 2020-09-11 | 星际空间(天津)科技发展有限公司 | 基于多边形的遥感影像建筑物提取方法、装置及存储介质 |
CN111652250B (zh) * | 2020-06-09 | 2023-05-26 | 星际空间(天津)科技发展有限公司 | 基于多边形的遥感影像建筑物提取方法、装置及存储介质 |
CN111652251B (zh) * | 2020-06-09 | 2023-06-27 | 星际空间(天津)科技发展有限公司 | 遥感影像建筑物特征提取模型构建方法、装置及存储介质 |
CN111754536A (zh) * | 2020-06-29 | 2020-10-09 | 上海商汤智能科技有限公司 | 图像标注方法、装置、电子设备及存储介质 |
WO2022001256A1 (zh) * | 2020-06-29 | 2022-01-06 | 上海商汤智能科技有限公司 | 图像标注方法、装置、电子设备及存储介质 |
CN111754536B (zh) * | 2020-06-29 | 2024-04-16 | 上海商汤智能科技有限公司 | 图像标注方法、装置、电子设备及存储介质 |
CN112149585A (zh) * | 2020-09-27 | 2020-12-29 | 上海商汤智能科技有限公司 | 一种图像处理方法、装置、设备和存储介质 |
WO2022062543A1 (zh) * | 2020-09-27 | 2022-03-31 | 上海商汤智能科技有限公司 | 一种图像处理方法、装置、设备和存储介质 |
CN112699745A (zh) * | 2020-12-16 | 2021-04-23 | 安徽建筑大学 | 一种用于火灾现场的被困人员定位方法 |
CN114092813A (zh) * | 2021-11-25 | 2022-02-25 | 中国科学院空天信息创新研究院 | 一种工业园区图像提取方法、模型、电子设备和存储介质 |
CN114092813B (zh) * | 2021-11-25 | 2022-08-05 | 中国科学院空天信息创新研究院 | 一种工业园区图像提取方法、系统、电子设备和存储介质 |
CN113920147A (zh) * | 2021-12-14 | 2022-01-11 | 星际空间(天津)科技发展有限公司 | 基于深度学习的遥感影像建筑物提取方法及设备 |
CN113920148B (zh) * | 2021-12-14 | 2022-03-04 | 星际空间(天津)科技发展有限公司 | 基于多边形的建筑物边界提取方法、设备及存储介质 |
CN113920147B (zh) * | 2021-12-14 | 2022-03-01 | 星际空间(天津)科技发展有限公司 | 基于深度学习的遥感影像建筑物提取方法及设备 |
CN113920148A (zh) * | 2021-12-14 | 2022-01-11 | 星际空间(天津)科技发展有限公司 | 基于多边形的建筑物边界提取方法、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110197147B (zh) | 2022-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110197147A (zh) | 遥感影像的建筑物实例提取方法、装置、存储介质及设备 | |
CN112766244B (zh) | 目标对象检测方法、装置、计算机设备和存储介质 | |
CN104424634B (zh) | 对象跟踪方法和装置 | |
CN106909902B (zh) | 一种基于改进的层次化显著模型的遥感目标检测方法 | |
CN110472534A (zh) | 基于rgb-d数据的3d目标检测方法、装置、设备和存储介质 | |
CN108304835A (zh) | 文字检测方法和装置 | |
CN107872644A (zh) | 视频监控方法及装置 | |
CN108629286B (zh) | 一种基于主观感知显著模型的遥感机场目标检测方法 | |
CN106886995A (zh) | 多线性示例回归器聚合的图像显著对象分割方法 | |
CN101930533B (zh) | 在图像采集设备中进行天空检测的装置和方法 | |
CN102289948A (zh) | 高速公路场景下一种多特征融合的多车辆视频跟踪方法 | |
CN108010048A (zh) | 一种基于多图谱的自动脑部mri图像的海马体分割方法 | |
CN113724259B (zh) | 井盖异常检测方法、装置及其应用 | |
CN112364916B (zh) | 基于迁移学习的图像分类方法、相关设备及存储介质 | |
CN113920148B (zh) | 基于多边形的建筑物边界提取方法、设备及存储介质 | |
CN112052818A (zh) | 无监督域适应的行人检测方法、系统及存储介质 | |
CN109426793A (zh) | 一种图像行为识别方法、设备及计算机可读存储介质 | |
CN116188703B (zh) | 一种基于bim的建筑工程可视化管理系统 | |
Rezaee et al. | Road detection using deep neural network in high spatial resolution images | |
CN109308456A (zh) | 目标对象的信息确定方法、装置、设备及存储介质 | |
CN114067428A (zh) | 多视角多目标的跟踪方法、装置、计算机设备和存储介质 | |
CN113643311B (zh) | 一种对边界误差鲁棒的图像分割方法和装置 | |
CN109740527B (zh) | 一种视频帧中图像处理方法 | |
CN108491857A (zh) | 一种视域重叠的多摄像机目标匹配方法 | |
CN112241736A (zh) | 一种文本检测的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |