CN105761308B - 一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法 - Google Patents

一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法 Download PDF

Info

Publication number
CN105761308B
CN105761308B CN201610113150.2A CN201610113150A CN105761308B CN 105761308 B CN105761308 B CN 105761308B CN 201610113150 A CN201610113150 A CN 201610113150A CN 105761308 B CN105761308 B CN 105761308B
Authority
CN
China
Prior art keywords
facade
geometry
point cloud
cloud data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201610113150.2A
Other languages
English (en)
Other versions
CN105761308A (zh
Inventor
刘亚文
覃苏舜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan University WHU
Original Assignee
Wuhan University WHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan University WHU filed Critical Wuhan University WHU
Priority to CN201610113150.2A priority Critical patent/CN105761308B/zh
Publication of CN105761308A publication Critical patent/CN105761308A/zh
Application granted granted Critical
Publication of CN105761308B publication Critical patent/CN105761308B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • G06T2207/10044Radar image

Abstract

本发明涉及一种地面LiDAR和影像融合的遮挡区域建筑物立面重建方法,包括以下步骤:1,LiDAR点云数据重建建筑物立面初始模型;步骤2,结合影像数据的建筑物立面初始模型精化;步骤3,建筑物立面结构规则分析及遮挡区域几何结构推测;步骤4,利用点云数据验证遮挡区域几何结构的合理性和可靠性。本发明利用影像数据精化点云数据重建的初始立面几何模型,在模型边和影像边匹配过程中,利用点云数据解决了搜索区中存在多个候选影像边的问题,得到最佳对应影像边,有效改善了激光扫描仪分辨率引起的立面几何结构偏移。同时提高了遮挡区域立面重建的可靠性。

Description

一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建 方法
技术领域
本发明涉及一种建筑物立面重建方法,尤其是涉及一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法。
背景技术
街景建筑物立面精细三维模型是准确路径规划、高精度实景定位与导航关键基础数据。对于街景建筑物立面三维几何重建而言,通过影像密集匹配或地面LiDAR均可获取沿街建筑物立面的空间三维点云数据。研究表明影像和LiDAR数据在建筑物立面重建方面具有很好的互补性,LiDAR点云数据可以保证可靠的面特征提取,影像数据可以获得到高精度的结构边,两者的结合极大提高了建筑物立面重建的几何精度,同时也避免了影像匹配失败导致的物方定位困难,及从大量无序、密度不均匀的LiDAR点云数据中表达建筑物立面几何结构的困难。但是,从LiDAR和影像数据重建完整、可靠的建筑物立面依然面临挑战,一个重要瓶颈问题是如何重建遮挡区域的建筑物立面几何结构(窗户、门及阳台等)。由于视角的限制,遮挡区域数据无法获取,缺失的建筑物立面几何结构通常在一定假设或某种规则下推理得到,重建的可靠性难以保证。
LiDAR和影像数据融合的遮挡区域建筑物立面几何结构重建主要涉及遮挡区域数据填补和立面几何结构重建两方面。在遮挡区域数据填补方面,一些方法采用手持式激光扫描仪、立体视觉等方式重新采集遮挡区域点云数据,经过配准后填充原有数据的空洞。这种方法能保证填补数据的真实性,但会受到数据采集视角的限制及数据配准与融合精度的影响。计算机图形,计算机视觉及虚拟现实等研究领域常用曲面拟合、内插等数据合成算法对点云稀疏数据空洞进行填补。该方法多是基于某种假设条件,填补数据的可靠性较难保证。在立面几何结构重建方面,许多研究根据建筑物结构具有重复、对称等知识来合成遮挡区域建筑物立面几何结构,如利用先验的或通过一定量已知样本提炼的建筑物立面结构规则,合理推知被遮挡部分的建筑物立面几何结构。这种方法的优点是利用已有的先验知识或从现有数据中挖掘的规则指导遮挡区域几何结构重建,但它的局限性在于遮挡区域的建筑物立面结构必须符合推理的规则。
大多数建筑物立面兼顾规则和非规则的几何结构排列,底层通常是变化的,也是频繁遮挡的区域。本发明主要针对无数据或数据不足够情况下,解决遮挡区域建筑物立面几何结构重建问题。
发明内容
本发明提供一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法,该方法在利用影像精化点云数据重建的初始立面模型基础上,先假设所有遮挡区域是符合规则排列的,在此条件下推测遮挡区域的立面几何结构,然后用点云数据验证并检测出非规则区域的重建结果,避免了遮挡区域不可靠的立面几何结构重建。
本发明主要是通过下述技术方案得以实现:
一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法,其特征在于,包括以下步骤:
步骤1,LiDAR点云数据重建建筑物立面初始模型,包括如下子步骤:
步骤1.1,计算LiDAR数据点的法向量,根据数据点法向量平行地面分割建筑物立面点云数据,并用RANSAC剔除粗差点;大部分立面几何结构距离建筑物立面一定距离,在立面分割过程中,这些数据点被滤掉,呈现为洞;
步骤1.2,通过洞检测提取建筑物立面几何结构,人工半自动获取立面点云数据漏洞的角点坐标,形成闭合的矩形或多边形作为立面几何结构的初始重建模型;
步骤2,结合影像数据的建筑物立面初始模型精化,包括如下步骤:
步骤2.1,利用canny算子检测影像边缘,在此基础上用hough变换提取直线;
步骤2.2,在影像方位元素已知条件下,将步骤1中重建的建筑物立面初始模型投影到影像上,匹配初始立面几何结构模型边和提取的对应影像边;
步骤2.3,模型边和影像边匹配过程中,除了距离和方向约束外,增加了透过窗户的点云数据作为约束条件选择最佳对应影像边,解决了在搜索区中满足距离和方向约束情况下多条候选边存在的问题;
将透过窗户的点云投影到影像上,最佳影像边应位于点云投影和非点云投影交界,考虑到影像方位元素误差引起的点云投影偏移,选择影像边两边点云个数相差最大为最佳匹配影像边,所述窗户的点云包括内部窗框、窗帘及内部反射的点云数据;
步骤2.4,将最佳匹配影像边投影到建筑物立面,得到精确的建筑物立面几何结构;
步骤3,建筑物立面结构规则分析及遮挡区域几何结构推测,包括如下步骤:
步骤3.1,对步骤2中精化的重建建筑物立面几何结构进行分类,根据几何结构位置坐标进行行、列排序,形成2D图像;
根据边长个数和总长度对精化的重建建筑物立面几何结构进行分类,分类的过程为对重建几何结构标记过程;每个几何结构的位置坐标为其形状几何中心点的坐标,根据位置坐标的x和y进行列、行标记,找出同一行、列的几何结构,然后对行、列排序,形成2D图像;
步骤3.2,每一个行、列交叉点对应一个立面几何结构,如果交叉点没有记录立面几何结构,对应的行、列为立面几何结构推测的缺失位置;
步骤3.3,基于立面几何结构四邻域的模板匹配方法,以立面几何结构的形状与大小为匹配测度,对遮挡区域可能的立面几何结构进行推测;
步骤4,利用点云数据验证遮挡区域几何结构的合理性和可靠性。
在上述的一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法,所述步骤4中,利用点云数据验证遮挡区域几何结构推测的合理性和可靠性包括如下步骤:
步骤4.1,透过遮挡物缝隙到达立面几何结构的点云数据及透过窗户的点云数据分割与聚类;
步骤4.2,判断立面几何结构对应点云数据与推测结果的匹配程度;对于任一预测的立面几何结构,计算点云数据与推测立面几何结构重合度K1及点云外接矩形与推测立面几何结构面积的重叠度K2
K1=D1/D 式一
D为立面几何结构对应的点云数据,D1为落入推测立面几何结构范围的点云数据;
K2=S1/S 式二
S为立面几何结构对应点云数据外接矩形面积,S1为与推测立面几何结构的重叠面积;
当K1和K2大于一定阈值时,推测结果被认为是可靠的。
因此,本发明具有如下优点:利用影像数据精化点云数据重建的初始立面几何模型,在模型边和影像边匹配过程中,利用点云数据解决了搜索区中存在多个候选影像边的问题,得到最佳对应影像边,有效改善了激光扫描仪分辨率引起的立面几何结构偏移。同时,针对重建模型中由点云数据不足够引起的几何结构缺失和不正确情况,先按照立面几何结构满足假设规则,采用四邻域模板匹配方法推测遮挡区域几何结构的位置和类型,然后用点云数据验证推理的合理性,提高了遮挡区域立面重建的可靠性。
附图说明
图1是本发明算法流程示意图。
图2a是四邻域模板匹配原理图(立面几何结构2D影像)。
图2b是四邻域模板匹配原理图(缺失几何结构四邻域)。
图2c是四邻域模板匹配原理图(四邻域模板)。
图2d是四邻域模板匹配原理图(匹配结果)。
具体实施方式
下面通过实施例,并结合附图,对本发明的技术方案作进一步具体的说明。
采集建筑物立面LiDAR和影像数据,以树木遮挡的立面窗户重建为实施例:
步骤1.LiDAR点云数据重建建筑物立面初始模型。
地面激光扫描仪RigelVZ-400用来采集实验数据,包括点云和影像数据,点云数据的采样间隔为0.046°,影像大小为4288x2848像素,点云和影像数据的配准已完成,影像方位元素已知。
点云个数为183万,位于建筑物前的遮挡主要有树木,行人,车辆,电话亭等,树木对立面的遮挡最大,建筑物立面的几何结构主要有窗户、门和阳台。
经过立面点云数据提取及人工半自动洞检测得到建筑物初始立面几何模型。
步骤2.结合影像数据的建筑物立面初始模型精化。
首先,用canny算子检测影像边缘及hough变换提取影像直线。
其次,将初始立面模型投影在影像上,并用距离和角度条件约束选择候选窗户边,本实验选择角度阈值为5°,距离阈值为10个像素。
最后,将最佳匹配影像边投影到建筑物立面,得到精化后的立面几何模型,
步骤3,建筑物立面结构规则分析及遮挡区域几何结构推测。
步骤4,利用点云数据验证遮挡区域几何结构的合理性和可靠性。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

Claims (2)

1.一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法,其特征在于,包括以下步骤:
步骤1,LiDAR点云数据重建建筑物立面初始模型,包括如下子步骤:
步骤1.1,计算LiDAR数据点的法向量,根据数据点法向量平行地面分割建筑物立面点云数据,并用RANSAC剔除粗差点;大部分立面几何结构距离建筑物立面一定距离,在立面分割过程中,这些粗差点被滤掉,呈现为洞;
步骤1.2,通过洞检测提取建筑物立面几何结构,人工半自动获取立面点云数据漏洞的角点坐标,形成闭合的矩形或多边形作为立面几何结构的初始重建模型;
步骤2,结合影像数据的建筑物立面初始模型精化,包括如下步骤:
步骤2.1,利用canny算子检测影像边缘,在此基础上用hough变换提取直线;
步骤2.2,在影像方位元素已知条件下,将步骤1中重建的建筑物立面初始模型投影到影像上,匹配初始立面几何结构模型边和提取的对应影像边;
步骤2.3,模型边和影像边匹配过程中,除了距离和方向约束外,增加了透过窗户的点云数据作为约束条件选择最佳匹配影像边,解决了在搜索区中满足距离和方向约束情况下多条候选边存在的问题;
将透过窗户的点云投影到影像上,最佳匹配影像边应位于点云投影和非点云投影交界,考虑到影像方位元素误差引起的点云投影偏移,选择影像边两边点云个数相差最大为最佳匹配影像边,所述窗户的点云包括内部窗框、窗帘及内部反射的点云数据;
步骤2.4,将最佳匹配影像边投影到建筑物立面,得到精确的建筑物立面几何结构;
步骤3,建筑物立面结构规则分析及遮挡区域立面几何结构推测,包括如下步骤:
步骤3.1,对步骤2中精化的重建建筑物立面几何结构进行分类,根据几何结构位置坐标进行行、列排序,形成2D图像;
根据边长个数和总长度对精化的重建建筑物立面几何结构进行分类,分类的过程为对重建几何结构标记过程;每个几何结构的位置坐标为其形状几何中心点的坐标,根据位置坐标的x和y进行列、行标记,找出同一行、列的几何结构,然后对行、列排序,形成2D图像;
步骤3.2,每一个行、列交叉点对应一个立面几何结构,如果交叉点没有记录立面几何结构,对应的行、列为立面几何结构推测的缺失位置;
步骤3.3,基于立面几何结构四邻域的模板匹配方法,以立面几何结构的形状与大小为匹配测度,对遮挡区域可能的立面几何结构进行推测;
步骤4,利用点云数据验证遮挡区域立面几何结构的合理性和可靠性。
2.根据权利要求1所述的一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法,所述步骤4中,利用点云数据验证遮挡区域立面几何结构推测的合理性和可靠性包括如下步骤:
步骤4.1,透过遮挡物缝隙到达立面几何结构的点云数据及透过窗户的点云数据分割与聚类;
步骤4.2,判断立面几何结构对应点云数据与推测结果的匹配程度;对于任一推测的立面几何结构,计算点云数据与推测立面几何结构重合度K1及点云外接矩形与推测立面几何结构面积的重叠度K2
K1=D1/D 式一
D为立面几何结构对应的点云数据,D1为落入推测立面几何结构范围的点云数据;
K2=S1/S 式二
S为立面几何结构对应点云数据外接矩形面积,S1为与推测立面几何结构的重叠面积;
当K1和K2大于一定阈值时,推测结果被认为是可靠的。
CN201610113150.2A 2016-02-29 2016-02-29 一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法 Expired - Fee Related CN105761308B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610113150.2A CN105761308B (zh) 2016-02-29 2016-02-29 一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610113150.2A CN105761308B (zh) 2016-02-29 2016-02-29 一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法

Publications (2)

Publication Number Publication Date
CN105761308A CN105761308A (zh) 2016-07-13
CN105761308B true CN105761308B (zh) 2018-09-07

Family

ID=56331520

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610113150.2A Expired - Fee Related CN105761308B (zh) 2016-02-29 2016-02-29 一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法

Country Status (1)

Country Link
CN (1) CN105761308B (zh)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106327576B (zh) * 2016-08-10 2019-03-29 周口师范学院 一种城市场景重建方法及系统
CN108090916B (zh) * 2017-12-21 2019-05-07 百度在线网络技术(北京)有限公司 用于跟踪视频中的目标图形的方法和装置
CN109117825B (zh) 2018-09-04 2020-01-17 百度在线网络技术(北京)有限公司 车道线处理方法和装置
CN109146898B (zh) 2018-09-07 2020-07-24 百度在线网络技术(北京)有限公司 一种仿真数据量增强方法、装置以及终端
CN109143242B (zh) 2018-09-07 2020-04-14 百度在线网络技术(北京)有限公司 障碍物绝对速度估计方法、系统、计算机设备和存储介质
CN109255181B (zh) 2018-09-07 2019-12-24 百度在线网络技术(北京)有限公司 一种基于多模型的障碍物分布仿真方法、装置以及终端
CN109215136B (zh) * 2018-09-07 2020-03-20 百度在线网络技术(北京)有限公司 一种真实数据增强方法、装置以及终端
CN109059780B (zh) 2018-09-11 2019-10-15 百度在线网络技术(北京)有限公司 检测障碍物高度的方法、装置、设备及存储介质
CN109165629B (zh) 2018-09-13 2019-08-23 百度在线网络技术(北京)有限公司 多焦距视觉障碍物感知方法、装置、设备及存储介质
CN109703568B (zh) 2019-02-19 2020-08-18 百度在线网络技术(北京)有限公司 自动驾驶车辆行驶策略实时学习的方法、装置和服务器
CN109712421B (zh) 2019-02-22 2021-06-04 百度在线网络技术(北京)有限公司 自动驾驶车辆的速度规划方法、装置和存储介质
CN110008207B (zh) * 2019-03-28 2020-08-07 武汉大学 基于密度直方图的机载LiDAR点云数据漏洞快速检测方法
CN111612806B (zh) * 2020-01-10 2023-07-28 江西理工大学 一种建筑物立面窗户提取方法及装置
CN112683221B (zh) * 2020-12-21 2022-05-17 深圳集智数字科技有限公司 一种建筑检测方法和相关装置
CN112798054B (zh) * 2021-03-02 2022-07-29 济南齐森建筑工程质量检测有限公司 一种窗户检测设备
CN114332402B (zh) * 2021-12-23 2024-04-02 中交第二公路勘察设计研究院有限公司 融合地面式、手持式激光扫描的钢桥模拟预拼装方法
CN114937123B (zh) * 2022-07-19 2022-11-04 南京邮电大学 基于多源影像融合的建筑建模方法、装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102147812A (zh) * 2011-03-31 2011-08-10 中国科学院自动化研究所 基于三维点云模型的地标建筑图像分类方法
CN102521884A (zh) * 2011-12-16 2012-06-27 南京大学 一种基于LiDAR数据与正射影像的3维屋顶重建方法
US8547374B1 (en) * 2009-07-24 2013-10-01 Lockheed Martin Corporation Detection and reconstruction of 3D objects with passive imaging sensors

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8547374B1 (en) * 2009-07-24 2013-10-01 Lockheed Martin Corporation Detection and reconstruction of 3D objects with passive imaging sensors
CN102147812A (zh) * 2011-03-31 2011-08-10 中国科学院自动化研究所 基于三维点云模型的地标建筑图像分类方法
CN102521884A (zh) * 2011-12-16 2012-06-27 南京大学 一种基于LiDAR数据与正射影像的3维屋顶重建方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
3D BUILDING RECONSTRUCTION FROM LIDAR BASED ON A CELL DECOMPOSITION APPROACH;Martin Kada等;《CMRT09: Object Extraction for 3D City Models, Road Databases and Traffic Monitoring-Concepts, Algorithms, and Evaluation》;20090904;第XXXVIII卷;第47-52页 *
An update on automatic 3D building reconstruction;Norbert Haala等;《ISPRS Journal of Photogrammetry and Remote Sensing》;20101231;第65卷;第570-580页 *
Building Facade Reconstruction by Fusing Terrestrial Laser Points and Images;Shi Pu等;《Sensors》;20091231;第9卷;第4525-4542页 *
从车载激光扫描数据中提取复杂建筑物立面的方法;杨必胜等;《测绘学报》;20130630;第42卷(第3期);第411-417页 *
基于图像匹配-点云融合的建筑物立面三维重建;王俊等;《计算机学报》;20121031;第35卷(第10期);第2072-2079页 *

Also Published As

Publication number Publication date
CN105761308A (zh) 2016-07-13

Similar Documents

Publication Publication Date Title
CN105761308B (zh) 一种地面LiDAR和影像数据融合的遮挡区域建筑物立面重建方法
Zhou et al. Seamless fusion of LiDAR and aerial imagery for building extraction
Rottensteiner et al. The ISPRS benchmark on urban object classification and 3D building reconstruction
Cheng et al. 3D building model reconstruction from multi-view aerial imagery and lidar data
CN103247045B (zh) 一种从多视图中得到人造场景主方向及图像边缘的方法
CN107924571A (zh) 从点云中对人耳进行三维重建
Li et al. An improved building boundary extraction algorithm based on fusion of optical imagery and LIDAR data
Ceylan et al. Factored facade acquisition using symmetric line arrangements
JP6534296B2 (ja) 3次元モデル生成装置、3次元モデル生成方法、及びプログラム
CN104658034B (zh) Ct图像数据的融合绘制方法
CN103632376A (zh) 一种两级框架的车辆部分遮挡消除方法
Perera et al. An automated method for 3D roof outline generation and regularization in airbone laser scanner data
Zhang et al. Generation and comparison of TLS and SFM based 3d models of solid shapes in hydromechanic research
KR100812793B1 (ko) 3차원 수치지도 품질확보 시스템 및 방법
Michelin et al. Quality evaluation of 3D city building models with automatic error diagnosis
CN116051980B (zh) 基于倾斜摄影的建筑识别方法、系统、电子设备及介质
Previtali et al. Automatic façade segmentation for thermal retrofit
Kochi et al. 3D modeling of architecture by edge-matching and integrating the point clouds of laser scanner and those of digital camera
Xiao et al. A segment-based stereo matching method with ground control points
Pu Generating building outlines from terrestrial laser scanning
Wei et al. Dense and occlusion-robust multi-view stereo for unstructured videos
Wang et al. Line Matching Algorithm for Aerial Image Combining image and object space similarity constraints
Yao et al. Complex and photo-realistic scene representation based on range planar segmentation and model fusion
Xiao Automatic building detection using oblique imagery
Paravolidakis et al. Reduction of building façade model complexity using computer vision

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180907

Termination date: 20190228

CF01 Termination of patent right due to non-payment of annual fee