CN104408689A - 基于全景影像的街景面片优化方法 - Google Patents

基于全景影像的街景面片优化方法 Download PDF

Info

Publication number
CN104408689A
CN104408689A CN201410751953.1A CN201410751953A CN104408689A CN 104408689 A CN104408689 A CN 104408689A CN 201410751953 A CN201410751953 A CN 201410751953A CN 104408689 A CN104408689 A CN 104408689A
Authority
CN
China
Prior art keywords
dough sheet
image
full
line segment
website
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410751953.1A
Other languages
English (en)
Other versions
CN104408689B (zh
Inventor
姚剑
鲁小虎
陈梦怡
李礼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan University WHU
Original Assignee
Wuhan University WHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan University WHU filed Critical Wuhan University WHU
Priority to CN201410751953.1A priority Critical patent/CN104408689B/zh
Publication of CN104408689A publication Critical patent/CN104408689A/zh
Application granted granted Critical
Publication of CN104408689B publication Critical patent/CN104408689B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于全景影像的街景面片优化方法,包括以下步骤:步骤1:获取车载LiDAR点云数据和全景影像,并将全景影像与车载LiDAR点云数据进行配准;步骤2:将车载LiDAR点云数据分割为多个面片,获得面片与全景影像站点的对应关系,将面片投影到全景影像上,得到面片对应的透视平面影像;步骤3:对透视平面影像进行分析,删除树木点,并进行面片拉伸。本发明基于全景影像优化街景面片,在点云数据的结果上进一步提高面片的精度和准确度。

Description

基于全景影像的街景面片优化方法
技术领域
本发明涉及全景影像处理技术领域,特别是涉及一种基于全景影像的街景面片优化方法。
背景技术
随着三维扫描技术的发展,虽然很多地面激光扫描仪可通过内置相机同步获取扫描点的纹理,但是其分辨率、摄影方式、精准度等均不能满足应用的需要。而全景成像技术是一种超广角视野表达方式,它包含了比图像序列更直观、更完整的场景信息。由于车载LiDAR扫描系统的扫描角度限制,基于车载LiDAR点云数据提取的较高的建筑物街景面片不准确,需对面片进行拉伸处理。利用全景影像优化街景面片涉及到几种关键技术:车载LiDAR点云数据与全景图的配准技术,全景影像到平面影像的投影技术,面片拉伸技术。
车载LiDAR点云数据与全景图的配准技术:目前,关于点云数据和CCD影像的配准已经有很多研究成果,包括共线方程解法、直接线性变换法、角锥体法等。激光点云和光学全景影像的配准在此基础上有很多改进方法,如基于罗德里格矩阵和共线方程方法,该方法利用车载GPS/IMU获取全景影像投影中心的位置初始值,采用共线条件方程描述全景投影中心、全景影像像点与同名激光点云间的几何关系,并将罗德里格矩阵引入到配准参数的解算中,从而实现车载激光点云与全景影像的高精度配准。
全景影像到平面影像的投影技术:全景技术按投影方式的不同全景技术分为以下四类,柱形全景、球形全景、立方体全景、对象全景。针对球面投影,采用双线性差值法;柱形全景是目前较为理想的选择,基于单点投影,将多幅待拼接图像投影到一个柱面。
目前,还未有公开的基于全景影像优化面片的理论。
考虑到获取点云数据时、提取面片时、点云与全景影像配准时都会产生误差,为保证基于全景影像明显的特征信息以及丰富的光谱信息,对街景面片进行优化,能提高面片的精度与准确度,故本发明对全景影像的拼接质量有一定的要求。
发明内容
本发明要解决的技术问题在于针对现有技术中的上述缺陷,提供一种基于全景影像的街景面片优化方法。
本发明解决其技术问题所采用的技术方案是:
本发明产生的有益效果是:本发明通过将点云数据与全景影像进行配准,再将面片投影到全景影像上,得到面片对应的透视平面影像;并对透视平面影像进行分析,删除树木点,并进行面片拉伸,提高了街景面片的精度。本发明基于全景影像优化街景面片,在点云数据的结果上进一步提高面片的精度和准确度。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1是本发明实施例基于全景影像优化面片方法中步骤2的流程图;
图2是本发明实施例基于全景影像优化面片方法中步骤3的流程图;
图3是本发明实施例面片优化效果示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
本发明所采用的技术方案提供了一种基于全景影像优化街景面片的方法,如图1所示,包括以下步骤:
步骤1,车载LiDAR点云数据与全景图的配准,利用共线方程原理进行配准,获得全景相机在大地坐标系中的外方位元素。根据每张照片拍摄瞬间的POS系统的位置和姿态,结合全景影像与POS系统(提供高精度的定位定向数据)的相对位置关系和姿态数据,恢复每张影像的外方位元素,过程如下:包括以下子步骤:
步骤1.1,计算大地坐标系到POS系统的旋转矩阵RM2P
dR y s × dR x s × dR z s + dR y c × dR z c dR x c × dR z s - dR y c × dR x s × dR z s + dR y s × dR z c dR z c × dR y s × dR x s - dR y s × dR z c dR x c × dR z c - dR z c × dR y c × dR x s - dR y s × dR z s - dR y s × dR x c dR x s dR x c × dR y c
式中,dRi c=cos(dRi),dRi s=sin(dRi),i=x,y,z,dRx,dRy和dRz分别为POS系统记载的测量车在大地坐标系下的方位角、滚动角和俯仰角。
步骤1.2,计算POS系统到全景相机的旋转矩阵RP2Cam
R y s × R x s × R z s + R y c × R z c R x c × R z s - R y c × R x s × R z s + R y s × R z c R z c × R y s × R x s - R y s × R z c R x c × R z c - R z c × R y c × R x s - R y s × R z s - R y s × dR x c R x s R x c × R y c
式中,Ri c=cos(Ri),Ri s=sin(Ri),i=x,y,z,Rx、Ry和Rz分别为全景相机在车体坐标系下的三个旋转角度值。
步骤1.3,计算大地坐标系到全景相机中心的旋转矩阵RM2Cam,恢复相机拍摄瞬间三个姿态角,根据RM2Cam旋转矩阵计算出相机拍摄瞬间三个姿态角Rx、Ry和Rz,由此便得到了全景相机在大地坐标系中的角元素。
步骤1.4,计算全景相机中心在大地坐标系中的坐标:
[Xs,Ys,Zs]=RM2Cam×[dx,dy,dz]+[X,Y,Z],
式中:dx,dy和dz分别为全景相机在车体坐标系下的偏移,X,Y,Z分别为POS系统记载的测量车在大地坐标系下的三维坐标,由此便得到了全景相机在大地坐标系中的线元素。
步骤2,面片对应全景影像并投影至平面影像,包括以下步骤:
步骤2.1,面片信息初始化,将面片和全景影像对应。得到面片的集合{Pi,i=1,2,…,N},N为面片的总数之后,在已知每个站点(全景相机位置)的坐标的情况下可以得到面片与全景影像之间的对应关系。过程如下:
步骤2.1.1,计算出每个面片的中心点Xc的三维坐标,然后遍历所有站点,找到与当前面片最近的一个站点Smin,计算Xc与Smin之间的距离d,若d>dth(dch为设定的距离阈值),则认为该面片为无效面片;若d<dth,则记录下Smin站点的ID号。若该面片的宽度小于d/λ(λ为设定的缩放参数),且面片的高宽比(高度/宽度)大于ε(ε为设定的阈值),则该面片是无效面片。
步骤2.1.2,找到Smin的下一个站点,以这两个站点之间距离向量在水平面上的投影作为当前道路的方向Dr,当前面片的宽对应的向量在水平面上的投影作为方向Dp,计算两者之间的夹角θ,若θ<δ1,则该面片平行于当前道路;若θ>δ2,其中,δ1,δ2为设定的阈值,则该面片垂直于当前道路;否则该面片既不平行又不垂直于当前道路。
步骤2.1.3,对于每一个站点Si,遍历每一个面片Pj,计算Si与Pj之间的距离dij以及夹角θij,如果θij<90°并且dij<dth,则认为面片Pj在站点Si上是可视的,记录下来。
步骤2.1.4,对于每一个面片P寻找其对应的最佳成像站点。首先找到其最邻近站点Smin前后各3个站点,共7个站点,然后将当前面片投影到每一个站点上,得到投影参数信息,具体方法如下:
步骤2.1.4.1,计算大地坐标[X,Y,Z]T到当前站点坐标[X′,Y′,Z′]T的转换关系:
X ' Y ' Z ' = M R x &times; M R y &times; M R z &times; X - Xs Y - Ys Z - Zs
式中,分别为当前站点所对应的全景相机的三个姿态角Rx、Ry和Rz所对应旋转矩阵,Xs,Ys和Zs分别为全景相机在大地坐标系中坐标。需要说明的是,本系统中站点坐标所在的车体坐标系是以车头方向为Y轴正方向,以竖直向上为Z轴正方向的右手坐标系。
步骤2.1.4.2,在Pj的四条边上各取N个点,计算每一个点X=[X′,Y′,Z′]T在当前站点下的方位角α和俯仰角β:
&alpha; = cos - 1 ( Y ' / X ' 2 + Y ' 2 ) , if X ' < 0 , &alpha; = - &alpha; ,
&beta; = sin - 1 ( Z ' / X ' 2 + Y ' 2 + Z ' 2 ) .
步骤2.1.4.3,找到P中竖直边上的点中方位角α的最大最小值,作为P在当前站点上水平方向上的视场角fovx,最大最小值的平均值作为P的方向角θx;找到P中水平边上的点里面俯仰角β的最大最小值,作为P在当前站点上竖直方向上的视场角fovy,最大最小值的平均值作为P的俯仰角θy
步骤2.1.4.4,构造一个虚拟的像平面p,设置初始的焦距f,根据fovx和fovy计算出P投影到像平面p上的图像的宽w和高h:
w=2×f×tan(fovx/2),
h=2×f×tan(fovy/2).
步骤2.1.4.5,对得到的图像进行缩放,缩放系数为其中Ith为影像大小的阈值。将f,w和h乘以ε得到最终的投影参数信息:w、h、fovx、fovy、θx、θy和f。
步骤2.1.4.6,对P在当前站点上进行遮挡分析。对P的最邻近站点Smin前后7个站点都进行投影参数计算和遮挡分析,选取没有遮挡的站点中具有最大成像面积F(fovx,d)的站点作为当前面片P的最佳成像站点。最大成像面积F(fovx,d)的计算方法如下:
F(fovx,d)=fovx 2×d,
式中,fovx为面片P在当前站点下的水平方向上视场角,d为P到当前站点之间的距离在水平面上的投影。
步骤2.2获得当前站点影像优化所需的数据。
面片信息初始化之后,利用影像进行面片优化是对每个站点中的所有最佳投影面片进行的。对于当前待优化站点Sn,所需要的优化数据为Sn-1、Sn和Sn+1三个站点上的全景影像、站点上的可视面片和最佳投影面片。本发明中为获得这些数据,使用的方法如下:
使用一个1×3的滑动窗口来避免数据的重复读取:设定窗口大小,当n≤1时窗口中的数据为站点S0、S1和S2;当2<n<N-1时(N为总的站点数),每移动一个站点则将滑动窗口向后移动一位使得窗口中的数据始终为站点Sn-1、Sn和Sn+1;当n=N-1时,窗口中的数据始终为站点SN-3、SN-2和SN-1中对应的数据。步骤2.1已经获取了每个站点对应的全景影像、可视面片和最佳投影面片,故检索出相邻三个站点信息便可获得当前站点影像优化所需的数据。
步骤2.3,获得当前面片影像优化所需的数据。
获得站点影像优化所需的数据之后,当前站点上的每一个面片可以利用这些数据进行优化。考虑到面片在相邻站点上可能存在的遮挡问题,因此需要对面片在当前的三个站点上进行遮挡分析,具体方法参见步骤2.1。如果至少在一个站点上当前面片没有被遮挡,则将没有遮挡的站点信息作为当前面片影像优化所需的数据。
步骤2.4,获得当前面片在对应站点上的投影参数。
具体方法参见步骤2.1,获取投影参数后即可进行面片的优化。
步骤3,基于影像的面片优化,入图2和图3所示,包括以下步骤:
步骤3.1,树木面片去除。考虑到利用激光点云进行面片提取的时候存在树木面片被错误提取出来的问题,而树木在影像上面较容易被区分出来,因此利用影像来对树木面片进行滤除。过程如下:
步骤3.1.1,根据得到的投影参数将面片从全景影像透视投影到像平面上,得到透视影像。给定投影参数w、h、fovx、fovy、θx、θy和f,转换过程如下:
步骤3.1.1.1,由面片的方向角θx和俯仰角θy以及焦距f,可以得到透视影像空间坐标系XYZpers到全景影像空间坐标系XYZpano的转换关系,以像素为单位。
X Y Z pano = M ( - &theta; x ) &times; M ( &theta; y ) &times; X Y Z pers ,
式中,M(-θx)、M(θy)为旋转矩阵,θx以顺时针方向为正,θy以逆时针方向为正。由此计算出当前三维面片对应的透视投影影像四个顶点转换到全景影像空间坐标系XYZpano下的坐标。
步骤3.1.1.2,将全景影像空间坐标系XYZpano中的四个顶点所构成的矩形的长宽分成w和h等份(对应于透视投影影像中的每一个像素),内插出每一个点的三维坐标,计算出对应的方位角α和俯仰角β,以及对应的全景影像中的像素坐标,并将其赋值给透视投影影像中对应的像素。由α和β计算全景影像中的像素坐标(u,v)T的公式如下:
u=(0.5+α)×w/2π,
v=(0.5-β)×h/π.
步骤3.1.2,利用LSD线段提取算法提取出透视投影影像中的直线段,得到当前影像上的长度大于N个像素的直线段集合
步骤3.1.3,提取出集合中的水平和竖直方向的线段。计算出这两个方向在透视投影影像上对应的灭点,过程如下:
步骤3.1.3.1,计算从世界坐标系到透视影像空间坐标系XYZpers的旋转矩阵RM2Img
R M 2 Img = R Cam 2 Img &times; R M 2 Cam = M ( &theta; x ) &times; M ( - &theta; y ) &times; M R x &times; M R y &times; M R z .
利用旋转矩阵,计算面片的水平和竖直两个方向向量Vh和Vv在透视影像空间坐标系下的向量V′h和V′v
步骤3.1.3.2,计算V′h=(X′h,X′h,Z′h)T和V′v=(X′v,Y′v,Z′v)T与像平面的交点,即为对应的水平和竖直两个方向上的灭点ph=(xh,yh)T和pv=(xv,yv)T,公式如下(pv与之相同):
xh=X′h/Y′h×f+x0,
yh=Z′h/Y′h×f+y0,
式中,f为投影参数中的以像素为单位的焦距,(x0,y0)T为透视投影影像的像主点,这里实际上就是相片的正中心。
步骤3.1.3.3,获取集合中水平和竖直线段:连接中某一条线段l的中点与某一灭点,若这两点构成的线段与线段l之间的夹角小于θ,则认为线段l属于对应的线段聚类。
步骤3.1.4,利用线段和像素灰度得到的当前面片的结构和纹理信息对面片进行分析,删除其中树的面片,过程如下:
步骤3.1.4.1,结构信息:对于每一条水平线段lh,计算其与每一条竖直线段lv的交点,如果该交点在线段lh和lv之上或者与两者之间的距离小于某一阈值,则lh与lv之间构成了一个结点。得到所有的结点之后,再对影像格网化,并统计每个格网中结点的个数NGrid。若结点少且分布不均匀则为树的面片。
步骤3.1.4.2,纹理信息:遍历当前影像上的每一个像素值,得到其RGB值,然后通过对RGB进行分析来得到当前影像上对应于树的像素的比例,统计得到所有的树像素的个数Npixel,分析Npixel的大小来判断是否为树面片,若在当前面片的所有可投影站点上,都被判断为树面片,则认为该面片为树面片,并将其去除。
步骤3.2,面片拉伸。面片拉伸是利用影像将激光扫描器扫描不到的顶部通过面片拉伸的方式覆盖到,过程如下:
步骤3.2.1,获取需要拉伸的面片。
步骤3.2.2,得到面片P的上半段影像并对投影参数细化,过程如下:
步骤3.2.2.1,面片P及其以上部分作为一个整体的投影参数的获取,参见步骤4.2,不同之处在于此时的视场角fovy算法为:
fovy=max(π-2×|θy|,fovy),if fovy>160°,fovy=160°
步骤3.2.2.2,根据投影参数得到P及其以上部分对应的透视影像,影像中从上往下依次为天空和建筑物,找到其中建筑物的大致范围。
步骤3.2.3,细化全部可投影站点上的投影参数,利用全景影像得到透视影像,取其上半部分作为最终可用于面片延伸的影像数据。利用LSD算法提取出线段,并利用灭点将提取出来的线段分成水平和竖直两个方向。具体方法参见步骤3.1。
步骤3.2.4,电线线段去除。
电线线段一般对应的是非竖直方向的线段。设水平方向的灭点为ph,影像的左右两条边中到ph较远的一边对应的直线为l,连接每一条竖直的线段的端点与ph,将其投影到l上,得到l上的一条线段l^',并记录下其在l对应的范围。对所有竖直线段的范围求并,累加l上每一个整像素点被投影到的次数,并从上到下搜索,若某一点pi之后的连续20个点的次数≥3,则将该点记为建筑物区域在l上投影的最上点。连接pi与灭点ph,将当前影像分为两个部分,线段以上部分对应非建筑物部分,线段以下部分对应建筑物部分。找到水平线段中至少有一个端点落在非建筑物部分中的线段,判断是否是电线线段,过程如下:
步骤3.2.4.1,得到该线段上的所有整像素点。
步骤3.2.4.2,对每一个像素,取出该线段两侧搜索范围为20个像素的RGB值,判断其中“天空像素”(像素对应的目标位天空)的个数。如果其中一侧的天空像素个数大于某一阈值δmax,而另一侧的个数小于某一阈值δmin,则认为该线段是建筑物的边缘,否则认为该线段是电线,将其剔除。
步骤3.2.5,寻找建筑物顶部边缘线,过程如下:
步骤3.2.5.1,将建筑物的面片的四个顶点投影到优化之后的投影参数对应的像平面上,得到对应于激光面片的一个四边形。
步骤3.2.5.2,找到水平线段中至少有一个顶点不在该四边形内的线段,对每一条线段进行纹理分析,判断其是否是建筑物的顶部边缘线,判断方法与电线线段判断方法相同。
步骤3.2.5.3,合并边缘线。
步骤3.2.6,面片延伸,过程如下:
步骤3.2.6.1,假设在Ns(Ns>Nth)个站点上找到了建筑物顶部边缘线,计算出建筑物顶部边缘线对应的真实三维线段的空间坐标,得到的2Ns个三维坐标的Z值均方差为δ,如果δ<δth,即建筑物顶部边缘线的精度满足要求,则进行步骤3.2.6.2;否则,进行步骤3.2.6.3。
步骤3.2.6.2,精细化,以计算出来的2Ns个三维坐标值中Z坐标的最大值Zmax作为延伸之后的面片的新高度,取Ns个站点上的距离累计值Di作为当前高度值的精度。选择min(Di)对应的高度值作为最终的面片高度值。
步骤3.2.6.3,逐步增长,设定增长步距为Δd。首先判断是否进行延伸,若某一站点上的建筑物像素的比例大于某一阈值,或该区域中的水平线段的长度大于某一阈值,则认为当前这一步的延伸在该站点上有效;若建筑物像素的比例小于某一阈值,则认为当前延伸无效。统计所有可投影站点中当前延伸的有效次数CY和无效次数CN,当满足一定条件时,接收当前延伸,并将面片上边延伸。
步骤3.3,面片下拉。
参考步骤1的方法将优化后的面片重新分配到每一个站点上,对每一个站点上的面片Pi,遍历该站点上的所有可视面片Pj,判断Pj是否在面片Pi的下面,方法如下:
判断Pj与Pi之间的夹角θ,若θ>θth,则不处理Pj;若θ<θth,且Pj的中心点在Pi的下边缘的下面,则参照步骤4.2对Pj和Pi进行遮挡分析,判断两者之间是否存在遮挡,否则处理下一个面片。
如果对于所有的可视面片,都不存在有对Pi产生遮挡的面片,则将当前的面片的下边缘下拉到其最邻近站点对应的路面上,路面的Z坐标为Zs-Hcar
本发明结合影像的优点,将从点云数据中提取的街景面片进行拉伸,提高面片精度;同时,将面片中的树木点面片删除。本发明基于全景影像优化街景面片,在点云数据的结果上进一步提高面片的精度和准确度。
应当理解的是,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,而所有这些改进和变换都应属于本发明所附权利要求的保护范围。

Claims (6)

1.一种基于全景影像的街景面片优化方法,其特征在于,包括以下步骤:
步骤1:获取车载LiDAR点云数据和全景影像,并将全景影像与车载LiDAR点云数据进行配准;
步骤2:将车载LiDAR点云数据分割为多个面片,获得面片与全景影像站点的对应关系,将面片投影到全景影像上,得到面片对应的透视平面影像;
步骤3:对透视平面影像进行分析,删除树木点,并进行面片拉伸。
2.根据权利要求1所述的方法,其特征在于,步骤1中具体利用共线方程原理进行配准,根据每张照片拍摄瞬间的POS位置和姿态,结合全景影像与POS系统的相对位置关系和姿态数据,恢复每张影像的外方位元素。
3.根据权利要求1所述的方法,其特征在于,步骤2中“获得面片与全景影像站点的对应关系”具体包括步骤:
将车载LiDAR点云数据分割后得到面片的集合{Pi,i=1,2,...,N},N为面片的总数;
计算出每个面片的中心点Xc的三维坐标,然后遍历所有站点,找到与当前面片最近的一个站点Smin,计算Xc与Smin之间的距离d,若d>dth,其中dth为设定的距离阈值,则认为该面片为无效面片;若d<dth,则记录下Smin站点的ID号;若该面片的宽度小于d/λ,λ为设定的缩放参数,且面片的高宽比(高度/宽度)大于ε(ε为设定的阈值),则该面片是无效面片;
找到Smin的下一个站点,以这两个站点之间的距离向量在水平面上的投影作为当前道路的方向Dr,当前面片的宽对应的向量在水平面上的投影作为方向Dp,计算两者之间的夹角θ,若θ<δ1,则该面片平行于当前道路;若θ>δ2,其中,δ1,δ2为设定的阈值,则该面片垂直于当前道路;否则该面片既不平行又不垂直于当前道路;
对于每一个站点Si,遍历每一个面片Pj,计算Si与Pj之间的距离dij以及夹角θij,如果θij<90°并且dij<dth,则认为面片Pj在站点Si上是可视的,记录下来;
对于每一个面片P寻找其对应的最佳成像站点。
4.根据权利要求3所述的方法,其特征在于,步骤2中“将面片投影到全景影像上,得到面片对应的透视平面影像”具体包括以下步骤:
根据步骤2中面片与全景影像站点的对应关系获得当前面片在对应站点上的投影参数;
根据得到的投影参数将面片从全景影像透视投影到像平面上,得到透视影像,具体转换过程如下:
由面片的方向角θx和俯仰角θy以及焦距f,得到透视影像空间坐标系XYZpers到全景影像空间坐标系XYZpano的转换关系,以像素为单位,
X Y Z pano = M ( - &theta; x ) &times; M ( &theta; y ) &times; X Y Z pers ,
式中,M(-θx)、M(θy)为旋转矩阵,θx以顺时针方向为正,θy以逆时针方向为正;由此计算出当前三维面片对应的透视投影影像四个顶点转换到全景影像空间坐标系XYZpano下的坐标;
将全景影像空间坐标系XYZpano中的四个顶点所构成的矩形的长宽分成w和h等份,对应于透视投影影像中的每一个像素,内插出每一个点的三维坐标,计算出对应的方位角α和俯仰角β,以及对应的全景影像中的像素坐标,并将其赋值给透视投影影像中对应的像素;由α和β计算全景影像中的像素坐标(u,v)T的公式如下:
u=(0.5+α)×w/2π,
v=(0.5-β)×h/π。
5.根据权利要求3所述的方法,其特征在于,步骤3中“对透视平面影像进行分析,删除树木点”具体包括以下步骤:
利用LSD线段提取算法提取出透视投影影像中的直线段,得到当前影像上的长度大于N个像素的直线段集合
提取出集合中的水平和竖直方向的线段,计算出这两个方向在透视投影影像上对应的灭点;
对于每一条水平线段lh,计算其与每一条竖直线段lv的交点,如果该交点在线段lh和lv之上或者与两者之间的距离小于某一阈值,则lh与lv之间构成了一个结点,得到所有的结点之后,再对影像格网化,并统计每个格网中结点的个数NGird,若结点少且分布不均匀则为树的面片;
遍历当前透视投影影像上的每一个像素值,得到其RGB值,然后通过对RGB进行分析来得到当前影像上对应于树的像素的比例,统计得到所有的树像素的个数Npixel,分析Npixel的大小来判断是否为树面片,若在当前面片的所有可投影站点上,都被判断为树面片,则认为该面片为树面片,并将其去除。
6.根据权利要求4所述的方法,其特征在于,步骤3中面片拉伸包括以下步骤:
获取需要拉伸的面片;
根据投影参数得到面片及其以上部分对应的透视影像,影像中从上往下依次为天空和建筑物,找到其中建筑物的大致范围;
细化全部可投影站点上的投影参数,利用全景影像得到透视影像,取其上半部分作为最终可用于面片延伸的影像数据,利用LSD算法提取出线段,并利用灭点将提取出来的线段分成水平和竖直两个方向;
设水平方向的灭点为ph,影像的左右两条边中到ph较远的一边对应的直线为l,找到建筑物区域在l上投影的最上点,连接某一点pi与灭点ph,将当前影像分为两个部分,线段以上部分对应非建筑物部分,线段以下部分对应建筑物部分,找到水平线段中至少有一个端点落在非建筑物部分中的线段,判断是否是电线线段,过程如下:
得到该线段上的所有整像素点;
对每一个像素,取出该线段两侧搜索范围为20个像素的RGB值,判断其中天空像素的个数,如果其中一侧的天空像素个数大于某一阈值δmax,而另一侧的个数小于某一阈值δmin,则认为该线段是建筑物的边缘,否则认为该线段是电线,将其剔除。
CN201410751953.1A 2014-12-10 2014-12-10 基于全景影像的街景面片优化方法 Active CN104408689B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410751953.1A CN104408689B (zh) 2014-12-10 2014-12-10 基于全景影像的街景面片优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410751953.1A CN104408689B (zh) 2014-12-10 2014-12-10 基于全景影像的街景面片优化方法

Publications (2)

Publication Number Publication Date
CN104408689A true CN104408689A (zh) 2015-03-11
CN104408689B CN104408689B (zh) 2017-10-24

Family

ID=52646318

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410751953.1A Active CN104408689B (zh) 2014-12-10 2014-12-10 基于全景影像的街景面片优化方法

Country Status (1)

Country Link
CN (1) CN104408689B (zh)

Cited By (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104952107A (zh) * 2015-05-18 2015-09-30 湖南桥康智能科技有限公司 基于车载LiDAR点云数据的桥梁三维重建方法
CN105374011A (zh) * 2015-12-09 2016-03-02 中电科信息产业有限公司 基于全景图像的点云数据拼接方法及装置
CN105372663A (zh) * 2015-12-01 2016-03-02 宁波工程学院 一种面向侧扫声纳图像的重采样方法
CN106971403A (zh) * 2017-04-27 2017-07-21 武汉数文科技有限公司 点云图像处理方法及装置
US9805274B2 (en) 2016-02-03 2017-10-31 Honda Motor Co., Ltd. Partially occluded object detection using context and depth ordering
CN107392944A (zh) * 2017-08-07 2017-11-24 广东电网有限责任公司机巡作业中心 全景影像与点云的配准方法及装置
CN108510516A (zh) * 2018-03-30 2018-09-07 深圳积木易搭科技技术有限公司 一种散乱点云的三维线段提取方法及系统
CN108604380A (zh) * 2016-05-03 2018-09-28 谷歌有限责任公司 用于在移动设备上获得成对极线约束和解决全景姿态的方法和系统
CN109059897A (zh) * 2018-05-30 2018-12-21 上海懒书智能科技有限公司 一种基于agv小车的实时运行姿态的获取方法
US10789733B2 (en) 2017-11-22 2020-09-29 Apple Inc. Point cloud compression with multi-layer projection
US11361471B2 (en) 2017-11-22 2022-06-14 Apple Inc. Point cloud occupancy map compression
US11367224B2 (en) 2018-10-02 2022-06-21 Apple Inc. Occupancy map block-to-patch information compression
US11386524B2 (en) 2018-09-28 2022-07-12 Apple Inc. Point cloud compression image padding
US11430155B2 (en) 2018-10-05 2022-08-30 Apple Inc. Quantized depths for projection point cloud compression
US11508095B2 (en) 2018-04-10 2022-11-22 Apple Inc. Hierarchical point cloud compression with smoothing
US11508094B2 (en) 2018-04-10 2022-11-22 Apple Inc. Point cloud compression
US11516394B2 (en) 2019-03-28 2022-11-29 Apple Inc. Multiple layer flexure for supporting a moving image sensor
US11514611B2 (en) 2017-11-22 2022-11-29 Apple Inc. Point cloud compression with closed-loop color conversion
US11527018B2 (en) 2017-09-18 2022-12-13 Apple Inc. Point cloud compression
US11533494B2 (en) 2018-04-10 2022-12-20 Apple Inc. Point cloud compression
US11538196B2 (en) 2019-10-02 2022-12-27 Apple Inc. Predictive coding for point cloud compression
US11552651B2 (en) 2017-09-14 2023-01-10 Apple Inc. Hierarchical point cloud compression
US11562507B2 (en) 2019-09-27 2023-01-24 Apple Inc. Point cloud compression using video encoding with time consistent patches
US11615557B2 (en) 2020-06-24 2023-03-28 Apple Inc. Point cloud compression using octrees with slicing
US11620768B2 (en) 2020-06-24 2023-04-04 Apple Inc. Point cloud geometry compression using octrees with multiple scan orders
US11625866B2 (en) 2020-01-09 2023-04-11 Apple Inc. Geometry encoding using octrees and predictive trees
US11627314B2 (en) 2019-09-27 2023-04-11 Apple Inc. Video-based point cloud compression with non-normative smoothing
US11647226B2 (en) 2018-07-12 2023-05-09 Apple Inc. Bit stream structure for compressed point cloud data
US11663744B2 (en) 2018-07-02 2023-05-30 Apple Inc. Point cloud compression with adaptive filtering
US11676309B2 (en) 2017-09-18 2023-06-13 Apple Inc Point cloud compression using masks
US11683525B2 (en) 2018-07-05 2023-06-20 Apple Inc. Point cloud compression with multi-resolution video encoding
US11727603B2 (en) 2018-04-10 2023-08-15 Apple Inc. Adaptive distance based point cloud compression
US11798196B2 (en) 2020-01-08 2023-10-24 Apple Inc. Video-based point cloud compression with predicted patches
US11818401B2 (en) 2017-09-14 2023-11-14 Apple Inc. Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables
US11895307B2 (en) 2019-10-04 2024-02-06 Apple Inc. Block-based predictive coding for point cloud compression
US11935272B2 (en) 2017-09-14 2024-03-19 Apple Inc. Point cloud compression
US11948338B1 (en) 2021-03-29 2024-04-02 Apple Inc. 3D volumetric content encoding using 2D videos and simplified 3D meshes
US12100183B2 (en) 2018-04-10 2024-09-24 Apple Inc. Point cloud attribute transfer algorithm

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104036544A (zh) * 2014-06-25 2014-09-10 西安煤航信息产业有限公司 一种基于机载LiDAR数据的建筑物屋顶重建方法
US20140270359A1 (en) * 2013-03-15 2014-09-18 The Boeing Company Methods and systems for automatic and semi-automatic geometric and geographic feature extraction
CN104133874A (zh) * 2014-07-25 2014-11-05 重庆数字城市科技有限公司 基于真彩色点云的街景影像生成方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140270359A1 (en) * 2013-03-15 2014-09-18 The Boeing Company Methods and systems for automatic and semi-automatic geometric and geographic feature extraction
CN104036544A (zh) * 2014-06-25 2014-09-10 西安煤航信息产业有限公司 一种基于机载LiDAR数据的建筑物屋顶重建方法
CN104133874A (zh) * 2014-07-25 2014-11-05 重庆数字城市科技有限公司 基于真彩色点云的街景影像生成方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张志超: "融合机载与地面LIDAR数据的建筑物三维重建研究", 《中国博士学位论文全文数据库信息科技辑》 *
魏征 等: "车载LiDAR点云中建筑物立面位置边界的自动提取", 《武汉大学学报信息科学版》 *

Cited By (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104952107A (zh) * 2015-05-18 2015-09-30 湖南桥康智能科技有限公司 基于车载LiDAR点云数据的桥梁三维重建方法
CN105372663A (zh) * 2015-12-01 2016-03-02 宁波工程学院 一种面向侧扫声纳图像的重采样方法
CN105374011B (zh) * 2015-12-09 2019-03-15 中电科信息产业有限公司 基于全景图像的点云数据拼接方法及装置
CN105374011A (zh) * 2015-12-09 2016-03-02 中电科信息产业有限公司 基于全景图像的点云数据拼接方法及装置
US9805274B2 (en) 2016-02-03 2017-10-31 Honda Motor Co., Ltd. Partially occluded object detection using context and depth ordering
US11080871B2 (en) 2016-05-03 2021-08-03 Google Llc Method and system for obtaining pair-wise epipolar constraints and solving for panorama pose on a mobile device
CN108604380A (zh) * 2016-05-03 2018-09-28 谷歌有限责任公司 用于在移动设备上获得成对极线约束和解决全景姿态的方法和系统
CN108604380B (zh) * 2016-05-03 2022-04-12 谷歌有限责任公司 用于在移动设备上获得成对极线约束和解决全景姿态的方法和系统
US11568551B2 (en) 2016-05-03 2023-01-31 Google Llc Method and system for obtaining pair-wise epipolar constraints and solving for panorama pose on a mobile device
CN106971403B (zh) * 2017-04-27 2020-04-03 武汉数文科技有限公司 点云图像处理方法及装置
CN106971403A (zh) * 2017-04-27 2017-07-21 武汉数文科技有限公司 点云图像处理方法及装置
CN107392944A (zh) * 2017-08-07 2017-11-24 广东电网有限责任公司机巡作业中心 全景影像与点云的配准方法及装置
US11935272B2 (en) 2017-09-14 2024-03-19 Apple Inc. Point cloud compression
US11818401B2 (en) 2017-09-14 2023-11-14 Apple Inc. Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables
US11552651B2 (en) 2017-09-14 2023-01-10 Apple Inc. Hierarchical point cloud compression
US11922665B2 (en) 2017-09-18 2024-03-05 Apple Inc. Point cloud compression
US11676309B2 (en) 2017-09-18 2023-06-13 Apple Inc Point cloud compression using masks
US11527018B2 (en) 2017-09-18 2022-12-13 Apple Inc. Point cloud compression
US11514611B2 (en) 2017-11-22 2022-11-29 Apple Inc. Point cloud compression with closed-loop color conversion
US10789733B2 (en) 2017-11-22 2020-09-29 Apple Inc. Point cloud compression with multi-layer projection
US11361471B2 (en) 2017-11-22 2022-06-14 Apple Inc. Point cloud occupancy map compression
US11282238B2 (en) 2017-11-22 2022-03-22 Apple Inc. Point cloud compression with multi-layer projection
CN108510516A (zh) * 2018-03-30 2018-09-07 深圳积木易搭科技技术有限公司 一种散乱点云的三维线段提取方法及系统
US11508095B2 (en) 2018-04-10 2022-11-22 Apple Inc. Hierarchical point cloud compression with smoothing
US11508094B2 (en) 2018-04-10 2022-11-22 Apple Inc. Point cloud compression
US12100183B2 (en) 2018-04-10 2024-09-24 Apple Inc. Point cloud attribute transfer algorithm
US11533494B2 (en) 2018-04-10 2022-12-20 Apple Inc. Point cloud compression
US11727603B2 (en) 2018-04-10 2023-08-15 Apple Inc. Adaptive distance based point cloud compression
CN109059897A (zh) * 2018-05-30 2018-12-21 上海懒书智能科技有限公司 一种基于agv小车的实时运行姿态的获取方法
US11663744B2 (en) 2018-07-02 2023-05-30 Apple Inc. Point cloud compression with adaptive filtering
US11683525B2 (en) 2018-07-05 2023-06-20 Apple Inc. Point cloud compression with multi-resolution video encoding
US11647226B2 (en) 2018-07-12 2023-05-09 Apple Inc. Bit stream structure for compressed point cloud data
US11386524B2 (en) 2018-09-28 2022-07-12 Apple Inc. Point cloud compression image padding
US11367224B2 (en) 2018-10-02 2022-06-21 Apple Inc. Occupancy map block-to-patch information compression
US11748916B2 (en) 2018-10-02 2023-09-05 Apple Inc. Occupancy map block-to-patch information compression
US12094179B2 (en) 2018-10-05 2024-09-17 Apple Inc. Quantized depths for projection point cloud compression
US11430155B2 (en) 2018-10-05 2022-08-30 Apple Inc. Quantized depths for projection point cloud compression
US11516394B2 (en) 2019-03-28 2022-11-29 Apple Inc. Multiple layer flexure for supporting a moving image sensor
US11627314B2 (en) 2019-09-27 2023-04-11 Apple Inc. Video-based point cloud compression with non-normative smoothing
US11562507B2 (en) 2019-09-27 2023-01-24 Apple Inc. Point cloud compression using video encoding with time consistent patches
US11538196B2 (en) 2019-10-02 2022-12-27 Apple Inc. Predictive coding for point cloud compression
US11895307B2 (en) 2019-10-04 2024-02-06 Apple Inc. Block-based predictive coding for point cloud compression
US11798196B2 (en) 2020-01-08 2023-10-24 Apple Inc. Video-based point cloud compression with predicted patches
US11625866B2 (en) 2020-01-09 2023-04-11 Apple Inc. Geometry encoding using octrees and predictive trees
US11615557B2 (en) 2020-06-24 2023-03-28 Apple Inc. Point cloud compression using octrees with slicing
US11620768B2 (en) 2020-06-24 2023-04-04 Apple Inc. Point cloud geometry compression using octrees with multiple scan orders
US11948338B1 (en) 2021-03-29 2024-04-02 Apple Inc. 3D volumetric content encoding using 2D videos and simplified 3D meshes

Also Published As

Publication number Publication date
CN104408689B (zh) 2017-10-24

Similar Documents

Publication Publication Date Title
CN104408689A (zh) 基于全景影像的街景面片优化方法
US11080911B2 (en) Mosaic oblique images and systems and methods of making and using same
CN110211043B (zh) 一种用于全景图像拼接的基于网格优化的配准方法
CN103198524B (zh) 一种大规模室外场景三维重建方法
CN104732482A (zh) 一种基于控制点的多分辨率图像拼接方法
CN104156968B (zh) 大面积地形复杂区域无人机序列影像快速无缝拼接方法
CN107492069B (zh) 基于多镜头传感器的图像融合方法
US9547935B2 (en) Method and a system for building a three-dimensional model from satellite images
CN106204443A (zh) 一种基于多目复用的全景无人机系统
CN104794683B (zh) 基于围绕渐变拼缝区域平面扫描的视频拼接方法
CN104299228B (zh) 一种基于精确点位预测模型的遥感影像密集匹配方法
CN105160702A (zh) 基于LiDAR点云辅助的立体影像密集匹配方法及系统
CN104969238A (zh) 利用滚动快门的立体协助
CN103106688A (zh) 基于双层配准方法的室内三维场景重建方法
JP2009237901A (ja) 路面標示地図生成方法
CN104732577A (zh) 一种基于uav低空航测系统的建筑物纹理提取方法
JP2009223220A (ja) 路面標示地図生成方法
CN112288637B (zh) 无人机航拍图像快速拼接装置及快速拼接方法
CN112862683B (zh) 一种基于弹性配准和网格优化的邻接图像拼接方法
Kuschk Large scale urban reconstruction from remote sensing imagery
Stucker et al. ResDepth: Learned residual stereo reconstruction
CN109978997A (zh) 一种基于倾斜影像的输电线路三维建模方法和系统
CN117576343B (zh) 基于高分辨率卫星立体影像的三维mesh模型制作方法
CN115619623A (zh) 一种基于移动最小二乘变换的平行鱼眼相机图像拼接方法
JP2012185712A (ja) 画像照合装置または画像照合方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant