CN111476890A - 一种基于影像的三维场景重建中移动车辆的修复方法 - Google Patents
一种基于影像的三维场景重建中移动车辆的修复方法 Download PDFInfo
- Publication number
- CN111476890A CN111476890A CN202010352137.9A CN202010352137A CN111476890A CN 111476890 A CN111476890 A CN 111476890A CN 202010352137 A CN202010352137 A CN 202010352137A CN 111476890 A CN111476890 A CN 111476890A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- image
- triangular surface
- triangular
- moving vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000013136 deep learning model Methods 0.000 claims abstract description 15
- 230000000007 visual effect Effects 0.000 claims abstract description 15
- 230000008569 process Effects 0.000 claims description 23
- 238000013135 deep learning Methods 0.000 claims description 7
- 238000012549 training Methods 0.000 claims description 7
- 239000003086 colorant Substances 0.000 claims description 6
- 239000000126 substance Substances 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 5
- 238000012937 correction Methods 0.000 claims description 4
- 239000011159 matrix material Substances 0.000 claims description 4
- 239000000463 material Substances 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 16
- 241000283070 Equus zebra Species 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000008439 repair process Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种基于影像的三维场景重建中移动车辆的修复方法,包括:根据深度学习模型得到各张影像中的车辆信息标记;对于三维场景模型的各个三角面,统计得到第i个三角面fi的可视影像集合I(fi);统计可视影像集合I(fi)中标记为车辆的影像的数量n1,根据数量n1是否超过设定值判断该三角面fi在各个影像的投影位置处是否为车辆;统计n1个标记为车辆的车辆颜色中每种颜色出现的次数,得到次数中的最大值n2,根据各个数量确定该三角面fi对应的为停留移动车辆、未停留移动车辆或未移动车辆;根据停留移动车辆对应的三角面进行几何修复,根据纹理处的三角面的颜色进行纹理修复。无需人工干预,自动化程度高,节约大量的人力物力。
Description
技术领域
本发明涉及测绘技术领域,尤其涉及一种基于影像的三维场景重建中移动车辆的修复方法。
背景技术
基于影像的三维场景重建一直是计算机视觉中的热门研究话题,并且涌现出了一大批表现优异的算法成果。基于多视影像的三维建模方法,不仅可以恢复目标对象的三维结构,还可以获取三维模型表面的纹理信息。近几年,随着无人机技术的日益成熟,我们获取影像数据的成本也大大降低。因此,基于多视倾斜影像的城市级三维场景的构建就变得更加的广泛。
车辆作为城市中的重要交通工具,会出现在城市场景中的各个角落。然而,由于城市场景中大部分车辆可能处于移动状态,这样就会给三维重建过程带来一些问题。一方面,如图1(a)和图1(b)所示分别为移动车辆在场景一的三维场景重建过程示意图和重建结果示意图,该场景一为移动车辆在斑马线上,斑马线上存在车辆的几何结构,导致映射后的纹理出现扭曲变形现象,由图1(a)和图1(b)可知,移动过的车辆会导致重建出的三维场景存在几何结构上的失真,从而对后续三维模型表面的纹理映射产生影响;另一方面,如图2(a)和图2(b)所示分别为移动车辆在场景二的三维场景重建过程示意图和重建结果示意图,该场景二为交通繁忙的十字路口附近,由图2(a)和图2(b)可知,在整个影像数据采集的过程中,部分移动车辆可能会出现停留的情况(例如斑马线钱等红绿灯的车辆),在此期间,假如有两张或以上的影像拍摄到该车辆,那么该车辆的几何模型就可能会出现在重建的三维场景中,道路中央的车辆几何模型很突兀,而且映射的纹理也出现了扭曲变形的情况,因此,为了解决这样的问题,这里需要对三维场景的几何模型进行修复。
不能对三维场景重建中的移动车辆进行修复的话,重建后的三维场景看起来很杂乱,视觉效果大打折扣。因此,为了解决以上问题,通常需要全人工或半人工的方式对重建后的三维场景模型进行手动修复,主要包含几何结构和纹理影像两个方面的修复,但这个修复过程,往往需要花费大量人力物力,从而严重影响生产效率。
发明内容
本发明针对现有技术中存在的技术问题,提供一种基于影像的三维场景重建中移动车辆的修复方法,解决现有技术中三维场景重建过程中对移动车辆进行修复时效率低的问题。
本发明解决上述技术问题的技术方案如下:一种基于影像的三维场景重建中移动车辆的修复方法,包括:
步骤1,训练得到车辆的深度学习模型,根据所述深度学习模型得到各张影像中的车辆信息标记,所述车辆信息标记包括车辆位置和车辆颜色;
步骤2,对于三维场景模型的各个三角面,统计得到第i个三角面fi的可视影像集合I(fi),其中集合I(fi)中包含的影像的数量为nk;
步骤3,统计所述可视影像集合I(fi)中标记为车辆的影像的数量n1,根据所述数量n1是否超过设定值判断该三角面fi在各个影像的投影位置处是否为车辆;
步骤4,判定该三角面fi所述投影位置处为车辆时,统计所述n1个标记为车辆的车辆颜色中每种颜色出现的次数,得到所述次数中的最大值n2,根据所述数量nk、数量n1以及数量n2确定该三角面fi对应的为停留移动车辆、未停留移动车辆或未移动车辆;
步骤5,根据所述停留移动车辆对应的三角面进行几何修复,根据纹理处的三角面的颜色进行纹理修复。
本发明的有益效果是:本发明提供的一种基于影像的三维场景重建中移动车辆的修复方法,基于深度学习进行影像中的车辆信息的识别,可以保证车辆信息识别的效率及准确性;收集一段时间内的各张影像,根据各张影像的车辆信息标记的车辆位置和车辆颜色,基于多视图约束进行该时间段内的车辆的移动状态的判定,利用各个三角面的判定结果对移动车辆造成的几何模型的扭曲变形进行几何修复,对移动车辆造成的三维模型纹理信息的错误选取进行纹理修复,且无需人工干预,自动化程度高,节约大量的人力物力,保证重建后的三维场景的视觉效果。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,所述步骤1中得到各个影像中的车辆信息标记的过程包括:
步骤101,将人工标记好的车辆样本数据放入到深度学习框架中进行训练,当损失曲线收敛时,得到训练好的所述车辆的深度学习模型;
步骤102,将每张影像裁剪成设定大小的矩形影像块,利用所述车辆的深度学习模型分别对各个所述影像块进行车辆信息的识别,得到所述影像块中车辆的位置和颜色信息;
步骤103,汇总属于同一张所述影像的所述影像块的识别结果,得到每张所述影像所对应的车辆信息标记。
进一步,所述步骤2中得到所述可视影像集合I(fi)的过程包括:
步骤201,将三角网格中的每个所述三角面fi根据投影矩阵Pj依次投影到每张影像Ij上;
步骤202,获取所述影像Ij上可见的三角面集合F(Ij)={f1,f2,...,fm};
进一步,所述步骤3中所述设定值为预先设定的最小车辆影像张数阈值δ0;
n1<δ0时,直接返回判断是否每个三角面fi均完成了判定过程,是,结束整个判定流程,否,对i加一后进行下一个三角面fi的判定。
进一步,所述步骤4包括:
对n1张标记为车辆的影像与所述可视影像集合I(fi)中的nk张影像分别按照影像采集的时间顺序进行排列,排列结果记为Order1和Order2,找出Order1中的首尾两张影像在Order2中对应位置的索引Pos1与Pos2,计算 ratio=(Pos2-Pos1+1)/nk;
n1/nk≤δ1且ratio<δ1时,判定该三角面fi对应的移动车辆,否则,判定该三角面fi对应的未移动车辆;其中,δ1表示设定的第一比例阈值。
进一步,所述步骤4包括:
步骤401,判断n1/nk>δ1是否成立,是,执行步骤403,否,执行步骤 402;
步骤402,判断ratio<δ1是否成立,是,执行步骤404,否,执行步骤403;
步骤403,判断n2/n1>δ2是否成立,是,判定该三角面fi对应的未移动车辆,否,执行步骤404;其中,δ2表示设定的第一比例阈值;
步骤404,判定该三角面fi对应的移动车辆。
进一步,所述步骤404判定该三角面fi对应的移动车辆后,判断n2>δ0是否成立,是,判定该三角面fi对应的停留移动车辆;否,判定该三角面fi对应的未停留移动车辆。
进一步,所述步骤4确定该三角面fi对应的为停留移动车辆、未停留移动车辆或未移动车辆之后,判断是否每个三角面fi均完成了判定过程,是,结束整个判定流程,否,对i加一后进行下一个三角面fi的判定。
进一步,所述步骤3和步骤4判断三角面fi对应的场景的类别为非车辆、未移动车辆、停留移动车辆或未停留移动车辆之后,还包括对每个三角面fi的类别进行校正:
根据三角面fi在影像中的投影位置,结合影像中所标记的每个车辆的车辆信息标记的车辆范围,对属于同一车辆Ci的三角面进行聚类Ci={f1,f2,...,fn};
对每辆所述车辆Ci中所包含的n个三角面的类别信息进行统计,将计数最多的类别作为当前所述车辆Ci的类别;
根据所述车辆Ci的类别校正其对应的n个三角面fi的类别信息。
进一步的,所述步骤5中根据所述停留移动车辆对应的三角面进行几何修复的过程包括:
删除所述停留移动车辆对应的三角面,对出现的孔洞边界进行平面拟合并填补;
根据纹理处的三角面的颜色进行纹理修复的过程包括:
根据纹理处的三角面fi在其可视影像集合I(fi)的投影位置处的颜色得到一组候选纹理信息集合,剔除所述候选纹理信息集合中与其它候选纹理颜色差异大的候选纹理,使用剩余的候选纹理进行纹理映射。
采用上述进一步方案的有益效果是:本发明提供的一种基于影像的三维场景重建中移动车辆的修复方法的实施例中,利用三角面fi在哪些影像上可见建立可视影像集合,利用标记为车辆的影像在可视影像集合中的数量和影像序列中所占比例是否超过设定的阈值,判断三角面fi对应的类别为移动车辆或未移动车辆;进而初步判定每个三角面fi在三维场景中的类别:非车辆、未移动车辆、停留移动车辆或未停留移动车辆;还采用聚类的方法对每个三角面fi的类别作进一步的校正;最后根据上述各个三角面的判定结果,利用标记为停留移动车辆的三角面进行几何修复,利用纹理处的三角面的颜色差异进行纹理修复。
附图说明
图1(a)为移动车辆在场景一的三维场景重建过程示意图;
图1(b)为移动车辆在场景一的三维场景重建结果示意图;
图2(a)为移动车辆在场景二的三维场景重建过程示意图;
图2(b)为移动车辆在场景二的三维场景重建结果示意图;
图3为本发明实施例提供的一种基于影像的三维场景重建中移动车辆的修复方法的流程图;
图4(a)为本发明实施例提供的影像中车辆示意图;
图4(b)为本发明实施例提供的图4(a)中的影像识别后的车辆信息标记图;
图5为本发明提供的一种根据三角面的可视影像集判断车辆移动状态的方法的实施例的的流程图;
图6为本发明提供的车辆类别判定结果的实施例的示意图;
图7为利用本发明实施例提供的一种基于影像的三维场景重建中移动车辆的修复方法对图2(a)中的场景二进行几何修复后的效果图;
图8为利用本发明实施例提供的一种基于影像的三维场景重建中移动车辆的修复方法对图1(a)中的场景一进行纹理修复后的效果图。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
如图3所示本发明实施例提供的一种基于影像的三维场景重建中移动车辆的修复方法的流程图,由图3可知,该方法包括:
步骤1,训练得到车辆的深度学习模型,根据深度学习模型得到各张影像中的车辆信息标记,车辆信息标记包括车辆位置和车辆颜色。
步骤2,对于三维场景模型的各个三角面,统计得到第i个三角面fi的可视影像集合I(fi),其中集合I(fi)中包含的影像的数量为nk。
所获取的三维场景模型用三角网格表示为Μ={fi},可视影像集合I(fi)即三角面fi在哪些影像上可见,这些影像组成可视影像集合I(fi)。
步骤3,统计可视影像集合I(fi)中标记为车辆的影像的数量n1,根据数量n1是否超过设定值判断该三角面fi在各个影像的投影位置处是否为车辆。
对于三角面fi在其可视影像集合I(fi)中的每张影像投影位置处所对应的nk个车辆信息标记,统计其中标记为车辆的影像张数n1,根据该数量n1的比例判断三角面fi所对应的场景信息是否为车辆。
步骤4,判定该三角面fi投影位置处为车辆时,统计n1个标记为车辆的车辆颜色中每种颜色出现的次数,得到次数中的最大值n2,根据数量nk、数量n1以及数量n2确定该三角面fi对应的为停留移动车辆、未停留移动车辆或未移动车辆。
步骤5,根据停留移动车辆对应的三角面进行几何修复,根据纹理处的三角面的颜色进行纹理修复。
本发明提供的一种基于影像的三维场景重建中移动车辆的修复方法,基于深度学习进行影像中的车辆信息的识别,可以保证车辆信息识别的效率及准确性。收集一段时间内的各张影像,根据各张影像的车辆信息标记的车辆位置和车辆颜色,基于多视图约束进行该时间段内的车辆的移动状态的判定,,且无需人工干预,自动化程度高,保证重建后的三维场景的视觉效果。
实施例1
本发明提供的实施例1为本发明提供的一种基于影像的三维场景重建中移动车辆的修复方法的实施例,该方法的实施例包括:
步骤1,训练得到车辆的深度学习模型,根据深度学习模型得到各张影像中的车辆信息标记,车辆信息标记包括车辆位置和车辆颜色。
优选的,步骤1中得到各个影像中的车辆信息标记的过程包括:
步骤101,将人工标记好的车辆样本数据放入到深度学习框架中进行训练,当损失曲线收敛时,得到训练好的车辆的深度学习模型。
优选的,该深度学习框架可以为YOLOv3等。
步骤102,将每张影像裁剪成设定大小的矩形影像块,利用车辆的深度学习模型分别对各个影像块进行车辆信息的识别,得到影像块中车辆的位置和颜色信息。
其中,影像块的大小根据计算机硬件条件的限制设置。
步骤103,汇总属于同一张影像的影像块的识别结果,得到每张影像所对应的车辆信息标记。
如图4(a)所示为本发明实施例提供的影像中车辆示意图,图4(b) 本发明实施例提供的图4(a)中的影像识别后的车辆信息标记图。图4(b) 中标记处的区域即为被识别出的车辆的位置,区域的颜色就代表被识别出的车辆的颜色。
步骤2,对于三维场景模型的各个三角面,统计得到第i个三角面fi的可视影像集合I(fi),其中集合I(fi)中包含的影像的数量为nk。
优选的,步骤2中得到可视影像集合I(fi)的过程包括:
步骤201,将三角网格中的每个三角面fi根据投影矩阵Pj依次投影到每张影像Ij上。
其中,Ij表示采集的影像集合Ι={Ij}中的第j张影像,影像集合Ι对应的位置信息为P={Pj},Pj表示第j张影像Ij的投影矩阵。
步骤202,获取影像Ij上可见的三角面集合F(Ij)={f1,f2,...,fm}。
其中,三角面在影像上的可见性是利用投影产生的深度图进行判断,即选取深度图中每个像素上存储的最小深度值所对应的三角面组成集合F(Ij)。
步骤3,统计可视影像集合I(fi)中标记为车辆的影像的数量n1,根据数量n1是否超过设定值判断该三角面fi在各个影像的投影位置处是否为车辆。
如图5所示为本发明提供的一种根据三角面的可视影像集判断车辆移动状态的方法的实施例的的流程图,由图5可知,优选的,步骤3中设定值为预先设定的最小车辆影像张数阈值δ0。
n1<δ0时,直接返回判断是否每个三角面fi均完成了判定过程,是,结束整个判定流程,否,对i加一后进行下一个三角面fi的判定。
步骤4,判定该三角面fi投影位置处为车辆时,统计n1个标记为车辆的车辆颜色中每种颜色出现的次数,得到次数中的最大值n2,根据数量nk、数量n1以及数量n2确定该三角面fi对应的为停留移动车辆、未停留移动车辆或未移动车辆。
由图5可知,优选的,步骤4包括:
对n1张标记为车辆的影像与可视影像集合I(fi)中的nk张影像分别按照影像采集的时间顺序进行排列,排列结果记为Order1和Order2,找出Order1中的首尾两张影像在Order2中对应位置的索引Pos1与Pos2,计算 ratio=(Pos2-Pos1+1)/nk。其中,ratio表示n1张标记为车辆的影像在影像序列中所占比例。
n1/nk≤δ1且ratio<δ1时,判定该三角面fi对应的移动车辆,否则,判定该三角面fi对应的未移动车辆。其中,δ1表示设定的第一比例阈值。
具体的,该步骤4可以包括:
步骤401,判断n1/nk>δ1是否成立,是,执行步骤403,否,执行步骤402。
数量n1占数量nk的比例超过设定的比例阈值δ1,则表示三角面fi所对应的场景为车辆的影像占据多数。
步骤402,判断ratio<δ1是否成立,是,执行步骤404,否,执行步骤403。
步骤403,判断n2/n1>δ2是否成立,是,判定该三角面fi对应的未移动车辆,否,执行步骤404。其中,δ2表示设定的第一比例阈值。
步骤404,判定该三角面fi对应的移动车辆。
具体的,步骤404判定该三角面fi对应的移动车辆后,判断n2>δ0是否成立,是,判定该三角面fi对应的停留移动车辆;否,判定该三角面fi对应的未停留移动车辆。
车辆颜色中颜色出现的次数的最大值n2大于最小车辆影像张数阈值δ0,说明该三角面fi所对应的移动车辆在影像数据采集的过程中曾有过一段时间的停留。
优选的,步骤4中确定该三角面fi对应的为停留移动车辆、未停留移动车辆或未移动车辆之后,判断是否每个三角面fi均完成了判定过程,是,结束整个判定流程;否,对i加一后进行下一个三角面fi的判定。
通过以上步骤的判断,可以初步判定每个三角面fi在三维场景中的类别:非车辆、未移动车辆、移动车辆(停留或未停留)。但由于每个三角面都是独立进行的判断,未顾及区域连续性,部分三角面可能存在判断错误的情况,所以优选的,步骤3和步骤4之后,还包括对每个三角面fi的类别作进一步的校正:
根据三角面fi在影像中的投影位置,结合影像中所标记的每个车辆的车辆信息标记的车辆范围,对属于同一车辆Ci的三角面进行聚类Ci={f1,f2,...,fn}。
对每辆车辆Ci中所包含的n个三角面的类别信息进行统计,利用少数服从多数的原理,将计数最多的类别作为当前车辆Ci的类别。
根据车辆Ci的类别校正其对应的n个三角面fi的类别信息。
图6为本发明提供的车辆类别判定结果的实施例的示意图,最终的判别结果如图6所示,图中三种颜色区分标识未发生过移动的车辆、一直处于移动状态的车辆以及有过一段时间停留的移动车辆。
步骤5,根据停留移动车辆对应的三角面进行几何修复,根据纹理处的三角面的颜色进行纹理修复。
步骤1-4中对有过停留的移动车辆(例如等红绿灯的车辆)所对应的三角面已经进行了标记,因此,在这里只需要对这些标记的三角面进行处理。根据先验知识可知,绝大部分车辆停靠的位置都满足平面的特性,所以这里直接删除这些被标记的三角面,然后对出现的孔洞边界进行平面拟合并填补,具体的,平面拟合的方法可采用最小二乘法等,图7为利用本发明实施例提供的一种基于影像的三维场景重建中移动车辆的修复方法对图2(a)中的场景二进行几何修复后的效果图,车辆几何修复结果如图7所示。
根据步骤1-4中车辆类别的判定结果,我们可以擦除影像数据中被判定为移动车辆位置处所对应像素的车辆颜色信息,但由于利用深度学习进行车辆识别部分可能存在漏识别的情况,这就会导致部分车辆的纹理信息仍会出现在重建的三维场景中,如图1(b)中斑马线处的车辆纹理所示。为了剔除这些错误的纹理,本发明实施例采用RANSAC的算法思路:每个三角面fi都会对应一组可视的影像集合从而可以根据三角面fi在影像集合中的投影位置处的颜色得到一组候选的纹理信息集合,由于车辆的颜色往往与其所经过的路面处的颜色差异较大,所以这里可以剔除候选纹理集合中那些与其它候选纹理颜色差异较大的候选纹理,那么移动车辆所对应的错误纹理就被去掉了,图8为利用本发明实施例提供的一种基于影像的三维场景重建中移动车辆的修复方法对图1(a)中的场景一进行纹理修复后的效果图,最后我们使用剩余正确的候选纹理进行纹理映射的结果如图8所示。
本发明提供的一种基于影像的三维场景重建中移动车辆的修复方法的实施例中,利用三角面fi在哪些影像上可见建立可视影像集合,利用标记为车辆的影像在可视影像集合中的数量和影像序列中所占比例是否超过设定的阈值,判断三角面fi对应的类别为移动车辆或未移动车辆;进而初步判定每个三角面fi在三维场景中的类别:非车辆、未移动车辆、停留移动车辆或未停留移动车辆;还采用聚类的方法对每个三角面fi的类别作进一步的校正;最后根据上述各个三角面的判定结果,利用标记为停留移动车辆的三角面进行几何修复,利用纹理处的三角面的颜色差异进行纹理修复。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于影像的三维场景重建中移动车辆的修复方法,其特征在于,所述方法包括:
步骤1,训练得到车辆的深度学习模型,根据所述深度学习模型得到各张影像中的车辆信息标记,所述车辆信息标记包括车辆位置和车辆颜色;
步骤2,对于三维场景模型的各个三角面,统计得到第i个三角面fi的可视影像集合I(fi),其中集合I(fi)中包含的影像的数量为nk;
步骤3,统计所述可视影像集合I(fi)中标记为车辆的影像的数量n1,根据所述数量n1是否超过设定值判断该三角面fi在各个影像的投影位置处是否为车辆;
步骤4,判定该三角面fi所述投影位置处为车辆时,统计所述n1个标记为车辆的车辆颜色中每种颜色出现的次数,得到所述次数中的最大值n2,根据所述数量nk、数量n1以及数量n2确定该三角面fi对应的为停留移动车辆、未停留移动车辆或未移动车辆;
步骤5,根据所述停留移动车辆对应的三角面进行几何修复,根据纹理处的三角面的颜色进行纹理修复。
2.根据权利要求1所述的方法,其特征在于,所述步骤1中得到各个影像中的车辆信息标记的过程包括:
步骤101,将人工标记好的车辆样本数据放入到深度学习框架中进行训练,当损失曲线收敛时,得到训练好的所述车辆的深度学习模型;
步骤102,将每张影像裁剪成设定大小的矩形影像块,利用所述车辆的深度学习模型分别对各个所述影像块进行车辆信息的识别,得到所述影像块中车辆的位置和颜色信息;
步骤103,汇总属于同一张所述影像的所述影像块的识别结果,得到每张所述影像所对应的车辆信息标记。
4.根据权利要求1所述的方法,其特征在于,所述步骤3中所述设定值为预先设定的最小车辆影像张数阈值δ0;
n1<δ0时,直接返回判断是否每个三角面fi均完成了判定过程,是,结束整个判定流程,否,对i加一后进行下一个三角面fi的判定。
5.根据权利要求1所述的方法,其特征在于,所述步骤4包括:
对n1张标记为车辆的影像与所述可视影像集合I(fi)中的nk张影像分别按照影像采集的时间顺序进行排列,排列结果记为Order1和Order2,找出Order1中的首尾两张影像在Order2中对应位置的索引Pos1与Pos2,计算ratio=(Pos2-Pos1+1)/nk;
n1/nk≤δ1且ratio<δ1时,判定该三角面fi对应的移动车辆,否则,判定该三角面fi对应的未移动车辆;其中,δ1表示设定的第一比例阈值。
6.根据权利要求5所述的方法,其特征在于,所述步骤4包括:
步骤401,判断n1/nk>δ1是否成立,是,执行步骤403,否,执行步骤402;
步骤402,判断ratio<δ1是否成立,是,执行步骤404,否,执行步骤403;
步骤403,判断n2/n1>δ2是否成立,是,判定该三角面fi对应的未移动车辆,否,执行步骤404;其中,δ2表示设定的第一比例阈值;
步骤404,判定该三角面fi对应的移动车辆。
7.根据权利要求6所述的方法,其特征在于,所述步骤404判定该三角面fi对应的移动车辆后,判断n2>δ0是否成立,是,判定该三角面fi对应的停留移动车辆;否,判定该三角面fi对应的未停留移动车辆。
8.根据权利要求1-7任一项所述的方法,其特征在于,所述步骤4确定该三角面fi对应的为停留移动车辆、未停留移动车辆或未移动车辆之后,判断是否每个三角面fi均完成了判定过程,是,结束整个判定流程,否,对i加一后进行下一个三角面fi的判定。
9.根据权利要求1所述的方法,其特征在于,所述步骤3和步骤4判断三角面fi对应的场景的类别为非车辆、未移动车辆、停留移动车辆或未停留移动车辆之后,还包括对每个三角面fi的类别进行校正:
根据三角面fi在影像中的投影位置,结合影像中所标记的每个车辆的车辆信息标记的车辆范围,对属于同一车辆Ci的三角面进行聚类Ci={f1,f2,...,fn};
对每辆所述车辆Ci中所包含的n个三角面的类别信息进行统计,将计数最多的类别作为当前所述车辆Ci的类别;
根据所述车辆Ci的类别校正其对应的n个三角面fi的类别信息。
10.根据权利要求1所述的方法,其特征在于,所述步骤5中根据所述停留移动车辆对应的三角面进行几何修复的过程包括:
删除所述停留移动车辆对应的三角面,对出现的孔洞边界进行平面拟合并填补;
根据纹理处的三角面的颜色进行纹理修复的过程包括:
根据纹理处的三角面fi在其可视影像集合I(fi)的投影位置处的颜色得到一组候选纹理信息集合,剔除所述候选纹理信息集合中与其它候选纹理颜色差异大的候选纹理,使用剩余的候选纹理进行纹理映射。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010352137.9A CN111476890B (zh) | 2020-04-28 | 2020-04-28 | 一种基于影像的三维场景重建中移动车辆的修复方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010352137.9A CN111476890B (zh) | 2020-04-28 | 2020-04-28 | 一种基于影像的三维场景重建中移动车辆的修复方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111476890A true CN111476890A (zh) | 2020-07-31 |
CN111476890B CN111476890B (zh) | 2023-04-11 |
Family
ID=71761970
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010352137.9A Active CN111476890B (zh) | 2020-04-28 | 2020-04-28 | 一种基于影像的三维场景重建中移动车辆的修复方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111476890B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113870405A (zh) * | 2021-09-24 | 2021-12-31 | 埃洛克航空科技(北京)有限公司 | 用于三维场景重建的纹理贴图选择方法以及相关装置 |
CN114022620A (zh) * | 2022-01-06 | 2022-02-08 | 武汉大势智慧科技有限公司 | 一种三维场景重建中散乱纹理的剔除方法和系统 |
CN114241140A (zh) * | 2022-02-24 | 2022-03-25 | 武汉图景空间信息技术有限公司 | 一种基于gis的车流实景三维建模方法和系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110007072A1 (en) * | 2009-07-09 | 2011-01-13 | University Of Central Florida Research Foundation, Inc. | Systems and methods for three-dimensionally modeling moving objects |
CN106327573A (zh) * | 2016-08-25 | 2017-01-11 | 成都慧途科技有限公司 | 一种针对城市建筑的实景三维建模方法 |
EP3293700A1 (en) * | 2016-09-09 | 2018-03-14 | Panasonic Automotive & Industrial Systems Europe GmbH | 3d reconstruction for vehicle |
CN108335352A (zh) * | 2018-01-22 | 2018-07-27 | 华中科技大学 | 一种面向多视图大规模三维重建场景的纹理映射方法 |
CN110033475A (zh) * | 2019-03-29 | 2019-07-19 | 北京航空航天大学 | 一种高分辨率纹理生成的航拍图运动物体检测与消除方法 |
CN110189265A (zh) * | 2019-05-06 | 2019-08-30 | 中国科学院半导体研究所 | 距离能量相关三维成像超级像素修复方法 |
-
2020
- 2020-04-28 CN CN202010352137.9A patent/CN111476890B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110007072A1 (en) * | 2009-07-09 | 2011-01-13 | University Of Central Florida Research Foundation, Inc. | Systems and methods for three-dimensionally modeling moving objects |
CN106327573A (zh) * | 2016-08-25 | 2017-01-11 | 成都慧途科技有限公司 | 一种针对城市建筑的实景三维建模方法 |
EP3293700A1 (en) * | 2016-09-09 | 2018-03-14 | Panasonic Automotive & Industrial Systems Europe GmbH | 3d reconstruction for vehicle |
CN108335352A (zh) * | 2018-01-22 | 2018-07-27 | 华中科技大学 | 一种面向多视图大规模三维重建场景的纹理映射方法 |
CN110033475A (zh) * | 2019-03-29 | 2019-07-19 | 北京航空航天大学 | 一种高分辨率纹理生成的航拍图运动物体检测与消除方法 |
CN110189265A (zh) * | 2019-05-06 | 2019-08-30 | 中国科学院半导体研究所 | 距离能量相关三维成像超级像素修复方法 |
Non-Patent Citations (4)
Title |
---|
HAI-XIN CHEN: "The research of moving object detection with a moving camera" * |
姜翰青;赵长飞;章国锋;王慧燕;鲍虎军;: "基于多视图深度采样的自然场景三维重建" * |
张彩平: "监控场景下的运动车辆三维重建算法研究" * |
杨旭东;: "图像三维模型重建方法研究" * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113870405A (zh) * | 2021-09-24 | 2021-12-31 | 埃洛克航空科技(北京)有限公司 | 用于三维场景重建的纹理贴图选择方法以及相关装置 |
CN114022620A (zh) * | 2022-01-06 | 2022-02-08 | 武汉大势智慧科技有限公司 | 一种三维场景重建中散乱纹理的剔除方法和系统 |
CN114241140A (zh) * | 2022-02-24 | 2022-03-25 | 武汉图景空间信息技术有限公司 | 一种基于gis的车流实景三维建模方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111476890B (zh) | 2023-04-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111476890B (zh) | 一种基于影像的三维场景重建中移动车辆的修复方法 | |
CN109977812B (zh) | 一种基于深度学习的车载视频目标检测方法 | |
CN111179152B (zh) | 一种道路标识识别方法及装置、介质、终端 | |
CN107153822A (zh) | 一种基于深度学习的半自动图像精标注方法 | |
JP2017533482A (ja) | 車線データの処理方法、装置、記憶媒体及び機器 | |
CN101334836A (zh) | 一种融合色彩、尺寸和纹理特征的车牌定位方法 | |
CN108256445B (zh) | 车道线检测方法及系统 | |
CN110866430A (zh) | 一种车牌识别方法及装置 | |
CN106780727B (zh) | 一种车头检测模型重建方法及装置 | |
CN106558051A (zh) | 一种改进的从单幅图像检测道路的方法 | |
CN109448046B (zh) | 一种基于多描述子的半自动道路中心线快速提取方法 | |
CN112101205A (zh) | 基于多任务网络的训练方法和装置 | |
CN114022620B (zh) | 一种三维场景重建中散乱纹理的剔除方法和系统 | |
CN115170479A (zh) | 一种沥青路面修补病害自动提取方法 | |
CN111696059B (zh) | 一种车道线光滑连接处理方法和装置 | |
EP4287137A1 (en) | Method, device, equipment, storage media and system for detecting drivable space of road | |
CN116935157A (zh) | 一种基于PConv-YOLOv7的路面病害检测方法 | |
CN115909241A (zh) | 一种车道线检测方法、系统、电子设备和存储介质 | |
CN112101268B (zh) | 一种基于几何投影的车辆压线检测方法 | |
CN103473567B (zh) | 一种基于部分模型的车辆检测方法 | |
CN111652965A (zh) | 一种针对影像中移动车辆的判定方法及系统 | |
CN115294545A (zh) | 一种基于深度学习的复杂路面车道识别方法及芯片 | |
CN115100173A (zh) | 基于深度卷积神经网络的公路路面图像裂缝几何属性检测与裂缝识别方法 | |
CN115618602A (zh) | 一种车道级场景仿真方法及系统 | |
CN115393822A (zh) | 一种雾天行车障碍物检测方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |