CN113516662A - 基于多分辨率融合的点云分割方法和装置 - Google Patents
基于多分辨率融合的点云分割方法和装置 Download PDFInfo
- Publication number
- CN113516662A CN113516662A CN202110024480.5A CN202110024480A CN113516662A CN 113516662 A CN113516662 A CN 113516662A CN 202110024480 A CN202110024480 A CN 202110024480A CN 113516662 A CN113516662 A CN 113516662A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- resolution
- cloud segmentation
- result
- low
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000011218 segmentation Effects 0.000 title claims abstract description 245
- 238000000034 method Methods 0.000 title claims abstract description 44
- 230000004927 fusion Effects 0.000 title claims abstract description 25
- 238000005070 sampling Methods 0.000 claims abstract description 28
- 238000005457 optimization Methods 0.000 claims abstract description 16
- 238000007499 fusion processing Methods 0.000 claims abstract description 9
- 230000008569 process Effects 0.000 claims description 7
- 238000010801 machine learning Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 4
- 239000012634 fragment Substances 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
本申请提出一种基于多分辨率融合的点云分割方法和装置,涉及计算机视觉与机器学习技术领域,其中,方法包括:获取待分割图像,通过预测器对待分割图像进行点云分割,获取原始点云分割结果;对待分割图像进行降采样,获取低分辨率图像特征;通过预测器对低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;对低分辨率点云分割结果进行上采样的优化更新处理,获取与原始点云分割结果相同分辨率的目标点云分割结果,并将原始点云分割结果和目标点云分割结果进行融合处理,并输出点云分割结果。由此,解决现有点云分割框架中,对低分辨率信息利用不充分的问题,将低分辨率点云分割结果直接用于分割结果的预测,提高点云分割准确性。
Description
技术领域
本申请涉及计算机视觉与机器学习技术领域,尤其涉及一种基于多分辨率融合的点云分割方法和装置。
背景技术
目前,三维场景的分割技术在自动驾驶、智能移动机器人、虚拟现实等实际应用场景中发挥着重要的作用。随着激光雷达等传感器的普及,三维点云数据的采集越来越方便,因而也为三维场景的分割提供了重要的数据基础。然而由于点云数据往往是不完整且密度不均匀的,且点云本身的数据表示也具有无规则性,目前的算法在进行分割时面临了许多问题。
基于点云数据的三维场景分割技术可以分为语义分割和实例分割两类:语义分割中常用的框架有以Pointnet++为代表的直接处理点云的结构,也有先把点云转换为体素,再对体素进行稀疏卷积的结构;实例分割则可以按照有无候选框的提出分为两类方法。
然而,目前网络框架中,通常只是用跨越连接的方式对各个分辨率的特征进行拼接,并没有很充分的利用低分辨率点云特征。
发明内容
本申请旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本申请的第一个目的在于提出一种基于多分辨率融合的点云分割方法,解决现有点云分割框架中,对低分辨率信息利用不充分的问题,直接从低分辨率点云特征预测出分割的结果,并把这个结果通过上采样-优化更新的方法拓展到原始点云的分辨率,与最终的预测结果进行融合,提高点云分割准确性。
本申请的第二个目的在于提出一种基于多分辨率融合的点云分割装置。
为达上述目的,本申请第一方面实施例提出了一种基于多分辨率融合的点云分割方法,包括:
获取待分割图像,通过预测器对所述待分割图像进行点云分割,获取原始点云分割结果;
对所述待分割图像进行降采样,获取低分辨率图像特征;
通过所述预测器对所述低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;
对所述低分辨率点云分割结果进行上采样的优化更新处理,获取与所述原始点云分割结果相同分辨率的目标点云分割结果,并将所述原始点云分割结果和所述目标点云分割结果进行融合处理,并输出点云分割结果。
本申请实施例的基于多分辨率融合的点云分割方法,通过获取待分割图像,通过预测器对待分割图像进行点云分割,获取原始点云分割结果;对待分割图像进行降采样,获取低分辨率图像特征;通过预测器对低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;对低分辨率点云分割结果进行上采样的优化更新处理,获取与原始点云分割结果相同分辨率的目标点云分割结果,并将原始点云分割结果和目标点云分割结果进行融合处理,并输出点云分割结果。由此,解决现有点云分割框架中,将低分辨率点云直接用于分割结果的预测,并将其上采样到最高分辨率,与原本的分割结果进行融合,得到最终的预测,提高点云分割准确性。
在本申请的一个实施例中,所述对所述低分辨率点云分割结果进行上采样的优化更新处理,获取与所述原始点云分割结果相同分辨率的目标点云分割结果,包括:
分别对所述低分辨率图像特征和所述低分辨率点云分割结果进行插值处理,获取中间分辨率图像特征和中间分辨率点云分割结果;
从所述中间分辨率图像特征中,获取不确定图像特征,并获取所述不确定图像特征对应的不确定预测结果;
将所述中间分辨率点云分割结果、所述不确定预测结果和从所述原始点云分割结果获取的预测结果进行拼接后输入所述预测期,获取更新预测结果,将所述更新预测结果替换所述低分辨率点云分割结果,直到获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
在本申请的一个实施例中,所述从所述中间分辨率图像特征中,获取不确定图像特征,包括:
获取所述中间分辨率图像特征中每个特征点对应的置信概率;
根据所述每个特征点对应的置信概率与预设类别概率的差值与阈值比较,确定不确定特征点,根据所述不确定特征点获取所述不确定图像特征。
在本申请的一个实施例中,所述的方法,还包括:
通过第一预设器预测低分辨率点云分割训练结果,将所述低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起,用第二预测器将所有点重新预测一遍,获取重新预测结果;
将所述低分辨率点云分割训练结果和所述重新预测结果分别与真实标签计算交叉熵损失函数,用梯度下降算法进行训练,生成所述预测器。
在本申请的一个实施例中,所述插值处理的方式为三近邻插值或最近邻插值。
为达上述目的,本申请第二方面实施例提出了一种基于多分辨率融合的点云分割装置,包括:
获取预测模块,用于获取待分割图像,通过预测器对所述待分割图像进行点云分割,获取原始点云分割结果;
降采样模块,用于对所述待分割图像进行降采样,获取低分辨率图像特征;
预测模块,用于通过所述预测器对所述低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;
更新模块,用于对所述低分辨率点云分割结果进行上采样的优化更新处理,获取与所述原始点云分割结果相同分辨率的目标点云分割结果;
处理模块,用于将所述原始点云分割结果和所述目标点云分割结果进行融合处理,并输出点云分割结果。
本申请实施例的基于多分辨率融合的点云分割装置,获取待分割图像,通过预测器对待分割图像进行点云分割,获取原始点云分割结果;对待分割图像进行降采样,获取低分辨率图像特征;通过预测器对低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;对低分辨率点云分割结果进行上采样的优化更新处理,获取与原始点云分割结果相同分辨率的目标点云分割结果,并将原始点云分割结果和目标点云分割结果进行融合处理,并输出点云分割结果。由此,解决现有点云分割框架中,将低分辨率点云直接用于分割结果的预测,并将其上采样到最高分辨率,与原本的分割结果进行融合,得到最终的预测,提高点云分割准确性。
在本申请的一个实施例中,所述更新模块,包括:
插值单元,用于分别对所述低分辨率图像特征和所述低分辨率点云分割结果进行插值处理,获取中间分辨率图像特征和中间分辨率点云分割结果;
第一获取单元,用于从所述中间分辨率图像特征中,获取不确定图像特征;
第二获取单元,用于获取所述不确定图像特征对应的不确定预测结果;
处理单元,用于将所述中间分辨率点云分割结果、所述不确定预测结果和从所述原始点云分割结果获取的预测结果进行拼接后输入所述预测期,获取更新预测结果,将所述更新预测结果替换所述低分辨率点云分割结果,直到获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
在本申请的一个实施例中,所述第一获取单元,具体用于:
获取所述中间分辨率图像特征中每个特征点对应的置信概率;
根据所述每个特征点对应的置信概率与预设类别概率的差值与阈值比较,确定不确定特征点,根据所述不确定特征点获取所述不确定图像特征。
在本申请的一个实施例中,所述的装置,还包括:
预测获取模块,用于通过第一预设器预测低分辨率点云分割训练结果,将所述低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起,用第二预测器将所有点重新预测一遍,获取重新预测结果;
生成模块,用于将所述低分辨率点云分割训练结果和所述重新预测结果分别与真实标签计算交叉熵损失函数,用梯度下降算法进行训练,生成所述预测器。
在本申请的一个实施例中,所述插值处理的方式为三近邻插值或最近邻插值。
本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为本申请实施例一所提供的一种基于多分辨率融合的点云分割方法的流程示意图;
图2为本申请实施例的基于多分辨率融合的点云分割的示例图;
图3为本申请实施例的优化更新的操作示例图;
图4为本申请实施例所提供的一种基于多分辨率融合的点云分割装置的结构示意图。
具体实施方式
下面详细描述本申请的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本申请,而不能理解为对本申请的限制。
下面参考附图描述本申请实施例的基于多分辨率融合的点云分割方法和装置。
图1为本申请实施例一所提供的一种基于多分辨率融合的点云分割方法的流程示意图。
如图1所示,该基于多分辨率融合的点云分割方法包括以下步骤:
步骤101,获取待分割图像,通过预测器对待分割图像进行点云分割,获取原始点云分割结果。
步骤102,对待分割图像进行降采样,获取低分辨率图像特征。
步骤103,通过预测器对低分辨率图像特征进行点云分割,获取低分辨率点云分割结果。
步骤104,对低分辨率点云分割结果进行上采样的优化更新处理,获取与原始点云分割结果相同分辨率的目标点云分割结果,并将原始点云分割结果和目标点云分割结果进行融合处理,并输出点云分割结果。
在本申请实施例中,对低分辨率点云分割结果进行上采样的优化更新处理,获取与原始点云分割结果相同分辨率的目标点云分割结果,包括:分别对低分辨率图像特征和低分辨率点云分割结果进行插值处理,获取中间分辨率图像特征和中间分辨率点云分割结果;从所述中间分辨率图像特征中,获取不确定图像特征,并获取不确定图像特征对应的不确定预测结果;将中间分辨率点云分割结果、不确定预测结果和从原始点云分割结果获取的预测结果进行拼接后输入所述预测期,获取更新预测结果,将更新预测结果替换低分辨率点云分割结果,直到获取与原始点云分割结果相同分辨率的目标点云分割结果。
在本申请实施例中,从中间分辨率图像特征中,获取不确定图像特征,包括:获取所述中间分辨率图像特征中每个特征点对应的置信概率;根据每个特征点对应的置信概率与预设类别概率的差值与阈值比较,确定不确定特征点,根据不确定特征点获取不确定图像特征。
在本申请实施例中,通过第一预设器预测低分辨率点云分割训练结果,将低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起,用第二预测器将所有点重新预测一遍,获取重新预测结果;将低分辨率点云分割训练结果和重新预测结果分别与真实标签计算交叉熵损失函数,用梯度下降算法进行训练,生成预测器。
在本申请实施例中,插值处理的方式为三近邻插值或最近邻插值。
具体地,如图2所示,图2中(a)部分为原网络,直接处理点云且使用降采样-上采样结构的框架均可作为(a),因此本申请的方法具有很强的普适性。比如可以理解为(b)部分为图形渲染中的栅格化操作流程,该操作首先将三角面片作为基元,基元经过的格点即为片段,最后通过插值等方式对片段进行处理。利用低分辨率分割结果并将其向上插值更新的过程与这一套流程的思想是一致的。(c)部分为本申请的模块,可以看到使用MLPr作为预测器,直接预测出低分辨率点云的分割结果。之后按照原网络中上采样的分辨率对此低分辨率的预测结果进行上采样-优化更新的迭代,一直到低分辨率的预测结果与原网络的预测结果具有相同的分辨率。最后,将两个预测结果进行融合,得到最终输出,如图2右下角所示。
本申请模块中使用的上采样操作与原网络保持一致,常用的有三近邻插值和最近邻插值。优化更新的操作如图3所示。在有了低分辨率点云的特征和分割预测结果后(分别为图中的Flr和和Mlr),将其插值到向上一级的分辨率,记为Fhr和对于中的每个点,都有一个对应的C维向量,表示该点属于第k类(1≤k≤C)的概率,若一个点置信概率最高的类与第二高的类的概率差很小,则认为这个点的预测是不确定的。在本申请的模块中,选出当前分辨率前1/2的不确定的点,做为优化更新的目标。将不确定的点的特征预测结果在特征维度上进行拼接,并从原网络预测结果中选出对应的预测结果也与前两者拼接在一起。之后使用MLPu,对每个拼接特征进行重新预测,得到并替换掉原来不确定的结果。将低分辨率预测结果上采样到原点云分辨率并更新后,需要将此结果与原网络的预测结果进行融合,具体方法为:按照上述不确定性的定义,从原网络的预测结果中选出1/6不确定的点,这些点用本申请模块的预测结果进行替换。
以上是本申请的模块在推理阶段进行的操作,在训练阶段,这种迭代式的操作过于复杂且不可导,因此采用简便的方式进行训练:在推理阶段中,使用的含参数操作只有MLPr和MLPu,且MLPu可以在不同分辨率的迭代中反复使用,因此训练阶段没有必要使用这种迭代的结构。首先用MLPr预测低分辨率的分割结果,将此结果与低分辨率特征、原网络预测结果的对应部分拼接在一起,用MLPu将所有点重新预测一遍,这样就得到了两个预测结果,一个是使用MLPu之前的预测结果,另一个是使用了MLPu之后重新预测的结果,这两个结果分别与真实标签计算交叉熵损失函数,用梯度下降算法进行训练即可。
由此,直接把低分辨率特征用来预测分割结果,并引入并行于原网络上采样分支的另一分支,将两路预测结果进行融合;在把低分辨率分割结果上采样的过程中,设计了基于不确定性的更新操作,解决了插值结果过于粗糙的问题;将本申请的方法作为即插即用的模块,在多个分割框架上证实了该模块的有效性。
从而,给定降采样-上采样结构的点云分割框架,本申请的方法从某一低分辨率的特征开始,预测出分割结果,并迭代式进行上采样-优化更新的操作,最终得到和原网络预测结果相同的分辨率,将这两个预测结果用基于不确定性的方式进行融合,作为网络最终输出的分割结果。本申请的方法可以简易地插入到现有的许多框架中,显著提升了多个指标下的三维场景分割精度。
本申请实施例的基于多分辨率融合的点云分割方法,通过获取待分割图像,通过预测器对待分割图像进行点云分割,获取原始点云分割结果;对待分割图像进行降采样,获取低分辨率图像特征;通过预测器对低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;对低分辨率点云分割结果进行上采样的优化更新处理,获取与原始点云分割结果相同分辨率的目标点云分割结果,并将原始点云分割结果和目标点云分割结果进行融合处理,并输出点云分割结果。由此,解决现有点云分割框架中,将低分辨率点云直接用于分割结果的预测,并将其上采样到最高分辨率,与原本的分割结果进行融合,得到最终的预测,提高点云分割准确性。
为了实现上述实施例,本申请还提出一种基于多分辨率融合的点云分割装置。
图4为本申请实施例提供的一种基于多分辨率融合的点云分割装置的结构示意图。
如图4所示,该基于多分辨率融合的点云分割装置包括:获取预测模块410、降采样模块420、预测模块430、更新模块440和处理模块450。
获取预测模块410,用于获取待分割图像,通过预测器对所述待分割图像进行点云分割,获取原始点云分割结果。
降采样模块420,用于对所述待分割图像进行降采样,获取低分辨率图像特征。
预测模块430,用于通过所述预测器对所述低分辨率图像特征进行点云分割,获取低分辨率点云分割结果。
更新模块440,用于对所述低分辨率点云分割结果进行上采样的优化更新处理,获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
处理模块450,用于将所述原始点云分割结果和所述目标点云分割结果进行融合处理,并输出点云分割结果。
在本申请实施例中,更新模块,包括:插值单元,用于分别对所述低分辨率图像特征和所述低分辨率点云分割结果进行插值处理,获取中间分辨率图像特征和中间分辨率点云分割结果;第一获取单元,用于从所述中间分辨率图像特征中,获取不确定图像特征;第二获取单元,用于获取所述不确定图像特征对应的不确定预测结果;处理单元,用于将所述中间分辨率点云分割结果、所述不确定预测结果和从所述原始点云分割结果获取的预测结果进行拼接后输入所述预测期,获取更新预测结果,将所述更新预测结果替换所述低分辨率点云分割结果,直到获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
在本申请实施例中,所述第一获取单元,具体用于:获取所述中间分辨率图像特征中每个特征点对应的置信概率;根据所述每个特征点对应的置信概率与预设类别概率的差值与阈值比较,确定不确定特征点,根据所述不确定特征点获取所述不确定图像特征。
在本申请实施例中,所述的装置,还包括:预测获取模块,用于通过第一预设器预测低分辨率点云分割训练结果,将所述低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起,用第二预测器将所有点重新预测一遍,获取重新预测结果;生成模块,用于将所述低分辨率点云分割训练结果和所述重新预测结果分别与真实标签计算交叉熵损失函数,用梯度下降算法进行训练,生成所述预测器。
在本申请的一个实施例中,所述插值处理的方式为三近邻插值或最近邻插值。
本申请实施例的基于多分辨率融合的点云分割装置,通过获取待分割图像,通过预测器对待分割图像进行点云分割,获取原始点云分割结果;对待分割图像进行降采样,获取低分辨率图像特征;通过预测器对低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;对低分辨率点云分割结果进行上采样的优化更新处理,获取与原始点云分割结果相同分辨率的目标点云分割结果,并将原始点云分割结果和目标点云分割结果进行融合处理,并输出点云分割结果。由此,解决现有点云分割框架中,将低分辨率点云直接用于分割结果的预测,并将其上采样到最高分辨率,与原本的分割结果进行融合,得到最终的预测,提高点云分割准确性。
需要说明的是,前述对基于多分辨率融合的点云分割方法实施例的解释说明也适用于该实施例的基于多分辨率融合的点云分割装置,此处不再赘述。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本申请各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (10)
1.一种基于多分辨率融合的点云分割方法,其特征在于,包括以下步骤:
获取待分割图像,通过预测器对所述待分割图像进行点云分割,获取原始点云分割结果;
对所述待分割图像进行降采样,获取低分辨率图像特征;
通过所述预测器对所述低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;
对所述低分辨率点云分割结果进行上采样的优化更新处理,获取与所述原始点云分割结果相同分辨率的目标点云分割结果,并将所述原始点云分割结果和所述目标点云分割结果进行融合处理,并输出点云分割结果。
2.如权利要求1所述的方法,其特征在于,所述对所述低分辨率点云分割结果进行上采样的优化更新处理,获取与所述原始点云分割结果相同分辨率的目标点云分割结果,包括:
分别对所述低分辨率图像特征和所述低分辨率点云分割结果进行插值处理,获取中间分辨率图像特征和中间分辨率点云分割结果;
从所述中间分辨率图像特征中,获取不确定图像特征,并获取所述不确定图像特征对应的不确定预测结果;
将所述中间分辨率点云分割结果、所述不确定预测结果和从所述原始点云分割结果获取的预测结果进行拼接后输入所述预测期,获取更新预测结果,将所述更新预测结果替换所述低分辨率点云分割结果,直到获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
3.如权利要求2所述的方法,其特征在于,所述从所述中间分辨率图像特征中,获取不确定图像特征,包括:
获取所述中间分辨率图像特征中每个特征点对应的置信概率;
根据所述每个特征点对应的置信概率与预设类别概率的差值与阈值比较,确定不确定特征点,根据所述不确定特征点获取所述不确定图像特征。
4.如权利要求1所述的方法,其特征在于,还包括:
通过第一预设器预测低分辨率点云分割训练结果,将所述低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起,用第二预测器将所有点重新预测一遍,获取重新预测结果;
将所述低分辨率点云分割训练结果和所述重新预测结果分别与真实标签计算交叉熵损失函数,用梯度下降算法进行训练,生成所述预测器。
5.如权利要求2所述的方法,其特征在于,
所述插值处理的方式为三近邻插值或最近邻插值。
6.一种基于多分辨率融合的点云分割装置,其特征在于,包括:
获取预测模块,用于获取待分割图像,通过预测器对所述待分割图像进行点云分割,获取原始点云分割结果;
降采样模块,用于对所述待分割图像进行降采样,获取低分辨率图像特征;
预测模块,用于通过所述预测器对所述低分辨率图像特征进行点云分割,获取低分辨率点云分割结果;
更新模块,用于对所述低分辨率点云分割结果进行上采样的优化更新处理,获取与所述原始点云分割结果相同分辨率的目标点云分割结果;
处理模块,用于将所述原始点云分割结果和所述目标点云分割结果进行融合处理,并输出点云分割结果。
7.如权利要求5所述的装置,其特征在于,所述更新模块,包括:
插值单元,用于分别对所述低分辨率图像特征和所述低分辨率点云分割结果进行插值处理,获取中间分辨率图像特征和中间分辨率点云分割结果;
第一获取单元,用于从所述中间分辨率图像特征中,获取不确定图像特征;
第二获取单元,用于获取所述不确定图像特征对应的不确定预测结果;
处理单元,用于将所述中间分辨率点云分割结果、所述不确定预测结果和从所述原始点云分割结果获取的预测结果进行拼接后输入所述预测期,获取更新预测结果,将所述更新预测结果替换所述低分辨率点云分割结果,直到获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
8.如权利要求6所述的装置,其特征在于,所述第一获取单元,具体用于:
获取所述中间分辨率图像特征中每个特征点对应的置信概率;
根据所述每个特征点对应的置信概率与预设类别概率的差值与阈值比较,确定不确定特征点,根据所述不确定特征点获取所述不确定图像特征。
9.如权利要求6所述的装置,其特征在于,还包括:
预测获取模块,用于通过第一预设器预测低分辨率点云分割训练结果,将所述低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起,用第二预测器将所有点重新预测一遍,获取重新预测结果;
生成模块,用于将所述低分辨率点云分割训练结果和所述重新预测结果分别与真实标签计算交叉熵损失函数,用梯度下降算法进行训练,生成所述预测器。
10.如权利要求7所述的装置,其特征在于,
所述插值处理的方式为三近邻插值或最近邻插值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110024480.5A CN113516662B (zh) | 2021-01-08 | 2021-01-08 | 基于多分辨率融合的点云分割方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110024480.5A CN113516662B (zh) | 2021-01-08 | 2021-01-08 | 基于多分辨率融合的点云分割方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113516662A true CN113516662A (zh) | 2021-10-19 |
CN113516662B CN113516662B (zh) | 2024-07-16 |
Family
ID=78060876
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110024480.5A Active CN113516662B (zh) | 2021-01-08 | 2021-01-08 | 基于多分辨率融合的点云分割方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113516662B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115393533A (zh) * | 2022-10-27 | 2022-11-25 | 科大讯飞股份有限公司 | 一种三维点云构建方法、装置、电子设备及存储介质 |
CN116612146A (zh) * | 2023-07-11 | 2023-08-18 | 淘宝(中国)软件有限公司 | 图像处理方法、装置、电子设备以及计算机存储介质 |
CN117496309A (zh) * | 2024-01-03 | 2024-02-02 | 华中科技大学 | 建筑场景点云分割不确定性评估方法、系统及电子设备 |
WO2024202718A1 (ja) * | 2023-03-30 | 2024-10-03 | ソニーグループ株式会社 | 情報処理方法、情報処理装置およびプログラム |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180061091A1 (en) * | 2016-08-31 | 2018-03-01 | International Business Machines Corporation | Anatomy segmentation through low-resolution multi-atlas label fusion and corrective learning |
US20190108639A1 (en) * | 2017-10-09 | 2019-04-11 | The Board Of Trustees Of The Leland Stanford Junior University | Systems and Methods for Semantic Segmentation of 3D Point Clouds |
CN110276354A (zh) * | 2019-05-27 | 2019-09-24 | 东南大学 | 一种高分辨率街景图片语义分割训练与实时分割方法 |
US20190392267A1 (en) * | 2018-06-20 | 2019-12-26 | International Business Machines Corporation | Framework for integrating deformable modeling with 3d deep neural network segmentation |
CN111144242A (zh) * | 2019-12-13 | 2020-05-12 | 中国科学院深圳先进技术研究院 | 一种三维目标检测方法、装置及终端 |
CN111476242A (zh) * | 2020-03-31 | 2020-07-31 | 北京经纬恒润科技有限公司 | 一种激光点云语义分割方法及装置 |
CN111582105A (zh) * | 2020-04-28 | 2020-08-25 | 清华大学 | 基于局部全局双向推理的无监督点云特征学习方法及装置 |
CN111709343A (zh) * | 2020-06-09 | 2020-09-25 | 广州文远知行科技有限公司 | 一种点云检测方法、装置、计算机设备和存储介质 |
CN112150595A (zh) * | 2020-09-21 | 2020-12-29 | 广东博智林机器人有限公司 | 一种点云数据处理方法、装置、设备及介质 |
-
2021
- 2021-01-08 CN CN202110024480.5A patent/CN113516662B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180061091A1 (en) * | 2016-08-31 | 2018-03-01 | International Business Machines Corporation | Anatomy segmentation through low-resolution multi-atlas label fusion and corrective learning |
US20190108639A1 (en) * | 2017-10-09 | 2019-04-11 | The Board Of Trustees Of The Leland Stanford Junior University | Systems and Methods for Semantic Segmentation of 3D Point Clouds |
US20190392267A1 (en) * | 2018-06-20 | 2019-12-26 | International Business Machines Corporation | Framework for integrating deformable modeling with 3d deep neural network segmentation |
CN110276354A (zh) * | 2019-05-27 | 2019-09-24 | 东南大学 | 一种高分辨率街景图片语义分割训练与实时分割方法 |
CN111144242A (zh) * | 2019-12-13 | 2020-05-12 | 中国科学院深圳先进技术研究院 | 一种三维目标检测方法、装置及终端 |
CN111476242A (zh) * | 2020-03-31 | 2020-07-31 | 北京经纬恒润科技有限公司 | 一种激光点云语义分割方法及装置 |
CN111582105A (zh) * | 2020-04-28 | 2020-08-25 | 清华大学 | 基于局部全局双向推理的无监督点云特征学习方法及装置 |
CN111709343A (zh) * | 2020-06-09 | 2020-09-25 | 广州文远知行科技有限公司 | 一种点云检测方法、装置、计算机设备和存储介质 |
CN112150595A (zh) * | 2020-09-21 | 2020-12-29 | 广东博智林机器人有限公司 | 一种点云数据处理方法、装置、设备及介质 |
Non-Patent Citations (2)
Title |
---|
YEN-HUANG CHIANG等: "Fast Multi-Resolution Spatial Clustering for 3D Point Cloud Data", 2019 IEEE INTERNATIONAL CONFERENCE ON SYSTEMS, MAN AND CYBERNETICS (SMC), 9 October 2019 (2019-10-09), pages 1678 - 1683, XP033668020, DOI: 10.1109/SMC.2019.8914538 * |
YU ZHENG等: "PointRas: Uncertainty-Aware Multi-Resolution Learning for Point Cloud Segmentation", IEEE TRANSACTIONS ON IMAGE PROCESSING, 5 October 2022 (2022-10-05), pages 6002 - 6016 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115393533A (zh) * | 2022-10-27 | 2022-11-25 | 科大讯飞股份有限公司 | 一种三维点云构建方法、装置、电子设备及存储介质 |
WO2024202718A1 (ja) * | 2023-03-30 | 2024-10-03 | ソニーグループ株式会社 | 情報処理方法、情報処理装置およびプログラム |
CN116612146A (zh) * | 2023-07-11 | 2023-08-18 | 淘宝(中国)软件有限公司 | 图像处理方法、装置、电子设备以及计算机存储介质 |
CN116612146B (zh) * | 2023-07-11 | 2023-11-17 | 淘宝(中国)软件有限公司 | 图像处理方法、装置、电子设备以及计算机存储介质 |
CN117496309A (zh) * | 2024-01-03 | 2024-02-02 | 华中科技大学 | 建筑场景点云分割不确定性评估方法、系统及电子设备 |
CN117496309B (zh) * | 2024-01-03 | 2024-03-26 | 华中科技大学 | 建筑场景点云分割不确定性评估方法、系统及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN113516662B (zh) | 2024-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113516662B (zh) | 基于多分辨率融合的点云分割方法和装置 | |
CN110837811B (zh) | 语义分割网络结构的生成方法、装置、设备及存储介质 | |
CN111461106A (zh) | 基于可重配置网络的对象检测方法及装置 | |
CN110738200A (zh) | 车道线3d点云地图构建方法、电子设备及存储介质 | |
CN115273022A (zh) | 车辆的鸟瞰图生成方法、装置、车辆及存储介质 | |
CN116484971A (zh) | 车辆的自动驾驶感知自学习方法、装置及电子设备 | |
CN116645592B (zh) | 一种基于图像处理的裂缝检测方法和存储介质 | |
CN115147598A (zh) | 目标检测分割方法、装置、智能终端及存储介质 | |
CN117237648B (zh) | 基于上下文感知的语义分割模型的训练方法、装置和设备 | |
CN113763447B (zh) | 深度图的补全方法、电子设备及存储介质 | |
CN113505834A (zh) | 训练检测模型、确定图像更新信息和更新高精地图的方法 | |
CN114120260B (zh) | 可行驶区域识别方法及其系统、计算机设备、存储介质 | |
CN113158856A (zh) | 一种提取遥感图像中目标区域的处理方法和装置 | |
CN112749293A (zh) | 一种图像分类方法、装置及存储介质 | |
CN113470048B (zh) | 场景分割方法、装置、设备及计算机可读存储介质 | |
CN113066165B (zh) | 多阶段无监督学习的三维重建方法、装置和电子设备 | |
CN113514053A (zh) | 生成样本图像对的方法、装置和更新高精地图的方法 | |
CN111435086B (zh) | 基于拼接图的导航方法和装置 | |
CN116758301B (zh) | 一种图像处理方法以及相关设备 | |
CN114898366B (zh) | 一种稀疏点云抽稀方法、装置及存储介质 | |
EP4379605A1 (en) | Method for detection of map deviations, system and vehicle | |
CN113420641B (zh) | 图像数据处理方法、装置、电子设备和存储介质 | |
CN113420770B (zh) | 图像数据处理方法、装置、电子设备和存储介质 | |
CN116994145B (zh) | 车道线变化点的识别方法、装置、存储介质及计算机设备 | |
CN116894954A (zh) | 场景分割方法、装置和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |