CN114693932A - 一种大型飞机大部件点云语义分割方法 - Google Patents

一种大型飞机大部件点云语义分割方法 Download PDF

Info

Publication number
CN114693932A
CN114693932A CN202210354429.5A CN202210354429A CN114693932A CN 114693932 A CN114693932 A CN 114693932A CN 202210354429 A CN202210354429 A CN 202210354429A CN 114693932 A CN114693932 A CN 114693932A
Authority
CN
China
Prior art keywords
point cloud
convolution module
scale
kernel
walking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210354429.5A
Other languages
English (en)
Other versions
CN114693932B (zh
Inventor
魏明强
仇静博
郭向林
李新
马梦姣
陈志磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN202210354429.5A priority Critical patent/CN114693932B/zh
Publication of CN114693932A publication Critical patent/CN114693932A/zh
Application granted granted Critical
Publication of CN114693932B publication Critical patent/CN114693932B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种大型飞机大部件点云语义分割方法,包括:获取大型飞机的整机实测点云数据,进行k近邻图建模,得到k近邻图;构建金字塔动态图卷积网络,通过k近邻图对金字塔动态图卷积网络中的每一个游走核卷积模块进行多尺度的二阶随机游走采样,结合高斯混合模型进行Fisher向量编码,得到多尺度图的统一特征编码表示;将实测点云数据输入金字塔动态图卷积网络中,进行多尺度点云特征提取,依次将高尺度点云特征插回低尺度点云特征中,再进行点云特征转换,将点云特征转换为飞机大部件语义分割结果。本发明方法实现了精准大规模点云语义分割。

Description

一种大型飞机大部件点云语义分割方法
技术领域
本发明涉及三维点云模型检测领域,具体地,涉及一种大型飞机大部件点云语义分割方法。
背景技术
外形分析是大型飞机加工装配与入场维护中必不可少的一环,由于大型分级壁板本身的弱刚性和保形工装设计问题,导致大尺寸薄壁件放在保形工装上加工时,对接边缘会出现形变。过大形变会造成大型飞机蒙皮无规律的起伏,即机体表面出现波纹现象。过大形变如果在机头空速管附近,这将直接影响静压探头附近的流场,造成静压探头测得的高度、压力等数据出现偏差,当波纹较严重时,将影响数据的准确性,造成飞行员误判,影响飞行安全,因此,需要对大型飞机的外形形变进行分析。
大型飞机点云数据规模可达亿万级,且具有无序性的特点,导致难以利用体素或投影等规则化方法表示与学习。大型飞机大部件几何特征在点云表示中尺度变化范围较大,现有点云语义分割网络受限于邻域特征表示形式,难以捕捉大范围长距离的语义依赖关系。
发明内容
针对现有技术中存在的问题,本发明提供一种大型飞机大部件点云语义分割方法,利用Fisher向量编码在多尺度随机游走域对点云几何特征进行有效表示,以层次化特征提取及更新策略设计金字塔型动态图卷积网络,实现精准大规模点云语义分割。
为实现上述技术目的,本发明采取的技术方案为:一种大型飞机大部件点云语义分割方法,包括以下步骤:
S1、获取大型飞机的整机实测点云数据;
S2、将步骤S1获取的整机实测点云数据进行k近邻图建模,得到k近邻图;
S3、构建金字塔动态图卷积网络,通过k近邻图对所述金字塔动态图卷积网络中的每一个游走核卷积模块进行多尺度的二阶随机游走采样,结合高斯混合模型进行Fisher向量编码,得到多尺度图的统一特征编码表示;
S4、将步骤S1获取的实测点云数据输入金字塔动态图卷积网络中,进行多尺度点云特征提取,依次将高尺度点云特征插回低尺度点云特征中,再进行点云特征转换,将点云特征转换为飞机大部件语义分割结果。
进一步地,步骤S1包括如下子步骤:
S101、利用LeicaATS960绝对跟踪仪从大型飞机周边的多个站点采集激光点云数据;
S102、使用点云拼接技术将采集的激光点云数据拼接成整机实测点云数据。
进一步地,步骤S2包括如下子步骤:
S201、使用KdTree算法计算整机实测点云数据中任意两点的高斯距离,并将高斯距离作为两点之间的连边权重;
S202、选取每个点的k近邻点作为k近邻图的顶点,将两个点之间的连边作为k近邻图中的边,从而进行k近邻图建模,得到k近邻图。
进一步地,所述金字塔动态图卷积网络包括:空间变换模块、第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块、第四游走核卷积模块、第五游走核卷积模块、第六游走核卷积模块、第一多层感知机、第二多层感知机、第三多层感知机、第四多层感知机组成,所述空间变换模块与第一游走核卷积模块连接,所述第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块串联,所述第一游走核卷积模块的输出、第二游走核卷积模块的输出、第三游走核卷积模块的输出经跳跃连接、拼接后与第一多层感知机连接;所述第一游走核卷积模块通过图池化与第四游走核卷积模块连接,所述第四游走核卷积模块、第五游走核卷积模块串联,所述第一游走核卷积模块的图池化输出、第四游走核卷积模块、第五游走核卷积模块的输出经跳跃连接、拼接后与第二多层感知机连接;所述第四游走核卷积模块通过图池化与第六游走核卷积模块连接,所述第四游走核卷积模块的图池化输出与第六游走核卷积模块的输出经跳跃连接、拼接后与第三多层感知机连接;所述第三多层感知机、第二多层感知机、第一多层感知机串联,所述第一多层感知机与第四多层感知机连接。
进一步地,所述第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块、第四游走核卷积模块、第五游走核卷积模块、第六游走核卷积模块均进行多尺度的二阶随机游走采样,结合高斯混合模型进行Fisher向量编码,得到多尺度图的统一特征编码表示,具体过程如下:
S301、采用超参数(p,q)引导二阶随机游走,对于k近邻图中任意两个顶点v,x设置未归一化转移概率
Figure BDA0003582242920000021
其随机游走场
Figure BDA0003582242920000022
进行多个尺度的随机游动t=1,2,…,T,获得多个尺度的邻域信息;
其中,p为调节广度优先遍历的超参数,q为调节深度优先遍历的超参数,
Figure BDA0003582242920000023
为顶点v与x间的静态边权重,Z为归一化常数,E为k近邻图中边的集合,αpq(v,x)为顶点v与x间的动态权重调整因子,
Figure BDA0003582242920000031
lv,x表示顶点v和x之间的随机游动跳跃的步数,T为感受野的尺度数;
S302、设置每次随机游动中采样个数的待求参数,对每个尺度的邻域信息采用多个高斯模型进行建模,得到高斯混合模型:
Figure BDA0003582242920000032
其中,
Figure BDA0003582242920000033
表示以vj为初始顶点、长度为t的第k条游走路径,
Figure BDA0003582242920000034
表示第
Figure BDA0003582242920000035
条游走路径上所有特征的集合,d(t+1)表示
Figure BDA0003582242920000036
的特征维度,λt={(ωt,c,μt,c,∑t,c)|c=1,…,C}表示C组待求参数的集合,ωt,c表示第c个随机游动中采样个数的混合权重,μt,c表示第c个随机游动中采样个数的均值,∑t,c表示第c个随机游动中采样个数的对角协方差矩阵,
Figure BDA0003582242920000037
σt,c为第c个随机游动中采样个数的协方差,diag(σt,c)为σt,c的对角化;
S303、根据最大似然估计法,获取高斯混合模型的似然函数,分别将待求参数输入似然函数中使用梯度下降法对待求参数进行优化,直至梯度不再下降,将所有与待求参数有关的梯度结果级联,作为多尺度游走域上的多个Fisher向量编码;
S304、将多个Fisher向量编码通过随机游动中采样样本大小进行归一化,然后将每个顶点的多个Fisher向量编码进行拼接,通过多级由1×1卷积、正则化层和线性整流层线性组合的模块,将多个Fisher向量编码映射到更为紧凑的特征空间中。
进一步地,步骤S4包括如下子步骤:
S401、将步骤S1获取的实测点云数据输入金字塔动态图卷积网络中,经过空间变换模块后得到旋转点云,将旋转点云输入串联的第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积中,输出维度均为64的游走核卷积提取特征
Figure BDA0003582242920000038
并使用跳跃连接将输出维度均为64的游走核卷积提取特征进行特征拼接
Figure BDA0003582242920000039
作为低尺度特征,其中,i表示游走核卷积模块的编号,取1、2、3,
Figure BDA00035822429200000310
为第i个游走核卷积,n为输入的实测点云数据量,
Figure BDA00035822429200000311
为输出维度均为64的游走核卷积提取特征使用跳跃连接后聚合的特征,
Figure BDA00035822429200000312
为拼接操作;
S402、将第一游走核卷积模块输出的游走核卷积提取特征
Figure BDA0003582242920000041
采用图池化降低通道特征分辨率,将n个实测点云数量减少为m个,再输入至串联的第四游走核卷积模块、第五游走核卷积模块中,输出维度均为128的游走核卷积提取特征
Figure BDA0003582242920000042
并将第一游走核卷积模块经图池化的输出、第四游走核卷积模块的输出、第五游走核卷积模块的输出使用跳跃连接后拼接的特征
Figure BDA0003582242920000043
作为中尺度特征,其中,i取4、5,pool()为图池化;
S403、将第四游走核卷积模块输出的游走核卷积提取特征
Figure BDA0003582242920000044
再次进行图池化降低通道特征分辨率,将m个点云数据减少至q个,再输入至第六游走核卷积模块中,输出维度为256的游走核卷积提取特征
Figure BDA0003582242920000045
并将第四游走核卷积模块经图池化的输出、第六游走核卷积模块的输出使用跳跃连接后拼接的特征
Figure BDA0003582242920000046
作为高尺度特征,其中,i取6;
S404、将高尺度特征通过第一多层感知机对每个点进行特征编码,经插值操作,插回至中尺度特征中;将插回的中尺度特征通过第二多层感知机对每个点进行特征编码,经插值操作,插回至低尺度特征中,将插回的低尺度特征通过第三多层感知机对每个点进行特征编码:
Figure BDA0003582242920000047
其中,inter为插值操作,mlp256()为输出维度为256的第一多层感知机,mlp128()为输出维度为128的第二多层感知机,mlp512()为输出维度为512的第一多层感知机,f′n×512为高尺度特征插回低尺度后的特征编码;
S405、基于两层点共享权重的第四多层感知机转换点云特征,将点云特征转换为飞机大部件语义分割结果Pren×seg=mlp256(mlpseg(f′n×512)),其中,seg为类别数。
进一步地,所述飞机大部件包括:机头、机身、机翼、平尾、垂尾。
与现有相比,本发明具有如下有益效果:本发明大型飞机大部件点云语义分割方法在k近邻图建模的基础上提出利用Fisher向量编码在多尺度随机游走域对点云几何特征进行有效表示,可以自适应的确定感受野的大小,同时增强远距离的依赖关系与多尺度随机游动的拓扑信息的捕捉能力;采用图金字塔动态图卷积网络,可以层次化提取特征,在充分挖掘高维度抽象特征的基础上保留低维度细节信息,最后使用两个共享权重的全连接层提升特征的保真度,对特征进行优化,实现精准大规模点云语义分割。
附图说明
图1是本发明大型飞机大部件点云语义分割方法的流程图;
图2为金字塔动态图卷积网络中游走核卷积模块基于多尺度随机游走和Fisher向量编码的游走核卷积示意图;
图3为本发明中金字塔动态图卷积网络的结构图;
图4为大型飞机大部件点云语义分割数据图。
具体实施方式
下面结合附图对本发明的技术方案作进一步地解释说明。
如图1为本发明大型飞机大部件点云语义分割方法的流程图,该大型飞机大部件点云语义分割方法具体包括如下步骤:
S1、获取大型飞机的整机实测点云数据;具体包括如下子步骤:
S101、利用LeicaATS960绝对跟踪仪从大型飞机周边的多个站点采集激光点云数据;
S102、使用点云拼接技术将采集的激光点云数据拼接成整机实测点云数据。
S2、将步骤S1获取的整机实测点云数据进行k近邻图建模,得到k近邻图,使用k近邻方式可以在大规模点云上快速建图,高效地得到点云邻域图;具体包括如下子步骤:
S201、使用KdTree算法计算整机实测点云数据中任意两点的高斯距离,并将高斯距离作为两点之间的连边权重;
S202、选取每个点的k近邻点作为k近邻图的顶点,将两个点之间的连边作为k近邻图中的边,从而进行k近邻图建模,得到k近邻图。
S3、构建金字塔动态图卷积网络,如图3,本发明中金字塔动态图卷积网络包括:空间变换模块、第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块、第四游走核卷积模块、第五游走核卷积模块、第六游走核卷积模块、第一多层感知机、第二多层感知机、第三多层感知机、第四多层感知机组成,空间变换模块与第一游走核卷积模块连接,第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块串联,第一游走核卷积模块的输出、第二游走核卷积模块的输出、第三游走核卷积模块的输出经跳跃连接、拼接后与第一多层感知机连接;第一游走核卷积模块通过图池化与第四游走核卷积模块连接,第四游走核卷积模块、第五游走核卷积模块串联,第一游走核卷积模块的图池化输出、第四游走核卷积模块、第五游走核卷积模块的输出经跳跃连接、拼接后与第二多层感知机连接;第四游走核卷积模块通过图池化与第六游走核卷积模块连接,第四游走核卷积模块的图池化输出与第六游走核卷积模块的输出经跳跃连接、拼接后与第三多层感知机连接;第三多层感知机、第二多层感知机、第一多层感知机串联,第一多层感知机与第四多层感知机连接。构建金字塔动态图卷积网络可以有效构建不同尺度的高级语义特征图,减少不同尺度输入下语义特征信息的差异,增强语义分割模型的鲁棒性。由于金字塔动态图卷积网络的特征表示能力受限于现有的邻域搜索策略和特征表示方法,难以捕捉大规模点云中不同尺度范围的点云几何拓扑结构,为了在更大局部感受野内获取丰富的点云拓扑信息,本发明中第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块、第四游走核卷积模块、第五游走核卷积模块、第六游走核卷积模块均通过k近邻图对所述金字塔动态图卷积网络中的每一个游走核卷积模块进行多尺度的二阶随机游走采样,结合高斯混合模型进行Fisher向量编码,得到多尺度图的统一特征编码表示;如图2,具体过程如下:
S301、采用超参数(p,q)引导二阶随机游走,使用p,q实现在广度优先遍历和深度优先遍历邻域子图采样策略之间的平衡,对于k近邻图中任意两个顶点v,x设置未归一化转移概率
Figure BDA0003582242920000061
其随机游走场
Figure BDA0003582242920000062
进行多个尺度的随机游动t=1,2,…,T,获得多个尺度的邻域信息;小尺度邻域信息使网络关注细节区域,对连接处进行精细的分类分割;大尺度邻域包含更多部件信息,提取出的高维特征有益于大部件整体的识别;同时,将多个尺度的邻域信息相结合可以适应点云不同种类部件的情况,增强了网络的鲁棒性。
其中,p为调节广度优先遍历的超参数,q为调节深度优先遍历的超参数,
Figure BDA0003582242920000063
为顶点v与x间的静态边权重,Z为归一化常数,E为k近邻图中边的集合,αpq(v,x)为顶点v与x间的动态权重调整因子,
Figure BDA0003582242920000064
lv,x表示顶点v和x之间的随机游动跳跃的步数,T为感受野的尺度数;
S302、设置每次随机游动中采样个数的待求参数,对每个尺度的邻域信息采用多个高斯模型进行建模,得到高斯混合模型:
Figure BDA0003582242920000065
其中,
Figure BDA0003582242920000066
表示以vj为初始顶点、长度为t的第k条游走路径,
Figure BDA0003582242920000067
表示第
Figure BDA0003582242920000068
条游走路径上所有特征的集合,d(t+1)表示
Figure BDA0003582242920000069
的特征维度,λt={(ωt,c,μt,c,∑t,c)|c=1,…,C}表示X组待求参数的集合,ωt,c表示第c个随机游动中采样个数的混合权重,μt,c表示第c个随机游动中采样个数的均值,∑t,c表示第c个随机游动中采样个数的对角协方差矩阵,,
Figure BDA00035822429200000610
,σt,c为第c个随机游动中采样个数的协方差,diag(σt,c)为σt,c的对角化;
S303、根据最大似然估计法,获取高斯混合模型的似然函数,分别将待求参数输入似然函数中使用梯度下降法对待求参数进行优化,直至梯度不再下降,将所有与待求参数有关的梯度结果级联,作为多尺度游走域上的多个Fisher向量编码;图卷积网络的特征表示能力受限于特征表示方法,难以捕捉大规模点云的几何拓扑结构,使用Fisher向量编码方式可以对丰富的子图结构进行统一化的表征,在提取特征的同时保证卷积神经网络的可使用性。
S304、将多个Fisher向量编码通过随机游动中采样样本大小进行归一化,然后将每个顶点的多个Fisher向量编码进行拼接,通过多级由1×1卷积、正则化层和线性整流层线性组合的模块,将多个Fisher向量编码映射到更为紧凑的特征空间中,避免冗余,减少网络参数量,与此同时提高网络提取特征的效率。
S4、将步骤S1获取的实测点云数据输入金字塔动态图卷积网络中,进行多尺度点云特征提取,依次将高尺度点云特征插回低尺度点云特征中,再进行点云特征转换,将点云特征转换为飞机大部件语义分割结果;具体包括如下子步骤:
S401、将步骤S1获取的实测点云数据输入金字塔动态图卷积网络中,经过空间变换模块后得到旋转点云,将旋转点云输入串联的第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积中,输出维度均为64的游走核卷积提取特征
Figure BDA0003582242920000071
并使用跳跃连接将输出维度均为64的游走核卷积提取特征进行特征拼接
Figure BDA0003582242920000072
作为低尺度特征,其中,i表示游走核卷积模块的编号,取1、2、3,
Figure BDA0003582242920000073
为第i个游走核卷积,n为输入的实测点云数据量,
Figure BDA0003582242920000074
为输出维度均为64的游走核卷积提取特征使用跳跃连接后聚合的特征,
Figure BDA0003582242920000075
为拼接操作;
S402、将第一游走核卷积模块输出的游走核卷积提取特征
Figure BDA0003582242920000076
采用图池化降低通道特征分辨率,将n个实测点云数量减少为m个,再输入至串联的第四游走核卷积模块、第五游走核卷积模块中,输出维度均为128的游走核卷积提取特征
Figure BDA0003582242920000077
并将第一游走核卷积模块经图池化的输出、第四游走核卷积模块的输出、第五游走核卷积模块的输出使用跳跃连接后拼接的特征
Figure BDA0003582242920000078
作为中尺度特征,其中,i取4、5,pool()为图池化;
S403、将第四游走核卷积模块输出的游走核卷积提取特征
Figure BDA0003582242920000079
再次进行图池化降低通道特征分辨率,将m个点云数据减少至q个,再输入至第六游走核卷积模块中,输出维度为256的游走核卷积提取特征
Figure BDA00035822429200000710
并将第四游走核卷积模块经图池化的输出、第六游走核卷积模块的输出使用跳跃连接后拼接的特征
Figure BDA0003582242920000081
作为高尺度特征,其中,i取6;
S404、将高尺度特征通过第一多层感知机对每个点进行特征编码,经插值操作,插回至中尺度特征中;将插回的中尺度特征通过第二多层感知机对每个点进行特征编码,经插值操作,插回至低尺度特征中,将插回的低尺度特征通过第三多层感知机对每个点进行特征编码:
Figure BDA0003582242920000082
通过以上操作,可以将提取的高维语义信息与低级语义信息相融合,兼顾全局信息与局部细节,提升网络的鲁棒性与精确性。
其中,inter为插值操作,mlp256()为输出维度为256的第一多层感知机,mlp128()为输出维度为128的第二多层感知机,mlp512()为输出维度为512的第一多层感知机,f′n×512为高尺度特征插回低尺度后的特征编码;
S405、基于两层点共享权重的第四多层感知机转换点云特征,将点云特征转换为飞机大部件语义分割结果Pren×seg=mlp256(mlpseg(f′n×512)),其中,seg为类别数;本发明中飞机大部件包括:机头、机身、机翼、平尾、垂尾。
对经过空间转换后的实测点云数据,采用游走核卷积提取低尺度语义特征信息;同时,采用图池化和游走核卷积分别来降低通道特征的分辨率和提取更高尺度特征信息;以此迭代处理多次,从而提取到多尺度点云语义特征信息。在点云数据相同的网络层,使用跳跃连接来促进相同尺度特征信息传播并避免产生梯度消失或爆炸问题。为了增强每层尺度特征的语义信息并提高模型语义分割的准确性,将高尺度的特征信息插回低尺度的特征信息。最后,基于两层共享权重的连接层来转换点云特征,完成大部件语义分割工作。如图4为大型飞机大部件点云语义分割数据图,通过本发明大型飞机大部件点云语义分割方法实现对大型飞机的机头、机身、机翼、平尾、垂尾的点云单独分离,实现大型飞机外形点云精准分割。
采用本发明大型飞机大部件点云语义分割方法分割出的机头、机身、机翼、平尾、垂尾可用于大部件几何形变指标分析,用于分析机头波纹度、机翼轮廓度、机身对称度、平尾水平度等指标。
以上仅是本发明的优选实施方式,本发明的保护范围并不仅局限于上述实施方式,凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理前提下的若干改进和润饰,应视为本发明的保护范围。

Claims (7)

1.一种大型飞机大部件点云语义分割方法,其特征在于,包括以下步骤:
S1、获取大型飞机的整机实测点云数据;
S2、将步骤S1获取的整机实测点云数据进行k近邻图建模,得到k近邻图;
S3、构建金字塔动态图卷积网络,通过k近邻图对所述金字塔动态图卷积网络中的每一个游走核卷积模块进行多尺度的二阶随机游走采样,结合高斯混合模型进行Fisher向量编码,得到多尺度图的统一特征编码表示;
S4、将步骤S1获取的实测点云数据输入金字塔动态图卷积网络中,进行多尺度点云特征提取,依次将高尺度点云特征插回低尺度点云特征中,再进行点云特征转换,将点云特征转换为飞机大部件语义分割结果。
2.根据权利要求1所述大型飞机大部件点云语义分割方法,其特征在于,步骤S1包括如下子步骤:
S101、利用LeicaATS960绝对跟踪仪从大型飞机周边的多个站点采集激光点云数据;
S102、使用点云拼接技术将采集的激光点云数据拼接成整机实测点云数据。
3.根据权利要求1所述大型飞机大部件点云语义分割方法,其特征在于,步骤S2包括如下子步骤:
S201、使用KdTree算法计算整机实测点云数据中任意两点的高斯距离,并将高斯距离作为两点之间的连边权重;
S202、选取每个点的k近邻点作为k近邻图的顶点,将两个点之间的连边作为k近邻图中的边,从而进行k近邻图建模,得到k近邻图。
4.根据权利要求1所述大型飞机大部件点云语义分割方法,其特征在于,所述金字塔动态图卷积网络包括:空间变换模块、第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块、第四游走核卷积模块、第五游走核卷积模块、第六游走核卷积模块、第一多层感知机、第二多层感知机、第三多层感知机、第四多层感知机组成,所述空间变换模块与第一游走核卷积模块连接,所述第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块串联,所述第一游走核卷积模块的输出、第二游走核卷积模块的输出、第三游走核卷积模块的输出经跳跃连接、拼接后与第一多层感知机连接;所述第一游走核卷积模块通过图池化与第四游走核卷积模块连接,所述第四游走核卷积模块、第五游走核卷积模块串联,所述第一游走核卷积模块的图池化输出、第四游走核卷积模块、第五游走核卷积模块的输出经跳跃连接、拼接后与第二多层感知机连接;所述第四游走核卷积模块通过图池化与第六游走核卷积模块连接,所述第四游走核卷积模块的图池化输出与第六游走核卷积模块的输出经跳跃连接、拼接后与第三多层感知机连接;所述第三多层感知机、第二多层感知机、第一多层感知机串联,所述第一多层感知机与第四多层感知机连接。
5.根据权利要求4所述大型飞机大部件点云语义分割方法,其特征在于,所述第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积模块、第四游走核卷积模块、第五游走核卷积模块、第六游走核卷积模块均进行多尺度的二阶随机游走采样,结合高斯混合模型进行Fisher向量编码,得到多尺度图的统一特征编码表示,具体过程如下:
S301、采用超参数(p,q)引导二阶随机游走,对于k近邻图中任意两个顶点v,x设置未归一化转移概率
Figure FDA0003582242910000021
其随机游走场
Figure FDA0003582242910000022
进行多个尺度的随机游动t=1,2,...,T,获得多个尺度的邻域信息;
其中,p为调节广度优先遍历的超参数,q为调节深度优先遍历的超参数,
Figure FDA0003582242910000023
为顶点v与x间的静态边权重,Z为归一化常数,E为k近邻图中边的集合,αpq(v,x)为顶点v与x间的动态权重调整因子,
Figure FDA0003582242910000024
lv,x表示顶点v和x之间的随机游动跳跃的步数,T为感受野的尺度数;
S302、设置每次随机游动中采样个数的待求参数,对每个尺度的邻域信息采用多个高斯模型进行建模,得到高斯混合模型:
Figure FDA0003582242910000025
其中,
Figure FDA0003582242910000026
表示以vj为初始顶点、长度为t的第k条游走路径,
Figure FDA0003582242910000027
表示第
Figure FDA0003582242910000028
条游走路径上所有特征的集合,d(t+1)表示
Figure FDA0003582242910000029
的特征维度,λt={(ωt,c,μt,c,∑t,c)|c=1,…,C}表示C组待求参数的集合,ωt,c表示第c个随机游动中采样个数的混合权重,μt,c表示第c个随机游动中采样个数的均值,∑t,c表示第c个随机游动中采样个数的对角协方差矩阵,
Figure FDA00035822429100000210
σt,c为第c个随机游动中采样个数的协方差,diag(σt,c)为σt,c的对角化;
S303、根据最大似然估计法,获取高斯混合模型的似然函数,分别将待求参数输入似然函数中使用梯度下降法对待求参数进行优化,直至梯度不再下降,将所有与待求参数有关的梯度结果级联,作为多尺度游走域上的多个Fisher向量编码;
S304、将多个Fisher向量编码通过随机游动中采样样本大小进行归一化,然后将每个顶点的多个Fisher向量编码进行拼接,通过多级由1×1卷积、正则化层和线性整流层线性组合的模块,将多个Fisher向量编码映射到更为紧凑的特征空间中。
6.根据权利要求1所述大型飞机大部件点云语义分割方法,其特征在于,步骤S4包括如下子步骤:
S401、将步骤S1获取的实测点云数据输入金字塔动态图卷积网络中,经过空间变换模块后得到旋转点云,将旋转点云输入串联的第一游走核卷积模块、第二游走核卷积模块、第三游走核卷积中,输出维度均为64的游走核卷积提取特征
Figure FDA0003582242910000031
并使用跳跃连接将输出维度均为64的游走核卷积提取特征进行特征拼接
Figure FDA0003582242910000032
作为低尺度特征,其中,i表示游走核卷积模块的编号,取1、2、3,
Figure FDA0003582242910000033
为第i个游走核卷积,n为输入的实测点云数据量,
Figure FDA0003582242910000034
为输出维度均为64的游走核卷积提取特征使用跳跃连接后聚合的特征,
Figure FDA0003582242910000035
为拼接操作;
S402、将第一游走核卷积模块输出的游走核卷积提取特征
Figure FDA0003582242910000036
采用图池化降低通道特征分辨率,将n个实测点云数量减少为m个,再输入至串联的第四游走核卷积模块、第五游走核卷积模块中,输出维度均为128的游走核卷积提取特征
Figure FDA0003582242910000037
并将第一游走核卷积模块经图池化的输出、第四游走核卷积模块的输出、第五游走核卷积模块的输出使用跳跃连接后拼接的特征
Figure FDA0003582242910000038
作为中尺度特征,其中,i取4、5,pool()为图池化;
S403、将第四游走核卷积模块输出的游走核卷积提取特征
Figure FDA0003582242910000039
再次进行图池化降低通道特征分辨率,将m个点云数据减少至q个,再输入至第六游走核卷积模块中,输出维度为256的游走核卷积提取特征
Figure FDA00035822429100000310
并将第四游走核卷积模块经图池化的输出、第六游走核卷积模块的输出使用跳跃连接后拼接的特征
Figure FDA00035822429100000311
作为高尺度特征,其中,i取6;
S404、将高尺度特征通过第一多层感知机对每个点进行特征编码,经插值操作,插回至中尺度特征中;将插回的中尺度特征通过第二多层感知机对每个点进行特征编码,经插值操作,插回至低尺度特征中,将插回的低尺度特征通过第三多层感知机对每个点进行特征编码:
Figure FDA00035822429100000312
其中,inter为插值操作,mlp256()为输出维度为256的第一多层感知机,mlp128()为输出维度为128的第二多层感知机,mlp512()为输出维度为512的第一多层感知机,f′n×512为高尺度特征插回低尺度后的特征编码;
S405、基于两层点共享权重的第四多层感知机转换点云特征,将点云特征转换为飞机大部件语义分割结果Pren×seg=mlp256(mlpseg(f′n×512)),其中,seg为类别数。
7.根据权利要求1所述大型飞机大部件点云语义分割方法,其特征在于,所述飞机大部件包括:机头、机身、机翼、平尾、垂尾。
CN202210354429.5A 2022-04-06 2022-04-06 一种大型飞机大部件点云语义分割方法 Active CN114693932B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210354429.5A CN114693932B (zh) 2022-04-06 2022-04-06 一种大型飞机大部件点云语义分割方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210354429.5A CN114693932B (zh) 2022-04-06 2022-04-06 一种大型飞机大部件点云语义分割方法

Publications (2)

Publication Number Publication Date
CN114693932A true CN114693932A (zh) 2022-07-01
CN114693932B CN114693932B (zh) 2023-07-21

Family

ID=82143504

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210354429.5A Active CN114693932B (zh) 2022-04-06 2022-04-06 一种大型飞机大部件点云语义分割方法

Country Status (1)

Country Link
CN (1) CN114693932B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115588090A (zh) * 2022-10-19 2023-01-10 南京航空航天大学深圳研究院 空间关系与特征信息解耦的飞机点云语义提取方法
CN117058366A (zh) * 2023-07-04 2023-11-14 南京航空航天大学 基于预训练大模型的大型飞机大部件点云语义分割方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190108639A1 (en) * 2017-10-09 2019-04-11 The Board Of Trustees Of The Leland Stanford Junior University Systems and Methods for Semantic Segmentation of 3D Point Clouds
CN111027559A (zh) * 2019-10-31 2020-04-17 湖南大学 一种基于扩张点卷积空间金字塔池化的点云语义分割方法
CN111242208A (zh) * 2020-01-08 2020-06-05 深圳大学 一种点云分类方法、分割方法及相关设备
AU2020103901A4 (en) * 2020-12-04 2021-02-11 Chongqing Normal University Image Semantic Segmentation Method Based on Deep Full Convolutional Network and Conditional Random Field
CN112818999A (zh) * 2021-02-10 2021-05-18 桂林电子科技大学 一种基于卷积神经网络的复杂场景3d点云语义分割方法
KR20210106703A (ko) * 2020-02-21 2021-08-31 전남대학교산학협력단 3차원 공간의 의미적 분할 시스템 및 이를 이용한 3차원 공간의 의미적 분할 방법
CN113449736A (zh) * 2021-01-14 2021-09-28 浙江工业大学 一种基于深度学习的摄影测量点云语义分割方法
CN113674403A (zh) * 2021-08-26 2021-11-19 上海交通大学 一种三维点云上采样方法、系统、设备及介质
CN113850304A (zh) * 2021-09-07 2021-12-28 辽宁科技大学 一种高准确率的点云数据分类分割改进算法
CN113989671A (zh) * 2021-10-28 2022-01-28 西安电子科技大学 基于语义感知与动态图卷积的遥感场景分类方法及系统
CN114170410A (zh) * 2021-11-30 2022-03-11 西安理工大学 基于PointNet的图卷积与KNN搜索的点云零件级分割方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190108639A1 (en) * 2017-10-09 2019-04-11 The Board Of Trustees Of The Leland Stanford Junior University Systems and Methods for Semantic Segmentation of 3D Point Clouds
CN111027559A (zh) * 2019-10-31 2020-04-17 湖南大学 一种基于扩张点卷积空间金字塔池化的点云语义分割方法
CN111242208A (zh) * 2020-01-08 2020-06-05 深圳大学 一种点云分类方法、分割方法及相关设备
KR20210106703A (ko) * 2020-02-21 2021-08-31 전남대학교산학협력단 3차원 공간의 의미적 분할 시스템 및 이를 이용한 3차원 공간의 의미적 분할 방법
AU2020103901A4 (en) * 2020-12-04 2021-02-11 Chongqing Normal University Image Semantic Segmentation Method Based on Deep Full Convolutional Network and Conditional Random Field
CN113449736A (zh) * 2021-01-14 2021-09-28 浙江工业大学 一种基于深度学习的摄影测量点云语义分割方法
CN112818999A (zh) * 2021-02-10 2021-05-18 桂林电子科技大学 一种基于卷积神经网络的复杂场景3d点云语义分割方法
CN113674403A (zh) * 2021-08-26 2021-11-19 上海交通大学 一种三维点云上采样方法、系统、设备及介质
CN113850304A (zh) * 2021-09-07 2021-12-28 辽宁科技大学 一种高准确率的点云数据分类分割改进算法
CN113989671A (zh) * 2021-10-28 2022-01-28 西安电子科技大学 基于语义感知与动态图卷积的遥感场景分类方法及系统
CN114170410A (zh) * 2021-11-30 2022-03-11 西安理工大学 基于PointNet的图卷积与KNN搜索的点云零件级分割方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
朱威;绳荣金;汤如;何德峰;: "基于动态图卷积和空间金字塔池化的点云深度学习网络", 计算机科学, vol. 47, no. 07, pages 192 - 198 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115588090A (zh) * 2022-10-19 2023-01-10 南京航空航天大学深圳研究院 空间关系与特征信息解耦的飞机点云语义提取方法
CN115588090B (zh) * 2022-10-19 2023-09-19 南京航空航天大学深圳研究院 空间关系与特征信息解耦的飞机点云语义提取方法
CN117058366A (zh) * 2023-07-04 2023-11-14 南京航空航天大学 基于预训练大模型的大型飞机大部件点云语义分割方法
CN117058366B (zh) * 2023-07-04 2024-03-01 南京航空航天大学 基于预训练大模型的大型飞机大部件点云语义分割方法

Also Published As

Publication number Publication date
CN114693932B (zh) 2023-07-21

Similar Documents

Publication Publication Date Title
CN109034376B (zh) 一种基于lstm的无人机飞行状态预测方法及系统
Rauch et al. Maximum likelihood estimates of linear dynamic systems
CN112083498B (zh) 一种基于深度神经网络的多波地震油气储层预测方法
CN112651437B (zh) 一种基于深度学习的空间非合作目标位姿估计方法
CN114693932B (zh) 一种大型飞机大部件点云语义分割方法
CN108805350B (zh) 基于多维蒙特卡洛理论的搜救范围预测方法
Wang et al. Modeling indoor spaces using decomposition and reconstruction of structural elements
CN106295613A (zh) 一种无人机目标定位方法及系统
CN112949407B (zh) 一种基于深度学习和点集优化的遥感影像建筑物矢量化方法
Zeng et al. Recognition and extraction of high-resolution satellite remote sensing image buildings based on deep learning
CN114842681A (zh) 一种基于多头注意力机制的机场场面航迹预测方法
CN111028238A (zh) 一种基于机器人视觉的复杂异形曲面三维分割方法及系统
CN114964212A (zh) 面向未知空间探索的多机协同融合定位与建图方法
CN114926469A (zh) 语义分割模型训练方法、语义分割方法、存储介质及终端
CN115546485A (zh) 一种分层自注意力场景语义分割模型的构建方法
CN114723764A (zh) 一种点云物体的参数化边缘曲线提取方法
CN116662468A (zh) 基于地理对象空间模式特征的城市功能区识别方法及系统
CN109871907B (zh) 基于sae-hmm模型的雷达目标高分辨率距离像识别方法
CN111216126A (zh) 基于多模态感知的足式机器人运动行为识别方法及系统
Wang et al. Efficient object detection method based on improved YOLOv3 network for remote sensing images
CN113989631A (zh) 一种基于卷积神经网络的红外图像目标检测网络压缩方法
Petschnigg et al. Point based deep learning to automate automotive assembly simulation model generation with respect to the digital factory
Dong et al. RETRACTED ARTICLE: Research on North Gulf distributed big data submarine 3D terrain computing system based on remote sensing and multi-beam
Shi et al. Design of UAV Flight State Recognition System for Multi-sensor Data Fusion
CN116842827A (zh) 一种无人机飞控系统电磁性能边界模型构建方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant