CN115994936A - 点云融合模型获取方法、装置、电子设备及存储介质 - Google Patents
点云融合模型获取方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115994936A CN115994936A CN202310291154.XA CN202310291154A CN115994936A CN 115994936 A CN115994936 A CN 115994936A CN 202310291154 A CN202310291154 A CN 202310291154A CN 115994936 A CN115994936 A CN 115994936A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- fusion model
- cloud fusion
- updating
- loss function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 176
- 238000000034 method Methods 0.000 title claims abstract description 63
- 230000006870 function Effects 0.000 claims abstract description 101
- 238000012549 training Methods 0.000 claims abstract description 50
- 230000008569 process Effects 0.000 claims abstract description 25
- 238000011478 gradient descent method Methods 0.000 claims abstract description 12
- 238000000605 extraction Methods 0.000 claims description 23
- 238000005070 sampling Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 10
- 238000012937 correction Methods 0.000 claims description 8
- 230000009467 reduction Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Image Analysis (AREA)
Abstract
本申请属于数据融合技术领域，公开了一种点云融合模型获取方法、装置、电子设备及存储介质，所述方法包括：获取训练数据集；初始化点云融合模型的网络参数；利用训练数据集，根据改进梯度下降法迭代更新点云融合模型的网络参数，直到损失函数或网络参数收敛；每次迭代过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率；从而可加速点云融合模型的网络参数收敛速度，进而提高点云融合模型的训练效率。
Description
技术领域
本申请涉及数据融合技术领域，具体而言，涉及一种点云融合模型获取方法、装置、电子设备及存储介质。
背景技术
目前，虚拟现实与无人机的结合应用越来越受到重视，虚拟现实不仅能为操作者提供远程操作，还能提供沉浸式的三维动态场景，虚拟现实技术所提供的第一视角的人机互动可以很大改善无人机飞行员的工作条件。其中，无人机虚拟场景三维重建是实现虚拟现实场景与无人机结合的关键技术。
通常地，在进行无人机虚拟场景三维重建时，一般需要采用点云融合模型来实现无人机采集到的点云数据的融合，这种点云融合模型在投入使用前需要进行大量训练工作，训练时间长，训练效率较低，需要寻求一种训练方法提高训练效率。
发明内容
本申请的目的在于提供一种点云融合模型获取方法、装置、电子设备及存储介质，可提高点云融合模型的训练效率。
第一方面，本申请提供了一种点云融合模型获取方法，用于对点云融合模型进行训练，所述点云融合模型包括输入层、特征提取网络模块、特征融合网络模块、上采样网络模块和输出层；所述点云融合模型获取方法包括步骤：
A1.获取训练数据集；
A2.初始化所述点云融合模型的网络参数；
A3.利用所述训练数据集，根据改进梯度下降法迭代更新所述点云融合模型的所述网络参数，直到损失函数或所述网络参数收敛；每次迭代过程中，根据所述点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数更新学习效率。
该方法在对点云融合模型进行迭代训练的过程中，根据点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数自适应地更新学习效率，可加速点云融合模型的网络参数收敛速度，从而提高点云融合模型的训练效率。
优选地，步骤A3中，每次迭代过程包括步骤：
A301.计算所述损失函数；
A302.更新一阶动量参数和二阶动量参数；
A303. 根据所述点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数更新学习效率；
A304.根据所述一阶动量参数、所述二阶动量参数和所述学习效率更新所述点云融合模型的所述网络参数；
A305.若所述损失函数和所述网络参数中的至少一个收敛，则停止迭代。
优选地，步骤A301包括：
根据以下公式计算损失函数：
；
其中，为所述损失函数，为所述点云融合模型的输出数据，为所述输入样本的真值标签。
该损失函数的函数曲线光滑、连续，处处可导，便于改进梯度下降算法的使用，而且，随着误差的减小，梯度也在减小，这有利于提高损失函数的收敛速度。
优选地，步骤A302包括：
根据以下公式更新所述一阶动量参数和所述二阶动量参数：
；
；
其中，是更新后的所述一阶动量参数，是更新前的所述一阶动量参数，为更新后的所述二阶动量参数，为更新前的所述二阶动量参数，、为两个预设调整系数，为所述损失函数关于所述网络参数的梯度。
优选地，步骤A303包括：
根据以下公式计算第一影响系数和第二影响系数：
；
；
其中，为所述第一影响系数，为所述第二影响系数，为所述特征提取网络模块的输出数据，为所述特征融合网络模块的输出数据，为所述上采样网络模块的输出数据；
根据以下公式计算第三影响系数和第四影响系数：
；
；
；
其中，为所述输入样本的第i个元素，为所述损失函数对所述输入样本的第i个元素的偏导数，为所述损失函数对所述输入样本的第2j-1个元素的偏导数，为所述损失函数对所述输入样本的第2j个元素的偏导数，为所述输入样本的元素总数量，为所述第三影响系数，为所述第四影响系数；
根据所述第一影响系数、所述第二影响系数、所述第三影响系数和所述第四影响系数，更新所述学习效率。
优选地，所述根据所述第一影响系数、所述第二影响系数、所述第三影响系数和所述第四影响系数，更新所述学习效率的步骤包括：
根据以下公式计算基准学习效率：
；
其中，为所述基准学习效率，t为当前的迭代次数；
根据所述第一影响系数和所述第二影响系数，通过以下公式计算第一散度：
；
其中，为所述第一散度，为所述第一散度的预设初始值；
根据所述第三影响系数和所述第四影响系数，通过以下公式计算第二散度：
；
其中，为所述第二散度，为所述第二散度的预设初始值；
根据所述第一散度和所述第二散度，通过以下公式计算学习率修正系数：
；
其中，为所述学习率修正系数；
根据所述基准学习效率和所述学习率修正系数，通过以下公式更新所述学习效率：
；
其中，为更新后的所述学习效率。
上述更新学习效率的过程，引入损失函数对各网络模块的输出数据和输入样本各个元素的梯度，实现学习效率的自适应更新，有利于加速点云融合模型的网络参数收敛速度，从而提高点云融合模型的训练效率。
优选地，步骤A304包括：
根据以下公式更新所述点云融合模型的所述网络参数：
；
其中，为更新后的所述网络参数，为更新前的所述网络参数，为预设的收敛阈值。
第二方面，本申请提供了一种点云融合模型获取装置，用于对点云融合模型进行训练，所述点云融合模型包括输入层、特征提取网络模块、特征融合网络模块、上采样网络模块和输出层；所述点云融合模型获取装置包括：
第一获取模块，用于获取训练数据集；
初始化模块，初始化所述点云融合模型的网络参数；
更新模块，用于利用所述训练数据集，根据改进梯度下降法迭代更新所述点云融合模型的所述网络参数，直到损失函数或所述网络参数收敛；每次迭代过程中，根据所述点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数更新学习效率。
该装置在对点云融合模型进行迭代训练的过程中，根据点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数自适应地更新学习效率，可加速点云融合模型的网络参数收敛速度，从而提高点云融合模型的训练效率。
第三方面，本申请提供了一种电子设备，包括处理器和存储器，所述存储器存储有所述处理器可执行的计算机程序，所述处理器执行所述计算机程序时，运行如前文所述点云融合模型获取方法中的步骤。
第四方面，本申请提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时运行如前文所述点云融合模型获取方法中的步骤。
有益效果：
本申请提供的点云融合模型获取方法、装置、电子设备及存储介质，在对点云融合模型进行迭代训练的过程中，根据点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数自适应地更新学习效率，可加速点云融合模型的网络参数收敛速度，从而提高点云融合模型的训练效率。
附图说明
图1为本申请实施例提供的点云融合模型获取方法的流程图。
图2为本申请实施例提供的点云融合模型获取装置的结构示意图。
图3为本申请实施例提供的电子设备的结构示意图。
图4为点云融合模型的结构示意图。
标号说明：1、第一获取模块；2、初始化模块；3、更新模块；301、处理器；302、存储器；303、通信总线。
具体实施方式
下面将结合本申请实施例中附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
请参照图1，图1是本申请一些实施例中的一种点云融合模型获取方法，用于对点云融合模型进行训练，该点云融合模型包括输入层、特征提取网络模块、特征融合网络模块、上采样网络模块和输出层；点云融合模型获取方法包括步骤：
A1.获取训练数据集；
A2.初始化点云融合模型的网络参数；
A3.利用训练数据集，根据改进梯度下降法迭代更新点云融合模型的网络参数，直到损失函数或网络参数收敛；每次迭代过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率。
该方法在对点云融合模型进行迭代训练的过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数自适应地更新学习效率，可加速点云融合模型的网络参数收敛速度，从而提高点云融合模型的训练效率。
其中，参考图4，该点云融合模型的输入层输入的是M×3×N维的数据（其中，M为单帧点云数据的点数，N为输入样本的元素总数量，即输入样本包含的点云数据的总帧数），经特征提取网络模块对输入的点云数据进行特征提取后，输出的数据记为，该输出数据为L×3×N维的数据（其中，L为由特征提取网络模块的网络结构决定的中间值）；特征融合网络模块对输出数据进行降维处理和特征融合处理后，输出的数据记为，该输出数据为k×3维的数据（其中，k为由特征融合网络模块的网络结构决定的中间值）；上采样网络模块对输出数据进行数据丰富后，输出的数据记为，该输出数据为J×3维的数据（其中，J为上采样后模型输出维数，且J=M×N）。
在本实施例中，特征提取网络模块通过ResNet-50网络实现对输入的点云数据的特征提取，特征提取网络模块的特征提取函数记为，该特征提取网络模块的网络参数记为；特征融合网络模块通过flatten方法对输出数据进行降维处理后，通过三层全连接网络实现特征融合，特征融合网络模块的特征融合函数记为，该特征融合网络模块的网络参数记为；上采样网络模块通过两层全卷积网络对输出数据进行数据丰富，上采样网络模块的上采样函数记为，该上采样网络模块的网络参数记为。
其中，训练数据集包括多个样本，每个样本包括多帧（N帧）连续的点云数据和对应的真值标签（即对多帧点云数据进行融合后的参考融合点云数据）。根据多帧连续的点云数据获取对应的真值标签的方法为现有技术，此处不对其进行详述。
其中，点云融合模型的网络参数包括特征提取网络模块的网络参数、特征融合网络模块的网络参数和上采样网络模块的网络参数。在对点云融合模型的网络参数进行初始化时可初始化为预设值，也可以进行随机初始化，具体根据实际需要选择。若把点云融合模型的网络参数记为，则。
在本实施例中，步骤A3中，每次迭代过程包括步骤：
A301.计算损失函数；
A302.更新一阶动量参数和二阶动量参数；
A303.根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率；
A304.根据一阶动量参数、二阶动量参数和学习效率更新点云融合模型的网络参数；
A305.若损失函数和网络参数中的至少一个收敛，则停止迭代。
即当损失函数和网络参数均不收敛时，需要把下一个样本作为输入样本，把该输入样本的点云数据输入至点云融合模型，并重复步骤A301-A305进行下一次迭代，直到损失函数和网络参数中的至少一个收敛。
其中，损失函数可根据实际需要设置，例如可选择使用MSE损失函数，但不限于此。
在一些优选实施方式中，步骤A301包括：
根据以下公式计算损失函数：
；
其中，为损失函数，为点云融合模型的输出数据，为输入样本的真值标签。
该损失函数的函数曲线光滑、连续，处处可导，便于改进梯度下降算法的使用，而且，随着误差的减小，梯度也在减小，这有利于提高损失函数的收敛速度。
具体地，步骤A302包括：
根据以下公式更新一阶动量参数和二阶动量参数：
；
；
其中，是更新后的一阶动量参数，是更新前的一阶动量参数，为更新后的二阶动量参数，为更新前的二阶动量参数，、为两个预设调整系数，为损失函数关于网络参数的梯度（即）。其中，、可根据实际需要设置，例如，可均设置为0.9，但不限于此；其中，对于首次迭代过程，，，、分别为一阶动量参数和二阶动量参数的预设初始值，可根据实际需要设置，例如均为0，但不限于此。
具体地，步骤A303包括：
根据以下公式计算第一影响系数和第二影响系数：
；
；
其中，为第一影响系数，为第二影响系数，为特征提取网络模块的输出数据，为特征融合网络模块的输出数据，为上采样网络模块的输出数据；其中表征了输出数据和输出数据的变化引起损失函数的变化的显著程度，表征了输出数据和输出数据的变化引起损失函数的变化的显著程度；
根据以下公式计算第三影响系数和第四影响系数：
；
；
；
其中，为输入样本的第i个元素，为损失函数对输入样本的第i个元素的偏导数，为损失函数对输入样本的第2j-1个元素的偏导数，为损失函数对输入样本的第2j个元素的偏导数，为输入样本的元素总数量，为第三影响系数，为第四影响系数；其中，输入样本的第i个元素，即输入样本的第i帧点云数据，表征的输入样本的第i个元素的变化引起损失函数的变化的显著程度；
根据第一影响系数、第二影响系数、第三影响系数和第四影响系数，更新学习效率。
具体地，根据第一影响系数、第二影响系数、第三影响系数和第四影响系数，更新学习效率的步骤包括：
根据以下公式计算基准学习效率：
；
其中，为基准学习效率，t为当前的迭代次数（即当前执行步骤A301-A305的次数）；随着迭代次数的增加，基准学习效率逐渐减小，有利于提高收敛速度；
根据第一影响系数和第二影响系数，通过以下公式计算第一散度：
；
其中，为第一散度，为第一散度的预设初始值；表征了各网络模块的输出数据对整个点云融合模型的输出结果的影响，可根据实际需要设置，例如为1，但不限于此；
根据第三影响系数和第四影响系数，通过以下公式计算第二散度：
；
其中，为第二散度，为第二散度的预设初始值；表征了输入样本对整个点云融合模型输出结果的影响，可根据实际需要设置，例如为1，但不限于此；
根据第一散度和第二散度，通过以下公式计算学习率修正系数：
；
其中，为学习率修正系数；
根据基准学习效率和学习率修正系数，通过以下公式更新学习效率：
；
其中，为更新后的学习效率。
上述更新学习效率的过程，引入损失函数对各网络模块的输出数据的梯度和对输入样本各个元素的梯度，实现学习效率的自适应更新，有利于加速点云融合模型的网络参数收敛速度，从而提高点云融合模型的训练效率。
具体地，步骤A304包括：
根据以下公式更新点云融合模型的网络参数：
；
其中，为更新后的网络参数，为更新前的网络参数（），为预设的收敛阈值；其中，可根据实际需要设置，例如为0.003，但不限于此。
具体地，步骤A305中，若，则判定损失函数收敛，若，则判定网络参数收敛。停止迭代后，最后更新得到的网络参数即为点云融合模型最终的网络参数。
由上可知，该点云融合模型获取方法，通过获取训练数据集；初始化点云融合模型的网络参数；利用训练数据集，根据改进梯度下降法迭代更新点云融合模型的网络参数，直到损失函数或网络参数收敛；每次迭代过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率；从而可加速点云融合模型的网络参数收敛速度，进而提高点云融合模型的训练效率。
参考图2，本申请提供了一种点云融合模型获取装置，用于对点云融合模型进行训练，点云融合模型包括输入层、特征提取网络模块、特征融合网络模块、上采样网络模块和输出层；该点云融合模型获取装置包括：
第一获取模块1，用于获取训练数据集；
初始化模块2，初始化点云融合模型的网络参数；
更新模块3，用于利用训练数据集，根据改进梯度下降法迭代更新点云融合模型的网络参数，直到损失函数或网络参数收敛；每次迭代过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率。
该装置在对点云融合模型进行迭代训练的过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数自适应地更新学习效率，可加速点云融合模型的网络参数收敛速度，从而提高点云融合模型的训练效率。
其中，参考图4，该点云融合模型的输入层输入的是M×3×N维的数据（其中，M为单帧点云数据的点数，N为输入样本的元素总数量，即输入样本包含的点云数据的总帧数），经特征提取网络模块对输入的点云数据进行特征提取后，输出的数据记为，该输出数据为L×3×N维的数据（其中，L为由特征提取网络模块的网络结构决定的中间值）；特征融合网络模块对输出数据进行降维处理和特征融合处理后，输出的数据记为，该输出数据为k×3维的数据（其中，k为由特征融合网络模块的网络结构决定的中间值）；上采样网络模块对输出数据进行数据丰富后，输出的数据记为，该输出数据为J×3维的数据（其中，J为上采样后模型输出维数，且J=M×N）。
在本实施例中，特征提取网络模块通过ResNet-50网络实现对输入的点云数据的特征提取，特征提取网络模块的特征提取函数记为，该特征提取网络模块的网络参数记为；特征融合网络模块通过flatten方法对输出数据进行降维处理后，通过三层全连接网络实现特征融合，特征融合网络模块的特征融合函数记为，该特征融合网络模块的网络参数记为；上采样网络模块通过两层全卷积网络对输出数据进行数据丰富，上采样网络模块的上采样函数记为，该上采样网络模块的网络参数记为。
其中，训练数据集包括多个样本，每个样本包括多帧（N帧）连续的点云数据和对应的真值标签（即对多帧点云数据进行融合后的参考融合点云数据）。根据多帧连续的点云数据获取对应的真值标签的方法为现有技术，此处不对其进行详述。
其中，点云融合模型的网络参数包括特征提取网络模块的网络参数、特征融合网络模块的网络参数和上采样网络模块的网络参数。在对点云融合模型的网络参数进行初始化时可初始化为预设值，也可以进行随机初始化，具体根据实际需要选择。若把点云融合模型的网络参数记为，则。
在本实施例中，更新模块3在利用训练数据集，根据改进梯度下降法迭代更新点云融合模型的网络参数，直到损失函数或网络参数收敛的时候，每次迭代过程执行：
计算损失函数；
更新一阶动量参数和二阶动量参数；
根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率；
根据一阶动量参数、二阶动量参数和学习效率更新点云融合模型的网络参数；
若损失函数和网络参数中的至少一个收敛，则停止迭代。
即当损失函数和网络参数均不收敛时，需要把下一个样本作为输入样本，把该输入样本的点云数据输入至点云融合模型，并进行下一次迭代，直到损失函数和网络参数中的至少一个收敛。
其中，损失函数可根据实际需要设置，例如可选择使用MSE损失函数，但不限于此。
在一些优选实施方式中，更新模块3在计算损失函数的时候，执行：
根据以下公式计算损失函数：
；
其中，为损失函数，为点云融合模型的输出数据，为输入样本的真值标签。
该损失函数的函数曲线光滑、连续，处处可导，便于改进梯度下降算法的使用，而且，随着误差的减小，梯度也在减小，这有利于提高损失函数的收敛速度。
具体地，更新模块3在更新一阶动量参数和二阶动量参数的时候，执行：
根据以下公式更新一阶动量参数和二阶动量参数：
；
；
其中，是更新后的一阶动量参数，是更新前的一阶动量参数，为更新后的二阶动量参数，为更新前的二阶动量参数，、为两个预设调整系数，为损失函数关于网络参数的梯度（即）。其中，、可根据实际需要设置，例如，可均设置为0.9，但不限于此；其中，对于首次迭代过程，，，、分别为一阶动量参数和二阶动量参数的预设初始值，可根据实际需要设置，例如均为0，但不限于此。
具体地，更新模块3在根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率的时候，执行：
根据以下公式计算第一影响系数和第二影响系数：
；
；
其中，为第一影响系数，为第二影响系数，为特征提取网络模块的输出数据，为特征融合网络模块的输出数据，为上采样网络模块的输出数据；其中表征了输出数据和输出数据的变化引起损失函数的变化的显著程度，表征了输出数据和输出数据的变化引起损失函数的变化的显著程度；
根据以下公式计算第三影响系数和第四影响系数：
；
；
；
其中，为输入样本的第i个元素，为损失函数对输入样本的第i个元素的偏导数，为损失函数对输入样本的第2j-1个元素的偏导数，为损失函数对输入样本的第2j个元素的偏导数，为输入样本的元素总数量，为第三影响系数，为第四影响系数；其中，输入样本的第i个元素，即输入样本的第i帧点云数据，表征的输入样本的第i个元素的变化引起损失函数的变化的显著程度；
根据第一影响系数、第二影响系数、第三影响系数和第四影响系数，更新学习效率。
具体地，根据第一影响系数、第二影响系数、第三影响系数和第四影响系数，更新学习效率具体包括：
根据以下公式计算基准学习效率：
；
其中，为基准学习效率，t为当前的迭代次数；随着迭代次数的增加，基准学习效率逐渐减小，有利于提高收敛速度；
根据第一影响系数和第二影响系数，通过以下公式计算第一散度：
；
其中，为第一散度，为第一散度的预设初始值；表征了各网络模块的输出数据对整个点云融合模型的输出结果的影响，可根据实际需要设置，例如为1，但不限于此；
根据第三影响系数和第四影响系数，通过以下公式计算第二散度：
；
其中，为第二散度，为第二散度的预设初始值；表征了输入样本对整个点云融合模型输出结果的影响，可根据实际需要设置，例如为1，但不限于此；
根据第一散度和第二散度，通过以下公式计算学习率修正系数：
；
其中，为学习率修正系数；
根据基准学习效率和学习率修正系数，通过以下公式更新学习效率：
；
其中，为更新后的学习效率。
上述更新学习效率的过程，引入损失函数对各网络模块的输出数据的梯度和对输入样本各个元素的梯度，实现学习效率的自适应更新，有利于加速点云融合模型的网络参数收敛速度，从而提高点云融合模型的训练效率。
具体地，更新模块3在根据一阶动量参数、二阶动量参数和学习效率更新点云融合模型的网络参数的时候，执行：
根据以下公式更新点云融合模型的网络参数：
；
其中，为更新后的网络参数，为更新前的网络参数（），为预设的收敛阈值；其中，可根据实际需要设置，例如为0.003，但不限于此。
具体地，若，则更新模块3判定损失函数收敛，若，则更新模块3判定网络参数收敛。停止迭代后，最后更新得到的网络参数即为点云融合模型最终的网络参数。
由上可知，该点云融合模型获取装置，通过获取训练数据集；初始化点云融合模型的网络参数；利用训练数据集，根据改进梯度下降法迭代更新点云融合模型的网络参数，直到损失函数或网络参数收敛；每次迭代过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率；从而可加速点云融合模型的网络参数收敛速度，进而提高点云融合模型的训练效率。
请参照图3，图3为本申请实施例提供的一种电子设备的结构示意图，本申请提供一种电子设备，包括：处理器301和存储器302，处理器301和存储器302通过通信总线303和/或其他形式的连接机构（未标出）互连并相互通讯，存储器302存储有处理器301可执行的计算机程序，当电子设备运行时，处理器301执行该计算机程序，以执行上述实施例的任一可选的实现方式中的点云融合模型获取方法，以实现以下功能：获取训练数据集；初始化点云融合模型的网络参数；利用训练数据集，根据改进梯度下降法迭代更新点云融合模型的网络参数，直到损失函数或网络参数收敛；每次迭代过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率。
本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时，执行上述实施例的任一可选的实现方式中的点云融合模型获取方法，以实现以下功能：获取训练数据集；初始化点云融合模型的网络参数；利用训练数据集，根据改进梯度下降法迭代更新点云融合模型的网络参数，直到损失函数或网络参数收敛；每次迭代过程中，根据点云融合模型的输入样本和各网络模块的输出数据对损失函数的影响系数更新学习效率。其中，计算机可读存储介质可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器（Static Random Access Memory, 简称SRAM），电可擦除可编程只读存储器（Electrically Erasable Programmable Read-OnlyMemory, 简称EEPROM），可擦除可编程只读存储器（Erasable Programmable Read OnlyMemory, 简称EPROM），可编程只读存储器（Programmable Red-Only Memory, 简称PROM），只读存储器（Read-Only Memory, 简称ROM），磁存储器，快闪存储器，磁盘或光盘。
在本申请所提供的实施例中，应该理解到，所揭露装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
另外，作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，既可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
再者，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上所述仅为本申请的实施例而已，并不用于限制本申请的保护范围，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。
Claims (10)
1.一种点云融合模型获取方法，用于对点云融合模型进行训练，所述点云融合模型包括输入层、特征提取网络模块、特征融合网络模块、上采样网络模块和输出层；其特征在于，所述点云融合模型获取方法包括步骤：
A1.获取训练数据集；
A2.初始化所述点云融合模型的网络参数；
A3.利用所述训练数据集，根据改进梯度下降法迭代更新所述点云融合模型的所述网络参数，直到损失函数或所述网络参数收敛；每次迭代过程中，根据所述点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数更新学习效率。
2.根据权利要求1所述的点云融合模型获取方法，其特征在于，步骤A3中，每次迭代过程包括步骤：
A301.计算所述损失函数；
A302.更新一阶动量参数和二阶动量参数；
A303. 根据所述点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数更新学习效率；
A304.根据所述一阶动量参数、所述二阶动量参数和所述学习效率更新所述点云融合模型的所述网络参数；
A305.若所述损失函数和所述网络参数中的至少一个收敛，则停止迭代。
3.根据权利要求2所述的点云融合模型获取方法，其特征在于，步骤A301包括：
根据以下公式计算损失函数：
；
其中，为所述损失函数，为所述点云融合模型的输出数据，为所述输入样本的真值标签。
4.根据权利要求3所述的点云融合模型获取方法，其特征在于，步骤A302包括：
根据以下公式更新所述一阶动量参数和所述二阶动量参数：
；
；
其中，是更新后的所述一阶动量参数，是更新前的所述一阶动量参数，为更新后的所述二阶动量参数，为更新前的所述二阶动量参数，、为两个预设调整系数，为所述损失函数关于所述网络参数的梯度。
5.根据权利要求4所述的点云融合模型获取方法，其特征在于，步骤A303包括：
根据以下公式计算第一影响系数和第二影响系数：
；
；
其中，为所述第一影响系数，为所述第二影响系数，为所述特征提取网络模块的输出数据，为所述特征融合网络模块的输出数据，为所述上采样网络模块的输出数据；
根据以下公式计算第三影响系数和第四影响系数：
；
；
；
其中，为所述输入样本的第i个元素，为所述损失函数对所述输入样本的第i个元素的偏导数，为所述损失函数对所述输入样本的第2j-1个元素的偏导数，为所述损失函数对所述输入样本的第2j个元素的偏导数，为所述输入样本的元素总数量，为所述第三影响系数，为所述第四影响系数；
根据所述第一影响系数、所述第二影响系数、所述第三影响系数和所述第四影响系数，更新所述学习效率。
6.根据权利要求5所述的点云融合模型获取方法，其特征在于，所述根据所述第一影响系数、所述第二影响系数、所述第三影响系数和所述第四影响系数，更新所述学习效率的步骤包括：
根据以下公式计算基准学习效率：
；
其中，为所述基准学习效率，t为当前的迭代次数；
根据所述第一影响系数和所述第二影响系数，通过以下公式计算第一散度：
；
其中，为所述第一散度，为所述第一散度的预设初始值；
根据所述第三影响系数和所述第四影响系数，通过以下公式计算第二散度：
；
其中，为所述第二散度，为所述第二散度的预设初始值；
根据所述第一散度和所述第二散度，通过以下公式计算学习率修正系数：
；
其中，为所述学习率修正系数；
根据所述基准学习效率和所述学习率修正系数，通过以下公式更新所述学习效率：
；
其中，为更新后的所述学习效率。
7.根据权利要求6所述的点云融合模型获取方法，其特征在于，步骤A304包括：
根据以下公式更新所述点云融合模型的所述网络参数：
；
其中，为更新后的所述网络参数，为更新前的所述网络参数，为预设的收敛阈值。
8.一种点云融合模型获取装置，用于对点云融合模型进行训练，所述点云融合模型包括输入层、特征提取网络模块、特征融合网络模块、上采样网络模块和输出层；其特征在于，所述点云融合模型获取装置包括：
第一获取模块，用于获取训练数据集；
初始化模块，初始化所述点云融合模型的网络参数；
更新模块，用于利用所述训练数据集，根据改进梯度下降法迭代更新所述点云融合模型的所述网络参数，直到损失函数或所述网络参数收敛；每次迭代过程中，根据所述点云融合模型的输入样本和各网络模块的输出数据对所述损失函数的影响系数更新学习效率。
9.一种电子设备，其特征在于，包括处理器和存储器，所述存储器存储有所述处理器可执行的计算机程序，所述处理器执行所述计算机程序时，运行如权利要求1-7任一项所述点云融合模型获取方法中的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时运行如权利要求1-7任一项所述点云融合模型获取方法中的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310291154.XA CN115994936B (zh) | 2023-03-23 | 2023-03-23 | 点云融合模型获取方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310291154.XA CN115994936B (zh) | 2023-03-23 | 2023-03-23 | 点云融合模型获取方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115994936A true CN115994936A (zh) | 2023-04-21 |
| CN115994936B CN115994936B (zh) | 2023-06-30 |
Family
ID=85995386
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310291154.XA Active CN115994936B (zh) | 2023-03-23 | 2023-03-23 | 点云融合模型获取方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115994936B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107729999A (zh) * | 2016-08-12 | 2018-02-23 | 北京深鉴科技有限公司 | 考虑矩阵相关性的深度神经网络压缩方法 |
| CN113850916A (zh) * | 2021-09-26 | 2021-12-28 | 浪潮电子信息产业股份有限公司 | 模型训练、点云缺失补全方法、装置、设备及介质 |
| US20220197306A1 (en) * | 2020-12-18 | 2022-06-23 | Strong Force Vcn Portfolio 2019, Llc | Job Parsing in Robot Fleet Resource Configuration |
| CN115358413A (zh) * | 2022-09-14 | 2022-11-18 | 清华大学 | 一种点云多任务模型的训练方法、装置及电子设备 |
-
2023
- 2023-03-23 CN CN202310291154.XA patent/CN115994936B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107729999A (zh) * | 2016-08-12 | 2018-02-23 | 北京深鉴科技有限公司 | 考虑矩阵相关性的深度神经网络压缩方法 |
| US20220197306A1 (en) * | 2020-12-18 | 2022-06-23 | Strong Force Vcn Portfolio 2019, Llc | Job Parsing in Robot Fleet Resource Configuration |
| CN113850916A (zh) * | 2021-09-26 | 2021-12-28 | 浪潮电子信息产业股份有限公司 | 模型训练、点云缺失补全方法、装置、设备及介质 |
| CN115358413A (zh) * | 2022-09-14 | 2022-11-18 | 清华大学 | 一种点云多任务模型的训练方法、装置及电子设备 |
Non-Patent Citations (1)
| Title |
|---|
| 梁斌梅 等: "改进的径向基函数神经网络预测模型", 计算机仿真, vol. 26, no. 11, pages 191 - 194 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115994936B (zh) | 2023-06-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111079532B (zh) | 一种基于文本自编码器的视频内容描述方法 | |
| CN105512289B (zh) | 基于深度学习和哈希的图像检索方法 | |
| CN111259983B (zh) | 基于深度学习的图像语义分割方法及存储介质 | |
| US20160179992A1 (en) | Interactive 3D Experiences on the Basis of Data | |
| CN110349103A (zh) | 一种基于深度神经网络和跳跃连接的无干净标签图像去噪方法 | |
| CN107610069B (zh) | 基于共享k-svd字典的dvs可视化视频去噪方法 | |
| KR102232643B1 (ko) | 엔드 투 엔드 모델링 방법 및 시스템 | |
| CN109543165B (zh) | 基于循环卷积注意力模型的文本生成方法及装置 | |
| US10630995B2 (en) | Video compressed sensing reconstruction method, system, electronic device, and storage medium | |
| CN112837215B (zh) | 一种基于生成对抗网络的图像形状变换方法 | |
| CN111667421B (zh) | 一种图像去雾方法 | |
| WO2013085812A1 (en) | Matrix based parallel implementation of maximum a posteriori probability (map) decoders | |
| CN112001485B (zh) | 一种组卷积数目搜索方法和装置 | |
| EP2863566A1 (en) | Method and apparatus for reconstructing a data block | |
| CN108009635A (zh) | 一种支持增量更新的深度卷积计算模型 | |
| CN115223067A (zh) | 应用于无人机的点云融合方法、装置、设备及存储介质 | |
| CN115994936B (zh) | 点云融合模型获取方法、装置、电子设备及存储介质 | |
| CN113077237B (zh) | 一种自适应混合算法的排课方法及系统 | |
| CN111383357A (zh) | 一种适应目标数据集的网络模型微调方法、系统、终端和存储介质 | |
| CN116958712A (zh) | 基于先验概率分布的图像生成方法、系统、介质及设备 | |
| CN111930732A (zh) | 基于级联卷积自编码器的缺失电力负荷数据修复方法及装置 | |
| CN108241705A (zh) | 一种数据插入方法及装置 | |
| CN116152263A (zh) | 一种基于cm-mlp网络的医学图像分割方法 | |
| CN112184592A (zh) | 一种图像修复方法、装置、设备及计算机可读存储介质 | |
| CN108055045A (zh) | 一种新型ldpc码译码器的结构 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |