CN109959911A - 基于激光雷达的多目标自主定位方法及装置 - Google Patents
基于激光雷达的多目标自主定位方法及装置 Download PDFInfo
- Publication number
- CN109959911A CN109959911A CN201910228590.6A CN201910228590A CN109959911A CN 109959911 A CN109959911 A CN 109959911A CN 201910228590 A CN201910228590 A CN 201910228590A CN 109959911 A CN109959911 A CN 109959911A
- Authority
- CN
- China
- Prior art keywords
- target
- data
- convolutional neural
- laser radar
- neural networks
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/006—Theoretical aspects
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/42—Simultaneous measurement of distance and other co-ordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/4802—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
本发明公开了一种基于激光雷达的多目标自主定位方法及装置,其中,方法包括:通过激光雷达采集目标卫星的目标数据集;根据目标数据集中的先验信息对疑似目标点进行聚类,并判断是否存在疑似目标区域,以得到目标区域;通过预先采集的数据集对卷积神经网络进行训练以确定卷积神经网络的权值参数,以完成网络参数设置;在空间多目标定位过程中,通过训练的卷积神经网络对激光雷达实时获取的点云数据进行识别和聚类,以得到测量数据;根据测量数据进行多目标自主定位,得到定位结果。该方法可以有效解决基于微纳航天器的分布式遥感系统的星间自主测量问题,进而能够实现编队的多目标自主识别与星间自主定位,具有识别率高、目标定位准确等特点。
Description
技术领域
本发明涉及航天器编队星间相对测量与控制技术领域,特别涉及一种基于激光雷达的多目标自主定位方法及装置。
背景技术
应急遥感在国计民生、国防安全等领域发挥着重要作用,而传统单一卫星无法满足应急遥感全球覆盖、快速重访、多源信息获取的迫切需求。微纳卫星造价低廉,可批量生产,发射形式多样,因而基于微纳航天器的分布式遥感技术成为解决上述需求和技术瓶颈的关键。
分布式遥感系统以国家应急遥感为背景,需要在GPS(GlobalPositioningSystem,全球卫星定位系统)遭受干扰或攻击的情况下具备完全独立的星间自主定位能力。以编队的构型转换为例,当系统工作模式发生改变时,常常需要进行相应的构型转换,在构型变换中系统需要根据上一个脉冲的效果,决定航天器实施下一个脉冲的位置、方向及大小等。对于分布式遥感系统而言,系统由于各航天器搭载的载荷不同其在系统中承担的功能角色也会有所不同,其在构型转换的目标位置也不相同,系统需要针对每一个航天器进行针对性的控制,以保证各航天器能够按照规划的轨迹进行构形变换。因此在构型变换过程中,系统需对每个航天器的位置进行实时的测量。由于存在多个目标航天器,因此系统需要通过安装在卫星上的星载传感器实现系统的多目标自主识别与定位。激光雷达具有抗干扰能力强,作用距离远,测量精度高等优点,是星间相对测量的重要手段。
目前应用于星间相对测量的技术主要有微波雷达测量技术、红外测量技术、可见光相机测量技术和激光雷达测量技术。在百米到千米的基线距离上,微波雷达由于所使用电磁波波长的限制,其测距精度可以优于1m,测角精度可优于0.01度,难以适应高精度要求的分布式遥感测量任务;以非制冷型的红外探测器ID ML073为例,其阵列为320*240,间距为30um*30um,选用百毫米的光学镜头可以达到角秒级别的测角精度,但是红外测量系统属于被动测量,不能实现全天候的测量,必须和可见光等其他测量手段互为补充;而激光雷达测量技术是一种主动测量方式,能够对目标进行成像,包括强度像、距离速度像、和干涉全息像等。相关技术提出了SECOND模型在GTX1080 TiGPU上进行移动目标进行识别与定位;另外,相关技术还提出了一种SBNet网进行移动目标识别与定位等;均提高了识别率减少了训练和识别算法的复杂度,但是还是不太适用星载计算机环境。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的一个目的在于提出一种基于激光雷达的多目标自主定位方法,该方法能够实现编队的多目标自主识别与星间自主定位,具有识别率高,目标定位准确等特点。
本发明的另一个目的在于提出一种基于激光雷达的多目标自主定位装置。
为达到上述目的,本发明一方面实施例提出了一种基于激光雷达的多目标自主定位方法,包括以下步骤:通过激光雷达采集目标卫星的目标数据集;根据所述目标数据集中的先验信息对疑似目标点进行聚类,并判断是否存在疑似目标区域,以得到目标区域;通过预先采集的数据集对卷积神经网络进行训练以确定所述卷积神经网络的权值参数,以完成网络参数设置;在空间多目标定位过程中,通过训练的所述卷积神经网络对所述激光雷达实时获取的点云数据进行识别和聚类,以得到测量数据;根据所述测量数据进行多目标自主定位,得到定位结果。
本发明实施例的基于激光雷达的多目标自主定位方法,利用激光雷达主动探测空间目标的距离图像,结合深度学习算法和数据聚类算法,能够进行空间目标识别与定位,从而可以有效解决基于微纳航天器的分布式遥感系统的星间自主测量问题,进而能够实现编队的多目标自主识别与星间自主定位,具有识别率高,目标定位准确等特点。
另外,根据本发明上述实施例的基于激光雷达的多目标自主定位方法还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述采集目标卫星的目标数据集,包括:将目标卫星的卫星模型放置于暗室中;通过激光雷达从不同角度、不同位置、对不同目标卫星的进行云点数据的采集,并对采集的数据集按目标类别进行归类,以得到所述目标数据集。
进一步地,在本发明的一个实施例中,所述通过预先采集的数据集对卷积神经网络进行训练以确定所述卷积神经网络的权值参数,进一步包括:如果输入的深度图满足预设条件,则将深度图数据连接到所述卷积神经网络的输入层,其中,输入数据经过多层卷积和池化处理后,得到所述卷积神经网络各层的特征值及其输出,当输出的结果与目标之间的偏差大于期望值时,进行反向传播,并计算网络层中神经元的误差,并根据所述误差下降的梯度调整所述网络参数,针对调整完参数的神经网络,将所述输入数据再次进行卷积和池化,直到输出值与目标之间的偏差小于所述期望值时,结束所述网络参数设置。
进一步地,在本发明的一个实施例中,所述通过训练的所述卷积神经网络对所述激光雷达实时获取的点云数据进行识别和聚类,包括:对所述激光雷达获取的点云数据进行目标区域检测,以将输入的点云数据划分为多个独立的疑似目标区域;对每个疑似目标区域进行判断及预处理后并将其作为一个单独的输入数据连接到所述卷积神经网络的输入层,使得所述卷积神经网络根据训练好的参数对所述点云数据进行识别,其中,将属于同一目标的点云数据化为一类,以实现对多个空间目标的数据聚类。
进一步地,在本发明的一个实施例中,所述根据所述测量数据进行多目标自主定位,包括:在进行识别和聚类后,采用目标点云数据的数学平均代替所述目标卫星的几何中心,以得到所述目标卫星在激光雷达传感器测量坐标系的位置。
为达到上述目的,本发明另一方面实施例提出了一种基于激光雷达的多目标自主定位装置,包括:采集模块,用于通过激光雷达采集目标卫星的目标数据集;聚类模块,用于根据所述目标数据集中的先验信息对疑似目标点进行聚类,并判断是否存在疑似目标区域,以得到目标区域;训练模块,用于通过预先采集的数据集对卷积神经网络进行训练以确定所述卷积神经网络的权值参数,以完成网络参数设置;识别模块,用于在空间多目标定位过程中,通过训练的所述卷积神经网络对所述激光雷达实时获取的点云数据进行识别和聚类,以得到测量数据;定位模块,用于根据所述测量数据进行多目标自主定位,得到定位结果。
本发明实施例的基于激光雷达的多目标自主定位装置,利用激光雷达主动探测空间目标的距离图像,结合深度学习算法和数据聚类算法,能够进行空间目标识别与定位,从而可以有效解决基于微纳航天器的分布式遥感系统的星间自主测量问题,进而能够实现编队的多目标自主识别与星间自主定位,具有识别率高,目标定位准确等特点。
另外,根据本发明上述实施例的基于激光雷达的多目标自主定位装置还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述采集模块进一步用于将目标卫星的卫星模型放置于暗室中,并通过激光雷达从不同角度、不同位置、对不同目标卫星的进行云点数据的采集,并对采集的数据集按目标类别进行归类,以得到所述目标数据集。
进一步地,在本发明的一个实施例中,所述训练模块进一步用于在输入的深度图满足预设条件时,将深度图数据连接到所述卷积神经网络的输入层,其中,输入数据经过多层卷积和池化处理后,得到所述卷积神经网络各层的特征值及其输出,当输出的结果与目标之间的偏差大于期望值时,进行反向传播,并计算网络层中神经元的误差,并根据所述误差下降的梯度调整所述网络参数,针对调整完参数的神经网络,将所述输入数据再次进行卷积和池化,直到输出值与目标之间的偏差小于所述期望值时,结束所述网络参数设置。
进一步地,在本发明的一个实施例中,所述识别模块进一步用于对所述激光雷达获取的点云数据进行目标区域检测,以将输入的点云数据划分为多个独立的疑似目标区域,并对每个疑似目标区域进行判断及预处理后并将其作为一个单独的输入数据连接到所述卷积神经网络的输入层,使得所述卷积神经网络根据训练好的参数对所述点云数据进行识别,其中,将属于同一目标的点云数据化为一类,以实现对多个空间目标的数据聚类。
进一步地,在本发明的一个实施例中,所述定位模块进一步用于在进行识别和聚类后,采用目标点云数据的数学平均代替所述目标卫星的几何中心,以得到所述目标卫星在激光雷达传感器测量坐标系的位置。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为根据本发明一个实施例的基于激光雷达的多目标自主定位方法的流程图;
图2为根据本发明一个具体实施例的基于激光雷达的多目标自主定位方法的流程图;
图3为根据本发明一个实施例的目标区域检测的基本流程示意图;
图4为根据本发明一个实施例的深度跳变点分布示意图;
图5为根据本发明一个实施例的目标卫星A点云深度跳变检测示意图;
图6为根据本发明一个实施例的目标尺寸区域检测示意图;
图7为根据本发明一个实施例的面向空间目标识别的卷积神经网络基本结构示意图;
图8为根据本发明一个实施例的卫星目标识别的目标分类混淆矩阵;
图9为根据本发明一个实施例的激光雷达点云数据的识别与聚类示意图;
图10为根据本发明一个实施例的基于激光雷达的多目标自主定位方法的基本原理框图;
图11为根据本发明一个实施例的基于激光雷达的多目标自主定位装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参照附图描述根据本发明实施例提出的基于激光雷达的多目标自主定位方法及装置,首先将参照附图描述根据本发明实施例提出的基于激光雷达的多目标自主定位方法。
图1是本发明一个实施例的基于激光雷达的多目标自主定位方法的流程图。
如图1所示,该基于激光雷达的多目标自主定位方法包括以下步骤:
在步骤S101中,通过激光雷达采集目标卫星的目标数据集。
可以理解是,目标数据集的采集:为了完成分布式遥感系统的多目标识别与定位,需要建立相应卫星的目标数据集,以满足对卷积神经网络的训练需求。
进一步地,在本发明的一个实施例中,采集目标卫星的目标数据集,包括:将目标卫星的卫星模型放置于暗室中;通过激光雷达从不同角度、不同位置、对不同目标卫星的进行云点数据的采集,并对采集的数据集按目标类别进行归类,以得到目标数据集。
可以理解是,由于目标不同其得到的目标数据集也不相同,在目标数据采集中将1:1的目标卫星模型放置到背景干净的暗室中,然后使用激光雷达从不同角度、不同位置、对不同目标的进行云点数据的采集,并对采集的数据集按目标类别进行归类。
具体而言,如图2所示,目标数据集的采集,具体为:在实施过程中,首先对激光雷达进行初始校准,然后从各个角度对目标卫星的进行深度数据采集,并将激光雷达采集的大量目标深度图像按照目标类别进行分类编号。
本发明实施例中,目标卫星A为23.1×18.6×17.2cm3的立方星,太阳能电池采用体装形式,相机镜头光学孔径为6.83cm;卫星B为展开式太阳能帆板卫星,在太阳能帆板展开前的尺寸为20.2×27.5×36.3cm3,展开后的太阳能帆板尺寸为58.2×27.5×36.3cm3,相机镜头孔径尺寸为6.64cm;卫星C为体装太阳能帆板卫星,其外形为六棱柱体结构,六棱柱边长为12.3cm,卫星高度为26.1cm,天线高度6.5cm,本例中使用的波长为850nm图像大小320×240像素的激光雷达。在实施过程中,要求目标卫星在占整个深度图的40%以上,且背景相对干净。
在步骤S102中,根据目标数据集中的先验信息对疑似目标点进行聚类,并判断是否存在疑似目标区域,以得到目标区域。
可以理解的是,目标区域检测:目标区域检测的目的是检测到具有疑似目标的数据区域,并将卫星的尺度占目标点区域的50%以上,这样能够大幅降低系统的运算维度,提高系统的识别成功率。对于空间目标而言,可以抽象出深度差约束,距离和方位约束、目标形态分布约束等三个约束特征。具体来讲,可以通过目标的深度差信息、目标轨道信息、目标本身形态信息等先验信息对疑似目标点进行聚类,并判断是否存在疑似目标区域。
具体而言,如图2所示,目标区域检测,具体包括:
目标区域检测主要是根据目标的深度差约束、距离方位约束、目标形态约束等约束条件进行目标区域的初步判断,从而减少后续卷积神经网络的运算量提高系统的识别效率,目标区域检测的基本流程参见图3。
(1)深度差约束
在太空背景中,目标在深度图像上的深度差包含了两部分,一是从无穷远跳变到一定的距离约束,称之为前跳变沿,二是从一定的距离约束跳变到无穷远处,称之为后跳变沿,只有同时满足两个条边沿的目标,才是疑似目标区域,深度跳变点分布示意参见图4。以激光采集的目标卫星A的深度图像为例,根据深度差约束,在第100行找到3个可以目标区域,分别对240行和320列进行深度差计算,最终会得到疑似目标点大致区域。以目标卫星A的点云数据为例,其深度跳变检测示意图如图5所示。
(2)距离和方位约束
编队卫星根据目标星的星历信息可以推算卫星的初始位置和方位,并且能够得到目标星的速度。在某一个时间段,某一个特定的姿态情况下,编队卫星只能出现在图像的某一个方位,并且大致距离范围固定。
(3)目标形态约束
由于目标的具体形态已知,可以根据目标的尺寸信息对目标的点云数据进行目标聚类,目标聚类的参数主要有两个:聚类点数和聚类尺寸,只有在聚类尺寸范围内,且聚类点的个数不少于疑似点的个数才能判断检测到疑似目标。由于目标的形态尺寸已知,因而可以根据目标的尺寸约束对点云数据进行目标聚类。当聚类尺寸过大时容易出现目标混叠现象,使得属于两个不同目标的数据混淆不利于后续的识别;聚类尺寸过小则容易出现过分割现象,使得本来属于同一个目标的点云数据划分到不同的目标内从而影响后续的目标识别。聚类点数同样需要根据目标尺寸、距离及传感器参数等进行合理选择,聚类点数阈值过低,使得目标尺寸利用不充分,使得虚警概率升高;聚类点数阈值过高,使得检测到的目标点个数达不到要求,容易出现漏警。以目标卫星A的点云数据为例,依据目标尺寸的进行目标区检测示意图参见图6。
在步骤S103中,通过预先采集的数据集对卷积神经网络进行训练以确定卷积神经网络的权值参数,以完成网络参数设置。
可以理解的是,CNN(Convolutional Neural Networks,卷积神经网络)的参数设置。基于卷积神经网络的多目标自主定位算法详细的算法流程如图2所示,其中卷积神经网络的参数设置是该算法的重要组成部分。本发明实施例采用训练的方式可以完成CNN系统的参数设置,即通过预先采集好的数据集对CNN进行训练的方式确定其权值参数。
进一步地,在本发明的一个实施例中,通过预先采集的数据集对卷积神经网络进行训练以确定卷积神经网络的权值参数,进一步包括:如果输入的深度图满足预设条件,则将深度图数据连接到卷积神经网络的输入层,其中,输入数据经过多层卷积和池化处理后,得到卷积神经网络各层的特征值及其输出,当输出的结果与目标之间的偏差大于期望值时,进行反向传播,并计算网络层中神经元的误差,并根据误差下降的梯度调整网络参数,针对调整完参数的神经网络,将输入数据再次进行卷积和池化,直到输出值与目标之间的偏差小于期望值时,结束网络参数设置。
可以理解的是,在卷积神经网络的训练过程中,为了保证目标特征提取的正确性,应保证在训练数据集的每一幅深度图片中只有唯一确定的单个卫星目标,并且其他疑似目标在整个深度图中的区域占比小于1%。如果输入的深度图满足上述要求,则将深度图数据连接到CNN网络的输入层。输入数据经过多层卷积和池化处理后,得到CNN各层的特征值及其输出,当输出的结果与目标之间的偏差大于期望值时,进行反向传播,计算网络层中神经元的误差,并根据误差下降的梯度调整网络参数,然后针对调整完参数的神经网络,将输入数据再次进行卷积和池化,如此反复循环直到输出值与目标之间的偏差小于期望值时,结束CNN网络参数设置。
具体而言,如图2所示,卷积神经网络(CNN)的参数设置,具体为:
(1)卷积神经网络(CNN)的设计
在实施过程中,根据目标深度数据的特点及运算效率的需求设计了面向空间目标识别的卷积神经网络模型,其基本结构参见图7。系统采用7层卷积神经网络设计,主要包含2个卷积层、2个池化层和3个全连接层,卷积层采用的都是5×5大小的卷积核/过滤器(kernel/filter),卷积核每次滑动一个像素(stride=1),一个特征图谱使用同一个卷积核。池化层采用的是2x2的输入域,即上一层的4个节点作为下一层1个节点的输入,且输入域不重叠,即每次滑动2个像素。
C1层是卷积层,设计了6个特征图谱,卷积核大小为5×5,每个特征图谱内参数共享,则C1层训练的参数有6×316×236个。S2层为池化层,采用2×2的特征图谱,S2层训练的参数共有6×158×118。C3层是卷积层,C3层采用了16个特征图谱,同样也采用5×5的卷积核,步进为1,该层需要训练的参数为16×154×114个。S4为池化层,采用2×2的卷积核,步进为2,则需要训练的参数有16×77×57个。C5为全连接层,是将S4层的16×77×57的矩阵转换为一维的1×1×70224的向量。F6层是全连接层,其输出84个节点。
(2)卷积神经网络(CNN)的权值参数设置
在参数设定过程中,系统采用训练方式完成CNN权值参数的设定,具体的算法流程参见图2。首先,将事先采集的数据集及相应的目标编号输入到系统中,系统通过目标区域检测对输入数据进行判断若其中目标占比符合要求,则将数据接入到CNN的输入层,然后使用根据当前给定的输入量和目标输出求解当前各隐含层及各输出层的输出,求出实际输出值与目标值之间的偏差,当输出值与目标值之间的偏差值大于期望值时,计算CNN网络层中神经元的误差并按照误差梯度下降的方向进行权值更新,然后再次将输入数据集带入到调整后的CNN网络进行卷积和池化,经过反复迭代直到输出值与目标值之间的偏差满足要求时完成卷积神经网络的权值参数设置。
在实时过程中,实际使用目标卫星A的有效深度数据集292张;目标卫星B有效深度数据集283张;卫星C有效深度数据集159张,共计有效深度数据集734张来对卷积神经网络的参数进行训练。
在步骤S104中,在空间多目标定位过程中,通过训练的卷积神经网络对激光雷达实时获取的点云数据进行识别和聚类,以得到测量数据。
可以理解是,基于卷积神经网络(CNN)的目标识别与聚类。在空间多目标定位过程中,系统使用训练好的CNN网络对激光雷达实时获取的点云数据进行识别和聚类。
进一步地,在本发明的一个实施例中,通过训练的卷积神经网络对激光雷达实时获取的点云数据进行识别和聚类,包括:对激光雷达获取的点云数据进行目标区域检测,以将输入的点云数据划分为多个独立的疑似目标区域;对每个疑似目标区域进行判断及预处理后并将其作为一个单独的输入数据连接到卷积神经网络的输入层,使得卷积神经网络根据训练好的参数对点云数据进行识别,其中,将属于同一目标的点云数据化为一类,以实现对多个空间目标的数据聚类。
可以理解是,在激光雷达获取的点云数据首先进行目标区域检测,经过目标区域检测后输入点云数据会被划分为几个独立的疑似目标区域,对每个疑似的目标进行简单的判断及预处理后并将其作为一个单独的输入数据连接到CNN的输入层,CNN根据训练好的参数对点云数据进行识别,并将属于同一目标的点云数据化为一类,从而实现对多个空间目标的数据聚类。
具体而言,如图2所示,基于卷积神经网络(CNN)的目标识别与聚类,具体为:
(1)目标识别
在通过现有数据集完成CNN网络的参数设置后,可以使用该卷积神经网络对激光雷采集的实时数据进行目标识别。首先系统根据通过目标区域检测将激光雷达点云数据划分为几个疑似的目标区域,然后使用训练好卷积神经网络对疑似目标进行识别。
在实施过程中,系统使用的测试数据为实验室环境下激光雷达采集的点云数据,包括实验室场景下目标卫星A深度图片629张;目标卫星B深度图片563张;目标卫星C深度图片190张用做测试。系统分别对有单个目标、有多个目标、有假目标、无目标等多种情况进行了目标识别,经过测试使用该卷积神经网络算法进行深度目标识别的误检率小于1%,图8为使用该方法进行卫星目标识别的目标分类混淆矩阵。
(2)目标聚类
即传感器新近获取的点云数据,经过CNN网络的识别后根据目标的类别进行聚类,将属于不同目标的数据化为一组,例如将属于目标卫星A的点云数据化为一组表示为MA,同理属于目标卫星B表示为MB,属于目标卫星C的数据可以表示为MC。图9为激光雷达点云数据的识别与聚类示意图。
在步骤S105中,根据测量数据进行多目标自主定位,得到定位结果。
其中,在本发明的一个实施例中,根据测量数据进行多目标自主定位,包括:在进行识别和聚类后,采用目标点云数据的数学平均代替目标卫星的几何中心,以得到目标卫星在激光雷达传感器测量坐标系的位置。
可以理解的是,基于激光雷达的多目标自主定位。激光雷达获取的测量数据,经过卷积神经网络进行目标点云聚类后,采用目标点云数据的数学平均来代替目标的几何中心,即用点云平均坐标代替目标质心就可得到目标在激光雷达传感器测量坐标系中的位置。
具体而言,如图2所示,基于激光雷达的多目标自主定位,具体为:
在得到目标聚类点云数据后,以点云数据的中心在传感器测量坐标系中的坐标代替目标质心位置即可得到目标在空间中的位置。实施过程中,由于微纳航天器的尺寸较小,因此可以通过加权平均来计算目标的方位和距离。以目标卫星A为例,若采集到的目标卫星A的点云数据为CNN分类出来的目标点云数据即Ai∈MA,则目标卫星A的方位距离输出可表示为:
式中Ai为目标卫星A的点云数据:即αi、βi、li。式中XA、YA、ZA为目标卫星A在传感器测量坐标系中三维位置坐标。由上式可以得到目标卫星A在激光雷达传感器测量坐标系中的位置。
另外,本发明实施例的方法基本原理框架如图10所示,主要包括数据集采集、目标区域检测、卷积神经网络的训练、多目标识别与聚类、基于激光雷达的多目标自主定位等部分。
根据本发明实施例提出的基于激光雷达的多目标自主定位方法,利用激光雷达主动探测空间目标的距离图像,结合深度学习算法和数据聚类算法,能够进行空间目标识别与定位,从而可以有效解决基于微纳航天器的分布式遥感系统的星间自主测量问题,进而能够实现编队的多目标自主识别与星间自主定位,具有识别率高,目标定位准确等特点。
其次参照附图描述根据本发明实施例提出的基于激光雷达的多目标自主定位装置。
图11是本发明一个实施例的基于激光雷达的多目标自主定位装置的结构示意图。
如图11所示,该基于激光雷达的多目标自主定位装置10包括:采集模块100、聚类模块200、训练模块300、识别模块400和定位模块500。
其中,采集模块100用于通过激光雷达采集目标卫星的目标数据集。聚类模块200用于根据目标数据集中的先验信息对疑似目标点进行聚类,并判断是否存在疑似目标区域,以得到目标区域。训练模块300用于通过预先采集的数据集对卷积神经网络进行训练以确定卷积神经网络的权值参数,以完成网络参数设置。识别模块400用于在空间多目标定位过程中,通过训练的卷积神经网络对激光雷达实时获取的点云数据进行识别和聚类,以得到测量数据。定位模块500用于根据测量数据进行多目标自主定位,得到定位结果。本发明实施例的装置10可以有效解决基于微纳航天器的分布式遥感系统的星间自主测量问题,进而能够实现编队的多目标自主识别与星间自主定位,具有识别率高,目标定位准确等特点。
进一步地,在本发明的一个实施例中,采集模块100进一步用于将目标卫星的卫星模型放置于暗室中,并通过激光雷达从不同角度、不同位置、对不同目标卫星的进行云点数据的采集,并对采集的数据集按目标类别进行归类,以得到目标数据集。
进一步地,在本发明的一个实施例中,训练模块300进一步用于在输入的深度图满足预设条件时,将深度图数据连接到卷积神经网络的输入层,其中,输入数据经过多层卷积和池化处理后,得到卷积神经网络各层的特征值及其输出,当输出的结果与目标之间的偏差大于期望值时,进行反向传播,并计算网络层中神经元的误差,并根据误差下降的梯度调整网络参数,针对调整完参数的神经网络,将输入数据再次进行卷积和池化,直到输出值与目标之间的偏差小于期望值时,结束网络参数设置。
进一步地,在本发明的一个实施例中,识别模块400进一步用于对激光雷达获取的点云数据进行目标区域检测,以将输入的点云数据划分为多个独立的疑似目标区域,并对每个疑似目标区域进行判断及预处理后并将其作为一个单独的输入数据连接到卷积神经网络的输入层,使得卷积神经网络根据训练好的参数对点云数据进行识别,其中,将属于同一目标的点云数据化为一类,以实现对多个空间目标的数据聚类。
进一步地,在本发明的一个实施例中,定位模块500进一步用于在进行识别和聚类后,采用目标点云数据的数学平均代替目标卫星的几何中心,以得到目标卫星在激光雷达传感器测量坐标系的位置。
需要说明的是,前述对基于激光雷达的多目标自主定位方法实施例的解释说明也适用于该实施例的基于激光雷达的多目标自主定位装置,此处不再赘述。
根据本发明实施例提出的基于激光雷达的多目标自主定位装置,利用激光雷达主动探测空间目标的距离图像,结合深度学习算法和数据聚类算法,能够进行空间目标识别与定位,从而可以有效解决基于微纳航天器的分布式遥感系统的星间自主测量问题,进而能够实现编队的多目标自主识别与星间自主定位,具有识别率高,目标定位准确等特点。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触,或第一和第二特征通过中间媒介间接接触。而且,第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方,或仅仅表示第一特征水平高度小于第二特征。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (10)
1.一种基于激光雷达的多目标自主定位方法,其特征在于,包括以下步骤:
通过激光雷达采集目标卫星的目标数据集;
根据所述目标数据集中的先验信息对疑似目标点进行聚类,并判断是否存在疑似目标区域,以得到目标区域;
通过预先采集的数据集对卷积神经网络进行训练以确定所述卷积神经网络的权值参数,以完成网络参数设置;
在空间多目标定位过程中,通过训练的所述卷积神经网络对所述激光雷达实时获取的点云数据进行识别和聚类,以得到测量数据;以及
根据所述测量数据进行多目标自主定位,得到定位结果。
2.根据权利要求1所述的方法,其特征在于,所述采集目标卫星的目标数据集,包括:
将目标卫星的卫星模型放置于暗室中;
通过激光雷达从不同角度、不同位置、对不同目标卫星的进行云点数据的采集,并对采集的数据集按目标类别进行归类,以得到所述目标数据集。
3.根据权利要求1所述的方法,其特征在于,所述通过预先采集的数据集对卷积神经网络进行训练以确定所述卷积神经网络的权值参数,进一步包括:
如果输入的深度图满足预设条件,则将深度图数据连接到所述卷积神经网络的输入层,其中,输入数据经过多层卷积和池化处理后,得到所述卷积神经网络各层的特征值及其输出,当输出的结果与目标之间的偏差大于期望值时,进行反向传播,并计算网络层中神经元的误差,并根据所述误差下降的梯度调整所述网络参数,针对调整完参数的神经网络,将所述输入数据再次进行卷积和池化,直到输出值与目标之间的偏差小于所述期望值时,结束所述网络参数设置。
4.根据权利要求1所述的方法,其特征在于,所述通过训练的所述卷积神经网络对所述激光雷达实时获取的点云数据进行识别和聚类,包括:
对所述激光雷达获取的点云数据进行目标区域检测,以将输入的点云数据划分为多个独立的疑似目标区域;
对每个疑似目标区域进行判断及预处理后并将其作为一个单独的输入数据连接到所述卷积神经网络的输入层,使得所述卷积神经网络根据训练好的参数对所述点云数据进行识别,其中,将属于同一目标的点云数据化为一类,以实现对多个空间目标的数据聚类。
5.根据权利要求1所述的方法,其特征在于,所述根据所述测量数据进行多目标自主定位,包括:
在进行识别和聚类后,采用目标点云数据的数学平均代替所述目标卫星的几何中心,以得到所述目标卫星在激光雷达传感器测量坐标系的位置。
6.一种基于激光雷达的多目标自主定位装置,其特征在于,包括:
采集模块,用于通过激光雷达采集目标卫星的目标数据集;
聚类模块,用于根据所述目标数据集中的先验信息对疑似目标点进行聚类,并判断是否存在疑似目标区域,以得到目标区域;
训练模块,用于通过预先采集的数据集对卷积神经网络进行训练以确定所述卷积神经网络的权值参数,以完成网络参数设置;
识别模块,用于在空间多目标定位过程中,通过训练的所述卷积神经网络对所述激光雷达实时获取的点云数据进行识别和聚类,以得到测量数据;以及
定位模块,用于根据所述测量数据进行多目标自主定位,得到定位结果。
7.根据权利要求1所述的装置,其特征在于,所述采集模块进一步用于将目标卫星的卫星模型放置于暗室中,并通过激光雷达从不同角度、不同位置、对不同目标卫星的进行云点数据的采集,并对采集的数据集按目标类别进行归类,以得到所述目标数据集。
8.根据权利要求6所述的装置,其特征在于,所述训练模块进一步用于在输入的深度图满足预设条件时,将深度图数据连接到所述卷积神经网络的输入层,其中,输入数据经过多层卷积和池化处理后,得到所述卷积神经网络各层的特征值及其输出,当输出的结果与目标之间的偏差大于期望值时,进行反向传播,并计算网络层中神经元的误差,并根据所述误差下降的梯度调整所述网络参数,针对调整完参数的神经网络,将所述输入数据再次进行卷积和池化,直到输出值与目标之间的偏差小于所述期望值时,结束所述网络参数设置。
9.根据权利要求6所述的装置,其特征在于,所述识别模块进一步用于对所述激光雷达获取的点云数据进行目标区域检测,以将输入的点云数据划分为多个独立的疑似目标区域,并对每个疑似目标区域进行判断及预处理后并将其作为一个单独的输入数据连接到所述卷积神经网络的输入层,使得所述卷积神经网络根据训练好的参数对所述点云数据进行识别,其中,将属于同一目标的点云数据化为一类,以实现对多个空间目标的数据聚类。
10.根据权利要求6所述的方法,其特征在于,所述定位模块进一步用于在进行识别和聚类后,采用目标点云数据的数学平均代替所述目标卫星的几何中心,以得到所述目标卫星在激光雷达传感器测量坐标系的位置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910228590.6A CN109959911A (zh) | 2019-03-25 | 2019-03-25 | 基于激光雷达的多目标自主定位方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910228590.6A CN109959911A (zh) | 2019-03-25 | 2019-03-25 | 基于激光雷达的多目标自主定位方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109959911A true CN109959911A (zh) | 2019-07-02 |
Family
ID=67025029
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910228590.6A Pending CN109959911A (zh) | 2019-03-25 | 2019-03-25 | 基于激光雷达的多目标自主定位方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109959911A (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110346808A (zh) * | 2019-07-15 | 2019-10-18 | 上海点积实业有限公司 | 一种激光雷达的点云数据处理方法和系统 |
CN110674696A (zh) * | 2019-08-28 | 2020-01-10 | 珠海格力电器股份有限公司 | 一种监控方法、装置、系统、监控设备及可读存储介质 |
CN111103578A (zh) * | 2020-01-10 | 2020-05-05 | 清华大学 | 一种基于深度卷积神经网络的激光雷达在线标定方法 |
CN111105495A (zh) * | 2019-11-26 | 2020-05-05 | 四川阿泰因机器人智能装备有限公司 | 一种融合视觉语义信息的激光雷达建图方法及系统 |
CN111103577A (zh) * | 2020-01-07 | 2020-05-05 | 湖南大学 | 一种基于循环神经网络的端到端激光雷达标定方法 |
CN111402328A (zh) * | 2020-03-17 | 2020-07-10 | 北京图森智途科技有限公司 | 一种基于激光里程计的位姿计算方法及装置 |
CN112066977A (zh) * | 2020-09-15 | 2020-12-11 | 中国人民解放军63660部队 | 一种光电测量网络多目标匹配与编目方法 |
CN112327903A (zh) * | 2020-09-15 | 2021-02-05 | 南京航空航天大学 | 一种基于深度混合密度网络的航空器轨迹生成方法 |
CN112904306A (zh) * | 2021-01-18 | 2021-06-04 | 深圳市普渡科技有限公司 | 斜坡感知方法、装置、机器人和存储介质 |
CN116503821A (zh) * | 2023-06-19 | 2023-07-28 | 成都经开地理信息勘测设计院有限公司 | 基于点云数据和图像识别的道路标识识别方法及系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106371105A (zh) * | 2016-08-16 | 2017-02-01 | 长春理工大学 | 单线激光雷达车辆目标识别方法、装置和汽车 |
CN107330925A (zh) * | 2017-05-11 | 2017-11-07 | 北京交通大学 | 一种基于激光雷达深度图像的多障碍物检测和跟踪方法 |
CN107330405A (zh) * | 2017-06-30 | 2017-11-07 | 上海海事大学 | 基于卷积神经网络的遥感图像飞机目标识别方法 |
CN108140131A (zh) * | 2015-10-04 | 2018-06-08 | 艾腾怀斯股份有限公司 | 用于将卷积网络应用于空间数据的系统和方法 |
WO2018170472A1 (en) * | 2017-03-17 | 2018-09-20 | Honda Motor Co., Ltd. | Joint 3d object detection and orientation estimation via multimodal fusion |
CN108596101A (zh) * | 2018-04-25 | 2018-09-28 | 上海交通大学 | 一种基于卷积神经网络的遥感图像多目标检测方法 |
CN109144072A (zh) * | 2018-09-30 | 2019-01-04 | 亿嘉和科技股份有限公司 | 一种基于三维激光的机器人智能避障方法 |
-
2019
- 2019-03-25 CN CN201910228590.6A patent/CN109959911A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108140131A (zh) * | 2015-10-04 | 2018-06-08 | 艾腾怀斯股份有限公司 | 用于将卷积网络应用于空间数据的系统和方法 |
CN106371105A (zh) * | 2016-08-16 | 2017-02-01 | 长春理工大学 | 单线激光雷达车辆目标识别方法、装置和汽车 |
WO2018170472A1 (en) * | 2017-03-17 | 2018-09-20 | Honda Motor Co., Ltd. | Joint 3d object detection and orientation estimation via multimodal fusion |
CN107330925A (zh) * | 2017-05-11 | 2017-11-07 | 北京交通大学 | 一种基于激光雷达深度图像的多障碍物检测和跟踪方法 |
CN107330405A (zh) * | 2017-06-30 | 2017-11-07 | 上海海事大学 | 基于卷积神经网络的遥感图像飞机目标识别方法 |
CN108596101A (zh) * | 2018-04-25 | 2018-09-28 | 上海交通大学 | 一种基于卷积神经网络的遥感图像多目标检测方法 |
CN109144072A (zh) * | 2018-09-30 | 2019-01-04 | 亿嘉和科技股份有限公司 | 一种基于三维激光的机器人智能避障方法 |
Non-Patent Citations (1)
Title |
---|
杨文辉: "基于激光雷达点云图像的目标识别方法研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110346808A (zh) * | 2019-07-15 | 2019-10-18 | 上海点积实业有限公司 | 一种激光雷达的点云数据处理方法和系统 |
CN110674696A (zh) * | 2019-08-28 | 2020-01-10 | 珠海格力电器股份有限公司 | 一种监控方法、装置、系统、监控设备及可读存储介质 |
CN111105495A (zh) * | 2019-11-26 | 2020-05-05 | 四川阿泰因机器人智能装备有限公司 | 一种融合视觉语义信息的激光雷达建图方法及系统 |
CN111103577A (zh) * | 2020-01-07 | 2020-05-05 | 湖南大学 | 一种基于循环神经网络的端到端激光雷达标定方法 |
CN111103578A (zh) * | 2020-01-10 | 2020-05-05 | 清华大学 | 一种基于深度卷积神经网络的激光雷达在线标定方法 |
CN111402328B (zh) * | 2020-03-17 | 2023-11-10 | 北京图森智途科技有限公司 | 一种基于激光里程计的位姿计算方法及装置 |
CN111402328A (zh) * | 2020-03-17 | 2020-07-10 | 北京图森智途科技有限公司 | 一种基于激光里程计的位姿计算方法及装置 |
CN112066977A (zh) * | 2020-09-15 | 2020-12-11 | 中国人民解放军63660部队 | 一种光电测量网络多目标匹配与编目方法 |
CN112327903A (zh) * | 2020-09-15 | 2021-02-05 | 南京航空航天大学 | 一种基于深度混合密度网络的航空器轨迹生成方法 |
CN112066977B (zh) * | 2020-09-15 | 2024-02-27 | 中国人民解放军63660部队 | 一种光电测量网络多目标匹配与编目方法 |
CN112904306A (zh) * | 2021-01-18 | 2021-06-04 | 深圳市普渡科技有限公司 | 斜坡感知方法、装置、机器人和存储介质 |
CN116503821A (zh) * | 2023-06-19 | 2023-07-28 | 成都经开地理信息勘测设计院有限公司 | 基于点云数据和图像识别的道路标识识别方法及系统 |
CN116503821B (zh) * | 2023-06-19 | 2023-08-25 | 成都经开地理信息勘测设计院有限公司 | 基于点云数据和图像识别的道路标识识别方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109959911A (zh) | 基于激光雷达的多目标自主定位方法及装置 | |
Selvaraj et al. | Detection of banana plants and their major diseases through aerial images and machine learning methods: A case study in DR Congo and Republic of Benin | |
Verma et al. | Transfer learning approach to map urban slums using high and medium resolution satellite imagery | |
CN110866887A (zh) | 一种基于多传感器的目标态势融合感知方法和系统 | |
Van Niekerk | A comparison of land unit delineation techniques for land evaluation in the Western Cape, South Africa | |
CN108027887A (zh) | 用于实时自动化多传感器数据融合和分析的决策支持的便携式设备和方法 | |
Perlovsky et al. | Model-based neural network for target detection in SAR images | |
RU2265866C1 (ru) | Способ повышения радиолокационного разрешения, система для его осуществления и способ дистанционного выявления системой малоразмерных объектов | |
Habibie et al. | Deep learning algorithms to determine drought prone areas using remote sensing and GIS | |
CN107966710A (zh) | 一种基于太赫兹孔径编码成像的三维目标高分辨成像方法 | |
Agarwal et al. | Development of neural network based adaptive change detection technique for land terrain monitoring with satellite and drone images | |
WO2019220474A1 (en) | Apparatus and method to classify full waveform data from retro-flected signals | |
AU2021306034A1 (en) | Vegetation management system and vegetation management method | |
Shiu et al. | Mapping paddy rice agriculture in a highly fragmented area using a geographic information system object-based post classification process | |
Mezhuyev et al. | A Method for Planning the Routes of Harvesting Equipment using Unmanned Aerial Vehicles. | |
Paulin et al. | Application of raycast method for person geolocalization and distance determination using UAV images in Real-World land search and rescue scenarios | |
RU2769575C1 (ru) | Способ генерации карт деградации почвенного покрова | |
RU38235U1 (ru) | Система дистанционного выявления малоразмерных объектов | |
Mathivanan et al. | Utilizing satellite and UAV data for crop yield prediction and monitoring through deep learning | |
Edwards et al. | A cognitive view of spatial uncertainty | |
Mostafa | Comparison of Land cover change detection methods using SPOT images | |
Liu et al. | Object-based island green cover mapping by integrating UAV multispectral image and LiDAR data | |
Morchhale | Deep convolutional neural networks for classification of fused hyperspectral and LiDAR data | |
Tanhuanpää et al. | Accuracy of high-altitude photogrammetric point clouds in mapping | |
Harikumar | Advanced methods for tree species classification and biophysical parameter estimation using crown geometric information in high density LiDAR data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190702 |