CN117630941A - 信号处理方法及其相关产品 - Google Patents
信号处理方法及其相关产品 Download PDFInfo
- Publication number
- CN117630941A CN117630941A CN202310180861.1A CN202310180861A CN117630941A CN 117630941 A CN117630941 A CN 117630941A CN 202310180861 A CN202310180861 A CN 202310180861A CN 117630941 A CN117630941 A CN 117630941A
- Authority
- CN
- China
- Prior art keywords
- sampling
- structured data
- radar sensor
- signal processing
- millimeter wave
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 28
- 238000005070 sampling Methods 0.000 claims abstract description 112
- 238000001514 detection method Methods 0.000 claims abstract description 68
- 230000004927 fusion Effects 0.000 claims abstract description 34
- 238000000034 method Methods 0.000 claims abstract description 31
- 238000013135 deep learning Methods 0.000 claims abstract description 30
- 238000007499 fusion processing Methods 0.000 claims abstract description 15
- 238000012545 processing Methods 0.000 claims description 47
- 230000001360 synchronised effect Effects 0.000 claims description 11
- 238000007781 pre-processing Methods 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 10
- 238000000605 extraction Methods 0.000 claims description 9
- 238000013527 convolutional neural network Methods 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 238000010183 spectrum analysis Methods 0.000 claims description 3
- 238000005259 measurement Methods 0.000 abstract description 8
- 230000007613 environmental effect Effects 0.000 abstract description 7
- 230000008901 benefit Effects 0.000 abstract description 5
- 238000005516 engineering process Methods 0.000 abstract description 4
- 238000011161 development Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 7
- 230000008447 perception Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 239000002245 particle Substances 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 238000013519 translation Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000002592 echocardiography Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000002366 time-of-flight method Methods 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 210000001835 viscera Anatomy 0.000 description 1
Landscapes
- Radar Systems Or Details Thereof (AREA)
Abstract
本发明涉及一种信号处理方法及其相关产品。所述方法包括:获取不同雷达传感器关于检测目标的原始采样信号;以及利用预训练的深度学习融合模型对获取到的原始采样信号进行融合处理,以得到所述检测目标的检测结果。通过本发明的方案,能够结合多频段电磁波的优势,并基于深度学习融合模型在原始信号层级上对多元信号输入进行融合,使得可以对环境的测量感知具有刚强的鲁棒性和更高的感知精度,进而助力于环境感知技术的发展。另外,本发明还涉及一种设备和计算机可读存储介质。
Description
技术领域
本发明一般地涉及雷达技术领域。更具体地,本发明涉及一种信号处理方法、用于执行前述信号处理方法的设备和计算机可读存储介质。
背景技术
本部分旨在为权利要求书中陈述的本发明的实施方式提供背景或上下文。此处的描述可包括可以探究的概念,但不一定是之前已经想到或者已经探究的概念。因此,除非在此指出,否则在本部分中描述的内容对于本申请的说明书和权利要求书而言不是现有技术,并且并不因为包括在本部分中就承认是现有技术。
在环境感知领域中,通常会采用单传感器对环境进行感知。例如,自动驾驶的环境感知领域中多采用单一激光雷达传感器对环境进行精细感知。具体地,通过激光扫描的方式,以在较大的距离下还原出周围环境的精细三维信息。但是,当环境中出现肉眼可见的噪声时,激光雷达的表现将会急剧下降。例如,在出现团雾、暴雨、大雪、沙尘等天气时,由于空气中的粒子直径与激光雷达的波长相当并且量足够大,激光在入射到这些粒子聚合体中时,会发生衰减和后向散射。由此,一方面会产生对于空气中粒子聚合体的误检测回波,另一方面降低了激光的传输功率,以及缩小了激光雷达的探测范围。
为此,现有技术中还会采用更长波长的电磁波来进行感知探测,以降低噪声的影响。然而,改用更长的波长也就意味着更粗略的探测精度,虽然起到了抗干扰的作用,但同时也意味着测量精细度的降低,从而无法有效保证检测结果。
发明内容
为了至少解决上述背景技术部分所描述的技术问题,本发明提出了一种信号处理方案。利用本发明的方案,通过对不同雷达传感器的原始采样信号的融合处理来得到检测结果,使得对环境感知具有更强的鲁棒性以及更高的感知精度。鉴于此,本发明在如下的多个方面提供解决方案。
本发明的第一方面提供了一种信号处理方法,包括:获取不同雷达传感器关于检测目标的原始采样信号;以及利用预训练的深度学习融合模型对获取到的原始采样信号进行融合处理,以得到所述检测目标的检测结果。
在一个实施例中,其中所述不同雷达传感器包括毫米波雷达传感器和激光雷达传感器,获取不同雷达传感器关于检测目标的原始采样信号包括:获取所述毫米波雷达传感器和所述激光雷达传感器关于检测目标在时间和空间上同步的采样信号,并确定其为所述原始采样信号。
在一个实施例中,其中所述毫米波雷达传感器和所述激光雷达传感器配置相同的视场,获取所述毫米波雷达传感器和所述激光雷达传感器关于检测目标在时间和空间上同步的采样信号包括:获取所述毫米波雷达传感器基于连续调频方式得到的采样信号;获取所述激光雷达传感器基于脉冲时间飞行方式得到的采样信号;以及对所述毫米波雷达传感器的采样信号和所述激光雷达传感器的采样信号进行时间上和空间上的对齐处理,以得到在时间和空间上同步的原始采样信号。
在一个实施例中,获取所述毫米波雷达传感器基于连续调频方式得到的采样信号包括:获取第一采样电路输出的关于所述毫米波雷达传感器的采样信号;其中所述第一采样电路包括AD采样器件、寄存器和第一网络端口,且所述AD采样器件配置为对所述毫米波雷达传感器的回波信号进行采样,所述寄存器配置为对AD采样器件采集的回波信号进行存储,所述第一网络端口配置为在确定完成每一帧回波信号的接收后,将其确定为所述毫米波雷达传感器的采样信号并输出。
在一个实施例中,获取所述激光雷达传感器基于脉冲时间飞行方式得到的采样信号包括:获取第二采样电路输出的关于所述激光雷达传感器的采样信号;其中所述第二采样电路包括AD等时采样器件和第二网络端口,其中AD等时采样器件配置为对所述激光雷达传感器中光电二极管的输出信号进行等时采样,所述第二网络端口配置为在确定完成每个角度的采样之后,将采样幅值序列确定为所述激光雷达传感器的采样信号并输出。
在一个实施例中,其中所述雷达传感器的原始采样信号包括非结构化数据点云,所述方法还包括:对所述毫米波雷达传感器的原始采样信号进行频谱分析,以得到角度距离图;其中利用预训练的深度学习融合模型对获取到的原始采样信号进行融合处理包括:利用预训练的深度学习融合模型对所述非结构化数据点云和所述角度距离图进行融合处理。
在一个实施例中,利用预训练的深度学习融合模型对所述非结构化数据点云和所述角度距离图进行融合处理包括:分别对所述非结构化数据点云和所述角度距离图进行预处理,以得到结构化数据;获取所述结构化数据的特征图;以及基于所述结构化数据的特征图确定所述检测目标的检测结果。
在一个实施例中,其中所述深度学习融合模型包括两个数据处理通道,分别对所述非结构化数据点云和所述角度距离图进行预处理以得到结构化数据包括:将所述非结构化数据点云和所述角度距离图分别输入至不同数据处理通道进行预处理,以得到结构化数据。
在一个实施例中,将所述非结构化数据点云和所述角度距离图分别输入至不同数据处理通道进行预处理,以得到结构化数据,包括:对一所述数据处理通道中的非结构化数据点云进行结构化处理,以得到稀疏伪图像,以及确定所述稀疏伪图像为所述非结构化数据点云对应的结构化数据;以及对另一所述数据处理通道中的角度距离图进行通道扩展处理,以得到所述角度距离图对应的结构化数据。
在一个实施例中,其中所述深度学习融合模型还包括点云物体检测网络模型,对一所述数据处理通道中的非结构化数据点云进行结构化处理包括:采用所述点云物体检测网络模型对所述非结构化数据点云进行结构化处理。
在一个实施例中,对另一所述数据处理通道中的角度距离图进行通道扩展处理包括:采用所述深度学习融合模型的卷积核对所述角度距离图进行通道扩展处理。
在一个实施例中,获取所述结构化数据的特征图包括:对所述结构化数据分别进行特征提取;对经特征提取后的结构化数据进行拼接处理;以及基于经拼接处理后的结构化数据确定所述结构化数据的特征图。
在一个实施例中,其中所述深度学习融合模型还包括卷积神经网络,对所述结构化数据分别进行特征提取包括:采用所述卷积神经网络的卷积核分别对所述结构化数据进行特征提取。
在一个实施例中,对经特征提取后的结构化数据进行拼接处理包括:依据所述角度距离图的原尺寸对经特征提取后的结构化数据进行拼接处理。
在一个实施例中,其中所述深度学习融合模型还包括YOLO算法模型,基于经拼接处理后的结构化数据确定所述结构化数据的特征图包括:
利用所述YOLO算法模型对经拼接处理后的结构化数据进行处理,以得到所述结构化数据的特征图。
在一个实施例中,基于所述结构化数据的特征图确定所述检测目标的检测结果包括:确定所述结构化数据的特征图中的目标像素位置;以及依据所述目标像素位置进行数据回归处理,以得到所述检测目标的检测结果。
本发明的第二方面提供了一种设备,包括:处理器;以及存储器,其存储有信号处理的计算机指令,当所述计算机指令由所述处理器运行时,使得所述设备执行前文第一方面以及在下文多个实施例中所述的方法。
本发明的第三方面提供了一种计算机可读存储介质,包括信号处理的计算机指令,当所述计算机指令由所述处理器运行时,使得实现前文第一方面以及在下文多个实施例中所述的方法。
利用本发明所提供的方案,对不同雷达传感器关于检测目标所采集到的原始采样信号进行融合处理,从而能够结合多频段电磁波的优势,并基于深度学习融合模型在原始信号层级上对多元信号输入进行融合,使得可以对环境的测量感知具有刚强的鲁棒性和更高的感知精度,进而助力于环境感知技术的发展。
附图说明
通过参考附图阅读下文的详细描述,本发明示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本发明的若干实施方式,并且相同或对应的标号表示相同或对应的部分,其中:
图1是示出根据本发明一个实施例的信号处理方法的流程图;
图2是示出根据本发明另一个实施例的信号处理方法的流程图;
图3是示出根据本发明实施例的对原始信号进行融合处理的流程图;
图4是示出根据本发明又一个实施例的信号处理方法的流程图;
图5是示出根据本发明实施例的深度学习融合模型的结构框图;
图6是示出根据本发明实施例的经数据处理通道预处理后的效果图;
图7是示出根据本发明实施例的检测结果的效果图;以及
图8是示出根据本发明实施例的设备的结构框图。
具体实施方式
下面将结合本发明实施方式中的附图,对本发明实施方式中的技术方案进行清楚、完整地描述,显然,所描述的实施方式是本发明一部分实施方式,而不是全部的实施方式。基于本发明中的实施方式,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。
应当理解,本发明的权利要求、说明书及附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。本发明的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施方式的目的,而并不意在限定本发明。如在本发明说明书和权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一步理解,在本发明说明书和权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
下面结合附图来详细描述本发明的具体实施方式。
以下结合图1至图8对本发明的方案进行具体说明。
图1是示出根据本发明一个实施例的信号处理方法100的流程图。
如图1所示,在步骤S101处,可以获取不同雷达传感器关于检测目标的原始采样信号。发明人发现,传感器对于环境的感知很难做到对环境的完美还原。一方面是由于电子电路对于环境的采样噪声和离散采样,另一方面则是由于物理原理性的采样载体缺陷。对于利用电磁波进行的环境感知的方式来说,电磁波的波段决定了感知的可探测性和探测精细程度。例如x光,其能够起到穿透人体表皮组织对内脏和骨骼进行成像的作用,但对于希望忽略真实目标前面噪声的采样需求,这种手段由于足够精细,而无法避开噪声影响。而更长的波段能够绕射微粒直径小于自身波长的噪声,直接在被测目标上成像,例如空地扫描雷达。然而,更长波段的传感器虽然能够降低噪声干扰,但同时也意味着测量精细度的降低。
基于此,发明人发现可以综合不同雷达传感器的不同波段电磁波的优势进行感知测量。同时考虑到现阶段对传感器采样信号的研究多是针对传感器输出的后处理结果,若是利用这种后处理结果进行融合处理会限制融合效果。特别是,当传感器遇到挑战性信号时,无法将微弱但是真实的信号作为高置信度测量结果输出,就造成了漏检,从而影响融合结果。若强行降低传感器的输出阈值,则容易造成虚警。对此,发明人经研究发现,雷达传感器的原始采样信号可以最大程度上保留有效信息。因此,通过获取不同雷达传感器所采样到的原始采样信号为后续得到精准的检测结果提供必要前提保证。
需要说明的是,前述的检测目标可以是雷达传感器的各种应用场景中待检测的目标,而应用场景可以是自动驾驶场景或其他需要进行环境感知的场景。
在完成原始采样信号的获取之后,接着,在步骤S102处,可以利用预训练的深度学习融合模型对获取到的原始采样信号进行融合处理,以得到检测目标的检测结果。利用深度学习融合模型对原始采样信号进行融合处理,以实现在信号层级上进行多元采样信号的融合处理,使得可以对环境的测量感知具有刚强的鲁棒性和更高的感知精度。
在一些实施例中,前述的不同雷达传感器可以包括毫米波雷达传感器和激光雷达传感器,具体可以获取毫米波雷达传感器和激光雷达传感器关于检测目标在时间和空间上同步的采样信号,并确定其为前述的原始采样信号。需要说明的是,这里仅以毫米波雷达传感器和激光雷达传感器为例进行说明,本发明的方案并不受此限制。这里对雷达传感器的类型并不进行限制,具体可以根据应用场景需求、雷达传感器的感知波段的差异和主被动测距调制手段的差异来综合多种不同波段雷达传感器的优势。
以下以毫米波雷达传感器和激光雷达传感器为例并结合图2和图3对本发明的方案进一步说明。需要说明的是,这里的毫米波雷达传感器和激光雷达传感器需要配置相同的视场。在一些实施场景中,毫米波雷达传感器的覆盖视场可以是前向180°空间或者更小,而激光雷达传感器可以存在有限视场和360°环视视场。在进行视场匹配时,前向扫描激光雷达传感器配合一个毫米波面阵雷达就可以完成对前向视场的扫描成像,而360°环视激光雷达则按需搭配多个毫米波面阵雷达传感器,且要求多个毫米波视场存在部分重叠。又或者,360°环视激光雷达配合一个同样是360°环视的毫米波雷达。可以理解的是,这里对不同雷达传感器之间的视场匹配的细节性描述仅是示例性说明,本发明的方案并不受此限制。
图2是示出根据本发明另一个实施例的信号处理方法200的流程图。需要说明的是,方法200是对图1中方法100的进一步限定和扩充。因此,前文结合图1的相关细节性描述同样适用于下文。
如图2所示,在步骤S201处,可以获取毫米波雷达传感器基于连续调频方式得到的采样信号。在一些实施例中,具体可以获取第一采样电路输出的关于所述毫米波雷达传感器的采样信号。其中前述的第一采样电路可以包括AD采样器件、寄存器和第一网络端口。在具体应用中,AD采样器件可以配置为对毫米波雷达传感器的回波信号进行采样,寄存器可以配置为对AD采样器件采集的回波信号进行存储,而第一网络端口可以配置为在确定完成每一帧回波信号的接收后,将其确定为毫米波雷达传感器的采样信号并输出。需要说明的是,这里仅是第一采样电路为例说明毫米波雷达传感器的采样信号的获取过程,本发明的方案并不受此局限。另外,第一采样电路中的各个器件的类型也并不进行限制,市面上流通的能支持相应功能的器件均可。
接着,在步骤S202处,可以获取激光雷达传感器基于脉冲时间飞行方式得到的采样信号。在一些实施例中,可以获取第二采样电路输出的关于激光雷达传感器的采样信号。其中,前述的第二采样数据可以包括AD等时采样器件和第二网络端口。在具体应用中,AD等时采样器件可以配置为对激光雷达传感器中光电二极管的输出信号进行等时采样,而第二网络端口可以配置为在确定完成每个角度的采样之后,将采样幅值序列确定为激光雷达传感器的采样信号并输出。需要说明的是,这里仅是第二采样电路为例说明激光雷达传感器的采样信号的获取过程,本发明的方案并不受此局限。另外,第二采样电路中的各个器件的类型也并不进行限制,市面上流通的能支持相应功能的器件均可。
接着,在步骤S203处,可以对毫米波雷达传感器的采样信号和激光雷达传感器的采样信号进行时间上和空间上的对齐处理,以得到在时间和空间上同步的原始采样信号。在具体应用中,可以通过多种方式来实现采样信号在时间和空间上的同步。例如,可以通过硬件同步或软件同步方式来实现时间上的同步。其中,硬件同步方式包括由一方(激光雷达传感器或毫米波雷达传感器)每隔固定时间向另一方发送触发脉冲,另一方接收到触发脉冲后进行采样电磁波的发送和接收,然后二者同时输出采样信号。或者在激光雷达转动扫描时,每当激光雷达电机转过自身零点时,可以发送一个同步脉冲到毫米波雷达,毫米波雷达在接收到该触发脉冲时,开始发送连续调频电磁波(例如,载波为24GHz或者77GHz)。与此同时毫米波雷达接收天线开始接收电磁波回波,在发送结束之后,接收也差不多结束,而激光雷达也转动扫描过了相同的视场。此时,二者的采样信号可以实现时间上的同步。而在软件同步方式中,激光雷达传感器和毫米波雷达传感器分别有固定的输出帧率,可以将二者输出的每一帧在同一时间坐标轴下进行帧号对齐和平移对齐。以实现两者采样信号在时间上的对齐。
在一些实施例中,可以根据激光雷达传感器和毫米波雷达传感器的采样信号分别解算出检测目标的位置,然后将检测目标进行对齐(例如在同一空间坐标系下进行旋转平移对齐),以计算出激光雷达传感器和毫米波雷达传感器的相对位置参数(例如旋转矩阵和平移向量等),也即激光雷达传感器和毫米波雷达传感器的空间同步参数,从而实现两者采样信号在空间上的同步。
接着,在步骤S204处,可以利用预训练的深度学习融合模型对获取到的原始采样信号进行融合处理,以得到检测目标的检测结果。在一些实施例中,可以对毫米波雷达传感器的原始采样信号进行频谱分析以得到角度距离图,而激光雷达传感器的原始采样信号包括非结构化数据点云。由此,可以利用深度学习融合模型对非结构化数据点云和角度距离图进行融合处理。
对非结构化数据点云和角度距离图的融合处理方法可以有多种。图3是示出根据本发明实施例的对原始信号进行融合处理的一种可行方式。如图3所示,在步骤S204-1处,可以分别对非结构化数据点云和角度距离图进行预处理以得到结构化数据。例如,可以利用点云物体检测网络模型Pointpillar对非结构化数据点云进行处理以得到结构化数据,以及可以利用卷积网络对角度距离图进行处理以得到结构化数据。接着,在步骤S204-2处,可以获取结构化数据的特征图。例如,可以对结构化数据进行特征提取、拼接等处理,并基于处理后的结构化数据确定特征图。接着,在步骤S204-3处,可以基于前述的结构化数据的特征图确定检测目标的检测结果。例如,可以确定结构化数据的特征图中的目标像素位置,以及依据目标像素位置进行数据回归处理,从而得到检测目标的检测结果。需要说明的是,这里对融合处理过程的细节性描述仅是示例性说明。
为例更清楚的说明本发明的方案,以下结合图4~图7来进一步说明。
图4是示出根据本发明又一个实施例的信号处理方法400的流程图。图4可以理解为是图2中方法的一种具体实现过程。因此,前文结合图2的相关细节性描述同样也适用于下文。图4具体涉及可以对多个不同雷达传感器输入的采样信号进行处理,以得到在时间和空间上同步的原始采样信号,并使用深度学习融合模型将在时间和空间上同步的原始采样信号进行加权融合,构成一个统一的空间信号描述矩阵,以完成信号融合。
具体地,如图4所示,在步骤S401处,可以输入多个采样信号。具体地,以两个不同波段雷达传感器(例如激光雷达传感器和毫米波雷达传感器)信号的融合过程为例来说明。在一些实施例中,激光雷达可以包括905nm、1550nm波长的雷达等。毫米波雷达传感器可以包括77G、70G、24G频段的雷达等。其中,毫米波雷达传感器可以采用连续调频方法FMCW进行空间测量。具体从毫米波雷达传感器的射频天线上发送和接收基频为24GHz或77GHz的连续调制电磁波。然后,对毫米波雷达传感器的接收天线接收到的回波进行AD采样,并存储到寄存器。在完成一帧信号接收后从网络接口输出,以实现对毫米波雷达传感器的原始采样信号的获取。而激光雷达传感器可以采用脉冲时间飞行TOF法进行测距,并在激光雷达传感器的接收光电二极管后端进行AD等时采样。在完成每个角度的采样之后将采样幅值序列从网口输出,以实现对激光雷达传感器的原始采样信号的获取。
另外,在实际应用中,激光雷达传感器和毫米波雷达传感器需要进行视场匹配视场。具体地视场匹配过程可以参考前文中的相关描述,这里不再进行赘述。
接着,在步骤S402处进行时间同步处理和在步骤S403处进行空间同步处理。如前文所述,在进行时间同步处理时可以采样硬件同步方式或软件同步方式。而在进行空间同步时,可以解析出检测目标的位置,并利用检测目标的对齐处理算出激光雷达传感器和毫米波雷达传感器的空间同步参数。其中,这里的硬件同步、软件同步以及空间同步的具体过程可以参考前文相关描述,这里不再进行赘述。
接着,在步骤S404处,可以进行融合处理。在一些实施例中,可以对从毫米波雷达传感器得到的采样信号进行频谱分析(例如,多个维度的FFT处理),得到毫米波的角度距离图。其中,角度距离图的回波峰值处代表目标回波,横坐标为角度,纵坐标为距离,是一个极坐标系下的空间采样信号数据。而激光雷达传感器的采样信号是非结构化数据点云,可以对其进行结构化处理。然后,利用深度学习融合模型对结构化数据进行融合处理。
图5是示出根据本发明实施例的深度学习融合模型的一种可行架构。如图5所示,该深度学习融合模型包括两个数据处理通道、点云物体检测网络模型、卷积神经网络、YOLO算法模型和检测头等。在具体应用中,可以将非结构化数据点云和角度距离图分别输入至不同数据处理通道进行预处理,以得到结构化数据。例如,可以对一数据处理通道中的非结构化数据点云进行结构化处理,以得到稀疏伪图像,以及确定稀疏伪图像为非结构化数据点云对应的结构化数据。可以对另一数据处理通道中的角度距离图进行通道扩展处理,以得到角度距离图对应的结构化数据。在一些实施例中,具体可以利用采用所述点云物体检测网络模型对非结构化数据点云进行结构化处理,得到了俯视图下的pillar image(如图6中左侧图像所示)。而毫米波雷达传感器的角度距离图不需要进行过多处理,利用卷积神经网络的卷积核进行通道拓展即可,得到俯视图下的raw radar image(如图6中右侧图像所示)。
在经过数据处理通道进行数据处理之后,可以得到俯视图下的结构化数据。此时,可以采用卷积神经网络(例如CNN)的卷积核对结构化数据分别进行特征提取。然后,可以在角度距离图的原尺寸下对经特征提取后的结构化数据(例如XY channel)进行拼接处理,并送至编码器-解码器结构(例如图5中的YOLO算法模型)中进行特征的提取和转换,得到特征图。接着,特征图经检测头处理后输出检测结果。在一些实施例中,检测头可以采用anchorfree结构。具体地,经检测头输出的检测结果如图7所示(涉及最终结果图final result、关键点热图ground truth heatmap、预测掩码热图prediction heatmap map以及预测热图prediction heatmap),可以进行特征图中的关键点回归,找到出现目标的像素(pixel)位置,之后在这些pixel位置下对其他通道进行回归,构成最终的检测结果。
图8是示出根据本发明实施例的设备800的结构图。可以理解的是,前文结合图1至图4所描述的方法的一个可能的示例性执行载体可以是设备800。如图8所示,设备800可以包括处理器801和存储器802。其中存储器802存储有由计算机实施的信号处理的计算机指令,当所述计算机指令由处理器801运行时,使得设备800执行根据前文结合图1至图4所描述的方法。例如,在一些实施例中,设备800可以不同雷达传感器的原始采样信号获取、对原始采样信号的融合处理等。基于此,通过设备800可以对环境感知具有更强的鲁棒性以及更高的感知精度。
在一些实施场景中,设备800可以包括具有与不同雷达传感器交互功能以及信号融合处理功能的设备(例如该设备可以与不同雷达传感器集成为一体,或者与具有不同雷达传感器的组合通过多种通信方式配合),本发明的方案对设备800可具备的结构设计并不进行限制。
从上面关于本发明模块化设计的描述可以看出,本发明的系统可以根据应用场景或需求进行灵活地布置而不限于附图所示出的架构。进一步,还应当理解,本发明示例的执行操作的任何模块、单元、组件、服务器、计算机或设备可以包括或以其他方式访问计算机可读介质,诸如存储介质、计算机存储介质或数据存储设备(可移除的)和/或不可移动的)例如磁盘、光盘或磁带。计算机存储介质可以包括以用于存储信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质,例如计算机可读指令、数据结构、程序模块或其他数据。基于此,本发明也公开了一种计算机可读存储介质,其上存储有信号处理的计算机可读指令,该计算机可读指令被一个或多个处理器执行时,实现在前结合附图所描述的方法和操作。
虽然本说明书已经示出和描述了本发明的多个实施方式,但对于本领域技术人员显而易见的是,这样的实施方式是仅以示例的方式提供的。本领域技术人员在不偏离本发明思想和精神的情况下想到许多更改、改变和替代的方式。应当理解在实践本发明的过程中,可以采用本文所描述的本发明实施方式的各种替代方案。所附权利要求书旨在限定本发明的保护范围,并因此覆盖这些权利要求范围内的模块组成、等同或替代方案。
Claims (18)
1.一种信号处理方法,其特征在于,包括:
获取不同雷达传感器关于检测目标的原始采样信号;以及
利用预训练的深度学习融合模型对获取到的原始采样信号进行融合处理,以得到所述检测目标的检测结果。
2.根据权利要求1所述的信号处理方法,其特征在于,其中所述不同雷达传感器包括毫米波雷达传感器和激光雷达传感器,获取不同雷达传感器关于检测目标的原始采样信号包括:
获取所述毫米波雷达传感器和所述激光雷达传感器关于检测目标在时间和空间上同步的采样信号,并确定其为所述原始采样信号。
3.根据权利要求2所述的信号处理方法,其特征在于,其中所述毫米波雷达传感器和所述激光雷达传感器配置相同的视场,获取所述毫米波雷达传感器和所述激光雷达传感器关于检测目标在时间和空间上同步的采样信号包括:
获取所述毫米波雷达传感器基于连续调频方式得到的采样信号;
获取所述激光雷达传感器基于脉冲时间飞行方式得到的采样信号;以及
对所述毫米波雷达传感器的采样信号和所述激光雷达传感器的采样信号进行时间上和空间上的对齐处理,以得到在时间和空间上同步的原始采样信号。
4.根据权利要求3所述的信号处理方法,其特征在于,获取所述毫米波雷达传感器基于连续调频方式得到的采样信号包括:
获取第一采样电路输出的关于所述毫米波雷达传感器的采样信号;
其中所述第一采样电路包括AD采样器件、寄存器和第一网络端口,且所述AD采样器件配置为对所述毫米波雷达传感器的回波信号进行采样,所述寄存器配置为对AD采样器件采集的回波信号进行存储,所述第一网络端口配置为在确定完成每一帧回波信号的接收后,将其确定为所述毫米波雷达传感器的采样信号并输出。
5.根据权利要求3所述的信号处理方法,其特征在于,获取所述激光雷达传感器基于脉冲时间飞行方式得到的采样信号包括:
获取第二采样电路输出的关于所述激光雷达传感器的采样信号;
其中所述第二采样电路包括AD等时采样器件和第二网络端口,其中AD等时采样器件配置为对所述激光雷达传感器中光电二极管的输出信号进行等时采样,所述第二网络端口配置为在确定完成每个角度的采样之后,将采样幅值序列确定为所述激光雷达传感器的采样信号并输出。
6.根据权利要求1至5中任一项所述的信号处理方法,其特征在于,其中所述激光雷达传感器的原始采样信号包括非结构化数据点云,所述方法还包括:
对所述毫米波雷达传感器的原始采样信号进行频谱分析,以得到角度距离图;
其中利用预训练的深度学习融合模型对获取到的原始采样信号进行融合处理包括:
利用预训练的深度学习融合模型对所述非结构化数据点云和所述角度距离图进行融合处理。
7.根据权利要求6所述的信号处理方法,其特征在于,利用预训练的深度学习融合模型对所述非结构化数据点云和所述角度距离图进行融合处理包括:
分别对所述非结构化数据点云和所述角度距离图进行预处理,以得到结构化数据;
获取所述结构化数据的特征图;以及
基于所述结构化数据的特征图确定所述检测目标的检测结果。
8.根据权利要求7所述的信号处理方法,其特征在于,其中所述深度学习融合模型包括两个数据处理通道,分别对所述非结构化数据点云和所述角度距离图进行预处理以得到结构化数据包括:
将所述非结构化数据点云和所述角度距离图分别输入至不同数据处理通道进行预处理,以得到结构化数据。
9.根据权利要求8所述的信号处理方法,其特征在于,将所述非结构化数据点云和所述角度距离图分别输入至不同数据处理通道进行预处理,以得到结构化数据,包括:
对一所述数据处理通道中的非结构化数据点云进行结构化处理,以得到稀疏伪图像,以及确定所述稀疏伪图像为所述非结构化数据点云对应的结构化数据;以及
对另一所述数据处理通道中的角度距离图进行通道扩展处理,以得到所述角度距离图对应的结构化数据。
10.根据权利要求9所述的信号处理方法,其特征在于,其中所述深度学习融合模型还包括点云物体检测网络模型,对一所述数据处理通道中的非结构化数据点云进行结构化处理包括:
采用所述点云物体检测网络模型对所述非结构化数据点云进行结构化处理。
11.根据权利要求9所述的信号处理方法,其特征在于,对另一所述数据处理通道中的角度距离图进行通道扩展处理包括:
采用所述深度学习融合模型的卷积核对所述角度距离图进行通道扩展处理。
12.根据权利要求7所述的信号处理方法,其特征在于,获取所述结构化数据的特征图包括:
对所述结构化数据分别进行特征提取;
对经特征提取后的结构化数据进行拼接处理;以及
基于经拼接处理后的结构化数据确定所述结构化数据的特征图。
13.根据权利要求12所述的信号处理方法,其特征在于,其中所述深度学习融合模型还包括卷积神经网络,对所述结构化数据分别进行特征提取包括:
采用所述卷积神经网络的卷积核分别对所述结构化数据进行特征提取。
14.根据权利要求12所述的信号处理方法,其特征在于,对经特征提取后的结构化数据进行拼接处理包括:
依据所述角度距离图的原尺寸对经特征提取后的结构化数据进行拼接处理。
15.根据权利要求12所述的信号处理方法,其特征在于,其中所述深度学习融合模型还包括YOLO算法模型,基于经拼接处理后的结构化数据确定所述结构化数据的特征图包括:
利用所述YOLO算法模型对经拼接处理后的结构化数据进行处理,以得到所述结构化数据的特征图。
16.根据权利要求7所述的信号处理方法,其特征在于,基于所述结构化数据的特征图确定所述检测目标的检测结果包括:
确定所述结构化数据的特征图中的目标像素位置;以及
依据所述目标像素位置进行数据回归处理,以得到所述检测目标的检测结果。
17.一种设备,其特征在于,包括:
处理器;以及
存储器,其存储有信号处理的计算机指令,当所述计算机指令由所述处理器运行时,使得所述设备执行根据权利要求1-16的任意一项所述的方法。
18.一种计算机可读存储介质,其特征在于,包含信号处理的程序指令,当所述程序指令由处理器执行时,使得实现根据权利要求1-16的任意一项所述的方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211060498 | 2022-08-31 | ||
CN2022110604981 | 2022-08-31 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117630941A true CN117630941A (zh) | 2024-03-01 |
Family
ID=90030935
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310180861.1A Pending CN117630941A (zh) | 2022-08-31 | 2023-02-17 | 信号处理方法及其相关产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117630941A (zh) |
-
2023
- 2023-02-17 CN CN202310180861.1A patent/CN117630941A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11927668B2 (en) | Radar deep learning | |
CN110456343B (zh) | 一种基于fmcw毫米波雷达的即时定位方法及系统 | |
US11506776B2 (en) | Method and device with improved radar resolution | |
WO2020113166A2 (en) | Early fusion of camera and radar frames | |
KR20200067629A (ko) | 레이더 데이터를 처리하는 장치 및 방법 | |
Zheng et al. | A target detection scheme with decreased complexity and enhanced performance for range-Doppler FMCW radar | |
WO2023071992A1 (zh) | 多传感器信号融合的方法、装置、电子设备及存储介质 | |
Armanious et al. | An adversarial super-resolution remedy for radar design trade-offs | |
Cui et al. | 3D detection and tracking for on-road vehicles with a monovision camera and dual low-cost 4D mmWave radars | |
CN108020834B (zh) | 基于改进edpca的运动目标检测方法、装置及电子设备 | |
Madani et al. | Radatron: Accurate detection using multi-resolution cascaded mimo radar | |
Iqbal et al. | Imaging radar for automated driving functions | |
EP1515160A1 (en) | A target shadow detector for synthetic aperture radar | |
CN116466307B (zh) | 一种基于深度图的毫米波雷达点云仿真的方法和装置 | |
WO2023124780A1 (zh) | 点云数据增强方法、装置、计算机设备、系统及存储介质 | |
CN108919217B (zh) | 一种点云数据处理方法、装置、控制器及雷达传感器 | |
CN116027288A (zh) | 生成数据的方法、装置、电子设备及存储介质 | |
CN117630941A (zh) | 信号处理方法及其相关产品 | |
Hoffmann et al. | Filter-based segmentation of automotive SAR images | |
AU2020279716B2 (en) | Multi-timescale doppler processing and associated systems and methods | |
CN112651405B (zh) | 目标检测方法及装置 | |
CN115131756A (zh) | 一种目标检测方法及装置 | |
CN114859337A (zh) | 数据处理方法、装置、电子设备、计算机存储介质 | |
CN117630940A (zh) | 信号处理方法及相关产品 | |
CN116203577A (zh) | 一种基于多信号融合的目标检测的方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |