CN116720068A - 数据检索方法、装置、电子设备、存储介质和程序产品 - Google Patents

数据检索方法、装置、电子设备、存储介质和程序产品 Download PDF

Info

Publication number
CN116720068A
CN116720068A CN202310673369.8A CN202310673369A CN116720068A CN 116720068 A CN116720068 A CN 116720068A CN 202310673369 A CN202310673369 A CN 202310673369A CN 116720068 A CN116720068 A CN 116720068A
Authority
CN
China
Prior art keywords
data
feature
target
modal
scene
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310673369.8A
Other languages
English (en)
Inventor
李铎
戴宏硕
王珂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin Carl Power Technology Co ltd
Original Assignee
Tianjin Carl Power Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin Carl Power Technology Co ltd filed Critical Tianjin Carl Power Technology Co ltd
Priority to CN202310673369.8A priority Critical patent/CN116720068A/zh
Publication of CN116720068A publication Critical patent/CN116720068A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Traffic Control Systems (AREA)

Abstract

本公开实施例涉及一种数据检索方法、装置、电子设备、存储介质和程序产品。所述方法包括:获取目标驾驶场景的示例场景数据;该示例场景数据包括自动驾驶车辆相关的多个不同模态的示例数据;对该示例场景数据进行特征提取处理,得到多模态特征向量;根据该多模态特征向量,从预设特征池中获取多个目标多模态特征向量;根据该多个目标多模态特征向量获取该目标驾驶场景对应的多个目标场景数据,该多个目标场景数据用于对该目标驾驶场景对应的自动驾驶算法进行更新处理。采用本方法能够从海量的数据中精准确定所需场景的数据以用于自动驾驶系统的更新。

Description

数据检索方法、装置、电子设备、存储介质和程序产品
技术领域
本公开实施例涉及自动驾驶技术领域,特别是涉及一种数据检索方法、装置、电子设备、存储介质和程序产品。
背景技术
在自动驾驶领域,为提高自动驾驶系统的鲁棒性和适应性,需要收集各种场景下的数据以用于不断更新自动驾驶系统。然而,自动驾驶领域中的场景分布多种多样、千变万化,所收集的数据也是海量级的。因此,在更新自动驾驶系统的过程中,如何从海量的数据中精准确定所需场景的数据以用于系统更新的问题亟需解决。
发明内容
本公开实施例提供一种数据检索方法、装置、电子设备、存储介质和程序产品,可以从海量的数据中精准确定所需场景的数据以用于自动驾驶系统的更新。
第一方面,本公开实施例提供一种数据检索方法,该方法包括:
获取目标驾驶场景的示例场景数据;该示例场景数据包括自动驾驶车辆相关的多个不同模态的示例数据;对该示例场景数据进行特征提取处理,得到多模态特征向量;根据该多模态特征向量,从预设特征池中获取多个目标多模态特征向量;根据该多个目标多模态特征向量获取该目标驾驶场景对应的多个目标场景数据,该多个目标场景数据用于对该目标驾驶场景对应的自动驾驶算法进行更新处理。
在其中一个实施例中,该对该示例场景数据进行特征提取处理,得到多模态特征向量,包括:根据该示例场景数据中各模态的该示例数据对应的类型,确定各示例数据对应的特征提取算法;根据对应的该特征提取算法,对各示例数据进行特征提取处理,得到该多模态特征向量。
在其中一个实施例中,该示例场景数据中包括视觉感知类型的示例数据和/或驾驶规划控制类型的示例数据;该根据对应的该特征提取算法,对各示例数据进行特征提取处理,得到该多模态特征向量,包括:对各视觉感知类型的示例数据进行融合处理,得到融合数据,并根据该视觉感知类型的示例数据对应的特征提取算法对该融合数据进行特征提取,得到第一多模态特征向量;或,根据该视觉感知类型的示例数据对应的特征提取算法对各视觉感知类型的示例数据进行特征提取,得到多个第一候选特征,并对各第一候选特征进行融合处理,得到第一多模态特征向量;根据该驾驶规划控制类型的示例数据对应的特征提取算法对各驾驶规划控制类型的示例数据进行特征提取,得到多个第二候选特征,并对各第二候选特征进行融合处理,得到第二多模态特征向量;根据该第一多模态特征向量和/或该第二多模态特征向量,得到该多模态特征向量。
在其中一个实施例中,若该示例场景数据中包括视觉感知类型的示例数据和该驾驶规划控制类型的示例数据,该根据该第一多模态特征向量和/或该第二多模态特征向量,得到该多模态特征向量,包括:对该第一多模态特征向量和该第二多模态特征向量进行融合处理,得到该多模态特征向量。
在其中一个实施例中,该根据该视觉感知类型的示例数据对应的特征提取算法对各视觉感知类型的示例数据进行特征提取,包括:基于第一深度神经网络模型对各视觉感知类型的示例数据进行特征提取。
在其中一个实施例中,根据该驾驶规划控制类型的示例数据对应的特征提取算法对各驾驶规划控制类型的示例数据进行特征提取,包括:根据各驾驶规划控制类型的示例数据对应的预设人工规则对各示例数据进行特征提取,或,基于第二深度神经网络模型对该示例数据进行特征提取。
在其中一个实施例中,该视觉感知类型的示例数据包括图像数据、激光雷达数据和毫米波雷达数据中的至少一种;该驾驶规划控制类型的示例数据包括车辆控制信号、车辆规划信号、车辆预测信号、车辆姿态信号、车辆定位信号、车辆行驶信号和他车行为信号中的至少一种。
在其中一个实施例中,该预设特征池中包括不同场景分别对应的多个参考多模态特征向量;该根据该多模态特征向量,从预设特征池中获取多个目标多模态特征向量,包括:将该多模态特征向量与各参考多模态特征向量进行特征匹配处理,将适配度最高的多个参考多模态特征向量作为该多个目标多模态特征向量。
在其中一个实施例中,该预设特征池包括不同场景分别对应的多个子特征池,各子特征池中包括多个参考多模态特征向量;该根据该多模态特征向量,从预设特征池中获取多个目标多模态特征向量,包括:根据该多模态特征向量,从该多个子特征池中确定目标子特征池;将该多模态特征向量与该目标子特征池中的各参考多模态特征向量进行特征匹配处理,并将适配度最高的多个参考多模态特征向量作为该多个目标多模态特征向量。
第二方面,本公开实施例提供一种数据检索装置,该装置包括:
第一获取模块,用于获取目标驾驶场景的示例场景数据;该示例场景数据包括自动驾驶车辆相关的多个不同模态的示例数据;
特征提取模块,用于对该示例场景数据进行特征提取处理,得到多模态特征向量;
第二获取模块,用于根据该多模态特征向量,从预设特征池中获取多个目标多模态特征向量;
第三获取模块,用于根据该多个目标多模态特征向量获取该目标驾驶场景对应的多个目标场景数据,该多个目标场景数据用于对该目标驾驶场景对应的自动驾驶算法进行更新处理。
在其中一个实施例中,该特征提取模块,具体用于:根据该示例场景数据中各模态的该示例数据对应的类型,确定各示例数据对应的特征提取算法;根据对应的该特征提取算法,对各示例数据进行特征提取处理,得到该多模态特征向量。
在其中一个实施例中,该示例场景数据中包括视觉感知类型的示例数据和/或驾驶规划控制类型的示例数据;特征提取模块,具体用于:对各视觉感知类型的示例数据进行融合处理,得到融合数据,并根据该视觉感知类型的示例数据对应的特征提取算法对该融合数据进行特征提取,得到第一多模态特征向量;或,根据该视觉感知类型的示例数据对应的特征提取算法对各视觉感知类型的示例数据进行特征提取,得到多个第一候选特征,并对各第一候选特征进行融合处理,得到第一多模态特征向量;根据该驾驶规划控制类型的示例数据对应的特征提取算法对各驾驶规划控制类型的示例数据进行特征提取,得到多个第二候选特征,并对各第二候选特征进行融合处理,得到第二多模态特征向量;根据该第一多模态特征向量和/或该第二多模态特征向量,得到该多模态特征向量。
在其中一个实施例中,若该示例场景数据中包括视觉感知类型的示例数据和该驾驶规划控制类型的示例数据,特征提取模块,具体用于:对该第一多模态特征向量和该第二多模态特征向量进行融合处理,得到该多模态特征向量。
在其中一个实施例中,特征提取模块,具体用于:基于第一深度神经网络模型对各视觉感知类型的示例数据进行特征提取。
在其中一个实施例中,特征提取模块,具体用于:根据各驾驶规划控制类型的示例数据对应的预设人工规则对各示例数据进行特征提取,或,基于第二深度神经网络模型对该示例数据进行特征提取。
在其中一个实施例中,该视觉感知类型的示例数据包括图像数据、激光雷达数据和毫米波雷达数据中的至少一种;该驾驶规划控制类型的示例数据包括车辆控制信号、车辆规划信号、车辆预测信号、车辆姿态信号、车辆定位信号、车辆行驶信号和他车行为信号中的至少一种。
在其中一个实施例中,该预设特征池中包括不同场景分别对应的多个参考多模态特征向量;第二获取模块,具体用于:将该多模态特征向量与各参考多模态特征向量进行特征匹配处理,将适配度最高的多个参考多模态特征向量作为该多个目标多模态特征向量。
在其中一个实施例中,该预设特征池包括不同场景分别对应的多个子特征池,各子特征池中包括多个参考多模态特征向量;第二获取模块,具体用于:根据该多模态特征向量,从该多个子特征池中确定目标子特征池;将该多模态特征向量与该目标子特征池中的各参考多模态特征向量进行特征匹配处理,并将适配度最高的多个参考多模态特征向量作为该多个目标多模态特征向量。
第三方面,本公开实施例提供一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的方法。
第四方面,本公开实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法。
第五方面,本公开实施例提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述第一方面所述的方法。
本公开实施例提供的数据检索方法、装置、电子设备、存储介质和程序产品,通过获取目标驾驶场景的包括自动驾驶车辆相关的多个不同模态的示例数据的示例场景数据,并对示例场景数据进行特征提取处理,得到多模态特征向量;进而根据多模态特征向量,从预设特征池中获取多个目标多模态特征向量,以根据多个目标多模态特征向量获取目标驾驶场景对应的多个目标场景数据,并用于对目标驾驶场景对应的自动驾驶算法进行更新处理。这样,仅通过一个示例场景数据,即可通过特征提取和匹配从预设特征池中获取到可以用于对目标驾驶场景的自动驾驶算法进行更新的多个目标场景数据,也即是,可以快速从海量的自动驾驶数据中快速确定所需的目标驾驶场景的可用数据,保证自动驾驶系统更新的高效性和及时性。并且,通过特征提取处理的方法,随时可以获取目标驾驶场景的目标场景数据,提升了获取目标场景数据的灵活性。
附图说明
图1为一个实施例中数据检索方法的应用环境图;
图2为一个实施例中确定多模态特征向量的流程示意图;
图3为一个实施例中另一种确定多模态特征向量的流程示意图;
图4为一个实施例中确定多个目标多模态特征向量的流程示意图;
图5为一个实施例中数据检索装置的结构框图;
图6为一个实施例中服务器的内部结构图。
具体实施方式
为了使本公开实施例的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本公开实施例进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本公开实施例,并不用于限定本公开实施例。
首先,在具体介绍本公开实施例的技术方案之前,先对本公开实施例基于的技术背景或者技术演进脉络进行介绍。
通常情况下,在自动驾驶技术领域,当前的技术背景是:自动驾驶技术领域中公认的一项难点在于很难让一个自动驾驶系统获得足够高的鲁棒性,以使得它可以适应任何路段、任何场景。其原因在于,实际生活中,自动驾驶场景和数据的分布是多种多样、千奇百怪的,无论收集多大规模的数据集,总会存在一个自动驾驶系统没有见过的边缘场景和对应的场景数据。为了解决上述问题,如何以更高的效率收集高价值的自动驾驶场景的数据成为了亟需解决的问题。
相关技术中,对于边缘场景(Corner Case)数据的收集,常用的做法是使用触发器(Trigger)机制。所谓触发器,即是人为设计一些触发条件并部署于自动驾驶系统中。在车辆自动驾驶过程中,当达到某一触发条件时,车辆的自动驾驶系统会自动收集触发前后的数据片段,而这些数据片段即为该边缘场景的数据。基于该背景,申请人通过长期的模型模拟研发以及实验数据的搜集、演示和验证,发现基于触发器的方法中,当需要获取某一边缘场景的数据时,只能在满足触发器设定的条件的情况下才可以得到相关数据,该过程需要车辆在线运行才可以实现。而算法人员若需要尽快对某一边缘场景的自动驾驶算法进行更新,则会存在无法及时获取该边缘场景的相关数据的问题,灵活性和实时性较差。另外,需要说明的是,从确定上述技术问题到下述实施例介绍的技术方案,申请人均付出了大量的创造性劳动。
下面结合本公开实施例所应用的场景,对本公开实施例涉及的技术方案进行介绍。
需要说明的是,本申请实施例提供的数据检索方法,其执行主体可以是数据检索装置,该数据检索装置可以通过软件、硬件或者软硬件结合的方式实现成为电子设备的部分或者全部。其中,电子设备可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和服务器等,或者通过电子设备与服务器的交互实现。服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。下述方法实施例中,均以执行主体是电子设备来进行说明。
在一个实施例中,如图1所示,提供了一种数据检索方法,以该方法应用于电子设备为例进行说明,包括以下步骤:
步骤101,获取目标驾驶场景的示例场景数据。示例场景数据包括自动驾驶车辆相关的多个不同模态的示例数据。
目标驾驶场景为当前需要进行更新的自动驾驶算法对应的驾驶场景。可选的,目标驾驶场景可以为一个或者多个。可选的,目标驾驶场景可以为车辆自动驾驶的一些边缘场景,其主要为一些发生概率较低的可能场景,例如天气变化、司机急打方向盘、司机猛踩刹车、目标检测不稳定、复杂路口、他车汇入行驶路线等,在此并未完全示例。
电子设备在确定目标驾驶场景的情况下,可获取该示例场景数据。可选的,示例场景数据可以为车辆自动驾驶在目标驾驶场景下所产生的数据。该示例场景数据具体可以包括自动驾驶车辆相关的多个不同模态的示例数据。
可选的,电子设备中可存储有不同驾驶场景与示例场景数据的对应关系,算法人员通过在电子设备中选中目标驾驶场景,进而,电子设备可根据目标驾驶场景,从对应关系中确定该目标驾驶场景对应的示例场景数据。
可选的,电子设备也可以获取算法人员实时输入的目标驾驶场景的示例场景数据。
可选的,电子设备可根据算法人员选中的标识,从多个预设驾驶场景中确定目标驾驶场景,并从场景数据库中筛选得到该目标驾驶场景的一组场景数据作为该示例场景数据。或者,电子设备可从场景数据库中筛选得到该目标驾驶场景的多组场景数据,并对该多组场景数据进行完善度对比,以将完善度最该的场景数据作为示例场景数据。其中,完善度最高可以指该组场景数据包括的示例数据的模态最多。
其中,不同的存在形式或信息来源均可被称之为一种模态。由两种或两种以上模态组成的数据称之为多模态数据,多模态数据是针对同一个描述对象,通过不同方向或视角获取到的数据。本公开实施例中,该示例场景数据包括自动驾驶车辆相关的多个不同模态的示例数据,也即是,其包括针对目标驾驶场景的不同模态的示例数据,因此,本公开实施例中的示例场景数据即为多模态数据。可选的,各模态的示例数据的数据形式不同,例如为图片、文本、视频、时序信号等,只要是自动驾驶时车辆相关的数据即可。
示例性的,示例场景数据包括的示例数据可以为车辆的摄像头获取的摄像头信号、激光雷达信号、毫米波雷达信号、车辆控制信号、车辆姿态信号、车辆定位信号、他车行为信号等中的多个。
步骤102,对示例场景数据进行特征提取处理,得到多模态特征向量。
电子设备在获取示例场景数据后,为根据示例场景数据可以准确确定可以用于算法更新的多个目标场景数据,需要对该示例场景数据进行特征提取处理,并根据特征提取处理得到的各示例数据的特征,确定多模态特征向量。由于为多模态特征向量,也即是,该多模态特征向量包括多模态的特征数据,这样,根据该多模态特征向量可快速从海量的自动驾驶数据中准确的确定所需的目标场景数据。
步骤103,根据多模态特征向量,从预设特征池中获取多个目标多模态特征向量。
其中,预设特征池中包括多个预设多模态特征向量。各预设模态特征向量是根据对应的驾驶场景的多模态场景数据所确定的。各预设模态特征向量是根据对应的驾驶场景的多模态场景数据可以是不同车辆在历史自动驾驶过程中收集得到的,或者,也可以是电子设备通过模拟该场景下的自动驾驶过程和驾驶环境而得到的。
示例性的,对于各个驾驶场景,电子设备可获取各驾驶场景对应的不同时刻和不同车辆所收集的多模态的场景数据。电子设备对各驾驶场景对应的多组多模态的场景数据进行特征提取处理,得到各驾驶场景对应的多个预设多模态特征向量,并存储于电子设备中或者存储于服务器的数据库中,形成该预设特征池。
可选的,预设特征池中包括的各预设多模态特征向量,也可以是全模态的,也即是,各预设多模态特征向量是根据对应驾驶场景的一组全模态的场景数据进行特征提取处理得到的。其中,全模态可以指该驾驶场景下车辆相关的所有模态的数据。
电子设备可根据多模态特征向量,从预设特征池中确定与该多模态特征向量最相似的多个预设多模态特征向量,以作为多个目标多模态特征向量。
步骤104,根据多个目标多模态特征向量获取目标驾驶场景对应的多个目标场景数据。多个目标场景数据用于对目标驾驶场景对应的自动驾驶算法进行更新处理。
其中,如上文所说,各预设多模态特征向量是根据多模态的场景数据或者全模态的场景数据确定的。对应的,电子设备或者服务器的数据库中存储有各预设多模态特征向量对应的场景数据,以形成场景数据库。
电子设备在确定该多个目标多模态特征向量后,可根据该多个目标多模态特征向量从场景数据库中查询到各目标多模态特征向量对应的场景数据,以作为目标场景数据。
可选的,在预设特征池中各预设多模态特征向量均采用预设序列号标识,以及,在场景数据库中,同样采用预设序列号标识各组场景数据。这样,在确定多个目标多模态特征向量后,电子设备根据各目标多模态特征向量对应的预设序列号,从场景数据库中查询确定各目标多模态特征向量对应的场景数据,以作为目标场景数据。
多个目标场景数据用于供算法人员对目标驾驶场景对应的自动驾驶算法进行更新处理,其中,自动驾驶算法的更新可以指对自动驾驶系统的升级。可选的,若电子设备中部署有自动驾驶系统,则电子设备也可在确定多个目标场景数据的情况下直接对该目标驾驶场景对应的自动驾驶算法进行更新处理。
可选的,多个目标场景数据也可用于用户展示潜在的危险场景。
本公开实施例提供的数据检索方法,通过获取目标驾驶场景的包括自动驾驶车辆相关的多个不同模态的示例数据的示例场景数据,并对示例场景数据进行特征提取处理,得到多模态特征向量;进而根据多模态特征向量,从预设特征池中获取多个目标多模态特征向量,以根据多个目标多模态特征向量获取目标驾驶场景对应的多个目标场景数据,并用于对目标驾驶场景对应的自动驾驶算法进行更新处理。这样,仅通过一个示例场景数据,即可通过特征提取和匹配从预设特征池中获取到可以用于对目标驾驶场景的自动驾驶算法进行更新的多个目标场景数据,也即是,可以快速送海量的自动驾驶数据中快速确定所需的目标驾驶场景的可用数据,保证自动驾驶系统更新的高效性和及时性。并且,通过特征提取处理的方法,随时可以获取目标驾驶场景的目标场景数据,提升了获取目标场景数据的灵活性。
本公开实施例中,为实现准确的特征提取,在一种可实现的方式中,可根据各示例数据的类型,对不同类型的示例数据采用不同的特征提取算法进行特征提取,以得到可以准确表征示例场景特征的多模态特征向量。下面对示例场景数据进行特征提取处理的过程进行说明。
在一个实施例中,如图2所示,其示出了本公开实施例提供的一种确定多模态特征向量的流程示意图。对示例场景数据进行特征提取处理,得到多模态特征向量,包括:
步骤201,根据示例场景数据中各模态的示例数据对应的类型,确定各示例数据对应的特征提取算法。
步骤202,根据对应的特征提取算法,对各示例数据进行特征提取处理,得到多模态特征向量。
其中,对于自动驾驶车辆相关的不同模态的各示例数据,一些示例数据之间具备相关性,一些示例数据之间不具备相关性。并且,不同模态的示例数据的特征分布可能不同。基于此,本公开实施例中,为对各示例数据进行精准的特征提取处理,根据各模态的示例数据对应的类型可确定对应的特征提取算法,以根据对应的特征提取算法对各示例数据进行特征提取处理。由此,所得到的多模态特征向量可准确表征该目标驾驶场景的示例场景数据的特征分布。
在一个实施例中,示例场景数据中包括视觉感知类型的示例数据和/或驾驶规划控制类型的示例数据。也即是,自动驾驶车辆相关的数据可以分为视觉感知类型的数据和驾驶规划控制类型的数据,而示例场景数据由于仅是目标驾驶场景对应的场景数据,因此,示例场景数据中的示例数据可以仅包括视觉感知类型的多个模态的示例数据,或者进包括驾驶规划控制类型的多个模态的示例数据,或者可以同时包括视觉感知类型和驾驶规划控制类型的示例数据,在此不做具体限定。
本公开实施例中,视觉感知类型的示例数据包括图像数据、激光雷达数据和毫米波雷达数据中的至少一种。驾驶规划控制类型的示例数据包括车辆控制信号、车辆规划信号、车辆预测信号、车辆姿态信号、车辆定位信号、车辆行驶信号和他车行为信号中的至少一种。
其中,视觉感知类型的示例数据是车辆各传感器设备获取的数据,驾驶规划控制类型的示例数据是车辆相关的信号。
具体的,图像数据例如为自动驾驶车辆的摄像头设备获取的图像。激光雷达数据为自动驾驶车辆中的激光雷达设备获取的数据,例如为点云图等。毫米波雷达数据为自动驾驶车辆中的毫米波雷达设备获取的数据。由于这些数据均与车辆驾驶场景相关,例如摄像头、激光雷达以及毫米波雷达同一时刻获取的数据可能均与同一环境区域相关,因此,这些数据均为视觉感知类型数据。
驾驶规划控制类型的示例数据均与自车或他车的行驶方向和行车预测规划控制相关。其中,车辆控制信号例如为车辆中控系统生成的控制信号。车辆规划信号例如为规划车辆行驶轨迹的信号。车辆预测信号例如为预测车辆行驶轨迹的信号。车辆姿态信号例如为车辆车身角度等数据。他车行为信号包括车辆周围预设范围内的其他车辆相关的行为信号。
可选的,视觉感知类型的示例数据和驾驶规划控制类型的示例数据可以为单帧数据或者一段序列数据,对应的,示例场景数据可以为单帧数据、也可以是一段序列数据、或者是不定数量的单帧和序列数据组成的复杂数据。
下面针对不同类型的示例数据,对各示例数据进行特征提取处理进行具体说明。在一个实施例中,如图3所示,其示出了本公开实施例提供的另一种确定多模态特征向量的流程示意图。根据对应的特征提取算法,对各示例数据进行特征提取处理,得到多模态特征向量,包括:
步骤301,对各视觉感知类型的示例数据进行融合处理,得到融合数据,并根据视觉感知类型的示例数据对应的特征提取算法对融合数据进行特征提取,得到第一多模态特征向量;或,根据视觉感知类型的示例数据对应的特征提取算法对各视觉感知类型的示例数据进行特征提取,得到多个第一候选特征,并对各第一候选特征进行融合处理,得到第一多模态特征向量。
由于示例数据包括多个,为便于进行后续的特征匹配,则通过对各示例数据进行特征提取处理,得到示例场景数据对应的一个多模态特征向量。可选的,该示例场景数据对应的多模态特征向量的长度固定,以便于进行后续的特征匹配。也即是,针对不同的驾驶场景的示例场景数据进行特征提取处理,所得到的多模态特征向量的长度均可相等。
其中,若示例场景数据中包括多个不同模态的视觉感知类型的示例数据,如上文所说,各视觉感知类型的示例数据之间具备相关性,因此,电子设备可对各视觉感知类型的示例数据先直接进行融合处理,得到融合数据,并根据视觉感知类型的示例数据对应的特征提取算法直接对该融合数据进行特征提取,以得到第一多模态特征向量。或者,对各视觉感知类型的示例数据分别进行特征提取后再进行融合处理,也即是,电子设备先根据视觉感知类型的示例数据对应的特征提取算法对各视觉感知类型的示例数据各自分别进行特征提取,得到各视觉感知类型的示例数据分别对应的第一候选特征,进而直接对各第一候选特征进行融合处理,以得到第一多模态特征向量。
步骤302,根据驾驶规划控制类型的示例数据对应的特征提取算法对各驾驶规划控制类型的示例数据进行特征提取,得到多个第二候选特征,并对各第二候选特征进行融合处理,得到第二多模态特征向量。
其中,若示例场景数据中包括多个不同模态的驾驶规划控制类型的示例数据,如上文所说,驾驶规划控制类型的示例数据之间相关性较小,因此,电子书设备可对各驾驶规划控制类型的示例数据各自分别进行特征提取处理,得到各驾驶规划控制类型的示例数据分别对应的第二候选特征,进而直接对各第二候选特征进行融合处理,以得到第二多模态特征向量。
步骤303,根据第一多模态特征向量和/或第二多模态特征向量,得到多模态特征向量。
其中,若示例场景数据中仅包括视觉感知类型的多个模态的示例数据,则根据各视觉感知类型的示例数据进行特征提取处理得到第一多模态特征向量后,可直接将该第一多模态特征向量作为目标驾驶场景对应的多模态特征向量。若示例场景数据中仅包括驾驶规划控制类型的示例数据,则根据各驾驶规划控制类型的示例数据进行特征提取处理得到第二多模态特征向量后,可直接将该第二多模态特征向量作为目标驾驶场景对应的多模态特征向量。
若示例场景数据中包括视觉感知类型的示例数据和驾驶规划控制类型的示例数据,则可以根据第一多模态特征向量和第二多模态特征向量得到目标驾驶场景对应的多模态特征向量。
可选的,对各视觉感知类型的示例数据所进行的融合处理、对各第一候选特征进行融合处理以及对各第二候选特征进行融合处理的过程中,融合处理的方式可以为特征拼接、特征相加、特征相乘或者自适应特征融合处理等。其中,自适应特征融合处理可以为基于注意力机制的自适应特征融合处理。
在一个实施例中,根据第一多模态特征向量和/或第二多模态特征向量,得到多模态特征向量,包括:对第一多模态特征向量和第二多模态特征向量进行融合处理,得到多模态特征向量。
其中,电子设备在分别得到第一多模态特征向量和第二多模态特征向量后,需要对二者继续进行融合处理,从而得到目标驾驶场景对应的多模态特征向量。其中,对第一多模态特征向量和第二多模态特征向量的融合处理可以为对第一多模态特征向量和第二多模态特征向量进行特征拼接、特征相加、特征相乘或者自适应特征融合处理等。其中,自适应特征融合处理可以为基于注意力机制的自适应特征融合处理。
可选的,基于注意力机制的自适应特征融合是可以为:两个特征通过自注意力层(Self-Attention Layer)进行融合。
可以理解的是,根据对应的场景数据确定预设特征池中的多个预设多模态特征向量的过程可以与上述特征提取处理得到多模态特征向量的过程类似。例如,对于某一组多模态的场景数据,对其中同类型的数据进行特征提取和融合处理,然后对得到的各个特征向量进行融合,得到最终的预设多模态特征向量。
本公开实施例中,通过分析多模态的示例数据,考虑到了多模态数据的融合,从而得到特征覆盖全面的多模态特征向量,进而,基于此所确定的多个目标场景数据的代表性高、价值高、覆盖范围全面。
在一个实施例中,根据视觉感知类型的示例数据对应的特征提取算法对各视觉感知类型的示例数据进行特征提取,包括:基于第一深度神经网络模型对各视觉感知类型的示例数据进行特征提取。
其中,第一深度神经网络模型主要用于对视觉感知类型的示例数据进行特征提取。可选的,可根据预先收集的大量视觉感知类型的数据对预设第一深度神经网络模型进行迭代训练,以得到该第一深度神经网络模型。
可选的,对于各视觉感知类型的示例数据,将各示例数据分别输入至第一深度神经网络模型中,以得到该第一深度神经网络模型分别输出的各示例数据对应的第一候选特征。
可选的,对于各视觉感知类型的示例数据,将各示例数据同时输入至第一深度神经网络模型中,以得到该第一深度神经网络模型直接输出的各示例数据对应的第一候选特征。可选的,各第一候选特征可以为向量的形式。
在一个实施例中,根据视觉感知类型的示例数据对应的特征提取算法对融合数据进行特征提取,得到第一多模态特征向量,包括:基于第一深度神经网络模型对融合数据进行特征提取。
其中,融合数据是根据各视觉感知类型的示例数据进行融合得到的,该第一深度神经网络模型也是根据视觉感知类型的数据训练得到的,因此,电子设备可直接将融合数据输入至第一深度神经网络模型,得到该第一深度神经网络模型直接输出的第一多模态特征向量。
在一个实施例中,根据驾驶规划控制类型的示例数据对应的特征提取算法对各驾驶规划控制类型的示例数据进行特征提取,包括:根据各驾驶规划控制类型的示例数据对应的预设人工规则对各示例数据进行特征提取,或,基于第二深度神经网络模型对示例数据进行特征提取。
其中,驾驶规划控制类型的示例数据为序列信号,也即是,其为一段时间内产生的信号,与时间相关。本公开实施例中,针对序列信号,可采用预设人工规则进行特征提取,也可以基于第二深度神经网络模型进行特征提取。
具体的,电子设备中可部署驾驶规划控制类型的不同模态的示例数据分别对应的一组预设人工规则,这样,针对各模态的示例数据,采用其对应的一组预设人工规则对其进行特征提取,以得到其对应的第二候选特征。例如,示例场景数据中的其中一个示例数据为驾驶规划控制类型的车辆行驶信号,电子设备可确定车辆行驶信号对应的一组预设人工规则,该一组预设人工规则中可包括一个或多个预设人工规则,基于这一组预设人工规则对车辆行驶信号进行特征提取,以得到车辆行驶信号对应的第二候选特征。
示例性的,以车辆定位信号为例,车辆定位信号对应的一组人工规则例如为车辆定位信号在预设范围内有效、车辆定位信号在预设的车道范围内有效、车辆定位信号的强度在预设强度阈值之上有效等。
另外,对于驾驶规划控制类型的各示例数据,可将各示例数据同时或者分时输入至第二深度神经网络模型中,得到该第二深度神经网络模型输出的各示例数据对应的第二候选特征。可选的,可将车辆或他车的目标检测框的位置和大小随时间变化的序列信号作为目标神经网络的输入,以车辆或他车的形式类型为监督信号,对目标神经网络进行训练,并将训练好的目标神经网络的中间层提取出来作为该第二深度神经网络模型,以用于特征提取。其中,车辆或他车的形式类型例如指预测准或不准、行驶路线正常或偏移等。
本公开实施例中,根据各示例数据的类型,采用对应的特征提取算法进行特征提取,以实现准确快速的特征提取。进而结合融合处理,得到固定长度的多模态特征向量,为确定最合适的多个目标场景数据提供稳定基础。
下面对确定多个目标多模态特征向量的过程进行说明。
在一个实施例中,根据多模态特征向量,从预设特征池中获取多个目标多模态特征向量,包括:将多模态特征向量与各参考多模态特征向量进行特征匹配处理,将适配度最高的多个参考多模态特征向量作为多个目标多模态特征向量。
其中,预设特征池中包括不同场景分别对应的多个参考多模态特征向量。也即是,预设特征池包括多个参考多模态特征向量,各参考多模态特征向量均与某一自动驾驶场景相对应,并且,一些参考多模态特征向量对应的自动驾驶场景可以相同。
电子设备在确定目标驾驶场景对应的多模态特征向量后,将该多模态特征向量与各参考多模态特征向量进行特征匹配处理,以与确定哪些参考多模态特征向量之间的适配度最高。
可选的,特征匹配处理可以为计算多模态特征向量与各参考多模态特征向量之间的特征距离或特征相似度。可选的,特征距离可通过计算二者之间的欧式距离或者二者之间的KL散度确定,其中,二者之间的欧式距离或者KL散度越小,则适配度越高。可选的,特征相似度可通过计算二者之间的余弦相似度确定,其中,二者之间的余弦相似度越大,则适配度越高。需要说明的是,还可以通过其他特征匹配处理的方式确定适配度最高的多个参考多模态特征向量,只要可以表征两个向量之间的距离远近即可。
基于此,将多模态特征向量与各参考多模态特征向量之间适配度按序排列,取适配度最高的前K个参考多模态特征向量作为多个目标多模态特征向量。K为正整数。K可根据实际情况而定。
在一个实施例中,如图4所示,其示出了本申请实施例提供的一种确定多个目标多模态特征向量的流程示意图。根据多模态特征向量,从预设特征池中获取多个目标多模态特征向量,包括:
步骤401,根据多模态特征向量,从多个子特征池中确定目标子特征池。
步骤402,将多模态特征向量与目标子特征池中的各参考多模态特征向量进行特征匹配处理,并将适配度最高的多个参考多模态特征向量作为多个目标多模态特征向量。
其中,预设特征池包括不同场景分别对应的多个子特征池,各子特征池中包括多个参考多模态特征向量。也即是,预设特征池包括多个子特征池,各子特征池对应不同场景。
可选的,对于各子特征池,对该子特征池中各参考多模态特征向量进行聚类处理,得到该子特征池对应的标识特征向量,可选的,可通过聚类算法实现聚类处理。这样,电子设备可将该目标驾驶场景对应的多模态特征向量与各子特征池对应的标识特征向量进行特征匹配处理,以确定适配度最高的子特征池作为目标子特征池。
进而,将多模态特征向量与目标子特征池中的各参考多模态特征向量进行特征匹配处理,即可快速确定多个目标多模态特征向量。
本公开实施例中,考虑到预设特征池中的参考多模态特征向量是海量级的,因此,对各参考多模态特征向量进行分类以确定多个子特征池,并预先采用标识特征向量标识各子特征池。这样,通过确定目标子特征池,进而仅需与目标子特征池中的参考多模态特征向量进行特征匹配处理,以提升确定目标多模态特征向量的效率,降低电子设备的算力消耗。
在一个实施例中,根据多模态特征向量,从预设特征池中获取多个目标多模态特征向量,包括:对多模态特征向量进行降维处理,得到多模态特征向量对应的哈希值,根据该哈希值从预设特征池中各子特征池中确定目标子特征池;将多模态特征向量与目标子特征池中的各参考多模态特征向量进行特征匹配处理,并将适配度最高的多个参考多模态特征向量作为多个目标多模态特征向量。
其中,预设特征池中各子特征池以哈希索引的方式存储于电子设备或者服务器的数据库中。电子设备可将多模态特征向量进行降维处理,并将降维处理得到的数值作为多模态特征向量对应的哈希值。
进而,电子设备可将该多模态特征向量对应的哈希值与各子特征池的哈希值进行匹配,并得到与多模态特征向量对应的哈希值最接近的子特征池作为目标子特征池。进而,仅需将多模态特征向量与目标子特征池中的各参考多模态特征向量进行特征匹配处理,即可快速确认多个目标多模态特征向量。
本公开实施例中,通过索引存储各子特征池,从而便于快速根据多模态特征向量对应的哈希值查找到目标子特征池,避免大量的重复计算。进而直接基于目标子特征池中各参考多模态特征向量,可快速确定目标多模态特征向量。
下面结合一个具体的数据挖掘场景来介绍本公开的一个实施例。本公开实施例提供了一种基于多模态检索的边缘场景数据挖掘方法。该方法包括如下内容:
本方法包含多模态特征提取模块、多模态特征融合模块、多模态特征匹配模块以及多模态特征存储池。
算法人员用户向电子设备中输入所需检索目标边缘场景的示例性的场景数据后,多模态特征提取模块对场景数据中不同模态的数据进行特征提取;之后,多模态特征融合模块将不同模态数据的特征进行组合,形成一个固定长度的多模态特征向量;进而,多模态特征匹配模块把场景数据的多模态特征向量与多模态特征存储池中待挖掘数据的特征向量依次进行匹配,并记录其中匹配度最高的K组特征向量。最后,这K组特征向量所对应的原始场景数据即为挖掘到的目标边缘场景的目标场景数据。其中,目标场景数据可以供算法人员使用其升级自动驾驶系统,或者,用于展示潜在的危险场景。
其中,目标边缘场景的场景数据可以是单帧数据、一段序列数据或不定数量的单帧和序列数据组成的复杂数据。
上述多模态特征提取模块中,不同模态的特征提取方式各有不同。对于图像、激光雷达数据、毫米波雷达数据,可基于深度神经网络进行特征提取。对于车辆控制信号、车辆姿态信号、车辆定位信号、车辆行驶信号、车辆预测信号、车辆规划信号、车辆轨迹信号、他车行为信号等序列信号,则可以基于人工规则进行特征提取或者使用深度神经网络进行特征提取。
上述多模态特征融合模块中,对于图像、激光雷达数据、毫米波雷达数据,可以使用前融合或后融合的方式进行特征的融合。前融合是指先对各不同模态的场景数据进行组合,然后对组合后的数据基于深度神经网络提取特征。后融合是指先分别提取不同模态的场景数据的特征,然后直接对各特征进行组合。
上述多模态特征融合模块中,对于车辆控制信号、车辆姿态信号、车辆定位信号、车辆行驶/预测/规划轨迹、他车行为信号等,采用后融合的方式。
上述多模态特征融合模块中,在分别对图像、激光雷达数据、毫米波雷达数据进行特征融合以及对车辆相关信号进行特征融合后,再次对所得到的特征进行融合,从而得到目标边缘场景对应的多模态特征向量。
其中,上述融合的方式可以是特征拼接、特征相加、特征相乘或基于注意力机制的自适应特征融合。
上述多模态特征匹配模块中,目标边缘场景对应的多模态特征向量与多模态特征存储池中待挖掘数据的特征向量依次进行匹配的方式可以为计算二者之间的欧式距离、KL散度、或余弦相似度。
本公开实施例中,通过数据检索的方式挖掘数据,无需等待,可以随时获取目标边缘场景的目标场景数据用于自动驾驶算法的更新升级。通过分析多模态数据,高效地判断每个场景数据是否有价值、需要被挖掘。由于考虑到了多模态数据融合,因此挖掘出的场景数据代表性高、价值高、覆盖范围全面;并且由于利用特征融合、特征匹配等技术进行场景检索,具有检索效率高、命中率高、结果准确等优势。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图5所示,提供了一种数据检索装置,该数据检索装置500包括:第一获取模块501、特征提取模块502、第二获取模块503和第三获取模块504,其中:
第一获取模块501,用于获取目标驾驶场景的示例场景数据;该示例场景数据包括自动驾驶车辆相关的多个不同模态的示例数据;
特征提取模块502,用于对该示例场景数据进行特征提取处理,得到多模态特征向量;
第二获取模块503,用于根据该多模态特征向量,从预设特征池中获取多个目标多模态特征向量;
第三获取模块504,用于根据该多个目标多模态特征向量获取该目标驾驶场景对应的多个目标场景数据,该多个目标场景数据用于对该目标驾驶场景对应的自动驾驶算法进行更新处理。
在一个实施例中,该特征提取模块502,具体用于:根据该示例场景数据中各模态的该示例数据对应的类型,确定各示例数据对应的特征提取算法;根据对应的该特征提取算法,对各示例数据进行特征提取处理,得到该多模态特征向量。
在一个实施例中,该示例场景数据中包括视觉感知类型的示例数据和/或驾驶规划控制类型的示例数据;特征提取模块502,具体用于:对各视觉感知类型的示例数据进行融合处理,得到融合数据,并根据该视觉感知类型的示例数据对应的特征提取算法对该融合数据进行特征提取,得到第一多模态特征向量;或,根据该视觉感知类型的示例数据对应的特征提取算法对各视觉感知类型的示例数据进行特征提取,得到多个第一候选特征,并对各第一候选特征进行融合处理,得到第一多模态特征向量;根据该驾驶规划控制类型的示例数据对应的特征提取算法对各驾驶规划控制类型的示例数据进行特征提取,得到多个第二候选特征,并对各第二候选特征进行融合处理,得到第二多模态特征向量;根据该第一多模态特征向量和/或该第二多模态特征向量,得到该多模态特征向量。
在一个实施例中,若该示例场景数据中包括视觉感知类型的示例数据和该驾驶规划控制类型的示例数据,特征提取模块502,具体用于:对该第一多模态特征向量和该第二多模态特征向量进行融合处理,得到该多模态特征向量。
在一个实施例中,特征提取模块502,具体用于:基于第一深度神经网络模型对各视觉感知类型的示例数据进行特征提取。
在一个实施例中,特征提取模块502,具体用于:根据各驾驶规划控制类型的示例数据对应的预设人工规则对各示例数据进行特征提取,或,基于第二深度神经网络模型对该示例数据进行特征提取。
在一个实施例中,该视觉感知类型的示例数据包括图像数据、激光雷达数据和毫米波雷达数据中的至少一种;该驾驶规划控制类型的示例数据包括车辆控制信号、车辆规划信号、车辆预测信号、车辆姿态信号、车辆定位信号、车辆行驶信号和他车行为信号中的至少一种。
在一个实施例中,该预设特征池中包括不同场景分别对应的多个参考多模态特征向量;第二获取模块503,具体用于:将该多模态特征向量与各参考多模态特征向量进行特征匹配处理,将适配度最高的多个参考多模态特征向量作为该多个目标多模态特征向量。
在一个实施例中,该预设特征池包括不同场景分别对应的多个子特征池,各子特征池中包括多个参考多模态特征向量;第二获取模块503,具体用于:根据该多模态特征向量,从该多个子特征池中确定目标子特征池;将该多模态特征向量与该目标子特征池中的各参考多模态特征向量进行特征匹配处理,并将适配度最高的多个参考多模态特征向量作为该多个目标多模态特征向量。
关于数据检索装置的具体限定可以参见上文中对于数据检索方法的限定,在此不再赘述。上述数据检索装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以以硬件形式内嵌于或独立于电子设备中的处理器中,也可以以软件形式存储于电子设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
图6是根据一示例性实施例示出的一种服务器1400的框图。参照图6,服务器1400包括处理组件1420,其进一步包括一个或多个处理器,以及由存储器1422所代表的存储器资源,用于存储可由处理组件1420执行的指令或者计算机程序,例如应用程序。存储器1422中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1420被配置为执行指令,以执行上述数据检索的方法。
服务器1400还可以包括一个电源组件1424被配置为执行设备1400的电源管理,一个有线或无线网络接口1426被配置为将设备1400连接到网络,和一个输入输出(I/O)接口1428。服务器1400可以操作基于存储在存储器1422的操作系统,例如Window14 14erverTM,Mac O14 XTM,UnixTM,LinuxTM,FreeB14DTM或类似。
在示例性实施例中,还提供了一种包括指令的存储介质,例如包括指令的存储器1422,上述指令可由服务器1400的处理器执行以完成上述方法。存储介质可以是非临时性计算机可读存储介质,例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品,该计算机程序被处理器执行时,可以实现上述方法。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行这些计算机指令时,可以全部或部分地按照本公开实施例所述的流程或功能实现上述方法中的部分或者全部。
需要说明的是,本说明书及实施例中所述方案,如涉及个人信息处理,则均会在具备合法性基础(例如征得个人信息主体同意,或者为履行合同所必需等)的前提下进行处理,且仅会在规定或者约定的范围内进行处理。用户拒绝处理基本功能所需必要信息以外的个人信息,不会影响用户使用基本功能。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本公开实施例所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic Random Access Memory,DRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本公开实施例的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本公开实施例构思的前提下,还可以做出若干变形和改进,这些都属于本公开实施例的保护范围。因此,本公开实施例专利的保护范围应以所附权利要求为准。

Claims (13)

1.一种数据检索方法,其特征在于,所述方法包括:
获取目标驾驶场景的示例场景数据;所述示例场景数据包括自动驾驶车辆相关的多个不同模态的示例数据;
对所述示例场景数据进行特征提取处理,得到多模态特征向量;
根据所述多模态特征向量,从预设特征池中获取多个目标多模态特征向量;
根据所述多个目标多模态特征向量获取所述目标驾驶场景对应的多个目标场景数据,所述多个目标场景数据用于对所述目标驾驶场景对应的自动驾驶算法进行更新处理。
2.根据权利要求1所述的方法,其特征在于,所述对所述示例场景数据进行特征提取处理,得到多模态特征向量,包括:
根据所述示例场景数据中各模态的所述示例数据对应的类型,确定各所述示例数据对应的特征提取算法;
根据对应的所述特征提取算法,对各所述示例数据进行特征提取处理,得到所述多模态特征向量。
3.根据权利要求2所述的方法,其特征在于,所述示例场景数据中包括视觉感知类型的示例数据和/或驾驶规划控制类型的示例数据;所述根据对应的所述特征提取算法,对各所述示例数据进行特征提取处理,得到所述多模态特征向量,包括:
对各所述视觉感知类型的示例数据进行融合处理,得到融合数据,并根据所述视觉感知类型的示例数据对应的特征提取算法对所述融合数据进行特征提取,得到第一多模态特征向量;或,根据所述视觉感知类型的示例数据对应的特征提取算法对各所述视觉感知类型的示例数据进行特征提取,得到多个第一候选特征,并对各所述第一候选特征进行融合处理,得到第一多模态特征向量;
根据所述驾驶规划控制类型的示例数据对应的特征提取算法对各所述驾驶规划控制类型的示例数据进行特征提取,得到多个第二候选特征,并对各所述第二候选特征进行融合处理,得到第二多模态特征向量;
根据所述第一多模态特征向量和/或所述第二多模态特征向量,得到所述多模态特征向量。
4.根据权利要求3所述的方法,其特征在于,若所述示例场景数据中包括视觉感知类型的示例数据和所述驾驶规划控制类型的示例数据,所述根据所述第一多模态特征向量和/或所述第二多模态特征向量,得到所述多模态特征向量,包括:
对所述第一多模态特征向量和所述第二多模态特征向量进行融合处理,得到所述多模态特征向量。
5.根据权利要求3所述的方法,其特征在于,所述根据所述视觉感知类型的示例数据对应的特征提取算法对各所述视觉感知类型的示例数据进行特征提取,包括:
基于第一深度神经网络模型对各所述视觉感知类型的示例数据进行特征提取。
6.根据权利要求3所述的方法,其特征在于,根据所述驾驶规划控制类型的示例数据对应的特征提取算法对各所述驾驶规划控制类型的示例数据进行特征提取,包括:
根据各所述驾驶规划控制类型的示例数据对应的预设人工规则对各所述示例数据进行特征提取,或,基于第二深度神经网络模型对所述示例数据进行特征提取。
7.根据权利要求3所述的方法,其特征在于,所述视觉感知类型的示例数据包括图像数据、激光雷达数据和毫米波雷达数据中的至少一种;所述驾驶规划控制类型的示例数据包括车辆控制信号、车辆规划信号、车辆预测信号、车辆姿态信号、车辆定位信号、车辆行驶信号和他车行为信号中的至少一种。
8.根据权利要求1至7任一所述的方法,其特征在于,所述预设特征池中包括不同场景分别对应的多个参考多模态特征向量;所述根据所述多模态特征向量,从预设特征池中获取多个目标多模态特征向量,包括:
将所述多模态特征向量与各所述参考多模态特征向量进行特征匹配处理,将适配度最高的多个参考多模态特征向量作为所述多个目标多模态特征向量。
9.根据权利要求1至7任一所述的方法,其特征在于,所述预设特征池包括不同场景分别对应的多个子特征池,各所述子特征池中包括多个参考多模态特征向量;所述根据所述多模态特征向量,从预设特征池中获取多个目标多模态特征向量,包括:
根据所述多模态特征向量,从所述多个子特征池中确定目标子特征池;
将所述多模态特征向量与所述目标子特征池中的各所述参考多模态特征向量进行特征匹配处理,并将适配度最高的多个参考多模态特征向量作为所述多个目标多模态特征向量。
10.一种数据检索装置,其特征在于,所述装置包括:
第一获取模块,用于获取目标驾驶场景的示例场景数据;所述示例场景数据包括自动驾驶车辆相关的多个不同模态的示例数据;
特征提取模块,用于对所述示例场景数据进行特征提取处理,得到多模态特征向量;
第二获取模块,用于根据所述多模态特征向量,从预设特征池中获取多个目标多模态特征向量;
第三获取模块,用于根据所述多个目标多模态特征向量获取所述目标驾驶场景对应的多个目标场景数据,所述多个目标场景数据用于对所述目标驾驶场景对应的自动驾驶算法进行更新处理。
11.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至9中任一项所述的方法的步骤。
12.一种存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至9中任一项所述的方法的步骤。
13.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至9中任一项所述的方法的步骤。
CN202310673369.8A 2023-06-08 2023-06-08 数据检索方法、装置、电子设备、存储介质和程序产品 Pending CN116720068A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310673369.8A CN116720068A (zh) 2023-06-08 2023-06-08 数据检索方法、装置、电子设备、存储介质和程序产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310673369.8A CN116720068A (zh) 2023-06-08 2023-06-08 数据检索方法、装置、电子设备、存储介质和程序产品

Publications (1)

Publication Number Publication Date
CN116720068A true CN116720068A (zh) 2023-09-08

Family

ID=87869156

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310673369.8A Pending CN116720068A (zh) 2023-06-08 2023-06-08 数据检索方法、装置、电子设备、存储介质和程序产品

Country Status (1)

Country Link
CN (1) CN116720068A (zh)

Similar Documents

Publication Publication Date Title
CN111666921B (zh) 车辆控制方法、装置、计算机设备和计算机可读存储介质
US10902615B2 (en) Hybrid and self-aware long-term object tracking
Hausler et al. Multi-process fusion: Visual place recognition using multiple image processing methods
Kejriwal et al. High performance loop closure detection using bag of word pairs
Arietta et al. City forensics: Using visual elements to predict non-visual city attributes
US20190286915A1 (en) Robust simultaneous localization and mapping via removal of dynamic traffic participants
US8798357B2 (en) Image-based localization
CN111797893A (zh) 一种神经网络的训练方法、图像分类系统及相关设备
CN111191533B (zh) 行人重识别的处理方法、装置、计算机设备和存储介质
US11475059B2 (en) Automated image retrieval with graph neural network
KR20220042356A (ko) 타깃 재식별 방법, 장치, 기기, 저장 매체 및 프로그램 제품
CN109492537B (zh) 一种物体识别方法及装置
US20230060211A1 (en) System and Method for Tracking Moving Objects by Video Data
Xu et al. Separation of wood and foliage for trees from ground point clouds using a novel least-cost path model
Zhao et al. YOLO-highway: An improved highway center marking detection model for unmanned aerial vehicle autonomous flight
CN114387304A (zh) 目标跟踪方法、计算机程序产品、存储介质及电子设备
CN114168768A (zh) 图像检索方法及相关设备
CN113807457A (zh) 确定路网表征信息的方法、装置、设备及存储介质
CN111008992B (zh) 目标跟踪方法、装置和系统及存储介质
CN113705293A (zh) 图像场景的识别方法、装置、设备及可读存储介质
CN116823884A (zh) 多目标跟踪方法、系统、计算机设备及存储介质
Chu et al. Flood-fill-based object segmentation and tracking for intelligent vehicles
CN116720068A (zh) 数据检索方法、装置、电子设备、存储介质和程序产品
CN113313062A (zh) 路径获取方法、装置、系统、电子设备及存储介质
Wang et al. Laser-based online sliding-window approach for UAV loop-closure detection in urban environments

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination