CN115793993A - 数据处理方法及装置、存储介质及电子装置 - Google Patents

数据处理方法及装置、存储介质及电子装置 Download PDF

Info

Publication number
CN115793993A
CN115793993A CN202310085329.1A CN202310085329A CN115793993A CN 115793993 A CN115793993 A CN 115793993A CN 202310085329 A CN202310085329 A CN 202310085329A CN 115793993 A CN115793993 A CN 115793993A
Authority
CN
China
Prior art keywords
data
target
format
module
target vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310085329.1A
Other languages
English (en)
Inventor
张达帅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HoloMatic Technology Beijing Co Ltd
Original Assignee
HoloMatic Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HoloMatic Technology Beijing Co Ltd filed Critical HoloMatic Technology Beijing Co Ltd
Priority to CN202310085329.1A priority Critical patent/CN115793993A/zh
Publication of CN115793993A publication Critical patent/CN115793993A/zh
Pending legal-status Critical Current

Links

Images

Abstract

本申请公开了一种数据处理方法及装置、存储介质及电子装置。该数据处理方法包括:获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;对所述第二格式的目标数据进行数据处理。采用上述技术方案,解决了不同平台的车辆产生的数据的格式不一致,导致数据处理效率较低的问题。

Description

数据处理方法及装置、存储介质及电子装置
技术领域
本申请涉及计算机技术领域,具体而言,涉及一种数据处理方法及装置、存储介质及电子装置。
背景技术
基于目前自动驾驶汽车领域的快速发展,自动驾驶车辆需要搭载多种传感器、定位等设备以满足L2驾驶辅助及更高级别自动驾驶功能,但无论是自动驾驶开发验证过程中或是基于用户大数据驱动的自动驾驶3.0时代都会产生大量传感器原始数据和行驶数据。
而现有的自动驾驶数据储存方法多为基于单一域控或单一硬件平台的落盘,针对多个平台的数据,需要做大量适配、调试等工作。
针对相关技术中,不同平台的车辆产生的数据的格式不一致,导致数据处理效率较低的问题,目前尚未提出有效的解决方案。
因此,有必要对相关技术予以改良以克服相关技术中的所述缺陷。
发明内容
本发明实施例提供了一种数据处理方法及装置、存储介质及电子装置,以至少解决不同平台的车辆产生的数据的格式不一致,导致数据处理效率较低的问题。
根据本发明实施例的一方面,提供一种数据处理方法,包括:获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;对所述第二格式的目标数据进行数据处理。
在一个示例性的实施例中,使用目标中间件对第一格式的目标数据进行格式转化,得到第二格式的目标数据,包括:对所述第一格式的目标数据进行解码,得到解码数据;按照预先设置的第二格式对所述解码数据进行编码,得到所述第二格式的目标数据。
在一个示例性的实施例中,获取目标车辆在行驶过程中产生的第一格式的目标数据,包括:获取所述第一格式的第一数据和所述第一格式的第二数据,其中,所述第一数据包括:均具有标签的多个子数据,所述第二数据包括:均不具有标签的多个子数据;所述标签用于描述子数据所在的场景信息;所述目标数据包括所述第一数据和所述第二数据;获取目标车辆在行驶过程中产生的第一格式的目标数据之后,所述方法还包括:使用数据分类模型确定所述第二数据中的每个子数据对应的标签,其中,所述数据分类模型为通过多组训练数据训练得到的模型,所述多组训练数据中的每组训练数据包括:样本数据、所述样本数据对应的标签。
在一个示例性的实施例中,获取目标车辆在运行的过程中产生的第一格式的目标数据,包括:在所述目标车辆的操控对象为第一目标对象的情况下,获取所述目标车辆按照目标数据协议发送的特定数据,其中,所述目标数据协议为所述目标车辆与云端服务器预先约定的协议,所述目标数据协议用于指示所述目标车辆待上传所述特定数据至所述云端服务器;所述特定数据至少包括特定场景下的数据;在所述目标车辆的操控对象为第二目标对象的情况下,获取所述目标车辆在行驶过程中所述传感器采集到的所有数据和所述目标车辆的所有行驶数据。
在一个示例性的实施例中,在所述目标车辆的操控对象为第一目标对象的情况下,对所述第二格式的所述目标数据进行数据处理,包括:通过数据回放模块对所述目标数据进行解码;通过目标页面显示解码后的目标数据,并根据目标打标操作对所述目标数据中的部分子数据设置对应的补充标签,其中,所述目标打标操作为通过所述目标页面获取到的操作;所述补充标签用于补充所述部分子数据所在的场景信息。
在一个示例性的实施例中,在所述目标车辆的操控对象为第二目标对象的情况下,对所述第二格式的所述目标数据进行数据处理,包括:确定目标录制信息,其中,所述目标录制信息用于指示录制所述目标数据的规则;指示数据录制模块根据所述目标录制信息对所述目标数据进行数据录制,得到录制数据。
在一个示例性的实施例中,指示数据录制模块根据所述目标录制信息对所述目标数据进行数据录制,得到录制数据之后,所述方法还包括:通过数据分析模块对所述录制数据进行分析;和\或通过数据回传模块将所述录制数据回传至云端服务器;和\或指示数据储存模块根据所述录制数据中每个子数据的标签,将所述每个子数据存储至目标存储器中。
根据本发明实施例的另一方面,还提供了一种数据处理装置,包括:获取模块,用于获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;转化模块,用于使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;处理模块,用于对所述第二格式的目标数据进行数据处理。
根据本发明实施例的又一方面,还提供了一种计算机可读的存储介质,该计算机可读的存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述数据处理方法。
根据本发明实施例的又一方面,还提供了一种电子装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,上述处理器通过计算机程序执行上述数据处理方法。
通过本发明,获取目标车辆在行驶过程中产生的第一格式的目标数据,进而使用目标中间件对第一格式的目标数据进行格式转化,得到第二格式的目标数据,并对第二格式的目标数据进行数据处理。由于将目标车辆在行驶过程中产生的目标数据的数据格式转化为固定的格式,进而解决了不同平台的车辆产生的数据的格式不一致,导致数据处理效率较低的问题,提高了数据处理效率。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是根据本申请实施例的一种可选的数据处理方法的应用环境的示意图;
图2是根据本发明实施例的一种可选的数据处理方法的流程图;
图3是根据本发明实施例的一种数据处理系统的主页面图;
图4是根据本发明实施例的一种数据处理系统的数据录制模块的页面示意图;
图5是根据本发明实施例的一种数据处理系统的数据录制页面的示意图;
图6是根据本发明实施例的一种数据处理系统的数据回放模块的页面示意图;
图7是根据本发明实施例的一种数据处理系统的数据回放页面的示意图;
图8是根据本发明实施例的一种数据处理系统的数据分析页面的示意图;
图9是根据本发明实施例的一种数据处理系统的硬件架构图;
图10是根据本发明实施例的一种数据处理系统的软件架构图;
图11是根据本申请实施例的一种可选的数据处理装置的结构示意图;
图12是根据本申请实施例的一种可选的电子设备的计算机系统结构框图;
图13是根据本申请实施例的一种可选的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
下面结合实施例对本申请进行说明:
根据本申请实施例的一个方面,提供了一种数据处理方法,可选地,在本实施例中,上述数据处理方法可以应用于如图1所示的由服务器101和自动驾驶车辆103所构成的硬件环境中。如图1所示,服务器101通过网络与自动驾驶车辆103进行连接,可用于为自动驾驶车辆103或自动驾驶车辆103上安装的应用程序提供服务,应用程序可以是数据处理应用程序等等。可在服务器101上或独立于服务器101设置数据库105,用于为服务器101提供数据存储服务,例如,行驶数据存储服务器,上述网络可以包括但不限于:有线网络,无线网络,其中,该有线网络包括:局域网、城域网和广域网,该无线网络包括:蓝牙、WIFI及其他实现无线通信的网络,自动驾驶车辆103可以是配置有应用程序的终端,可以包括但不限于车载终端,上述服务器101可以是单一服务器,也可以是由多个服务器组成的服务器集群,或者是云服务器,使用上述数据处理方法的应用程序通过自动驾驶车辆103或其他连接的显示设备进行显示。
结合图1所示,上述数据处理方法可以在服务器101通过如下图2中的步骤S202-S206实现,可选的,可以通过服务器101中的数据处理系统通过如下图2中的步骤S202-S206实现:
可选地,在本实施例中,上述数据处理方法还可以通过自动驾驶车辆实现(具体的,由自动驾驶车辆上搭载的终端实现),例如,图1所示的自动驾驶车辆103中实现;或由自动驾驶车辆和服务器共同实现。
上述仅是一种示例,本实施例不做具体的限定。
可选地,作为一种可选的实施方式,如图2所示,上述数据处理方法包括以下步骤S202-S206:
步骤S202:获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;
作为一种可选的示例,上述目标车辆可以为上述自动驾驶车辆103。传感器采集到的数据包括但不限于传感器采集到的环境数据,行驶数据包括但不限于目标车辆在形式的过程中目标车辆的各个模块的运行参数。
作为一种可选的示例。第一格式由为所述目标车辆提供自动驾驶服务的原始厂家确定。示例性的,第一格式可以为16进制,即第一格式的数据为16进制的数据。
在一个示例性的实施例中,上述步骤S202包括以下步骤S11或步骤S12:
步骤S11:在所述目标车辆的操控对象为第一目标对象的情况下,获取所述目标车辆按照目标数据协议发送的特定数据,其中,所述目标数据协议为所述目标车辆与云端服务器预先约定的协议,所述目标数据协议用于指示所述目标车辆待上传所述特定数据至所述云端服务器;所述特定数据至少包括特定场景下的数据;
需要说明的是,第一目标对象为使用目标车辆的用户,即用户在正常驾驶目标车辆的时候,目标车辆不会将传感器采集到的所有数据和目标车辆的所有行驶数据均上传至数据处理系统(在目标车辆的操控对象为第一目标对象的情况下,数据处理系统位于云端服务器中),目标车辆会按照与云端服务器约定的目标数据协议,将一些特定场景下的数据上传至云端服务器中的数据处理系统。特定场景包括但不限于:高速场景下,转弯场景下。特定场景下的数据包括特定场景下传感器采集到的数据和目标车辆的行驶数据。
步骤S12:在所述目标车辆的操控对象为第二目标对象的情况下,获取所述目标车辆在行驶过程中所述传感器采集到的所有数据和所述目标车辆的所有行驶数据。
需要说明的是,第二目标对象为测试人员,即测试人员驾驶目标车辆进行测试,收集数据。此时目标车辆会将行驶过程中传感器采集到的所有数据和目标车辆的行驶数据上传至数据处理系统(在目标车辆的操控对象为第二目标对象的情况下,数据处理系统位于终端中,终端与目标车辆相连,终端包括但不限于笔记本电脑、车载工控机等等)。
在一个示例性的实施例中,获取目标车辆在行驶过程中产生的第一格式的目标数据,包括:获取所述第一格式的第一数据和所述第一格式的第二数据,其中,所述第一数据包括:均具有标签的多个子数据,所述第二数据包括:均不具有标签的多个子数据;所述标签用于描述子数据所在的场景信息;所述目标数据包括所述第一数据和所述第二数据。
需要说明的是,目标车辆在行驶的过程中,会根据驾驶车辆的人员不同,将全部或者部分数据上传数据处理系统,在上传数据至数据处理系统以前,目标车辆会先将一部分可以直接确定标签的子数据打上标签,进而将打上标签的数据上传至数据处理系统,对于剩下的数据,则直接上传至数据处理系统。可选的,标签可以为“高速”,用于指示子数据所在的场景为高速场景。
在一个示例性的实施例中,在获取目标车辆在行驶过程中产生的第一格式的目标数据之后,所述方法还包括:使用数据分类模型确定所述第二数据中的每个子数据对应的标签,其中,所述数据分类模型为通过多组训练数据训练得到的模型,所述多组训练数据中的每组训练数据包括:样本数据、所述样本数据对应的标签。
也就是说,在数据处理系统获取到没有打上标签的数据以后,会使用数据分类模型确定未打上标签的子数据对应的标签。
在本实施例中,通过给数据打上标签,进而可以通过数据对应的标签来对数据进行相应的存储操作。
步骤S204:使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;
作为一种可选的示例,目标中间件可以为x-client通信中间件。
作为一种可选的示例,上述步骤S204可以通过以下步骤S21-S22实现:
S21:对所述第一格式的目标数据进行解码,得到解码数据;
作为一种可选的示例,可以将第一格式(16进制)的数据解码成二进制的解码数据。
S22:按照预先设置的第二格式对所述解码数据进行编码,得到所述第二格式的目标数据。
作为一种可选的示例,第二格式为所述数据处理系统对应的格式,示例性的,第二格式可以为8进制。即可以将二进制的解码数据进行编码,得到8进制的目标数据。
步骤S206:对所述第二格式的目标数据进行数据处理。
在一个示例性的实施例中,对所述第二格式的目标数据进行数据处理包括:指示数据储存模块根据所述目标数据中每个子数据的标签,将所述每个子数据存储至目标存储器中。
即在本实施例中,能够根据规则化的数据标签实现半自动/全自动数据储存操作。
在一个示例性的实施例中,在所述目标车辆的操控对象为第一目标对象的情况下,上述步骤S206包括:通过数据回放模块对所述目标数据进行解码;通过目标页面显示解码后的目标数据,并根据目标打标操作对所述目标数据中的部分子数据设置对应的补充标签,其中,所述目标打标操作为通过所述目标页面获取到的操作;所述补充标签用于补充所述部分子数据所在的场景信息。
需要说明的是,数据回放模块为数据处理系统中的模块。
可选的,数据回放模块其主要功能是加载数据录制模块录制的基础数据和目标车辆上传的目标数据,通过x-client通信件实现数据可视化。用户通过数据回放模块进行基础数据加载,Holodata软件将播放的数据进行数据解码并可视化投影至数据回放界面(即上述目标页面),数据回放界面(如图6、7所示)与数据录制界面基本一致,可实现补充标签打点等功能。
在一个示例性的实施例中,在所述目标车辆的操控对象为第二目标对象的情况下,上述步骤S206包括:确定目标录制信息,其中,所述目标录制信息用于指示录制所述目标数据的规则;指示数据录制模块根据所述目标录制信息对所述目标数据进行数据录制,得到录制数据。
作为一种可选的示例,目标录制信息包括但不限于:目标车辆的标识、数据储存路径、数据录制时长、数据截取时间等等。
需要说明的是,数据录制模块的主要功能是将通过x-client统一编码格式后的bag数据进行数据录制,在此录制过程中可通过用户设置进行按时间或者大小为基准自动切包数据录制及指定录制topic消息类型等功能。数据录制界面可以主要分为两个界面,第一界面(如图4所示)为信息输入界面用户开启数据录制模块后首先需要输入姓名、车辆、储存路径、录制时长、数据截取时间等基本信息设置;基础信息输入完成后即进入第二个界面(如图5所示),该界面可实时显示数据状态指示灯、实车视屏数据解码显示、topic显示、log日志显示等功能。用户在此界面点击开始/结束录制即可完成数据的录制工作,通过tar标记完成功能标签打点记录等。
在一个示例性的实施例中,指示数据录制模块根据所述目标录制信息对所述目标数据进行数据录制,得到录制数据之后,还包括:通过数据分析模块对所述录制数据进行分析;和\或通过数据回传模块将所述录制数据回传至云端服务器;和\或指示数据储存模块根据所述录制数据中每个子数据的标签,将所述每个子数据存储至目标存储器中。
作为一种可选的示例,目标存储器包括但不限于NAS/硬盘等储存设备。
需要说明的是,数据分析模块的主要功能是加载数据录制模块录制的基础数据,通过x-client通信件实现原始数据可视化,便于用户分析数据判断ADAS系统功能问题等。该模块界面可加载log及topic数据信号。用户加载原始数据后,可通过拖动topic信号至数据分析界面实现数据实际曲线分析。此数据分析界面可实现原始数据曲线分析、播放时间拖动、时间戳放大/缩小等操作。
需要说明的是,数据回传模块的主要功能为在基础数据产生的过程中,通过winterfell数据回传功能实现数据功能标签打点、功能指标统计并将相关打点及指标信息通过车载流量及4G模块完成数据自动回传至云端服务器。用户可通过登录云端服务器等操作实时查看实车数据指标回传结果。
需要说明的是,数据储存模块的主要功能是实现统一编码后的基础数据储存落盘,将按照三级目录进行基础数据储存。一级目录:场景;二级目录:日期;三级目录:车辆编码。通过以上数据储存目录结构实现基础数据实时储存至NAS/硬盘等储存设备中。
通过上述步骤,获取目标车辆在行驶过程中产生的第一格式的目标数据,进而使用目标中间件对第一格式的目标数据进行格式转化,得到第二格式的目标数据,并对第二格式的目标数据进行数据处理。由于将目标车辆在行驶过程中产生的目标数据的数据格式转化为固定的格式,进而解决了不同平台的车辆产生的数据的格式不一致,导致数据处理效率较低的问题,提高了数据处理效率。
显然,上述所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。为了更好的理解上述方法,以下结合实施例对上述过程进行说明,但不用于限定本发明实施例的技术方案,具体地:
在一个可选的实施例中,提供一种支持多平台自动驾驶数据处理方法,其中优点在于不强依赖与某一种硬件平台,能够通过通信中间件实现跨平台,满足多域控的数据处理,能够根据规则化的数据标签实现半自动/全自动数据储存操作。该储存方法基于Ubuntu操作系统,利用相关支持动态库实现多平台通信操作,相关指令可实现自动化脚本启动。在产生的自动驾驶相关大数据中,该功能可实现数据分类归纳,根据每天产生的海量数据依据输入的数据标签建立相对应的实时存储空间和即时存储空间两大储存空间并提供便捷式查询等功能;
该数据录制方法具备易操作、实时性高、兼容性高等特点。
该软件系统(相当于上述数据处理系统)可以获取并存储目标设备通过运行目标节点执行目标任务时产生的原始数据。后续该软件在对待数据录制进行测试时,可以通过向目标设备发送节点启动请求,以通过该请求指示目标设备根据该启动请求中携带的调用信息,发送调用节点数据。当目标设备获取到该软件发送的节点启动请求后,即可基于该请求,对需执行的目标节点进行运行,从而避免在原始数据储存过程中,需要采集人员进行大量地手动输入录制所需的参数信息,减少了采集人员的工作量,也避免了对待采集软件进行采集的效率受到采集人员工作效率的影响,提高了对待采集软件进行数据储存的过程效率。
如图3所示,该软件系统主要包括四个功能:数据录制功能、数据回放功能、数据分析功能、数据回传功能;此外,还包括数据储存功能。该技术基于硬件、软件两大部分实现多平台自动驾驶数据储存,其中硬件部分包括:基础传感器、域控(不局限某一种控制器)、工控机、NAS储存设备、4G模块、显示模块及信号输入模块等;软件部分包括:底层通信数据、x-client中间件、工况数据回传模块、通信模块、语义信息模块、可视化软件模块等。
该系统基于以上模块完成数据的储存及处理工作。
硬件部分:基础数据包括传感器数据、车身数据、行车记录仪数据、其他数据;数据处理部分:车载工控机/笔记本、可视化屏幕、信号功能按键;储存模块:NAS、硬盘;通讯模块:车载流量模块、外置4G模块;在硬件部分基础数据部分产生大量原始车辆数据,通过工控机进行数据处理、统一编码生成bag类型格式数据并将全量原始数据储存值NAS等数据储存在设备中,信号功能按键在此过程中担任打tag标记及数据标签类型的功能。全量原始数据通过人为进行的tag数据标签对数据进行切分后,通过车载流量模块和4G模块完成数据上传至云端的操作。
软件部分:x-client通信中间件可实现跨ADAS域控平台数据中转通信的功能;winterfell可实现数据回传及数据标签统计的功能;Holodata即基础数据处理可视化软件;软件部分主要功能针对产生的不同格式的大量基础数据通过x-client通信中间件完成数据编码格式转换以实现统一编码格式储存的过程,经过统一编码格式后的bag数据Holodata软件可进行数据录制、回放、分析、回传、储存等处理操作;winterfell主要实现数据回传等功能,通过数据topic、状态位等规则判断实现主要功能指标自动标签记录。
数据录制模块:其主要功能是将通过x-client统一编码格式后的bag数据进行数据录制,在此录制过程中可通过用户设置进行按时间或者大小为基准自动切包数据录制及指定录制topic消息类型等功能。通过查看下文的数据录制界面可以看出其主要分为两个界面,第一界面为信息输入界面用户开启数据录制模块后首先需要输入姓名、车辆、储存路径、录制时长、数据截取时间等基本信息设置;基础信息输入完成后即进入第二个界面,该界面可实时显示数据状态指示灯、实车视屏数据解码显示、topic显示、log日志显示等功能。用户在此界面点击开始/结束录制即可完成数据的录制工作,通过tar标记完成功能标签打点记录等。需要说明的是,第一界面如图4所示,第二界面如图5所示。
数据回放模块:其主要功能是加载录制模块录制的基础数据,通过x-client通信件实现数据可视化。用户通过数据回放模块进行基础数据加载,Holodata软件将播放的数据进行数据解码并可视化投影至数据回放界面,数据回放界面与数据录制界面基本一致,可实现补充标签打点等功能。数据回放模块的页面如图6所示,数据回放界面如图7所示。
数据分析模块:其主要功能是加载录制模块录制的基础数据,通过x-client通信件实现原始数据可视化,便于用户分析数据判断ADAS系统功能问题等。该模块界面可加载log及topic数据信号。用户加载原始数据后,可通过拖动topic信号至数据分析界面实现数据实际曲线分析。此数据分析界面可实现原始数据曲线分析、播放时间拖动、时间戳放大/缩小等操作。数据分析界面如图8所示。
数据回传模块:其主要功能在基础数据产生的过程中,通过winterfell数据回传功能实现数据功能标签打点,功能指标统计并将相关打点及指标信息通过车载流量及4G模块完成数据自动回传至云端,用户可通过登录云端等操作实时查看实车数据指标回传结果。
数据储存模块:其主要功能是实现统一编码后的基础数据储存落盘,将按照三级目录进行基础数据储存。一级目录:场景;二级目录:日期;三级目录:车辆编码。通过以上数据储存目录结构实现基础数据实时储存至NAS/硬盘等储存设备中。
需要说明的是,该系统的硬件架构图如图9所示,该系统的软件架构图如图10所示。
需要说明的是,本申请不强依赖某一域控平台,可跨平台实现ADAS数据储存及处理;基于规则化的数据处理方法,便于实现自动化数据处理过程;通过x-client中间件实现多平台信号通讯。
此外,本申请针对ADAS系统产生的大量数据,软件配置简单高效,能够快速适配不同域控平台实现数据储存及处理,可以提高数据处理效率及利用率;利用规则化的数据储存方法,能够实现数据查询、分类及场景分布,通过云端可视化界面快速确认目标数据量,通过不断扩充数据场景及种类实现以数据驱动的自动驾驶迭代,提高了自动驾驶软件迭代效率;减少人为操作过程,实现数据依赖规则化自动完成数据回传及处理。通过实际数据过程中不断优化和完善,逐步实现全自动化数据驱动下的全自动驾驶功能。
可以理解的是,在本申请的具体实施方式中,涉及到用户信息等相关的数据,当本申请以上实施例运用到具体产品或技术中时,需要获得用户许可或者同意,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台自动驾驶车辆执行本发明各个实施例的方法。
在本实施例中还提供了一种数据处理装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的设备较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
图11是根据本发明实施例的数据处理装置的结构框图,该装置包括:
获取模块112,用于获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;
转化模块114,用于使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;
处理模块116,用于对所述第二格式的目标数据进行数据处理。
上述装置,获取目标车辆在行驶过程中产生的第一格式的目标数据,进而使用目标中间件对第一格式的目标数据进行格式转化,得到第二格式的目标数据,并对第二格式的目标数据进行数据处理。由于将目标车辆在行驶过程中产生的目标数据的数据格式转化为固定的格式,进而解决了不同平台的车辆产生的数据的格式不一致,导致数据处理效率较低的问题,提高了数据处理效率。
在一个示例性的实施例中,转化模块114,还用于对所述第一格式的目标数据进行解码,得到解码数据;按照预先设置的第二格式对所述解码数据进行编码,得到所述第二格式的目标数据。
在一个示例性的实施例中,获取模块112,还用于获取所述第一格式的第一数据和所述第一格式的第二数据,其中,所述第一数据包括:均具有标签的多个子数据,所述第二数据包括:均不具有标签的多个子数据;所述标签用于描述子数据所在的场景信息;所述目标数据包括所述第一数据和所述第二数据;上述装置还包括:确定模块,用于在获取目标车辆在行驶过程中产生的第一格式的目标数据之后,使用数据分类模型确定所述第二数据中的每个子数据对应的标签,其中,所述数据分类模型为通过多组训练数据训练得到的模型,所述多组训练数据中的每组训练数据包括:样本数据、所述样本数据对应的标签。
在一个示例性的实施例中,获取模块112,还用于在所述目标车辆的操控对象为第一目标对象的情况下,获取所述目标车辆按照目标数据协议发送的特定数据,其中,所述目标数据协议为所述目标车辆与云端服务器预先约定的协议,所述目标数据协议用于指示所述目标车辆待上传所述特定数据至所述云端服务器;所述特定数据至少包括特定场景下的数据;在所述目标车辆的操控对象为第二目标对象的情况下,获取所述目标车辆在行驶过程中所述传感器采集到的所有数据和所述目标车辆的所有行驶数据。
在一个示例性的实施例中,处理模块116,还用于在所述目标车辆的操控对象为第一目标对象的情况下,通过以下方式对所述第二格式的所述目标数据进行数据处理:通过数据回放模块对所述目标数据进行解码;通过目标页面显示解码后的目标数据,并根据目标打标操作对所述目标数据中的部分子数据设置对应的补充标签,其中,所述目标打标操作为通过所述目标页面获取到的操作;所述补充标签用于补充所述部分子数据所在的场景信息。
在一个示例性的实施例中,处理模块116,还用于在所述目标车辆的操控对象为第二目标对象的情况下,通过以下方式对所述第二格式的所述目标数据进行数据处理:确定目标录制信息,其中,所述目标录制信息用于指示录制所述目标数据的规则;指示数据录制模块根据所述目标录制信息对所述目标数据进行数据录制,得到录制数据。
在一个示例性的实施例中,处理模块116,还用于在指示数据录制模块根据所述目标录制信息对所述目标数据进行数据录制,得到录制数据之后,通过数据分析模块对所述录制数据进行分析;和\或通过数据回传模块将所述录制数据回传至云端服务器;和\或指示数据储存模块根据所述录制数据中每个子数据的标签,将所述每个子数据存储至目标存储器中。
根据本申请的一个方面,提供了一种计算机程序产品,该计算机程序产品包括计算机程序/指令,该计算机程序/指令包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1209从网络上被下载和安装,和/或从可拆卸介质1211被安装。在该计算机程序被中央处理器1201执行时,执行本申请实施例提供的各种功能。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
图12示意性地示出了用于实现本申请实施例的电子设备的计算机系统结构框图。
需要说明的是,图12示出的电子设备的计算机系统1200仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图12所示,计算机系统1200包括中央处理器1201(Central Processing Unit,CPU),其可以根据存储在只读存储器1202(Read-Only Memory,ROM)中的程序或者从存储部分1208加载到随机访问存储器1203(Random Access Memory,RAM)中的程序而执行各种适当的动作和处理。在随机访问存储器1203中,还存储有系统操作所需的各种程序和数据。中央处理器1201、在只读存储器1202以及随机访问存储器1203通过总线1204彼此相连。输入/输出接口1205(Input /Output接口,即I/O接口)也连接至总线1204。
以下部件连接至输入/输出接口1205:包括键盘、鼠标等的输入部分1206;包括诸如阴极射线管(Cathode Ray Tube,CRT)、液晶显示器(Liquid Crystal Display,LCD)等以及扬声器等的输出部分1207;包括硬盘等的存储部分1208;以及包括诸如局域网卡、调制解调器等的网络接口卡的通信部分1209。通信部分1209经由诸如因特网的网络执行通信处理。驱动器1210也根据需要连接至输入/输出接口1205。可拆卸介质1211,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1210上,以便于从其上读出的计算机程序根据需要被安装入存储部分1208。
特别地,根据本申请的实施例,各个方法流程图中所描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1209从网络上被下载和安装,和/或从可拆卸介质1211被安装。在该计算机程序被中央处理器1201执行时,执行本申请的系统中限定的各种功能。
根据本申请实施例的又一个方面,还提供了一种用于实施上述数据处理方法的电子设备,该电子设备可以是图1所示的自动驾驶车辆或服务器。本实施例以该电子设备为自动驾驶车辆为例来说明。如图13所示,该电子设备包括存储器1302和处理器1304,该存储器1302中存储有计算机程序,该处理器1304被设置为通过计算机程序执行上述任一项方法实施例中的步骤。
可选地,在本实施例中,上述电子设备可以位于计算机网络的多个网络设备中的至少一个网络设备。
可选地,在本实施例中,上述处理器可以被设置为通过计算机程序执行以下步骤:
S1,获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;
S2,使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;
S3,对所述第二格式的目标数据进行数据处理。
可选地,本领域普通技术人员可以理解,图13所示的结构仅为示意,电子装置电子设备也可以是自动驾驶车辆。图13其并不对上述电子装置电子设备的结构造成限定。例如,电子装置电子设备还可包括比图13中所示更多或者更少的组件(如网络接口等),或者具有与图13所示不同的配置。
其中,存储器1302可用于存储软件程序以及模块,如本申请实施例中的数据处理方法和装置对应的程序指令/模块,处理器1304通过运行存储在存储器1302内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的数据处理方法。存储器1302可包括高速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器1302可进一步包括相对于处理器1304远程设置的存储器,这些远程存储器可以通过网络连接至终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。其中,存储器1302具体可以但不限于用于包含车辆数据等信息。作为一种示例,如图13所示,上述存储器1302中可以但不限于包括上述数据处理装置中的获取模块112,转化模块114,处理模块116。此外,还可以包括但不限于上述数据处理装置中的其他模块单元,本示例中不再赘述。
可选地,上述的传输装置1306用于经由一个网络接收或者发送数据。上述的网络具体实例可包括有线网络及无线网络。在一个实例中,传输装置1306包括一个网络适配器(Network Interface Controller,NIC),其可通过网线与其他网络设备与路由器相连从而可与互联网或局域网进行通讯。在一个实例中,传输装置1306为射频(Radio Frequency,RF)模块,其用于通过无线方式与互联网进行通讯。
此外,上述电子设备还包括:显示器1308;和连接总线1310,用于连接上述电子设备中的各个模块部件。
在其他实施例中,上述自动驾驶车辆或者服务器可以是一个分布式系统中的一个节点,其中,该分布式系统可以为区块链系统,该区块链系统可以是由该多个节点通过网络通信的形式连接形成的分布式系统。其中,节点之间可以组成点对点(P2P,Peer To Peer)网络,任意形式的计算设备,比如服务器、终端等电子设备都可以通过加入该点对点网络而成为该区块链系统中的一个节点。
根据本申请的一个方面,提供了一种计算机可读存储介质,计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各种可选实现方式中提供数据处理方法。
可选地,在本实施例中,上述计算机可读存储介质可以被设置为存储用于执行以下步骤的计算机程序:
S1,获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;
S2,使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;
S3,对所述第二格式的目标数据进行数据处理。
可选地,在本实施例中,本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令自动驾驶车辆相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-OnlyMemory,ROM)、随机存取器(Random Access Memory,RAM)、磁盘或光盘等。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
上述实施例中的集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在上述计算机可读取的存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在存储介质中,包括若干指令用以使得一台或多台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。
在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的客户端,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上所述仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。

Claims (10)

1.一种数据处理方法,其特征在于,包括:
获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;
使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;
对所述第二格式的目标数据进行数据处理。
2.根据权利要求1所述的方法,其特征在于,使用目标中间件对第一格式的目标数据进行格式转化,得到第二格式的目标数据,包括:
对所述第一格式的目标数据进行解码,得到解码数据;
按照预先设置的第二格式对所述解码数据进行编码,得到所述第二格式的目标数据。
3.根据权利要求1所述的方法,其特征在于,
获取目标车辆在行驶过程中产生的第一格式的目标数据,包括:获取所述第一格式的第一数据和所述第一格式的第二数据,其中,所述第一数据包括:均具有标签的多个子数据,所述第二数据包括:均不具有标签的多个子数据;所述标签用于描述子数据所在的场景信息;所述目标数据包括所述第一数据和所述第二数据;
获取目标车辆在行驶过程中产生的第一格式的目标数据之后,所述方法还包括:使用数据分类模型确定所述第二数据中的每个子数据对应的标签,其中,所述数据分类模型为通过多组训练数据训练得到的模型,所述多组训练数据中的每组训练数据包括:样本数据、所述样本数据对应的标签。
4.根据权利要求1所述的方法,其特征在于,获取目标车辆在运行的过程中产生的第一格式的目标数据,包括:
在所述目标车辆的操控对象为第一目标对象的情况下,获取所述目标车辆按照目标数据协议发送的特定数据,其中,所述目标数据协议为所述目标车辆与云端服务器预先约定的协议,所述目标数据协议用于指示所述目标车辆待上传所述特定数据至所述云端服务器;所述特定数据至少包括特定场景下的数据;
在所述目标车辆的操控对象为第二目标对象的情况下,获取所述目标车辆在行驶过程中所述传感器采集到的所有数据和所述目标车辆的所有行驶数据。
5.根据权利要求1所述的方法,其特征在于,在所述目标车辆的操控对象为第一目标对象的情况下,对所述第二格式的所述目标数据进行数据处理,包括:
通过数据回放模块对所述目标数据进行解码;
通过目标页面显示解码后的目标数据,并根据目标打标操作对所述目标数据中的部分子数据设置对应的补充标签,其中,所述目标打标操作为通过所述目标页面获取到的操作;所述补充标签用于补充所述部分子数据所在的场景信息。
6.根据权利要求1所述的方法,其特征在于,在所述目标车辆的操控对象为第二目标对象的情况下,对所述第二格式的所述目标数据进行数据处理,包括:
确定目标录制信息,其中,所述目标录制信息用于指示录制所述目标数据的规则;
指示数据录制模块根据所述目标录制信息对所述目标数据进行数据录制,得到录制数据。
7.根据权利要求6所述的方法,其特征在于,指示数据录制模块根据所述目标录制信息对所述目标数据进行数据录制,得到录制数据之后,所述方法还包括:
通过数据分析模块对所述录制数据进行分析;和\或
通过数据回传模块将所述录制数据回传至云端服务器;和\或
指示数据储存模块根据所述录制数据中每个子数据的标签,将所述每个子数据存储至目标存储器中。
8.一种数据处理装置,其特征在于,包括:
获取模块,用于获取目标车辆在行驶过程中产生的第一格式的目标数据,其中,所述目标数据至少包括:所述目标车辆的传感器采集到的数据,所述目标车辆的行驶数据;
转化模块,用于使用目标中间件对所述第一格式的目标数据进行格式转化,得到第二格式的目标数据;
处理模块,用于对所述第二格式的目标数据进行数据处理。
9.一种计算机可读的存储介质,其特征在于,所述计算机可读的存储介质包括存储的程序,其中,所述程序运行时执行权利要求1至7中任一项所述的方法。
10.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为通过所述计算机程序执行权利要求1至7中任一项所述的方法。
CN202310085329.1A 2023-01-28 2023-01-28 数据处理方法及装置、存储介质及电子装置 Pending CN115793993A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310085329.1A CN115793993A (zh) 2023-01-28 2023-01-28 数据处理方法及装置、存储介质及电子装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310085329.1A CN115793993A (zh) 2023-01-28 2023-01-28 数据处理方法及装置、存储介质及电子装置

Publications (1)

Publication Number Publication Date
CN115793993A true CN115793993A (zh) 2023-03-14

Family

ID=85430568

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310085329.1A Pending CN115793993A (zh) 2023-01-28 2023-01-28 数据处理方法及装置、存储介质及电子装置

Country Status (1)

Country Link
CN (1) CN115793993A (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112905849A (zh) * 2021-02-18 2021-06-04 中国第一汽车股份有限公司 一种车辆数据处理的方法及装置
CN113946729A (zh) * 2021-10-14 2022-01-18 阿波罗智联(北京)科技有限公司 针对车辆的数据处理方法、装置、电子设备和介质
CN113987303A (zh) * 2021-09-28 2022-01-28 广州文远知行科技有限公司 自动驾驶的日志数据处理方法及装置
CN114490910A (zh) * 2022-01-26 2022-05-13 中国第一汽车股份有限公司 一种地图的生成方法、装置、电子设备及存储介质
CN114780349A (zh) * 2022-05-05 2022-07-22 中国第一汽车股份有限公司 自动驾驶车辆的数据处理方法、装置
CN115578716A (zh) * 2022-10-26 2023-01-06 重庆长安汽车股份有限公司 一种车载数据的处理方法、装置、设备及介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112905849A (zh) * 2021-02-18 2021-06-04 中国第一汽车股份有限公司 一种车辆数据处理的方法及装置
CN113987303A (zh) * 2021-09-28 2022-01-28 广州文远知行科技有限公司 自动驾驶的日志数据处理方法及装置
CN113946729A (zh) * 2021-10-14 2022-01-18 阿波罗智联(北京)科技有限公司 针对车辆的数据处理方法、装置、电子设备和介质
CN114490910A (zh) * 2022-01-26 2022-05-13 中国第一汽车股份有限公司 一种地图的生成方法、装置、电子设备及存储介质
CN114780349A (zh) * 2022-05-05 2022-07-22 中国第一汽车股份有限公司 自动驾驶车辆的数据处理方法、装置
CN115578716A (zh) * 2022-10-26 2023-01-06 重庆长安汽车股份有限公司 一种车载数据的处理方法、装置、设备及介质

Similar Documents

Publication Publication Date Title
CN110262370B (zh) Plc的批量读写方法、装置及系统
CN111464639B (zh) 数据采集方法、装置、存储介质及处理器
CN113872681B (zh) 移动终端的光缆监管方法、系统、移动终端及存储介质
CN111666193B (zh) 基于实时日志解析的终端功能监控与测试的方法与系统
CN103475532A (zh) 硬件检测方法和系统
CN112291121B (zh) 一种数据处理方法及相关设备
CN111104366B (zh) 数据归档方法、装置、服务器以及存储介质
CN115793993A (zh) 数据处理方法及装置、存储介质及电子装置
CN116708178A (zh) 网络设备变更历史的回溯方法、装置、设备、介质及产品
CN109542743B (zh) 日志校验方法、装置、电子设备及计算机可读存储介质
CN116506702A (zh) 一种数据处理和同步方法、系统、设备及存储介质
CN116821659A (zh) 车辆油耗分析方法、装置、计算机设备及可读存储介质
CN109828883B (zh) 任务数据处理方法和装置、存储介质及电子装置
CN115309802A (zh) 用户分布热力图获取方法、装置、电子设备及存储介质
CN115002196A (zh) 一种数据处理方法、装置、车端采集设备
CN114221988A (zh) 一种内容分发网络热点分析方法和系统
CN114510305A (zh) 模型训练方法、装置、存储介质及电子设备
CN109996089B (zh) 一种处理操作日志的方法、系统以及一种流媒体服务器
CN107181800B (zh) 一种状态监测媒体数据的Web实时共享实现方法
CN110955709A (zh) 一种数据的处理方法、装置及电子设备
CN109640291B (zh) 信息处理方法及设备、存储介质、车联网社区平台系统
CN116489446B (zh) 网络电视界面处理方法、装置和智能电视终端
CN111538914A (zh) 地址信息的处理方法和装置
CN110298935B (zh) 一种获取用户操作习惯信息的方法、诊断设备、及服务器
CN116915767B (zh) 文档传输方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20230314