CN116664964A - 数据筛选方法、装置、车载设备和存储介质 - Google Patents
数据筛选方法、装置、车载设备和存储介质 Download PDFInfo
- Publication number
- CN116664964A CN116664964A CN202310950633.8A CN202310950633A CN116664964A CN 116664964 A CN116664964 A CN 116664964A CN 202310950633 A CN202310950633 A CN 202310950633A CN 116664964 A CN116664964 A CN 116664964A
- Authority
- CN
- China
- Prior art keywords
- data
- target
- frame
- information
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012216 screening Methods 0.000 title claims abstract description 292
- 238000000034 method Methods 0.000 title claims abstract description 112
- 230000008447 perception Effects 0.000 claims abstract description 537
- 230000002159 abnormal effect Effects 0.000 claims abstract description 329
- 239000012634 fragment Substances 0.000 claims abstract description 215
- 238000001514 detection method Methods 0.000 claims abstract description 40
- 230000006399 behavior Effects 0.000 claims description 44
- 238000000605 extraction Methods 0.000 claims description 29
- 230000002547 anomalous effect Effects 0.000 claims description 22
- 238000005065 mining Methods 0.000 claims description 22
- 238000001914 filtration Methods 0.000 claims description 20
- 238000002372 labelling Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 17
- 238000012549 training Methods 0.000 claims description 10
- 230000008878 coupling Effects 0.000 claims description 7
- 238000010168 coupling process Methods 0.000 claims description 7
- 238000005859 coupling reaction Methods 0.000 claims description 7
- 238000013075 data extraction Methods 0.000 claims description 6
- 238000012790 confirmation Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 11
- 230000008859 change Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 238000007418 data mining Methods 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 238000013500 data storage Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 229910021389 graphene Inorganic materials 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/771—Feature selection, e.g. selecting representative features from a multi-dimensional feature space
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/42—Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
- G06V10/422—Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation for representing the structure of the pattern or shape of an object therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
- G06V10/95—Hardware or software architectures specially adapted for image or video understanding structured as a network, e.g. client-server architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/30—Services specially adapted for particular environments, situations or purposes
- H04W4/38—Services specially adapted for particular environments, situations or purposes for collecting sensor information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/30—Services specially adapted for particular environments, situations or purposes
- H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
- H04W4/44—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请涉及一种数据筛选方法、装置、车载设备和存储介质。所述方法包括:获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,驾驶数据包括多个数据帧;对驾驶数据进行特征提取,得到目标感知信息;其中,目标感知信息包括目标对象的不同特征维度的特征信息;针对目标对象,对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从驾驶数据中确定异常数据片段;基于预设场景标签对驾驶数据进行提取,得到与预设场景标签对应的目标场景数据片段;对异常数据片段和目标场景数据片段进行筛选,得到目标筛选数据。采用本方法能够提高筛选数据的质量以及完善驾驶场景数据。
Description
技术领域
本申请涉及数据处理技术领域,特别是涉及一种数据筛选方法、装置、车载设备和存储介质。
背景技术
随着智能驾驶技术的不断发展,对智能驾驶的稳定性、准确性以及安全性等方面的要求也越来越高。为了确保智能驾驶各方向的性能,通过对采集的驾驶感知数据进行筛选,在数据闭环系统中,利用筛选的数据完成数据标注以及模型迭代训练,进而可以提高智能驾驶的稳定性、准确性以及安全性等。
然而,传统的数据筛选方式是通过人为设置筛选条件和阈值,筛选出特定场景的驾驶数据。随着自动驾驶场景越来越复杂,智能驾驶积累的数据量越来越多,传统的数据筛选方式无法从已有的场景数据中复用和进行自主识别,筛选出不常见场景的驾驶数据,导致驾驶数据筛选的有效性低。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高数据筛选有效性的数据筛选方法、装置、车载设备、计算机可读存储介质和计算机程序产品。
第一方面,本申请提供了一种数据筛选方法。所述方法包括:
获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,所述驾驶数据包括多个数据帧;
对所述驾驶数据进行特征提取,得到目标感知信息;其中,所述目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息;
针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段;以及
基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段;
对所述异常数据片段和所述目标场景数据片段进行筛选,得到目标筛选数据。
在其中一个实施例中,所述不同车端感知小模型包括不同传感器感知模型,所述目标对象的数量为至少一个,所述针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段,包括:
对所述不同传感器感知模型进行组合,得到至少一组传感器感知模型;
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测;
当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧;
以所述异常数据帧为参考,从所述驾驶数据中确定中间异常数据片段;
对所述当前数据帧的下一数据帧执行所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测的步骤,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段;
根据所述至少一个中间异常数据片段确定异常数据片段。
在其中一个实施例中,其中,所述特征维度包括标识维度,所述标识维度的特征信息包括对象标识;所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的对象标识,确定所针对的每组传感器感知模型的目标对象标识的标识对应关系,逐帧判断所述标识对应关系是否发生更新;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所述标识对应关系更新则满足数据帧异常条件,将所述标识对应关系更新对应的当前数据帧确定为异常数据帧。
在其中一个实施例中,所述特征维度包括空间信息维度,所述空间信息维度的特征信息包括空间信息,所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的目标对象在所述每组传感器感知模型之间的交并比;
逐帧判断所针对的目标对象在所述每组传感器感知模型中的交并比是否小于第一交并比阈值;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所针对的目标对象在所述每组传感器感知模型中的交并比小于所述第一交并比阈值时,则将小于所述第一交并比阈值对应的当前数据帧确定为异常数据帧。
在其中一个实施例中,所述特征维度包括空间信息维度,所述空间信息维度的特征信息包括空间信息,所述目标对象包括道路结构;
所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个道路结构中每个道路结构,分别对所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的道路结在所述每组传感器感知模型之间的相对距离;
逐帧判断所针对的道路结构在所述每组传感器感知模型中的相对距离是否大于第一距离阈值;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所针对的道路结构在所述每组传感器感知模型中的相对距大于第一距离阈值时,则将大于第一距离阈值对应的当前数据帧确定为异常数据帧。
在其中一个实施例中,所述特征维度包括类别维度,所述类别维度的特征信息包括空间信息和对象类型,所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的交并比;
逐帧比较所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的交并比是否大于第二交并比阈值;
当存在所述交并比大于所述第二交并比阈值的目标对象,则判断所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的对象类型是否相同;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与所述对象类型不相同对应的当前数据帧确定为异常数据帧。
在其中一个实施例中,所述特征维度包括类别维度,所述类别维度的特征信息包括空间信息和对象类型,所述目标对象包括道路结构,所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个道路结构中每个道路结构,分别对所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的相对距离;
逐帧比较所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的所有相对距离是否小于第二距离阈值;
当存在所述相对距离小于所述第二距离阈值的道路结构,则逐帧判断所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的对象类型是否相同;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所述所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与所述对象类型不相同对应的当前数据帧确定为异常数据帧。
在其中一个实施例中,在所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测之前,所述方法还包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息进行过滤处理,得到相同视场角下的目标感知信息。
在其中一个实施例中,所述不同车端感知小模型包括不同传感器感知模型和不同辅助模型,所述不同辅助模型的目标感知信息包括关键点和深度信息中的至少一种,所述目标对象的数量为至少一个,所述针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段,包括:
对所述不同传感器感知模型和所述不同辅助模型进行组合,得到至少一组传感器感知模型和辅助模型的组合;
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型和辅助模型中每组传感器感知模型和辅助模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测;
当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧;
以所述异常数据帧为参考,从所述驾驶数据中确定中间异常数据片段;
对所述当前数据帧的下一数据帧执行所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型和辅助模型的组合中每组组合的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测的步骤,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段;
根据所述至少一个中间异常数据片段确定异常数据片段。
在其中一个实施例中,所述特征维度包括多任务维度,所述多任务维度的特征信息包括空间信息、关键点和深度信息;
所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息与所述特征维度对应的数据帧异常条件进行逐帧检测,包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型和辅助模型的组合中每组传感器感知模型的目标感知信息中的空间信息,以及所述辅助模型的目标感知信息中的关键点或深度信息;
确定所述关键点和所述深度信息中任意一个与所述空间信息的一致性值,逐帧筛选所针对的目标对象在所述至少一组传感器感知模型和辅助模型的组合中每组组合的一致性值是否小于一致性阈值;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所述一致性值小于所述一致性阈值,则将小于所述一致性阈值对应的当前数据帧确定为异常数据帧。
在其中一个实施例中,所述不同车端感知小模型包括不同传感器感知模型,所述特征维度包括置信度维度,所述置信度维度的特征信息包括置信度,所述针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段,包括:
所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述不同传感器感知模型的目标感知信息中置信度与置信度阈值进行逐帧检测;
当所述目标置信度小于所述置信度阈值,则将小于所述置信度阈值对应的当前数据帧确定为异常数据帧;
以所述异常数据帧为参考,从所述驾驶数据中确定中间异常数据片段;
对所述当前数据帧的下一数据帧执行所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述不同传感器感知模型的目标感知信息中置信度与置信度阈值进行逐帧检测,得到检测结果的步骤,直到完成所有数据帧的比对,得到至少一个中间异常数据片段;
根据所述至少一个中间异常数据片段确定异常数据片段。
在其中一个实施例中,所述根据所述至少一个中间异常数据片段确定异常数据片段,包括:
根据所述至少一个中间异常数据片段中每个中间异常数据片段的时间戳,确定每两个所述中间异常数据片段之间的时间重合度;
当所述时间重合度大于时间重合度阈值,则将所述时间重合度大于时间重合度阈值对应的两个中间异常数据片段进行合并,直到合并后的任意两个合并异常数据片段的时间重合度小于所述时间重合度阈值,则得到异常数据片段。
在其中一个实施例中,所述基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段,包括:
基于所述驾驶数据对预设感知范围内的第一车辆的行为进行预测,得到预测驾驶行为数据;
将所述预测驾驶行为数据与第二车辆的驾驶行为数据进行比对,得到第一场景片段数据;
基于预设筛选策略数据从所述驾驶数据中确定第二场景片段数据;
对所述第一场景片段数据和所述第二场景片段数据进行合并,得到关键场景标签对应的目标场景数据片段。
在其中一个实施例中,所述对所述异常数据片段和所述目标场景数据片段进行筛选处理,得到目标筛选数据,包括:
确定所述异常数据片段携带的时间戳和所述目标场景数据片段携带的时间戳的时间戳重合度;
根据所述时间戳重合度对所述异常数据片段和所述目标场景数据片段进行合并处理,得到合并数据;所述合并数据中包括至少一个合并数据片段;
针对所述至少一个合并数据片段中每个合并数据片段,若所针对的所述合并数据片段不存在第一场景标签和目标感知触发标签,则删除所述合并数据片段,得到目标筛选数据。
在其中一个实施例中,所述方法还包括:
针对所述至少一个合并数据片段中每个合并数据片段,在所述合并数据片段存在第一场景标签且存在所述目标感知触发标签的情况下,若所述每个合并数据片存在第二场景标签,根据场景平衡策略数据对所述合并数据片段进行筛选,得到目标筛选数据;
在所述合并数据片段存在第一场景标签且存在所述目标感知触发标签的情况下,若所述合并数据片段不存在第二场景标签,通过对所述合并数据片段进行分析,确定所述合并数据片段对应的第一标志位并进行保存,得到目标筛选数据。
在其中一个实施例中,所述方法还包括:
针对所述至少一个合并数据片段中每个合并数据片段,在所述合并数据片段存在第一场景标签且不存在目标感知触发标签的情况下,确定所述针对的所述合并数据片段的第二标志位,所述第二标志位用于标记需要进一步通过人工确认合并数据片段是否需要进行保留。
在其中一个实施例中,所述方法还包括:
响应于筛选指令,若所述目标筛选数据中的筛选数据片段存在第二标志位且所述筛选数据片段不存在感知问题的,则直接丢弃所述筛选数据片段;
在所述筛选数据片段存在第二标志位且存在感知问题的情况下,若所述筛选数据片段存在有第二场景标签,则保留所述筛选数据片段;
在所述筛选数据片段不存在第二标志位的情况下,若所述筛选数据片段存在第一标志位且所述筛选数据片段存在第三场景标签,则响应场景添加指令,将所述第三场景标签添加至场景库中,并保留所述筛选数据片段。
在其中一个实施例中,所述方法还包括:
通过预标注模型对所述目标筛选数据进行标注,得到标注数据;
利用所述标注数据对所述不同车端感知小模型进行耦合迭代训练。
第二方面,本申请还提供了一种数据筛选装置。所述装置包括:
数据获取模块,用于获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,所述驾驶数据包括多个数据帧;
特征提取模块,用于对所述驾驶数据进行特征提取,得到目标感知信息;其中,所述目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息;
第一筛选模块,用于针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段;
数据提取模块,用于基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段;
第二筛选模块,用于对所述异常数据片段和所述目标场景数据片段进行筛选,得到目标筛选数据。
第三方面,本申请还提供了一种车载设备。所述车载设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,所述驾驶数据包括多个数据帧;
对所述驾驶数据进行特征提取,得到目标感知信息;其中,所述目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息;
针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段;
基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段;
对所述异常数据片段和所述目标场景数据片段进行筛选,得到目标筛选数据。
第四方面,本申请还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,所述驾驶数据包括多个数据帧;
对所述驾驶数据进行特征提取,得到目标感知信息;其中,所述目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息;
针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段;
基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段;
对所述异常数据片段和所述目标场景数据片段进行筛选,得到目标筛选数据。
第五方面,本申请还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,所述驾驶数据包括多个数据帧;
对所述驾驶数据进行特征提取,得到目标感知信息;其中,所述目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息;
针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段;
基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段;
对所述异常数据片段和所述目标场景数据片段进行筛选,得到目标筛选数据。
上述数据筛选方法、装置、车载设备、存储介质和计算机程序产品,在对智能驾驶数据进行筛选的情况下,通过获取不同传感器在同一驾驶环境中采集的多帧驾驶数据,对驾驶数据进行特征提取,得到包括目标对象的不同特征维度的特征信息的目标感知信息;针对目标对象,对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从驾驶数据中确定异常数据片段,对目标对象从至少一个相同特征维度筛选出异常数据片段,避免异常数据片段的遗漏,确保异常数据片段的完整性;进而在此基础上,基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段,对异常数据片段和目标场景数据片段进行筛选,得到目标筛选数据,将基于至少一个相同特征维度筛选出的异常数据片段与预设场景标签筛选的目标场景数据片段进行结合,提高了筛选数据的质量以及完善了智能驾驶的场景数据。
附图说明
图1为一个实施例中数据筛选方法的应用环境图;
图2为一个实施例中数据筛选方法的流程示意图;
图3为一个实施例中确定异常数据片段的方法的流程示意图;
图4为一个实施例中筛选异常数据片段的方法的流程示意图;
图5为另一个实施例中筛选异常数据片段的方法的流程示意图;
图6为另一个实施例中筛选异常数据片段的方法的流程示意图;
图7为另一个实施例中筛选异常数据片段的方法的流程示意图;
图8为另一个实施例中筛选异常数据片段的方法的流程示意图;
图9为另一个实施例中定异常数据片段的方法的流程示意图;
图10为另一个实施例中筛选异常数据片段的方法的流程示意图;
图11为另一个实施例中筛选异常数据片段的方法的流程示意图;
图12为一个实施例中中间异常数据片段合并方法的流程示意图;
图13为一个实施例中确定目标场景数据片段方法的流程示意图;
图14为一个实施例中确定目标筛选数据方法的流程示意图;
图15为一个实施例中数据筛选方法的流程示意图;
图16为另一个实施例中数据筛选方法的流程示意图;
图17为一个实施例中数据筛选方法的数据流向示意图;
图18为一个实施例中数据筛选装置的结构框图;
图19为一个实施例中车载设备的内部结构图。
具体实施方式
数据闭环系统是指一个完整的、可迭代、可持续的数据处理流程系统,包括数据采集、数据存储、数据处理、分析、挖掘和可视化等环节,并且可以在分析结果的基础上不断优化和改进整个数据处理流程。数据闭环系统包括数据筛选、数据标注和AI(ArtificialIntelligence,人工智能)模型训练三个部分。
随着智能驾驶技术的不断发展,智能驾驶数据积累的数据量越来越多。对智能驾驶的稳定性、准确性以及安全性等方面的要求也越来越高,在数据闭环系统中,基于筛选的数据可以完成数据标注以及模型迭代。然而,传统的数据筛选方式是通过人为设置筛选条件和阈值,筛选出特定场景的驾驶数据,无法从已有的场景数据中复用和进行自主识别,筛选出不常见场景的驾驶数据,导致驾驶数据筛选的有效性低。目前的数据筛选方式筛选的数据有效性低,不能满足实际场景的需求。
针对这一技术问题,提出了一种数据筛选方法,本申请实施例提供的数据筛选方法,可以应用于如图1所示的应用环境中。其中,车端102通过网络与采集设备104进行通信。采集设备104包括不同类型的传感器,传感器包括摄像头、激光雷达、超声波传感器等。传感器可以通过对环境的感知采集到丰富的感知数据,通过处理这些数据可以获得目标感知信息,进而实现智能感知和决策。采集设备104可以集成在车端102上,这里对采集设备104的安装位置不做限定。数据存储系统可以存储车端102需要处理的数据。数据存储系统可以集成在车端102上,也可以放在云端上或其他网络服务器上。车端获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,驾驶数据包括多个数据帧;通过不同车端感知小模型感知对驾驶数据进行特征提取,得到目标感知信息;其中,目标感知信息包括目标对象的不同特征维度的特征信息;针对目标对象,对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从驾驶数据中确定异常数据片段;基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段;对异常数据片段和目标场景数据片段进行筛选,得到目标筛选数据。
在一个实施例中,如图2所示,提供了一种数据筛选方法,以该方法应用于图1中的车端为例进行说明,包括以下步骤:
步骤202,获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,驾驶数据包括多个数据帧。
其中,驾驶数据的每帧数据中包括不同传感器在同一驾驶环境中采集的数据。不同传感器包括激光、雷达和相机等。本实施例以不同传感器包括激光Lidar、雷达Radar和相机Camera为例进行说明。
步骤204,对驾驶数据进行特征提取,得到目标感知信息;其中,目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息。
其中,对驾驶数据进行特征提取可以通过部署在车端的车端感知小模型进行提取车端感知小模型。车端感知小模型包括不同传感器感知模型和辅助模型,不同传感器感知模型包括不同传感器目标感知模型和不同传感器道路结构提取模型等模型进行提取。不同传感器目标感知模型包括激光目标感知模型、相机目标感知模型和雷达目标感知模型等不同类型的感知模型。不同传感器道路结构提取模型包括Lidar道路结构提取模型和Radar道路结构提取模型等不同类型的道路结构提取模型。目标感知模型可以感知目标对象的目标对象的空间位置、朝向、大小、物体类别、置信度和物体标识等感知信息。辅助模型可以提取出目标对象的关键点信息以及深度估计信息,深度估计信息可以是各个相机视角稠密的深度估计。道路结构提取模型提取的目标感知信息包括车道线,路沿等目标对象的空间位置、类别、置信度以及标识等信息。进一步地,目标感知模型、辅助模型以及道路结构提取模型提取特征的方式可以通过现有的方式实现,在此不做赘述。
特征维度包括标识维度、空间信息维度、类别维度、多任务维度和置信度维度等。不同的特征维度对应不同的特征信息,例如,标识维度对应的特征信息包括目标对象标识和道路结构标识;空间信息维度对应的特征信息包括空间信息;目标类型维度对应的特征信息包括空间信息和对象类型;多任务维度对应的特征信息包括空间信息、关键点和深度信息等;置信度维度对应的特征信息包括置信度。
可以理解的是,采集的驾驶数据中包括至少一个目标对象,目标对象可以是目标障碍物,也可以是道路结构。目标障碍物是指在图像中可以被识别出的物体,目标障碍物通常具有明显的形状、边界、颜色等特征,即静态目标障碍物和动态目标障碍物中的至少一种。静态目标障碍物可以是树木、建筑物等,动态目标障碍物可以是行人、车辆等。道路结构则是指道路本身的形态、结构和布局。在交通场景下,道路结构包括车道线、轮廓线、车道、行人道和边界线等。
具体地,通过部署在车端上的车端感知小模型对不同传感器在同一驾驶环境中采集的驾驶数据进行特征提取,得到包括目标对象的不同特征维度的特征信息的目标感知信息。
步骤206,针对目标对象,对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从驾驶数据中确定异常数据片段。
其中,异常数据片段包括感知弱项场景中的驾驶数据,感知弱项场景可以理解为自动驾驶或智能车辆技术在某些特殊或复杂场景下无法高效和准确地感知和判断。感知弱项场景包括光照弱、高楼或大型建筑物等复杂背景、非结构化道路等场景。
特征维度包括标识维度、空间信息维度、类别维度、多任务维度和置信度维度等,则对应的特征维度的筛选包括目标对象标识跳变筛选、目标对象几何信息不一致筛选、目标对象类别不一致筛选、目标对象多任务筛选和目标对象置信度筛选等。
筛选方式包括逐帧检测所针对的每个目标对象在目标感知信息中的至少一个相同特征维度的特征信息对应进行目标对象标识跳变筛选、目标对象几何信息不一致筛选、目标对象类别不一致筛选、目标对象多任务筛选和目标对象置信度筛选中至少一种,基于特征信息筛选出符合数据帧异常条件的异常数据帧,直到完成所有数据帧的检测,得到异常数据片段。可以理解的是,不同特征维度的数据帧异常条件不同。异常数据片段携带有时间戳和目标感知触发标签。
具体地,针对至少一个目标对象中每个对象,对分别所针对的目标对象,对目标感知信息中的标识维度、空间信息维度、类别维度、多任务维度和置信度维度中至少一个相同特征维度的特征信息进行逐帧检测,筛选出符合与各特征维度对应数据帧异常条件的异常数据片段。
步骤208,基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段。
其中,关键场景标签可以是根据实际需求确定的,关键场景标签包括红绿灯直行左转的博弈场景及前车切入切出、与特定地点相关的场景(例如,进出隧道)、自动驾驶状态开启、信号弱以及与时间相关等关键场景基于车辆行为预测提取可以是通过对感知范围内他车行为轨迹进行预测,输出他车的驾驶特征,如直行/变道/转弯等,并通过与自车数据对比,挖掘出关键场景,如红绿灯直行左转的博弈场景及前车切入切出等场景,即得到第一场景片段数据目标场景数据片段。
基于预设筛选策略数据提取可以是基于预先设定的预设场景标签,根据针对的每一种预设场景标签对应的车辆驾驶特征,设定相应范围的判断参数阈值,根据设定的判断参数阈值确定预设场景标签对应的目标场景数据片段第二场景片段数据。将得到的第一场景片段数据目标场景数据片段和第二场景片段数据目标场景数据片段确定为关键场景标签对应的目标场景数据片段。
步骤210,对异常数据片段和目标场景数据片段进行筛选,得到目标筛选数据。
可以理解的是,在对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧筛选,从驾驶数据中确定异常数据片段,以及基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段的基础上,获取的异常数据片段和目标场景数据片段中可能会存在大量重复的无效数据,为了减少数据的处理量以及数据的有效性,可以对获取的异常数据片段和目标场景数据片段进行并合删除异常数据片段和目标场景数据片段中的无效数据,在删除无效数据的基础上对合并后的合并数据片段进行筛选得到目标筛选数据。其中,对合并数据片段筛选的方式可以基于第一场景标签、目标感知触发标签、第二场景标签和第三场景标签中的至少一个标签进行筛选实现。
第一场景标签可以是重点场景标签,第二场景标签可以是其他场景标签,第三场景标签可以是人工添加的新场景标签。
上述数据筛选方法中,在对智能驾驶数据进行筛选的情况下,通过获取不同传感器在同一驾驶环境中采集的多帧驾驶数据,对驾驶数据进行特征提取,得到包括目标对象的不同特征维度的特征信息的目标感知信息;针对目标对象,对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从驾驶数据中确定异常数据片段,对目标对象从至少一个相同特征维度筛选出异常数据片段,避免异常数据片段的遗漏,确保异常数据片段的完整性;进而在此基础上,基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段,对异常数据片段和目标场景数据片段进行筛选,得到目标筛选数据,将基于至少一个相同特征维度筛选出的异常数据片段与预设场景标签筛选的目标场景数据片段进行结合,提高了筛选数据的质量以及完善了智能驾驶的场景数据。
车端上部署有多种多个车端感知小模型,在从驾驶数据中确定异常数据片段的情况下,可以基于不同车端感知小模型实现不同方式的异常数据筛选。在不同车端感知小模型包括不同传感器感知模型,包括至少一个目标对象的情况下,如图3所示,提供了一种确定异常数据片段的方法,包括以下步骤:
步骤302,对不同传感器感知模型进行组合,得到至少一组传感器感知模型。
其中,一组传感器感知模型中可以包括两种不同类型的传感器感知模型,例如,一组传感器感知模型中可以包括Lidar目标感知模型和Radar目标感知模型。对不同传感器感知模型进行组合,实质可以理解为,将不同传感器的目标感知信息进行组合,得到至少一组传感器目标感知模型组合,和/或,将不同道路结构提取模型的目标感知信息进行组合,得到至少一组传感器道路结构提取模型组合。不同传感器目标感知模型目标感知信息也可以理解为传感器感知信息或目标障碍物感知信息,不同传感器道路结构提取模型的目标感知信息也可以理解为道路结构感知信息。
步骤304,针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测。
其中,逐帧检测是指基于特征信息与对应的特征维度的数据帧异常条件进行比较,若满足,则将满足数据帧异常条件的当前数据帧确定为异常数据帧。不同特征维度对应的数据帧异常条件不同。在特征维度为标识维度的情况下,对应的数据帧异常条件为标识对应关系更新;在特征维度为空间信息维度的情况下,对应的数据帧异常条件为目标对象在每组传感器感知模型中的交并比小于第一交并比阈值或道路结构在每组传感器感知模型中的相对距离大于第一距离阈值,换言之,某帧数据中存在目标对象的第一交并比阈值小于第一交并比阈值,或者道路结构的相对距离大于第一距离阈值,则该帧数据为异常帧。
在特征维度为类别维度的情况下,对应的数据帧异常条件为在目标对象在至少一组传感器感知模型中每组传感器感知模型的所有交并比大于第二交并比阈值的情况下,所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的对象类型不同;或者,所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的所有相对距离存在相对距离小于第二交并比阈值的道路结构的情况下,所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的对象类型不同。
步骤306,当任意帧的特征信息满足数据帧异常条件时,将满足数据帧异常条件的当前数据帧确定为异常数据帧。
其中,异常数据帧也可以理解为是触发帧。当任意帧的特征信息满足数据帧异常条件时,会生成异常数据帧的目标感知触发标签。
步骤308,以异常数据帧为参考,从驾驶数据中确定中间异常数据片段。
其中,不同特征维度以异常数据帧为参考,从驾驶数据中确定中间异常数据片段的数据帧的帧数可以是相同的,也可以是不同的。帧数的确定可以根据实际需求进行确定,也可以是预设的,在此不做限定。
步骤310,对当前数据帧的下一数据帧执行步骤304,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段。
具体地,对当前数据帧的下一数据帧执行针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测的步骤,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段。
步骤312,根据至少一个中间异常数据片段确定异常数据片段。
其中,中间异常数据片段携带有时间戳,根据中间异常数据片段确定异常数据片段的方式可以基于时间重合度进行合并,删除重复部分的重复数据。时间戳包括中间异常数据片段的开始时间戳和结束时间戳。
上述实施例中,在进行异常数据筛选时,通过对不同传感器进行分组,得到至少一组传感器感知模型组合,针对每个目标对象在每组传感器感知模型的感知信息,从至少一个相同特征维度从智能驾驶数据中筛选出触发帧,以触发帧为参考,筛选出每种特征维度下的中间异常数据片段,基于不同特征维度下的中间异常数据片段进行数据合并,得到最终的异常数据片段,避免了异常数据的遗漏,以帧为单位进行数据筛选,提高了感知弱项数据筛选的精度以及准确性。
进一步地,在使用不同的传感器进行感知时,由于不同传感器的特性不同,对同一物体的感知信息可能存在误差或者不确定性。为了优化物体的感知信息,可以使用这两种传感器共同的FOV(视场,Field of View)来过滤并改善感知信息,进而提高感知的精度和鲁棒性,降低误报和虚警率,从而有效地提高智能感知系统的可靠性和性能表现。
可选地,在一个实施例中,在针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,得到检测结果之前,通过对针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息进行过滤处理,得到相同视场角下的目标感知信息。
基于不同特征维度筛选异常数据的方式不同,在特征维度为标识维度的情况下,筛选异常数据片段的方法,如图4所示,包括以下步骤:
步骤402,针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的对象标识,确定所针对的每组传感器感知模型的目标对象标识的标识对应关系,逐帧判断标识对应关系是否发生更新。其中,目标对象包括目标障碍物和道路结构,则对应的标识维度包括目标障碍物标识维度和道路结构标识维度。
步骤404,当标识对应关系更新则满足数据帧异常条件,将标识对应关系更新对应的当前数据帧确定为异常数据帧。
具体地,在目标对象为目标障碍物的情况下,针对至少一个目标障碍物中每个目标障碍物,分别对所针对的目标障碍物在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中标识维度的特征信息进行逐帧检测,即确定目标障碍物在每组传感器感知模型的目标感知信息中的对象标识之间的对应关系,逐帧对标识对应关系进行检测,若标识对应关系发生更新时,则将标识对应关系更新对应的当前数据帧确定为异常数据帧。
在目标对象为道路结构的情况下,针对至少一个目标对象中每个道路结构,分别对所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中标识维度的特征信息进行逐帧检测,即确定目标在每组传感器感知模型的目标感知信息中的对象标识之间的标识对应关系,逐帧对标识对应关系进行检测,若标识对应关系发生更新时,则将标识对应关系更新对应的当前数据帧确定为异常数据帧。换言之,在确定所针对每组传感器感知模型器中的每个道路结构的对象标识之间的标识对应关系的基础上,若后续某帧数据中,对象标识之间的标识对应关系出现跳变,则该帧作为触发帧。跳变可以理解为,在一组传感器感知模型的目标感知信息中,道路结构1在当前帧的传感器A中的标识为01,在传感器B中的标识为02,道路结构1在当前帧A的标识对应关系为01对应02,若检测到下一帧B中道路结构1在当前帧的标识对应关系由01对应02变为01对应03,则标识对应关系发生更新,则将下一帧B确定为异常数据帧。
上述实施例中,在特征维度为标识维度的情况下,通过检测同一目标对象在一组传感器感知模型中的目标感知信息中的对象标识的对应关系是否发生更新来确定异常数据帧,从标识维度检测出难以采集场景下的异常数据,提高了异常数据筛选的有效性以及精确性。
在特征维度为空间信息维度的情况下,筛选异常数据片段的方法,如图5所示,包括以下步骤:
步骤502,针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的目标对象在每组传感器感知模型之间的交并比。
其中,本实施例中以目标对象为目标障碍物来进行说明。空间信息信息包括目标对象的目标框的坐标位置、朝向、尺寸大小。根据目标对象的目标框的坐标位置确定交并比可以通过现有方式实现,在此不做赘述。
具体地,获取分组后的每组传感器感知模型的目标感知信息,用每组传感器感知模型共同的FOV分别过滤它们的目标感知信息,基于每组传感器感知模型中各个目标的空间信息,逐帧计算每组传感器感知模型中各个目标之间的交并比,将交并比最大的两个目标进行配对,即确定为同一个目标,得到每帧数据中配对的目标,确定所针对的目标对象在每组传感器感知模型之间的交并比。例如,在当前帧A中,传感器1感知到存在目标1、目标2和目标3,传感器2感知到存在目标4、目标5和目标6,分别计算目标1和目标4、目标5和目标6之间的交并比,目标1和目标4的交并比最大,则说明目标1和目标4配对上,则传感器1中的目标1和传感器2中的目标4为同一目标。
步骤504,逐帧判断所针对的目标对象在每组传感器感知模型中的交并比是否小于第一交并比阈值。
其中,第一交并比阈值可以是预设的。
步骤506,当所针对的目标对象在每组传感器感知模型中的交并比小于第一交并比阈值时,则将小于第一交并比阈值对应的当前数据帧确定为异常数据帧。
上述实施例中,在特征维度为空间信息维度的情况下,通过检测同一目标对象在一组传感器感知模型中的目标感知信息中的交并比与预设的第一交并比阈值来确定异常数据帧,从空间信息维度检测出难以采集场景下的异常数据,提高了异常数据筛选的有效性以及精确性。
可以理解的是,目标对象相同,特征维度相同的情况下,筛选异常数据片段的方法可以是不同的。在特征维度为空间信息维度,目标对象为道路结构的情况下,筛选异常数据片段的方法,如图6所示,包括以下步骤:
步骤602,针对至少一个道路结构中每个道路结构,分别对所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的道路结在每组传感器感知模型之间的相对距离。
其中,道路结构中包括至少一条车道线,所针对的道路结在每组传感器感知模型之间的相对距离的确定方式可以通过计算两个道路结构中两条车道线之间的距离,即点到线的距离确定方式;相对距离还可以通过对两条车道线进行膨胀处理,得到车道线膨胀后的两个膨胀区域,根据两个膨胀区域的重叠区域的面积来确定相对距离。道路结构的空间信息包括道路结构中车道线上各控制点的坐标信息。
步骤604,逐帧判断所针对的道路结构在每组传感器感知模型中的相对距离是否均大于第一距离阈值。
步骤606,当所针对的道路结构在每组传感器感知模型中的相对距大于第一距离阈值时,则将大于第一距离阈值对应的当前数据帧确定为异常数据帧。
具体地,获取分组后的每组传感器感知模型的目标感知信息,用每组传感器感知模型共同的FOV分别过滤它们的目标感知信息,基于每组传感器感知模型中各个道路结构的空间信息,逐帧计算每组传感器感知模型中各个道路结构之间的相对距离,将相对距离最小的两个道路结构进行配对,即确定为同一个道路结构,得到每帧数据中配对的道路结构,确定所针对的目标对象在每组传感器感知模型之间的相对距离。逐帧判断所针对的道路结构在每组传感器感知模型中的相对距离是否均大于第一距离阈值,当存在相对距离是均大于第一距离阈值时,则将大于第一距离阈值对应的当前数据帧确定为异常数据帧。
上述实施例中,在特征维度为空间信息维度,目标对象为道路结构的情况下,通过检测同一道路结构在一组传感器感知模型中的相对距离与第一距离阈值来确定异常数据帧,从空间信息维度检测出难以采集场景下的道路结构的异常数据,提高了异常数据筛选的有效性以及精确性。
在特征维度为类别维度的情况下,筛选异常数据片段的方法,如图7所示,包括以下步骤:
步骤702,针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的交并比。
步骤704,逐帧比较所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的交并比是否大于第二交并比阈值。
步骤706,当存在交并比大于第二交并比阈值的目标对象,则判断所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的对象类型是否相同。
步骤708,当所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与对象类型不相同对应的当前数据帧确定为异常数据帧。
具体地,获取分组后的每组传感器感知模型的目标感知信息,用每组传感器感知模型共同的FOV分别过滤它们的目标感知信息,基于每组传感器感知模型中各个目标的空间信息,逐帧计算每组传感器感知模型中各个目标之间的交并比,将交并比最大的两个目标进行配对,即确定为同一个目标,得到每帧数据中配对的目标,确定所针对的目标对象在每组传感器感知模型之间的交并比。当所针对的当前真正存在交并比大于第二交并比阈值的目标对象,所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与对象类型不相同对应的当前数据帧确定为异常数据帧。
上述实施例中,在特征维度为类别维度的情况下,通过检测同一目标对象在一组传感器感知模型中的目标感知信息,在存在交并比大于第二交并比阈值的情况下,进一步基于目标对象的类型是否相同从空间信息维度检测出难以采集场景下的异常数据,提高了异常数据筛选的有效性以及精确性。
可以理解的是,目标对象相同,特征维度相同的情况下,筛选异常数据片段的方法可以是不同的。在特征维度为类别维度,目标对象为道路结构的情况下,筛选异常数据片段的方法,如图8所示,包括以下步骤:
步骤802,针对至少一个道路结构中每个道路结构,分别对所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的相对距离。
步骤804,逐帧比较所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的相对距离是否小于第二距离阈值。
步骤806,当存在相对距离小于第二距离阈值的道路结构,则逐帧判断所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的对象类型是否相同。
也就是说,某帧中,存在相对距离小于第二距离阈值的道路结构对,且道路结构对的道路结构类型不同,则该帧作为触发帧。
步骤808,当所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与对象类型不相同对应的当前数据帧确定为异常数据帧。
具体地,获取分组后的每组传感器感知模型的目标感知信息,用每组传感器感知模型共同的FOV分别过滤它们的目标感知信息,基于每组传感器感知模型中各个道路结构的空间信息,逐帧计算每组传感器感知模型中各个道路结构之间的相对距离,将相对距离最小的两个道路结构进行配对,即确定为同一个道路结构,得到每帧数据中配对的道路结构,确定所针对的道路结构对在每组传感器感知模型之间的相对距离。当所针对的当前帧存在相对距离小于第二距离阈值的道路结构对,所针对的道路结构对在至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与对象类型不相同对应的当前数据帧确定为异常数据帧。
上述实施例中,在特征维度为类别维度的情况下,通过检测同一目标对象在一组传感器感知模型中的目标感知信息,当所针对的当前帧存在相对距离小于第二距离阈值的道路结构对的情况下,进一步基于道路结构的对象类型检测出难以采集场景下的异常数据,提高了异常数据筛选的有效性以及精确性。
车端上部署有多种多个车端感知小模型,在从驾驶数据中确定异常数据片段的情况下,可以基于不同车端感知小模型实现不同方式的异常数据筛选。不同车端感知小模型包括不同传感器感知模型和不同辅助模型,不同辅助模型的辅助感知信息包括关键点和深度信息中的至少一种,包括至少一个目标对象的情况下,如图9所示,提供了一种确定异常数据片段的方法,包括以下步骤:
步骤902,对不同传感器感知模型和辅助模型进行组合,得到至少一组传感器感知模型和辅助模型的组合。
具体地,对不同传感器感知模型和辅助模型进行组合,得到至少一组传感器感知模型和辅助模型的组合,实际上是将不同传感器感知模型的目标感知信息和不同辅助模型的目标感知信息进行组合。对不同传感器感知模型和辅助模型进行组合得到至少一组传感器目标感知模型和辅助模型组合,和/或,得到至少一组传感器道路结构提取模型和辅助模型组合。
步骤904,针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型和辅助模型中每组传感器感知模型和辅助模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测。
其中,不同特征维度对应的数据帧异常条件不同。在特征维度为多任务维度的情况下,对应的数据帧异常条件为所针对的目标对象在至少一组传感器感知模型和辅助模型的组合中每组组合的一致性值小于一致性阈值。
步骤906,当满足数据帧异常条件时,将满足数据帧异常条件的当前数据帧确定为异常数据帧。
步骤908,以异常数据帧为参考,从驾驶数据中确定中间异常数据片段。
其中,以异常数据帧为参考,从驾驶数据中确定中间异常数据片段可以是以异常数据帧为参考,把向前m1帧和向后n1帧为窗口组成的片段挑选出来,得到中间异常数据片段。
步骤910,对当前数据帧的下一数据帧执行步骤904,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段。
步骤912,根据至少一个中间异常数据片段确定异常数据片段。
例如,以目标对象为目标障碍物为例进行说明,任选某种传感器目标感知模型的目标感知信息,任选某种辅助模型的目标感知信息,包括但是不限于关键点或深度估计;逐帧对比传感器目标感知模型的目标感知信息和辅助模型的目标感知信息,关键点的目标的存在一致性(即关键点的数量在目标感知信息的框中的数量值,确定一致性值),或者是目标的深度和对应区域的深度估计确定一致性值。如果一致性值低于一致性阈值,则该帧作为异常数据帧;以异常数据帧为参考,把向前m2帧和向后n2帧为窗口组成的片段挑选出来;重复前述直到所有传感器目标感知模型和辅助模型的组合被完全遍历,确定异常数据片段。
以目标对象为道路结构为例进行说明,任选某种传感器道路结构提取模型的道路结构感知信息;任选某种辅助模型的目标感知信息(包括但是不限深度估计);逐帧对比道路结构感知信息和辅助模型结果:道路结构和(地面)深度估计的一致性。如果一致性低于对应的一致性阈值,则该帧作为异常数据帧;以异常数据帧为参考,把向前m6帧和向后n6帧为窗口组成的片段挑选出来;重复前述直到所有不同传感器感知模型和辅助模型的组合被完全遍历,确定异常数据片段。
上述实施例中,在不同车端感知小模型包括不同传感器感知模型和不同辅助模型情况下,逐帧对比目标对象在传感器感知模型和在辅助模型中的目标感知信息的一致性,确定异常数据片段,检测出难以采集场景下的异常数据,提高了异常数据筛选的有效性以及精确性。
在目标感知信息包括不同传感器感知模型的目标感知信息和辅助模型的目标感知信息,特征维度为多任务维度的情况下,筛选异常数据片段的方法,如图10所示,包括以下步骤:
步骤1002,针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型和辅助模型的组合中每个传感器的目标感知信息中的空间信息,以及辅助模型的目标感知信息中的关键点或深度信息。
步骤1004,确定关键点和深度信息中任意一个与空间信息的一致性值,逐帧检测所针对的目标对象在至少一组传感器感知模型和辅助模型的组合中每组组合的一致性值是否小于一致性阈值。
其中,在目标对象为目标障碍物的情况下,一致性值可以根据目标的关键点落在目标的目标检测框的数量来确定,例如,关键点落在目标的目标检测框的数量为a,则确定一致性值为b;或者可以根据目标的深度估计和对应区域的深度估计的一致性来确定。在目标对象为道路结构的情况下,一致性值可以根据道路结构的深度估计和地面深度估计的一致性来确定。
步骤1006,当一致性值小于一致性阈值,则将小于一致性阈值对应的当前数据帧确定为异常数据帧。
上述实施例中,在目标感知信息包括不同传感器感知模型和不同辅助模型的目标感知信息的情况下,逐帧对比目标对象在传感器目标感知模型和在辅助模型中的目标感知信息的一致性,或者逐帧对比目标对象在传感器道路结构提取模型和在辅助模型中的目标感知信息的一致性,确定异常数据片段,检测出难以采集场景下的异常数据,提高了异常数据筛选的有效性以及精确性。
在目标感知信息包括不同传感器的目标感知信息,特征维度为置信度维度的情况下,筛选异常数据片段的方法,如图11所示,包括以下步骤:
步骤1102,针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在不同传感器感知模型的目标感知信息中的目标置信度与置信度阈值进行逐帧检测。
步骤1104,当所针对的目标对象在不同传感器感知模型的目标感知信息中的目标置信度小于置信度阈值,则将小于置信度阈值对应的当前数据帧确定为异常数据帧。
步骤1106,以异常数据帧为参考,从驾驶数据中确定中间异常数据片段。
步骤1108,对当前数据帧的下一数据帧执行步骤1102,直到完成所有数据帧的检测,得到至少一个中间异常数据片段。
步骤1110,根据至少一个中间异常数据片段确定异常数据片段。
上述实施例中,在特征维度为置信度维度的情况下,通过检测同一目标对象在不同传感器中的目标感知信息中目标置信度来确定为异常数据帧,检测出难以采集场景下的异常数据,提高了异常数据筛选的有效性以及精确性。
可以理解是对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,可以确定至少一个特征维度下的中间异常数据片段,针对至少一个特征维度下的中间异常数据片段中的每个特征维度下的中间异常数据片段可能会存在重复的异常数据,为了减少无效数据,需要对至少一个特征维度下的中间异常数据片段进行合并。如图12所示,提供了一种中间异常数据片段合并方法,包括以下步骤:
步骤1202,根据至少一个中间异常数据片段中每个中间异常数据片段的时间戳,确定每两个中间异常数据片段之间的时间重合度。
其中,至少一个中间异常数据片段包括基于上述至少一个特征维度筛选出来的中间异常数据片段。中间异常数据片段的时间戳包括起始时间戳和终止时间戳。
步骤1204,当时间重合度大于时间重合度阈值,则将时间重合度大于时间重合度阈值对应的两个中间异常数据片段进行合并,直到合并后的任意两个合并异常数据片段的时间重合度小于时间重合度阈值,则得到异常数据片段。
其中,合并后的异常数据片段中包括片段的起始时间戳、终止时间戳以及目标感知触发标签。目标感知触发标签可以是触发原因。
上述实施例中,基于每个中间异常数据片段的时间戳,确定每两个中间异常数据片段之间的时间重合度,根据时间重合度对中间异常数据片段进行合并,减少无效数据。
在一个实施例中,如图13所示,提供了一种确定目标场景数据片段方法,以该方法应用于图1中的车端为例进行说明,包括以下步骤:
步骤1302,基于驾驶数据对预设感知范围内的第一车辆的行为进行预测,得到预测驾驶行为数据。
其中,预测驾驶行为数据包括直行/变道/转弯等行为数据。
步骤1304,将预测驾驶行为数据与第二车辆的驾驶行为数据进行比对,得到第一场景片段数据。
其中,第一场景片段数据可以是红绿灯直行左转的博弈场景及前车切入切出等场景标签对应的数据。第二车辆可以理解为自身车辆,第一车辆可以是除自身车辆以外的感知范围内他车辆。
步骤1306,基于预设筛选策略数据从驾驶数据中确定第二场景片段数据。
步骤1308,对第一场景片段数据和第二场景片段数据进行合并,得到与关键场景标签对应的目标场景数据片段。
其中,目标场景数据片段携带有起始和终止时间戳,标签及车辆驾驶特性,车辆驾驶特性,例如车辆转弯/直行,用户接管/与驾驶员不一致性,车辆行驶激进/保守等信息。
上述实施例中,通过基于行为预测的挖掘和基于逻辑规则的挖掘,针对性地筛选出关键场景片段,确保数据的可靠性。
在一个实施例中,如图14所示,提供了一种确定目标筛选数据方法,以该方法应用于图1中的车端为例进行说明,包括以下步骤:
步骤1402,确定异常数据片段携带的时间戳和目标场景数据片段携带的时间戳的时间戳重合度。
步骤1404,根据时间戳重合度对异常数据片段和目标场景数据片段进行合并处理,得到合并数据;其中,合并数据中包括至少一个合并数据片段。
其中,合并数据的特征包括片段的起始时间戳、终止时间戳,是否有目标感知触发标签,所有感知触发原因,所有的异常数据帧,所有的目标障碍物和道路结构的感知信息,是否有关键场景标签等。
步骤1406,针对至少一个合并数据片段中每个合并数据片段,若合并数据片段不存在第一场景标签和目标感知触发标签,则删除合并数据片段,得到目标筛选数据。
步骤1408,针对至少一个合并数据片段中每个合并数据片段,在合并数据片段存在第一场景标签且存在目标感知触发标签的情况下,若每个合并数据片存在第二场景标签,根据场景平衡策略数据对至少一个合并数据片段进行筛选,得到目标筛选数据。
其中,第一场景标签可以是重点场景标签,例如,重点场景标签是关键场景标签中需要重点关注的,比如刹车、接管和功能开启等标签;第二场景标签可以是非人添加以及除重点场景标签之外的场景标签,例如,红绿灯直行和左转场景。场景平衡策略数据可以是确保每个场景的数据满足预设的比例,确保某一场景数据过多或者过少,确保数据平衡。
步骤1410,若合并数据片段不存在第二场景标签,通过对合并数据片段进行分析,确定合并数据片段对应的第一标志位并进行保存,得到目标筛选数据。
其中,第一标志位可以用于标记需要人工添加第三场景标签。第三场景标签是通过对合并数据片段进行数据分析后确定的新场景标签。
例如,获取不同传感器在同一驾驶环境中采集的驾驶数据;t1时刻由于camera和lidar的目标类别不一致触发,获得片段cn1;t2时刻radar和深度估计任务不一致触发,获得片段cn2;t3时刻camera道路结构置信度触发,获得中间异常数据片段cn3。 cn2和cn3时间重合度较大,进行合并。因此,车端感知小模型筛选输出的data1中包含:片段c1及其特征feature,来自于cn1;片段c2及其feature,来自于cn2和cn3;数据挖掘算法对自动驾驶数据处理,t4时刻基于行为预测挖掘到前车切入片段s1及其feature, t5时刻基于行为预测挖掘到变道片段s2及其feature,t6时刻基于规则挖掘出辅助驾驶功能降级片段s3及其feature自动筛选算法首先对片段进行合并,c1和s1合并为片段z1及其feature; c2,s2,s3合并为片段z2及其feature;算法重点场景标签包含了辅助驾驶功能降级,其它功能标签包含了前车切入,变道。根据筛选逻辑,前车切入场景数据已经比较多,根据概率判别z1丢弃,变道场景较少,根据概率判别z2保留。因为没有人工辅助的标志位,data3(z2)即为高价值场景数据,将进入后续的标注,模型训练和部署等紧耦合迭代。
步骤1412,针对至少一个合并数据片段中每个合并数据片段,在合并数据片段存在第一场景标签且不存在目标感知触发标签的情况下,确定合并数据片段对应的第二标志位。
其中,第二标志位用于标记需要进一步通过人工确认合并数据片段是否需要进行保留。
上述实施例中,基于异常数据片段携带的时间戳和目标场景数据片段携带的时间戳的时间戳重合度,根据片段的时间戳重合度进行合并,对于合并后的片段,逐个进行筛选,确保了重点场景的数据,以及保证数据平衡,减少后续数据处理量。
可选地,在一个实施例中,在目标筛选数据中存在第一标志位和第二标志位的情况下,为了确保目标筛选数据的可靠性,需要对目标筛选数据进行进一步的筛选,如图15所示,响应于筛选指令,若目标筛选数据中的筛选数据片段存在第二标志位且筛选数据片段不存在感知问题的,则直接丢弃筛选数据片段;在筛选数据片段存在第二标志位且存在感知问题的情况下,若筛选数据片段存在有第二场景标签,则保留筛选数据片段;在筛选数据片段不存在第二标志位的情况下,若筛选数据片段存在第一标志位且筛选数据片段存在第三场景标签,则响应场景添加指令,将第三场景标签添加至场景库中,并保留筛选数据片段,得到最终的目标筛选数据。将得到的目标筛选数据用于数据标注,可实现数据闭环系统中的整个数据闭环。
例如,获取不同传感器在同一驾驶环境中采集的驾驶数据,车端感知小模型筛选对自动驾驶数据处理:t1时刻由于radar和lidar的目标ID跳变触发,获得片段cn1;t2时刻camera和lidar的道路结构类别不一致触发,获得片段cn2。cn1和cn2时间上不重合。因此,车端感知小模型筛选输出的data1中包含:片段c1及其feature,来自于cn1;片段c2及其feature,来自于cn2;数据挖掘算法对自动驾驶数据处理,t3时刻基于行为预测挖掘到变道片段s1及其feature, t4时刻基于规则挖掘到十字路口片段s2及其feature,t5时刻基于规则挖掘出驾驶员急刹片段s3及其feature;自动筛选算法:自动筛选算法首先对片段进行合并,c1和s1合并为片段z1及其feature;s2单独为片段z2及其feature;c2单独为片段z3及其feature;s3单独为片段z4及其feature;算法重点场景标签包含了驾驶员急刹,其它功能标签包含了变道,十字路口。根据筛选逻辑,变道场景较少,根据概率判别z1保留。z2没有感知触发,丢弃。z3没有其它场景标签,添加标志位B,待人工处理;z4属于重点场景片段但是无感知触发,添加标志位A,待人工处理。z1无需人工处理,直接保留;z3经过判断是新场景“下匝道”,片段保留,且更新场景列表,添加“下匝道”场景,之后片段会自动挖掘;z4经过判断是感知问题,且属于已有的“罕见小物体”场景,片段保留;因此,经过上述过程,获得的data4(z1,z3,z4)即为高价值场景数据,将进入后续的标注,模型训练和部署等紧耦合迭代。
在另一个实施例中,如图16所示,提供了一种数据筛选方法,以该方法应用于图1中的车端为例进行说明,包括以下步骤:
步骤1602,获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,驾驶数据包括多个数据帧。
步骤1604,对驾驶数据进行特征提取,得到目标感知信息;其中,目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息。
步骤1606,针对目标对象,对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从驾驶数据中确定异常数据片段。
步骤1608,基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段。
步骤1610,确定异常数据片段携带的时间戳和目标场景数据片段携带的时间戳的时间戳重合度。
步骤1612,根据时间戳重合度对异常数据片段和目标场景数据片段进行合并处理,得到合并数据;合并数据中包括至少一个合并数据片段。
步骤1614,针对至少一个合并数据片段中每个合并数据片段,若合并数据片段不存在第一场景标签和目标感知触发标签,则删除合并数据片段,得到目标筛选数据。
步骤1616,针对至少一个合并数据片段中每个合并数据片段,在合并数据片段存在第一场景标签且存在目标感知触发标签的情况下,若每个合并数据片存在第二场景标签,根据场景平衡策略数据对至少一个合并数据片段进行筛选,得到目标筛选数据。
步骤1618,若合并数据片段不存在第二场景标签,通过对合并数据片段进行分析,确定合并数据片段对应的第一标志位并进行保存,得到目标筛选数据。
步骤1620,针对至少一个合并数据片段中每个合并数据片段,在合并数据片段存在第一场景标签且不存在目标感知触发标签的情况下,确定针对的合并数据片段的第二标志位,第二标志位用于标记需要进一步通过人工确认合并数据片段是否需要进行保留。
步骤1622,响应于筛选指令,若目标筛选数据中的筛选数据片段存在第二标志位且筛选数据片段不存在感知问题的,则直接丢弃筛选数据片段。
步骤1624,在筛选数据片段存在第二标志位且存在感知问题的情况下,若筛选数据片段存在有第二场景标签,则保留筛选数据片段。
步骤1626,在筛选数据片段不存在第二标志位的情况下,若筛选数据片段存在第一标志位且筛选数据片段存在第三场景标签,则响应场景添加指令,将第三场景标签添加至场景库中,并保留筛选数据片段。
在一个实施例中,如图17所示,为数据筛选方法的数据流向示意图,将获取的驾驶数据分别输入至车端感知小模型和数据挖掘算法中,通过车端感知小模型对驾驶数据进行特征提取,得到目标感知信息,针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段;以及通过数据挖掘算法,基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段,通过自动筛选算法和人工辅助筛选对异常数据片段和目标场景数据片段进行筛选,得到目标筛选数据。
进一步地,在一个实施例中,通过预标注模型对目标筛选数据进行标注,得到标注数据,利用标注数据对不同车端感知小模型进行耦合迭代训练。
具体地,通过预标注模型对目标筛选数据进行标注,得到标注数据,基于标注数据可以对预标注模型、不同车端感知小模型以及云端感知大模型进行耦合迭代训练,对预标注模型、不同车端感知小模型进行不断优化,提高预标注模型的标注能力以及不同车端感知小模型的感知能力。上述数据筛选方法中,通过获取不同传感器和不同任务的感知信息,通过多种一致性和置信度的检查,获得以不同特征维度为触发条件的多个中间异常数据片段,最后对这些中间异常数据片段进行合并,形成低冗余的异常数据片段,基于预设场景标签对驾驶数据进行预处理,然后通过基于行为预测的挖掘和基于逻辑规则的挖掘,筛选出预设场景标签对应的目标场景数据片段;通过对异常数据片段和目标场景数据片段进行合并,丰富片段属性,减少片段冗余,然后根据重点场景标签,感知触发情况,其它场景标签及其平衡性,筛选出可直接标注和需要人工确认的片段,对于有人工确认标签的片段,如果是感知问题则保留,如果是新场景则保留且添加和更新场景库。
应该理解的是,虽然如上的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的数据筛选方法的数据筛选装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个数据筛选装置实施例中的具体限定可以参见上文中对于数据筛选方法的限定,在此不再赘述。
在一个实施例中,如图18所示,提供了一种数据筛选装置,包括:数据获取模块1802、特征提取模块1804、第一筛选模块1806、数据提取模块1808和第二筛选模块1810,其中:
数据获取模块1802,用于获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,驾驶数据包括多个数据帧。
特征提取模块1804,用于对驾驶数据进行特征提取,得到目标感知信息;其中,目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息。
第一筛选模块1806,用于针对目标对象,对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从驾驶数据中确定异常数据片段。
数据提取模块1808,用于基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段。
第二筛选模块1810,用于对异常数据片段和目标场景数据片段进行筛选,得到目标筛选数据。
上述数据筛选装置,在对智能驾驶数据进行筛选的情况下,通过获取不同传感器在同一驾驶环境中采集的多帧驾驶数据,对驾驶数据进行特征提取,得到包括目标对象的不同特征维度的特征信息的目标感知信息;针对目标对象,对目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从驾驶数据中确定异常数据片段,对目标对象从至少一个相同特征维度筛选出异常数据片段,避免异常数据片段的遗漏,确保异常数据片段的完整性;进而在此基础上,基于行为预测和预设筛选策略数据对驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段,对异常数据片段和目标场景数据片段进行筛选,得到目标筛选数据,将基于至少一个相同特征维度筛选出的异常数据片段与预设场景标签筛选的目标场景数据片段进行结合,提高了筛选数据的质量以及完善了智能驾驶的场景数据。
在另一个实施例中,提供了一种数据筛选装置,除包括:数据获取模块1802、特征提取模块1804、第一筛选模块1806、数据提取模块1808和第二筛选模块1810之外,还包括:组合模块、数据合并模块、过滤处理模块,其中:
组合模块,用于对不同传感器感知模型进行组合,得到至少一组传感器感知模型。
第一筛选模块1806还用于针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测;
当任意帧的特征信息满足数据帧异常条件时,将满足数据帧异常条件的当前数据帧确定为异常数据帧;
以异常数据帧为参考,从驾驶数据中确定中间异常数据片段;对当前数据帧的下一数据帧进行检测,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段。
数据合并模块,用于根据至少一个中间异常数据片段确定异常数据片段。
第一筛选模块1806还用于针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的对象标识,确定所针对的每组传感器感知模型的目标对象标识的标识对应关系,逐帧判断标识对应关系是否发生更新;
当标识对应关系更新则满足数据帧异常条件,将标识对应关系更新对应的当前数据帧确定为异常数据帧。
第一筛选模块1806还用于针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的目标对象在每组传感器感知模型之间的交并比;
逐帧判断所针对的目标对象在每组传感器感知模型中的所有交并比是否均小于第一交并比阈值;
当所针对的目标对象在每组传感器感知模型中的交并比小于第一交并比阈值时,则将小于第一交并比阈值对应的当前数据帧确定为异常数据帧。
第一筛选模块1806还用于针对至少一个道路结构中每个道路结构,分别对所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的道路结在每组传感器感知模型之间的相对距离;
逐帧判断所针对的道路结构在每组传感器感知模型中的所有相对距离是否均大于第一距离阈值;
当所针对的道路结构在每组传感器感知模型中的相对距大于第一距离阈值时,则将大于第一距离阈值对应的当前数据帧确定为异常数据帧。
第一筛选模块1806还用于针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的交并比;
逐帧比较所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的交并比是否大于第二交并比阈值;
当存在交并比大于第二交并比阈值的目标对象,则判断所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的对象类型是否相同;
当所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与对象类型不相同对应的当前数据帧确定为异常数据帧。
第一筛选模块1806还用于针对至少一个道路结构中每个道路结构,分别对所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的相对距离;
逐帧比较所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的相对距离是否小于第二距离阈值;
当存在相对距离小于第二距离阈值的道路结构,则逐帧判断所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的对象类型是否相同;
当所针对的道路结构在至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与对象类型不相同对应的当前数据帧确定为异常数据帧。
过滤处理模块,用于针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型中每组传感器感知模型的目标感知信息进行过滤处理,得到相同视场角下的目标感知信息。
组合模块,用于对不同传感器感知模型和不同辅助模型进行组合,得到至少一组传感器感知模型和辅助模型的组合。
第一筛选模块1806还用于针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型和辅助模型中每组传感器感知模型和辅助模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测;
当任意帧的特征信息满足数据帧异常条件时,将满足数据帧异常条件的当前数据帧确定为异常数据帧;
以异常数据帧为参考,从驾驶数据中确定中间异常数据片段;
对当前数据帧的下一数据帧进行逐帧检测,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段;
根据至少一个中间异常数据片段确定异常数据片段。
第一筛选模块1806还用于针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在至少一组传感器感知模型和辅助模型的组合中每组传感器感知模型的目标感知信息中的空间信息,以及辅助模型的目标感知信息中的关键点或深度信息;
确定关键点和深度信息中任意一个与空间信息的一致性值,逐帧筛选所针对的目标对象在至少一组传感器感知模型和辅助模型的组合中每组组合的一致性值是否小于一致性阈值;
当一致性值小于一致性阈值,则将小于一致性阈值对应的当前数据帧确定为异常数据帧。
第一筛选模块1806还用于针对至少一个目标对象中每个目标对象,分别对所针对的目标对象在不同传感器的目标感知信息中置信度与置信度阈值进行逐帧检测;
当目标置信度小于置信度阈值,则将小于置信度阈值对应的当前数据帧确定为异常数据帧;
以异常数据帧为参考,从驾驶数据中确定中间异常数据片段;
对当前数据帧的下一数据帧进行逐帧检测,直到完成所有数据帧的比对,得到至少一个中间异常数据片段;
根据至少一个中间异常数据片段确定异常数据片段。
数据合并模块,用于根据至少一个中间异常数据片段中每个中间异常数据片段的时间戳,确定每两个中间异常数据片段之间的时间重合度;当时间重合度大于时间重合度阈值,则将时间重合度大于时间重合度阈值对应的两个中间异常数据片段进行合并,直到合并后的任意两个合并异常数据片段的时间重合度小于时间重合度阈值,则得到异常数据片段。
数据提取模块1808,用于基于驾驶数据对预设感知范围内的第一车辆的行为进行预测,得到预测驾驶行为数据;
将预测驾驶行为数据与第二车辆的驾驶行为数据进行比对,得到第一场景片段数据;
基于预设筛选策略数据从驾驶数据中确定第二场景片段数据;
对第一场景片段数据和第二场景片段数据进行合并,得到关键场景标签对应的目标场景数据片段。
第二筛选模块1810,用于确定异常数据片段携带的时间戳和目标场景数据片段携带的时间戳的时间戳重合度;
根据时间戳重合度对异常数据片段和目标场景数据片段进行合并处理,得到合并数据;合并数据中包括至少一个合并数据片段;
针对至少一个合并数据片段中每个合并数据片段,若合并数据片段不存在第一场景标签和目标感知触发标签,则删除合并数据片段,得到目标筛选数据。
第二筛选模块1810,用于针对至少一个合并数据片段中每个合并数据片段,在合并数据片段存在第一场景标签且存在目标感知触发标签的情况下,若每个合并数据片存在第二场景标签,根据场景平衡策略数据对至少一个合并数据片段进行筛选,得到目标筛选数据;在合并数据片段存在第一场景标签且存在目标感知触发标签的情况下,若合并数据片段不存在第二场景标签,通过对合并数据片段进行分析,确定合并数据片段对应的第三场景标签并进行保留,得到目标筛选数据。
第二筛选模块1810,用于针对至少一个合并数据片段中每个合并数据片段,在合并数据片段存在第一场景标签且不存在目标感知触发标签的情况下,确定针对的合并数据片段的第二标志位,第二标志位用于标记需要进一步通过人工确认合并数据片段是否需要进行保留。
第三筛选模块,用于响应于筛选指令,若目标筛选数据中的筛选数据片段存在第二标志位且筛选数据片段不存在感知问题的,则直接丢弃筛选数据片段;
在筛选数据片段存在第二标志位且存在感知问题的情况下,若筛选数据片段存在有第二场景标签,则保留筛选数据片段;
在筛选数据片段不存在第二标志位的情况下,若筛选数据片段存在第一标志位且筛选数据片段存在第三场景标签,则响应场景添加指令,将第三场景标签添加至场景库中,并保留筛选数据片段。
标注模块,用于通过预标注模型对目标筛选数据进行标注,得到标注数据。
训练模块,用于利用标注数据对不同车端感知小模型进行耦合迭代训练。
上述数据筛选装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于车载设备中的处理器中,也可以以软件形式存储于车载设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种车载设备,该车载设备可以是终端,其内部结构图可以如图19所示。该车载设备包括处理器、存储器、输入/输出接口、通信接口、显示单元和输入装置。其中,处理器、存储器和输入/输出接口通过系统总线连接,通信接口、显示单元和输入装置通过输入/输出接口连接到系统总线。其中,该车载设备的处理器用于提供计算和控制能力。该车载设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该车载设备的输入/输出接口用于处理器与外部设备之间交换信息。该车载设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、移动蜂窝网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种数据筛选方法。该车载设备的显示单元用于形成视觉可见的画面,可以是显示屏、投影装置或虚拟现实成像装置,显示屏可以是液晶显示屏或电子墨水显示屏,该车载设备的输入装置可以是显示屏上覆盖的触摸层,也可以是车载设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图19中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的车载设备的限定,具体的车载设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,还提供了一种车载设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric RandomAccess Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random AccessMemory,SRAM)或动态随机存取存储器(Dynamic Random AccessMemory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (20)
1.一种数据筛选方法,其特征在于,所述方法包括:
获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,所述驾驶数据包括多个数据帧;
对所述驾驶数据进行特征提取,得到目标感知信息;其中,所述目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息;
针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段;以及
基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段;
对所述异常数据片段和所述目标场景数据片段进行筛选,得到目标筛选数据。
2.根据权利要求1所述的方法,其特征在于,所述不同车端感知小模型包括不同传感器感知模型,所述目标对象的数量为至少一个,所述针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段,包括:
对所述不同传感器感知模型进行组合,得到至少一组传感器感知模型;
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测;
当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧;
以所述异常数据帧为参考,从所述驾驶数据中确定中间异常数据片段;
对所述当前数据帧的下一数据帧执行所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测的步骤,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段;
根据所述至少一个中间异常数据片段确定异常数据片段。
3.根据权利要求2所述的方法,其特征在于,其中,所述特征维度包括标识维度,所述标识维度的特征信息包括对象标识;所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的对象标识,确定所针对的每组传感器感知模型的目标对象标识的标识对应关系,逐帧判断所述标识对应关系是否发生更新;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所述标识对应关系更新则满足数据帧异常条件,将所述标识对应关系更新对应的当前数据帧确定为异常数据帧。
4.根据权利要求2所述的方法,其特征在于,所述特征维度包括空间信息维度,所述空间信息维度的特征信息包括空间信息,所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的目标对象在所述每组传感器感知模型之间的交并比;
逐帧判断所针对的目标对象在所述每组传感器感知模型中的交并比是否小于第一交并比阈值;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所针对的目标对象在所述每组传感器感知模型中的交并比小于所述第一交并比阈值时,则将小于所述第一交并比阈值对应的当前数据帧确定为异常数据帧。
5.根据权利要求2所述的方法,其特征在于,所述特征维度包括空间信息维度,所述空间信息维度的特征信息包括空间信息,所述目标对象包括道路结构;
所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个道路结构中每个道路结构,分别对所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的道路结在所述每组传感器感知模型之间的相对距离;
逐帧判断所针对的道路结构在所述每组传感器感知模型中的相对距离是否大于第一距离阈值;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所针对的道路结构在所述每组传感器感知模型中的相对距大于第一距离阈值时,则将大于第一距离阈值对应的当前数据帧确定为异常数据帧。
6.根据权利要求2所述的方法,其特征在于,所述特征维度包括类别维度,所述类别维度的特征信息包括空间信息和对象类型,所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的交并比;
逐帧比较所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的交并比是否大于第二交并比阈值;
当存在所述交并比大于所述第二交并比阈值的目标对象,则判断所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的对象类型是否相同;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与所述对象类型不相同对应的当前数据帧确定为异常数据帧。
7.根据权利要求2所述的方法,其特征在于,所述特征维度包括类别维度,所述类别维度的特征信息包括空间信息和对象类型,所述目标对象包括道路结构,所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测,包括:
针对所述至少一个道路结构中每个道路结构,分别对所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中的空间信息,确定所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的相对距离;
逐帧比较所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的所有相对距离是否小于第二距离阈值;
当存在所述相对距离小于所述第二距离阈值的道路结构,则逐帧判断所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的对象类型是否相同;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所述所针对的道路结构在所述至少一组传感器感知模型中每组传感器感知模型的对象类型不相同,则将与所述对象类型不相同对应的当前数据帧确定为异常数据帧。
8.根据权利要求2所述的方法,其特征在于,在所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测之前,所述方法还包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息进行过滤处理,得到相同视场角下的目标感知信息。
9.根据权利要求1所述的方法,其特征在于,所述不同车端感知小模型包括不同传感器感知模型和不同辅助模型,所述不同辅助模型的目标感知信息包括关键点和深度信息中的至少一种,所述目标对象的数量为至少一个,所述针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段,包括:
对所述不同传感器感知模型和所述不同辅助模型进行组合,得到至少一组传感器感知模型和辅助模型的组合;
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型和辅助模型中每组传感器感知模型和辅助模型的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测;
当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧;
以所述异常数据帧为参考,从所述驾驶数据中确定中间异常数据片段;
对所述当前数据帧的下一数据帧执行所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型和辅助模型的组合中每组组合的目标感知信息中至少一个相同特征维度的特征信息进行逐帧检测的步骤,直到完成所有数据帧的筛选,得到至少一个中间异常数据片段;
根据所述至少一个中间异常数据片段确定异常数据片段。
10.根据权利要求9所述的方法,其特征在于,所述特征维度包括多任务维度,所述多任务维度的特征信息包括空间信息、关键点和深度信息;
所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型中每组传感器感知模型的目标感知信息中至少一个相同特征维度的特征信息与所述特征维度对应的数据帧异常条件进行逐帧检测,包括:
针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述至少一组传感器感知模型和辅助模型的组合中每组传感器感知模型的目标感知信息中的空间信息,以及所述辅助模型的目标感知信息中的关键点或深度信息;
确定所述关键点和所述深度信息中任意一个与所述空间信息的一致性值,逐帧筛选所针对的目标对象在所述至少一组传感器感知模型和辅助模型的组合中每组组合的一致性值是否小于一致性阈值;
所述当任意帧的所述特征信息满足数据帧异常条件时,将满足所述数据帧异常条件的当前数据帧确定为异常数据帧,包括:
当所述一致性值小于所述一致性阈值,则将小于所述一致性阈值对应的当前数据帧确定为异常数据帧。
11.根据权利要求1所述的方法,其特征在于,所述不同车端感知小模型包括不同传感器感知模型,所述特征维度包括置信度维度,所述置信度维度的特征信息包括置信度,所述针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段,包括:
所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述不同传感器感知模型的目标感知信息中置信度与置信度阈值进行逐帧检测;
当所述目标置信度小于所述置信度阈值,则将小于所述置信度阈值对应的当前数据帧确定为异常数据帧;
以所述异常数据帧为参考,从所述驾驶数据中确定中间异常数据片段;
对所述当前数据帧的下一数据帧执行所述针对所述至少一个目标对象中每个目标对象,分别对所针对的目标对象在所述不同传感器感知模型的目标感知信息中置信度与置信度阈值进行逐帧检测,得到检测结果的步骤,直到完成所有数据帧的比对,得到至少一个中间异常数据片段;
根据所述至少一个中间异常数据片段确定异常数据片段。
12.根据权利要求2或权利要求9所述的方法,其特征在于,所述根据所述至少一个中间异常数据片段确定异常数据片段,包括:
根据所述至少一个中间异常数据片段中每个中间异常数据片段的时间戳,确定每两个所述中间异常数据片段之间的时间重合度;
当所述时间重合度大于时间重合度阈值,则将所述时间重合度大于时间重合度阈值对应的两个中间异常数据片段进行合并,直到合并后的任意两个合并异常数据片段的时间重合度小于所述时间重合度阈值,则得到异常数据片段。
13.根据权利要求1所述的方法,其特征在于,所述基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段目标场景数据片段,包括:
基于所述驾驶数据对预设感知范围内的第一车辆的行为进行预测,得到预测驾驶行为数据;
将所述预测驾驶行为数据与第二车辆的驾驶行为数据进行比对,得到第一场景片段数据;
基于预设筛选策略数据从所述驾驶数据中确定第二场景片段数据;
对所述第一场景片段数据和所述第二场景片段数据进行合并,得到关键场景标签对应的目标场景数据片段。
14.根据权利要求1所述的方法,其特征在于,所述对所述异常数据片段和所述目标场景数据片段进行筛选处理,得到目标筛选数据,包括:
确定所述异常数据片段携带的时间戳和所述目标场景数据片段携带的时间戳的时间戳重合度;
根据所述时间戳重合度对所述异常数据片段和所述目标场景数据片段进行合并处理,得到合并数据;所述合并数据中包括至少一个合并数据片段;
针对所述至少一个合并数据片段中每个合并数据片段,若所针对的所述合并数据片段不存在第一场景标签和目标感知触发标签,则删除所述合并数据片段,得到目标筛选数据。
15.根据权利要求14所述的方法,其特征在于,所述方法还包括:
针对所述至少一个合并数据片段中每个合并数据片段,在所述合并数据片段存在第一场景标签且存在所述目标感知触发标签的情况下,若所述每个合并数据片存在第二场景标签,根据场景平衡策略数据对所述合并数据片段进行筛选,得到目标筛选数据;
在所述合并数据片段存在第一场景标签且存在所述目标感知触发标签的情况下,若所述合并数据片段不存在第二场景标签,通过对所述合并数据片段进行分析,确定所述合并数据片段对应的第一标志位并进行保存,得到目标筛选数据。
16.根据权利要求15所述的方法,其特征在于,所述方法还包括:
针对所述至少一个合并数据片段中每个合并数据片段,在所述合并数据片段存在第一场景标签且不存在目标感知触发标签的情况下,确定所述针对的所述合并数据片段的第二标志位,所述第二标志位用于标记需要进一步通过人工确认合并数据片段是否需要进行保留。
17.根据权利要求16所述的方法,其特征在于,所述方法还包括:
响应于筛选指令,若所述目标筛选数据中的筛选数据片段存在第二标志位且所述筛选数据片段不存在感知问题的,则直接丢弃所述筛选数据片段;
在所述筛选数据片段存在第二标志位且存在感知问题的情况下,若所述筛选数据片段存在有第二场景标签,则保留所述筛选数据片段;
在所述筛选数据片段不存在第二标志位的情况下,若所述筛选数据片段存在第一标志位且所述筛选数据片段存在第三场景标签,则响应场景添加指令,将所述第三场景标签添加至场景库中,并保留所述筛选数据片段。
18.根据权利要求1所述的方法,其特征在于,所述方法还包括:
通过预标注模型对所述目标筛选数据进行标注,得到标注数据;
利用所述标注数据对所述不同车端感知小模型进行耦合迭代训练。
19.一种数据筛选装置,其特征在于,所述装置包括:
数据获取模块,用于获取不同传感器在同一驾驶环境中采集的驾驶数据;其中,所述驾驶数据包括多个数据帧;
特征提取模块,用于对所述驾驶数据进行特征提取,得到目标感知信息;其中,所述目标感知信息包括不同车端感知小模型感知的目标对象的不同特征维度的特征信息;
第一筛选模块,用于针对所述目标对象,对所述目标感知信息中的至少一个相同特征维度的特征信息进行逐帧检测,从所述驾驶数据中确定异常数据片段;
数据提取模块,用于基于行为预测和预设筛选策略数据对所述驾驶数据进行挖掘,筛选出关键场景标签对应的目标场景数据片段;
第二筛选模块,用于对所述异常数据片段和所述目标场景数据片段进行筛选,得到目标筛选数据。
20.一种车载设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至权利要求18中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310950633.8A CN116664964B (zh) | 2023-07-31 | 2023-07-31 | 数据筛选方法、装置、车载设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310950633.8A CN116664964B (zh) | 2023-07-31 | 2023-07-31 | 数据筛选方法、装置、车载设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116664964A true CN116664964A (zh) | 2023-08-29 |
CN116664964B CN116664964B (zh) | 2023-10-20 |
Family
ID=87722800
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310950633.8A Active CN116664964B (zh) | 2023-07-31 | 2023-07-31 | 数据筛选方法、装置、车载设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116664964B (zh) |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190072973A1 (en) * | 2017-09-07 | 2019-03-07 | TuSimple | Data-driven prediction-based system and method for trajectory planning of autonomous vehicles |
CN110264586A (zh) * | 2019-05-28 | 2019-09-20 | 浙江零跑科技有限公司 | L3级自动驾驶系统道路驾驶数据采集、分析及上传方法 |
CN112287801A (zh) * | 2020-10-23 | 2021-01-29 | 北京嘀嘀无限科技发展有限公司 | 车载数据处理方法、装置、服务器和可读存储介质 |
CN112598314A (zh) * | 2020-12-29 | 2021-04-02 | 潍柴动力股份有限公司 | 智能驾驶汽车的感知置信度确定方法、装置、设备及介质 |
CN114445803A (zh) * | 2022-02-07 | 2022-05-06 | 苏州挚途科技有限公司 | 驾驶数据的处理方法、装置及电子设备 |
CN114648739A (zh) * | 2020-12-18 | 2022-06-21 | 上海禾赛科技有限公司 | 数据处理方法及数据处理设备、自动驾驶系统 |
CN114861220A (zh) * | 2022-04-24 | 2022-08-05 | 宁波均胜智能汽车技术研究院有限公司 | 一种符合数据隐私安全的自动驾驶数据处理方法及系统 |
CN114972911A (zh) * | 2022-05-19 | 2022-08-30 | 安徽蔚来智驾科技有限公司 | 自动驾驶感知算法模型的输出数据收集处理方法及设备 |
CN115019267A (zh) * | 2022-05-27 | 2022-09-06 | 中国第一汽车股份有限公司 | 车辆场景数据的采集方法、装置、存储介质及电子设备 |
CN115195748A (zh) * | 2022-08-15 | 2022-10-18 | 中汽研(天津)汽车工程研究院有限公司 | 基于数据驱动的智能汽车拟人化决策规划系统及方法 |
CN115762126A (zh) * | 2022-09-23 | 2023-03-07 | 广州文远知行科技有限公司 | 基于车道匹配的场景筛选方法、装置、设备及存储介质 |
CN115878681A (zh) * | 2023-02-23 | 2023-03-31 | 禾多科技(北京)有限公司 | 自动驾驶数据的获取方法及装置、存储介质及电子装置 |
CN115984824A (zh) * | 2023-02-28 | 2023-04-18 | 安徽蔚来智驾科技有限公司 | 基于轨迹信息的场景信息筛选方法、电子设备及存储介质 |
CN116484971A (zh) * | 2023-04-19 | 2023-07-25 | 重庆长安汽车股份有限公司 | 车辆的自动驾驶感知自学习方法、装置及电子设备 |
-
2023
- 2023-07-31 CN CN202310950633.8A patent/CN116664964B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190072973A1 (en) * | 2017-09-07 | 2019-03-07 | TuSimple | Data-driven prediction-based system and method for trajectory planning of autonomous vehicles |
CN110264586A (zh) * | 2019-05-28 | 2019-09-20 | 浙江零跑科技有限公司 | L3级自动驾驶系统道路驾驶数据采集、分析及上传方法 |
CN112287801A (zh) * | 2020-10-23 | 2021-01-29 | 北京嘀嘀无限科技发展有限公司 | 车载数据处理方法、装置、服务器和可读存储介质 |
CN114648739A (zh) * | 2020-12-18 | 2022-06-21 | 上海禾赛科技有限公司 | 数据处理方法及数据处理设备、自动驾驶系统 |
CN112598314A (zh) * | 2020-12-29 | 2021-04-02 | 潍柴动力股份有限公司 | 智能驾驶汽车的感知置信度确定方法、装置、设备及介质 |
CN114445803A (zh) * | 2022-02-07 | 2022-05-06 | 苏州挚途科技有限公司 | 驾驶数据的处理方法、装置及电子设备 |
CN114861220A (zh) * | 2022-04-24 | 2022-08-05 | 宁波均胜智能汽车技术研究院有限公司 | 一种符合数据隐私安全的自动驾驶数据处理方法及系统 |
CN114972911A (zh) * | 2022-05-19 | 2022-08-30 | 安徽蔚来智驾科技有限公司 | 自动驾驶感知算法模型的输出数据收集处理方法及设备 |
CN115019267A (zh) * | 2022-05-27 | 2022-09-06 | 中国第一汽车股份有限公司 | 车辆场景数据的采集方法、装置、存储介质及电子设备 |
CN115195748A (zh) * | 2022-08-15 | 2022-10-18 | 中汽研(天津)汽车工程研究院有限公司 | 基于数据驱动的智能汽车拟人化决策规划系统及方法 |
CN115762126A (zh) * | 2022-09-23 | 2023-03-07 | 广州文远知行科技有限公司 | 基于车道匹配的场景筛选方法、装置、设备及存储介质 |
CN115878681A (zh) * | 2023-02-23 | 2023-03-31 | 禾多科技(北京)有限公司 | 自动驾驶数据的获取方法及装置、存储介质及电子装置 |
CN115984824A (zh) * | 2023-02-28 | 2023-04-18 | 安徽蔚来智驾科技有限公司 | 基于轨迹信息的场景信息筛选方法、电子设备及存储介质 |
CN116484971A (zh) * | 2023-04-19 | 2023-07-25 | 重庆长安汽车股份有限公司 | 车辆的自动驾驶感知自学习方法、装置及电子设备 |
Non-Patent Citations (3)
Title |
---|
CHAO-HUA GUAN 等: "AN APPLICATION OF DATA FUSION COMBINING LASER SCANNER AND VISION IN REAL-TIME DRIVING ENVIRONMENT RECOGNITION SYSTEM", 《PROCEEDINGS OF THE EIGHTH INTERNATIONAL CONFERENCE ON MACHINE LEARNING AND CYBERNETICS, BAODING》, pages 3116 - 3121 * |
杨春雨 等: "煤矿机器人环境感知与路径规划关键技术", 《煤炭学报》, vol. 47, no. 7, pages 2844 - 2872 * |
林胜勇 等: "自动驾驶汽车数据记录及上传系统设计", 《轻工学报》, vol. 35, no. 5, pages 96 - 102 * |
Also Published As
Publication number | Publication date |
---|---|
CN116664964B (zh) | 2023-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8447069B2 (en) | Apparatus and method for moving object detection | |
CN110785774A (zh) | 用于自动驾驶车辆中的闭环感知的方法和系统 | |
CN110869559A (zh) | 用于自动驾驶车辆中的集成的全局式与分布式学习的方法和系统 | |
JP6650657B2 (ja) | フィンガープリントを使用してビデオ内で移動オブジェクトを追跡するため方法及びシステム | |
CN110799982A (zh) | 用于自动驾驶车辆中的以物体为中心的立体视觉的方法和系统 | |
CN111178253A (zh) | 自动驾驶的视觉感知方法、装置、计算机设备和存储介质 | |
CN113379805A (zh) | 一种交通节点的多信息资源融合处理方法 | |
JP2014071902A5 (zh) | ||
CN111753639A (zh) | 感知地图生成方法、装置、计算机设备和存储介质 | |
KR102082254B1 (ko) | 차량 인식 시스템 | |
CN111932596B (zh) | 摄像头遮挡区域的检测方法、装置、设备和存储介质 | |
JPWO2020050328A1 (ja) | 移動体追跡システム、移動体追跡方法及びプログラム | |
JP2023516502A (ja) | 画像ベースの場所決定及び駐車モニタリングのためのシステム及び方法 | |
WO2021223116A1 (zh) | 感知地图生成方法、装置、计算机设备和存储介质 | |
CN112348848A (zh) | 一种交通参与者的信息生成方法及系统 | |
CN115830265A (zh) | 一种基于激光雷达的自动驾驶运动障碍物分割方法 | |
CN117056153A (zh) | 校准和验证驾驶员辅助系统和/或自动驾驶系统的方法、系统和计算机程序产品 | |
CN112633151B (zh) | 一种确定监控图像中斑马线的方法、装置、设备及介质 | |
CN112418081B (zh) | 一种空地联合快速勘察交通事故的方法及系统 | |
CN116664964B (zh) | 数据筛选方法、装置、车载设备和存储介质 | |
CN115965935A (zh) | 目标检测方法、装置、电子设备、存储介质和程序产品 | |
CN115147549A (zh) | 基于多源数据融合的城市三维模型生成及更新方法 | |
CN114972731A (zh) | 交通灯检测识别方法及装置、移动工具、存储介质 | |
KR102286250B1 (ko) | Cctv를 이용한 차량 번호 인식 시스템 | |
CN116665025B (zh) | 数据闭环方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |