CN113688042A - 测试场景的确定方法、装置、电子设备及可读存储介质 - Google Patents
测试场景的确定方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN113688042A CN113688042A CN202110981375.0A CN202110981375A CN113688042A CN 113688042 A CN113688042 A CN 113688042A CN 202110981375 A CN202110981375 A CN 202110981375A CN 113688042 A CN113688042 A CN 113688042A
- Authority
- CN
- China
- Prior art keywords
- scene
- standard
- scenes
- candidate
- clustering
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3664—Environments for testing or debugging software
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Abstract
本申请提供了一种测试场景的确定方法、装置、电子设备及可读存储介质,包括:根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出至少一个标准场景聚簇;计算出获取的每个候选场景与各个标准场景聚簇之间的距离;将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景。本申请中,通过从候选场景中确定出不在标准场景聚簇内的信息的测试场景,可以不只在标准场景附近取值获取与标准场景同类型的测试场景,丰富确定自动驾驶算法优缺点的场景类型,可以全面地对自动驾驶算法进行仿真测试,保证后续对待测试自动驾驶算法进行测试全面性以及准确性。
Description
技术领域
本申请涉及自动驾驶仿真技术领域,尤其是涉及一种测试场景的确定方法、装置、电子设备及可读存储介质。
背景技术
随着科学技术的飞速发展,自动驾驶技术的应用越来越广泛,为了保证自动驾驶在实际应用中的安全性,需要在自动驾驶车辆投入正式使用之前,对配套的自动驾驶算法在不同的测试场景下进行仿真测试,以测试自动驾驶算法在不同测试场景下的安全性能,从而对自动驾驶算法进行优化,保证自动驾驶车辆的安全。
目前对于测试场景的确定,都是基于标准文件中规定的标准测试场景构建标准场景对自动驾驶算法进行仿真测试,为了增加场景的泛用性,标准文件中对各类场景参数取值会给出一个取值范围,在构建仿真场景时场景参数可以在给定范围内灵活取值,从而构建出更多的测试场景,但是,标准文件中规定的场景数目较少,即使通过场景泛化,也仅仅是在标准场景附近进行取值,泛化后的场景跟标准场景基本属于同一类型,对于测试场景的覆盖依旧不够,无法对自动驾驶算法的车辆进行全面的仿真测试,进而导致得到的测试结果无法全面反映自动驾驶车辆的性能。
发明内容
有鉴于此,本申请的目的在于提供一种测试场景的确定方法、装置、电子设备及可读存储介质,根据标准场景与场景标签之间的映射关系,确定出至少一个标准场景聚簇,从候选场景中确定出不在标准场景聚簇内的信息的测试场景,可以不只在标准场景附近取值获取与标准场景同类型的测试场景,丰富确定自动驾驶算法优缺点的场景类型,可以全面地对自动驾驶算法进行仿真测试,保证后续对待测试自动驾驶算法进行测试全面性以及准确性。
第一方面,本申请实施例提供了一种测试场景的确定方法,所述确定方法包括:
根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出至少一个标准场景聚簇;其中,所述标准场景为自动驾驶算法测试中规定的标准文件中包括的至少一个标准场景;
根据获取到的每个候选场景对应的场景参数集合,计算出每个候选场景与各个标准场景聚簇之间的距离;其中,所述候选场景包括具有相同特征的候选场景形成的候选场景聚簇中的聚类中心场景或者所述自动驾驶算法对应的除标准场景之外的场景;
将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景,以基于各个目标测试场景对自动驾驶算法进行仿真。
在一种可能的实施方式中,所述场景包括具有相同特征的候选场景形成的聚簇中的聚类中心场景,通过以下步骤确定所述候选场景:
根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出聚类过程中的目标聚类距离函数;
根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇;
将候选场景聚簇对应的聚类中心场景,确定为所述候选场景。
在一种可能的实施方式中,所述确定方法还包括:
针对于每一个标准场景,将该标准场景对应的标准参数集合,基于自动驾驶算法进行仿真测试,得到该标准场景对应的至少一个评估指标;
根据所述至少一个评估指标,确定该标准场景与场景标签之间的映射关系。
在一种可能的实施方式中,所述根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇,包括:
根据预设的约束标准,将每个待聚类场景分别划分到满足预设的约束标准的集合中,得到多个初始聚类类别;
针对于每一个初始聚类类别,将位于该初始聚类类别中的各个待聚类场景基于所述目标聚类距离函数,以及选取的初始质心进行聚类,得到至少一个候选场景聚簇。
在一种可能的实施方式中,所述根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出目标聚类距离函数,包括:
针对于每个标准场景,基于该标准场景对应的至少一个评估指标,确定该标准场景所属的实际场景分类;
确定预设加权欧式距离函数表达式以及所述预设加权欧式距离函数表达式中包括的多个权重参数;
按照所述预设加权欧式距离函数,对获取到的多个标准场景进行聚类,确定每一个标准场景对应的聚类场景类别;
针对于每个标准场景,检测该标准场景的聚类场景类别与实际场景分类是否一致;
若存在任一标准场景对应的聚类场景类别与实际场景分类不一致,调整所述预设加权欧式距离函数表达式中的各个权重参数,直至各个标准场景对应的聚类场景类别与实际场景分类均一致,确定调整完毕,将调整权重参数后的预设加权欧式距离函数表达式,确定为所述目标聚类距离函数。
在一种可能的实施方式中,所述确定方法还包括:
根据确定出的每个目标测试场景对应的目标场景参数集合,对自动驾驶算法进行测试,得到与所述自动驾驶算法对应的至少一个测试评价指标;
基于确定出的至少一个测试评价指标,对所述自动驾驶算法进行优化。
第二方面,本申请实施例还提供了一种测试场景的确定装置,所述确定装置包括:
聚簇确定模块,用于根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出至少一个标准场景聚簇;其中,所述标准场景为自动驾驶算法测试中规定的标准文件中包括的至少一个标准场景;
距离计算模块,用于根据获取到的每个候选场景对应的场景参数集合,计算出每个候选场景与各个标准场景聚簇之间的距离;其中,所述候选场景包括具有相同特征的候选场景形成的候选场景聚簇中的聚类中心场景或者所述自动驾驶算法对应的除标准场景之外的场景;
场景确定模块,用于将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景,以基于各个目标测试场景对自动驾驶算法进行仿真。
在一种可能的实施方式中,所述场景包括具有相同特征的候选场景形成的聚簇中的聚类中心场景,所述确定装置还包括场景筛选模块,所述场景筛选模块用于:
根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出聚类过程中的目标聚类距离函数;
根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇;
将候选场景聚簇对应的聚类中心场景,确定为所述候选场景。
第三方面,本申请实施例还提供了一种电子设备,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述机器可读指令,以执行如第一方面任一项所述的测试场景的确定方法的步骤。
第四方面,本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如第一方面任一项所述的测试场景的确定方法的步骤。
本申请实施例提供的测试场景的确定方法、装置、电子设备及可读存储介质,根据预先确定出的每个标准场景与场景标签之间的映射关系,将标准场景进行聚类,得到至少一个标准场景聚簇;根据获取到的各个候选场景对应的场景参数集合,得到每个候选场景与各个标准场景聚簇之间的聚类;将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为除标准场景中之外,可以用于对策测试场景进行测试的目标测试场景。在本申请中,通过从候选场景中确定出不在标准场景聚簇内的信息的测试场景,可以不只在标准场景附近取值获取与标准场景同类型的测试场景,丰富确定自动驾驶算法优缺点的场景类型,可以全面地对自动驾驶算法进行仿真测试,保证后续对待测试自动驾驶算法进行测试全面性以及准确性。
为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例所提供的一种测试场景的确定方法的流程图;
图2为本申请实施例所提供的另一种测试场景的确定方法的流程图;
图3为本申请实施例所提供的一种测试场景的确定装置的结构示意图之一;
图4为本申请实施例所提供的一种测试场景的确定装置的结构示意图之二;
图5为本申请实施例所提供的一种电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的每个其他实施例,都属于本申请保护的范围。
首先,对本申请可适用的应用场景进行介绍。本申请可应用于自动驾驶仿真。随着科学技术的飞速发展,自动驾驶技术的应用越来越广泛,为了保证自动驾驶在实际应用中的安全性,需要在自动驾驶车辆投入正式使用之前,对配套的自动驾驶算法在不同的测试场景下进行仿真测试,以测试自动驾驶算法在不同测试场景下的安全性能,从而对自动驾驶算法进行优化,保证自动驾驶车辆的安全。
经研究发现,目前对于测试场景的确定,都是基于标准文件中规定的标准测试场景构建标准场景对自动驾驶算法进行仿真测试,为了增加场景的泛用性,标准文件中对各类场景参数取值会给出一个取值范围,在构建仿真场景时场景参数可以在给定范围内灵活取值,从而构建出更多的测试场景,但是上述方法存在以下问题:
(1)标准文件中规定的场景数目较少,即使通过场景泛化,也仅仅是在标准场景附近进行取值,泛化后的场景跟标准场景基本属于同一类型,从而忽略了与标准文件规定的场景差异较大的场景类型;
(2)在对场景进行泛化的过程中,如简单进行蒙特卡洛取样,会导致样本点高度集中在高概率区域而忽略了低概率区域,而导致自动驾驶算法失效的场景更多的存在于低概率区域;
(3)基于标准场景进行仿真测试缺乏针对性,不能很好地发掘出自动驾驶算法的劣势场景,同时由于车厂在训练算法时可以提前使用广泛认可的标准场景来进行训练,而使得后续的仿真测试无意义;
(4)构造标准场景需要十分充足的相关业务知识,需要通过业务知识归纳总结现实场景,从无到有得到一个典型场景非常困难,同时如果只通过实际场景归纳得到标准场景,会很容易忽略到那些少见但是危害程度很大的重要场景。
基于此,本申请实施例提供了一种测试场景的确定方法,以丰富确定自动驾驶算法优缺点的场景类型,可以全面地对自动驾驶算法进行仿真测试,保证后续对待测试自动驾驶算法进行测试全面性以及准确性。
请参阅图1,图1为本申请实施例所提供的一种测试场景的确定方法的流程图。如图1中所示,本申请实施例提供的测试场景的确定方法,包括:
S101、根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出至少一个标准场景聚簇;其中,所述标准场景为自动驾驶算法测试中规定的标准文件中包括的至少一个标准场景。
S102、根据获取到的每个候选场景对应的场景参数集合,计算出每个候选场景与各个标准场景聚簇之间的距离;其中,所述候选场景包括具有相同特征的候选场景形成的候选场景聚簇中的聚类中心场景或者所述自动驾驶算法对应的除标准场景之外的场景。
S103、将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景,以基于各个目标测试场景对自动驾驶算法进行仿真。
本申请实施例所提供的一种测试场景的确定方法,通过从候选场景中确定出不在标准场景聚簇内的信息的测试场景,可以不只在标准场景附近取值获取与标准场景同类型的测试场景,丰富确定自动驾驶算法优缺点的场景类型,可以全面地对自动驾驶算法进行仿真测试,保证后续对待测试自动驾驶算法进行测试全面性以及准确性。
下面对本申请实施例示例性的各步骤进行说明:
S101、根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出至少一个标准场景聚簇。
其中,所述标准场景为自动驾驶算法测试中规定的标准文件中包括的至少一个标准场景。
在本申请实施例中,根据预先计算出来的每个标准场景对应的标准参数集合和场景标签之间的映射关系,对不同的标准场景进行聚类,得到至少一个标准场景聚簇。
这里,在对自动驾驶算法进行测试的不同场景,场景可以分为法规场景、自然场景和危险场景,根据不同的场景环境设置不同的参数,以测试自动驾驶算法在不同场景下的性能。
其中,标准场景是通过业务知识先验的定义出的,对自动驾驶算法进行测试来说,某些较为重要的场景,在国际或国家标准等一系列标准文件中的进行记载。
这里,标准场景在和自动驾驶算法进行计算之后,会得到对应的标签,是对自动驾驶算法搭载的自动驾驶汽车在该标准场景下的评价,例如,自动驾驶算法搭载的汽车在每个场景中的最小碰撞时间TTC等。
其中,标准场景与场景标签之间是对应的。
在一种可能实施方式中,介绍了关于如何确定出标准场景对应的场景标签的步骤,所述确定方法还包括:
a1:针对于每一个标准场景,将该标准场景对应的标准参数集合,基于自动驾驶算法进行仿真测试,得到该标准场景对应的至少一个评估指标。
a2:根据所述至少一个评估指标,确定该标准场景与场景标签之间的映射关系。
在本申请实施例中,针对于每一个标准场景,根据该标准场景对应的标准参数集合,根据待测试的自动驾驶算法进行仿真测试,得到该标准场景对应的至少一个评估标签;根据确定出的至少一个评估指标,确定出该标准场景于标准场景标签之间的映射关系。
这里,对于场景标签的定义可以是该标准场景对应的一个评估指标,还可以是根据确定出的至少一个评估指标,根据预设的标签标准,设定的场景标签。
在一种可能的实施方式中,本申请中确定出至少一个标准场景聚簇的方式为显示确定出各个标准场景对应的场景标签所属的分类,再根据对应的场景标签对各个标准场景进行聚类,然后确定出分类后的至少一个标准场景聚簇。
举例来说,对标准文件中规定的标准场景结合自动驾驶算法进行仿真测试得到对应的场景标签后,首先对场景标签进行无监督聚类,把场景标签进行类别划分,如【大中小】三类,每类场景标签对应的标准场景也对应的划入【大中小】三个类别中。同时,还应当根据标准文件对类别进行细分(因为不同的标准文件规定的场景可能是对应测试自动驾驶汽车的不同方面,如传感器性能或算法安全性等,因此虽然两个标准场景x1和x2对应的场景标签y1和y2都属于同一个类别,但由于x1和x2分属不同的标准文件中应当分为两个不同的类,这部分属于我们在进行聚类之前对标准文件进行分析的先验知识),如每个标准场景x属于【大1大2中1中2小1小2】六类中的某一类,从而完成对标准场景的聚类过程。
S102、根据获取到的每个候选场景对应的场景参数集合,计算出每个候选场景与各个标准场景聚簇之间的距离。
在本申请实施例中,根据获取到的每个候选场景对应的场景集合,计算出每个候选场景与步骤S101中确定出的各个标准场景聚簇之间的距离。
其中,候选场景包括具有相同特征的候选场景形成的候选场景聚簇中的聚类中心场景或者所述自动驾驶算法对应的除标准场景之外的场景。
这里,候选场景是在全部场景中除了标准场景之外的全部场景,为了尽量地计算量,提升数据处理效率,在本申请实施例中,优先选择是对聚类后的质心作为候选场景的方式,对核心场景进行筛选。
在一种可能实施方式中,请参阅图2,图2为本申请实施例所提供的另一种测试场景的确定方法的流程图。如图2中所示,在候选场景是具有相同特征的候选场景形成的聚簇中的聚类中心场景时,通过以下步骤确定所述候选场景:
S201、根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出聚类过程中的目标聚类距离函数。
在本申请实施例中,根据预先计算出的各个标准场景对应的标准参数集合,以及标准场景与场景标签之间的映射关系,确定出在聚类过程中应该依据的目标聚类距离函数。
这里,通过根据标准场景与场景标签之间的映射关系,确定出不同的标准场景对应的分类,从而学习出在聚类过程中的聚类约束条件。
在一种可能的实施方式中,步骤“根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出目标聚类距离函数”,包括:
b1:针对于每个标准场景,基于该标准场景对应的至少一个评估指标,确定该标准场景所属的实际场景分类。
在本申请实施例中,针对于每一个标准场景,根据该标准场景对应的评估指标对应所属的分类,确定出该标准场景所属的实际场景分类。
这里,对于确定标准场景所属的分类的过程与确定出至少一个标准场景聚簇的方式一致,在此不在进行赘述。
b2:确定预设加权欧式距离函数表达式以及所述预设加权欧式距离函数表达式中包括的多个权重参数。
在本申请实施例中,在对场景进行聚类分析时,是根据距离进行的聚类计算,因此,需要确定出加权欧式距离函数表达式,以及在表达式中不同的权重参数的初始值。
其中,对于表达式中不同的权重参数的初始值可以是根据历史聚类信息或是聚类需求进行设定,对于权重参数的初始值的设置方式,在本申请中不作具体限定。
b3:按照所述预设加权欧式距离函数,对获取到的多个标准场景进行聚类,确定每一个标准场景对应的聚类场景类别。
在本申请实施例中,根据步骤b2获取到的预设加权欧式距离函数,对获取到的多个标准场景进行聚类,确定出根据预设加权欧式距离函数进行聚类后的聚类场景类别。
b4:针对于每个标准场景,检测该标准场景的聚类场景类别与实际场景分类是否一致。
在本申请中,针对于每个标准场景,检测该标准场景按照预设加权欧式距离函数进行聚类后的聚类场景类别,与该标准场景实际所属的实际场景分类是否一致。
b5:若存在任一标准场景对应的聚类场景类别与实际场景分类不一致,调整所述预设加权欧式距离函数表达式中的各个权重参数,直至各个标准场景对应的聚类场景类别与实际场景分类均一致,确定调整完毕,将调整权重参数后的预设加权欧式距离函数表达式,确定为所述目标聚类距离函数。
在本申请实施例中,若是存在任一标准场景对应的聚类场景类别与实际场景分类不一致,确定预设加权欧式距离函数表达式中的权重参数设置是不合理的,调整预设加权欧式距离函数表达式中的各个权重参数,直至各个标准场景对应的聚类场景类别与实际场景分类均一致,确定调整完毕,将调整权重参数后的预设加权欧式距离函数表达式,确定为目标聚类距离函数。
这样,根据调整后的得到的目标聚类距离函数再次进行聚类时,可以保证聚类后生成的聚簇,是符合标准场景与场景标签之间的映射关系规定的聚类约束条件的。
S202、根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇。
在本申请实施例中,根据获取到的每个待聚类场景对应的场景参数集合,同时要参考预设的约束标准之后,根据步骤S201确定出的目标聚类距离函数,对多个待聚类场景进行聚类,得到聚类后的至少一个候选场景聚簇。
这里,在根据目标聚类距离函数进行聚类之前,先是要根据预设的约束条件对各个待聚类场景进行第一步划分,具体聚类步骤如下:
c1:根据预设的约束标准,将每个待聚类场景分别划分到满足预设的约束标准的集合中,得到多个初始聚类类别。
在本申请实施例中,根据预设的约束标准,将每个聚类场景分别划分到满足预设的约束标准的集合中,得到多个初始聚类类别。
这里,约束标准规定了哪些待聚类场景是一定要在同一个聚簇里,而哪些待聚类场景是一定不会出现在不同的聚簇中,具体来说,不同的标准文件会侧重检测自动驾驶汽车的不同方面,因此不同的标准文件中的标准场景在未来的聚类过程中我们不应当把他们分在同一类中(CannotLink约束);同时,对于同一类标准文件,由于侧重检测自动驾驶汽车的同一方面,因此即使该文件下指定的标准场景参数会取到不同的取值,在未来的聚类过程中也应当归类到同一类当中(MustLink约束)。
在具体实施方式中,先考虑有MustLink约束的待聚类场景,基于传递性和对称性的关系进行分配,保证约束不被违反;然后考虑CannotLink约束的待聚类场景,得到多个初始聚类类别。
c2:针对于每一个初始聚类类别,将位于该初始聚类类别中的各个待聚类场景基于所述目标聚类距离函数,以及选取的初始质心进行聚类,得到至少一个候选场景聚簇。
在本申请实施例中,针对于步骤c1确定出的每一个初始聚类类别,对位于该初始聚类类别种的各个待聚类场景根据确定出的目标聚类距离函数,再次进行细致划分,根据预先选取的距离密度最大的初始质心进行聚类,得到至少一个候选场景聚簇。
其中,聚类方法可以是k-means聚类算法、均值偏移聚类算法、单滑动窗口的均值偏移聚类等聚类领域常用的算法。
S203、将候选场景聚簇对应的聚类中心场景,确定为所述候选场景。
在本申请实施例中,将步骤S202中确定出的候选场景聚簇中的聚类中心场景,确定为候选场景。
S103、将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景,以基于各个目标测试场景对自动驾驶算法进行仿真。
在本申请实施例中,针对于步骤S102中确定出的每个候选场景,分别计算各个候选场景与每个标准场景聚簇之间的距离后,将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景,从而基于各个目标测试场景对自动驾驶算法进行仿真。
这里,由于各个标准场景聚簇的聚类半径是不同的,即有的标准场景聚簇的聚簇比较密集,有的标准场景聚簇比较分散,所以需要针对于不同的标准场景聚簇设置不同的预设阈值。
在本申请实施例中,一般来说,在对除去各个标准场景之外的候选场景进行聚类时,可以生成不用于各个标准场景聚簇之外的候选场景聚簇的聚类中心场景,而各个聚类中心场景与各个标准场景聚簇之间的距离一般都会大于各个标准场景聚簇各自的预设距离阈值,因此,在筛选目标测试场景时,可以直接将生成的候选场景聚簇的聚类中心场景直接确定为目标测试场景。
优选地,为了防止聚类过程中处于标准场景聚簇边界与候选场景聚簇边界的候选场景对聚类过程的影响,考虑增加对候选场景形成的候选场景聚簇中的聚类中心场景与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值进行判断的过程,来保证聚类的准确性。
在一种可能的实施方式中,所述确定方法还包括:
d1:根据确定出的每个目标测试场景对应的目标场景参数集合,对自动驾驶算法进行测试,得到与所述自动驾驶算法对应的至少一个测试评价指标。
在本申请实施例中,根据确定出的不同的目标测试场景,根据各个目标测试场景对应的目标场景参数集合,对自动驾驶算法进行测试,确定出对搭载自动驾驶算法的自动驾驶车辆的至少一个测评指标。
d2:基于确定出的至少一个测试评价指标,对所述自动驾驶算法进行优化。
在本申请实施例中,根据在不同目标测试场景下确定出的至少一个测试评价指标,确定出自动驾驶算法的缺陷,从而有针对性地对自动驾驶算法进行优化。
本申请实施例提供的测试场景的确定方法,根据预先确定出的每个标准场景与场景标签之间的映射关系,将标准场景进行聚类,得到至少一个标准场景聚簇;根据获取到的各个候选场景对应的场景参数集合,得到每个候选场景与各个标准场景聚簇之间的聚类;将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为除标准场景中之外,可以用于对策测试场景进行测试的目标测试场景。在本申请中,通过从候选场景中确定出不在标准场景聚簇内的信息的测试场景,可以不只在标准场景附近取值获取与标准场景同类型的测试场景,丰富确定自动驾驶算法优缺点的场景类型,可以全面地对自动驾驶算法进行仿真测试,保证后续对待测试自动驾驶算法进行测试全面性以及准确性。
基于同一发明构思,本申请实施例中还提供了与测试场景的确定方法对应的测试场景的确定装置,由于本申请实施例中的装置解决问题的原理与本申请实施例上述确定方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
请参阅图3、图4,图3为本申请实施例所提供的一种测试场景的确定装置的结构示意图之一,图4为本申请实施例所提供的一种测试场景的确定装置的结构示意图之二。如图3中所示,所述确定装置300包括:
聚簇确定模块310,用于根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出至少一个标准场景聚簇;其中,所述标准场景为自动驾驶算法测试中规定的标准文件中包括的至少一个标准场景;
距离计算模块320,用于根据获取到的每个候选场景对应的场景参数集合,计算出每个候选场景与各个标准场景聚簇之间的距离;其中,所述候选场景包括具有相同特征的候选场景形成的候选场景聚簇中的聚类中心场景或者所述自动驾驶算法对应的除标准场景之外的场景;
场景确定模块330,用于将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景,以基于各个目标测试场景对自动驾驶算法进行仿真。
在一种可能的实施方式中,如图4所示,所述场景包括具有相同特征的候选场景形成的聚簇中的聚类中心场景,所述确定装置300还包括场景筛选模块340,所述场景筛选模块340用于:
根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出聚类过程中的目标聚类距离函数;
根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇;
将候选场景聚簇对应的聚类中心场景,确定为所述候选场景。
在一种可能的实施方式中,如图4所示,所述确定装置300还包括映射确定模块350,所述映射确定模块350用于:
针对于每一个标准场景,将该标准场景对应的标准参数集合,基于自动驾驶算法进行仿真测试,得到该标准场景对应的至少一个评估指标;
根据所述至少一个评估指标,确定该标准场景与场景标签之间的映射关系。
在一种可能的实施方式中,如图4所示,所述确定装置300还包括算法优化模块360,所述算法优化模块360用于:
根据确定出的每个目标测试场景对应的目标场景参数集合,对自动驾驶算法进行测试,得到与所述自动驾驶算法对应的至少一个测试评价指标;
基于确定出的至少一个测试评价指标,对所述自动驾驶算法进行优化。
在一种可能的实施方式中,所述场景筛选模块340在用于根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出目标聚类距离函数时,所述场景筛选模块340用于:
针对于每个标准场景,基于该标准场景对应的至少一个评估指标,确定该标准场景所属的实际场景分类;
确定预设加权欧式距离函数表达式以及所述预设加权欧式距离函数表达式中包括的多个权重参数;
按照所述预设加权欧式距离函数,对获取到的多个标准场景进行聚类,确定每一个标准场景对应的聚类场景类别;
针对于每个标准场景,检测该标准场景的聚类场景类别与实际场景分类是否一致;
若存在任一标准场景对应的聚类场景类别与实际场景分类不一致,调整所述预设加权欧式距离函数表达式中的各个权重参数,直至各个标准场景对应的聚类场景类别与实际场景分类均一致,确定调整完毕,将调整权重参数后的预设加权欧式距离函数表达式,确定为所述目标聚类距离函数。
在一种可能的实施方式中,所述场景筛选模块340在用于根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇时,所述场景筛选模块340用于:
根据预设的约束标准,将每个待聚类场景分别划分到满足预设的约束标准的集合中,得到多个初始聚类类别;
针对于每一个初始聚类类别,将位于该初始聚类类别中的各个待聚类场景基于所述目标聚类距离函数,以及选取的初始质心进行聚类,得到至少一个候选场景聚簇。
本申请实施例提供的测试场景的确定装置,根据预先确定出的每个标准场景与场景标签之间的映射关系,将标准场景进行聚类,得到至少一个标准场景聚簇;根据获取到的各个候选场景对应的场景参数集合,得到每个候选场景与各个标准场景聚簇之间的聚类;将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为除标准场景中之外,可以用于对策测试场景进行测试的目标测试场景。在本申请中,通过从候选场景中确定出不在标准场景聚簇内的信息的测试场景,可以不只在标准场景附近取值获取与标准场景同类型的测试场景,丰富确定自动驾驶算法优缺点的场景类型,可以全面地对自动驾驶算法进行仿真测试,保证后续对待测试自动驾驶算法进行测试全面性以及准确性。
请参阅图5,图5为本申请实施例所提供的一种电子设备的结构示意图。如图5中所示,所述电子设备500包括处理器510、存储器520和总线530。
所述存储器520存储有所述处理器510可执行的机器可读指令,当电子设备500运行时,所述处理器510与所述存储器520之间通过总线530通信,所述机器可读指令被所述处理器510执行时,可以执行如上述图1以及图2所示方法实施例中的测试场景的确定方法的步骤,具体实现方式可参见方法实施例,在此不再赘述。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时可以执行如上述图1以及图2所示方法实施例中的测试场景的确定方法的步骤,具体实现方式可参见方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本申请的具体实施方式,用以说明本申请的技术方案,而非对其限制,本申请的保护范围并不局限于此,尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本申请实施例技术方案的精神和范围,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种测试场景的确定方法,其特征在于,所述确定方法包括:
根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出至少一个标准场景聚簇;其中,所述标准场景为自动驾驶算法测试中规定的标准文件中包括的至少一个标准场景;
根据获取到的每个候选场景对应的场景参数集合,计算出每个候选场景与各个标准场景聚簇之间的距离;其中,所述候选场景包括具有相同特征的候选场景形成的候选场景聚簇中的聚类中心场景或者所述自动驾驶算法对应的除标准场景之外的场景;
将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景,以基于各个目标测试场景对自动驾驶算法进行仿真。
2.根据权利要求1所述的确定方法,其特征在于,所述场景包括具有相同特征的候选场景形成的聚簇中的聚类中心场景,通过以下步骤确定所述候选场景:
根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出聚类过程中的目标聚类距离函数;
根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇;
将候选场景聚簇对应的聚类中心场景,确定为所述候选场景。
3.根据权利要求1所述的确定方法,其特征在于,所述确定方法还包括:
针对于每一个标准场景,将该标准场景对应的标准参数集合,基于自动驾驶算法进行仿真测试,得到该标准场景对应的至少一个评估指标;
根据所述至少一个评估指标,确定该标准场景与场景标签之间的映射关系。
4.根据权利要求2所述的确定方法,其特征在于,所述根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇,包括:
根据预设的约束标准,将每个待聚类场景分别划分到满足预设的约束标准的集合中,得到多个初始聚类类别;
针对于每一个初始聚类类别,将位于该初始聚类类别中的各个待聚类场景基于所述目标聚类距离函数,以及选取的初始质心进行聚类,得到至少一个候选场景聚簇。
5.根据权利要求2所述的确定方法,其特征在于,所述根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出目标聚类距离函数,包括:
针对于每个标准场景,基于该标准场景对应的至少一个评估指标,确定该标准场景所属的实际场景分类;
确定预设加权欧式距离函数表达式以及所述预设加权欧式距离函数表达式中包括的多个权重参数;
按照所述预设加权欧式距离函数,对获取到的多个标准场景进行聚类,确定每一个标准场景对应的聚类场景类别;
针对于每个标准场景,检测该标准场景的聚类场景类别与实际场景分类是否一致;
若存在任一标准场景对应的聚类场景类别与实际场景分类不一致,调整所述预设加权欧式距离函数表达式中的各个权重参数,直至各个标准场景对应的聚类场景类别与实际场景分类均一致,确定调整完毕,将调整权重参数后的预设加权欧式距离函数表达式,确定为所述目标聚类距离函数。
6.根据权利要求1所述的确定方法,其特征在于,所述确定方法还包括:
根据确定出的每个目标测试场景对应的目标场景参数集合,对自动驾驶算法进行测试,得到与所述自动驾驶算法对应的至少一个测试评价指标;
基于确定出的至少一个测试评价指标,对所述自动驾驶算法进行优化。
7.一种测试场景的确定装置,其特征在于,所述确定装置包括:
聚簇确定模块,用于根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出至少一个标准场景聚簇;其中,所述标准场景为自动驾驶算法测试中规定的标准文件中包括的至少一个标准场景;
距离计算模块,用于根据获取到的每个候选场景对应的场景参数集合,计算出每个候选场景与各个标准场景聚簇之间的距离;其中,所述候选场景包括具有相同特征的候选场景形成的候选场景聚簇中的聚类中心场景或者所述自动驾驶算法对应的除标准场景之外的场景;
场景确定模块,用于将候选场景中与每个标准场景聚簇之间的距离均大于该标准场景对应的预设距离阈值的候选场景,确定为目标测试场景,以基于各个目标测试场景对自动驾驶算法进行仿真。
8.根据权利要求7所述的确定装置,其特征在于,所述场景包括具有相同特征的候选场景形成的聚簇中的聚类中心场景,所述确定装置还包括场景筛选模块,所述场景筛选模块用于:
根据预先计算出的每个标准场景对应的标准参数集合与场景标签之间的映射关系,确定出聚类过程中的目标聚类距离函数;
根据获取到的每个待聚类场景对应的场景参数集合,以及预设的约束标准,基于所述目标聚类距离函数,对多个待聚类场景进行聚类,确定出聚类后的至少一个候选场景聚簇;
将候选场景聚簇对应的聚类中心场景,确定为所述候选场景。
9.一种电子设备,其特征在于,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述机器可读指令,以执行如权利要求1至6任一项所述的测试场景的确定方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如权利要求1至6任一项所述的测试场景的确定方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110981375.0A CN113688042B (zh) | 2021-08-25 | 2021-08-25 | 测试场景的确定方法、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110981375.0A CN113688042B (zh) | 2021-08-25 | 2021-08-25 | 测试场景的确定方法、装置、电子设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113688042A true CN113688042A (zh) | 2021-11-23 |
CN113688042B CN113688042B (zh) | 2023-06-27 |
Family
ID=78582408
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110981375.0A Active CN113688042B (zh) | 2021-08-25 | 2021-08-25 | 测试场景的确定方法、装置、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113688042B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113918475A (zh) * | 2021-12-15 | 2022-01-11 | 腾讯科技(深圳)有限公司 | 测试处理方法、装置、计算机设备及存储介质 |
CN114065549A (zh) * | 2021-11-30 | 2022-02-18 | 广州文远知行科技有限公司 | 自动驾驶水平评估方法、装置、设备及存储介质 |
CN115687163A (zh) * | 2023-01-05 | 2023-02-03 | 中汽智联技术有限公司 | 场景库构建方法、装置、设备和存储介质 |
CN115827423A (zh) * | 2022-09-15 | 2023-03-21 | 江苏瑞蓝自动化设备集团有限公司 | 基于多场景聚类的测试案例生成方法、装置、设备及介质 |
CN115981179A (zh) * | 2022-12-30 | 2023-04-18 | 西安深信科创信息技术有限公司 | 一种自动驾驶仿真测试场景测试指标生成方法及装置 |
CN116303103A (zh) * | 2023-05-19 | 2023-06-23 | 小米汽车科技有限公司 | 自动驾驶场景库的评测集生成方法、装置及设备 |
CN116358902A (zh) * | 2023-06-02 | 2023-06-30 | 中国第一汽车股份有限公司 | 一种车辆功能的测试方法、装置、电子设备及存储介质 |
WO2023123130A1 (zh) * | 2021-12-29 | 2023-07-06 | 华为技术有限公司 | 用于自动驾驶系统的方法、装置、电子设备和介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140258989A1 (en) * | 2011-10-10 | 2014-09-11 | Onycom, Inc. | Method and system for automating a scene-based test |
US9092579B1 (en) * | 2011-05-08 | 2015-07-28 | Panaya Ltd. | Rating popularity of clusters of runs of test scenarios based on number of different organizations |
US9978084B1 (en) * | 2013-06-14 | 2018-05-22 | Groupon, Inc. | Configurable relevance service test platform |
US10460208B1 (en) * | 2019-01-02 | 2019-10-29 | Cognata Ltd. | System and method for generating large simulation data sets for testing an autonomous driver |
CN110502852A (zh) * | 2019-08-27 | 2019-11-26 | 上海汽车集团股份有限公司 | 一种自动驾驶仿真测试场景的生成方法及生成系统 |
CN110688311A (zh) * | 2019-09-25 | 2020-01-14 | 武汉光庭信息技术股份有限公司 | 一种面向自动驾驶典型场景的测试用例管理方法和装置 |
CN110955159A (zh) * | 2019-11-28 | 2020-04-03 | 安徽江淮汽车集团股份有限公司 | 自动驾驶仿真例编制方法、装置、电子设备及存储介质 |
CN112527649A (zh) * | 2020-12-15 | 2021-03-19 | 建信金融科技有限责任公司 | 一种测试用例的生成方法和装置 |
US20210197851A1 (en) * | 2019-12-30 | 2021-07-01 | Yanshan University | Method for building virtual scenario library for autonomous vehicle |
US20210208586A1 (en) * | 2020-01-02 | 2021-07-08 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method, electronic device and storage medium for testing autonomous driving system |
-
2021
- 2021-08-25 CN CN202110981375.0A patent/CN113688042B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9092579B1 (en) * | 2011-05-08 | 2015-07-28 | Panaya Ltd. | Rating popularity of clusters of runs of test scenarios based on number of different organizations |
US20140258989A1 (en) * | 2011-10-10 | 2014-09-11 | Onycom, Inc. | Method and system for automating a scene-based test |
US9978084B1 (en) * | 2013-06-14 | 2018-05-22 | Groupon, Inc. | Configurable relevance service test platform |
US10460208B1 (en) * | 2019-01-02 | 2019-10-29 | Cognata Ltd. | System and method for generating large simulation data sets for testing an autonomous driver |
CN110502852A (zh) * | 2019-08-27 | 2019-11-26 | 上海汽车集团股份有限公司 | 一种自动驾驶仿真测试场景的生成方法及生成系统 |
CN110688311A (zh) * | 2019-09-25 | 2020-01-14 | 武汉光庭信息技术股份有限公司 | 一种面向自动驾驶典型场景的测试用例管理方法和装置 |
CN110955159A (zh) * | 2019-11-28 | 2020-04-03 | 安徽江淮汽车集团股份有限公司 | 自动驾驶仿真例编制方法、装置、电子设备及存储介质 |
US20210197851A1 (en) * | 2019-12-30 | 2021-07-01 | Yanshan University | Method for building virtual scenario library for autonomous vehicle |
US20210208586A1 (en) * | 2020-01-02 | 2021-07-08 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method, electronic device and storage medium for testing autonomous driving system |
CN112527649A (zh) * | 2020-12-15 | 2021-03-19 | 建信金融科技有限责任公司 | 一种测试用例的生成方法和装置 |
Non-Patent Citations (3)
Title |
---|
一束光线: "一文读懂自动驾驶仿真测试场景与场景库", Retrieved from the Internet <URL:http://www.360doc.com/content/21/0814/23/75490072_991087071.shtml> * |
孟醒: "基于ADAS HIL系统的典型测试场景提取和场景库搭建", 天津职业技术师范大学 * |
胡大林;: "智能网联驾驶测试与评价技术探索", 智能网联汽车, no. 01 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114065549A (zh) * | 2021-11-30 | 2022-02-18 | 广州文远知行科技有限公司 | 自动驾驶水平评估方法、装置、设备及存储介质 |
CN113918475A (zh) * | 2021-12-15 | 2022-01-11 | 腾讯科技(深圳)有限公司 | 测试处理方法、装置、计算机设备及存储介质 |
WO2023123130A1 (zh) * | 2021-12-29 | 2023-07-06 | 华为技术有限公司 | 用于自动驾驶系统的方法、装置、电子设备和介质 |
CN115827423A (zh) * | 2022-09-15 | 2023-03-21 | 江苏瑞蓝自动化设备集团有限公司 | 基于多场景聚类的测试案例生成方法、装置、设备及介质 |
CN115981179A (zh) * | 2022-12-30 | 2023-04-18 | 西安深信科创信息技术有限公司 | 一种自动驾驶仿真测试场景测试指标生成方法及装置 |
CN115981179B (zh) * | 2022-12-30 | 2023-11-21 | 安徽深信科创信息技术有限公司 | 一种自动驾驶仿真测试场景测试指标生成方法及装置 |
CN115687163A (zh) * | 2023-01-05 | 2023-02-03 | 中汽智联技术有限公司 | 场景库构建方法、装置、设备和存储介质 |
CN115687163B (zh) * | 2023-01-05 | 2023-04-07 | 中汽智联技术有限公司 | 场景库构建方法、装置、设备和存储介质 |
CN116303103A (zh) * | 2023-05-19 | 2023-06-23 | 小米汽车科技有限公司 | 自动驾驶场景库的评测集生成方法、装置及设备 |
CN116303103B (zh) * | 2023-05-19 | 2023-08-15 | 小米汽车科技有限公司 | 自动驾驶场景库的评测集生成方法、装置及设备 |
CN116358902A (zh) * | 2023-06-02 | 2023-06-30 | 中国第一汽车股份有限公司 | 一种车辆功能的测试方法、装置、电子设备及存储介质 |
CN116358902B (zh) * | 2023-06-02 | 2023-08-22 | 中国第一汽车股份有限公司 | 一种车辆功能的测试方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113688042B (zh) | 2023-06-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113688042A (zh) | 测试场景的确定方法、装置、电子设备及可读存储介质 | |
Kirk et al. | Model selection in systems and synthetic biology | |
CN111401609B (zh) | 车流量时间序列的预测方法及预测装置 | |
CN109302410B (zh) | 一种内部用户异常行为检测方法、系统及计算机存储介质 | |
CN105675038A (zh) | 一种仪表的故障预测装置 | |
CN109598931B (zh) | 基于交通安全风险的群体划分与差异性分析方法及系统 | |
CN111931047B (zh) | 基于人工智能的黑产账号检测方法及相关装置 | |
CN111932269A (zh) | 设备信息处理方法及装置 | |
CN111090807A (zh) | 一种基于知识图谱的用户识别方法及装置 | |
CN114879613A (zh) | 一种工业控制系统信息安全攻击风险评估方法及系统 | |
CN112596964A (zh) | 磁盘故障的预测方法及装置 | |
CN114399321A (zh) | 一种业务系统稳定性分析方法、装置和设备 | |
CN115081641A (zh) | 模型训练方法、评估结果的预测方法、设备及存储介质 | |
CN112734046A (zh) | 模型训练及数据检测方法、装置、设备及介质 | |
CN112016756A (zh) | 数据预测的方法和装置 | |
CN115204322B (zh) | 行为链路异常识别方法和装置 | |
CN111651500A (zh) | 用户身份识别方法、电子设备及存储介质 | |
CN116707859A (zh) | 特征规则提取方法和装置、网络入侵检测方法和装置 | |
CN108121656A (zh) | 一种软件评估方法和装置 | |
CN105227410A (zh) | 基于自适应神经网络的服务器负载检测的方法及系统 | |
CN116245630A (zh) | 一种反欺诈检测方法、装置、电子设备及介质 | |
CN113918471A (zh) | 测试用例的处理方法、装置及计算机可读存储介质 | |
CN110827144B (zh) | 用户的申请风险评估方法、申请风险评估装置及电子设备 | |
CN112433952A (zh) | 深度神经网络模型公平性测试方法、系统、设备及介质 | |
CN112766320A (zh) | 一种分类模型训练方法及计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |