CN114616157A - 用于通过强化学习检查自动化的行驶功能的方法和系统 - Google Patents
用于通过强化学习检查自动化的行驶功能的方法和系统 Download PDFInfo
- Publication number
- CN114616157A CN114616157A CN202080073227.2A CN202080073227A CN114616157A CN 114616157 A CN114616157 A CN 114616157A CN 202080073227 A CN202080073227 A CN 202080073227A CN 114616157 A CN114616157 A CN 114616157A
- Authority
- CN
- China
- Prior art keywords
- automated driving
- scene
- reward
- function
- parameter set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/04—Monitoring the functioning of the control system
- B60W50/045—Monitoring control system parameters
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/06—Improving the dynamic response of the control system, e.g. improving the speed of regulation or avoiding hunting or overshoot
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W2050/0001—Details of the control system
- B60W2050/0019—Control system elements or transfer functions
- B60W2050/0028—Mathematical models, e.g. for simulation
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Automation & Control Theory (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
Abstract
本公开涉及一种通过强化学习来检查自动化的行驶功能的方法。该方法包括:提供自动化的行驶功能的至少一个规范;产生场景,其中场景通过第一参数组at来指示;以及求取奖励函数,使得与在模拟中的场景满足至少一个规范的情况下相比,在模拟中的场景不满足至少一个规范的情况下,奖励Rnn更高。
Description
技术领域
本公开涉及通过强化学习来检查自动化的行驶功能的方法和系统。本公开尤其涉及违反自动化的行驶功能的规范的场景的产生。
背景技术
用于自动化行驶的行驶辅助系统变得越来越重要。自动化行驶可以以不同的自动化程度进行。示例性的自动化程度是辅助驾驶、部分自动化驾驶、高度自动化驾驶、或全自动化驾驶。这些自动化程度由联邦公路研究所(BASt)定义(请参阅BASt出版物“Forschungkompakt”,版本11/2012)。例如,具有级别4的车辆完全自主地在城市运行中上路。
自主行驶功能的发展的主要挑战是严格的确认和验证,以实现安全策略的遵循以及足够的客户信任水平。传统的测试方案对于自主行驶而言只能不充分扩展,因为对于每次发布而言需要大量的实际行程。
一种用于验证和评价需要处理多个可能的交通情况的自行驶车辆的可能方案在于虚拟的模拟环境。为了从模拟中获得对自主行驶功能的有说服力的评价,所模拟的环境必须足够真实。此外,必须能够自动地检查自主车辆的允许的行为(规范),并且所实施的测试场景必须覆盖所有典型情况以及罕见但真实的行驶情况。
虽然有一些方案可以满足前两个要求,但由于相关参数空间的高维度和非凸性,满足这些要求并不是容易的任务。数据控制的方案在一定程度上提供了补救,但是对大量的实际数据的分析不能保证所有相关场景都被包含和测试。因此,大多数现有方案基于可能使用分析模型的合适的基于样本的检查。然而,这些方法不能针对从传感器数据处理直至产生的致动器信号的整个端到端行驶功能来执行并且必须在系统改变时完全重新实施。
发明内容
本公开的任务是提供一种通过强化学习来检查自动化的行驶功能的方法、一种实施该方法的存储介质、以及一种通过强化学习来检查自动化的行驶功能的系统,强化学习允许快速且有效地检查自动化的行驶功能。此外,本公开的任务是有效地伪造自动化的行驶功能以暴露自动化的行驶功能中的弱点。
该任务通过独立权利要求的主题来实现。有利的设计方案在从属权利要求中说明。
根据本公开的一个独立方面,提供了一种通过强化学习检查自动化的行驶功能的方法。该方法包括:提供自动化的行驶功能的至少一个规范;产生场景,其中场景通过第一参数组来指示;以及求取奖励函数,使得与在模拟中的场景满足至少一个规范的情况下相比,在模拟中的场景不满足至少一个规范的情况下,奖励更高。例如,可以使用基于规则的模型来求取该奖励函数。
根据本发明,求取与场景中所有对象的轨迹相关的奖励函数。尤其,RL智能体学习生成场景,该场景最大化奖励并且反映对行驶功能规范的违反。因此,通过将现有的先验知识包含到训练过程中,可以加速学习。由此可以有效地伪造(falsifizieren)自动化的行驶功能,以便暴露在自动化的行驶功能中的弱点。
优选地,基于规则的模型描述用于自动化的行驶功能的车辆调节器。在此,调节器是以自动化的行驶功能行驶的车辆的行为的(简化的)模型。
优选地,该方法还包括产生第二参数组,该第二参数组指示对第一参数组的修改。这可以通过对抗智能体来进行。
优选地,该方法还包括:
在模拟中使用基于规则的模型来求取针对具体场景的奖励函数的值的估计Rest;
产生对应于第三参数组at+1的另外的场景,其中基于第二参数组ann和参数组aest,确定第三参数组at+1,参数组aest使得基于规则的模型的估计Rest最大化;以及
求取奖励函数,使得在对于模拟中的场景奖励函数的值的估计Rest低于奖励函数的实际值R的情况下,奖励R更高。
优选地,使用排除特定场景的不等式约束来进行产生与第三参数组对应的另外的场景。不等式约束可以被定义为:
|ann-dest|<aSchwelle
优选地,在使用参数组到特定场景的集合上的投影的情况下进行对应于第三参数组的另外的场景的产生。
根据本公开的另一方面,提供了一种通过强化学习检查自动化的行驶功能的系统。系统包括处理器单元,处理器单元被配置成实施用于根据在本文中描述的实施方式通过强化学习来检查自动化的行驶功能的方法。
该系统尤其被设置成实施在本文中描述的方法。该方法可以实现本文中所描述的系统的各方面。
根据本发明的方法也可以在HIL(硬件在环)环境中被模拟。
根据另外的独立方面,说明一种软件(SW)程序。SW程序可以被设置成在一个或多个处理器上执行并且由此实施在本文中的方法。
根据另外的独立方面,说明一种存储介质。存储介质可以包括SW程序,该SW程序被设置成在一个或多个处理器上执行并且由此实施在本文中的方法。
术语“自动化行驶”在本文的上下文中可以理解为具有自动化的纵向或横向引导的行驶或具有自动化的纵向和横向引导的自主行驶。自动化行驶例如可以是在高速公路上时间上较长的行驶或者是在泊车或调车的范围内时间上受限的行驶。术语“自动化行驶”包括具有任意自动化程度的自动化行驶。示例性的自动化程度是辅助驾驶、部分自动化驾驶、高度自动化驾驶或全自动化驾驶。这些自动化程度由联邦公路研究所(BASt)定义(请参阅BASt出版物“Forschung kompakt”,版本11/2012)。
在辅助驾驶时,驾驶员持续地实施纵向或横向引导,而系统在一定的范围内接管相应其他的功能。在部分自动化驾驶(TAF)中,系统在一定的时间段中和/或在特定的情况中接管纵向和横向引导,其中驾驶员必须如在辅助行驶时那样持续地监控系统。在高度自动化驾驶(HAF)中,系统在一定的时间段上接管纵向引导和横向引导,而驾驶员不必持久地监控系统;驾驶员不必在一定时间内能够接管车辆引导。在全自动化驾驶(VAF)中,对于特定的应用情况,系统可以在所有情况下自动地应对行驶;对于这种应用情况不再需要驾驶员。
上述四个自动化程度对应于SAE J3016标准(SAE汽车工程学会)的SAE级别1至4。例如,高度自动化行驶(HAF)对应于SAE J3016标准的级别3。此外,在SAE J3016中还规定SAE级别5作为不被包括在BASt的定义中的最高自动化程度。SAE级别5对应于无人驾驶,其中系统可以如人类驾驶员那样在整个行驶期间自动地应对所有情形;通常不再需要驾驶员。
附图说明
本公开的实施例在附图中示出并且在下面更详细地描述。其中:
图1示意地示出根据本公开的实施方式的用于自动化行驶的行驶辅助系统,
图2示出强化学习方案的一般示意图;
图3示出根据本公开的实施方式的用于检查自动化的行驶功能的方法的流程图;
图4示出根据本公开的实施方式的用于检查自动化的行驶功能的示意图;并且
图5示出根据本公开的另外的实施方式的用于检查自动化的行驶功能的示意图。
具体实施方式
除非另有说明,否则在下文中对于相同的和起相同作用的元件使用相同的附图标记。
图1示意地示出根据本公开的实施方式的用于自动化行驶的行驶辅助系统。
车辆100包括用于自动化行驶的行驶辅助系统110。在自动化行驶中,自动地进行车辆100的纵向和横向引导。因此,行驶辅助系统110接管车辆引导。为此,行驶辅助系统110通过未示出的中间单元控制驱动器20、传动机构22、液压行车制动器24和转向部26。
为了规划和执行自动化行驶,由驾驶员辅助系统110接收观察车辆环境的环境传感装置的环境信息。车辆尤其可以包括至少一个环境传感器12,该至少一个环境传感器被设置用于记录指示车辆环境的环境数据。至少一个环境传感器12例如可以包括激光雷达(LiDAR)系统、一个或多个雷达系统、和/或一个或多个摄像头。
本公开的目的是:根据用于自主或自动化的行驶功能的可自动验证的规范和连续虚拟的模拟环境来学习可以如何有效地生成使功能失真的场景。
在一个示例中,考虑ACC(自适应巡航控制)功能。ACC功能被设置用于遵循与在前行驶的车辆的安全距离。借助于被定义为th=h/v的时间间隙th,ACC请求可以被表述如下:
-两种可能的模式:额定速度模式和时间间隔模式;
在额定速度模式中,应当遵守由驾驶员预设或期望的速度vd,即vd∈[vd,min;vd,max];
在时间间隔模式中,应当相对于在前行驶的车辆遵守超前时间th,即th∈[th,min;th,max]。
当Vd≤h/td时,系统处于额定速度模式中,否则系统处于时间间隔模式中。此外,车辆的加速度必须始终满足ac∈[ac,min;ac,max]。
根据本公开的实施方式,使用强化学习(RL),并且尤其使用基于强化学习的对抗智能体(在图中由智能体(Agent)表示)。RL智能体学习生成最大化特定奖励的场景。由于智能体的目的是伪造行驶功能,所以将该奖励函数被设计成:当场景导致违反规范时,智能体获得高奖励,并且当自主行驶功能按照规范工作时,获得低奖励。
智能体重复地观察系统s的状态,该系统s包括用于给定规范的所有相关变量。基于状态,智能体按照其学习的策略执行动作a并且获得相应的奖励R(s,a)。动作由有限组的场景参数构成。随着时间的推移,智能体修改其策略以最大化其奖励。
RL智能体的输出是场景参数组a,场景参数组包括例如初始车辆速度、期望车辆、初始时间间隙、以及由速度段vf的有限时序编码的车辆速度分布,其中ti∈t0、t1、…、tn。它以初始参数组a0开始并计算相应的初始环境状态s0。状态st包含所有对于检查遵循规范相关的变量,例如最小加速度和最大加速度、与前方车辆的最小距离和最大距离、或者最小时间进度和最大时间进度、最小速度和最大速度等。然后,可以直接检测或者数值地通过形式为A[s;a]-b≤0的不等式近似以上所有规范语句。
基于RL的智能体的输入是在时间点t的环境状态st并且输出是用于下一次历程的经修改的场景参数at+1。例如,选择该奖励函数使得R(s,a)=Σx max(0,(exp(x)-1)),其中x表示用于规范的不等式A[s;a]-b≤0的左侧的任意一行的值。这保证只有当智能体已经找到违反规范的场景时奖励才是大的。图2示出这种情况的一般示意图。
一般的RL方案以慢的、高变化为代价,学习复杂任务可能需要数百万次迭代,并且每次迭代可能是高花费的。更重要的是,学习历程之间的变化可能非常高,这意味着RL算法的一些历程是成功的,而其他历程由于在初始化和扫描时的随机性而失败。这种学习的高度可变性可能对RL的应用是显著障碍。这个问题在大的参数空间中变得更大。
上述问题可以通过以下方式来减轻:引入关于过程的先验知识,先验知识可以通过不等式g(st,at)≤0(该不等式排除了轻微违反规范的场景)被适当建模,也就是说,例如确保车辆在无伤害(安全)状态中启动。该不等式作为奖励函数中的调节表达式或者作为用于学习进展的聚焦的神经网络的输出约束被集成到学习过程中。任何连续的可变RL方法,例如策略梯度方法或执行器关键方法,可以用于RL智能体。
尽管利用上述方法可以排除轻微违反规范的许多参数化,但仍然需要大量的历程,这些历程可能持续高达几天,直到由RL智能体生成感兴趣的场景。因此,可以集成还更多的先验知识以加速学习过程。
图3示出根据本公开的实施方式的用于通过强化学习来检查自动化的行驶功能的方法300的流程图。
该方法300包括在框310中提供自动化的行驶功能的至少一个规范;在框320中产生场景,其中场景通过第一参数组来指示;以及在框330中求取奖励函数,使得与在模拟中的场景满足至少一个规范的情况下相比,在模拟中的场景不满足至少一个规范的情况下,奖励更高,其中使用基于规则的模型来求取奖励函数。
与自主或自动化的车辆中实际使用的算法无关,假设车辆由传统的(基于规则的)控制系统控制并且行驶动态性通过简单的分析模型描述,所有这些通过差分方程xk+1=fk(xk,st,at)可检测,其中xk表示在实施时间上的车辆的状态。在此基础上,对于当前的环境状态st可以表述为以下优化问题:
xk+1=fk(xk,aest,st)
用于确定新的参数组aest,以提供最大奖励的估计Rest,max。如果优化问题不是凸的(通常是这种情况),则可以使用凸松弛或其他近似方法。
然后,RL智能体并行获得状态st和RL智能体奖励
Rnn=|R(st,at)-Rest|n,n∈{1,2}
并且产生新的参数组ann。以这种方式,RL智能体可以仅学习基于规则的控制行为与实际系统而非整个系统之间的差异,并且产生相应的修改ann。最后,用于下一次实施的新参数组被确定成as+t=aest+ann。为了避免在不安全状态下的初始化,可以使用上述方法通过不等式g(st,aest)≤0来近似先验知识。
图4和图5示出实现这一点的根据本公开的实施方式的两种可能的示意图。
该方法包括:产生指示对第一参数组的修改的第二参数组,并且产生对应于第三参数组的另外的场景,其中基于第二参数组并且使用基于规则的模型来确定第三参数组。
在一些实施方式中,使用排除特定场景的不等式约束来进行产生与第三参数组对应的另外的场景。这在图5中示出。尤其,图5中的框G表示以下类型的示例性的不等式约束:
|ann-aest|<aSchwelle
然而,本公开不限于不等式约束,并且可以使用概括性的优化问题,该优化问题可以被描述如下:
根据本发明,例如使用基于规则的模型来求取奖励函数。尤其,RL智能体学习生成场景,该场景最大化奖励并且反映对行驶功能规范的违反。因此,通过将现有的先验知识包含到训练过程中,可以加速学习。由此可以有效地伪造自动化的行驶功能,以便暴露在自动化的行驶功能中的弱点。
Claims (8)
1.一种用于通过强化学习来检查自动化的行驶功能的方法(300),包括:
提供(310)自动化的行驶功能的至少一个规范;
产生(320)场景,其中所述场景通过第一参数组at来指示;以及
求取(330)奖励函数,使得与在模拟中的所述场景满足所述至少一个规范的情况下相比,在所述模拟中的所述场景不满足所述至少一个规范的情况下,奖励R更高。
2.根据权利要求1所述的方法(300),其中使用基于规则的模型(RBM)来求取所述奖励函数。
3.根据权利要求1或2所述的方法(300),其中所述基于规则的模型(RBM)描述车辆的用于所述自动化的行驶功能的调节器,其中所述调节器是利用所述自动化的行驶功能控制的所述车辆的模型。
4.根据权利要求1至3中任一项所述的方法(300),还包括:
产生第二参数组ann,所述第二参数组指示对所述第一参数组at的修改。
5.根据权利要求4所述的方法(300),还包括:
在模拟中使用基于规则的模型(RBM)来求取针对具体场景的所述奖励函数的值的估计Rest;
产生对应于第三参数组at+1的另外的场景,其中基于所述第二参数组ann和参数组aest,确定所述第三参数组at+1,所述参数组aest使得基于所述基于规则的模型(RBM)的所述估计Rest最大化;以及
求取所述奖励函数,使得在对于模拟中的场景所述奖励函数的值的估计Rest低于所述奖励函数的实际值R的情况下,所述奖励R更高。
6.根据权利要求5所述的方法(300),其中使用排除特定场景的不等式约束G或者所述参数组到特定场景的集合上的投影,来产生对应于所述第三参数组at+1的所述另外的场景。
7.一种存储介质,包括软件程序,所述软件程序被设置成在一个或多个处理器上执行并且由此实施根据权利要求1至6中的任一项所述的方法(300)。
8.一种通过强化学习来检查自动化的行驶功能的系统,包括处理器单元,所述处理器单元被配置成实施根据权利要求1至6中的任一项所述的通过强化学习来检查自动化的行驶功能的方法(300)。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019130040.1 | 2019-11-07 | ||
DE102019130040.1A DE102019130040A1 (de) | 2019-11-07 | 2019-11-07 | Verfahren und System zum Prüfen einer automatisierten Fahrfunktion durch Reinforcement-Learning |
PCT/EP2020/080740 WO2021089499A1 (de) | 2019-11-07 | 2020-11-03 | Verfahren und system zum prüfen einer automatisierten fahrfunktion durch reinforcement-learning |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114616157A true CN114616157A (zh) | 2022-06-10 |
Family
ID=73131720
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080073227.2A Pending CN114616157A (zh) | 2019-11-07 | 2020-11-03 | 用于通过强化学习检查自动化的行驶功能的方法和系统 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220396280A1 (zh) |
CN (1) | CN114616157A (zh) |
DE (1) | DE102019130040A1 (zh) |
WO (1) | WO2021089499A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113485300B (zh) * | 2021-07-15 | 2022-10-04 | 南京航空航天大学 | 一种基于强化学习的自动驾驶车辆碰撞测试方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019526107A (ja) * | 2016-06-21 | 2019-09-12 | エスアールアイ インターナショナルSRI International | 信用されるモデルを使用する機械学習のためのシステムおよび方法 |
DE102018217004A1 (de) * | 2017-10-12 | 2019-04-18 | Honda Motor Co., Ltd. | Autonome Fahrzeugstrategiegenerierung |
US10768304B2 (en) * | 2017-12-13 | 2020-09-08 | Luminar Technologies, Inc. | Processing point clouds of vehicle sensors having variable scan line distributions using interpolation functions |
US10996141B2 (en) * | 2018-09-28 | 2021-05-04 | Intel Corporation | Method and an autonomous ground vehicle |
-
2019
- 2019-11-07 DE DE102019130040.1A patent/DE102019130040A1/de active Pending
-
2020
- 2020-11-03 WO PCT/EP2020/080740 patent/WO2021089499A1/de active Application Filing
- 2020-11-03 CN CN202080073227.2A patent/CN114616157A/zh active Pending
- 2020-11-03 US US17/775,097 patent/US20220396280A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20220396280A1 (en) | 2022-12-15 |
DE102019130040A1 (de) | 2021-05-12 |
WO2021089499A1 (de) | 2021-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Wachenfeld et al. | The release of autonomous vehicles | |
Zhu et al. | Typical-driving-style-oriented personalized adaptive cruise control design based on human driving data | |
Zhao et al. | Accelerated evaluation of automated vehicles safety in lane-change scenarios based on importance sampling techniques | |
Nishi et al. | Merging in congested freeway traffic using multipolicy decision making and passive actor-critic learning | |
US11465650B2 (en) | Model-free reinforcement learning | |
CN109782730B (zh) | 用于自主系统性能和评级的方法和装置 | |
Wada et al. | Characterization of expert drivers' last-second braking and its application to a collision avoidance system | |
CN112466119B (zh) | 一种利用车路协同数据的汽车跟车车速预测方法及系统 | |
Ward et al. | Probabilistic model for interaction aware planning in merge scenarios | |
Weng et al. | Towards guaranteed safety assurance of automated driving systems with scenario sampling: An invariant set perspective | |
EP3940487B1 (en) | Estimation of probability of collision with increasing severity level for autonomous vehicles | |
Song et al. | Critical scenario identification for realistic testing of autonomous driving systems | |
CN115392429A (zh) | 提供强化学习代理和用其控制自主交通工具的方法和装置 | |
Nitsche et al. | A novel, modular validation framework for collision avoidance of automated vehicles at road junctions | |
US20210213977A1 (en) | Nearby Driver Intent Determining Autonomous Driving System | |
Wang et al. | Online safety assessment of automated vehicles using silent testing | |
Wheeler et al. | Critical factor graph situation clusters for accelerated automotive safety validation | |
Sun et al. | An intention-aware and online driving style estimation based personalized autonomous driving strategy | |
Ramezani-Khansari et al. | [Retracted] Estimating Lane Change Duration for Overtaking in Nonlane‐Based Driving Behavior by Local Linear Model Trees (LOLIMOT) | |
CN113110359B (zh) | 约束型智能汽车自主决策系统在线训练方法及装置 | |
Vasile et al. | Comfort and safety in conditional automated driving in dependence on personal driving behavior | |
CN114616157A (zh) | 用于通过强化学习检查自动化的行驶功能的方法和系统 | |
Zhao et al. | Accelerated evaluation of automated vehicles based on importance sampling techniques | |
CN116653957A (zh) | 一种变速变道方法、装置、设备及存储介质 | |
Fries et al. | Validation and verification of the stochastic cognitive driver model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |