CN116719306A - 自动驾驶车辆人机误用的预期功能安全危害分析方法 - Google Patents

自动驾驶车辆人机误用的预期功能安全危害分析方法 Download PDF

Info

Publication number
CN116719306A
CN116719306A CN202310865236.0A CN202310865236A CN116719306A CN 116719306 A CN116719306 A CN 116719306A CN 202310865236 A CN202310865236 A CN 202310865236A CN 116719306 A CN116719306 A CN 116719306A
Authority
CN
China
Prior art keywords
control
human
misuse
machine
safety
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310865236.0A
Other languages
English (en)
Inventor
赵瑞文
王海均
杨京利
张亚楠
马超
苏丹祺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhongqi Zhilian Technology Co ltd
Original Assignee
Zhongqi Zhilian Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhongqi Zhilian Technology Co ltd filed Critical Zhongqi Zhilian Technology Co ltd
Priority to CN202310865236.0A priority Critical patent/CN116719306A/zh
Publication of CN116719306A publication Critical patent/CN116719306A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0208Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the configuration of the monitoring system
    • G05B23/0213Modular or universal configuration of the monitoring system, e.g. monitoring system having modules that may be combined to build monitoring program; monitoring system that can be applied to legacy systems; adaptable monitoring system; using different communication protocols
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/20Pc systems
    • G05B2219/24Pc safety
    • G05B2219/24065Real time diagnostics

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Safety Devices In Control Systems (AREA)

Abstract

本发明提供一种自动驾驶车辆人机误用的预期功能安全危害分析方法,涉及自动驾驶技术领域。本发明采用STPA模型作为基础,根据STPA模型建立安全约束、控制结构和过程模型;考虑人机误用行为对控制结构和过程模型的影响;对所有可能的情况进行组合分析,识别所有不安全控制的分类;确定不安全控制的来源。本发明将危害事件的发生看成是不安全控制的结果,而不仅仅是由组件或系统故障引起,并能识别所有不安全控制的分类并确定导致这些不安全控制发生的原因是来源于单个组件、多个组件之间的相关交互或者是车辆电子安全系统设计缺陷。

Description

自动驾驶车辆人机误用的预期功能安全危害分析方法
技术领域
本发明涉及自动驾驶技术领域,尤其涉及一种自动驾驶车辆人机误用的预期功能安全危害分析方法。
背景技术
自动驾驶车辆的设计初衷是为了解决人类驾驶的不安全问题。然而,自动驾驶车辆也会带来新的安全问题,即预期功能安全SOTIF中的未知和不安全问题。SOTIF(预期功能安全)强调的是避免因为预期的功能表现局限、性能不足而导致不合理的风险。换句话说,车辆在所有功能没有失效的情况下,依然发生的驾驶安全问题都归类于预期功能安全。据统计,自动驾驶车辆引发的安全问题中,99%都来源于预期功能安全。
目前,行业尚未找到完整的解决方案,也没有一套成熟、高效率的测试体系,甚至还没有一套基础理论来解决SOTIF问题。自动驾驶车辆是基于场景的,安全是建立在必须把驾驶安全放在第一位的基础上,但现实是,很多驾驶者并不把驾驶安全放在首位,提供给驾驶员的相关自动驾驶车辆预期功能的信息不够明确,关键操作情况的不可控性等等,进而导致危险发生。因此,如何降低风险以确认自动驾驶预期功能的安全是SOTIF的挑战。
为了解决预期功能安全的风险问题,需要采取措施来改进预期功能的安全性,以解决系统限制所带来的危害。例如,可以通过提高传感器的性能(精度)来降低误(漏)识别的影响,完善相关预警和监控策略等。这些都是目前需要解决的问题。
发明内容
为了克服现有技术中,STPA模型对自动驾驶车辆人机误用危险场景触发条件识别方法还不完善,对车辆电子安全系统应用造成了制约的弊端,本发明提供了根据系统理论过程分析(STPA)方法建立功能车辆电子安全约束、控制结构和过程模型,考虑了人机误用危险场景触发条件因素对车辆电子安全控制结构和车辆电子安全控制系统过程模型的影响,对车辆电子安全约束、危害事件、过程控制和信息安全影响进行组合分析,将危害事件的发生看成是不安全控制的结果,而不仅仅是由组件或系统故障引起,并能识别所有不安全控制的分类并确定导致这些不安全控制发生的原因是来源于单个组件、多个组件之间的相关交互或者是车辆电子安全系统设计缺陷等,由此提高了现有STPA模型对信息安全影响因素进行分析处理效果的一种基于自动驾驶车辆人机交互过程中误用行为的预期功能安全危害分析方法。
本发明解决其技术问题所采用的技术方案是:
一种自动驾驶车辆人机误用的预期功能安全危害分析方法,其特征在于采用STPA模型作为基础,共分为四个步骤实现了STPA模型对人机误用危险场景触发条件识别的完善,步骤一:根据STPA模型建立安全约束、控制过程和过程模型;步骤二:考虑人机交互途径,划定范围,描述人机误用场景;步骤三:结合步骤一、二中对人机交互途径的划分和对人机误用场景的描述,识别因其导致的不安全控制;步骤四:对于每个人机误用的指令或行为,检查是否由控制回路的单个组件导致、或者由多个组件间的冲突或交互导致确定不安全控制的来源。
所述步骤一中,a)车辆电子安全约束是用来确保控制状态的,违反安全约束将导致危害事件的发生。反之,危害事件的发生一定源于某些安全约束被违反。在系统和产品设计开发过程中,安全约束被逐步精化并向下层分解。b)建立层级控制结构系统,上层的控制系统对下层进行控制,并在层级间实现安全约束的向下传递和向上反馈。通过明确控制结构,可以实现对安全约束自上而下的细化,并分配至控制组件,追溯控制命令的发出与执行,以及相应的安全约束的传递和反馈。c)建立控制系统过程模型,描述系统的运行状态、控制规则和相应的控制过程方。控制层的每一层级都需要具有相应的过程模型,以便分析不安全控制来源。控制器过程模型中可能的违反安全约束的因素包括控制指令错误、控制指令未发出、控制指令发出过早或过晚、控制指令停止过早或过晚,以及控制规则或过程方法错误引起的控制行为不当。
所述步骤二中,考虑人机交互途径,划定范围,描述人机误用场景,人和汽车之间的人机交互途径包括:a)控制台:驾驶员通过控制台上的按钮、开关、杠杆等设备来控制汽车的各种功能。b)仪表盘:仪表盘上的指示灯、显示屏等设备向驾驶员提供汽车的各种状态信息。c)方向盘:驾驶员通过方向盘来控制汽车的方向。d)踏板:驾驶员通过踏板来控制汽车的加速和刹车。e)语音控制:一些汽车配备了语音控制系统,驾驶员可以通过语音来控制汽车的各种功能。人机误用是指在人机交互过程中,由于人类操作者的疏忽、错误、误解、不当操作等原因,导致机器的误动作或误操作。以汽车为例,人机误用场景包括:a)驾驶员误操作:驾驶员在驾驶汽车时,因为疲劳、分心、心理压力等原因,误操作汽车,比如误踩油门、误刹车、误操作方向盘等。b)操作员误解:汽车的控制台上可能会有一些复杂的按钮、开关、杠杆等设备,如果操作员没有理解清楚这些设备的功能,就可能误操作汽车。c)设计缺陷:汽车的设计者可能没有考虑到某些使用场景,导致操作员在使用汽车时容易误操作。以上这些场景都可能导致汽车出现问题,甚至导致事故的发生。
所述步骤三中,不安全控制的分类包括:a)安全约束没有被正确分配,或相应的实现安全约束的控制过程方法没有被正确实现;b)安全约束被正确分配,但是控制器的执行违背了安全约束;其中在安全约束被正确分配,但是控制器执行违背了安全约束的情况包括:1)控制指令错误;2)控制指令未被发出;3)控制指令正确发出,但是指令的发出过早或过晚;4)控制指令正确发出,但是指令的停止过早或过晚;5)控制指令正确发出,但是控制规则或过程方法错误引起控制行为错误;6)控制指令正确发出,但是控制规则或过程方法错误引起控制行为未执行。
所述步骤四中,不安全控制的来源包括:a)控制回路的单个组件;b)控制回路的多个组件间的冲突或交互;c)系统设计的不充分或不恰当;d)环境因素干扰未被排除。
本发明有益效果是:本发明根据系统理论过程分析(STPA)方法建立了车辆预期功能安全约束、控制结构和过程模型;充分考虑了人机误用场景因素对车辆电子安全控制结构和车辆电子安全控制系统过程模型的影响,识别出可能导致误用的触发条件,从而及时发出警告或采取相应措施,避免潜在的危险;在人机误用的角度分析危害事件的发生,并能识别所有不安全控制(违背安全约束的控制命令)的分类并确定导致这些不安全控制发生的原因是来源于单个组件、多个组件之间的相关交互或者是车辆电子安全系统设计缺陷等。由此提高了现STPA模型对人机误用因素进行分析处理效果,进而提高了车辆电子安全系统的预期功能安全。基于上述,本发明具有好的应用前景。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明流程框图。
具体实施方式
图1中所示,一种自动驾驶车辆人机误用的预期功能安全危害分析方法,采用STPA模型作为基础,共分为四个步骤实现了STAMP模型对人机误用影响因素处理效果的完善,步骤一:根据STPA模型建立车辆电子安全约束、控制结构和控制系统过程模型;步骤二:考虑人机交互途径,划定范围,描述人机误用场景;步骤三:结合步骤一、二中对人机交互途径的划分和对人机误用场景的描述,识别因其导致的不安全控制;步骤四:对于每个人机误用的指令或行为,检查是否由控制回路的单个组件导致、或者由多个组件间的冲突或交互导致确定不安全控制的来源。
图1中所示,步骤一中,a)车辆电子安全约束用以确定控制的状态,违反安全约束将导致危害事件的发生;反之危害事件的发生一定源于某些安全约束被违反,在系统和产品设计开发过程中,安全约束被逐步精化,向下层分解;b)建立层级控制结构系统,上层的控制系统对下层进行控制,并在层级间实现安全约束的向下传递和向上反馈,通过明确控制结构可以实现对安全约束自上而下的细化并分配至控制组件、追溯控制命令的发出与执行以及相应的安全约束的传递和反馈;c)建立控制系统过程模型,描述系统的运行状态、控制规则和相应控制过程方,控制层的每一层级都需具有相应的过程模型,以便分析不安全控制来源,控制器过程模型中的可能的违背安全约束的因素包括控制指令错误、控制指令未发出、控制指令发出过早或过晚、控制指令停止过早或过晚和控制规则或过程方法错误引起的控制行为不当等。以高速驾驶辅助系统HWA(Highway Assist)为例,过程模型中考虑的参数有:a)车身姿态信息;b)车辆动力学信息;c)驾驶员行为信息;这些参数分别由控制系统的传感器提供。
图1中所示,步骤二中,考虑人机交互途径,划定范围,描述人机误用场景,即由于人车交互过程中,由于人类操作者的疏忽、错误、误解、不当操作等原因,导致机器的误动作或误操作,导致危险场景发生。人机误用场景的信息流内容包括:a)系统状态参数输入;b)控制器状态参数的输入;c)环境因素的输入;d)输出结果及输出(控制)对象;e)反馈结果及反馈对象。以高速驾驶辅助系统HWA(Highway Assist)为例,需要考虑会否基于信息通讯的原因,传感器提供的参数与现实运行状态不符的情况。
图1中所示,步骤三中不安全控制的分类包括:a)安全约束没有被正确分配,或相应的实现安全约束的控制过程方法没有被正确实现;b)安全约束被正确分配,但是控制器的执行违背了安全约束;其中在安全约束被正确分配,但是控制器执行违背了安全约束的情况包括:a)控制指令错误;b)控制指令未被发出;c)控制指令正确发出,但是指令的发出过早或过晚;d)控制指令正确发出,但是指令的停止过早或过晚;e)控制指令正确发出,但是控制规则或过程方法错误引起控制行为错误;f)控制指令正确发出,但是控制规则或过程方法错误引起控制行为未执行。步骤四中,不安全控制的来源包括:a)控制回路的单个组件;b)控制回路的多个组件间的冲突或交互;c)系统设计(如降级、冗余、检测)的不充分或不恰当;d)环境因素干扰(如电磁干扰)未被排除等。
结合步骤一、二、三、四情况的考虑,可以得出基于人机交互途径的触发条件识别与评估表。
本发明根据系统理论过程分析(STPA)方法建立了车辆电子预期功能安全约束、控制结构和控制系统过程模型;充分考虑了人机误用行为对车辆电子安全控制结构和车辆电子安全控制系统过程模型的影响,即由于人类操作者的疏忽、错误、误解、不当操作等原因,导致机器的误动作或误操作,导致安全约束的违背对预期功能安全的影响;对车辆电子安全约束、危害事件、控制结构、控制系统过程模型和信息安全影响进行组合分析,将危害事件的发生看成是不安全控制的结果,而不仅仅是由组件或车辆电子安全系统故障引起,并能识别所有不安全控制(违背安全约束的控制命令)的分类并确定导致这些不安全控制发生的原因是来源于单个组件、多个组件之间的相关交互或者是车辆电子安全系统设计缺陷等,由此提高了现STPA模型对信息安全影响因素进行分析处理效果,进而提高了车辆电子安全系统的预期功能安全。基于上述,本发明具有好的应用前景。
以上介绍了本发明的基本原理、主要特征及其优点。对于本领域的技术人员来说,很明显本发明不仅限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,还可以采用其他具体形式来实现。因此,我们应该将示范性实施例视为非限制性的,本发明的范围由附加的权利要求而不是上述说明限定。因此,我们旨在将所有变化都包括在本发明内,并落在权利要求的等同要件的含义和范围内。此外,需要明确的是,本说明书中所描述的实施方式并非仅包含一个独立的技术方案。尽管说明书按照实施方式进行了描述,但这并不意味着每个实施方式都只有一个技术方案。这种叙述方式仅为了更加清晰明了。因此,本领域的技术人员应该将本说明书作为一个整体来理解,并在各个实施例之间适当地组合技术方案,以形成其他可以被理解的实施方式。

Claims (5)

1.一种自动驾驶车辆人机误用的预期功能安全危害分析方法,其特征在于采用STPA模型作为基础,共分为四个步骤实现了STPA模型对人机误用行为影响因素处理效果的完善,步骤一:根据STPA模型建立车辆电子安全约束、控制结构和控制系统过程模型;步骤二:考虑人机交互途径,划定范围,描述人机误用场景;步骤三:结合步骤一、二中对人机交互途径的划分和对人机误用场景的描述,识别因其导致的不安全控制;步骤四:对于每个人机误用的指令或行为,检查是否由控制回路的单个组件导致、或者由多个组件间的冲突或交互导致确定不安全控制的来源。
2.根据权利要求1所述的自动驾驶车辆人机误用的预期功能安全危害分析方法,其特征在于步骤一中,a)车辆电子安全约束是用来确保控制状态的,违反安全约束将导致危害事件的发生。反之,危害事件的发生一定源于某些安全约束被违反。在系统和产品设计开发过程中,安全约束被逐步精化并向下层分解。b)建立层级控制结构系统,上层的控制系统对下层进行控制,并在层级间实现安全约束的向下传递和向上反馈。通过明确控制结构,可以实现对安全约束自上而下的细化,并分配至控制组件,追溯控制命令的发出与执行,以及相应的安全约束的传递和反馈。c)建立控制系统过程模型,描述系统的运行状态、控制规则和相应的控制过程方。控制层的每一层级都需要具有相应的过程模型,以便分析不安全控制来源。控制器过程模型中可能的违反安全约束的因素包括控制指令错误、控制指令未发出、控制指令发出过早或过晚、控制指令停止过早或过晚,以及控制规则或过程方法错误引起的控制行为不当。
3.根据权利要求1所述的自动驾驶车辆人机误用的预期功能安全危害分析方法,其特征在于步骤二中,考虑人机交互途径,划定范围,描述人机误用场景,人和汽车之间的人机交互途径包括:a)控制台:驾驶员通过控制台上的按钮、开关、杠杆等设备来控制汽车的各种功能。b)仪表盘:仪表盘上的指示灯、显示屏等设备向驾驶员提供汽车的各种状态信息。c)方向盘:驾驶员通过方向盘来控制汽车的方向。d)踏板:驾驶员通过踏板来控制汽车的加速和刹车。e)语音控制:一些汽车配备了语音控制系统,驾驶员可以通过语音来控制汽车的各种功能。人机误用是指在人机交互过程中,由于人类操作者的疏忽、错误、误解、不当操作等原因,导致机器的误动作或误操作。以汽车为例,人机误用场景包括:a)驾驶员误操作:驾驶员在驾驶汽车时,因为疲劳、分心、心理压力等原因,误操作汽车,比如误踩油门、误刹车、误操作方向盘等。b)操作员误解:汽车的控制台上可能会有一些复杂的按钮、开关、杠杆等设备,如果操作员没有理解清楚这些设备的功能,就可能误操作汽车。c)设计缺陷:汽车的设计者可能没有考虑到某些使用场景,导致操作员在使用汽车时容易误操作。以上这些场景都可能导致汽车出现问题,甚至导致事故的发生。
4.根据权利要求1所述的自动驾驶车辆人机误用的预期功能安全危害分析方法,其特征在于步骤三中,不安全控制的分类包括:a)安全约束没有被正确分配,或相应的实现安全约束的控制过程方法没有被正确实现;b)安全约束被正确分配,但是控制器的执行违背了安全约束;其中在安全约束被正确分配,但是控制器执行违背了安全约束的情况包括:1)控制指令错误;2)控制指令未被发出;3)控制指令正确发出,但是指令的发出过早或过晚;4)控制指令正确发出,但是指令的停止过早或过晚;5)控制指令正确发出,但是控制规则或过程方法错误引起控制行为错误;6)控制指令正确发出,但是控制规则或过程方法错误引起控制行为未执行。
5.根据权利要求1所述的自动驾驶车辆人机误用的预期功能安全危害分析方法,其特征在于步骤四中,不安全控制的来源包括:a)控制回路的单个组件;b)控制回路的多个组件间的冲突或交互;c)系统设计的不充分或不恰当;d)环境因素干扰未被排除。
CN202310865236.0A 2023-07-13 2023-07-13 自动驾驶车辆人机误用的预期功能安全危害分析方法 Pending CN116719306A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310865236.0A CN116719306A (zh) 2023-07-13 2023-07-13 自动驾驶车辆人机误用的预期功能安全危害分析方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310865236.0A CN116719306A (zh) 2023-07-13 2023-07-13 自动驾驶车辆人机误用的预期功能安全危害分析方法

Publications (1)

Publication Number Publication Date
CN116719306A true CN116719306A (zh) 2023-09-08

Family

ID=87864553

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310865236.0A Pending CN116719306A (zh) 2023-07-13 2023-07-13 自动驾驶车辆人机误用的预期功能安全危害分析方法

Country Status (1)

Country Link
CN (1) CN116719306A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117261943A (zh) * 2023-11-17 2023-12-22 中汽研汽车检验中心(常州)有限公司 基于米莉型状态机的自动驾驶预期功能安全危害识别方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117261943A (zh) * 2023-11-17 2023-12-22 中汽研汽车检验中心(常州)有限公司 基于米莉型状态机的自动驾驶预期功能安全危害识别方法
CN117261943B (zh) * 2023-11-17 2024-03-01 中汽研汽车检验中心(常州)有限公司 基于米利型状态机的自动驾驶预期功能安全危害识别方法

Similar Documents

Publication Publication Date Title
CN110008607B (zh) 一种基于stpa模型的功能安全危害和信息安全威胁分析方法
CN116719306A (zh) 自动驾驶车辆人机误用的预期功能安全危害分析方法
CN105825241B (zh) 基于模糊神经网络的驾驶员制动意图辨识方法
Abdulkhaleq et al. Experiences with applying STPA to software-intensive systems in the automotive domain
CN104635715A (zh) 一种用于abs/esc的故障自诊断系统及其hil自动化测试系统
CN107364446B (zh) 操作机动车辆的方法
US8521341B2 (en) Methods and systems for fault determination for aircraft
CN106458221A (zh) 用于监控车辆的提供至少部分自动化的行驶功能的系统的方法和设备
CN112668012B (zh) 一种自动驾驶人机界面安全性验证方法及系统
Abdulkhaleq et al. Missing no interaction—Using STPA for identifying hazardous interactions of automated driving systems
CN110780745A (zh) 一种基于语音识别的船舶控制人机交互系统
Shaikh et al. A framework for analysing driver interactions with semi-autonomous vehicles
Abdulkhaleq et al. Integrating state machine analysis with system-theoretic process analysis
Jesty et al. Safety analysis of vehicle-based systems
JP4382494B2 (ja) システムにおける安全性を判定し,かつその安全性を得るための装置,方法および対応するコンピュータプログラム
CN115933485A (zh) 基于控制结构层次划分的安全攸关系统控制方法及装置
Zhen-Hua et al. Application of PREEvision Software to Realize Vehicle Functional Safety Development
Favilli et al. Functional safety and reliability for innovative vehicle braking system and integration with electric traction units
CN117670630B (zh) 一种高速铁路联锁系统安全分析方法、系统、设备及介质
CN114207533A (zh) 用于自主系统的开发和实时应用的形式化验证
CN117261943B (zh) 基于米利型状态机的自动驾驶预期功能安全危害识别方法
Längst et al. CARTRONIC-UML models: Basis for partially automated risk analysis in early development phases
CN111144681B (zh) 一种电动车辆的关键重要度的计算方法以及电动车辆
He et al. Identification of human driver critical behaviors and related reliability evaluation in real time
Chen et al. Analysis of automatic emergency braking system performance insufficiency based on system theory process analysis

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination