CN113183971B - 驾驶员状态监测方法、装置、车载终端及可读存储介质 - Google Patents
驾驶员状态监测方法、装置、车载终端及可读存储介质 Download PDFInfo
- Publication number
- CN113183971B CN113183971B CN202110623047.3A CN202110623047A CN113183971B CN 113183971 B CN113183971 B CN 113183971B CN 202110623047 A CN202110623047 A CN 202110623047A CN 113183971 B CN113183971 B CN 113183971B
- Authority
- CN
- China
- Prior art keywords
- driver
- state
- state information
- information
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W40/09—Driving style or behaviour
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W2040/0818—Inactivity or incapacity of driver
- B60W2040/0827—Inactivity or incapacity of driver due to sleepiness
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/143—Alarm means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/229—Attention level, e.g. attentive to driving, reading or sleeping
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Human Computer Interaction (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请提供了一种驾驶员状态监测方法、装置、车载终端及可读存储介质,属于自动驾驶技术领域。本申请通过基于驾驶员的手部状态信息,来确定对应的报警阈值时长,不同的手部状态信息对应对于不同的报警阈值时长,以便在对第一驾驶员状态信息进行监测时,在更加符合驾驶员手部状态的报警阈值时长内,监测到第一驾驶员状态信息满足报警条件的情况下,再进行报警,由于引入了手部状态信息和第一驾驶员状态信息的融合处理机制,使得报警结果更加准确,从而能够在实现对驾驶员状态的监测的基础上,有效减少误报情况的出现,提高驾驶员状态监测结果的可靠程度。
Description
技术领域
本申请涉及自动驾驶技术领域,特别涉及一种驾驶员状态监测方法、装置、车载终端及可读存储介质。
背景技术
汽车的出现使得人们的生活更加便捷,随着科技的发展,尤其是智能计算的飞速发展,自动驾驶技术逐渐成为汽车行业研究的热点,自动驾驶技术的发展对未来经济、社会的发展具有重大推动作用。而在自动驾驶车辆的研发过程中,为减少行车安全问题的出现,往往需要经过多次实际行驶过程,来对自动驾驶车辆进行测试,进而基于测试结果来对自动驾驶车辆进行改进。
按照自动驾驶路测细则的规定,在自动驾驶车辆的测试过程中,需要在自动驾驶车辆中配置驾驶员,由驾驶员来监控自动驾驶车辆的状态,进而在车辆处于不适合自动驾驶的状态,或系统提示需要人工操作时,及时接管车辆,以保证测试过程的安全。然而在自动驾驶车辆的行驶过程中,由于无需驾驶员手动控制车辆,因而驾驶员很容易出现注意力不集中的问题,导致无法及时接管车辆。因此,亟需一种驾驶员状态监测方法,来对驾驶员的状态进行监测。
发明内容
本申请实施例提供了一种驾驶员状态监测方法、装置、车载终端及可读存储介质,能够在实现对驾驶员状态的监测的基础上,有效减少误报情况的出现,提高驾驶员状态监测结果的可靠程度。本申请提供的技术方案如下:
一方面,提供了一种驾驶员状态监测方法,该方法包括:
在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息,该手部状态信息用于指示该驾驶员对方向盘的握持状态;
基于该手部状态信息,确定该手部状态信息对应的报警阈值时长,不同手部状态信息对应于不同的报警阈值时长;
对该驾驶员的第一驾驶员状态信息进行监测,该第一驾驶员状态信息基于对该驾驶员进行图像识别确定;
若在该报警阈值时长内监测到该第一驾驶员状态信息满足报警条件,则生成报警信息,该报警信息用于提示该驾驶员的状态不符合安全驾驶条件。
在一种可能的实现方式中,该基于该手部状态信息,确定该手部状态信息对应的报警阈值时长,包括下述任一项:
若该手部状态信息为脱手状态,则将该报警阈值时长确定为第一目标时长;
若该手部状态信息为轻握状态,则将该报警阈值时长确定为第二目标时长;
若该手部状态信息为重握状态,则将该报警阈值时长确定为第三目标时长;
其中,该第一目标时长小于该第二目标时长,且该第二目标时长小于该第三目标时长。
在一种可能的实现方式中,该第一驾驶员状态信息包括疲劳状态信息、分神状态信息和驾驶员行为信息。
在一种可能的实现方式中,该手部状态信息通过驾驶员脱手检测系统获取得到,该第一驾驶员状态信息通过驾驶员状态监控系统获取得到;
该方法还包括:
获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态;
若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则允许进入自动驾驶状态。
在一种可能的实现方式中,该获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态之后,该方法还包括:
若该驾驶员脱手检测系统和该驾驶员状态监控系统中任一项处于故障状态,则禁止进入自动驾驶状态。
在一种可能的实现方式中,该获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态之后,该方法还包括:
若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和第二驾驶员状态信息,该第二驾驶员状态信息基于对该驾驶员进行图像识别确定,该第二驾驶员状态信息通过驾驶员状态监控系统获取得到;
若该第二驾驶员状态信息指示已检测到驾驶员,且该驾驶员未佩戴防红外眼镜,且该健康状态信息满足目标条件,则允许进入自动驾驶状态。
在一种可能的实现方式中,该若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和第二驾驶员状态信息之后,该方法还包括下述任一项:
若该第二驾驶员状态信息指示未检测到驾驶员,则禁止进入自动驾驶状态;
若该第二驾驶员状态信息指示该驾驶员已佩戴防红外眼镜,则禁止进入自动驾驶状态;
若该健康状态信息不满足目标条件,则禁止进入自动驾驶状态。
在一种可能的实现方式中,该获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态之后,该方法还包括下述任一项:
若该驾驶员脱手检测系统处于正常工作状态,且该驾驶员状态监控系统处于不可用状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息;
若该驾驶员脱手检测系统处于正常工作状态,且该驾驶员状态监控系统处于未激活状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息。
一方面,提供了一种驾驶员状态监测装置,该装置包括:
获取单元,用于在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息,该手部状态信息用于指示该驾驶员对方向盘的握持状态;
确定单元,用于基于该手部状态信息,确定该手部状态信息对应的报警阈值时长,不同手部状态信息对应于不同的报警阈值时长;
监测单元,用于对该驾驶员的第一驾驶员状态信息进行监测,该第一驾驶员状态信息基于对该驾驶员进行图像识别确定;
生成单元,用于若在该报警阈值时长内监测到该第一驾驶员状态信息满足报警条件,则生成报警信息,该报警信息用于提示该驾驶员的状态不符合安全驾驶条件。
在一种可能的实现方式中,该确定单元用于下述任一项:
若该手部状态信息为脱手状态,则将该报警阈值时长确定为第一目标时长;
若该手部状态信息为轻握状态,则将该报警阈值时长确定为第二目标时长;
若该手部状态信息为重握状态,则将该报警阈值时长确定为第三目标时长;
其中,该第一目标时长小于该第二目标时长,且该第二目标时长小于该第三目标时长。
在一种可能的实现方式中,该第一驾驶员状态信息包括疲劳状态信息、分神状态信息和驾驶员行为信息。
在一种可能的实现方式中,该手部状态信息通过驾驶员脱手检测系统获取得到,该第一驾驶员状态信息通过驾驶员状态监控系统获取得到;
该获取单元,还用于获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态;
该装置还包括:
控制单元,用于若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则允许进入自动驾驶状态。
在一种可能的实现方式中,该控制单元,还用于若该驾驶员脱手检测系统和该驾驶员状态监控系统中任一项处于故障状态,则禁止进入自动驾驶状态。
在一种可能的实现方式中,该获取单元,还用于若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和第二驾驶员状态信息,该第二驾驶员状态信息基于对该驾驶员进行图像识别确定,该第二驾驶员状态信息通过驾驶员状态监控系统获取得到;
该控制单元,还用于若该第二驾驶员状态信息指示已检测到驾驶员,且该驾驶员未佩戴防红外眼镜,且该健康状态信息满足目标条件,则允许进入自动驾驶状态。
在一种可能的实现方式中,该控制单元,还用于下述任一项:
若该第二驾驶员状态信息指示未检测到驾驶员,则禁止进入自动驾驶状态;
若该第二驾驶员状态信息指示该驾驶员已佩戴防红外眼镜,则禁止进入自动驾驶状态;
若该健康状态信息不满足目标条件,则禁止进入自动驾驶状态。
在一种可能的实现方式中,该控制单元,还用于若该驾驶员脱手检测系统处于正常工作状态,且该驾驶员状态监控系统处于不可用状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;
该生成单元,还用于若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息;
该控制单元,还用于若该驾驶员脱手检测系统处于正常工作状态,且该驾驶员状态监控系统处于未激活状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;
该生成单元,还用于若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息。
一方面,提供了一种车载终端,该车载终端包括一个或多个处理器和一个或多个存储器,该一个或多个存储器中存储有至少一条程序代码,该程序代码由该一个或多个处理器加载并执行以实现该驾驶员状态监测方法所执行的操作。
一方面,提供了一种计算机可读存储介质,该计算机可读存储介质中存储有至少一条程序代码,该程序代码由处理器加载并执行以实现该驾驶员状态监测方法所执行的操作。
一方面,提供了一种计算机程序产品,该计算机程序产品包括计算机代码,该计算机程序代码由处理器加载并执行以实现该驾驶员状态监测方法所执行的操作。
本申请提供的方案,通过基于驾驶员的手部状态信息,来确定对应的报警阈值时长,不同的手部状态信息对应对于不同的报警阈值时长,以便在对第一驾驶员状态信息进行监测时,在更加符合驾驶员手部状态的报警阈值时长内,监测到第一驾驶员状态信息满足报警条件的情况下,再进行报警,由于引入了手部状态信息和第一驾驶员状态信息的融合处理机制,使得报警结果更加准确,从而能够在实现对驾驶员状态的监测的基础上,有效减少误报情况的出现,提高驾驶员状态监测结果的可靠程度。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种驾驶员状态监测方法的实施环境示意图;
图2是本申请实施例提供的一种驾驶员状态监测方法的流程图;
图3是本申请实施例提供的一种车载终端中的系统架构图;
图4是本申请实施例提供的一种驾驶员状态监测方法的流程图;
图5是本申请实施例提供的一种驾驶员状态监测装置的结构示意图;
图6是本申请实施例提供的一种车载终端的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
图1是本申请实施例提供的一种驾驶员状态监测方法的实施环境示意图,参见图1,该实施环境包括:车载终端101和服务器102。
车载终端101可以与车辆中的其他硬件设备,如方向盘、摄像头组件等硬件设备进行通信,从而接收硬件设备所发送的数据(如信息、图像等),进而对接收到的数据进行处理,以实现对驾驶员状态的监测。在更多可能的实现方式中,车载终端101通过有线或无线通信方式与服务器102进行通信,本申请实施例对此不加以限定。车载终端101在接收到硬件设备发送的数据后,将接收到的数据发送给服务器102,由服务器102对接收到的数据进行存储。可选地,车载终端102将基于硬件设备发送的数据处理后得到的结果也发送给服务器102,由服务器102将处理后得到的结果与接收到的数据对应存储。
车载终端101可以泛指多个车载终端中的一个,本实施例仅以车载终端101来举例说明。本领域技术人员可以知晓,上述车载终端的数量可以更多或更少。比如上述车载终端可以仅为几个,或者上述车载终端为几十个或几百个,或者更多数量,本申请实施例对车载终端的数量和设备类型不加以限定。
服务器102可以为一台服务器、多台服务器、云计算平台和虚拟化中心中的至少一种。服务器102接收车载终端101发送的数据,进而对接收到的数据进行存储。在更多可能的实现方式中,服务器102接收车载终端101发送的、基于硬件设备发送的数据处理后得到的结果,进而将处理后得到的结果与接收到的数据对应存储。可选地,上述服务器的数量可以更多或更少,本申请实施例对此不加以限定。当然,服务器102还可以包括其他功能服务器,以便提供更全面且多样化的服务。
图2是本申请实施例提供的一种驾驶员状态监测方法的流程图,参见图2,该方法包括:
201、车载终端在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息,该手部状态信息用于指示该驾驶员对方向盘的握持状态。
202、车载终端基于该手部状态信息,确定该手部状态信息对应的报警阈值时长,不同手部状态信息对应于不同的报警阈值时长。
203、车载终端对该驾驶员的第一驾驶员状态信息进行监测,该第一驾驶员状态信息基于对该驾驶员进行图像识别确定。
204、若车载终端在该报警阈值时长内监测到该第一驾驶员状态信息满足报警条件,则生成报警信息,该报警信息用于提示该驾驶员的状态不符合安全驾驶条件。
本申请实施例提供的方案,通过基于驾驶员的手部状态信息,来确定对应的报警阈值时长,不同的手部状态信息对应对于不同的报警阈值时长,以便在对第一驾驶员状态信息进行监测时,在更加符合驾驶员手部状态的报警阈值时长内,监测到第一驾驶员状态信息满足报警条件的情况下,再进行报警,由于引入了手部状态信息和第一驾驶员状态信息的融合处理机制,使得报警结果更加准确,从而能够在实现对驾驶员状态的监测的基础上,有效减少误报情况的出现,提高驾驶员状态监测结果的可靠程度。
在一种可能的实现方式中,该基于该手部状态信息,确定该手部状态信息对应的报警阈值时长,包括下述任一项:
若该手部状态信息为脱手状态,则将该报警阈值时长确定为第一目标时长;
若该手部状态信息为轻握状态,则将该报警阈值时长确定为第二目标时长;
若该手部状态信息为重握状态,则将该报警阈值时长确定为第三目标时长;
其中,该第一目标时长小于该第二目标时长,且该第二目标时长小于该第三目标时长。
在一种可能的实现方式中,该第一驾驶员状态信息包括疲劳状态信息、分神状态信息和驾驶员行为信息。
在一种可能的实现方式中,该手部状态信息通过驾驶员脱手检测系统获取得到,该第一驾驶员状态信息通过驾驶员状态监控系统获取得到;
该方法还包括:
获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态;
若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则允许进入自动驾驶状态。
在一种可能的实现方式中,该获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态之后,该方法还包括:
若该驾驶员脱手检测系统和该驾驶员状态监控系统中任一项处于故障状态,则禁止进入自动驾驶状态。
在一种可能的实现方式中,该获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态之后,该方法还包括:
若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和第二驾驶员状态信息,该第二驾驶员状态信息基于对该驾驶员进行图像识别确定,该第二驾驶员状态信息通过驾驶员状态监控系统获取得到;
若该第二驾驶员状态信息指示已检测到驾驶员,且该驾驶员未佩戴防红外眼镜,且该健康状态信息满足目标条件,则允许进入自动驾驶状态。
在一种可能的实现方式中,该若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和该第二驾驶员状态信息之后,该方法还包括下述任一项:
若该第二驾驶员状态信息指示未检测到驾驶员,则禁止进入自动驾驶状态;
若该第二驾驶员状态信息指示该驾驶员已佩戴防红外眼镜,则禁止进入自动驾驶状态;
若该健康状态信息不满足目标条件,则禁止进入自动驾驶状态。
在一种可能的实现方式中,该获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态之后,该方法还包括下述任一项:
若该驾驶员脱手检测系统处于正常工作状态,且该驾驶员状态监控系统处于不可用状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息;
若该驾驶员脱手检测系统处于正常工作状态,且该驾驶员状态监控系统处于未激活状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息。
上述图2所示仅为本申请的一种基本流程,下面对本申请的具体实现过程进行介绍。
下面先对本申请涉及的车载终端中的系统划分进行介绍,图3是本申请实施例提供的一种车载终端中的系统架构图,参见图3,该车载终端被划分为驾驶员状态监控系统(Driver Monitor System,DMS)、驾驶员脱手检测(Hands Off Detection,HOD)系统、融合处理系统和人机界面(Human Machine Interface,HMI)系统。其中,该驾驶员状态监控系统也称为视觉监控系统,该驾驶员脱手检测系统也称为触觉监控系统。
其中,该驾驶员状态监控系统包括疲劳监测模块、分神监测模块、头部动作监测模块和红外阻断墨镜监测模块。该疲劳监测模块用于基于摄像头组件采集到的驾驶员的图像,确定驾驶员的疲劳状态信息;该分神监测模块用于基于摄像头组件采集到的驾驶员的图像,确定驾驶员的分神状态信息;该头部动作监测模块用于基于摄像头组件采集到的驾驶员的图像,确定驾驶员的驾驶员行为信息;该红外阻断墨镜监测模块用于基于摄像头组件采集到的驾驶员的图像,确定是否存在驾驶员,以及该驾驶员是否佩戴防红外眼镜。驾驶员状态监控系统中的各个模块确定出相应的驾驶员状态信息(包括第一驾驶员状态信息和第二驾驶员状态信息)后,通过控制器局域网络(Controller Area Network,CAN)线,将确定出的驾驶员状态信息发送给融合处理系统。
该驾驶员脱手检测系统包括处理模块。该处理模块用于基于安装在方向盘上的电容传感器(或压力传感器)所采集到的压力信息,确定驾驶员的手部状态信息;该处理模块还用于基于安装在方向盘上的身体体征传感器(如体温传感器、心率传感器/脉搏波光电传感器)所采集到的信息,确定驾驶员的健康状态信息。驾驶员脱手检测系统的处理模块在确定出驾驶员的手部状态信息以及驾驶员的健康状态信息后,通过CAN线,将该手部状态信息和该健康状态信息发送给融合处理系统。
该融合处理系统通过CAN线与该驾驶员状态监控系统和该驾驶员脱手检测系统进行通信,该融合处理系统用于对驾驶员状态监控系统所输出的驾驶员状态信息,以及驾驶员脱手检测系统所输出的手部状态信息和健康状态信息进行处理,从而实现对驾驶员状态的监测,并在驾驶员状态异常时生成报警信息,进而对该报警信息进行发送。
该HMI系统包括显示模块和声音提示模块,该HMI系统通过CAN线与该融合处理系统进行通信,以便接收融合处理系统所发送的报警信息,进而基于接收到的报警信息,在显示模块中显示相应的文字提示,或者,通过声音提示模块发出语音提示,或者,在显示模块中显示相应的文字提示的同时,通过声音提示模块发出语音提示,以便驾驶员基于显示模块所显示的文字提示,或声音提示模块所发出的语音提示,执行相应的操作,从而实现自动驾驶车辆与驾驶员的交互,本申请实施例对具体采用哪种方式不加以限定。
需要说明的是,上述图3所示仅为车载终端在软件层面的系统划分,参见图4,图4是本申请实施例提供的一种车载终端的结构示意图,该图展示了车载终端在硬件层面的结构。该车载终端400可以是:智能手机、平板电脑、MP3播放器(Moving Picture ExpertsGroup Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。车载终端400还可能被称为用户设备、便携式车载终端、膝上型车载终端、台式车载终端等其他名称。
通常,车载终端400包括有:一个或多个处理器401和一个或多个存储器402。
处理器401可以包括一个或多个处理核心,比如4核心处理器、6核心处理器等。处理器401可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器401也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器401可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器401还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器402可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器402还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器402中的非暂态的计算机可读存储介质用于存储至少一个程序代码,该至少一个程序代码用于被处理器401所执行以实现本申请中方法实施例提供的驾驶员状态监测方法。
在一些实施例中,车载终端400还可选包括有:外围设备接口403和至少一个外围设备。处理器401、存储器402和外围设备接口403之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口403相连。具体地,外围设备包括:射频电路404、显示屏405、音频电路406、和电源407中的至少一种。
外围设备接口403可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器401和存储器402。在一些实施例中,处理器401、存储器402和外围设备接口403被集成在同一芯片或电路板上;在一些其他实施例中,处理器401、存储器402和外围设备接口403中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路404用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路404通过电磁信号与通信网络以及其他通信设备进行通信。射频电路404将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路404包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路404可以通过至少一种无线通信协议来与其它车载终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路404还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏405用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏405是触摸显示屏时,显示屏405还具有采集在显示屏405的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器401进行处理。此时,显示屏405还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏405可以为一个,设置车载终端400的前面板;在另一些实施例中,显示屏405可以为至少两个,分别设置在车载终端400的不同表面或呈折叠设计;在再一些实施例中,显示屏405可以是柔性显示屏,设置在车载终端400的弯曲表面上或折叠面上。甚至,显示屏405还可以设置成非矩形的不规则图形,也即异形屏。显示屏405可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
音频电路406可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器401进行处理,或者输入至射频电路404以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在车载终端400的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器401或射频电路404的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路406还可以包括耳机插孔。
电源407用于为车载终端400中的各个组件进行供电。电源407可以是交流电、直流电、一次性电池或可充电电池。当电源407包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
本领域技术人员可以理解,图4中示出的结构并不构成对车载终端400的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
需要说明的是,车载终端400能够通过有线或无线通信方式,与设置于车辆中的摄像头组件和方向盘进行通信。
其中,该摄像头组件通过第一机械安装结构,安装在车辆中的第一目标位置处,用于采集驾驶座对应区域的图像,从而将采集到的图像发送给车载终端400,通过车载终端400来基于采集到的图像进行图像识别,从而获取到驾驶员的第一驾驶员状态信息和第二驾驶员状态信息。
该方向盘通过第二机械安装结构,安装在车辆中的第二目标位置处,该方向盘上安装有多个传感器,如电容传感器(或压力传感器)、体温传感器、心率传感器(或脉搏波光电传感器),通过电容传感器(或压力传感器)来采集驾驶员施加在方向盘上的压力信息,通过体温传感器采集驾驶员的体温信息,通过心率传感器(或脉搏波光电传感器)采集驾驶员的心率信息,进而通过车载终端400来基于采集到的信息,来确定驾驶员的手部状态信息以及健康状态信息。
下面结合图3所介绍的车载终端中的系统划分,来对本申请所提供的驾驶员状态监测方法进行介绍,图5是本申请实施例提供的一种驾驶员状态监测方法的流程图,参见图5,该方法包括:
501、车载终端获取驾驶员脱手检测系统的工作状态,以及驾驶员状态监控系统的工作状态。
在一种可能的实现方式中,车载终端分别向驾驶员脱手检测系统和驾驶员状态监控系统发送获取指令,该获取指令用于获取该驾驶员脱手检测系统和该驾驶员状态监控系统的工作状态。驾驶员脱手检测系统和驾驶员状态监控系统分别响应于接收到的获取指令,获取自身的工作状态,进而将获取到的工作状态发送给车载终端,以使车载终端获取到驾驶员脱手检测系统的工作状态,以及驾驶员状态监控系统的工作状态。
其中,该驾驶员脱手检测系统的工作状态获取过程包括:驾驶员脱手检测系统响应于接收到的获取指令,获取处理模块的工作状态,并向与车载终端相连接的方向盘发送该获取指令,从而获取方向盘以及安装在该方向盘上的各个传感器的工作状态,进而基于获取到的处理模块的工作状态、方向盘以及安装在该方向盘上的各个传感器,确定驾驶员脱手检测系统的工作状态,并将确定出的驾驶员脱手检测系统的工作状态发送给车载终端,以便车载终端获取到驾驶员脱手检测系统的工作状态。
对于驾驶员脱手检测系统,该驾驶员脱手检测系统的工作状态包括正常工作状态和故障状态。若该驾驶员脱手检测系统中的处理模块、以及与车载终端相连接的方向盘以及安装在该方向盘上的各个传感器均处于正常工作状态,则驾驶员脱手检测系统处于正常工作状态;若脱手检测系统中的处理模块、以及与车载终端相连接的方向盘以及安装在该方向盘上的各个传感器中任意一项处于故障状态,则驾驶员脱手检测系统处于故障状态。
该驾驶员状态监控系统的工作状态获取过程包括:驾驶员状态监控系统响应于接收到的获取指令,获取疲劳监测模块、分神监测模块、头部动作监测模块和红外阻断墨镜监测模块的工作状态,并向与车载终端相连接的摄像头组件发送获取指令,从而获取摄像头组件的工作状态,进而基于获取到的各个模块的工作状态,以及摄像头组件的工作状态,确定驾驶员状态监控系统的工作状态,并将确定出的驾驶员状态监控系统的工作状态发送给车载终端,以便车载终端获取到驾驶员状态监控系统的工作状态。
对于驾驶员状态监控系统,该驾驶员状态监控系统的工作状态包括正常工作状态、故障状态、不可用状态和未激活状态。若该驾驶员状态监控系统中的疲劳监测模块、分神监测模块、头部动作监测模块和红外阻断墨镜监测模块,以及与车载终端相连接的摄像头组件均处于正常工作状态,则驾驶员状态监控系统处于正常工作状态;若疲劳监测模块、分神监测模块、头部动作监测模块、红外阻断墨镜监测模块以及与车载终端相连接的摄像头组件中任意一项处于故障状态,则驾驶员状态监控系统处于故障状态;若疲劳监测模块、分神监测模块、头部动作监测模块和红外阻断墨镜监测模块中任意一项处于不可用状态,则驾驶员状态监控系统处于不可用状态;若疲劳监测模块、分神监测模块、头部动作监测模块和红外阻断墨镜监测模块中任意一项处于未激活状态,则驾驶员状态监控系统处于未激活状态。
502、若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则车载终端进入自动驾驶状态。
在一种可能的实现方式中,在该驾驶员脱手检测系统和驾驶员状态监控系统均处于正常工作状态时,车载终端进入自动驾驶状态,从而由车载终端控制车辆进行自动驾驶。而若该驾驶员脱手检测系统和该驾驶员状态监控系统中任一项处于故障状态,则车载终端禁止进入自动驾驶状态,由驾驶员手动控制车辆,此时也无需执行后续步骤503至步骤506。
可选地,若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常状态,则车辆终端还可以获取第二驾驶员状态信息和驾驶员的健康状态信息,进而基于获取到的第二驾驶员状态信息和健康状态信息,对能否进入自动驾驶状态进一步进行判断。
在一种可能的实现方式中,车载终端通过驾驶员状态监控系统获取该第二驾驶员状态信息,通过该驾驶员脱手检测系统获取该健康状态信息。
其中,该第二驾驶员状态信息包括是否检测到驾驶员以及驾驶员是否佩戴防红外眼镜,可选地,该第二驾驶员状态信息还包括其他类型的信息,本申请实施例对此不加以限定。
以该第二驾驶员状态信息包括是否检测到驾驶员以及驾驶员是否佩戴防红外眼镜为例,该第二驾驶员状态信息的获取过程包括:车载终端通过安装于车辆中的摄像头组件获取驾驶座对应区域的图像,进而基于获取到的图像,确定该第二驾驶员状态信息。
其中,车载终端在基于驾驶座对应区域的图像,确定该第二驾驶员状态信息时,通过车载终端中的驾驶员状态监控系统所包括的红外阻断墨镜监测模块,来确定驾驶座上是否有驾驶员,以及驾驶员是否佩戴防红外眼镜的情况。
在一种可能的实现方式中,车载终端在接收到摄像头组件发送的图像后,通过驾驶员状态监控系统所包括的红外阻断墨镜监测模块,对接收到的图像进行识别,以确定驾驶座上是否有驾驶员,在识别出驾驶座上有驾驶员时,继续对接收到的图像进行识别,以确定驾驶员是否佩戴防红外眼镜。
其中,在进行图像识别时,通过图像识别模型实现,如卷积神经网络(Convolutional Neural Network,CNN)模型,可选地,还可以采用其他类型的图像识别模型,本申请实施例对此不加以限定。为便于说明,将用于识别驾驶座上是否有驾驶员的图像识别模型记为第一图像识别模型,将用于识别驾驶员是否佩戴防红外眼镜的图像识别模型记为第二图像识别模型,则该第一图像识别模型和该第二图像识别模型可以为相同类型的图像识别模型,也可以为不同类型的图像识别模型,本申请实施例对此也不加以限定。若该第一图像识别模型和该第二图像识别模型为相同类型的图像识别模型,则该第一图像识别模型和该第二图像识别模型的模型参数不同。
可选地,该第一图像识别模型和该第二图像识别模型均通过预先训练得到。其中,在对第一图像识别模型进行训练时,采用第一样本图像集,该第一样本图像集包括多个第一样本图像以及各个第一样本图像对应的第一标签,该第一标签用于指示对应第一样本图像中是否有驾驶员。在对第二图像识别模型进行训练时,采用第二样本图像集,该第二样本图像集包括多个第二样本图像以及各个第二样本图像对应的第二标签,该第二标签用于指示对应第二样本图像中的驾驶员是否佩戴防红外眼镜。
该健康状态信息的获取过程包括:车载终端通过安装在方向盘上的传感器,获取驾驶员的身体体征信息,进而在基于获取到的身体体征信息,确定驾驶员的健康状态信息。
其中,该身体体征信息包括心率信息和体温信息,可选地,该身体体征信息包括其他类型的信息,本申请实施例对此不加以限定。以该身体体征信息包括心率信息和体温信息为例,车载终端通过驾驶员脱手检测系统的处理模块,接收安装方向盘上的心率传感器(或脉搏波光电传感器)所发送的心率信息,从而获取到驾驶员的心率信息;通过驾驶员脱手检测系统的处理模块,接收安装在方向盘上的体温传感器所发送的体温信息,从而获取到驾驶员的体温信息,进而通过处理模块,根据接收到的心率信息和体温信息,确定驾驶员的健康状态信息。
在一种可能的实现方式中,若该第二驾驶员状态信息指示已检测到驾驶员,且该驾驶员未佩戴防红外眼镜,且该健康状态信息满足目标条件,则车载终端进入自动驾驶状态,从而由车载终端控制车辆进行自动驾驶。
在另一种可能的实现方式中,若该第二驾驶员状态信息指示未检测到驾驶员,则车载终端禁止进入自动驾驶状态;或者,若该第二驾驶员状态信息指示该驾驶员已佩戴防红外眼镜,则车载终端禁止进入自动驾驶状态;或者,若该健康状态信息不满足目标条件,则车载终端禁止进入自动驾驶状态。
其中,该健康状态信息满足目标条件,也即是驾驶员的心率正常且体温正常,而健康信息不满足条件包括驾驶员的心率不正常,或者,驾驶员的体温不正常,或者,驾驶员的心率和体温均不正常这三种情况。
需要说明的是,心率正常也即是心率为60~100次/分,体温正常也即是体温为36~38摄氏度(℃),可选地,心率正常情况下心率的取值范围,以及体温正常情况下体温的取值范围还可以为其他取值范围,本申请实施例对此不加以限定。
503、车载终端在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息,该手部状态信息用于指示该驾驶员对方向盘的握持状态。
在一种可能的实现方式中,在通过步骤502确定车辆能够进入自动驾驶状态时,车载终端通过驾驶员脱手检测系统获取该手部状态信息。
其中,该手部状态信息的获取过程包括:车载终端通过驾驶员脱手检测系统的处理模块,接收安装在方向盘上的电容传感器(或压力传感器)所发送的压力信息,从而获取到驾驶员施加在方向盘上的压力信息,进而由处理模块根据接收到的压力信息,确定驾驶员的手部状态信息。
在一种可能的实现方式中,若该压力信息为0,则车载终端将该手部状态信息确定为脱手状态;若该压力信息大于0且小于预设压力阈值,则车载终端将该手部状态信息确定为轻握状态;若该压力信息大于或等于预设压力阈值,则车载终端将该手部状态信息确定为重握状态。其中,该预设压力阈值为任意正数值,本申请实施例对此不加以限定。
504、车载终端基于该手部状态信息,确定该手部状态信息对应的报警阈值时长,不同手部状态信息对应于不同的报警阈值时长。
在一种可能的实现方式中,若该手部状态信息为脱手状态,则车载终端将该报警阈值时长确定为第一目标时长;若该手部状态信息为轻握状态,则车载终端将该报警阈值时长确定为第二目标时长;若该手部状态信息为重握状态,则车载终端将该报警阈值时长确定为第三目标时长。
其中,该第一目标时长小于该第二目标时长,且该第二目标时长小于该第三目标时长。该轻握状态包括双手轻握和单手轻握两种情况,该重握状态包括双手重握和单手重握两种情况。
例如,若该手部状态信息为脱手状态,则车载终端将该报警阈值时长确定为10秒(s),相应地,第一目标时长也即是10s;若该手部状态信息为轻握状态,则车载终端将该报警阈值时长确定为20s,相应地,该第二目标时长也即是20s;若该手部状态信息为重握状态,则车载终端将该报警阈值时长确定为30s,相应地,该第三目标时长也即是30s。可选地,该第一目标时长、第二目标时长、第三目标时长还可以为其他取值,本申请实施例对此不加以限定。
其中,该报警阈值时长用于指示在持续多久时间内监测到异常情况的情况下进行报警。例如,该报警阈值时长为10s,则表示若在连续10s内均监测到异常情况,则进行报警。
通过根据驾驶员不同的手部状态(如重握,轻握,脱手等),对第一驾驶员状态信息的报警阈值时长设置不同的取值,不同手部状态对应的报警阈值时长,都更加符合当前的手部状态,从而能够在驾驶员状态监测过程中增加过滤算法,进而有效减少误报,在保证安全的前提下提高驾驶员监测方法的可靠性。此外,还能够根据实际需求对不同手部状态对应的报警阈值时长进行调整,从而提高驾驶员监测方法的灵活性。
505、车载终端对该驾驶员的第一驾驶员状态信息进行监测,该第一驾驶员状态信息基于对该驾驶员进行图像识别确定。
在一种可能的实现方式中,车载终端通过驾驶员状态监控系统,获取该第一驾驶员状态信息,从而实现对该驾驶员的第一驾驶员状态信息的监测。
其中,该第一驾驶员状态信息包括疲劳状态信息、分神状态信息和驾驶员行为信息,可选地,该第一驾驶员状态信息还包括其他类型的信息,本申请实施例对此不加以限定。
以该第一驾驶员状态信息包括疲劳状态信息、分神状态信息和驾驶员行为信息为例,该第一驾驶员状态信息的获取过程包括:车载终端通过安装于车辆中的摄像头组件获取驾驶座对应区域的图像,进而基于获取到的图像,确定该第一驾驶员状态信息。
其中,车载终端在基于驾驶座对应区域的图像,确定该第一驾驶员状态信息时,通过驾驶员状态监控系统的疲劳监测模块,确定驾驶员的疲劳状态信息,通过驾驶员状态监控系统的分神监测模块,确定驾驶员的分神状态信息,通过驾驶员状态监控系统的头部动作监测模块,确定驾驶员的驾驶员行为信息(如是否正在接打电话、是否正在抽烟等)。
在通过疲劳监测模块,确定驾驶员的疲劳状态信息时,通过该疲劳监测子模块,对接收到的图像进行识别,以确定驾驶员的眼睑闭合程度,并基于报警阈值时长内的多个图像,确定驾驶员的眼睑闭合频率,进而基于眼睑闭合程度和眼睑闭合频率,确定驾驶员的疲劳状态信息(包括正常状态、疲劳状态)。
例如,基于眼睑闭合程度和眼睑闭合频率,确定驾驶员的疲劳状态信息时,若该眼睑闭合程度小于第一目标阈值,或眼睑闭合频率小于第二目标阈值,则确定驾驶员处于正常状态;若该眼睑闭合程度大于或等于第一目标阈值,且眼睑闭合频率大于或等于第二目标阈值,则确定驾驶员处于疲劳状态。该第一目标阈值和第二目标阈值为任意取值,本申请实施例对此不加以限定。
在通过分神监测模块,确定驾驶员的分神状态信息时,通过该分神监测模块,对接收到的图像进行识别,以确定驾驶员的视线方向,进而基于识别出的视线方向和车辆行驶方向,确定驾驶员的分神状态信息(包括正常状态、分神状态)。
其中,基于识别出的视线方向和车辆行驶方向,确定驾驶员的分神状态信息时,若驾驶员的视线方向与车辆行驶方向的夹角小于第三目标阈值,则确定驾驶员处于正常状态;若驾驶员的视线方向与车辆行驶方向的夹角大于或等于第三目标阈值,则确定驾驶员处于分神状态。该第三目标阈值为任意取值,本申请实施例对此不加以限定。
在通过头部动作监测模块,确定驾驶员的驾驶员行为信息时,通过该头部动作监测模块,对接收到的图像进行识别,以确定驾驶员当前是否在接打电话或抽烟,进而基于识别出的结果,确定驾驶员的驾驶行为信息。
其中,在进行图像识别时,通过图像识别模型实现,如CNN模型,可选地,还可以采用其他类型的图像识别模型,本申请实施例对此不加以限定。为便于说明,将用于确定疲劳状态信息的图像识别模型记为第三图像识别模型,将用于确定分神状态信息的图像识别模型记为第四图像识别模型,将用于确定驾驶行为信息的图像识别模型记为第五图像识别模型,则该第三图像识别模型、该第四图像识别模型和该第五图像识别模型可以为相同类型的图像识别模型,也可以为不同类型的图像识别模型,本申请实施例对此也不加以限定。若该第三图像识别模型、该第四图像识别模型和该第五图像识别模型为相同类型的图像识别模型,则该第三图像识别模型、该第四图像识别模型和该第五图像识别模型的模型参数不同。
可选地,该第三图像识别模型、该第四图像识别模型和该第五图像识别模型均通过预先训练得到。其中,在对第三图像识别模型进行训练时,采用第三样本图像集,该第三样本图像集包括多个第三样本图像以及各个第三样本图像对应的第三标签,该第三标签用于指示对应第三样本图像中驾驶员的疲劳状态信息。在对第四图像识别模型进行训练时,采用第四样本图像集,该第四样本图像集包括多个第四样本图像以及各个第四样本图像对应的第四标签,该第四标签用于指示对应第四样本图像中驾驶员的分神状态信息。在对第五图像识别模型进行训练时,采用第五样本图像集,该第五样本图像集包括多个第五样本图像以及各个第五样本图像对应的第五标签,该第五标签用于指示对应第五样本图像中驾驶员的驾驶行为信息。
需要说明的是,上述确定疲劳状态信息、分神状态信息和驾驶行为信息的过程,仅为示例性的实现方式,在更多可能的实现方式中,还可以采用其他方式,来进行疲劳状态信息、分神状态信息和驾驶行为信息的确定,本申请实施例对此不加以限定。
可选地,车载终端在获取到驾驶座对应区域的图像后,对获取到的图像进行存储,以便发生交通事故时,作为交通事故处理部门处理交通事故的判断依据。在更多可能的实现方式中,车载终端将获取到的图像实时上传至位于云端的服务器,通过服务器来对图像进行存储,以减少车载终端的存储压力,提高车载终端的处理速度。
例如,车载终端的驾驶员状态监控系统在获取到驾驶座对应区域的图像后,将驾驶座对应区域的图像发送给融合处理系统,通过融合处理系统对接收到的图像进行存储,以便发生交通事故时,作为交通事故处理部门处理交通事故的判断依据。在更多可能的实现方式中,融合处理系统将接收到的图像实时上传至位于云端的服务器,通过服务器来对图像进行存储,以减少车载终端的存储压力,提高车载终端的处理速度。
506、若车载终端在该报警阈值时长内监测到该第一驾驶员状态信息满足报警条件,则生成报警信息,该报警信息用于提示该驾驶员的状态不符合安全驾驶条件。
其中,该第一驾驶员状态信息满足报警条件,包括该第一驾驶员状态信息所包括的疲劳状态信息指示驾驶员处于疲劳状态,还包括该第一驾驶员状态信息所包括的分神状态信息指示驾驶员处于分神状态,还包括该第一驾驶员状态信息所包括的驾驶行为信息指示驾驶员正在接打电话或抽烟,或者,上述三种报警条件还可以任意结合,本申请实施例对此不加以限定。则生成报警信息的情况如下:
在一种可能的实现方式中,若车载终端的融合处理模块在该报警阈值时长监测到驾驶员处于疲劳状态,则生成该报警信息。
在另一种可能的实现方式中,若车载终端的融合处理模块在该报警阈值时长监测到驾驶员处于分神状态,则生成该报警信息。
在另一种可能的实现方式中,若车载终端的融合处理模块在该报警阈值时长监测到驾驶员正在接打电话或抽烟,则生成该报警信息。
需要说明的是,上述三种情况可以任意结合,本申请实施例对此不加以限定。
其中,该报警信息为文字提示信息、语音提示信息等。车载终端的融合处理系统在生成该报警信息后,将该报警信息发送给HMI系统,通过HMI系统来对文字提示信息进行显示,或者,对语音提示信息进行播放,本申请实施例对具体采用哪种方式不加以限定。
可选地,该报警信息还可以为震动提示信息。则车载终端的融合处理系统还可以连接有便携式设备(如智能手机、智能手表等),则车载终端的融合处理系统在生成该报警信息后,将该报警信息发送给该便携式设备,通过该便携式设备来进行震动,从而发出震动提示信息。或者,车载终端的HMI系统还可以连接有便携式设备,则车载终端的HMI系统在接收到该报警信息后,将该报警信息发送给便携式设备,通过该便携式设备来进行震动,从而发出震动提示信息。
需要说明的是,上述三种提示信息可以任意组合,从而以更加全面的方式来对驾驶员进行提醒。
上述步骤502至步骤506是以驾驶员脱手检测系统和驾驶员状态监控系统均处于正常工作状态,或驾驶员脱手检测系统和驾驶员状态监控系统中至少一个处于故障状态为例来进行说明的,在更多可能的实现方式中,若该驾驶员脱手检测系统处于正常工作状态,而该驾驶员状态监控系统处于不可用状态或未激活状态,则车载终端进入自动驾驶状态,并在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息,进而仅根据获取到的手部状态信息来对驾驶员状态进行监测,若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息。
其中,获取手部状态信息的过程参见上述步骤403,此处不再赘述。该第四目标时长为小于第一目标时长任意时长,例如,以该第一目标时长为10s为例,该第四目标时长为5s,可选地,该第四目标时长为小于10s的其他时长,本申请实施例对此不加以限定。
可选地,车载终端在获取到手部状态信息、第一驾驶员状态信息、第二驾驶员状态信息、健康状态信息等信息后,对获取到的信息进行存储,以便发生交通事故时,作为交通事故处理部门处理交通事故的判断依据。在更多可能的实现方式中,车载终端将获取到的信息实时上传至位于云端的服务器,通过服务器来对信息进行存储,以减少车载终端的存储压力,提高车载终端的处理速度。需要说明的是,上述过程可以由车载终端中的融合处理系统完成,可选地,还可以由车载终端中的其他部分完成,本申请实施例对此不加以限定。
在另一种可能的实现方式中,车载终端仅在在该报警阈值时长内监测到该第一驾驶员状态信息满足报警条件时,对接收到图像和获取到的信息进行存储,也能够减少车载终端的存储压力,从而提高车载终端的处理速度。
本申请实施例提供的方案,通过基于驾驶员的手部状态信息,来确定对应的报警阈值时长,不同的手部状态信息对应对于不同的报警阈值时长,以便在对第一驾驶员状态信息进行监测时,在更加符合驾驶员手部状态的报警阈值时长内,监测到第一驾驶员状态信息满足报警条件的情况下,再进行报警,由于引入了手部状态信息和第一驾驶员状态信息的融合处理机制,使得报警结果更加准确,从而能够在实现对驾驶员状态的监测的基础上,有效减少误报情况的出现,提高驾驶员状态监测结果的可靠程度。正是由于引入了手部状态信息和第一驾驶员状态信息的融合处理机制,所以能够提供一种能够基于视觉及触觉来综合判断驾驶员状态的方案,从而能够在识别驾驶员的状态的前提下,有效减少误报情况的出现,减少因单一监测方法导致报警结果不可靠的情况的出现,提高驾驶员状态监测结果的可靠程度,从而提高用户体验。
上述所有可选技术方案,可以采用任意结合形成本申请的可选实施例,在此不再一一赘述。
图6是本申请实施例提供的一种驾驶员状态监测装置的结构示意图,参见图6,该装置包括:
获取单元601,用于在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息,该手部状态信息用于指示该驾驶员对方向盘的握持状态;
确定单元602,用于基于该手部状态信息,确定该手部状态信息对应的报警阈值时长,不同手部状态信息对应于不同的报警阈值时长;
监测单元603,用于对该驾驶员的第一驾驶员状态信息进行监测,该第一驾驶员状态信息基于对该驾驶员进行图像识别确定;
生成单元604,用于若在该报警阈值时长内监测到该第一驾驶员状态信息满足报警条件,则生成报警信息,该报警信息用于提示该驾驶员的状态不符合安全驾驶条件。
本申请实施例提供的装置,通过基于驾驶员的手部状态信息,来确定对应的报警阈值时长,不同的手部状态信息对应对于不同的报警阈值时长,以便在对第一驾驶员状态信息进行监测时,在更加符合驾驶员手部状态的报警阈值时长内,监测到第一驾驶员状态信息满足报警条件的情况下,再进行报警,由于引入了手部状态信息和第一驾驶员状态信息的融合处理机制,使得报警结果更加准确,从而能够在实现对驾驶员状态的监测的基础上,有效减少误报情况的出现,提高驾驶员状态监测结果的可靠程度。
在一种可能的实现方式中,该确定单元602用于下述任一项:
若该手部状态信息为脱手状态,则将该报警阈值时长确定为第一目标时长;
若该手部状态信息为轻握状态,则将该报警阈值时长确定为第二目标时长;
若该手部状态信息为重握状态,则将该报警阈值时长确定为第三目标时长;
其中,该第一目标时长小于该第二目标时长,且该第二目标时长小于该第三目标时长。
在一种可能的实现方式中,该第一驾驶员状态信息包括疲劳状态信息、分神状态信息和驾驶员行为信息。
在一种可能的实现方式中,该手部状态信息通过驾驶员脱手检测系统获取得到,该第一驾驶员状态信息通过驾驶员状态监控系统获取得到;
该获取单元601,还用于获取该驾驶员脱手检测系统的工作状态,以及该驾驶员状态监控系统的工作状态;
该装置还包括:
控制单元,用于若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则允许进入自动驾驶状态。
在一种可能的实现方式中,该控制单元,还用于若该驾驶员脱手检测系统和该驾驶员状态监控系统中任一项处于故障状态,则禁止进入自动驾驶状态。
在一种可能的实现方式中,该获取单元601,还用于若该驾驶员脱手检测系统和该驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和第二驾驶员状态信息,该第二驾驶员状态信息基于对该驾驶员进行图像识别确定,该第二驾驶员状态信息通过驾驶员状态监控系统获取得到;
该控制单元,还用于若该第二驾驶员状态信息指示已检测到驾驶员,且该驾驶员未佩戴防红外眼镜,且该健康状态信息满足目标条件,则允许进入自动驾驶状态。
在一种可能的实现方式中,该控制单元,还用于下述任一项:
若该第二驾驶员状态信息指示未检测到驾驶员,则禁止进入自动驾驶状态;
若该第二驾驶员状态信息指示该驾驶员已佩戴防红外眼镜,则禁止进入自动驾驶状态;
若该健康状态信息不满足目标条件,则禁止进入自动驾驶状态。
在一种可能的实现方式中,该控制单元,还用于若该驾驶员脱手检测系统处于正常工作状态,且该驾驶员状态监控系统处于不可用状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;
该生成单元604,还用于若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息;
该控制单元,还用于若该驾驶员脱手检测系统处于正常工作状态,且该驾驶员状态监控系统处于未激活状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;
该生成单元604,还用于若在第四目标时长内监测到该手部状态信息为脱手状态,则生成该报警信息。
需要说明的是:上述实施例提供的驾驶员状态监测装置在监测驾驶员状态时,仅以上述各功能单元的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元完成,即将车载终端的内部结构划分成不同的功能单元,以完成以上描述的全部或者部分功能。另外,上述实施例提供的驾驶员状态监测装置与驾驶员状态监测方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
在示例性实施例中,还提供了一种计算机可读存储介质,例如包括程序代码的存储器,上述程序代码可由处理器执行以完成上述实施例中的驾驶员状态监测方法。例如,该计算机可读存储介质可以是只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、只读光盘(Compact Disc Read-Only Memory,CD-ROM)、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品,该计算机程序产品包括计算机程序代码,该计算机程序代码由车载终端的处理器加载并执行,以完成上述实施例中提供的驾驶员状态监测方法的方法步骤。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来程序代码相关的硬件完成,该程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
上述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (9)
1.一种驾驶员状态监测方法,其特征在于,所述方法包括:
在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息,所述手部状态信息用于指示所述驾驶员对方向盘的握持状态;
基于所述手部状态信息,确定所述手部状态信息对应的报警阈值时长,不同手部状态信息对应于不同的报警阈值时长,所述手部状态信息通过驾驶员脱手检测系统获取得到;
对所述驾驶员的第一驾驶员状态信息进行监测,所述第一驾驶员状态信息基于对所述驾驶员进行图像识别确定,所述第一驾驶员状态信息通过驾驶员状态监控系统获取得到;
若在所述报警阈值时长内监测到所述第一驾驶员状态信息满足报警条件,则生成报警信息,所述报警信息用于提示所述驾驶员的状态不符合安全驾驶条件;
在车辆处于自动驾驶状态之前,所述方法还包括:
获取所述驾驶员脱手检测系统的工作状态,以及所述驾驶员状态监控系统的工作状态;
若所述驾驶员脱手检测系统和所述驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和第二驾驶员状态信息,所述第二驾驶员状态信息基于对所述驾驶员进行图像识别确定,所述第二驾驶员状态信息通过驾驶员状态监控系统获取得到,所述健康状态信息通过安装在方向盘上的传感器获取所述驾驶员的身体体征信息,基于所述身体体征信息确定,所述身体体征信息包括心率信息和体温信息;
若所述第二驾驶员状态信息指示已检测到驾驶员,且所述驾驶员未佩戴防红外眼镜,且所述健康状态信息满足目标条件,则允许进入自动驾驶状态。
2.根据权利要求1所述的方法,其特征在于,所述基于所述手部状态信息,确定所述手部状态信息对应的报警阈值时长,包括下述任一项:
若所述手部状态信息为脱手状态,则将所述报警阈值时长确定为第一目标时长;
若所述手部状态信息为轻握状态,则将所述报警阈值时长确定为第二目标时长;
若所述手部状态信息为重握状态,则将所述报警阈值时长确定为第三目标时长;
其中,所述第一目标时长小于所述第二目标时长,且所述第二目标时长小于所述第三目标时长。
3.根据权利要求1所述的方法,其特征在于,所述第一驾驶员状态信息包括疲劳状态信息、分神状态信息和驾驶员行为信息。
4.根据权利要求1所述的方法,其特征在于,所述获取所述驾驶员脱手检测系统的工作状态,以及所述驾驶员状态监控系统的工作状态之后,所述方法还包括:
若所述驾驶员脱手检测系统和所述驾驶员状态监控系统中任一项处于故障状态,则禁止进入自动驾驶状态。
5.根据权利要求1所述的方法,其特征在于,所述若所述驾驶员脱手检测系统和所述驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和第二驾驶员状态信息之后,所述方法还包括下述任一项:
若所述第二驾驶员状态信息指示未检测到驾驶员,则禁止进入自动驾驶状态;
若所述第二驾驶员状态信息指示所述驾驶员已佩戴防红外眼镜,则禁止进入自动驾驶状态;
若所述健康状态信息不满足目标条件,则禁止进入自动驾驶状态。
6.根据权利要求1所述的方法,其特征在于,所述获取所述驾驶员脱手检测系统的工作状态,以及所述驾驶员状态监控系统的工作状态之后,所述方法还包括下述任一项:
若所述驾驶员脱手检测系统处于正常工作状态,且所述驾驶员状态监控系统处于不可用状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;若在第四目标时长内监测到所述手部状态信息为脱手状态,则生成所述报警信息;
若所述驾驶员脱手检测系统处于正常工作状态,且所述驾驶员状态监控系统处于未激活状态,则允许进入自动驾驶状态,执行在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息的步骤;若在第四目标时长内监测到所述手部状态信息为脱手状态,则生成所述报警信息。
7.一种驾驶员状态监测装置,其特征在于,所述装置包括:
获取单元,用于在车辆处于自动驾驶状态下,获取驾驶员的手部状态信息,所述手部状态信息用于指示所述驾驶员对方向盘的握持状态;
确定单元,用于基于所述手部状态信息,确定所述手部状态信息对应的报警阈值时长,不同手部状态信息对应于不同的报警阈值时长,所述手部状态信息通过驾驶员脱手检测系统获取得到;
监测单元,用于对所述驾驶员的第一驾驶员状态信息进行监测,所述第一驾驶员状态信息基于对所述驾驶员进行图像识别确定,所述第一驾驶员状态信息通过驾驶员状态监控系统获取得到;
生成单元,用于若在所述报警阈值时长内监测到所述第一驾驶员状态信息满足报警条件,则生成报警信息,所述报警信息用于提示所述驾驶员的状态不符合安全驾驶条件;
所述获取单元,还用于获取所述驾驶员脱手检测系统的工作状态,以及所述驾驶员状态监控系统的工作状态;若所述驾驶员脱手检测系统和所述驾驶员状态监控系统均处于正常工作状态,则获取健康状态信息和第二驾驶员状态信息,所述第二驾驶员状态信息基于对所述驾驶员进行图像识别确定,所述第二驾驶员状态信息通过驾驶员状态监控系统获取得到,所述健康状态信息通过安装在方向盘上的传感器获取所述驾驶员的身体体征信息,基于所述身体体征信息确定,所述身体体征信息包括心率信息和体温信息;
控制单元,用于若所述第二驾驶员状态信息指示已检测到驾驶员,且所述驾驶员未佩戴防红外眼镜,且所述健康状态信息满足目标条件,则允许进入自动驾驶状态。
8.一种车载终端,其特征在于,所述车载终端包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条程序代码,所述程序代码由所述一个或多个处理器加载并执行以实现如权利要求1至权利要求6任一项所述的驾驶员状态监测方法所执行的操作。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条程序代码,所述程序代码由处理器加载并执行以实现如权利要求1至权利要求6任一项所述的驾驶员状态监测方法所执行的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110623047.3A CN113183971B (zh) | 2021-06-04 | 2021-06-04 | 驾驶员状态监测方法、装置、车载终端及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110623047.3A CN113183971B (zh) | 2021-06-04 | 2021-06-04 | 驾驶员状态监测方法、装置、车载终端及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113183971A CN113183971A (zh) | 2021-07-30 |
CN113183971B true CN113183971B (zh) | 2023-03-10 |
Family
ID=76976271
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110623047.3A Active CN113183971B (zh) | 2021-06-04 | 2021-06-04 | 驾驶员状态监测方法、装置、车载终端及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113183971B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110027567A (zh) * | 2019-04-30 | 2019-07-19 | 奇瑞汽车股份有限公司 | 驾驶员的驾驶状态确定方法、装置及存储介质 |
CN112289003A (zh) * | 2020-10-23 | 2021-01-29 | 江铃汽车股份有限公司 | 疲劳驾驶不端驾驶行为监测方法及主动安全驾驶监控系统 |
CN112356839A (zh) * | 2020-11-06 | 2021-02-12 | 广州小鹏自动驾驶科技有限公司 | 一种驾驶状态监测方法、系统及汽车 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6917708B2 (ja) * | 2016-02-29 | 2021-08-11 | 株式会社デンソー | 運転者監視システム |
-
2021
- 2021-06-04 CN CN202110623047.3A patent/CN113183971B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110027567A (zh) * | 2019-04-30 | 2019-07-19 | 奇瑞汽车股份有限公司 | 驾驶员的驾驶状态确定方法、装置及存储介质 |
CN112289003A (zh) * | 2020-10-23 | 2021-01-29 | 江铃汽车股份有限公司 | 疲劳驾驶不端驾驶行为监测方法及主动安全驾驶监控系统 |
CN112356839A (zh) * | 2020-11-06 | 2021-02-12 | 广州小鹏自动驾驶科技有限公司 | 一种驾驶状态监测方法、系统及汽车 |
Also Published As
Publication number | Publication date |
---|---|
CN113183971A (zh) | 2021-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108961681B (zh) | 疲劳驾驶提醒方法、装置及存储介质 | |
CN106448259B (zh) | 一种车辆预警的方法、装置及系统 | |
CN110027567A (zh) | 驾驶员的驾驶状态确定方法、装置及存储介质 | |
EP3675121B1 (en) | Computer-implemented interaction with a user | |
CN109286727B (zh) | 一种操作控制方法及终端设备 | |
KR102517228B1 (ko) | 사용자의 입력에 대한 외부 전자 장치의 응답 시간에 기반하여 지정된 기능을 제어하는 전자 장치 및 그의 방법 | |
CN112860169B (zh) | 交互方法及装置、计算机可读介质和电子设备 | |
US10769944B2 (en) | Method for processing message and electronic device implementing the same | |
US11922809B2 (en) | Non-visual outputs for a smart ring | |
CN107786714B (zh) | 基于车载多媒体设备的语音控制方法、装置及系统 | |
CN114581892A (zh) | 一种多媒体信息处理方法、装置、电子设备及存储介质 | |
CN110728206A (zh) | 疲劳驾驶检测方法、装置、计算机可读存储介质及终端 | |
CN108639056B (zh) | 驾驶状态检测方法、装置以及移动终端 | |
CN110209335A (zh) | 智能终端的控制方法和装置 | |
CN113183971B (zh) | 驾驶员状态监测方法、装置、车载终端及可读存储介质 | |
CN111292493A (zh) | 一种振动提醒方法、装置、电子设备及系统 | |
CN108874111B (zh) | 一种电池过放电保护控制方法及移动终端 | |
CN111147738A (zh) | 警用车载全景慧眼系统、装置、电子设备及介质 | |
CN111163218A (zh) | 一种交互提醒方法、装置、存储介质及电子设备 | |
CN115762048A (zh) | 一种应急呼救方法、装置、车载终端和存储介质 | |
CN112298184B (zh) | 基于人工智能的驾驶切换方法、装置、设备和存储介质 | |
CN111176606B (zh) | 电子设备及其音量调节方法 | |
EP3606018B1 (en) | Mobile apparatus, information processing method, mobile device program | |
US12080284B2 (en) | Two-way in-vehicle virtual personal assistant | |
CN118323020A (zh) | 智能座舱安全监测系统、方法、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |