CN113060144A - 分心提醒方法及装置、电子设备和存储介质 - Google Patents
分心提醒方法及装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113060144A CN113060144A CN202110268977.1A CN202110268977A CN113060144A CN 113060144 A CN113060144 A CN 113060144A CN 202110268977 A CN202110268977 A CN 202110268977A CN 113060144 A CN113060144 A CN 113060144A
- Authority
- CN
- China
- Prior art keywords
- driver
- vehicle
- deflection angle
- distraction
- driving state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2520/00—Input parameters relating to overall vehicle dynamics
- B60W2520/10—Longitudinal speed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/229—Attention level, e.g. attentive to driving, reading or sleeping
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Traffic Control Systems (AREA)
Abstract
本公开涉及一种分心提醒方法及装置、电子设备和存储介质,所述方法包括:获取车辆的行驶速度;在根据所述车辆的行驶速度确定启动分心检测功能的情况下,获取针对所述车辆的驾驶员采集的视频帧;基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态;在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息。
Description
技术领域
本公开涉及智能驾驶技术领域,尤其涉及一种分心提醒方法及装置、电子设备和存储介质。
背景技术
随着智能驾驶技术的快速发展,越来越多的车辆上设置有智能驾驶系统。智能驾驶技术主要包括自动驾驶和辅助驾驶两部分,其中,辅助驾驶可以辅助用户进行安全驾驶,例如,可以在用户疲劳或分心时进行提醒,从而减少交通事故的发生。
分心检测系统可以在驾驶过程中,识别出用户的分心行为。分心行为可以理解为用户注意力不在驾驶上的行为,例如,在驾驶状态下找东西、看窗外的风景、接打电话、喝水等行为,都可以认为是分心行为。目前市场上的分心检测系统稳定性较低,容易频繁发出警告信息,给用户带来不好的体验。
发明内容
本公开提出了一种分心提醒技术方案。
根据本公开的一方面,提供了一种分心提醒方法,包括:
获取车辆的行驶速度;在根据所述车辆的行驶速度确定启动分心检测功能的情况下,获取针对所述车辆的驾驶员采集的视频帧;基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态;在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息。
在一个或多个可能的实现方式中,所述方法还包括:在所述车辆的行驶速度大于或等于预设的启动车速的情况下,启动分心检测功能;在所述车辆的行驶速度小于所述启动车速的情况下,关闭分心检测功能。
在一个或多个可能的实现方式中,所述基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态,包括:基于所述驾驶员的视频帧检测所述驾驶员的头部偏转角和/或视线偏转角;基于所述头部偏转角和/或视线偏转角、以及所述行驶速度,确定所述驾驶员的驾驶状态。
在一个或多个可能的实现方式中,所述基于所述头部偏转角和/或视线偏转角、以及所述行驶速度,确定所述驾驶员的驾驶状态,包括:获取所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值;响应于所述头部偏转角达到所述行驶速度对应的头部偏转角安全阈值和/或所述视线偏转角达到所述视线偏转角安全阈值,确定所述驾驶员处于分心驾驶状态。
在一个或多个可能的实现方式中,所述头部偏转角安全阈值和/或所述视线偏转角安全阈值基于所述驾驶员在安全驾驶状态下以所述行驶速度驾驶车辆时的头部偏转角和视线偏转角标定。
在一个或多个可能的实现方式中,所述方法还包括:对所述视频帧进行人脸识别,确定所述驾驶员的身份信息;所述获取所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值,包括:获取所述驾驶员的身份信息关联的、与所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值。
在一个或多个可能的实现方式中,所述获取针对所述车辆的驾驶员采集的视频帧,包括:基于所述车辆的行驶速度,确定帧采样率;基于所述帧采样率对所述车辆的驾驶员的视频进行帧采样,获取针对所述车辆的驾驶员采集的视频帧。
在一个或多个可能的实现方式中,所述基于所述驾驶员的视频帧检测所述驾驶员的头部偏转角和/或视线偏转角,包括:对所述驾驶员的视频帧进行关键点检测,确定所述视频帧的人脸区域包括的至少一个关键点;基于所述人脸区域包括的至少一个关键点,确定所述驾驶员的头部偏转角和/或视线偏转角。
在一个或多个可能的实现方式中,所述在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息,包括:在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,确定所述驾驶员在所述分心驾驶状态下的持续时间;在所述持续时间达到预设的时间阈值的情况下,生成分心提醒信息。
在一个或多个可能的实现方式中,所述方法还包括:根据所述车辆的行驶速度确定所述时间阈值。
根据本公开的一方面,提供了一种分心提醒装置,包括:
第一获取模块,用于获取车辆的行驶速度;
第二获取模块,用于在根据所述车辆的行驶速度确定启动分心检测功能的情况下,获取针对所述车辆的驾驶员采集的视频帧;
确定模块,用于基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态;
生成模块,用于在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息。
在一个或多个可能的实现方式中,所述装置还包括:启动模块,用于在所述车辆的行驶速度大于或等于预设的启动车速的情况下,启动分心检测功能;在所述车辆的行驶速度小于所述启动车速的情况下,关闭分心检测功能。
在一个或多个可能的实现方式中,所述确定模块,用于基于所述驾驶员的视频帧检测所述驾驶员的头部偏转角和/或视线偏转角;基于所述头部偏转角和/或视线偏转角、以及所述行驶速度,确定所述驾驶员的驾驶状态。
在一个或多个可能的实现方式中,所述确定模块,用于获取所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值;响应于所述头部偏转角达到所述行驶速度对应的头部偏转角安全阈值和/或所述视线偏转角达到所述视线偏转角安全阈值,确定所述驾驶员处于分心驾驶状态。
在一个或多个可能的实现方式中,所述头部偏转角安全阈值和/或所述视线偏转角安全阈值基于所述驾驶员在安全驾驶状态下以所述行驶速度驾驶车辆时的头部偏转角和视线偏转角标定。
在一个或多个可能的实现方式中,所述装置还包括:识别模块,用于对所述视频帧进行人脸识别,确定所述驾驶员的身份信息;所述确定模块,用于获取所述驾驶员的身份信息关联的、与所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值。
在一个或多个可能的实现方式中,所述第二获取模块,用于基于所述车辆的行驶速度,确定帧采样率;基于所述帧采样率对所述车辆的驾驶员的视频进行帧采样,获取针对所述车辆的驾驶员采集的视频帧。
在一个或多个可能的实现方式中,所述确定模块,用于对所述驾驶员的视频帧进行关键点检测,确定所述视频帧的人脸区域包括的至少一个关键点;基于所述人脸区域包括的至少一个关键点,确定所述驾驶员的头部偏转角和/或视线偏转角。
在一个或多个可能的实现方式中,所述生成模块,用于在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,确定所述驾驶员在所述分心驾驶状态下的持续时间;在所述持续时间达到预设的时间阈值的情况下,生成分心提醒信息。
在一个或多个可能的实现方式中,所述生成模块,还用于根据所述车辆的行驶速度确定所述时间阈值。
根据本公开的一方面,提供了一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以执行上述方法。
根据本公开的一方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。
在本公开实施例中,可以获取车辆当前的行驶速度,在根据车辆的行驶速度确定启动分心检测功能的情况下,获取针对车辆的驾驶员采集的视频帧,基于驾驶员的视频帧和车辆的行驶速度,进一步可以确定驾驶员的驾驶状态,在确定驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息,从而可以将车辆的行驶速度作为确定驾驶员的驾驶状态的考虑因素,从而提高分心提醒的稳定性,提高驾驶员的用户体验。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1示出根据本公开实施例的分心提醒方法的流程图。
图2示出根据本公开实施例的分心检测系统一示例的框图。
图3示出根据本公开实施例的分心提醒方法一示例的流程图。
图4示出根据本公开实施例的头部偏转角的示意图。
图5示出根据本公开实施例的分心提醒装置的框图。
图6示出根据本公开实施例的一种电子设备示例的框图。
图7示出根据本公开实施例的一种电子设备示例的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外,为了更好地说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
本公开实施例提供的分心提醒方案,可以应用于自动驾驶或辅助驾驶系统、城市交通、交通出行等场景中。例如,在车流量较大的城市交通中,可以通过本公开实施例提供的分心提醒方案,可以基于驾驶员的视频帧和车辆的行驶速度,确定驾驶员的驾驶状态,从而可以在确定驾驶员分心驾驶的情况下,发出提醒,从而辅助驾驶,提高车辆行驶的安全性。通过将车辆的行驶速度作为启动分心提醒的一个考虑因素,可以提高分心提醒的稳定性,减少由于误触发而发出提醒给用户带来的负面体验和对驾驶员的干扰。
本公开实施例提供的分心提醒方法可以由终端设备、服务器或其它类型的电子设备执行,其中,终端设备可以为用户设备(User Equipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该数据处理方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。或者,可通过服务器执行所述方法。
图1示出根据本公开实施例的分心提醒方法的流程图,如图1所示,所述分心提醒方法包括:
步骤S11,获取车辆的行驶速度。
在本公开实施例中,车辆可以配置有分心检测系统,分心检测系统可以实时获取车辆的行驶速度,或者,以一定的时间间隔为周期,周期性地获取车辆的行驶速度,例如,以1s、2s等时间间隔为周期,周期性地获取车辆的行驶速度。这里,可以通过车载的全球定位系统(Global Positioning System,GPS)或者车内通讯总线(比如CAN总线)获取车辆当前的行驶速度。在一些实现方式中,还可以获取车辆的行驶一定距离的行驶时间,然后根据行驶一定距离和行驶时间的比值,计算车辆的行驶速度。
步骤S12,在根据所述车辆的行驶速度确定启动分心检测功能的情况下,获取针对所述车辆的驾驶员采集的视频帧。
在本公开实施例中,可以根据车辆的行驶速度,判断是否启动车辆的分心检测功能。例如,在车辆的行驶速度不断增大,如车辆加速行驶的时长达到一定时间阈值,可以开启车辆的分心检测功能;在车辆的行驶速度不断减小,如车辆减速行驶的时长达到一定时间阈值,可以关闭车辆的分心检测功能。在根据车辆的行驶速度确定启动分心检测功能的情况下,可以获取针对车辆的驾驶员的人脸采集的视频帧。
在一些实现方式中,可以在车辆的行驶速度大于或等于预设的启动车速的情况下,启动分心检测功能,例如,在检测到当前车辆的行驶速度大于或等于10km/h时,可以自动触发分心检测功能。在车辆的行驶速度小于启动车速的情况下,关闭分心检测功能,例如,在车辆停止或行驶速度小于10km/h时,可以禁用分心检测功能,从而可以减少误触发的分心警告现象,例如,在用户停车聊天时,基于单纯的视觉检测可能会触发分心警告,这会给驾驶员带来不好的用户体验。
这里,车辆上可以安装有车载像头或相机等摄像装置,从而可以获取车载摄像头或相机等摄像装置针对驾驶员的人脸采集的视频中的视频帧。在一些实现方式中,在获取驾驶员的视频帧的情况下,可以以一定的时间间隔或者一定的帧数间隔抽取视频中的视频帧。例如,在根据当前视频帧的上一个视频帧确定驾驶员的驾驶状态是安全驾驶状态的情况下,可以以第一时间间隔或者第一帧数间隔抽取视频中的视频帧,得到当前视频帧,在根据当前视频帧的上一个视频帧确定驾驶员的驾驶状态是分心驾驶状态的情况下,可以以第二时间间隔或者第二帧数间隔抽取视频中的视频帧,得到当前视频帧,其中,第一时间间隔可以小于第二时间间隔,第一帧数间隔可以小于第二帧数间隔,从而在驾驶员分心驾驶的情况下,可以提高视频帧抽取的频率,从而提高分心提醒的频率。
一些实现方式中,还可以基于车辆的行驶速度,确定帧采样率,进一步基于帧采样率对车辆的驾驶员的视频进行帧采样,获取针对所述车辆的驾驶员采集的视频帧。举例来说,可以预先设置车辆的行驶速度与帧采样率的对应关系,在车辆行驶时,可以根据车辆的行驶速度对应的帧采样率,对车辆的驾驶员的视频进行帧采样,如在行驶速度小于一定速度时,可以以第一时间间隔或者第一帧数间隔(第一帧采样率)抽取视频中的视频帧,在行驶速度大于或等于一定速度时,可以以第二时间间隔或者第二帧数间隔(第二帧采样率)抽取视频中的视频帧,第二帧采样率大于第一帧采样率,从而在车速较高的情况下,可以提高分心检测的频率,进一步提高驾驶安全。
步骤S13,基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态。
在本公开实施例中,可以对获取的视频帧进行人脸检测,得到人脸检测的检测结果。然后可以根据检测结果以及车辆的行驶速度确定当前驾驶员的驾驶状态,例如,可以根据检测结果和行驶速度,判断驾驶员的头部发生偏离或者旋转的角度是否达到该行驶速度对应的角度阈值,如果判断驾驶员的头部偏离或者旋转的角度达到该行驶速度对应的角度阈值,可以确定当前驾驶员的驾驶状态是分心驾驶状态,如果判断驾驶员的头部偏离或者旋转的角度未达到该行驶速度对应的角度阈值,则可以确定当前驾驶员的驾驶状态是安全驾驶状态。
步骤S14,在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息。
在本公开示例中,在确定驾驶员的驾驶状态是分心驾驶状态时,可以生成并发出分心提醒信息,例如,发出提示音、警告等分心提醒信息,从而可以对驾驶员进行提醒。在一些实现方式中,还可以将生成的分心提醒信息发送至其他车载设备,例如,将分心提醒信息发送至警告设备,从而警告设备可以发出警告信息,再例如,将分心提醒信息发送至车速控制设备,从而车速控制设备可以自动控制车辆减速。
图2示出根据本公开实施例的分心检测系统的一个示例性框图。分心检测系统可以从摄像装置获取驾驶员的视频帧,通过GPS或者CAN总线获取车辆当前的行驶速度。在确定驾驶员的驾驶状态是分心驾驶状态的情况下,可以生成分心提醒信息,并将分心提醒信息发送警报设备或车速控制设备等其他设备。
本公开实施例可以通过将车辆的行驶速度作为分心检测功能的考虑因素,可以减少分心警报误触发的情况,提高分心提醒的准确率,提高用户体验。
在上述步骤S13中,可以基于驾驶员的视频帧和车辆的行驶速度,确定驾驶员的驾驶状态,在一些实现方式中,可以根据驾驶员的视频帧检测驾驶员的头部偏转角和/或视线偏转角,然后基于检测的头部偏转角和/或视线偏转角、以及车辆的行驶速度,确定驾驶员的驾驶状态。举例来说,可以对驾驶员的视频帧进行头部偏转角检测和/或进行视线偏转角检测,例如,可以利用检测算法、检测神经网络等对驾驶员的视频帧进行头部偏转角检测和/或进行视线偏转角检测,得到驾驶员的头部偏转角和/或视线偏转角。然后可以将检测得到的头部偏转角和/或视线偏转角与行驶速度对应的安全阈值进行比较,判断检测得到的头部偏转角和/或视线偏转角是否达到行驶速度对应的安全阈值内,在确定检测得到的头部偏转角和/或视线偏转角达到安全阈值的情况下,可以认为驾驶员处于分心驾驶状态,在头部偏转角和/或视线偏转角未达到安全阈值的情况下,可以认为驾驶员处于安全驾驶状态。通过对驾驶员采集的视频帧检测得到的头部偏转角和/或视线偏转角,可以快速确定在当前行驶车速下驾驶员的驾驶状态。
一些实现方式中,车辆的行驶速度可以对应有相应的安全阈值,可以预先存储车辆的行驶速度对应的安全阈值。安全阈值可以指示在相应的行驶速度下,在安全驾驶状态情况下驾驶员的头部偏转角和/或视线偏转角的上下限,如果驾驶员的头部偏转角和/或视线偏转角超过安全阈值,则可以认为当前的驾驶状态是分心驾驶状态。该安全阈值可以包括头部偏转角安全阈值和视线偏转角安全阈值。在确定驾驶员的驾驶状态时,可以获取当前的行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值,将检测得到的头部偏转角与该行驶速度对应的头部偏转角安全阈值进行比较,并将检测得到的视线偏转角与该行驶速度对应的视线偏转角安全阈值进行比较。响应于检测到的头部偏转角达到行驶速度对应的头部偏转角安全阈值,和/或视线偏转角达到视线偏转角安全阈值,可以确定驾驶员处于分心驾驶状态。如果检测到的头部偏转角未达到头部偏转角安全阈值,并且检测到的视线偏转角未达到视线偏转角安全阈值的情况下,可以确定驾驶员处于安全驾驶状态。通过将对头部偏转角和/或视线偏转角与安全阈值进行比较,可以快速确定驾驶员的驾驶状态,进而根据驾驶员的驾驶状态,可以辅助用户驾驶,提高车辆行使的安全性。
这里,行驶速度与头部偏转角安全阈值和视线偏转角安全阈值之间的对应关系可以是预先设定的。不同的行驶速度所对应的头部偏转角安全阈值和视线偏转角安全阈值可以不同,行驶速度越大,所对应的头部偏转角安全阈值和视线偏转角安全阈值越小,即可以理解为,车辆的行驶速度越大,要求安全驾驶状态下驾驶员的头部偏转角和/或视线偏转角越小,从而可以根据车辆的行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值,对驾驶员的头部偏转角和/或视线偏转角进行合适的约束,辅助驾驶员安全驾驶。
在一些实现方式中,行驶速度对应的头部偏转角安全阈值和/或视线偏转角安全阈值,可以是基于驾驶员在安全驾驶状态下以该行驶速度驾驶车辆时的头部偏转角和视线偏转角标定的。举例来说,可以获取针对驾驶员采集的预设时长(如3分钟)的历史视频,历史视频中该驾驶员在安全驾驶状态下以一定的行驶速度驾驶车辆。检测历史视频中的视频帧中驾驶员的头部偏转角和视线偏转角,统计在该行驶速度下,处于安全驾驶状态的驾驶员的头部偏转角和视线偏转角,然后可以将统计到的头部偏转角的最大值或平均值标定为该行驶速度对应的头部偏转角安全阈值,将统计到的视线偏转角的最大值或平均值标定为该行驶速度对应的视线偏转角安全阈值。这样,可以通过驾驶员在安全驾驶状态下以一定行驶速度驾驶车辆时的头部偏转角和视线偏转角,准确地标定该行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值,使分心检查更加准确。
在一些实现方式中,行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值还可以与驾驶员的身份信息相关联,即不同驾驶员对应的头部偏转角安全阈值和视线偏转角安全阈值可以不同。在获取行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值的情况下,还可以对针对驾驶员采集的视频帧进行人脸识别,确定驾驶员的身份信息,例如,可以使用一些人脸识别算法、神经网络等对视频帧进行人脸识别,确定驾驶员的身份标识号(Identity Document,ID)、驾驶证号、姓名等身份信息,然后获取与驾驶员的身份信息关联的、且与当前车辆的行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值。这样,可以通过人脸识别,为驾驶员匹配对应的头部偏转角安全阈值和视线偏转角安全阈值,可使头部偏转角安全阈值和视线偏转角安全阈值自动调整为适用于当前驾驶员的安全阈值,实现安全阈值的个性化设置,满足不同驾驶员由于个体差异带来的不同需求,如不同驾驶员的身高、性别、驾驶习惯等个体差异可能会导致驾驶员关联的安全阈值略有不同,实现更灵活的分心提醒。
下面通过一个示例对本公开提供的分心提醒方案进行说明。图3示出根据本公开实施例的分心提醒方法一示例的流程图,包括:
步骤S201,在根据车辆的行驶速度确定启动分心检测功能的情况下,获取针对车辆的驾驶员采集的视频帧。
步骤S202,对视频帧进行头部偏转角检测,得到驾驶员的头部偏转角。
步骤S203,对视频帧进行视线偏转角检测,得到驾驶员的视线偏转角。
步骤S204,判断驾驶员的头部偏转角是否达到行驶速度对应的头部偏转角安全阈值,以及判断视线偏转角是否达到行驶速度对应的视线偏转角安全阈值;
在驾驶员的头部偏转角达到头部偏转角安全阈值或者视线偏转角达到视线偏转角安全阈值的情况下,执行步骤S205;否者执行步骤S201。
步骤S205,生成分心提醒信息。
通过本示例提供的分心提醒方案,可以在启动分心检测功能的情况下,通过驾驶员的头部偏转角和/或视线偏转角以及车辆的行驶速度,可确定驾驶员的驾驶状态,在确定驾驶员处于分心驾驶状态的情况下可以生成分心提醒信息,以提醒驾驶员恢复安全驾驶状态。
在一些实现方式中,在基于驾驶员的视频帧检测驾驶员的头部偏转角和/或视线偏转角时,可以对驾驶员的视频帧进行关键点检测,确定视频帧的人脸区域包括的至少一个关键点,再基于人脸区域包括的至少一个关键点,可以确定驾驶员的头部偏转角和/或视线偏转角。这里,可以利用一些检测算法、神经网络等对视频帧进行关键点检测,确定视频帧中人脸所在的人脸区域,在确定人脸区域之后,可以识别人脸区域包括的一个或多个关键点。这里,关键点可以是人脸的关键点,例如,人脸区域包括的眉毛、眼睛、鼻子、嘴巴、脸部轮廓等均可以是关键点。
对于头部偏转角而言,可以根据人脸区域包括的至少一个关键点的位置信息,确定驾驶员的头部偏转角,例如,可以根据视频帧中的像素点和空间坐标点的映射关系、以及至少一个关键点的位置信息,确定至少一个关键点在三维空间中的三维坐标,即可以理解为,将视频帧中二维的关键点映射到三维空间中,得到关键点的三维坐标。进一步根据至少一个关键点的三维坐标计算驾驶员的头部偏转角,如将至少一个关键点的三维坐标与预设的基准坐标进行比对,可以确定至少一个关键点偏离基准坐标的角度。头部偏转角可以通过以下三个参数进行表示:航向角(yaw)、俯仰角(pitch)和横滚角(roll)。图4示出根据本公开实施例的头部偏转角的示意图,其中,yaw可以为人脸相对于摄像装置的水平方向的转角,即,以y轴为旋转轴旋转,负数表示向左侧旋转;pitch可以为人脸相对于摄像装置的竖直方向的转角,即,以x轴为旋转轴旋转,负数代表向上方旋转;roll可以为人脸相对于摄像装置的垂直方向的转角,即,以z轴为旋转轴旋转,负数代表向右下方旋转。
对于视线偏转角而言,可以截取人脸区域中的人眼区域,针对人眼区域,可以确定人眼区域包括的眼球关键点以及眼眶边缘关键点的位置信息,进一步可以将眼球关键点以及眼眶边缘关键点的位置信息与标准视线偏转角的人眼关键点的位置信息进行比对,根据比对结果可以确定驾驶员的视线偏转角。
本实现方式中,通过对视频帧进行关键点检测,可确定驾驶员的头部偏转角和/或视线偏转角,从而通过对视频帧进行人脸检测可以快速确定驾驶员的驾驶状态,为安全驾驶提供基础。
在一些示例中,还可以利用神经网络对驾驶员的头部偏转角和/或视线偏转角进行检测,例如,将驾驶员的视频帧输入已训练的神经网络中,利用神经网络对视频帧进行人脸检测,确定驾驶员的人脸所在的人脸区域,然后再利用神经网络基于人脸区域的图像特征进行头部偏转角检测和/或视线偏转角检测,得到驾驶员的头部偏转角和/或视线偏转角。在驾驶信息包括头部偏转角和视线偏转角的情况下,可以利用一个神经网络的不同分支进行头部偏转角检测和视线偏转角检测,一些实现方式中,还可以利用两个神经网络分别进行头部偏转角检测和视线偏转角检测。
在上述步骤S14中,可以在确定驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息,在一些实现方式中,还可以在确定驾驶员的驾驶状态是分心驾驶状态的情况下,确定驾驶员在分心驾驶状态下的持续时间,在持续时间达到预设的时间阈值的情况下,生成分心提醒信息。这里,时间阈值可以根据实际应用场景进行设置,在确定驾驶员的驾驶状态是分心驾驶状态的情况下,可以将驾驶员处于分心驾驶状态下的持续时间与预设的时间阈值进行比较,如果驾驶员在分心驾驶状态下的持续时间达到设置的时间阈值,则,可以认为驾驶员可能会由于处于分心驾驶状态而发生交通事故或者危险,从而可以生成分心提醒信息,以通过分心提醒信息提醒驾驶员恢复安全驾驶状态。
在一些实现方式中,时间阈值可以为多个,例如,时间阈值可以包括第一时间阈值、第二时间阈值和第三时间阈值。其中,第一时间阈值小于第二时间阈值,第二时间阈值小于第三时间阈值。每个时间阈值可以对应一个分心等级,时间阈值越大,对应的分心等级越高,例如,第一时间阈值对应的分心等级可以是轻度分心,第二时间阈值对应的分心等级可以是中度分心,第三时间阈值对应的分心等级可以是重度分心。在驾驶员在分心驾驶状态下的持续时间达到第一时间阈值的情况下,可以生成第一分心提醒信息,在驾驶员在分心驾驶状态下的持续时间达到第二时间阈值的情况下,可以生成第二分心提醒信息,在驾驶员在分心驾驶状态下的持续时间达到第三时间阈值的情况下,可以生成第三分心提醒信息,第一分心提醒信息、第二分心提醒信息和第三分心提醒信息的信息响应程度可以与分心等级正相关。这里,信息响应程度可以通过提醒时长、提醒音量、提醒频率等方式进行体现,以提醒时长为例,第一分心提醒信息、第二分心提醒信息和第三分心提醒信息的提醒时长可以依次递增,即可以理解为,驾驶员在分心驾驶状态下的持续时间越大,分心等级越高,分心提醒信息的提醒时长越长。通过这种方式可以提醒驾驶员尽快恢复安全驾驶状态,减少交通事故的发生。
在一些实现方式中,还提供了上述时间阈值的设置方式,即可以根据车辆的行驶速度确定上述时间阈值,例如,车辆的行驶速度越大,对应的时间阈值越小,即,车辆的行驶速度可以与预设的时间阈值负相关。通过这种方式,可以根据车辆的行驶速度,动态地对分心驾驶状态持续时间的时间阈值进行调整,从而提高分心提醒的灵活性以及稳定性,为用户带来更好的用户体验。
下面通过一个示例对本公开实施例提供的分心提醒方案进行说明。在本示例中,可以通过控制界面预先为不同的行驶速度设置不同的安全阈值区间。分心检测系统可以通过GPS或者CAN总线获取当前车辆的行驶速度。在车辆停止或行驶速度小于或等于10km/h的情况下,关闭分心检测功能。在车辆的行驶速度达到预设的启动车速(10km/h)的情况下,自动触发分心检测功能。在启动分心检测功能之后,可以确定车辆的行驶速度对应的安全阈值。在车辆的行驶速度大于10km/h并且小于或等于20km/h的情况下,行驶速度对应的头部偏转角安全阈值可以包括:yaw[-30,30]、Pitch[-20,20];在车辆的行驶速度大于20km/h的情况下,行驶速度对应的头部偏转角安全阈值可以包括:yaw[-15,15]、Pitch[-15,15]。如果驾驶员的头部偏转角在行驶速度对应的头部偏转角安全阈值内,则可以认为驾驶员的驾驶状态是安全驾驶状态,可以继续进行分心检测。如果驾驶员的头部偏转角达到行驶速度对应的头部偏转角安全阈值,即超过上述区间,则可以认为驾驶员的驾驶状态是分心驾驶状态,可以生成分心提醒信息以提醒驾驶员。
本公开实例提供的分心提醒方案,可以在车辆的行驶速度达到启动车速的情况下,自动启动分心检测功能,在车辆的行驶速度未达到启动车速的情况下,关闭分心检测功能,从而在用户停车聊天或者减速停车的情况下,可以停止分心检测功能,减少不必要的分心警报,提高用户体验。在此基础上,还可以根据车辆的行驶速度动态调整分心提醒的安全阈值,提高分心提醒的准确性和稳定性。
可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
此外,本公开还提供了一种分心提醒装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种分心提醒方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
图5示出根据本公开实施例的分心提醒装置的框图,如图5所示,所述装置包括:
第一获取模块31,用于获取车辆的行驶速度;
第二获取模块32,用于在根据所述车辆的行驶速度确定启动分心检测功能的情况下,获取针对所述车辆的驾驶员采集的视频帧;
确定模块33,用于基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态;
生成模块34,用于在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息。
在一个或多个可能的实现方式中,所述装置还包括:启动模块,用于在所述车辆的行驶速度大于或等于预设的启动车速的情况下,启动分心检测功能;在所述车辆的行驶速度小于所述启动车速的情况下,关闭分心检测功能。
在一个或多个可能的实现方式中,所述确定模块33,用于基于所述驾驶员的视频帧检测所述驾驶员的头部偏转角和/或视线偏转角;基于所述头部偏转角和/或视线偏转角、以及所述行驶速度,确定所述驾驶员的驾驶状态。
在一个或多个可能的实现方式中,所述确定模块33,用于获取所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值;响应于所述头部偏转角达到所述行驶速度对应的头部偏转角安全阈值和/或所述视线偏转角达到所述视线偏转角安全阈值,确定所述驾驶员处于分心驾驶状态。
在一个或多个可能的实现方式中,所述头部偏转角安全阈值和/或所述视线偏转角安全阈值基于所述驾驶员在安全驾驶状态下以所述行驶速度驾驶车辆时的头部偏转角和视线偏转角标定。
在一个或多个可能的实现方式中,所述装置还包括:
识别模块,用于对所述视频帧进行人脸识别,确定所述驾驶员的身份信息;
所述确定模块33,用于获取所述驾驶员的身份信息关联的、与所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值。
在一个或多个可能的实现方式中,所述第二获取模块32,用于基于所述车辆的行驶速度,确定帧采样率;基于所述帧采样率对所述车辆的驾驶员的视频进行帧采样,获取针对所述车辆的驾驶员采集的视频帧。
在一个或多个可能的实现方式中,所述确定模块33,用于对所述驾驶员的视频帧进行关键点检测,确定所述视频帧的人脸区域包括的至少一个关键点;基于所述人脸区域包括的至少一个关键点,确定所述驾驶员的头部偏转角和/或视线偏转角。
在一个或多个可能的实现方式中,所述生成模块34,用于在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,确定所述驾驶员在所述分心驾驶状态下的持续时间;在所述持续时间达到预设的时间阈值的情况下,生成分心提醒信息。
在一个或多个可能的实现方式中,所述生成模块34,还用于根据所述车辆的行驶速度确定所述时间阈值。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以执行上述方法。
本公开实施例还提供了一种计算机程序产品,包括计算机可读代码,当计算机可读代码在设备上运行时,设备中的处理器执行用于实现如上任一实施例提供的分心提醒方法的指令。
本公开实施例还提供了另一种计算机程序产品,用于存储计算机可读指令,指令被执行时使得计算机执行上述任一实施例提供的分心提醒方法的操作。
电子设备可以被提供为终端、服务器或其它形态的设备。
图6示出根据本公开实施例的一种电子设备800的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
参照图6,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如互补金属氧化物半导体(CMOS)或电荷耦合装置(CCD)图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如无线网络(WiFi),第二代移动通信技术(2G)或第三代移动通信技术(3G),或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
图7示出根据本公开实施例的一种电子设备1900的框图。例如,电子设备1900可以被提供为一服务器。参照图7,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如微软服务器操作系统(Windows ServerTM),苹果公司推出的基于图形用户界面操作系统(Mac OSXTM),多用户多进程的计算机操作系统(UnixTM),自由和开放原代码的类Unix操作系统(LinuxTM),开放原代码的类Unix操作系统(FreeBSDTM)或类似。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (20)
1.一种分心提醒方法,其特征在于,包括:
获取车辆的行驶速度;
在根据所述车辆的行驶速度确定启动分心检测功能的情况下,获取针对所述车辆的驾驶员采集的视频帧;
基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态;
在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述车辆的行驶速度大于或等于预设的启动车速的情况下,启动分心检测功能;
在所述车辆的行驶速度小于所述启动车速的情况下,关闭分心检测功能。
3.根据权利要求1所述的方法,其特征在于,所述基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态,包括:
基于所述驾驶员的视频帧检测所述驾驶员的头部偏转角和/或视线偏转角;
基于所述头部偏转角和/或视线偏转角、以及所述行驶速度,确定所述驾驶员的驾驶状态。
4.根据权利要求3所述的方法,其特征在于,所述基于所述头部偏转角和/或视线偏转角、以及所述行驶速度,确定所述驾驶员的驾驶状态,包括:
获取所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值;
响应于所述头部偏转角达到所述行驶速度对应的头部偏转角安全阈值和/或所述视线偏转角达到所述视线偏转角安全阈值,确定所述驾驶员处于分心驾驶状态。
5.根据权利要求4所述的方法,其特征在于,所述头部偏转角安全阈值和/或所述视线偏转角安全阈值基于所述驾驶员在安全驾驶状态下以所述行驶速度驾驶车辆时的头部偏转角和视线偏转角标定。
6.根据权利要求4所述的方法,其特征在于,所述方法还包括:
对所述视频帧进行人脸识别,确定所述驾驶员的身份信息;
所述获取所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值,包括:
获取所述驾驶员的身份信息关联的、与所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值。
7.根据权利要求1至6任意一项所述的方法,其特征在于,所述获取针对所述车辆的驾驶员采集的视频帧,包括:
基于所述车辆的行驶速度,确定帧采样率;
基于所述帧采样率对所述车辆的驾驶员的视频进行帧采样,获取针对所述车辆的驾驶员采集的视频帧。
8.根据权利要求3所述的方法,其特征在于,所述基于所述驾驶员的视频帧检测所述驾驶员的头部偏转角和/或视线偏转角,包括:
对所述驾驶员的视频帧进行关键点检测,确定所述视频帧的人脸区域包括的至少一个关键点;
基于所述人脸区域包括的至少一个关键点,确定所述驾驶员的头部偏转角和/或视线偏转角。
9.根据权利要求1至8任意一项所述的方法,其特征在于,所述在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息,包括:
在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,确定所述驾驶员在所述分心驾驶状态下的持续时间;
在所述持续时间达到预设的时间阈值的情况下,生成分心提醒信息。
10.根据权利要求9所述的方法,其特征在于,所述方法还包括:
根据所述车辆的行驶速度确定所述时间阈值。
11.一种分心提醒装置,其特征在于,包括:
第一获取模块,用于获取车辆的行驶速度;
第二获取模块,用于在根据所述车辆的行驶速度确定启动分心检测功能的情况下,获取针对所述车辆的驾驶员采集的视频帧;
确定模块,用于基于所述驾驶员的视频帧和所述行驶速度,确定所述驾驶员的驾驶状态;
生成模块,用于在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,生成分心提醒信息。
12.根据权利要求11所述的装置,其特征在于,所述装置还包括:
启动模块,用于在所述车辆的行驶速度大于或等于预设的启动车速的情况下,启动分心检测功能;在所述车辆的行驶速度小于所述启动车速的情况下,关闭分心检测功能。
13.根据权利要求11所述的装置,其特征在于,所述确定模块,用于基于所述驾驶员的视频帧检测所述驾驶员的头部偏转角和/或视线偏转角;基于所述头部偏转角和/或视线偏转角、以及所述行驶速度,确定所述驾驶员的驾驶状态。
14.根据权利要求13所述的装置,其特征在于,所述确定模块,用于获取所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值;响应于所述头部偏转角达到所述行驶速度对应的头部偏转角安全阈值和/或所述视线偏转角达到所述视线偏转角安全阈值,确定所述驾驶员处于分心驾驶状态。
15.根据权利要求14所述的装置,其特征在于,所述头部偏转角安全阈值和/或所述视线偏转角安全阈值基于所述驾驶员在安全驾驶状态下以所述行驶速度驾驶车辆时的头部偏转角和视线偏转角标定;和/或
所述装置还包括:
识别模块,用于对所述视频帧进行人脸识别,确定所述驾驶员的身份信息;
所述确定模块,用于获取所述驾驶员的身份信息关联的、与所述行驶速度对应的头部偏转角安全阈值和视线偏转角安全阈值。
16.根据权利要求11至15任意一项所述的装置,其特征在于,所述第二获取模块,用于基于所述车辆的行驶速度,确定帧采样率;基于所述帧采样率对所述车辆的驾驶员的视频进行帧采样,获取针对所述车辆的驾驶员采集的视频帧。
17.根据权利要求11至16任意一项所述的装置,其特征在于,所述生成模块,用于在确定所述驾驶员的驾驶状态是分心驾驶状态的情况下,确定所述驾驶员在所述分心驾驶状态下的持续时间;在所述持续时间达到预设的时间阈值的情况下,生成分心提醒信息。
18.根据权利要求17所述的装置,其特征在于,所述生成模块,还用于根据所述车辆的行驶速度确定所述时间阈值。
19.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为调用所述存储器存储的指令,以执行权利要求1至10中任意一项所述的方法。
20.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至10中任意一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110268977.1A CN113060144A (zh) | 2021-03-12 | 2021-03-12 | 分心提醒方法及装置、电子设备和存储介质 |
PCT/CN2021/113576 WO2022188362A1 (zh) | 2021-03-12 | 2021-08-19 | 分心提醒方法及装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110268977.1A CN113060144A (zh) | 2021-03-12 | 2021-03-12 | 分心提醒方法及装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113060144A true CN113060144A (zh) | 2021-07-02 |
Family
ID=76560091
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110268977.1A Pending CN113060144A (zh) | 2021-03-12 | 2021-03-12 | 分心提醒方法及装置、电子设备和存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN113060144A (zh) |
WO (1) | WO2022188362A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113569785A (zh) * | 2021-08-04 | 2021-10-29 | 上海汽车集团股份有限公司 | 驾驶状态感知方法及装置 |
WO2022188362A1 (zh) * | 2021-03-12 | 2022-09-15 | 上海商汤临港智能科技有限公司 | 分心提醒方法及装置、电子设备和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190144003A1 (en) * | 2017-11-15 | 2019-05-16 | Omron Corporation | Distracted driving determination apparatus, distracted driving determination method, and program |
CN110909718A (zh) * | 2019-12-11 | 2020-03-24 | 深圳市锐明技术股份有限公司 | 驾驶状态识别方法、装置及车辆 |
CN111079475A (zh) * | 2018-10-19 | 2020-04-28 | 上海商汤智能科技有限公司 | 驾驶状态检测方法和装置、驾驶员监控系统、车辆 |
CN112277957A (zh) * | 2020-10-27 | 2021-01-29 | 广州汽车集团股份有限公司 | 一种用于驾驶员分心纠正的预警方法及其系统、存储介质 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120058230A (ko) * | 2010-11-29 | 2012-06-07 | 한국전자통신연구원 | 이동체 안전운행 장치 및 방법 |
EP2682318B1 (en) * | 2012-07-03 | 2015-01-28 | Volvo Car Corporation | Motor vehicle collision warning system |
US9796391B2 (en) * | 2014-10-13 | 2017-10-24 | Verizon Patent And Licensing Inc. | Distracted driver prevention systems and methods |
CN208232928U (zh) * | 2018-05-22 | 2018-12-14 | 长安大学 | 一种用于检测驾驶员分心的数据采集设备 |
CN110435671B (zh) * | 2019-07-31 | 2021-05-04 | 武汉理工大学 | 人机共驾环境下考虑驾驶人状态的驾驶权限切换系统 |
CN111845736A (zh) * | 2020-06-16 | 2020-10-30 | 江苏大学 | 一种由分心监测触发的车辆碰撞预警系统及控制方法 |
CN112389448B (zh) * | 2020-11-23 | 2022-07-01 | 重庆邮电大学 | 一种基于车辆状态和驾驶员状态的异常驾驶行为识别方法 |
CN113060144A (zh) * | 2021-03-12 | 2021-07-02 | 上海商汤临港智能科技有限公司 | 分心提醒方法及装置、电子设备和存储介质 |
-
2021
- 2021-03-12 CN CN202110268977.1A patent/CN113060144A/zh active Pending
- 2021-08-19 WO PCT/CN2021/113576 patent/WO2022188362A1/zh active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190144003A1 (en) * | 2017-11-15 | 2019-05-16 | Omron Corporation | Distracted driving determination apparatus, distracted driving determination method, and program |
CN111079475A (zh) * | 2018-10-19 | 2020-04-28 | 上海商汤智能科技有限公司 | 驾驶状态检测方法和装置、驾驶员监控系统、车辆 |
CN110909718A (zh) * | 2019-12-11 | 2020-03-24 | 深圳市锐明技术股份有限公司 | 驾驶状态识别方法、装置及车辆 |
CN112277957A (zh) * | 2020-10-27 | 2021-01-29 | 广州汽车集团股份有限公司 | 一种用于驾驶员分心纠正的预警方法及其系统、存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022188362A1 (zh) * | 2021-03-12 | 2022-09-15 | 上海商汤临港智能科技有限公司 | 分心提醒方法及装置、电子设备和存储介质 |
CN113569785A (zh) * | 2021-08-04 | 2021-10-29 | 上海汽车集团股份有限公司 | 驾驶状态感知方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2022188362A1 (zh) | 2022-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112141119B (zh) | 智能驾驶控制方法及装置、车辆、电子设备和存储介质 | |
US20200317190A1 (en) | Collision Control Method, Electronic Device and Storage Medium | |
US20210133468A1 (en) | Action Recognition Method, Electronic Device, and Storage Medium | |
EP3159867A1 (en) | A method and apparatus for alerting a target vehicle of another vehicle | |
EP3226096A1 (en) | Method and device for parking a balance vehicle | |
CN112036314A (zh) | 方向盘脱手检测方法及装置、电子设备和存储介质 | |
CN112669583A (zh) | 报警阈值调整方法及装置、电子设备和存储介质 | |
CN112124073B (zh) | 基于酒精检测的智能驾驶控制方法及装置 | |
CN112096222B (zh) | 后备箱的控制方法及装置、车辆、电子设备和存储介质 | |
CN113486760A (zh) | 对象说话检测方法及装置、电子设备和存储介质 | |
CN112001348A (zh) | 车舱内的乘员检测方法及装置、电子设备和存储介质 | |
CN111104920A (zh) | 视频处理方法及装置、电子设备和存储介质 | |
CN113060144A (zh) | 分心提醒方法及装置、电子设备和存储介质 | |
CN113920492A (zh) | 车内人员检测方法及装置、电子设备和存储介质 | |
WO2022183663A1 (zh) | 事件检测方法、装置、电子设备、存储介质及程序产品 | |
CN114299587A (zh) | 眼睛状态判定方法及装置、电子设备和存储介质 | |
CN114103985A (zh) | 一种基于障碍物的提示方法、装置和设备 | |
WO2023273060A1 (zh) | 危险动作的识别方法及装置、电子设备和存储介质 | |
CN113989889A (zh) | 遮光板调节方法及装置、电子设备和存储介质 | |
CN114407630A (zh) | 车门控制方法及装置、电子设备和存储介质 | |
CN113807167A (zh) | 车辆碰撞检测方法及装置、电子设备和存储介质 | |
CN112667084B (zh) | 车载显示屏的控制方法及装置、电子设备和存储介质 | |
CN113002424A (zh) | 车辆显示屏的控制方法及装置、设备、介质及车辆 | |
CN109889693B (zh) | 视频处理方法及装置、电子设备和存储介质 | |
CN114013367A (zh) | 一种远光灯使用提醒方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40047450 Country of ref document: HK |