CN114399753A - 分心判断方法、装置、存储介质、电子设备及车辆 - Google Patents
分心判断方法、装置、存储介质、电子设备及车辆 Download PDFInfo
- Publication number
- CN114399753A CN114399753A CN202210297856.4A CN202210297856A CN114399753A CN 114399753 A CN114399753 A CN 114399753A CN 202210297856 A CN202210297856 A CN 202210297856A CN 114399753 A CN114399753 A CN 114399753A
- Authority
- CN
- China
- Prior art keywords
- preset
- distraction
- driver
- area
- watching
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 78
- 238000004364 calculation method Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 3
- 210000001508 eye Anatomy 0.000 description 30
- 210000003128 head Anatomy 0.000 description 25
- 230000008569 process Effects 0.000 description 8
- 238000001514 detection method Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000004886 head movement Effects 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 231100000817 safety factor Toxicity 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Eye Examination Apparatus (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请公开一种分心判断方法、装置、存储介质、电子设备及车辆,涉及汽车技术领域,用于分心判断场景,能够解决基于眼动仪进行分心判断存在的问题。方法包括:识别驾驶员图像中的视线方向;确定视线方向所属目标注视区域;在满足预设分心条件时,确定驾驶员处于分心状态;预设分心条件包括以下至少一项:连续注视属于预设分心区域的目标注视区域的时长大于或等于第一预设时长阈值;在第一预设时间窗口内累计注视不属于预设专心区域的目标注视区域时长大于或等于第二预设时长阈值;连续注视属于其他分心区域的目标注视区域时长大于或等于第三预设时长阈值;基于连续多帧驾驶员图像确定的多个目标注视区域加权得分大于或等于预设分数阈值。
Description
技术领域
本申请涉及汽车技术领域,具体而言,涉及一种分心判断方法、装置、存储介质、电子设备及车辆。
背景技术
随着生活水平的提高,汽车保有量越来越高,交通安全问题变得更加严峻。分心驾驶是一种较常见发生的、具有潜在风险的驾驶行为。分心驾驶会导致驾驶员注意力分散、视线离开路面,无法提前观察或自然忽略道路交通中的信息,还会引起驾驶姿势或操作动作的变化,不利于安全平稳操作车辆,从而很容易引起交通事故。
相关技术中,可以基于眼动仪记录驾驶员的眼动轨迹特征,并通过分析驾驶员的眼球活动轨迹判断驾驶员是否处于分心状态。然而,眼动仪不但价格昂贵,不适合广泛应用,而且驾驶员头部活动很容易导致数据采集不准确,甚至驾驶员还可能因为佩戴眼动仪不适而造成分心驾驶。
发明内容
本申请提供了一种分心判断方法、装置、存储介质、电子设备及车辆,能够解决基于眼动仪进行驾驶员分心判断的相关技术存在的问题:(1)价格昂贵,不适合广泛应用,而且驾驶员头部活动很容易导致数据采集不准确;(2)驾驶员可能因为可穿戴式分心检测设备不适而造成分心驾驶。
具体的技术方案如下:
第一方面,本申请实施例提供了一种分心判断方法,方法包括:
基于视线识别模型识别驾驶员图像中的视线方向;
确定所述视线方向所属的目标注视区域;
在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态;
其中,所述目标注视区域的类别包括预设专心区域、预设分心区域和其他分心区域中至少一项;
所述预设分心条件包括以下至少一项:
所述驾驶员连续注视第一目标注视区域的时长大于或等于第一预设时长阈值,所述第一目标注视区域属于所述预设分心区域;
所述驾驶员在第一预设时间窗口内累计注视第二目标注视区域的时长大于或等于第二预设时长阈值,所述第二目标注视区域不属于所述预设专心区域;
所述驾驶员连续注视第三目标注视区域的时长大于或等于第三预设时长阈值,所述第三目标注视区域属于所述其他分心区域;
基于连续多帧所述的驾驶员图像确定的多个所述目标注视区域加权得分大于或等于预设分数阈值。
通过上述方案可知,与相关技术中需要使用可穿戴式分心检测设备,例如眼动仪,进行分心判断相比,本申请实施例能够先基于视线识别模型识别驾驶员图像中的视线方向,再确定该视线方向所属的目标注视区域,最后在满足预设分心条件(根据基于注视目标注视区域的时长和/或加权得分等设置的分心条件)的情况下,确定驾驶员处于分心状态。由此可知,本申请实施例通过将智能驾驶所必须的内视摄像头与软件的分心算法相结合做出分心判断,而无需驾驶员佩戴额外的设备,从而不仅不会影响驾驶员驾驶舒适度,还不会因为数据采集不准确而降低分心判断准确率。
在第一方面的第一种可能的实现方式中,确定视线方向所属的目标注视区域,包括:
分别计算视线方向与多个预设注视区域中的每一个预设注视区域是否相交,其中,预设注视区域包括预设专心区域和/或预设分心区域;
在视线方向只与一个预设注视区域相交的情况下,将相交的预设注视区域确定为目标注视区域;或者,
在视线方向与至少两个预设注视区域相交的情况下,根据预设区域优先级从至少两个预设注视区域中选择优先级最高的预设注视区域,并将优先级最高的预设注视区域确定为目标注视区域;或者,
在视线方向表征驾驶员处于睁眼状态且视线方向与多个预设注视区域均不相交,或者,视线方向表征驾驶员处于闭眼状态的情况下,确定视线方向所属的注视区域为其他分心区域,并将其他分心区域确定为目标注视区域。
通过上述方案可知,本申请实施例不仅可以通过判断视线方向与多个预设注视区域中的每一个预设注视区域是否相交的方式来确定目标注视区域,还可以在视线方向与至少两个预设注视区域相交的情况下,根据预设区域优先级准确快速的从中确定驾驶员真正注视的预设注视区域。可以理解的,本申请实施例中在视线方向与两个预设注视区域相交的情况下,优先级最高的预设注视区域即两个预设注视区域中具有更高优先级的预设注视区域。
在第一方面的第二种可能的实现方式中,基于视线识别模型识别驾驶员图像中的视线方向,包括:
基于视线识别模型对驾驶员图像进行识别,获得相机坐标系下的视线方向。
在第一方面的第三种可能的实现方式中,分别计算视线方向与多个预设注视区域中的每一个预设注视区域是否相交,包括:
在内视摄像头的外参标定有效的情况下,将视线方向从相机坐标系转换到车身坐标系下,分别计算车身坐标系下的视线方向与车身坐标系下的多个预设注视区域中的每一个预设注视区域是否相交。
在第一方面的第四种可能的实现方式中,方法还包括:
在内视摄像头的外参标定失效的情况下,计算相机坐标系下的视线方向与视线基准向量之间的夹角;
在夹角连续大于或等于预设夹角阈值的时长大于或等于第四预设时长阈值,或者,在第二预设时间窗口内,夹角大于或等于预设夹角阈值的累计时长大于或等于第五预设时长阈值的情况下,确定驾驶员处于分心状态。
通过上述方案可知,在内视摄像头的外参标定失效的情况下,可以通过不依赖外参标定的相机坐标系下的视线方向与视线基准向量之间的夹角来进行分心判断,从而避免无法确定目标注视区域而导致分心判断中断。
在第一方面的第五种可能的实现方式中,在计算相机坐标系下的视线方向与视线基准向量之间的夹角之前,方法还包括:
计算基于连续N帧历史驾驶员图像识别的N个历史视线方向的方差,其中,N为正整数;
选取方差最小的N个历史视线方向的平均值作为视线基准向量,或者,选取方差最小的N个历史视线方向中任一历史视线方向作为视线基准向量。
在第一方面的第六种可能的实现方式中,方法还包括:
在内视摄像头的外参标定失效的情况下,基于头部转角识别模型识别驾驶员图像中驾驶员的头部转角;
在头部转角连续大于或等于预设角度阈值的时长大于或等于第六预设时长阈值,或者,在第三预设时间窗口内,头部转角大于或等于预设角度阈值的累计时长大于或等于第七预设时长阈值的情况下,确定驾驶员处于分心状态。
通过上述方案可知,在内视摄像头的外参标定失效的情况下,可以通过不依赖外参标定的相机坐标系下的头部转角来进行分心判断,从而避免无法确定目标注视区域而导致分心判断中断。
在第一方面的第七种可能的实现方式中,在判断满足预设分心条件的情况下,确定驾驶员处于分心状态之前,方法还包括:
判断车辆是否满足预设前置条件;
在车辆满足预设前置条件的情况下,执行在判断满足预设分心条件的情况下,确定驾驶员处于分心状态;
在车辆不满足预设前置条件的情况下,不执行在判断满足预设分心条件的情况下,确定驾驶员处于分心状态;
其中,预设前置条件包括以下至少一项:
内视摄像头处于未遮挡状态;
车速大于0;
车辆处于非堵车状态;
车辆未处于特殊状态;
特殊状态包括:当车辆处于预设场景下且驾驶员处于非疲劳状态时,车身姿态与预置转向相同且车速处于预设安全范围内,其中,预设场景包括转向、泊车、倒车中至少一项。
通过上述方案可知,在判断是否满足预设分心条件之前,先通过预设前置条件排除驾驶员是否分心与车辆安全无关的特殊场景,即只有满足预设前置条件时才会进行分心判断,从而可以节约资源、提高分心判断的准确率。
在第一方面的第八种可能的实现方式中,方法还包括:
在视线方向表征驾驶员处于闭眼状态,且驾驶员连续闭眼时长大于或等于第八预设时长阈值的情况下,输出驾驶疲劳提示信息,并清空针对分心判断的目标统计信息,其中,目标统计信息包括计时信息和/或加权得分信息。
通过上述方案可知,本申请实施例不仅能够检测出疲劳驾驶,输出驾驶疲劳提示信息,还能够将疲劳驾驶与分心驾驶区分开,在驾驶员处于疲劳驾驶时,清空针对分心判断的目标统计信息,从而可以对不同状态有针对性地进行分析与管理。
在第一方面的第九种可能的实现方式中,方法还包括:
在视线方向表征驾驶员处于双眼闭合状态,且双眼连续闭合时长大于或等于第九预设时长阈值后单眼睁开时,重新统计目标统计信息;
或者,在视线方向表征驾驶员处于单眼闭合状态,且单眼连续闭合时长大于或等于第九预设时长阈值时,重新统计目标统计信息。
通过上述方案可知,本申请实施例可以检测出驾驶员高频眨眼情况,并在这种情况下,重新统计目标统计信息,从而可以排除高频眨眼对分心判断的影响。
在第一方面的第十种可能的实现方式中,预设分心区域对应于至少一个分心等级,预设分心区域的分心等级与第一预设时长阈值呈负相关关系。
通过上述方案可知,本申请实施例将预设分心区域划分成至少一个分心等级,从而可以更细粒度地针对不同分心等级预设分心区域注视情况进行分心判断,进而提高了分心判断的准确率。
在第一方面的第十一种可能的实现方式中,与第一分心等级对应的预设分心区域包括内后视镜、中控屏、左侧车窗、左后视镜、右侧车窗、右后视镜、控制面板中至少一项,与第二分心等级对应的预设分心区域包括左侧门和/或右侧门,预设专心区域包括前风挡玻璃。
第二方面,本申请实施例提供了一种分心判断装置,装置包括:
识别单元,用于基于视线识别模型识别驾驶员图像中的视线方向;
区域确定单元,用于确定视线方向所属的目标注视区域;
分心确定单元,用于在判断满足预设分心条件的情况下,确定驾驶员处于分心状态;
其中,目标注视区域的类别包括预设专心区域、预设分心区域和其他分心区域中至少一项;
预设分心条件包括以下至少一项:
驾驶员连续注视第一目标注视区域的时长大于或等于第一预设时长阈值,第一目标注视区域属于预设分心区域;
驾驶员在第一预设时间窗口内累计注视第二目标注视区域的时长大于或等于第二预设时长阈值,第二目标注视区域不属于预设专心区域;
驾驶员连续注视第三目标注视区域的时长大于或等于第三预设时长阈值,第三目标注视区域属于其他分心区域;
基于连续多帧的驾驶员图像确定的多个目标注视区域加权得分大于或等于预设分数阈值。
在第二方面的第一种可能的实现方式中,区域确定单元,包括:
计算模块,用于分别计算视线方向与多个预设注视区域中的每一个预设注视区域是否相交,其中,预设注视区域包括预设专心区域和/或预设分心区域;
确定模块,用于在视线方向只与一个预设注视区域相交的情况下,将相交的预设注视区域确定为目标注视区域;或者,在视线方向与至少两个预设注视区域相交的情况下,根据预设区域优先级从至少两个预设注视区域中选择优先级最高的预设注视区域,并将优先级最高的预设注视区域确定为目标注视区域;或者,在视线方向表征驾驶员处于睁眼状态且视线方向与多个预设注视区域均不相交,或者,视线方向表征驾驶员处于闭眼状态的情况下,确定视线方向所属的注视区域为其他分心区域,并将其他分心区域确定为目标注视区域。
在第二方面的第二种可能的实现方式中,识别单元,用于基于视线识别模型对驾驶员图像进行识别,获得相机坐标系下的视线方向。
在第二方面的第三种可能的实现方式中,计算模块,用于在内视摄像头的外参标定有效的情况下,将视线方向从相机坐标系转换到车身坐标系下,分别计算车身坐标系下的视线方向与车身坐标系下的多个预设注视区域中的每一个预设注视区域是否相交。
在第二方面的第四种可能的实现方式中,装置还包括:
计算单元,用于在内视摄像头的外参标定失效的情况下,计算相机坐标系下的视线方向与视线基准向量之间的夹角;
分心确定单元,还用于在夹角连续大于或等于预设夹角阈值的时长大于或等于第四预设时长阈值,或者,在第二预设时间窗口内,夹角大于或等于预设夹角阈值的累计时长大于或等于第五预设时长阈值的情况下,确定驾驶员处于分心状态。
在第二方面的第五种可能的实现方式中,计算单元,还用于在计算相机坐标系下的视线方向与视线基准向量之间的夹角之前,计算基于连续N帧历史驾驶员图像识别的N个历史视线方向的方差,其中,N为正整数;
装置还包括:
选取单元,用于选取方差最小的N个历史视线方向的平均值作为视线基准向量,或者,选取方差最小的N个历史视线方向中任一历史视线方向作为视线基准向量。
在第二方面的第六种可能的实现方式中,识别单元,还用于在内视摄像头的外参标定失效的情况下,基于头部转角识别模型识别驾驶员图像中驾驶员的头部转角;
分心确定单元,还用于在头部转角连续大于或等于预设角度阈值的时长大于或等于第六预设时长阈值,或者,在第三预设时间窗口内,头部转角大于或等于预设角度阈值的累计时长大于或等于第七预设时长阈值的情况下,确定驾驶员处于分心状态。
在第二方面的第七种可能的实现方式中,装置还包括:
判断单元,用于在判断满足预设分心条件的情况下,确定驾驶员处于分心状态之前,判断车辆是否满足预设前置条件;
分心确定单元,还用于在车辆满足预设前置条件的情况下,执行在判断满足预设分心条件的情况下,确定驾驶员处于分心状态;在车辆不满足预设前置条件的情况下,不执行在判断满足预设分心条件的情况下,确定驾驶员处于分心状态;
其中,预设前置条件包括以下至少一项:
内视摄像头处于未遮挡状态;
车速大于0;
车辆处于非堵车状态;
车辆未处于特殊状态;
特殊状态包括:当车辆处于预设场景下且驾驶员处于非疲劳状态时,车身姿态与预置转向相同且车速处于预设安全范围内,其中,预设场景包括转向、泊车、倒车中至少一项。
在第二方面的第八种可能的实现方式中,装置还包括:
输出单元,用于在视线方向表征驾驶员处于闭眼状态,且驾驶员连续闭眼时长大于或等于第八预设时长阈值的情况下,输出驾驶疲劳提示信息;
清空单元,用于清空针对分心判断的目标统计信息,其中,目标统计信息包括计时信息和/或加权得分信息。
在第二方面的第九种可能的实现方式中,装置还包括:
统计单元,用于在视线方向表征驾驶员处于双眼闭合状态,且双眼连续闭合时长大于或等于第九预设时长阈值后单眼睁开时,重新统计目标统计信息;或者,在视线方向表征驾驶员处于单眼闭合状态,且单眼连续闭合时长大于或等于第九预设时长阈值时,重新统计目标统计信息。
在第二方面的第十种可能的实现方式中,预设分心区域对应于至少一个分心等级,预设分心区域的分心等级与第一预设时长阈值呈负相关关系。
在第二方面的第十一种可能的实现方式中,与第一分心等级对应的预设分心区域包括内后视镜、中控屏、左侧车窗、左后视镜、右侧车窗、右后视镜、控制面板中至少一项,与第二分心等级对应的预设分心区域包括左侧门和/或右侧门,预设专心区域包括前风挡玻璃。
第三方面,本申请实施例提供了一种存储介质,其上存储有计算机程序,程序被处理器执行时实现如第一方面任一种可能的实现方式所述的方法。
第四方面,本申请实施例提供了一种电子设备,电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当一个或多个程序被一个或多个处理器执行,使得电子设备实现如第一方面任一种可能的实现方式所述的方法。
第五方面,本申请实施例提供了一种车辆,车辆包含如第二方面任一种可能的实现方式所述的装置,或者包含如第四方面所述的电子设备。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单介绍。显而易见地,下面描述中的附图仅仅是本申请的一些实施例。对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种分心判断方法的流程示意图;
图2为本申请实施例提供的另一种分心判断方法的流程示意图;
图3为本申请实施例提供的又一种分心判断方法的流程示意图;
图4为本申请实施例提供的又一种分心判断方法的流程示意图;
图5为本申请实施例提供的又一种分心判断方法的流程示意图;
图6为本申请实施例提供的一种分心判断装置的组成框图;
图7为本申请实施例提供的一种车辆架构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整的描述。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例及附图中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。例如包含的一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
图1为一种分心判断方法的流程示意图,该方法可以应用车辆,也可以应用于服务器,该方法可以包括如下步骤:
S110:基于视线识别模型识别驾驶员图像中的视线方向。
在车辆行驶过程中,安装在车辆内部的内视摄像头可以采集驾驶员图像,并将采集的驾驶员图像传输给用于分心判断的电子设备,以便该电子设备从驾驶员图像中提取眼部特征,并将眼部特征输入到视线识别模型中,识别出视线方向。其中,用于分心判断的电子设备包括车辆内ECU(Electronic Control Unit,电子控制单元)等用于分心判断的控制器或者服务器。视线识别模型可以根据预先采集的大量驾驶员图像的眼部特征训练而得,且视线识别模型具体可以为线性回归模型,也可以为其他模型。
此外,本步骤基于视线识别模型对驾驶员图像进行识别,获得的是相机坐标系下的视线方向。
S120:确定视线方向所属的目标注视区域。
其中,目标注视区域的类别包括预设专心区域、预设分心区域和其他分心区域中至少一项。预设专心区域为驾驶员肯定在专心驾驶的注视区域,预设分心区域为可能存在驾驶员分心驾驶的预先设置的注视区域,其他分心区域为可能存在驾驶员分心驾驶的未知注视区域。
预设专心区域包括前风挡玻璃,预设分心区域包括内后视镜、中控屏、左侧车窗、左后视镜、右侧车窗、右后视镜、控制面板、左侧门和右侧门中至少一项,其他分心区域为除了预设专心区域和预设分心区域以外的注视区域。
在一种实施方式中,为了提高后续分心判断的准确性,可以将预设分心区域划分成至少一个分心等级,并且为不同分心等级配置不同分心判断标准。具体的,预设分心区域对应于至少一个分心等级,预设分心区域的分心等级与第一预设时长阈值呈负相关关系。与第一分心等级对应的预设分心区域包括内后视镜、中控屏、左侧车窗、左后视镜、右侧车窗、右后视镜、控制面板中至少一项,与第二分心等级对应的预设分心区域包括左侧门和/或右侧门,预设专心区域包括前风挡玻璃。第一预设时长阈值的相关信息详见S130的详解,在此不再赘述。
需要补充的是,本申请实施例的目标注视区域不限于车辆内的实体区域,还可以为逻辑区域。一个逻辑区域可以包括一个或多个完整的实体区域,还可以包括一个或多个实体区域的部分区域等,例如,可以以驾驶员正视前方为基准,划分出左、中、右三个逻辑区域,其中,中间区域为预设分心区域,左、右区域为预设分心区域,剩余区域为其他分心区域。
下面详细介绍本步骤S120的具体实现过程,如图2所示,该过程包括:
S121:分别计算视线方向与多个预设注视区域中的每一个预设注视区域是否相交。
其中,预设注视区域包括预设专心区域和/或预设分心区域。
在内视摄像头的外参标定有效的情况下,将视线方向从相机坐标系转换到车身坐标系下,分别计算车身坐标系下的视线方向与车身坐标系下的多个预设注视区域中的每一个预设注视区域是否相交。此外,也可以将车身坐标系下的多个预设注视区域分别从车身坐标系转换到相机坐标系下,再分别计算相机坐标系下的视线方向与相机坐标系下的多个预设注视区域中每个预设注视区域是否相交。也就是说,只要将视线方向和预设注视区域转换到同一个坐标系下进行相交计算即可。
S122:在视线方向只与一个预设注视区域相交的情况下,将相交的预设注视区域确定为目标注视区域。
S123:在视线方向与至少两个预设注视区域相交的情况下,根据预设区域优先级从至少两个预设注视区域中选择优先级最高的预设注视区域,并将优先级最高的预设注视区域确定为目标注视区域。可以理解的,本申请实施例中在视线方向与两个预设注视区域相交的情况下,优先级最高的预设注视区域即两个预设注视区域中具有更高优先级的预设注视区域。
在驾驶员注视某个预设注视区域时,可能会出现视线方向穿过其他预设注视区域,而产生与至少两个预设注视区域相交的情况,例如,驾驶员注视右后视镜时,视线会穿过右侧车窗。为解决该问题,可以预先在电子设备中设置包括各个预设注视区域优先级(即预设区域优先级)的配置文件,当视线方向与至少两个预设注视区域相交的情况下,可以从配置文件中读取预设区域优先级,并根据预设区域优先级确定至少两个预设注视区域中优先级最高的预设注视区域,并将优先级最高的预设注视区域确定为目标注视区域。其中,预设区域优先级可以根据实验经验确定,例如,右后视镜>右侧车窗。
S124:在视线方向表征驾驶员处于睁眼状态且视线方向与多个预设注视区域均不相交,或者,视线方向表征驾驶员处于闭眼状态的情况下,确定视线方向所属的注视区域为其他分心区域,并将其他分心区域确定为目标注视区域。
当驾驶员未注视上述任何预设注视区域,但是驾驶员处于睁眼状态时,可以将驾驶员的视线方向划分到其他分心区域,当驾驶员处于闭眼状态时,也可以说明驾驶员未注视上述任何预设注视区域,故也可以将驾驶员的视线方向划分到其他分心区域。
通过S121-S124可知,本申请实施例不仅可以通过判断视线方向与多个预设注视区域中的每一个预设注视区域是否相交的方式来确定目标注视区域,还可以在视线方向与至少两个预设注视区域相交的情况下,根据预设区域优先级准确快速的从中确定驾驶员真正注视的预设注视区域。
S130:在判断满足预设分心条件的情况下,确定驾驶员处于分心状态。
预设分心条件包括以下至少一项:
驾驶员连续注视第一目标注视区域的时长大于或等于第一预设时长阈值,第一目标注视区域属于预设分心区域;
驾驶员在第一预设时间窗口内累计注视第二目标注视区域的时长大于或等于第二预设时长阈值,第二目标注视区域不属于预设专心区域;
驾驶员连续注视第三目标注视区域的时长大于或等于第三预设时长阈值,第三目标注视区域属于其他分心区域;
基于连续多帧的驾驶员图像确定的多个目标注视区域加权得分大于或等于预设分数阈值。
其中,连续注视的含义除了包括字面意思上的连续不断注视之外,也可以包括在预定时间段内,注视动作的总时长超过一预设值。连续多帧的含义除了包括字面意思上的连续不断多帧外,也可以包括在预定时间段内,采集的驾驶员图像总帧数超过一预设值。驾驶员连续注视第一目标注视区域包括驾驶员连续注视同一个第一目标注视区域;驾驶员在第一预设时间窗口内累计注视第二目标注视区域包括驾驶员在第一预设时间窗口内累计注视至少一个第二目标注视区域;驾驶员连续注视第三目标注视区域包括驾驶员连续注视至少一个第三目标注视区域。
第一预设时长阈值、第二预设时长阈值、第三预设时长阈值、第一预设时间窗口和预设分数阈值为实际经验值,例如,第一预设时长阈值可以为2.5s,第二预设时长阈值可以为10s,第三预设时长阈值可以为2s,第一预设时间窗口可以为30s,预设分数阈值可以为80。当预设分心区域包括至少一个分心等级时,预设分心区域的分心等级与第一预设时长阈值呈负相关关系,即分心等级越高,第一预设时长阈值越小,如第一分心等级对应的第一预设时长阈值为2.5s,第二分心等级对应的第一预设时长阈值为2s。
此外,在多个目标注视区域进行加权计算时,所涉及的每个目标注视区域的权重可以根据不同目标注视区域的安全系数进行分配,该权重为实际经验值。例如在分配权重时,可以使得预设专心区域的权重<第一分心等级的预设分心区域的权重<第二分心等级的预设分心区域的权重<其他分心区域的权重。
示例性的,预设分心条件包括以下至少一项:
驾驶员连续注视第一分心等级的同一个预设分心区域的时长大于或等于2.5s;
驾驶员连续注视第二分心等级的同一个预设分心区域的时长大于或等于2s;
驾驶员在30s内累计注视非预设专心区域(即不属于预设专心区域的区域)的时长大于或等于10s;
驾驶员连续注视其他分心区域的时长大于或等于2s;
基于连续多帧的驾驶员图像确定的多个目标注视区域加权得分大于或等于80分。
需要补充的是,当驾驶员处于分心状态时,输出分心提醒信息,该分心提醒信息可以以文字形式输出,也可以以语音形式输出,且可以在车辆上输出(如中控屏、基于HUD(Head Up Display,平视显示器)输出在前挡风玻璃),也可以在用户移动终端(如手机)上输出。在用户移动终端上输出时,需要用于分心判断的电子设备生成分心提醒信息后,将分心提醒信息发送给用户移动终端。
与相关技术中需要使用可穿戴式分心检测设备,例如眼动仪,进行分心判断相比,本申请实施例提供的分心判断方法,能够先基于视线识别模型识别驾驶员图像中的视线方向,再确定该视线方向所属的目标注视区域,最后在满足预设分心条件(根据基于注视目标注视区域的时长和/或加权得分等设置的分心条件)的情况下,确定驾驶员处于分心状态。由此可知,本申请实施例通过将智能驾驶所必须的内视摄像头与软件的分心算法相结合做出分心判断,而无需驾驶员佩戴额外的设备,从而不仅不会影响驾驶员驾驶舒适度,还不会因为数据采集不准确而降低分心判断准确率。
基于上述方法实施例,本申请的另一个实施例还提供了一种分心判断方法,如图3所示,该方法包括:
S210:基于视线识别模型识别驾驶员图像中的视线方向。
内视摄像头包括外参标定和内参标定,相机坐标系下的计算可以根据内参标定确定,而从相机坐标系到车身坐标系的旋转和平移就需要依赖外参标定。因此,当外参标定有效的情况下,可以使用S220-S230所述的方法进行分心判断,当外参标定失效的情况下,可以使用S240-S250所述的方法进行分心判断。
S220:在内视摄像头的外参标定有效的情况下,确定视线方向所属的目标注视区域。
S230:在判断满足预设分心条件的情况下,确定驾驶员处于分心状态。
S240:在内视摄像头的外参标定失效的情况下,计算相机坐标系下的视线方向与视线基准向量之间的夹角。
其中,视线基准向量的计算过程包括:计算基于连续N帧历史驾驶员图像识别的N个历史视线方向的方差,其中,N为正整数;选取方差最小的N个历史视线方向的平均值作为视线基准向量,或者,选取方差最小的N个历史视线方向中任一历史视线方向作为视线基准向量。N的取值可以根据实际经验确定,如可以取10。
需要说明的是,不同批次计算的连续N帧历史驾驶员图像可以所有帧均不同,也可以部分帧不同,部分帧相同。
S250:在夹角连续大于或等于预设夹角阈值的时长大于或等于第四预设时长阈值,或者,在第二预设时间窗口内,夹角大于或等于预设夹角阈值的累计时长大于或等于第五预设时长阈值的情况下,确定驾驶员处于分心状态。
其中,预设夹角阈值、第四预设时长阈值、第二预设时间窗口和第五预设时长阈值可以根据实际经验确定,如预设夹角阈值可以为20度,第四预设时长阈值可以为2.5s,第二预设时间窗口可以为28s,第五预设时长阈值可以为8s。
本申请实施例提供的分心判断方法,能够在内视摄像头外参标定有效的情况下,根据驾驶员的视线方向所属的目标注视区域进行分心判断,在内视摄像头外参标定失效的情况下,通过不依赖外参标定的相机坐标系下的视线方向与视线基准向量之间的夹角来进行分心判断,从而不仅不用驾驶员佩戴额外的设备,还可以避免因无法确定目标注视区域而导致分心判断中断。
基于上述方法实施例,本申请的另一个实施例还提供了一种分心判断方法,如图4所示,该方法可以在内视摄像头的外参标定有效的情况下,采用S310-S330所述的分心判断方法,在内视摄像头的外参标定有效的情况下,采用S340-S350所述的分心判断方法,具体过程包括:
S310:判断内视摄像头的外参标定是否有效。
S320:在内视摄像头的外参标定有效的情况下,基于视线识别模型识别驾驶员图像中的视线方向。
S330:确定视线方向所属的目标注视区域。
S340:在判断满足预设分心条件的情况下,确定驾驶员处于分心状态。
S350:在内视摄像头的外参标定失效的情况下,基于头部转角识别模型识别驾驶员图像中驾驶员的头部转角。
电子设备从驾驶员图像中提取头部特征,并将头部特征输入到头部转角识别模型中,识别出头部转角。其中,头部转角识别模型可以根据预先采集的大量驾驶员图像的头部特征训练而得,且头部转角识别模型具体可以为线性回归模型,也可以为其他模型。
S360:在头部转角连续大于或等于预设角度阈值的时长大于或等于第六预设时长阈值,或者,在第三预设时间窗口内,头部转角大于或等于预设角度阈值的累计时长大于或等于第七预设时长阈值的情况下,确定驾驶员处于分心状态。
预设角度阈值、第六预设时长阈值、第三预设时间窗口和第七预设时长阈值可以根据实际经验确定,如预设角度阈值可以为45度,第六预设时长阈值可以为2.5s,第三预设时间窗口可以为29s,第七预设时长阈值可以为9s。
本申请实施例提供的分心判断方法,能够在内视摄像头外参标定有效的情况下,根据驾驶员的视线方向所属的目标注视区域进行分心判断,在内视摄像头外参标定失效的情况下,通过不依赖外参标定的相机坐标系下的头部转角来进行分心判断,从而不仅不用驾驶员佩戴额外的设备,还可以避免因无法确定目标注视区域而导致分心判断中断。
基于上述方法实施例,本申请的另一个实施例还提供了一种分心判断方法,如图5所示,该方法包括:
S410:判断车辆是否满足预设前置条件。在车辆满足预设前置条件的情况下,执行步骤S420,否则继续执行本步骤S410。
预设前置条件可以用于排除驾驶员是否分心与车辆安全无关的特殊场景,从而可以节约资源、提高分心判断准确率。
其中,预设前置条件包括以下至少一项:
内视摄像头处于未遮挡状态;
车速大于0;
车辆处于非堵车状态;
车辆未处于特殊状态;
特殊状态包括:当车辆处于预设场景下且驾驶员处于非疲劳状态时,车身姿态与预置转向相同且车速处于预设安全范围内,其中,预设场景包括转向、泊车、倒车中至少一项。
本申请实施例中检测驾驶员是否处于疲劳状态所采用的方法包括但不限于以下几种:(1)连续闭眼时长大于一定阈值;(2)基于DDS(The Drowsy Driver DetectionSystem,瞌睡预警系统)进行疲劳检测,即通过雷达扫描瞳孔状况并通过数据分析来判断驾驶员疲劳状态;(3)通过检测驾驶员的心率变异性,并根据心率变异性判断驾驶员疲劳状态。
预置转向包括左转、右转、直行,车身姿态也包括左转、右转、直行。在驾驶员处于非疲劳状态下,车辆最近一段时间内的平均速度可以作为预设安全范围,在不同时间段不同车辆的预设安全范围可以不同。
S420:基于视线识别模型识别驾驶员图像中的视线方向。
S430:确定视线方向所属的目标注视区域。
S440:在判断满足预设分心条件的情况下,确定驾驶员处于分心状态。
需要补充的是,本申请实施例以“判断车辆是否满足预设前置条件”的执行时机为开头为例,实际上,“判断车辆是否满足预设前置条件”的执行时机只要在“在判断满足预设分心条件的情况下,确定驾驶员处于分心状态”之前,均可,即S410的执行时机可以位于在S420(或者S430)之前、之后、甚至同时执行均可。
本申请实施例提供的分心判断方法,在判断是否满足预设分心条件之前,先通过预设前置条件排除驾驶员是否分心与车辆安全无关的特殊场景,即只有满足预设前置条件时才会进行分心判断,从而可以节约资源、提高分心判断准确率。
在一种实施方式中,为了将疲劳驾驶与分心驾驶区分开,从而对不同状态有针对性的进行分析与管理,本申请实施例还可以在视线方向表征驾驶员处于闭眼状态,且驾驶员连续闭眼时长大于或等于第八预设时长阈值的情况下,输出驾驶疲劳提示信息,并清空针对分心判断的目标统计信息,其中,目标统计信息包括计时信息和/或加权得分信息。
其中,第八预设时长阈值可以根据实际经验确定,例如可以为2.5s。
在一种实施方式中,为了排除高频眨眼对分心判断的影响,从而提高分心判断的准确率,本申请实施例可以采用如下方案:
在视线方向表征驾驶员处于双眼闭合状态,且双眼连续闭合时长大于或等于第九预设时长阈值后单眼睁开时,重新统计目标统计信息;或者,
在视线方向表征驾驶员处于单眼闭合状态,且单眼连续闭合时长大于或等于第九预设时长阈值时,重新统计目标统计信息。
其中,第八预设时长阈值可以根据实际经验确定,例如可以为2.5s。
相应于上述方法实施例,本申请实施例提供了一种分心判断装置,如图6所示,该装置包括:
识别单元50,用于基于视线识别模型识别驾驶员图像中的视线方向;
区域确定单元52,用于确定视线方向所属的目标注视区域;
分心确定单元54,用于在判断满足预设分心条件的情况下,确定驾驶员处于分心状态;
其中,目标注视区域的类别包括预设专心区域、预设分心区域和其他分心区域中至少一项;
预设分心条件包括以下至少一项:
驾驶员连续注视第一目标注视区域的时长大于或等于第一预设时长阈值,第一目标注视区域属于预设分心区域;
驾驶员在第一预设时间窗口内累计注视第二目标注视区域的时长大于或等于第二预设时长阈值,第二目标注视区域不属于预设专心区域;
驾驶员连续注视第三目标注视区域的时长大于或等于第三预设时长阈值,第三目标注视区域属于其他分心区域;
基于连续多帧的驾驶员图像确定的多个目标注视区域加权得分大于或等于预设分数阈值。
在一种实施方式中,区域确定单元52,包括:
计算模块,用于分别计算视线方向与多个预设注视区域中的每一个预设注视区域是否相交,其中,预设注视区域包括预设专心区域和/或预设分心区域;
确定模块,用于在视线方向只与一个预设注视区域相交的情况下,将相交的预设注视区域确定为目标注视区域;或者,在视线方向与至少两个预设注视区域相交的情况下,根据预设区域优先级从至少两个预设注视区域中选择优先级最高的预设注视区域,并将优先级最高的预设注视区域确定为目标注视区域;或者,在视线方向表征驾驶员处于睁眼状态且视线方向与多个预设注视区域均不相交,或者,视线方向表征驾驶员处于闭眼状态的情况下,确定视线方向所属的注视区域为其他分心区域,并将其他分心区域确定为目标注视区域。
在一种实施方式中,识别单元50,用于基于视线识别模型对驾驶员图像进行识别,获得相机坐标系下的视线方向。
在一种实施方式中,计算模块,用于在内视摄像头的外参标定有效的情况下,将视线方向从相机坐标系转换到车身坐标系下,分别计算车身坐标系下的视线方向与车身坐标系下的多个预设注视区域中的每一个预设注视区域是否相交。
在一种实施方式中,装置还包括:
计算单元,用于在内视摄像头的外参标定失效的情况下,计算相机坐标系下的视线方向与视线基准向量之间的夹角;
分心确定单元54,还用于在夹角连续大于或等于预设夹角阈值的时长大于或等于第四预设时长阈值,或者,在第二预设时间窗口内,夹角大于或等于预设夹角阈值的累计时长大于或等于第五预设时长阈值的情况下,确定驾驶员处于分心状态。
在一种实施方式中,计算单元,还用于在计算相机坐标系下的视线方向与视线基准向量之间的夹角之前,计算基于连续N帧历史驾驶员图像识别的N个历史视线方向的方差,其中,N为正整数;
装置还包括:
选取单元,用于选取方差最小的N个历史视线方向的平均值作为视线基准向量,或者,选取方差最小的N个历史视线方向中任一历史视线方向作为视线基准向量。
在一种实施方式中,识别单元50,还用于在内视摄像头的外参标定失效的情况下,基于头部转角识别模型识别驾驶员图像中驾驶员的头部转角;
分心确定单元54,还用于在头部转角连续大于或等于预设角度阈值的时长大于或等于第六预设时长阈值,或者,在第三预设时间窗口内,头部转角大于或等于预设角度阈值的累计时长大于或等于第七预设时长阈值的情况下,确定驾驶员处于分心状态。
在一种实施方式中,装置还包括:
判断单元,用于在判断满足预设分心条件的情况下,确定驾驶员处于分心状态之前,判断车辆是否满足预设前置条件;
分心确定单元54,还用于在车辆满足预设前置条件的情况下,执行在判断满足预设分心条件的情况下,确定驾驶员处于分心状态;在车辆不满足预设前置条件的情况下,不执行在判断满足预设分心条件的情况下,确定驾驶员处于分心状态;
其中,预设前置条件包括以下至少一项:
内视摄像头处于未遮挡状态;
车速大于0;
车辆处于非堵车状态;
车辆未处于特殊状态;
特殊状态包括:当车辆处于预设场景下且驾驶员处于非疲劳状态时,车身姿态与预置转向相同且车速处于预设安全范围内,其中,预设场景包括转向、泊车、倒车中至少一项。
在一种实施方式中,装置还包括:
输出单元,用于在视线方向表征驾驶员处于闭眼状态,且驾驶员连续闭眼时长大于或等于第八预设时长阈值的情况下,输出驾驶疲劳提示信息;
清空单元,用于清空针对分心判断的目标统计信息,其中,目标统计信息包括计时信息和/或加权得分信息。
在一种实施方式中,装置还包括:
统计单元,用于在视线方向表征驾驶员处于双眼闭合状态,且双眼连续闭合时长大于或等于第九预设时长阈值后单眼睁开时,重新统计目标统计信息;或者,在视线方向表征驾驶员处于单眼闭合状态,且单眼连续闭合时长大于或等于第九预设时长阈值时,重新统计目标统计信息。
在一种实施方式中,预设分心区域对应于至少一个分心等级,预设分心区域的分心等级与第一预设时长阈值呈负相关关系。
在一种实施方式中,与第一分心等级对应的预设分心区域包括内后视镜、中控屏、左侧车窗、左后视镜、右侧车窗、右后视镜、控制面板中至少一项,与第二分心等级对应的预设分心区域包括左侧门和/或右侧门,预设专心区域包括前风挡玻璃。
基于上述方法实施例,本申请的另一实施例提供了一种存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器实现如上任一实施方式所述的方法。
基于上述方法实施例,本申请的另一实施例提供了一种电子设备或计算机设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得电子设备或计算机设备实现如上任一实施方式所述的方法。
基于上述方法实施例,本申请的另一实施例提供了车辆,该车辆包含如上任一实施方式所述的装置,或者包含如上所述的电子设备。
如图7所示,车辆包括内后视镜61、中控屏62、左侧车窗63、左后视镜64、右侧车窗65、右后视镜66、控制面板67、左侧门68、右侧门69、前风挡玻璃610和内视摄像头611。在一些实施方式中,内后视镜61、中控屏62、左侧车窗63、左后视镜64、右侧车窗65、右后视镜66、控制面板67、左侧门68、右侧门69属于预设分心区域,前风挡玻璃610属于预设专心区域,车辆中的其他区域属于其他分心区域。内视摄像头611用于采集驾驶员图像信息,并将驾驶员图像信息传输给ECU等进行分心判断。驾驶员的视线方向用虚线表示,该视线方向所对应的目标注视区域为前风挡玻璃610,因此该驾驶员处于专心状态。可以理解的,以上对于专心区域或分心区域的划分方式是示例性的,也可以根据车辆的应用场景或其它指标进行进行划分,本申请对此不作限定。
车辆还包括GPS(Global Positioning System,全球定位系统)定位设备、V2X(Vehicle-to-Everything,车联网)、T-Box(TelematicsBox,远程信息处理器)、雷达、车外摄像头。其中,GPS定位设备用于获取车辆位置信息;V2X用于与其他车辆、路侧设备等进行通信;雷达或车外摄像头用于感知前方道路环境信息,雷达和/或车外摄像头可以配置在车身前部和/或车身尾部;T-Box可以作为无线网关,通过4G/5G等远程无线通讯、GPS卫星定位、加速度传感和CAN通讯等功能,为整车提供远程通讯接口,提供包括行车数据采集、行驶轨迹记录、车辆故障监控、车辆远程查询和控制(开闭锁、空调控制、车窗控制、发送机扭矩限制、发动机启停)、驾驶行为分析等服务。
上述装置实施例与方法实施例相对应,与该方法实施例具有同样的技术效果,具体说明参见方法实施例。装置实施例是基于方法实施例得到的,具体的说明可以参见方法实施例部分,此处不再赘述。本领域普通技术人员可以理解:附图只是一个实施例的示意图,附图中的模块或流程并不一定是实施本申请所必须的。
本领域普通技术人员可以理解:实施例中的装置中的模块可以按照实施例描述分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请实施例技术方案的精神和范围。
Claims (27)
1.一种分心判断方法,其特征在于,所述方法包括:
基于视线识别模型识别驾驶员图像中的视线方向;
确定所述视线方向所属的目标注视区域;
在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态;
其中,所述目标注视区域的类别包括预设专心区域、预设分心区域和其他分心区域中至少一项;
所述预设分心条件包括以下至少一项:
所述驾驶员连续注视第一目标注视区域的时长大于或等于第一预设时长阈值,所述第一目标注视区域属于所述预设分心区域;
所述驾驶员在第一预设时间窗口内累计注视第二目标注视区域的时长大于或等于第二预设时长阈值,所述第二目标注视区域不属于所述预设专心区域;
所述驾驶员连续注视第三目标注视区域的时长大于或等于第三预设时长阈值,所述第三目标注视区域属于所述其他分心区域;
基于连续多帧所述的驾驶员图像确定的多个所述目标注视区域加权得分大于或等于预设分数阈值。
2.根据权利要求1所述的方法,其特征在于,所述确定所述视线方向所属的目标注视区域,包括:
分别计算所述视线方向与多个预设注视区域中的每一个所述预设注视区域是否相交,其中,所述预设注视区域包括所述预设专心区域和/或所述预设分心区域;
在所述视线方向只与一个所述预设注视区域相交的情况下,将相交的所述预设注视区域确定为所述目标注视区域;或者,
在所述视线方向与至少两个所述预设注视区域相交的情况下,根据预设区域优先级从所述至少两个所述预设注视区域中选择优先级最高的预设注视区域,并将所述优先级最高的预设注视区域确定为所述目标注视区域;或者,
在所述视线方向表征所述驾驶员处于睁眼状态且所述视线方向与所述多个预设注视区域均不相交,或者,所述视线方向表征所述驾驶员处于闭眼状态的情况下,确定所述视线方向所属的注视区域为所述其他分心区域,并将所述其他分心区域确定为所述目标注视区域。
3.根据权利要求2所述的方法,其特征在于,所述基于视线识别模型识别驾驶员图像中的视线方向,包括:
基于所述视线识别模型对所述驾驶员图像进行识别,获得相机坐标系下的视线方向。
4.根据权利要求3所述的方法,其特征在于,所述分别计算所述视线方向与多个预设注视区域中的每一个所述预设注视区域是否相交,包括:
在内视摄像头的外参标定有效的情况下,将所述视线方向从相机坐标系转换到车身坐标系下,分别计算所述车身坐标系下的视线方向与所述车身坐标系下的多个预设注视区域中的每一个所述预设注视区域是否相交。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
在所述内视摄像头的外参标定失效的情况下,计算所述相机坐标系下的视线方向与视线基准向量之间的夹角;
在所述夹角连续大于或等于预设夹角阈值的时长大于或等于第四预设时长阈值,或者,在第二预设时间窗口内,所述夹角大于或等于预设夹角阈值的累计时长大于或等于第五预设时长阈值的情况下,确定所述驾驶员处于分心状态。
6.根据权利要求5所述的方法,其特征在于,在计算所述相机坐标系下的视线方向与视线基准向量之间的夹角之前,所述方法还包括:
计算基于连续N帧历史驾驶员图像识别的N个历史视线方向的方差,其中,N为正整数;
选取方差最小的N个历史视线方向的平均值作为所述视线基准向量,或者,选取方差最小的N个历史视线方向中任一历史视线方向作为所述视线基准向量。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在内视摄像头的外参标定失效的情况下,基于头部转角识别模型识别所述驾驶员图像中所述驾驶员的头部转角;
在所述头部转角连续大于或等于预设角度阈值的时长大于或等于第六预设时长阈值,或者,在第三预设时间窗口内,所述头部转角大于或等于预设角度阈值的累计时长大于或等于第七预设时长阈值的情况下,确定所述驾驶员处于分心状态。
8.根据权利要求1所述的方法,其特征在于,在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态之前,所述方法还包括:
判断车辆是否满足预设前置条件;
在所述车辆满足所述预设前置条件的情况下,执行所述在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态;
在所述车辆不满足所述预设前置条件的情况下,不执行所述在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态;
其中,所述预设前置条件包括以下至少一项:
内视摄像头处于未遮挡状态;
车速大于0;
所述车辆处于非堵车状态;
所述车辆未处于特殊状态;
所述特殊状态包括:当所述车辆处于预设场景下且所述驾驶员处于非疲劳状态时,车身姿态与预置转向相同且车速处于预设安全范围内,其中,预设场景包括转向、泊车、倒车中至少一项。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述视线方向表征所述驾驶员处于闭眼状态,且所述驾驶员连续闭眼时长大于或等于第八预设时长阈值的情况下,输出驾驶疲劳提示信息,并清空针对分心判断的目标统计信息,其中,所述目标统计信息包括计时信息和/或加权得分信息。
10.根据权利要求9所述的方法,其特征在于,所述方法还包括:
在所述视线方向表征所述驾驶员处于双眼闭合状态,且双眼连续闭合时长大于或等于第九预设时长阈值后单眼睁开时,重新统计所述目标统计信息;
或者,在所述视线方向表征所述驾驶员处于单眼闭合状态,且单眼连续闭合时长大于或等于所述第九预设时长阈值时,重新统计所述目标统计信息。
11.根据权利要求1-10中任一项所述的方法,其特征在于,所述预设分心区域对应于至少一个分心等级,所述预设分心区域的分心等级与所述第一预设时长阈值呈负相关关系。
12.根据权利要求11所述的方法,其特征在于,与第一分心等级对应的所述预设分心区域包括内后视镜、中控屏、左侧车窗、左后视镜、右侧车窗、右后视镜、控制面板中至少一项,与第二分心等级对应的所述预设分心区域包括左侧门和/或右侧门,所述预设专心区域包括前风挡玻璃。
13.一种分心判断装置,其特征在于,所述装置包括:
识别单元,用于基于视线识别模型识别驾驶员图像中的视线方向;
区域确定单元,用于确定所述视线方向所属的目标注视区域;
分心确定单元,用于在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态;
其中,所述目标注视区域的类别包括预设专心区域、预设分心区域和其他分心区域中至少一项;
所述预设分心条件包括以下至少一项:
所述驾驶员连续注视第一目标注视区域的时长大于或等于第一预设时长阈值,所述第一目标注视区域属于所述预设分心区域;
所述驾驶员在第一预设时间窗口内累计注视第二目标注视区域的时长大于或等于第二预设时长阈值,所述第二目标注视区域不属于所述预设专心区域;
所述驾驶员连续注视第三目标注视区域的时长大于或等于第三预设时长阈值,所述第三目标注视区域属于所述其他分心区域;
基于连续多帧所述的驾驶员图像确定的多个所述目标注视区域加权得分大于或等于预设分数阈值。
14.根据权利要求13所述的装置,其特征在于,所述区域确定单元,包括:
计算模块,用于分别计算所述视线方向与多个预设注视区域中的每一个所述预设注视区域是否相交,其中,所述预设注视区域包括所述预设专心区域和/或所述预设分心区域;
确定模块,用于在所述视线方向只与一个所述预设注视区域相交的情况下,将相交的所述预设注视区域确定为所述目标注视区域;或者,在所述视线方向与至少两个所述预设注视区域相交的情况下,根据预设区域优先级从所述至少两个所述预设注视区域中选择优先级最高的预设注视区域,并将所述优先级最高的预设注视区域确定为所述目标注视区域;或者,在所述视线方向表征所述驾驶员处于睁眼状态且所述视线方向与所述多个预设注视区域均不相交,或者,所述视线方向表征所述驾驶员处于闭眼状态的情况下,确定所述视线方向所属的注视区域为所述其他分心区域,并将所述其他分心区域确定为所述目标注视区域。
15.根据权利要求14所述的装置,其特征在于,所述识别单元,用于基于所述视线识别模型对所述驾驶员图像进行识别,获得相机坐标系下的视线方向。
16.根据权利要求15所述的装置,其特征在于,所述计算模块,用于在内视摄像头的外参标定有效的情况下,将所述视线方向从相机坐标系转换到车身坐标系下,分别计算所述车身坐标系下的视线方向与所述车身坐标系下的多个预设注视区域中的每一个所述预设注视区域是否相交。
17.根据权利要求16所述的装置,其特征在于,所述装置还包括:
计算单元,用于在所述内视摄像头的外参标定失效的情况下,计算所述相机坐标系下的视线方向与视线基准向量之间的夹角;
所述分心确定单元,还用于在所述夹角连续大于或等于预设夹角阈值的时长大于或等于第四预设时长阈值,或者,在第二预设时间窗口内,所述夹角大于或等于预设夹角阈值的累计时长大于或等于第五预设时长阈值的情况下,确定所述驾驶员处于分心状态。
18.根据权利要求17所述的装置,其特征在于,所述计算单元,还用于在计算所述相机坐标系下的视线方向与视线基准向量之间的夹角之前,计算基于连续N帧历史驾驶员图像识别的N个历史视线方向的方差,其中,N为正整数;
所述装置还包括:
选取单元,用于选取方差最小的N个历史视线方向的平均值作为所述视线基准向量,或者,选取方差最小的N个历史视线方向中任一历史视线方向作为所述视线基准向量。
19.根据权利要求13所述的装置,其特征在于,所述识别单元,还用于在内视摄像头的外参标定失效的情况下,基于头部转角识别模型识别所述驾驶员图像中所述驾驶员的头部转角;
所述分心确定单元,还用于在所述头部转角连续大于或等于预设角度阈值的时长大于或等于第六预设时长阈值,或者,在第三预设时间窗口内,所述头部转角大于或等于预设角度阈值的累计时长大于或等于第七预设时长阈值的情况下,确定所述驾驶员处于分心状态。
20.根据权利要求13所述的装置,其特征在于,所述装置还包括:
判断单元,用于在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态之前,判断车辆是否满足预设前置条件;
所述分心确定单元,还用于在所述车辆满足所述预设前置条件的情况下,执行所述在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态;在所述车辆不满足所述预设前置条件的情况下,不执行所述在判断满足预设分心条件的情况下,确定所述驾驶员处于分心状态;
其中,所述预设前置条件包括以下至少一项:
内视摄像头处于未遮挡状态;
车速大于0;
所述车辆处于非堵车状态;
所述车辆未处于特殊状态;
所述特殊状态包括:当所述车辆处于预设场景下且所述驾驶员处于非疲劳状态时,车身姿态与预置转向相同且车速处于预设安全范围内,其中,预设场景包括转向、泊车、倒车中至少一项。
21.根据权利要求13所述的装置,其特征在于,所述装置还包括:
输出单元,用于在所述视线方向表征所述驾驶员处于闭眼状态,且所述驾驶员连续闭眼时长大于或等于第八预设时长阈值的情况下,输出驾驶疲劳提示信息;
清空单元,用于清空针对分心判断的目标统计信息,其中,所述目标统计信息包括计时信息和/或加权得分信息。
22.根据权利要求21所述的装置,其特征在于,所述装置还包括:
统计单元,用于在所述视线方向表征所述驾驶员处于双眼闭合状态,且双眼连续闭合时长大于或等于第九预设时长阈值后单眼睁开时,重新统计所述目标统计信息;或者,在所述视线方向表征所述驾驶员处于单眼闭合状态,且单眼连续闭合时长大于或等于所述第九预设时长阈值时,重新统计所述目标统计信息。
23.根据权利要求13-22中任一项所述的装置,其特征在于,所述预设分心区域对应于至少一个分心等级,所述预设分心区域的分心等级与所述第一预设时长阈值呈负相关关系。
24.根据权利要求23所述的装置,其特征在于,与第一分心等级对应的所述预设分心区域包括内后视镜、中控屏、左侧车窗、左后视镜、右侧车窗、右后视镜、控制面板中至少一项,与第二分心等级对应的所述预设分心区域包括左侧门和/或右侧门,所述预设专心区域包括前风挡玻璃。
25.一种存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-12中任一所述的方法。
26.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述电子设备实现如权利要求1-12中任一所述的方法。
27.一种车辆,其特征在于,所述车辆包含如权利要求13-24中任一所述的装置,或者包含如权利要求26所述的电子设备。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210297856.4A CN114399753A (zh) | 2022-03-25 | 2022-03-25 | 分心判断方法、装置、存储介质、电子设备及车辆 |
PCT/CN2022/083706 WO2023178714A1 (zh) | 2022-03-25 | 2022-03-29 | 分心判断方法、装置、存储介质、电子设备及车辆 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210297856.4A CN114399753A (zh) | 2022-03-25 | 2022-03-25 | 分心判断方法、装置、存储介质、电子设备及车辆 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114399753A true CN114399753A (zh) | 2022-04-26 |
Family
ID=81234839
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210297856.4A Pending CN114399753A (zh) | 2022-03-25 | 2022-03-25 | 分心判断方法、装置、存储介质、电子设备及车辆 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114399753A (zh) |
WO (1) | WO2023178714A1 (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111353506A (zh) * | 2018-12-24 | 2020-06-30 | 北京三星通信技术研究有限公司 | 自适应的视线估计方法和设备 |
CN111709264A (zh) * | 2019-03-18 | 2020-09-25 | 北京市商汤科技开发有限公司 | 驾驶员注意力监测方法和装置及电子设备 |
CN113569785A (zh) * | 2021-08-04 | 2021-10-29 | 上海汽车集团股份有限公司 | 驾驶状态感知方法及装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114026611A (zh) * | 2019-06-10 | 2022-02-08 | 华为技术有限公司 | 使用热图检测驾驶员注意力 |
CN113313019A (zh) * | 2021-05-27 | 2021-08-27 | 展讯通信(天津)有限公司 | 一种分神驾驶检测方法、系统及相关设备 |
CN113378771B (zh) * | 2021-06-28 | 2022-07-26 | 济南大学 | 驾驶员状态确定方法、装置、驾驶员监控系统、车辆 |
-
2022
- 2022-03-25 CN CN202210297856.4A patent/CN114399753A/zh active Pending
- 2022-03-29 WO PCT/CN2022/083706 patent/WO2023178714A1/zh unknown
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111353506A (zh) * | 2018-12-24 | 2020-06-30 | 北京三星通信技术研究有限公司 | 自适应的视线估计方法和设备 |
CN111709264A (zh) * | 2019-03-18 | 2020-09-25 | 北京市商汤科技开发有限公司 | 驾驶员注意力监测方法和装置及电子设备 |
CN113569785A (zh) * | 2021-08-04 | 2021-10-29 | 上海汽车集团股份有限公司 | 驾驶状态感知方法及装置 |
Non-Patent Citations (1)
Title |
---|
刘觅涵等: "基于RGB相机的驾驶员注视区域估计", 《现代计算机》, no. 36, 25 December 2019 (2019-12-25), pages 70 - 76 * |
Also Published As
Publication number | Publication date |
---|---|
WO2023178714A1 (zh) | 2023-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4551766B2 (ja) | 被験者の頭及び目の動きを分析する方法及び装置 | |
CN108216251B (zh) | 驾驶员状态监测方法、系统及非瞬时性计算机可读介质 | |
US8085140B2 (en) | Travel information providing device | |
EP2535224B1 (en) | Driving support equipment for vehicles | |
EP1878604B1 (en) | Method of mitigating driver distraction | |
CN114026611A (zh) | 使用热图检测驾驶员注意力 | |
CN112289003B (zh) | 疲劳驾驶不端驾驶行为监测方法及主动安全驾驶监控系统 | |
JP7099037B2 (ja) | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム | |
CN112041910A (zh) | 信息处理装置、移动设备、方法和程序 | |
CN105654753A (zh) | 一种智能车载安全驾驶辅助方法及系统 | |
CN111179552A (zh) | 基于多传感器融合的驾驶员状态监测方法和系统 | |
US20180229654A1 (en) | Sensing application use while driving | |
JPH08178712A (ja) | 漫然運転検出装置 | |
CN109716411B (zh) | 用以监测驾驶员的活动水平的方法和设备 | |
JP4647387B2 (ja) | 車両の運転支援装置 | |
WO2008114839A1 (ja) | 覚醒度判定装置及び覚醒度判定方法 | |
CN105286802A (zh) | 基于视频信息的驾驶员疲劳检测方法 | |
CN114872713A (zh) | 一种驾驶员异常驾驶状态监测装置和方法 | |
JP2017208007A (ja) | 顔向き推定装置及び顔向き推定方法 | |
Mizuno et al. | Detecting driver's visual attention area by using vehicle-mounted device | |
Hoch et al. | The BMW SURF project: A contribution to the research on cognitive vehicles | |
CN113239827A (zh) | 基于深度学习的智能防撞方法、系统、设备及存储介质 | |
WO2023103708A1 (zh) | 分心区域的自动标定方法及装置、道路车辆、电子设备 | |
CN114399753A (zh) | 分心判断方法、装置、存储介质、电子设备及车辆 | |
JP2019086983A (ja) | 運転支援装置、運転状況情報取得システム、運転支援方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220426 |
|
RJ01 | Rejection of invention patent application after publication |