CN109426757B - 基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备 - Google Patents

基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备 Download PDF

Info

Publication number
CN109426757B
CN109426757B CN201710716168.6A CN201710716168A CN109426757B CN 109426757 B CN109426757 B CN 109426757B CN 201710716168 A CN201710716168 A CN 201710716168A CN 109426757 B CN109426757 B CN 109426757B
Authority
CN
China
Prior art keywords
information
module
driver
attention point
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710716168.6A
Other languages
English (en)
Other versions
CN109426757A (zh
Inventor
金会庆
王江波
李伟
程泽良
马晓峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui Sanlian Applied Traffic Technology Co ltd
Original Assignee
Anhui Sanlian Applied Traffic Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui Sanlian Applied Traffic Technology Co ltd filed Critical Anhui Sanlian Applied Traffic Technology Co ltd
Priority to CN201710716168.6A priority Critical patent/CN109426757B/zh
Publication of CN109426757A publication Critical patent/CN109426757A/zh
Application granted granted Critical
Publication of CN109426757B publication Critical patent/CN109426757B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备,包括:通过界面操作开启系统,初始化图像信息采集设备,预设信息处理逻辑;与服务器端建立通信连接并接受系统版本信息;检测系统版本信息版本、存储设备及图像信息采集设备,发出提示信息;服务器端接收提示信息,根据提示信息触发系统采集视频数据,提取当前单帧图片信息中的特征信息,根据特征信息构建头部姿态视线模型,根据图片样本进行头部姿态视线模型深度学习,生成深度学习结果集,从视频数据中提取单帧图片信息并保存为图片样本;根据预设处理逻辑处理得关注点检测信息;根据关注点检测信息和深度学习结果集获取姿态正误判定结果,根据姿态判定结果生成报告并存储。

Description

基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备
技术领域
本发明涉及驾考监测系统,特别是涉及基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备。
背景技术
随着时间的推进,中国驾驶人数量持续增多,加上传统技术中驾校通过教练人工配合简易电子检测提醒装置及系统监控学员进行驾驶考试,造成了驾校的驾驶人培养效率低下,驾驶人的驾驶技能学习质量亦无法得到保证,因此,伴随着驾驶人教育培训工作效率和效果的不理想,驾驶技能培训资源日益紧张的问题进一步凸显。由于在日常机动车辆见识考试检测的过程中,驾驶员视线检测时驾驶人考试检测过程中一项重要功能要求,而大部分驾驶人考试失误与考试人员的视线变化状态关系密切,传统技术中驾校教练坐在考试人员体侧并排,无法准确对考试人员视线关注方向准确检测。
目前,驾驶人检测方法主要有以下几种:基于传感器的检测,该类方法主要基于可穿戴式传感器,实时测量驾驶人身体的各部分的加速度信息或角速度信息,然后依据测量的信息检测驾驶人的行为状态。该类方法的缺点是需要随身携带穿戴式传感器,设备成本较高,使用极不方便。另一类技术主要基于视频图像分析的检测方法,通过直接提取图像特征及检测数据。该类方法的的缺点是背景建模不精确,直接使用提取的转头角度及关注点特征数据检测误差较大,造成误检和漏检较多,特征鲁棒性较低。
现有技术中需要随身携带穿戴式传感器,设备成本较高,使用不便,存在检测取值误差较大,造成误检和漏检较多,存在硬件成本高,特征鲁棒性较低,信息利用率低以及驾驶人姿态正误判定结果精确度低的技术问题。
发明内容
鉴于以上现有技术的硬件成本高,特征鲁棒性较低,信息利用率低以及驾驶人姿态正误判定结果精确度低的技术问题,本发明的目的在于提供一种基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备,解决现有技术中的硬件成本高,特征鲁棒性较低,信息利用率低以及驾驶人姿态正误判定结果精确度低的技术问题。
为实现上述目的及其他相关目的,本发明提供一种基于深度学习的驾驶人头部姿态监测方法涉及基于深度学习的驾驶人头部姿态监测系统,包括:通过界面进行硬件上电操作开启基于深度学习的驾驶人头部姿态监测系统系统,配置通信参数信息,初始化图像信息采集设备,预设信息处理逻辑;与服务器端建立通信连接并接受系统版本信息;检测系统版本信息版本、存储设备及图像信息采集设备,完成检测并发出提示信息;服务器端接收提示信息,根据提示信息触发系统采集视频数据,从视频数据中提取单帧图片信息并保存为图片样本,提取当前单帧图片信息中的转头角度及关注点特征信息,根据转头角度及关注点特征信息构建头部姿态视线模型,根据图片样本进行头部姿态视线模型深度学习,生成深度学习结果集;根据预设处理逻辑处理得驾驶人关注点检测信息;根据驾驶人关注点检测信息和深度学习结果集获取驾驶人姿态正误判定结果,根据驾驶人姿态正误判定结果生成检测报告并存储。
于本发明的一实施方式中,通过界面操作开启所述基于深度学习的驾驶人头部姿态监测系统,配置通信参数信息,初始化图像信息采集设备,预设信息处理逻辑,包括:开启硬件设备;检测硬件设备,判断硬件设备是否已安装系统;若是,则初始化通信参数信息、摄像头和检测装置;若否,则在硬件设备上安装系统。
于本发明的一实施方式中,与服务器端建立通信连接并接受系统版本信息,包括:向服务端发送连接请求信息;判断是否接收到服务端发来的观察指令;若是,则判定与服务端建立连接;若否,则持续发送连接请求信息直至与服务端建立连接。
于本发明的一实施方式中,检测系统版本信息版本、存储设备及图像信息采集设备,完成检测并发出提示信息,包括:与维护后台建立连接;获取维护后台发来的最新版本信息根据最新版本信息判断系统是否升级;若是,则判定系统为最新版本;若否,则根据维护后台发来的升级信息进行系统升级;检测存储硬盘以及摄像头并生成检测信息;根据检测信息发出提示信息。
于本发明的一实施方式中,服务器端接收提示信息,根据提示信息触发系统采集视频数据,从视频数据中提取单帧图片信息并保存为图片样本,提取当前单帧图片信息中的转头角度及关注点特征信息,根据转头角度及关注点特征信息构建头部姿态视线模型,根据图片样本进行头部姿态视线模型深度学习,生成深度学习结果集,包括:服务器端接收提示信息,获取驾驶人的视频数据;根据视频数据及时间提取当前的所示单帧图片信息;提取单帧图片信息中的转头角度及关注点特征数据;拼接转头角度及关注点特征数据得到转头角度及关注点特征向量;根据转头角度及关注点特征向量构建头部姿态视线模型;提取图片中的驾驶人关注点的全局变量与图片样本比对得出模型增量信息;头部姿态视线模型根据模型增量信息进行深度学习,更新头部姿态视线模型;保存单帧图片信息;聚集单帧图片信息得图片样本。
于本发明的一实施方式中,根据预设处理逻辑处理得驾驶人关注点检测信息,包括:提取当前单帧图片信息中的转头角度及关注点特征信息;融合转头角度及关注点特征信息获得全局转头角度及关注点特征信息;对比全局转头角度及关注点特征信息与上述图片样本中包含的转头角度及关注点特征向量得到相似度数据;对所有相似度数据排序获得驾驶人关注点检测信息。
于本发明的一实施方式中,本发明提供一种基于深度学习的驾驶人头部姿态监测系统,其特征在于,包括:系统初始模块、通信模块、自动检测模块、图像信息模块、模型计算模块和结果存储模块;系统初始模块,用于通过界面操作开启系统,配置通信参数信息,初始化图像信息采集设备,预设信息处理逻辑;通信模块,用于与服务器端建立通信连接并接受系统版本信息,通信模块与系统初始模块连接;自动检测模块,用于检测系统版本信息版本、存储设备及图像信息采集设备,完成检测并发出提示信息,自动检测模块与通讯模块连接;图像信息模块,用于服务器端接收提示信息,根据提示信息触发系统采集视频数据,从视频数据中提取单帧图片信息并保存为图片样本,提取当前单帧图片信息中的转头角度及关注点特征信息,根据转头角度及关注点特征信息构建头部姿态视线模型,根据图片样本进行头部姿态视线模型深度学习,生成深度学习结果集,图像信息模块与自动检测模块连接;模型计算模块,用于根据预设处理逻辑处理得驾驶人关注点检测信息,模型计算模块与图像信息模块连接;结果存储模块,用于根据驾驶人关注点检测信息和深度学习结果集获取驾驶人姿态正误判定结果,根据驾驶人姿态正误判定结果生成检测报告并存储,结果存储模块与模型计算模块连接。
于本发明的一实施方式中,系统初始模块,包括:硬件启动模块、安装检测模块、设备参数检测模块、安装模块;硬件启动模块,用于开启硬件设备;安装检测模块,用于检测硬件设备,判断硬件设备是否已安装系统,安装检测模块与硬件启动模块连接;设备参数检测模块,用于在硬件设备已安装系统时,初始化通信参数信息、摄像头和检测装置设备参数检测模块与硬件启动模块连接;安装模块,用于在硬件设备未安装系统时,在硬件设备上安装系统,安装模块与安装检测模块连接。
于本发明的一实施方式中,通信模块,包括:服务端请求模块、指令接收判断模块、连接判定模块和连接持续请求模块;服务端请求模块,用于向服务端发送连接请求信息;指令接收判断模块,用于判断是否接收到服务端发来的观察指令,接收判断模块与服务端请求模块连接;连接判定模块,用于在收到服务端发来的观察指令时,判定与服务端建立连接,连接判定模块与指令接收判断模块连接;连接持续请求模块,用于在未收到服务端发来的观察指令时,持续发送连接请求信息直至与服务端建立连接连接持续请求模块与指令接收判断模块连接。
于本发明的一实施方式中,自动检测模块,包括:维护连接模块、系统版本模块、版本判定模块、新版本模块、自升级模块、设备检测模块和后续动作触发模块;维护连接模块,用于与维护后台建立连接;系统版本模块,用于获取维护后台发来的最新版本信息,系统版本模块与维护连接模块连接;版本判断模块,用于根据最新版本信息判断系统是否升级,版本判断模块与系统版本模块连接;新版本模块,用于在系统版本为最新版本时,判定系统为最新版本,新版本模块与版本判断模块连接;自升级模块,用于在系统版本非最新版本时,根据维护后台发来的升级信息进行系统升级自升级模块与版本判断模块连接;设备检测模块,用于检测存储硬盘以及摄像头并生成检测信息;后续动作触发模块,用于根据检测信息发出提示信息,后续动作触发模块与版本判断模块连接,后续动作触发模块与设备检查模块连接。
于本发明的一实施方式中,图像信息模块,包括:视频数据接收模块、单帧获取模块、转头角度及关注点特征向量提取模块、向量拼接模块、模型构建模块、模型训练模块、单帧保存模块和图片样本模块;视频数据接收模块,用于服务器端接收提示信息,获取驾驶人的视频数据;单帧获取模块,用于根据视频数据及时间提取当前的所示单帧图片信息,单帧获取模块与视频数据接收模块连接;转头角度及关注点特征向量提取模块,用于提取单帧图片信息中的转头角度及关注点特征数据,转头角度及关注点特征向量提取模块与单帧获取模块连接;向量拼接模块,用于拼接转头角度及关注点特征数据得到转头角度及关注点特征向量,向量拼接模块与特征提取模块连接;模型构建模块,用于根据转头角度及关注点特征向量构建头部姿态视线模型,模型构建模块与向量拼接模块连接;模型增量模块,用于提取图片中的驾驶人关注点的全局变量比对得出模型增量信息,模型增量模块与模型构建模块连接;模型训练模块,用于头部姿态视线模型根据模型增量信息进行深度学习,更新头部姿态视线模型,模型训练模块与模型增量模块连接;单帧保存模块,用于保存单帧图片信息,单帧保存模块与模型训练模块;图片样本模块,用于聚集单帧图片信息得图片样本。图片样本模块与单帧保存模块连接。
于本发明的一实施方式中,模型计算模块包括:待测特征提取模块、特征融合模块、相似度比对模块和姿态计算模块;待测特征提取模块,用于提取当前单帧图片信息中的转头角度及关注点特征信息;特征融合模块,用于融合转头角度及关注点特征信息获得全局转头角度及关注点特征信息,特征融合模块与待测特征提取模块连接;相似度比对模块,用于对比所述全局转头角度及关注点特征信息与上述图片样本中包含的转头角度及关注点特征向量得到左B柱、左后视镜、内后视镜、俯视仪表盘右B柱、右后视镜、正前方、低头看档等八个动作特征相似度数据;姿态计算模块,用于对所有相似度数据排序获得驾驶人关注点检测信息,姿态计算模块与想似度比对模块连接。
于本发明的一实施方式中,本发明提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行本发明提供的基于深度学习的驾驶人头部姿态监测方法。
于本发明的一实施方式中,本发明提供一种基于深度学习的驾驶人头部姿态监测设备,包括:处理器及存储器;存储器用于存储计算机程序,处理器用于执行存储器存储的计算机程序,以使基于深度学习的驾驶人头部姿态监测设备执行本发明提供的基于深度学习的驾驶人头部姿态监测方法。
如上所述,本发明提供的种基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备,具有以下有益效果:本发明为了实现机动车驾驶科目三考试的全程电子监控与评判,驾驶考试视觉追踪技术样机通过车载摄像头提取驾驶员姿态等视频数据,利用深度学习神经网络等工具进行包括人脸检测、光流检测等在内的计算机视觉算法处理,完成驾驶员关注点检测、身体是否伸出车外等行为分析,提升科目三考试的客观性和精确性,减少人力成本,本发明解决了现有技术中的硬件成本高,特征鲁棒性较弱,信息利用率低以及驾驶人姿态正误判定结果精确度低的技术问题,对每一帧图像进行检查,一秒钟15帧,每一帧都会产生动作结果,样本训练用于人脸追踪,识别人脸动作特征,用于判断动作,以监控视频中获取的头部姿态图片作为样本库,特征鲁棒性强,实际检测准确率较高。
附图说明
图1显示为本发明的一种基于深度学习的驾驶人头部姿态监测方法实施例的流程图。
图2显示为图1中步骤S1在一实施例中的具体流程图。
图3显示为图1中步骤S2在一实施例中的具体流程图。
图4显示为图1中步骤S3在一实施例中的具体流程图。
图5显示为图1中步骤S4在一实施例中的具体流程图。
图6显示为图1中步骤S5在一实施例中的具体流程图。
图7显示为本发明的一种基于深度学习的驾驶人头部姿态监测系统结构示意图。
图8显示为图7中硬件启动模块11在一实施例中的具体模块示意图。
图9显示为图7中通信模块12在一实施例中的具体模块示意图。
图10显示为图7中自动检测模块13在一实施例中的具体模块示意图。
图11显示为图7中视频数据接收模块14在一实施例中的具体模块示意图。
图12显示为图7中模型计算模块15在一实施例中的具体模块示意图。
元件标号说明
1 基于深度学习的驾驶人头部姿态监测系统
11 统初始模块
12 通信模块
13 自动检测模块
14 图像信息模块
15 模型计算模块
16 结果存储模块
111 硬件启动模块
112 安装检测模块
113 设备参数检测模块
114 安装模块
121 服务端请求模块
122 指令接收判断模块
123 连接判定模块
124 连接持续请求模块
131 维护连接模块
132 系统版本模块
133 版本判定模块
134 新版本模块
135 自升级模块
136 设备检测模块
137 后续动作触发模块
141 视频数据接收模块
142 单帧获取模块
143 转头角度及关注点特征向量提取模块
144 向量拼接模块
145 模型构建模块
146 模型增量模块
147 模型训练模块
148 单帧保存模块
149 图片样本模块
51 待测特征提取模块
52 特征融合模块
53 相似度比对模块
54 姿态计算模块
步骤标号说明
S1~S6 方法步骤
S11~S14 方法步骤
S21~S24 方法步骤
S31~S37 方法步骤
S41~S49 方法步骤
S51~S54 方法步骤
具体实施方式
以下由特定的具体实施例说明本发明的实施方式,熟悉此技术的人士可由本说明书所揭露的内容轻易地了解本发明的其他优点及功效。
请参阅图1至图12,须知,本说明书所附图式所绘示的结构,均仅用以配合说明书所揭示的内容,以供熟悉此技术的人士了解与阅读,并非用以限定本发明可实施的限定条件,故不具技术上的实质意义,任何结构的修饰、比例关系的改变或大小的调整,在不影响本实用新型所能产生的功效及所能达成的目的下,均应仍落在本发明所揭示的技术内容所能涵盖的范围内。同时,本说明书中所引用的如”上”、”下”、”左”、”右”、”中间”及”一”等的用语,亦仅为便于叙述的明了,而非用以限定本发明可实施的范围,其相对关系的改变或调整,在无实质变更技术内容下,当亦视为本发明可实施的范畴。
请参阅图1,显示本发明的一种基于深度学习的驾驶人头部姿态监测方法实施例的流程图,如图1所示,所述方法包括:
步骤S1、通过界面进行硬件上电操作开启基于深度学习的驾驶人头部姿态监测系统,配置通信参数信息,初始化图像信息采集设备,预设信息处理逻辑,用户通过安装驾驶员视线监测系统的控制平板、计算机等客户终端上在系统主界面通过按下系统启动按钮开启系统,系统自动进行安装检测及设置,并对摄像头、传感器及存储磁盘等硬件设备进行初始化;
步骤S2、与服务器端建立通信连接并接受系统版本信息,本系统通信采用HTTP协议,JSON数据格式作为通讯数据格式,HTTP请求方式为POST,系统向服务器端发送通信连接请求并应答,与服务器端之间建立上下行通信传输通道;
步骤S3、检测系统版本信息版本、存储设备及图像信息采集设备,完成检测并发出提示信息,系统自动对系统安装版本根据在线最新的安装版本信息判定系统本身的版本并按照对比信息自动安装系统,对SD卡、摄像头及传感器进行测试,形成检测日志文件并存储,同时根据监测结果触发系统处理图像信息;
步骤S4、服务器端接收提示信息,根据提示信息触发系统采集视频数据,从视频数据中提取单帧图片信息并保存为图片样本,提取当前单帧图片信息中的转头角度及关注点特征信息,根据转头角度及关注点特征信息构建头部姿态视线模型,根据图片样本进行头部姿态视线模型深度学习,生成深度学习结果集,通过安装于驾驶室内的摄像头采集驾驶员的眼部视频数据,将视频数据中的单帧图像信息作为图像分析样本存储,并将视频数据保存于SD卡中;
步骤S5、根据预设处理逻辑处理得驾驶人关注点检测信息,从存储设备中提取通过摄像头采集的视频信息,将视频信息分帧处理,提取当前帧的图片信息,根据图片信息中包含的转头角度及关注点特征信息构建深度神经网络模型,并使用图片分析样本训练深度神经网络模型,通过车载摄像头提取驾驶员姿态等视频数据,利用深度学习神经网络等工具进行包括人脸检测、光流检测等在内的计算机视觉算法处理,视频处理模块进行视频数据采集,生成单帧原始尺寸720p高清图片用于驾驶员关注点检测,将原始尺寸图片压缩为JPG图片存放至为上级设备特定测量指令设置的专用目录。在收到上级设备结束测量时,将该目录下所有图片打包压缩,转存至SD卡指定目录备用,检测驾驶员关注点。若检测有人脸出现在摄像头视野范围内,则使用深度学习神经网络以及相关逻辑,进行人脸位置标定并判断其朝向,即驾驶员关注点;
步骤S6、根据驾驶人关注点检测信息和深度学习结果集获取驾驶人姿态正误判定结果,根据驾驶人姿态正误判定结果生成检测报告并存储。
请参阅图2,显示为图1中步骤S1在一实施例中的具体流程图,具体包括:
步骤S11、开启硬件设备,用户通过主控界面上电操作开启系统硬件设备的电源,在移动终端的主界面上点击驾驶员视线检测系统的光标开启,系统硬件设备主要包括安装于驾驶室驾驶座与驾驶员相对位置上的若干摄像头、安装于驾驶座上的检测设备以及客户终端,驾考系统设备在部署时不提供操作界面。系统软件在安装时在Ubuntu系统autostart目录下设置软件自启动配置。硬件上电,Ubuntu系统启动时执行启动脚本,自动启动驾考系统程序;
步骤S12、检测硬件设备,判断硬件设备是否已安装系统,可通过对系统中的文件路径遍历查找硬件设备中是否已经存在系统的安装路径,并根据安装路径检测硬件设备中是否已经安装了监视员视线监测系统;
步骤S13、若是,则初始化通信参数信息、摄像头和检测装置驾考系统和上级设备的IP 地址均可配置,对通信信息的种类、信息ID及各式通信协议、传输数据各式进行初始化,通过硬件设备中的设备列表初始化摄像头和监测传感器;
步骤S14、若否,则在硬件设备上安装系统,硬件设备及移动终端中未安装驾驶员视线监测系统时,通过接收远程维护中心发来的最新版本系统安装文件并安装。
请参阅图3,显示为图1中步骤S2在一实施例中的具体流程图,具体包括:
步骤S21、向服务端发送连接请求信息;
步骤S22、判断是否接收到服务端发来的观察指令;
步骤S23、若是,则判定与服务端建立连接;
步骤S24、若否,则持续发送连接请求信息直至与服务端建立连接。
请参阅图4,显示为图1中步骤S3在一实施例中的具体流程图,具体包括:
步骤S31、与维护后台建立连接,提供HTTP服务,考试开始指令JSON解析和封装应答消息,测量开始指令JSON解析和封装应答消息,处理来自上级设备的操作指令,解析JSON串取出业务类型,完成算法处理结果的上报;完成远程维护中心的升级、维护等操作请求;
步骤S32、获取维护后台发来的最新版本信息,调用相应的子模块,并把处理结果封装 JSON串回复请求端;
步骤S33、根据最新版本信息判断系统是否升级;
步骤S34、若是,则判定系统为最新版本;
步骤S35、若否,则根据维护后台发来的升级信息进行系统升级,接收在线维护后台发来的最新版本系统安装包或者升级包,从安装包或升级包中获得最新版本系统的安装数据,根据用户终端文件系统中的路径安装最新版本的系统,输入Setup.py:软件安装自动配置脚本、DriverEquipment.desktop:软件自启动配置文件、Driversafe_start.sh:软件自启动脚本;
步骤S36、检测存储硬盘以及摄像头并生成检测信息,存储硬盘、摄像头及传感器与系统的扩展接口连接,系统可对存储硬盘如SD卡或磁盘的使用状态及容量等信息监测并获取驾驶人姿态正误判定结果,同时对摄像头及传感器的状态进行检测;
步骤S37、根据检测信息发出提示信息,接收系统驾驶人姿态正误判定结果数据,如果系统驾驶人姿态正误判定结果数据显示整个系统检测正常,则对系统其它功能模块发出开始采集数据和处理数据的触发信息,启动软件可执行程序DriverEquipment,进入系统。
请参阅图5,显示为图1中步骤S4在一实施例中的具体流程图,具体包括:
步骤S41、服务器端接收提示信息,获取驾驶人的视频数据,摄像头通过感光成像元件实时获取驾驶人在驾驶过程中的视频图像,并将摄像获取的视频数据通过数据总线或无线传输的方式发至图像处理逻辑;
步骤S42、根据视频数据及时间提取当前的所示单帧图片信息,驾驶员视线检测系统根据预设的图像处理逻辑处理视频信息,得到单帧原始尺寸图片、压缩格式图片,优选的,对摄像头获取的视频数据根据时间戳分帧处理,将生成的单帧图片用于图像算法库进行相应分析,并把图片压缩存储用于报告生成;
步骤S43、提取单帧图片信息中的转头角度及关注点特征数据,将由视频数据处理获得的单帧图片信息保存至存储设备中供组建样本和后续操作中的图像信息提取;
步骤S44、拼接转头角度及关注点特征数据得到转头角度及关注点特征向量,从图像存储队列中提取出单帧图片信息并聚集为图像分析样本,该图像分析样本用于训练深度神经网络模型;
步骤S45、根据转头角度及关注点特征向量构建头部姿态视线模型;
步骤S46、提取图片中的驾驶人关注点的全局变量与图片样本比对得出模型增量信息;
步骤S47、头部姿态视线模型根据模型增量信息进行深度学习,更新头部姿态视线模型;
步骤S48、保存单帧图片信息;
步骤S49、聚集单帧图片信息得图片样本。
请参阅图6,显示为图1中步骤S5在一实施例中的具体流程图,具体包括:
步骤S51、提取当前单帧图片信息中的转头角度及关注点特征信息,经过处理的头部图像数据集提取局部转头角度及关注点特征向量集,然后将局部转头角度及关注点特征向量集融合得到头部姿态转头角度及关注点特征向量,将待测头部视线图像及姿态图像经过预处理,提取头部局部转头角度及关注点特征向量和全局头部转头角度及关注点特征向量并融合得到全局转头角度及关注点特征向量,对图像分析样本中的每张头部姿态图片进行预处理,得带待测图片预处理信息,;
步骤S52、融合转头角度及关注点特征信息获得全局转头角度及关注点特征信息,根据图像分析样本的待测图片预处理信息获取样本中包含的样本全局转头角度及关注点特征向量;
步骤S53、对比所述全局转头角度及关注点特征信息与上述图片样本中包含的转头角度及关注点特征向量得到左B柱、左后视镜、内后视镜、俯视仪表盘右B柱、右后视镜、正前方、低头看档等八个动作特征相似度数据,相似度数据用于判定在科目三考试中的下述情景中的驾驶员的操作违规判定:
场景一:起步前,未观察内,外后视镜,回头观察后方交通情况的。起步前,观察左右后视镜:头部向左偏转30度,驾驶员没有观察左后视镜;头部向左偏转大于30度;观看内后视镜,头部向右偏转大于30度,头部上仰角度大于30度;左后方,头部向左偏转大于60度,以上情况判定违规。
场景二:视线离开行驶方向超过2秒的。车辆行驶过程中,驾驶员视线离开正前方,偏向一侧持续时间超过两秒时,判定违规。
场景三:行驶过程中低头看档。行驶过程中,低头看档超过2秒的,低头看档时,头部向右偏转大于30度的持续时间超过2秒的,低头角度大于30度,持续时间超过2秒的,判定违规。
场景四:车辆行驶转弯过程中,未通过左后视镜观察道路交通情况的;打开左转向灯后,若考生没有观察左后视镜,头部未向左偏转30度至60度,判定违规。
场景五:车辆行驶转弯过程中,未通过右后视镜观察道路交通情况的;打开右转向等后,若考生没有观察右后视镜,头部未向右偏转45度至60度,判定违规。
场景六:变更车道前,未通过内、外后视镜观察,并向变更车道方向回头观察后放道路交通情况的;收到“变更车道”语音指令后,或驾驶员开启转向灯后一定时长内,若没有观察内外后视镜及相应测的后方,头部偏转大于60度时,判定违规。
场景七:停车前,不通过内、外后视镜观察后方和右侧交通情况,并回头观察确认安全的打开右转向灯后,车速降至0的过程中,若驾驶员没有观察内后视镜,右后视镜、右后方,判定违规。
场景八:需要下车的,在打开车门前不回头观察左后方交通情况的;车速为0时,若驾驶员再打开车门前没有观察左后方时,判定违规;
步骤S54、对所有相似度数据排序获得驾驶人关注点检测信息,此处相似度数据位余弦相似度值。
请参阅图7,显示为本发明的一种基于深度学习的驾驶人头部姿态监测系统结构示意图,如图7所示,基于深度学习的驾驶人头部姿态监测系统1,其特征在于,包括:系统初始模块11、通信模块12、自动检测模块13、图像信息模块14、模型计算模块15和结果存储模块 16;系统初始模块11,用于通过界面进行硬件上电操作开启基于深度学习的驾驶人头部姿态监测系统系统,配置通信参数信息,初始化图像信息采集设备,预设信息处理逻辑,用户通过安装驾驶员视线监测系统的控制平板、计算机等客户终端上在系统主界面通过按下系统启动按钮开启系统,系统自动进行安装检测及设置,并对摄像头、传感器及存储磁盘等硬件设备进行初始化;通信模块12,用于与服务器端建立通信连接并接受系统版本信息,本系统通信采用HTTP协议,JSON数据格式作为通讯数据格式,HTTP请求方式为POST,系统向服务器端发送通信连接请求并应答,与服务器端之间建立上下行通信传输通道,通信模块12与系统初始模块11连接;自动检测模块13,用于检测系统版本信息版本、存储设备及图像信息采集设备,完成检测并发出提示信息,检测系统版本信息版本、存储设备及图像信息采集设备,完成检测并发出提示信息,系统自动对系统安装版本根据在线最新的安装版本信息判定系统本身的版本并按照对比信息自动安装系统,对SD卡、摄像头及传感器进行测试,形成检测日志文件并存储,同时根据监测结果触发系统处理图像信息,自动检测模块13与通讯模块12连接;图像信息模块14,用于服务器端接收提示信息,根据提示信息触发系统采集视频数据,从视频数据中提取单帧图片信息并保存为图片样本,提取当前单帧图片信息中的转头角度及关注点特征信息,根据转头角度及关注点特征信息构建头部姿态视线模型,根据图片样本进行头部姿态视线模型深度学习,生成深度学习结果集,通过安装于驾驶室内的摄像头采集驾驶员的眼部视频数据,将视频数据中的单帧图像信息作为图像分析样本存储,并将视频数据保存于SD卡中,图像信息模块14与自动检测模块13连接;模型计算模块15,用于根据预设处理逻辑处理得驾驶人关注点检测信息,从存储设备中提取通过摄像头采集的视频信息,将视频信息分帧处理,提取当前帧的图片信息,根据图片信息中包含的转头角度及关注点特征信息构建深度神经网络模型,并使用图片分析样本训练深度神经网络模型,通过车载摄像头提取驾驶员姿态等视频数据,利用深度学习神经网络等工具进行包括人脸检测、光流检测等在内的计算机视觉算法处理,视频处理模块进行视频数据采集,生成单帧原始尺寸720p高清图片用于驾驶员关注点检测,将原始尺寸图片压缩为JPG图片存放至为上级设备特定测量指令设置的专用目录。在收到上级设备结束测量时,将该目录下所有图片打包压缩,转存至SD卡指定目录备用,检测驾驶员关注点。若检测有人脸出现在摄像头视野范围内,则使用深度学习神经网络以及相关逻辑,进行人脸位置标定并判断其朝向,即驾驶员关注点,模型计算模块15与图像信息模块14连接;结果存储模块16,用于根据驾驶人关注点检测信息和深度学习结果集获取驾驶人姿态正误判定结果,根据驾驶人姿态正误判定结果生成检测报告并存储,结果存储模块16与模型计算模块15连接。
请参阅图8,显示图7中硬件启动模块11在一实施例中的具体模块示意图,具体包括:硬件启动模块111、安装检测模块112、设备参数检测模块113、安装模块114;硬件启动模块111,用于开启硬件设备,用户通过主控界面上电操作开启系统硬件设备的电源,在移动终端的主界面上点击驾驶员视线检测系统的光标开启,系统硬件设备主要包括安装于驾驶室驾驶座与驾驶员相对位置上的若干摄像头、安装于驾驶座上的检测设备以及客户终端,驾考系统设备在部署时不提供操作界面。系统软件在安装时在Ubuntu系统autostart目录下设置软件自启动配置。硬件上电,Ubuntu系统启动时执行启动脚本,自动启动驾考系统程序;安装检测模块112,用于检测硬件设备,判断硬件设备是否已安装系统,可通过对系统中的文件路径遍历查找硬件设备中是否已经存在系统的安装路径,并根据安装路径检测硬件设备中是否已经安装了监视员视线监测系统,安装检测模块112与硬件启动模块111连接;设备参数检测模块113,用于若是,则初始化通信参数信息、摄像头和检测装置驾考系统和上级设备的IP地址均可配置,对通信信息的种类、信息ID及各式通信协议、传输数据各式进行初始化,通过硬件设备中的设备列表初始化摄像头和监测传感器,设备参数检测模块113与硬件启动模块111连接;安装模块114,用于若否,则在硬件设备上安装系统,硬件设备及移动终端中未安装驾驶员视线监测系统时,通过接收远程维护中心发来的最新版本系统安装文件并安装,安装模块114与安装检测模块112连接。
请参阅图9,显示为图7中通信模块12在一实施例中的具体模块示意图,具体包括:服务端请求模块121、指令接收判断模块122、连接判定模块123和连接持续请求模块124;服务端请求模块121,用于向服务端发送连接请求信息;指令接收判断模块122,用于判断是否接收到服务端发来的观察指令,接收判断模块122与服务端请求模块121连接;连接判定模块123,用于在收到服务端发来的观察指令时,判定与服务端建立连接,连接判定模块123与指令接收判断模块122连接;连接持续请求模块124,用于在未收到服务端发来的观察指令时,持续发送连接请求信息直至与服务端建立连接,连接持续请求模,124与指令接收判断模块122连接。
请参阅图10,显示为图7中自动检测模块13在一实施例中的具体模块示意图,具体包括:维护连接模块131、系统版本模块132、版本判定模块133、新版本模块134、自升级模块135、设备检测模块136和后续动作触发模块137;维护连接模块131,用于与维护后台建立连接,提供HTTP服务,考试开始指令JSON解析和封装应答消息,测量开始指令JSON 解析和封装应答消息,处理来自上级设备的操作指令,解析JSON串取出业务类型,完成算法处理结果的上报;完成远程维护中心的升级、维护等操作请求;系统版本模块132,用于获取维护后台发来的最新版本信息,调用相应的子模块,并把处理结果封装JSON串回复请求端,系统版本模块132与维护连接模块131连接;版本判断模块133,用于根据最新版本信息判断系统是否升级,版本判断模块133与系统版本模块132连接;新版本模块134,用于在系统版本为最新版本时,判定系统为最新版本,新版本模块134与版本判断模块133连接;自升级模块135,用于没有最新版本的系统时,则根据维护后台发来的升级信息进行系统升级,接收在线维护后台发来的最新版本系统安装包或者升级包,从安装包或升级包中获得最新版本系统的安装数据,根据用户终端文件系统中的路径安装最新版本的系统,输入 Setup.py:软件安装自动配置脚本、DriverEquipment.desktop:软件自启动配置文件、 Driversafe start.sh:软件自启动脚本,自升级模块135与版本判断模块133连接;设备检测模块136,用于检测存储硬盘以及摄像头并生成检测信息,存储硬盘、摄像头及传感器与系统的扩展接口连接,系统可对存储硬盘如SD卡或磁盘的使用状态及容量等信息监测并获取驾驶人姿态正误判定结果,同时对摄像头及传感器的状态进行检测;后续动作触发模块137,用于根据检测信息发出提示信息,接收系统驾驶人姿态正误判定结果数据,如果系统驾驶人姿态正误判定结果数据显示整个系统检测正常,则对系统其它功能模块发出开始采集数据和处理数据的触发信息,启动软件可执行程序DriverEquipment,进入系统,后续动作触发模块 137与设备检查模块236连接。
请参阅图11,显示为图7中视频数据接收模块14在一实施例中的具体模块示意图,具体包括:视频数据接收模块141、单帧获取模块142、转头角度及关注点特征向量提取模块143、向量拼接模块144、模型构建模块145、模型增量模块146、模型训练模块147、单帧保存模块148和图片样本模块149;视频数据接收模块141,用于服务器端接收提示信息,获取驾驶人的视频数据,摄像头通过感光成像元件实时获取驾驶人在驾驶过程中的视频图像,并将摄像获取的视频数据通过数据总线或无线传输的方式发至图像处理逻辑;单帧获取模块142,用于根据视频数据及时间提取当前的所示单帧图片信息,驾驶员视线检测系统根据预设的图像处理逻辑处理视频信息,得到单帧原始尺寸图片、压缩格式图片,优选的,对摄像头获取的视频数据根据时间戳分帧处理,将生成的单帧图片用于图像算法库进行相应分析,并把图片压缩存储用于报告生成,单帧获取模块142与视频数据接收模块141连接;转头角度及关注点特征向量提取模块143,用于提取单帧图片信息中的转头角度及关注点特征数据,将由视频数据处理获得的单帧图片信息保存至存储设备中供组建样本和后续操作中的图像信息提取,转头角度及关注点特征向量提取模块143与单帧获取模块142连接;向量拼接模块 144,用于拼接转头角度及关注点特征数据得到转头角度及关注点特征向量,从图像存储队列中提取出单帧图片信息并聚集为图像分析样本,该图像分析样本用于训练深度神经网络模型,向量拼接模块144与特征提取模块143连接;模型构建模块145,用于根据转头角度及关注点特征向量构建头部姿态视线模型,模型构建模块145与向量拼接模块144连接;模型增量模块146,用于提取图片中的驾驶人关注点的全局变量比对得出模型增量信息,模型增量模块146与模型构建模块145连接;模型训练模块147,用于头部姿态视线模型根据模型增量信息进行深度学习,更新头部姿态视线模型,模型训练模块147与模型增量模块146连接;单帧保存模块148,用于保存单帧图片信息,单帧保存模块148与模型训练模块147连接;图片样本模块149,用于聚集单帧图片信息得图片样本。图片样本模块149与单帧保存模块 148连接。
请参阅图12,显示为图7中模型计算模块15在一实施例中的具体模块示意图,具体包括:待测特征提取模块151、特征融合模块152、相似度比对模块153和姿态计算模块154;待测特征提取模块151,用于提取当前单帧图片信息中的转头角度及关注点特征信息,经过处理的头部图像数据集提取局部转头角度及关注点特征向量集,然后将局部转头角度及关注点特征向量集融合得到头部姿态转头角度及关注点特征向量,将待测头部视线图像及姿态图像经过预处理,提取头部局部转头角度及关注点特征向量和全局头部转头角度及关注点特征向量并融合得到全局转头角度及关注点特征向量,对图像分析样本中的每张头部姿态图片进行预处理,得带待测图片预处理信息;特征融合模块152,用于融合转头角度及关注点特征信息获得全局转头角度及关注点特征信息,根据图像分析样本的待测图片预处理信息获取样本中包含的样本全局转头角度及关注点特征向量,特征融合模块152与待测特征提取模块151 连接;相似度比对模块153,用于对比所述全局转头角度及关注点特征信息与上述图片样本中包含的转头角度及关注点特征向量得到左B柱、左后视镜、内后视镜、俯视仪表盘右B 柱、右后视镜、正前方、低头看档等八个动作特征相似度数据;姿态计算模块154,用于对所有相似度数据排序获得驾驶人关注点检测信息,姿态计算模块154与想似度比对模块153 连接。
本发明提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现本发明提供的驾驶人头部姿态监测方法,本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过计算机程序相关的硬件来完成。前述的计算机程序可以存储于一计算机可读存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
本发明提供一种基于深度学习的驾驶人头部姿态监测设备,包括:处理器及存储器;存储器用于存储计算机程序,处理器用于执行存储器存储的计算机程序,以使基于深度学习的驾驶人头部姿态监测设备执行本发明提供的基于深度学习的驾驶人头部姿态监测方法,存储器可能包含随机存取存储器(RandomAccessMemory,简称RAM),也可能还包括非易失性存储器(non-volatilememory),例如至少一个磁盘存储器。上述的处理器可以是通用处理器,包括中央处理器(CentralProcessingUnit,简称CPU)、网络处理器(NetworkProcessor,简称NP) 等;还可以是数字信号处理器(DigitalSignalProcessing,简称DSP)、专用集成电路 (ApplicationSpecificIntegratedCircuit,简称ASIC)、现场可编程门阵列(Field- ProgrammableGateArray,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
综上所述,本发明提供的基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备。本发明具有以下有益效果:本发明为了实现机动车驾驶科目三考试的全程电子监控与评判,驾驶考试视觉追踪技术样机通过车载摄像头提取驾驶员姿态等视频数据,利用深度学习神经网络等工具进行包括人脸检测、光流检测等在内的计算机视觉算法处理,对每一帧图像进行检查一秒钟15帧每一帧都产生动作数据结果,样本训练用于人脸追踪,识别人脸动作特征,用于判断动作,完成驾驶员关注点检测、身体是否伸出车外等行为分析,提升科目三考试的客观性和精确性,减少人力成本。在机动车驾驶科目三考试中,驾考系统使用摄像头采集考生驾驶视频,完成考生面部朝向的检测,以确认考生可能的观察目标;完成左前窗区域有无物体伸出车外的检测,以确认考生有无身体部位伸出车外;完成摄像头成像质量评估,以确认有无其它物品遮挡摄像头。在完成驾驶员关注点、身体有无伸出窗外、摄像头是否遮蔽等检测后,驾考系统会根据与上级设备(最终完成驾考科目合规判决的设备)约定的通信协议,将相关状态上报给上级设备,以帮助上级设备完成驾考判决。综上,本发明解决了现有技术中的硬件成本高,特征鲁棒性较弱,信息利用率低以及驾驶人姿态正误判定结果精确度低的技术问题,以监控视频中获取的头部姿态图片作为样本库,不需要对特征进行设计、特征鲁棒性强,实际检测准确率较高,具有很高的商业价值和实用性。

Claims (12)

1.一种基于深度学习的驾驶人头部姿态监测方法,其特征在于,包括:
通过界面进行硬件上电操作开启所述基于深度学习的驾驶人头部姿态监测系统,配置通信参数信息,初始化图像信息采集设备,预设信息处理逻辑;
与服务器端建立通信连接并接受系统版本信息;
检测所述系统版本信息版本、存储设备及所述图像信息采集设备,完成检测并发出提示信息;
服务器端接收所述提示信息,根据所述提示信息触发系统采集视频数据,从所述视频数据中提取单帧图片信息并保存为图片样本,提取当前所述单帧图片信息中的转头角度及关注点特征信息,根据所述转头角度及关注点特征信息构建头部姿态视线模型,根据所述图片样本进行所述头部姿态视线模型深度学习,生成深度学习结果集;
根据所述预设信息处理逻辑处理得所述驾驶人关注点检测信息;
根据所述驾驶人关注点检测信息和所述深度学习结果集获取驾驶人姿态正误判定结果,根据所述驾驶人姿态正误判定结果生成检测报告并存储;
其中,所述生成深度学习结果集,包括:
服务器端接收所述提示信息,获取驾驶人的所述视频数据;
根据所述视频数据及时间提取当前的所示单帧图片信息;
提取所述单帧图片信息中的转头角度及关注点特征数据;
拼接所述转头角度及关注点特征数据得到转头角度及关注点特征向量;
根据所述转头角度及关注点特征向量构建所述头部姿态视线模型;
提取图片中的驾驶人关注点的全局变量与所述图片样本比对得出模型增量信息;
所述头部姿态视线模型根据所述模型增量信息进行深度学习,更新所述头部姿态视线模型;
保存所述单帧图片信息;
聚集所述单帧图片信息得所述图片样本。
2.根据权利要求1所述的方法,其特征在于,所述通过界面操作开启所述基于深度学习的驾驶人头部姿态监测系统,配置通信参数信息,初始化图像信息采集设备,预设信息处理逻辑,包括:
开启硬件设备;
检测所述硬件设备,判断所述硬件设备是否已安装所述系统;
若是,则初始化所述通信参数信息、摄像头和检测装置;
若否,则在所述硬件设备上安装所述系统。
3.根据权利要求1所述的方法,其特征在于,所述与服务器端建立通信连接并接受系统版本信息,包括:
向所述服务器端发送连接请求信息;
判断是否接收到服务端发来的观察指令;
若是,则判定与所述服务端建立连接;
若否,则持续发送所述连接请求信息直至与所述服务端建立连接。
4.根据权利要求1所述的方法,其特征在于,所述检测所述系统版本信息版本、存储设备及所述图像信息采集设备,完成检测并发出提示信息,包括:
与维护后台建立连接;
获取维护后台发来的最新版本信息;
根据所述最新版本信息判断所述系统是否升级;
若是,则判定所述系统为最新版本;
若否,则根据所述维护后台发来的升级信息进行系统升级;
检测存储硬盘以及摄像头并生成检测信息;
根据检测信息发出提示信息。
5.根据权利要求1所述的方法,其特征在于,所述根据所述预设信息处理逻辑处理得所述驾驶人关注点检测信息,包括:
提取当前所述单帧图片信息中的转头角度及关注点特征信息;
融合所述转头角度及关注点特征信息获得全局转头角度及关注点特征信息;
对比所述全局转头角度及关注点特征信息与上述图片样本中包含的转头角度及关注点特征向量得到左B柱、左后视镜、内后视镜、俯视仪表盘、 右B柱、右后视镜、正前方、低头看档等八个动作特征相似度数据;
对所有所述相似度数据排序获得所述驾驶人关注点检测信息。
6.一种基于深度学习的驾驶人头部姿态监测系统,其特征在于,包括:系统初始模块、通信模块、自动检测模块、图像信息模块、模型计算模块和结果存储模块;
所述系统初始模块,用于通过界面操作开启系统,配置通信参数信息,初始化图像信息采集设备,预设信息处理逻辑;
所述通信模块,用于与服务器端建立通信连接并接受系统版本信息;
所述自动检测模块,用于检测所述系统版本信息版本、存储设备及所述图像信息采集设备,完成检测并发出提示信息;
所述图像信息模块,用于服务器端接收所述提示信息,根据所述提示信息触发系统采集视频数据,从所述视频数据中提取单帧图片信息并保存为图片样本,提取当前所述单帧图片信息中的转头角度及关注点特征信息,根据所述转头角度及关注点特征信息构建头部姿态视线模型,根据所述图片样本进行所述头部姿态视线模型深度学习,生成深度学习结果集;
所述模型计算模块,用于根据所述预设信息处理逻辑处理得所述驾驶人关注点检测信息;
所述结果存储模块,用于根据所述驾驶人关注点检测信息和所述深度学习结果集获取驾驶人姿态正误判定结果,根据所述驾驶人姿态正误判定结果生成检测报告并存储;
所述图像信息模块,包括:视频数据接收模块、单帧获取模块、转头角度及关注点特征向量提取模块、向量拼接模块、模型构建模块、模型增量模块、模型训练模块、单帧保存模块和图片样本模块;
所述视频数据接收模块,用于服务器端接收所述提示信息,获取驾驶人的所述视频数据;
所述单帧获取模块,用于根据所述视频数据及时间提取当前的所示单帧图片信息;
所述转头角度及关注点特征向量提取模块,用于提取所述单帧图片信息中的转头角度及关注点特征数据;
所述向量拼接模块,用于拼接所述转头角度及关注点特征数据得到转头角度及关注点特征向量;
所述模型构建模块,用于根据所述转头角度及关注点特征向量构建所述头部姿态视线模型;
所述模型增量模块,用于提取图片中的驾驶人关注点的全局变量比对得出模型增量信息;
所述模型训练模块,用于所述头部姿态视线模型根据所述模型增量信息进行深度学习,更新所述头部姿态视线模型;
所述单帧保存模块,用于保存所述单帧图片信息;
所述图片样本模块,用于聚集所述单帧图片信息得所述图片样本。
7.根据权利要求6所述的系统,其特征在于,所述系统初始模块,包括:硬件启动模块、安装检测模块、设备参数检测模块、安装模块;
所述硬件启动模块,用于开启硬件设备;
所述安装检测模块,用于检测所述硬件设备,判断所述硬件设备是否已安装所述系统;
所述设备参数检测模块,用于在所述硬件设备已安装所述系统时,初始化所述通信参数信息、摄像头和检测装置;
所述安装模块,用于在所述硬件设备未安装所述系统时,在所述硬件设备上安装所述系统。
8.根据权利要求6所述的系统,其特征在于,所述通信模块,包括:服务端请求模块、指令接收判断模块、连接判定模块和连接持续请求模块;
所述服务端请求模块,用于向所述服务端发送连接请求信息;
所述指令接收判断模块,用于判断是否接收到服务端发来的观察指令;
所述连接判定模块,用于在收到服务端发来的观察指令时,判定与所述服务端建立连接;
所述连接持续请求模块,用于在未收到服务端发来的观察指令时,持续发送所述连接请求信息直至与所述服务端建立连接。
9.根据权利要求6所述的系统,其特征在于,所述自动检测模块,包括:维护连接模块、系统版本模块、版本判定模块、新版本模块、自升级模块、设备检测模块和后续动作触发模块;
所述维护连接模块,用于与维护后台建立连接;
所述系统版本模块,用于获取维护后台发来的最新版本信息;
所述版本判断模块,用于根据所述最新版本信息判断所述系统是否升级;
所述新版本模块,用于在系统版本为最新版本时,判定所述系统为最新版本;
所述自升级模块,用于在系统版本非最新版本时,根据所述维护后台发来的升级信息进行系统升级;
所述设备检测模块,用于检测存储硬盘以及摄像头并生成检测信息;
所述后续动作触发模块,用于根据检测信息发出提示信息。
10.根据权利要求6所述的系统,其特征在于,所述模型计算模块包括:待测特征提取模块、特征融合模块、相似度比对模块和姿态计算模块;
所述待测特征提取模块,用于提取当前所述单帧图片信息中的转头角度及关注点特征信息;
所述特征融合模块,用于融合所述转头角度及关注点特征信息获得全局转头角度及关注点特征信息;
所述相似度比对模块,用于对比所述全局转头角度及关注点特征信息与上述图片样本中包含的转头角度及关注点特征向量得到左B柱、左后视镜、内后视镜、俯视仪表盘、 右B柱、右后视镜、正前方、低头看档等八个动作特征相似度数据;
所述姿态计算模块,用于对所有所述相似度数据排序获得所述驾驶人关注点检测信息。
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1至5中任一项所述基于深度学习的驾驶人头部姿态监测方法。
12.一种基于深度学习的驾驶人头部姿态监测设备,其特征在于,包括:处理器及存储器;
所述存储器用于存储计算机程序,所述处理器用于执行所述存储器存储的计算机程序,以使所述基于深度学习的驾驶人头部姿态监测设备执行如权利要求1至5中任一项所述基于深度学习的驾驶人头部姿态监测方法。
CN201710716168.6A 2017-08-18 2017-08-18 基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备 Active CN109426757B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710716168.6A CN109426757B (zh) 2017-08-18 2017-08-18 基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710716168.6A CN109426757B (zh) 2017-08-18 2017-08-18 基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备

Publications (2)

Publication Number Publication Date
CN109426757A CN109426757A (zh) 2019-03-05
CN109426757B true CN109426757B (zh) 2021-02-12

Family

ID=65497692

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710716168.6A Active CN109426757B (zh) 2017-08-18 2017-08-18 基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备

Country Status (1)

Country Link
CN (1) CN109426757B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112329566A (zh) * 2020-10-26 2021-02-05 易显智能科技有限责任公司 一种精准感知机动车驾驶人员头部动作的视觉感知系统
CN114268621B (zh) * 2021-12-21 2024-04-19 东方数科(北京)信息技术有限公司 基于深度学习的数字仪表读表方法及装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1997015033A2 (de) * 1995-10-21 1997-04-24 Paetz Joachim Verfahren und vorrichtung zur unterbindung des einschlafens und der reaktionskontrolle von personen
CN1988703A (zh) * 2006-12-01 2007-06-27 深圳市飞天网景通讯有限公司 基于可拍照移动终端实现信息交互式操作的方法
CN101470951B (zh) * 2008-01-08 2010-09-08 徐建荣 汽车安全驾驶监控系统
CN101635783A (zh) * 2008-07-21 2010-01-27 青岛海信电子产业控股股份有限公司 一种电视软件的升级方法
CN102510480B (zh) * 2011-11-04 2014-02-05 大连海事大学 驾驶员视线自动校准和跟踪系统
CN103871200B (zh) * 2012-12-14 2016-06-08 深圳市赛格导航科技股份有限公司 用于汽车驾驶的安全提醒系统及方法
US9405982B2 (en) * 2013-01-18 2016-08-02 GM Global Technology Operations LLC Driver gaze detection system
CN105700447B (zh) * 2014-11-28 2019-07-30 奇点新源国际技术开发(北京)有限公司 一种电动汽车的监控方法及监控平台
CN104574817A (zh) * 2014-12-25 2015-04-29 清华大学苏州汽车研究院(吴江) 一种适用于智能手机的基于机器视觉疲劳驾驶预警系统
CN106332151A (zh) * 2015-06-29 2017-01-11 中兴通讯股份有限公司 射频拉远单元的外场维护方法、装置、终端设备及系统
US9725036B1 (en) * 2016-06-28 2017-08-08 Toyota Motor Engineering & Manufacturing North America, Inc. Wake-up alerts for sleeping vehicle occupants
CN106201627B (zh) * 2016-07-21 2019-05-24 南京大全自动化科技有限公司 一种新能源光伏箱变测控系统及其远程程序版本管理方法

Also Published As

Publication number Publication date
CN109426757A (zh) 2019-03-05

Similar Documents

Publication Publication Date Title
CN109409172B (zh) 驾驶员视线检测方法、系统、介质及设备
CN108229333B (zh) 用于识别运动视频中的事件的方法
CN111372037B (zh) 目标抓拍系统和方法
WO2021082662A1 (zh) 辅助用户拍摄车辆视频的方法及装置
US10803324B1 (en) Adaptive, self-evolving learning and testing platform for self-driving and real-time map construction
CN111604888B (zh) 巡检机器人控制方法、巡检系统、存储介质及电子设备
CN110737798B (zh) 室内巡检方法及相关产品
US20210124914A1 (en) Training method of network, monitoring method, system, storage medium and computer device
CN109616106A (zh) 车载控制屏语音识别过程测试方法、电子设备、系统
CN109426757B (zh) 基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备
KR101697060B1 (ko) 이벤트 감지 방법 및 이를 실행하는 장치
CN109409173B (zh) 基于深度学习的驾驶人状态监测方法、系统、介质及设备
CN110225236B (zh) 为视频监控系统配置参数的方法、装置和视频监控系统
CN109460077B (zh) 一种自动跟踪方法、自动跟踪设备及自动跟踪系统
CN113591885A (zh) 目标检测模型训练方法、设备及计算机存储介质
CN111626078A (zh) 识别车道线的方法及装置
CN108363985B (zh) 目标对象感知系统测试方法、装置及计算机可读存储介质
JPWO2020003764A1 (ja) 画像処理装置、移動装置、および方法、並びにプログラム
KR102519715B1 (ko) 도로 정보 제공 시스템 및 도로 정보 제공 방법
KR102210571B1 (ko) Gps 좌표와 이동통신시스템을 이용한 교량과 터널의 안전진단 원격감시 경보방법
CN112601021B (zh) 一种网络摄像机监控视频的处理方法及系统
KR102121423B1 (ko) 카메라 영상을 이용한 도로선형인지서버 및 그 인지 방법
CN113840137A (zh) 一种网络摄像机移动侦测灵敏度的验证方法及系统
CN112365742A (zh) Ldw功能的测试方法、装置、测试设备和存储介质
CN113848826A (zh) 车辆自动下线方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant