CN108701223A - 用于估算车辆的驾驶员的注意力等级的装置和方法 - Google Patents
用于估算车辆的驾驶员的注意力等级的装置和方法 Download PDFInfo
- Publication number
- CN108701223A CN108701223A CN201780011977.5A CN201780011977A CN108701223A CN 108701223 A CN108701223 A CN 108701223A CN 201780011977 A CN201780011977 A CN 201780011977A CN 108701223 A CN108701223 A CN 108701223A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- birds
- eye view
- driver
- moment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000004458 analytical method Methods 0.000 claims abstract description 15
- 238000011144 upstream manufacturing Methods 0.000 claims abstract description 9
- 238000001514 detection method Methods 0.000 claims description 11
- 230000009466 transformation Effects 0.000 claims description 5
- 240000007594 Oryza sativa Species 0.000 claims 1
- 235000007164 Oryza sativa Nutrition 0.000 claims 1
- 235000009566 rice Nutrition 0.000 claims 1
- 238000001914 filtration Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 102100034112 Alkyldihydroxyacetonephosphate synthase, peroxisomal Human genes 0.000 description 2
- 101000799143 Homo sapiens Alkyldihydroxyacetonephosphate synthase, peroxisomal Proteins 0.000 description 2
- 238000000848 angular dependent Auger electron spectroscopy Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W2040/0818—Inactivity or incapacity of driver
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/143—Alarm means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/221—Physiology, e.g. weight, heartbeat, health or special needs
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/229—Attention level, e.g. attentive to driving, reading or sleeping
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2552/00—Input parameters relating to infrastructure
- B60W2552/53—Road markings, e.g. lane marker or crosswalk
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Automation & Control Theory (AREA)
- Mechanical Engineering (AREA)
- Transportation (AREA)
- Human Computer Interaction (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种估算在行驶车道中的车辆的驾驶员的注意力等级的方法,所述方法包括以下步骤:连续捕获地面的图像(10),重新构建在连续的当前时刻t上的地面区段的鸟瞰图(11,12),重新构建在连续的当前时刻t上的道路区段的鸟瞰图(11,12),估算所述车辆(100)在重新构建的鸟瞰图(11,12)中的侧向位置,并存储所述车辆的估算位置,确定在过去的时刻t3上的驾驶员的估算的注意力等级,所述确定取决于:所述车辆的侧向位置的变化,对在时刻t3上至少部分位于所述车辆上游的道路部分的轮廓的分析。
Description
技术领域
本发明属于辅助车辆驾驶的辅助装置领域,并且更具体地涉及评估驾驶员的注意力的方法。
本发明更具体地涉及一种方法,所述方法用于估算车辆的驾驶员控制车辆保持在行驶车道中的能力以便能够评估驾驶员的注意力等级,并且在必要时在可能发生不希望的越过行驶车道的限界线时发出警告。
背景技术
如今,机动车辆包括许多驾驶员辅助系统。这些系统通常由本领域技术人员所知地表示为ADAS,即Advanced Driver Assistance Systems的首字母缩略词,意思为高级驾驶员辅助系统。
这种驾驶辅助系统装配在越来越多的机动车辆上。由这些ADAS系统确保的大多数功能要求车辆能够检测其所在的行驶车道。
在这些功能中,来自用于捕获车辆前方的道路图像的正面摄像头的数据与来自用于捕获驾驶员面部的位于乘客舱中的摄像头的数据的结合可利用于确定驾驶员的注意力或疏忽等级。
实际上,目前,与自主化车辆有关且更现实地用于在车辆自动化阶段介入的驾驶辅助功能的技术发展认为:与驾驶员的注意力或疏忽等级相关的信息是至关重要的,特别是考虑到可能需要重新获取对车辆的控制。
在该背景下,分析来自正面摄像头的图像,以便估算车辆在其行驶车道中的侧向位置,尤其用于检测不希望的可能越线。
在现有技术中,与车辆在其行驶车道中的侧向位置有关的信息通常仅可通过正面摄像头获得,因此在很大等级上取决于该正面摄像头捕获的图像的可靠性和可用性。
一些车辆事实上装配有能够确定车辆在行驶车道中的侧向位置的这种正面摄像头。然而,如已知的,来自这种正面摄像头的数据可由于所使用的“平坦地面”假设(通常有误差)或者由于所使用的车辆水平稳度假设(通常有误差)等等而出错。
另外,对于所有这些系统,摄像头的校准参数用于计算线相对于车辆的相对位置。这使得这些摄像头对任何非校准(摄像头上的冲击,车辆稳度根据车辆负载发生改变)敏感。同样地,这些系统认为地面是车辆参考系中的水平平面。当道路上升或下降时,或者道路在用于检测线的地面部分上存在倾斜时,这种假设并不总是成立的,这导致了定位误差。
因此,实际上,根据现有技术,车辆在行驶车道中的侧向位置是被多个驾驶辅助功能利用的信息并且用于尤其与对驾驶员的面部图像分析相结合而评估驾驶员的注意力等级。
因此,该系统尤其观察车辆的侧向位置随时间的变化以估算越线并警告驾驶员。
文件FR2947769_A1描述了一种系统,该系统包括位于车辆后部的摄像头,所述摄像头用于跟踪车辆的路径,以在相对于预定的理想轨迹偏离的情况下向驾驶员发送警报。该文件代表了现有技术。
如今,通常根据由正面摄像头捕获的图像来实时确定与车辆在行驶车道中的位置有关的信息。
然而,除了与不精确相关甚至与不可能估算车辆在其行驶车道中的侧向位置相关的缺陷之外,这些已知系统的缺陷还在于所实施的摄像头的校准参数必须精确调节。这使得这些摄像头对于由于摄像头上的冲击、车辆稳度变化等引起的任何“非校准”敏感。同样地,这些系统认为地面在车辆参考系中是水平平面,这构成了整体上有误差的假设。
此外,为了估算驾驶员的注意力等级并有效地检测可能的意外越线,通过车道区段存储车辆在其行驶车道中的相对侧向位置随时间的变化是有用的。
发明内容
因此,为了有效地解决上面提出的问题而不产生新的缺点,设置成在一定时长内集成由至少一个摄像头捕获的地面的图像,以便消除由于不相干性或局部不可用性而造成的误差。由于捕获的图像,根据本发明的方法能够创建车辆在其行驶车道中的鸟瞰图,所述鸟瞰图成在一定时长上集成。
另外,通过跟踪并预测车辆在其车道中的侧向位置随时间的变化,并且优选地通过将该跟踪与对驾驶员面部的捕获图像的合适分析相关联,根据本发明的方法能够估算驾驶员的注意力等级。
为此,考虑到车辆在行驶车道中的侧向位置的变化,根据本发明的用于估算车辆的驾驶员的注意力等级的方法包括通过随着车辆的移动来存储最靠近车辆的地面部分而重新构建所获得的道路区段的鸟瞰图。根据本发明的方法还包括在前一时刻在所述重新构建的鸟瞰图中定位车辆,以及在给定的道路区段上存储车辆的连续位置。因此,本发明能够创建在车辆的时间参考系中位于所述车辆上游的道路部分的鸟瞰图。
根据本发明的方法的有利实施例,对驾驶员面部图像的分析与对鸟瞰图中的车辆的连续位置的分析的结合能够精确地确定车辆的驾驶员的注意力等级。
更具体地,本发明涉及一种估算在行驶车道中移动的车辆的驾驶员的注意力等级的方法,所述方法包括以下步骤:
-借助于至少一个适用的摄像头连续捕获在所述车辆前方和/或后方的地面的图像,所述图像对应于地面表面,所述地面表面具有的宽度至少等于行驶车道宽度并且具有深度,
-通过使在时刻t1=t-dt1与当前时刻t之间捕获的图像在时间上集成,重新构建在连续的当前时刻t上的道路区段的鸟瞰图,dt1为正,
-估算所述车辆在所述连续的当前时刻t上重新构建的鸟瞰图中的侧向位置,并且存储在时刻t2=t-dt2与当前时刻t之间的所述车辆的估算位置,dt2为正且独立于dt1,
-确定在时刻t3=t-dt3上的驾驶员的估算的注意力等级,dt3为正,时刻t3在时刻t2之后并且时刻t3在时刻t1之后或等于时刻t1,所述确定取决于:
○在时刻t2与t3之间所述车辆在鸟瞰图中的侧向位置的变化,
○对属于在当前时刻t上重新构建的鸟瞰图并且对应于在时刻t1与当前时刻t之间捕获的图像序列的道路部分的轮廓的分析,所述道路部分在时刻t3上至少部分位于所述车辆的上游。
因此,由于根据本发明的方法,能够设置在车辆的时间参考系中给出在时刻t3上位于车辆上游的道路区段部分的鸟瞰图。对车辆的侧向位置随时间变化的分析用于估算驾驶员的注意力等级。
根据一种实施方式,在重新构建地面的鸟瞰图的步骤之后,所述方法包括在所述重新构建的鸟瞰图中检测形成地面标记线的至少一条线,所述地面标记线限界出行驶车道,并且包括在重新构建的鸟瞰图中估算所述车辆的位置,所述重新构建的鸟瞰图涉及确定所述车辆相对于所述至少一条线的相对位置。
根据一种优选实施方式,所述方法还包括:
-捕获驾驶员的面部图像,
-对驾驶员的面部图像的进行分析,对所述驾驶员的估算的注意力等级的确定还取决于对驾驶员的面部图像的所述分析。
根据一种实施方式,对所述车辆在所述重新构建的鸟瞰图中相对于所述至少一条线的相对位置的估算包括对应于地面表面的连续捕获的图像的组合,所述地面表面具有取决于所述车辆的速度来确定的深度。
根据一种实施方式,对在所述重新构建鸟瞰图中对形成地面标记线的至少一条线的检测包括实施霍夫变换,所述地面标记线限界出行驶车道。
根据一种实施方式,根据本发明的方法还包括在所述车辆越过所述至少一条线时警告驾驶员的步骤。
有利地,所述车道宽度可等于五米。
有利地,捕获的图像的地面表面的所述深度小于两米。
本发明还提供一种用于估算车辆在行驶车道中的侧向位置的装置,所述装置包括:用于实施在所述车辆的前方和/或后方的地面的图像的连续捕获的至少一个摄像头、计算单元及存储单元,所述计算单元及存储单元配置用于实施根据前述权利要求中任一项所述的方法。
有利地,所述至少一个摄像头是设置在所述车辆前部的正面摄像头。
附图说明
通过阅读下文中仅作为示例给出的本发明实施例的详细描述并且参考附图,本发明的其它特征和优点将更加清楚,在所述附图中:
-图1的分块示意图示出了符合本发明的用于估算车辆的驾驶员的注意力等级的方法的步骤,
-图2的示意图示意性示出了用于估算车辆的侧向位置的过程,所述过程符合根据本发明的方法的优选实施例。
具体实施方式
在下文中,所描述的实施方式更具体地涉及根据本发明的装置在机动车辆内部的实施。然而,在不同的背景下的任何实施,特别是在任何类型的陆地车辆中的任何实施也涵盖在本发明中。
图1示出了使根据本发明的方法的步骤具体化的功能块。
因此,根据本发明的方法设置有连续捕获在车辆前方和/或后方的地面的图像的第一步骤1。捕获的图像对应于具有宽度的地面表面,所述宽度至少对应于行驶车道的宽度,即大约5米。因此,所使用的摄像头能够是捕获车辆前方的地面的图像的正面摄像头,或者是设置在后部的摄像头,例如停车辅助摄像头,该摄像头连续捕获的图像在时间上集成以形成连续的重新构建的鸟瞰图。
实际上,根据所捕获的图像,根据本发明的方法包括步骤2:通过使在时刻t1=t-dt1与当前时刻t之间捕获的图像在时间上集成,重新构建道路区段的在连续的当前时刻t上的鸟瞰图,dt1为正。
注意到,所述鸟瞰图不被显示,因此不需要精确地对齐。然而,根据一种实施方式,设置成根据所述车辆的位移来校准图像,所述位移借助于经由例如测量车轮信号或方向盘角度的适用的传感器获得的里程数据来估算。
根据一种实施方式,设置了连续捕获的图像之间的搭接(recouvrement),尤其便于检测行驶车道的分隔线并改善连续的图像之间的连接。
根据重新构建的鸟瞰图,根据本发明的方法设置了用于估算所述车辆在其行驶车道中的道路区段上的侧向位置的估算步骤3。在每个当前时刻t上计算所述车辆的在道路区段上的连续的侧向位置。另外,在时刻t2=t-dt2与当前时刻t之间所述车辆的所述估算位置被存储,dt2为正且独立于dt1。
为此,根据一种优选实施方式,该方法包括检测用于使行驶车道之间的限界具体化的一个或多个地面标记线。
因此,存在能够检测图像中的线的已知技术。例如,可通过实施霍夫变换来实施在重新构建的鸟瞰图中的线的检测。霍夫变换实际上能够识别通过地面的点(Y,X)的所有直线。相反,对于定义直线的一对系数(a,b),霍夫变换能够识别位于该直线上的所有点(X,Y)。系数“a”和“b”分别对应于该直线与Y轴线形成的角度以及从该直线到原点的距离。
然而,注意到,限界出行驶车道的线不是理想的直线。通常,所述线是回旋曲线,即具有连续曲率的线。为了最佳地利用根据本发明的方法,设置成将霍夫原理转换为对这种回旋曲线的分析。
实际上,实施根据本发明的方法的车辆先验地在行驶车道内部以基本平行于限界出该行驶车道的线的方式行进。根据一种实施方式,对这些线的检测由此可在空间中近似为对系数′a′接近0并且系数′b′小于最大距离的线的寻找,在所述最大距离上期望检测到在所述车辆两侧的行驶车道的分隔线。
该过滤能够限制有效错误的情况。在应用于回旋曲线的广义霍夫变换的情况下,所述过滤的原理和目的实际上保持相同。
此外,用于使行驶车道的分隔线具体化的地面标记线总是比道路更清晰。因此,另一种过滤涉及仅考虑在较暗且具有最小尺寸的背景上对应于清晰的线的梯度。这种可选的简单过滤同样能够限制有效错误的情况。
根据一种实施方式,还设置了线检测算法的时间过滤。参考图2,根据在时间上集成的捕获的图像10而重新构建的鸟瞰图11在时间过滤之后变为鸟瞰图12,所述鸟瞰图12能够更好地识别行驶车道之间的分隔线21、22。
注意到,还可实施用于检测在重新构建的鸟瞰图上的线的任何其它算法,特别是在根据本发明的方法的背景下。
当检测到由地面标记线具体化的多条线时,对车辆进行的行驶车道的检测概况为对相关线的识别,所述相关线对应于最靠近所述车辆的左侧和右侧的线,并且所述车辆在其行驶车道中的侧向位置是可容易确定的。
根据图2所示的实施方式,所述方法例如设置成选择车辆中心作为原点0,车辆100在车道中的侧向位置根据车辆的宽度来计算,使-1对应于左车轮存在于左侧线上,1对应于右车轮存在于右侧线上。因此,-1和1之间的值(例如图2中的0.55)对应于车辆在其行驶车道内部,而超过-1和1的值解释为车辆跨越了两个行驶车道。
注意到,在根据本发明的方法的范围中还可实施能够估算车辆相对于根据上述步骤在重新构建的鸟瞰图中检测到的行驶车道分隔线的相对侧向位置的任何其它算法。
因此,根据本发明的方法包括步骤4:确定在时刻t3=t-dt3上的驾驶员的估算的注意力等级,dt3为正,时刻t3在时刻t2之后并且时刻t3在时刻t1之后或等于时刻t1,所述确定取决于:
○在时刻t2与t3之间所述车辆在鸟瞰图中的侧向位置的变化,
○对属于在当前时刻t上重新构建的鸟瞰图并且对应于在时刻t1与当前时刻t之间捕获的图像序列的道路部分的轮廓的分析,所述区段在时刻t3上至少部分位于所述车辆前方。
实际上,对驾驶员的注意力等级的分析在时刻t3上实施,时刻t3相对于当前时刻t已经过去。因此,如果时刻t3和时刻t1相等,那么出现在鸟瞰图上且对应于在时刻t1与当前时刻t之间捕获的图像的道路区段部分在“过去”时刻t3=t1上完全位于所述车辆的上游。如果时刻t3在时刻t1之后,那么出现在鸟瞰图上且对应于在时刻t1与当前时刻t之间捕获的图像的道路区段部分在时刻t1之后的“过去”时刻t3上部分位于所述车辆的上游并且部分位于所述车辆的后方。
根据本发明的方法的步骤4,在确定驾驶员的注意力等级的时刻t3上,在车辆的时间参考系中,重新构建的鸟瞰图因此总是包括位于所述车辆上游的道路区段部分。分析位于所述车辆上游的该部分的轮廓,以建立对驾驶员的注意力等级的估算,所述估算还取决于所述车辆的侧向位置随时间的变化。
另外,根据本发明,存储道路区段的连续的鸟瞰图以及车辆的连续的估算侧向位置,在所需的长久时间上确保存储,以便能够识别在车辆进入重新构建的区段的时刻与当前时刻t之间的车辆的所有连续位置。
注意到,对于所考虑的应用,在相对于当前时刻t已经过去的时刻t3上确定驾驶员的注意力等级而引起的时间偏移和延迟是完全可接受的。
此外,明确了在交通堵塞或慢速的特定情况下,所述车辆的连续的侧向位置的数量可非常高以覆盖整个区段。为此,根据一种实施方式,在该情况下不需要存储所有位置;只有那些彼此足够远的位置才需要存储。
因此,根据本发明,对所述车辆的侧向位置在该区段上的变化的分析能够直接确定对驾驶员的注意力等级的估算。
根据一种优选实施方式,所述方法还包括捕获驾驶员的面部图像,通过根据已知算法的图像处理对该面部图像的分析给出了驾驶员的注意力等级的附加指示。
因此,对面部图像的分析与对所述车辆的侧向位置的变化的分析相结合来确定驾驶员的注意力等级。
此外,为了实施该方法,本发明还提供了一种系统,所述系统包括:摄像头、适用的计算单元及存储单元。如上所述,所述摄像头例如能够是现有车辆中使用的正面摄像头或停车辅助摄像头的类型。
需要明确的是,本发明不限于上述示例,本发明能够是本领域技术人员可获得的多个变型。
Claims (10)
1.一种用于估算在行驶车道中移动的车辆的驾驶员的注意力等级的方法,所述方法包括以下步骤:
-借助于至少一个适用的摄像头连续捕获在所述车辆(100)前方和/或后方的地面的图像(10),所述图像(10)对应于地面表面,所述地面表面具有的宽度至少等于行驶车道宽度并且具有深度,
-通过使在时刻t1=t-dt1与当前时刻t之间捕获的图像(10)在时间上集成,重新构建在连续的当前时刻t上的道路区段的鸟瞰图(11,12),dt1为正,
-估算所述车辆(100)在所述连续的当前时刻t上重新构建的鸟瞰图(11,12)中的侧向位置,并且存储在时刻t2=t-dt2与当前时刻t之间的所述车辆的估算位置,dt2为正且独立于dt1,
-确定在时刻t3=t-dt3上的驾驶员的估算的注意力等级,dt3为正,时刻t3在时刻t2之后并且时刻t3在时刻t1之后或等于时刻t1,所述确定取决于:
○在时刻t2与t3之间所述车辆在鸟瞰图中的侧向位置的变化,
○对属于在当前时刻t上重新构建的鸟瞰图并且对应于在时刻t1与当前时刻t之间捕获的图像序列的道路部分的轮廓的分析,所述道路部分在时刻t3上至少部分位于所述车辆的上游。
2.根据权利要求1所述的方法,在重新构建地面的鸟瞰图(11,12)的步骤之后,所述方法包括在所述重新构建的鸟瞰图中检测形成地面标记线的至少一条线,所述地面标记线限界出行驶车道,并且包括在重新构建的鸟瞰图(11,12)中估算所述车辆(100)的位置,所述重新构建的鸟瞰图涉及确定所述车辆相对于所述至少一条线(21,22)的相对位置。
3.根据前述权利要求中任一项所述的方法,所述方法还包括:
-捕获驾驶员的面部图像,
-对驾驶员的面部图像进行分析,对驾驶员的估算的注意力等级的确定还取决于对驾驶员的面部图像的所述分析。
4.根据前述权利要求中任一项所述的方法,其中,对所述车辆(100)在所述重新构建的鸟瞰图中相对于所述至少一条线(11,12)的相对位置的估算包括对应于地面表面的连续捕获的图像(10)的组合,所述地面表面具有取决于所述车辆(100)的速度来确定的深度。
5.根据权利要求1所述的方法,其中,对在所述重新构建鸟瞰图(11,12)中形成地面标记线的至少一条线(21,22)的检测包括实施霍夫变换,所述地面标记线限界出行驶车道。
6.根据前述权利要求中任一项所述的方法,所述方法还包括在所述车辆(100)越过所述至少一条线时警告驾驶员的步骤。
7.根据前述权利要求中任一项所述的方法,所述车道宽度等于五米。
8.根据前述权利要求中任一项所述的方法,捕获的图像的地面表面的所述深度小于两米。
9.一种用于估算在行驶车道中的车辆的驾驶员的注意力等级的装置,所述装置包括:用于实施在车辆前方和/或后方的地面的图像(10)的连续捕获的至少一个摄像头、计算单元及存储单元,所述计算单元及所述存储单元配置用于实施根据前述权利要求中任一项所述的方法。
10.根据权利要求9所述的装置,其中,所述至少一个摄像头是设置在车辆前部的正面摄像头。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1651371A FR3047932B1 (fr) | 2016-02-19 | 2016-02-19 | Dispositif et procede d'estimation du niveau d'attention d'un conducteur d'un vehicule |
FR1651371 | 2016-02-19 | ||
PCT/FR2017/050268 WO2017140969A1 (fr) | 2016-02-19 | 2017-02-06 | Dispositif et procédé d'estimation du niveau d'attention d'un conducteur d'un véhicule |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108701223A true CN108701223A (zh) | 2018-10-23 |
CN108701223B CN108701223B (zh) | 2021-06-25 |
Family
ID=55752573
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780011977.5A Active CN108701223B (zh) | 2016-02-19 | 2017-02-06 | 用于估算车辆的驾驶员的注意力等级的装置和方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11267477B2 (zh) |
EP (1) | EP3417398B1 (zh) |
CN (1) | CN108701223B (zh) |
ES (1) | ES2762157T3 (zh) |
FR (1) | FR3047932B1 (zh) |
WO (1) | WO2017140969A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11634156B1 (en) | 2022-07-29 | 2023-04-25 | Plusai, Inc. | Aerial view generation for vehicle control |
US11628859B1 (en) * | 2022-07-29 | 2023-04-18 | Plusai, Inc. | Vehicle placement on aerial views for vehicle control |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN202088896U (zh) * | 2011-05-26 | 2011-12-28 | 臧安迪 | 基于驾驶员面部识别的机动车安全控制系统 |
CN102663356A (zh) * | 2012-03-28 | 2012-09-12 | 柳州博实唯汽车科技有限公司 | 车道线提取及偏离预警方法 |
CN103303306A (zh) * | 2012-03-07 | 2013-09-18 | 奥迪股份公司 | 就所出现的危险状况对车辆驾驶员作出警示的方法 |
CN103488976A (zh) * | 2013-09-17 | 2014-01-01 | 北京联合大学 | 一种基于智能驾驶中停止线实时检测以及距离测量的方法 |
CN103839379A (zh) * | 2014-02-27 | 2014-06-04 | 长城汽车股份有限公司 | 汽车及用于其的驾驶员疲劳预警检测方法和系统 |
US20140374182A1 (en) * | 2013-06-19 | 2014-12-25 | Artis L. Williams | System, Method and Device for Disabling a Motorized Vehicle |
CN104794856A (zh) * | 2014-01-22 | 2015-07-22 | 径卫视觉科技(上海)有限公司 | 驾驶员注意力综合测评系统 |
CN104816726A (zh) * | 2014-02-05 | 2015-08-05 | 现代自动车株式会社 | 车辆控制装置和车辆 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006264623A (ja) * | 2005-03-25 | 2006-10-05 | Mitsubishi Fuso Truck & Bus Corp | 車線維持支援装置 |
JP4950858B2 (ja) * | 2007-11-29 | 2012-06-13 | アイシン・エィ・ダブリュ株式会社 | 画像認識装置及び画像認識プログラム |
DE102009027547A1 (de) * | 2009-07-08 | 2011-01-13 | Robert Bosch Gmbh | Assistenzsystem für ein Kraftfahrzeug |
CN104012081B (zh) * | 2011-12-19 | 2017-04-19 | 日产自动车株式会社 | 三维物体检测装置 |
EP2879113B1 (en) * | 2012-07-27 | 2018-05-30 | Nissan Motor Co., Ltd | Three-dimensional object detection device, three-dimensional object detection method |
US20150045986A1 (en) * | 2013-08-09 | 2015-02-12 | Pulsar Informatics, Inc. | Systems and Methods for Determining Driver Fatigue Level from Lane Variability and Geographic Location |
KR20160059376A (ko) * | 2014-11-18 | 2016-05-26 | 엘지전자 주식회사 | 전자 기기 및 그 제어방법 |
US9811743B2 (en) * | 2015-06-29 | 2017-11-07 | Sharp Laboratories Of America, Inc. | Tracking road boundaries |
-
2016
- 2016-02-19 FR FR1651371A patent/FR3047932B1/fr not_active Expired - Fee Related
-
2017
- 2017-02-06 WO PCT/FR2017/050268 patent/WO2017140969A1/fr active Application Filing
- 2017-02-06 ES ES17707636T patent/ES2762157T3/es active Active
- 2017-02-06 EP EP17707636.1A patent/EP3417398B1/fr active Active
- 2017-02-06 CN CN201780011977.5A patent/CN108701223B/zh active Active
- 2017-02-06 US US15/999,110 patent/US11267477B2/en active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN202088896U (zh) * | 2011-05-26 | 2011-12-28 | 臧安迪 | 基于驾驶员面部识别的机动车安全控制系统 |
CN103303306A (zh) * | 2012-03-07 | 2013-09-18 | 奥迪股份公司 | 就所出现的危险状况对车辆驾驶员作出警示的方法 |
CN102663356A (zh) * | 2012-03-28 | 2012-09-12 | 柳州博实唯汽车科技有限公司 | 车道线提取及偏离预警方法 |
US20140374182A1 (en) * | 2013-06-19 | 2014-12-25 | Artis L. Williams | System, Method and Device for Disabling a Motorized Vehicle |
CN103488976A (zh) * | 2013-09-17 | 2014-01-01 | 北京联合大学 | 一种基于智能驾驶中停止线实时检测以及距离测量的方法 |
CN104794856A (zh) * | 2014-01-22 | 2015-07-22 | 径卫视觉科技(上海)有限公司 | 驾驶员注意力综合测评系统 |
CN104816726A (zh) * | 2014-02-05 | 2015-08-05 | 现代自动车株式会社 | 车辆控制装置和车辆 |
CN103839379A (zh) * | 2014-02-27 | 2014-06-04 | 长城汽车股份有限公司 | 汽车及用于其的驾驶员疲劳预警检测方法和系统 |
Non-Patent Citations (2)
Title |
---|
KEYOU GUO ET AL.: "An new algorithm for analyzing driver"s attention state", 《2009 IEEE INTELLIGENT VEHICLES SYMPOSIUM》 * |
秦洪懋: "基于驾驶行为的车道偏离预警系统关键技术研究", 《中国博士学位论文全文数据库 工程科技Ⅱ辑》 * |
Also Published As
Publication number | Publication date |
---|---|
FR3047932A1 (fr) | 2017-08-25 |
EP3417398B1 (fr) | 2019-12-04 |
WO2017140969A1 (fr) | 2017-08-24 |
FR3047932B1 (fr) | 2018-03-16 |
EP3417398A1 (fr) | 2018-12-26 |
US20210155249A1 (en) | 2021-05-27 |
CN108701223B (zh) | 2021-06-25 |
US11267477B2 (en) | 2022-03-08 |
ES2762157T3 (es) | 2020-05-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108281041A (zh) | 一种基于超声波和视觉传感器相融合的泊车车位检测方法 | |
US20080291276A1 (en) | Method for Driver Assistance and Driver Assistance Device on the Basis of Lane Information | |
JP7081438B2 (ja) | オブジェクト速度推定方法と装置及び画像処理機器 | |
US10380433B2 (en) | Method of detecting an overtaking vehicle, related processing system, overtaking vehicle detection system and vehicle | |
JP6416293B2 (ja) | 自動車に接近する対象車両を自動車のカメラシステムにより追跡する方法、カメラシステムおよび自動車 | |
EP3608635A1 (en) | Positioning system | |
JP4962581B2 (ja) | 区画線検出装置 | |
CN106611512B (zh) | 前车起步的处理方法、装置和系统 | |
CN106778593A (zh) | 一种基于多地面标志融合的车道级定位方法 | |
CN104537841B (zh) | 无牌车辆违章检测方法及其检测系统 | |
US8560220B2 (en) | Method and apparatus for determining a plausible lane for guiding a vehicle and an automobile | |
CN104760593A (zh) | 车道变更辅助装置及其工作方法 | |
CN107804226A (zh) | 拖车车道偏离警告和摇摆警报 | |
CN111932901B (zh) | 道路车辆跟踪检测设备、方法及存储介质 | |
US20140365109A1 (en) | Apparatus and method for recognizing driving lane | |
WO2003001473A1 (en) | Vision-based collision threat detection system_ | |
CN104732774B (zh) | 一种车辆逆行的检测方法和检测系统 | |
CN102542843A (zh) | 防止车辆碰撞的预警方法及装置 | |
US20170068862A1 (en) | Method for lane detection | |
JP4940177B2 (ja) | 交通流計測装置 | |
CN109871787A (zh) | 一种障碍物检测方法及装置 | |
Díaz et al. | Extended floating car data system: Experimental results and application for a hybrid route level of service | |
CN106570487A (zh) | 物体间的碰撞预测方法和装置 | |
KR101891725B1 (ko) | 단거리 레이더 센서 기반의 가상 차선 생성 방법 | |
CN108701223A (zh) | 用于估算车辆的驾驶员的注意力等级的装置和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |