CN1157694C - 用于检测打磕睡的方法和设备 - Google Patents

用于检测打磕睡的方法和设备 Download PDF

Info

Publication number
CN1157694C
CN1157694C CNB998029912A CN99802991A CN1157694C CN 1157694 C CN1157694 C CN 1157694C CN B998029912 A CNB998029912 A CN B998029912A CN 99802991 A CN99802991 A CN 99802991A CN 1157694 C CN1157694 C CN 1157694C
Authority
CN
China
Prior art keywords
image
pixel
eyes
people
facial characteristics
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CNB998029912A
Other languages
English (en)
Other versions
CN1299498A (zh
Inventor
������ˡ�Ƥ��ķ
帕特里克·皮里姆
托马斯·宾福德
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Holding BEV SA
Original Assignee
Holding BEV SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=9521809&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=CN1157694(C) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Priority claimed from PCT/EP1998/005383 external-priority patent/WO2000011610A1/en
Application filed by Holding BEV SA filed Critical Holding BEV SA
Publication of CN1299498A publication Critical patent/CN1299498A/zh
Application granted granted Critical
Publication of CN1157694C publication Critical patent/CN1157694C/zh
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1103Detecting eye twinkling
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02Rear-view mirror arrangements
    • B60R1/04Rear-view mirror arrangements mounted inside vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2503/00Evaluating a particular growth phase or type of persons or animals
    • A61B2503/20Workers
    • A61B2503/22Motor vehicles operators, e.g. drivers, pilots, captains
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/163Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813Specially adapted to be attached to a specific body part
    • A61B5/6814Head
    • A61B5/6821Eye
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6893Cars

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Public Health (AREA)
  • Multimedia (AREA)
  • Heart & Thoracic Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Emergency Management (AREA)
  • Psychology (AREA)
  • Psychiatry (AREA)
  • Hospice & Palliative Care (AREA)
  • Educational Technology (AREA)
  • Social Psychology (AREA)
  • Developmental Disabilities (AREA)
  • Dentistry (AREA)
  • Physiology (AREA)
  • Ophthalmology & Optometry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Child & Adolescent Psychology (AREA)
  • Business, Economics & Management (AREA)
  • Image Processing (AREA)
  • Emergency Alarm Devices (AREA)
  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Vehicle Engines Or Engines For Specific Uses (AREA)
  • Geophysics And Detection Of Objects (AREA)

Abstract

在检测一个人正在睡觉的过程中,需要人的面部的一个图像。选择图像的有与人的一只眼睛对应的诸特征的诸像素并由诸选出的像素形成一个分布图。在时间过程中对分布图进行分析,识别眼睛的每一次张开和闭合,并确定指示人正在睡觉的诸特征。通过识别人的头部或一个面部特征可以确定图像的包含眼睛的一个子区域,然后用一个拟人模型识别子区域。为了确定两只眼睛的张开和闭合,对眼睛的诸被阴影的像素的诸分布图进行分析以便确定阴影的宽度和高度,或者对与眨眼对应的运动的诸分布图进行分析。一个用于检测一个人正在睡觉的设备包括一个用于取得人面部的一个图像的传感器,一个控制器和一个用于形成一个有诸选出特征的诸像素的分布图的分布图形成装置。本申请也公开了一个将该设备结合在一起的后视镜组件。

Description

用于检测打磕睡的方法和设备
本发明一般地涉及一个图像处理系统,更特别地涉及一个普通的图像处理系统在检测打磕睡方面的应用。
众所周知很多高速公路的导致众多死伤的交通事故都是由于驾驶员打磕睡或睡觉引起的。在诸其它的领域中,例如对于航空公司的飞行员和发电厂的操作员来说打磕睡也是一个问题,在这些情形中由于不能始终保持警惕可能造成巨大的损害。
可以用许多不同的物理判据,包括在眨眼睛的持续时间和间隔中的一个变化确定一个人何时在打磕睡。通常,当人醒着时眨眼的持续时间大约是100到200ms(毫秒),当人打磕睡时大约是500到800ms。一般地在诸相继的眨眼之间的时间间隔当人醒着时是恒定的,但是当人打磕睡时会在一个相当宽的范围内变化。
为了检测驾驶员打磕睡已经提出了许多装置。例如在美国专利No.5,841,354;5,813,99;5,689,241;5,684,461;5,682,144;5,469,143;5,402,109;5,353,013;5,195,606;4,928,090;4,555,697;4,485,375和4,259,665中显示了这些装置。一般地,这些装置分成三类:i)检测驾驶员头部运动,例如倾斜的装置;ii)检测驾驶员的一个生理变化,例如心跳或呼吸变化的装置;iii)检测驾驶员睡觉的一个物理后果,例如对方向盘的握力减小的装置。我们相信这些装置中没有一个已经取得商业上的成功。
德国专利申请DE-19715512和对应的法国专利申请FR-2.747.346公布了用一台放在驾驶员脚附近的电视摄像机和一个用于摄像机图像的有一个检测两只眼睛的诸眨眼以便确定在一次眨眼开始和结束之间的时间间隔的软件的处理装置,对一位驾驶员的打磕睡水平进行估计的一种设备和一个过程。更特别的是,处理机的一个装置10实现:
·电视图像的存储和它的处理,以便确定一个包含驾驶员两只眼睛的区域,
·检测在驾驶员两个眼脸的闭合和它们的完全张开之间的时间间隔,
·在与装置10组合在一起的一个存储器11和一个处理机22中的一个处理以便计算慢眨眼出现幻象的一个比。
公布的国际专利申请WO-97/01246的一个目的是一个安全系统,它包括一台放在一辆汽车的后视镜内的电视摄像机和为了对在汽车里和它的周围正在发生的事情以及由于记录下摄像机的输出电视信号对已经发生了的事情进行分析,安置在远处的一个电视屏幕。事实上这是一个隐蔽的摄像机(在后视镜内),所以它对于破坏他人财产的人和窃贼来说是难以觉察的,并且它观察一个包括汽车内部和它的周围在内的大范围,摄像机的记录允许人以后知道在这个范围内发生了什么事情(第6页13到19行),这不是一个为了检测驾驶员最终打磕睡和将他叫醒,它的有效角严格地限制在汽车驾驶员面部的检测器。
公众拥有的PCT(专利合作条约)申请编号No.PCT/FR97/01354和PCT/EP98/05383公布了一个普通的图像处理系统,它的工作是确定在一个图像中相对运动的诸物体的位置和实时地确定诸物体的速度与方向。一个图像的每个像素用它自己的时间常数加以平滑。我们确定一个与在来自先前的帧的经平滑的像素的振幅中存在的一个重大变化对应的二进制值和变化的振幅,并更新像素的时间常数。对于每个特定的像素,形成两个矩阵,它们包括在空间上与特定的像素相关的诸像素的一个子集。第一个矩阵包含像素子集的诸二进制值。第二个矩阵包含像素子集的变化的振幅。在第一个矩阵中,我们确定沿着一个与特定的像素相关的定向方向的诸像素是否有代表重大变化的诸二进制值,并且对于这些像素,我们确定在第二个矩阵中这些像素的振幅是否以一个已知的表示在定向方向中运动的方式进行改变。在包括亮度,色彩,饱和,速度,定向方向,时间常数及x和y位置的范畴中,落在用户选择的这些范畴的诸组合中的第一和第二个矩阵中的诸值形成一个分布图。用诸分布图,我们确定是否存在一个有诸范畴的选出的诸组合的诸特性的区域。
我们希望用这样一个普通的图像处理系统来检测一个人的打磕睡。
本发明是一个检测一位驾驶员正在睡觉的方法,在该方法中需要取得驾驶员的一个面部图像。选择图像的有与驾驶员的至少一只眼睛的诸特征对应的诸特征的诸像素并由诸选出的像素形成一个分布图。在时间过程中对分布图进行分析,以便识别眼睛的每一次张开和闭合,并从眼睛张开和闭合的信息确定指示一位驾驶员正在睡觉的诸特征。
在一个实施例中,在选择图像的有与一只眼睛的诸特征对应的诸特征的诸像素的步骤前,先确定图像的包含眼睛的一个子区域。在这个实施例中,选择图像的有一只眼睛的诸特征的诸像素的步骤涉及在图像的子区域内选择诸像素。识别图像的一个子区域的步骤优先地涉及识别驾驶员的头部,或驾驶员的一个面部特征,如驾驶员的两个鼻孔,然后用一个拟人模型识别图像的子区域。可以通过选择图像的有与驾驶员头部的诸边缘对应的诸特征的诸像素来识别驾驶员头部。将驾驶员头部的诸边缘的选出的诸像素的诸分布图投影到诸正交轴上。然后对这些分布图进行分析以便识别驾驶员头部的诸边缘。
可以通过选择图像的有与驾驶员面部诸特征对应的诸特征的诸像素来识别驾驶员的面部特征。将面部特征的诸选出的像素的诸分布图投影到诸正交轴上。然后对这些分布图进行分析以便识别面部特征。如果希望的话,识别图像中面部特征的步骤涉及搜索图像的子图像直到找到面部特征为止。在面部特征是驾驶员的两个鼻孔的情形中,由用于检测两个鼻孔的有以诸低亮度水平的诸像素形成一个分布图。为了确认两个鼻孔的检测,可以对鼻孔诸像素的诸分布图进行分析以便确定两个鼻孔之间的距离是否在一个希望的范围内和两个鼻孔的尺度是否落在一个希望的范围内。为了确认面部特征的识别,用一个拟人模型和面部特征的位置选择图像的包含一个第二个面部特征的一个子区域。选择图像的有与第二个面部特征对应的诸特征的诸像素并对由第二个面部特征的诸选出的像素的一个分布图进行分析,以便确认第一个面部特征的识别。
为了确定驾驶员两只眼睛的张开和闭合,选择图像的有与驾驶员的一只眼睛的诸特征对应的诸特征的诸像素的步骤涉及选择有与眼睛的阴影对应的诸低亮度水平的诸像素。在这个实施例中,在时间过程中对分布图进行分析以便识别眼睛的每一次张开和闭合的步骤涉及对眼睛阴影的形状进行分析以便确定眼睛的张开和闭合。优先地将诸被遮蔽的像素的诸分布图投影到诸正交轴上,对眼睛阴影的形状进行分析的步骤涉及对阴影的宽度和高度的分析。
另一个确定驾驶员眼睛的张开和闭合的方法涉及选择图像的有与眨眼对应的诸运动特征的诸像素。在这个实施例中,为了识别眼睛的每一次张开和闭合在时间过程中对分布图进行分析的步骤涉及在时间过程中对与眨眼对应的运动中的诸像素的数量的分析。优先地从由i)DP=1,ii)表示一个正在眨眼的眼脸的CO,iii)表示一个正在眨眼的眼脸的速度和iv)表示一个正在眨眼的眼脸的上下运动组成的一群特征中选择一个正在眨眼的眼睛的诸特征。
一个用于检测一位驾驶员正在睡觉的设备包括一个用于取得驾驶员面部的一个图像的传感器,一个控制器,一个用于形成有选出的诸特征的诸像素的一个分布图的分布图形成装置。控制器控制分布图形成装置以便选择图像的有与驾驶员的至少一只眼睛的诸特征对应的诸特征的诸像素并形成诸选出的像素的一个分布图。控制器在时间过程中对分布图进行分析以便识别眼睛的每一次张开和闭合,并从眼睛张开和闭合的信息确定指示驾驶员正在睡觉的诸特征。
在一个实施例中,控制器与分布图形成装置相互作用,以便确定图像的包含眼睛的一个子区域。控制器控制分布图形成装置以便只在图像的子区域内选择图像的有与眼睛的诸特征对应的诸特征的诸像素。为了选择图像的子区域,控制器与分布图形成装置相互作用,以便在图像中识别驾驶员的头部,或驾驶员的一个面部特征,如驾驶员的两个鼻孔。然后控制器用一个拟人模型识别图像的子区域。为了识别驾驶员头部,分布图形成装置选择图像的有与驾驶员头部的诸边缘对应的诸特征的诸像素并形成投影到诸正交轴上的诸选出的像素的诸分布图。为了识别驾驶员的一个面部特征,分布图形成装置选择图像的有与面部特征对应的诸特征的诸像素并形成投影到诸正交轴上的诸选出的像素的诸分布图。然后控制器对诸选出的像素的诸分布图进行分析以便视情况而定识别驾驶员头部的诸边缘或面部特征。如果面部特征是驾驶员的两个鼻孔,则分布图形成装置选择图像的有与两个鼻孔的低亮度水平对应的诸低亮度水平的诸像素。控制器也可对诸鼻孔像素的诸分布图进行分析以便确定两个鼻孔之间的距离是否在一个希望的范围内和两个鼻孔的尺度是否落在一个希望的范围内。如果希望的话,控制器可以与分布图形成装置相互作用,以便搜索图像的子图像来识别面部特征。
为了证实面部特征的识别,控制器用一个拟人模型和面部特征的位置,使分布图形成装置选择图像的包含一个第二个面部特征的一个子区域。分布图形成装置选择图像的在有与第二个面部特征对应的诸特征的子区域中的诸像素并形成这些像素的一个分布图。然后控制器对与第二个面部特征对应的诸选出的像素的分布图进行分析以便识别第二个面部特征并因此确认第一个面部特征的识别。
在一个实施例中,分布图形成装置选择图像的有与两只眼睛的阴影对应的诸低亮度水平的诸像素,并且控制器对眼睛阴影的形状进行分析以便识别与眼睛的张开和闭合对应的诸形状。分布图形成装置优先地形成投影到诸正交轴上的眼睛的诸被遮蔽的像素的诸分布图,并且控制器对阴影的宽度和高度进行分析以便确定眼睛的张开和闭合。
在另一个实施例中,分布图形成装置选择图像的有与眨眼对应的运动中的诸像素和控制器在时间过程中对运动中的诸像素的数量进行分析以便确定眼睛的张开和闭合。优先地从由i)DP=1,ii)表示一个正在眨眼的眼脸的CO,iii)表示一个正在眨眼的眼脸的速度和iv)表示一个正在眨眼的眼脸的上下运动组成一群特征中选择与眨眼对应的诸运动特征。
如果希望的话,传感器可以与控制器和分布图形成装置整体地构成。设备可以包括一个报警器,当检测出驾驶员正在睡觉时控制器使报警器发出警报,设备可以包括一个发光源,如一个IR(红外)辐射源,和用于当驾驶员被发光源照明时对驾驶员进行观察的传感器。
一个后视镜组件包括一个后视镜和所描述的装在后视镜上的用于检测驾驶员打磕睡的设备。在一个实施例中,一个托架将该设备固定在后视镜上。在另一个实施例中,后视镜包括一个有一个开放的边和一个内部的外壳。后视镜装在外壳的开放的边上,可以从外壳的内部到外壳的外部看穿后视镜。打磕睡检测设备装在外壳的内部,有一个传感器指向后视镜。如果希望的话,一个接头将该设备固定在后视镜组件上,当驾驶员调整后视镜组件时用该接头将设备保持在一个面对驾驶员的位置上。后视镜组件可以包括一个指向驾驶员的发光源,有用于当驾驶员被发光源照明时对驾驶员进行观察的传感器。后视镜组件也可以包括一个报警器,当检测出驾驶员正在睡觉时控制器使报警器发出警报。本申请也公布了一台包括打磕睡检测设备的车辆。
图1对根据本发明的系统进行说明的示意图。
图2是本发明的时间和空间处理装置的一个方框图。
图3是本发明的时间处理装置的一个方框图。
图4是本发明的空间处理装置的一个方框图。
图5是一个表示根据本发明对诸像素进行处理的图。
图6说明根据本发明用于确定运动方向的Freeman代码的诸数字值。
图7说明经时间处理装置处理后的诸嵌套矩阵。
图8说明经时间处理装置处理后的诸六角形矩阵。
图9说明经时间处理装置处理后的诸反向L形矩阵。
图10说明经时间处理装置处理后的诸角扇形矩阵。
图11是一个表示时间处理装置,空间处理装置和分布图形成装置之间的关系的方框图。
图12是一个表示诸不同的分布图形成装置之间的相互关系的方框图。
图13表示从两个一维分布图形成一个运动区域的一个二维分布图。
图14是一个单独的分布图形成装置的一个方框图。
图15A和15B说明用一个分布图形成装置找出一条线相对一个分析轴的定向。
图16说明一个一维分布图。
图17说明诸半图解子矩阵对一个图像的诸选出的想要的区域的应用。
图18是一个说明一个与本发明的打磕睡检测系统组合的后视镜的侧视图。
图19是一个说明一个后视镜的工作的顶视图。
图20是一个说明一个后视镜工作的示意图。
图21是一个说明一个与本发明的打磕睡检测系统结合的后视镜组件的截面顶视图。
图22是一个说明在图21的后视镜组件中一个支持本发明的打磕睡检测系统的接头的部分截面顶视图。
图23是一个说明在图21的后视镜组件和一位驾驶员之间的关系的顶视图。
图24说明对一个用本发明系统的人的头部诸边缘的检测。
图25说明对一个人的头部诸边缘的外部的遮蔽。
图26说明对一个人的两只眼睛的外部的遮蔽。
图27说明对一个用本发明系统的人的两只眼睛的检测。
图28说明在一个三维正交坐标系中诸相继的眨眼。
图29A和图29B说明诸眼睛运动分布图的诸峰和诸谷到指示眨眼的信息的变换。
图30是一个说明用本发明的系统检测打磕睡的流程图。
图31说明用诸子图像搜索一个完整的图像。
图32说明用本发明的系统检测两个鼻孔和跟踪眼睛的运动。
图33说明用本发明的系统检测一只张开的眼睛。
图34说明用本发明的系统检测一只闭合的眼睛。
图35是另一个检测打磕睡的方法的一个流程图。
图36说明用本发明的系统检测一个瞳孔。
本发明公布了在公众拥有的PCT申请编号No.PCT/FR97/01354和PCT/EP98/05383中公布的一个普通的图像处理系统的一个应用,将这两个PCT申请编号的诸内容作为参考文献结合在本申请中,用于检测与人眼相关的诸不同判据,特别是检测当一位驾驶员驾驶一辆汽车时正在睡觉的情形。
本发明的设备与上面提到的PCT申请编号No.PCT/FR97/01354和PCT/EP98/05383中描述的相似,为了清楚起见在本申请中将对它们进行描述。参照图1和10,普通的图像处理系统22包括一个与分布图形成装置22a组合在一起的空间和时间处理装置11。空间和时间处理装置11包括一个输入端12,该输入端接收一个来自一台对一个场景13a进行监视的电视摄像机或其它的成像装置13的数字电视信号S。成像装置13优先地是一台常规的CMOS(互补型金属氧化物半导体)型的CCD(电荷耦合器件)摄像机,为了现在描述的本发明的目的,将该摄像机安装在一辆汽车上面对驾驶员的地方。我们将明白当用于非车辆的应用中时,可以用任何希望的方式安装摄像机以便对特定的感兴趣的判据进行检测。我们也预见到任何其它的适当的传感器,例如超声,IR,雷达等都可用作成像装置。成像装置13可以有一个直接的数字输出,或一个模拟输出,然后用一个A/D(数字/模拟)变换器将模拟输出变换成数字信号S。如果希望的话,也可将成像装置13与普通的图像处理系统22形成一个整体。
虽然信号S可以是一个渐进的信号,但是优先地,它由连续的诸交织帧的对TR1和TR′1,TR2和TR′2组成,其中每个对又由连续的水平扫描线,例如,在TR1中的l1,1,l1,2,......,l1,17,在TR2中的l2,1,I2,2,......,I2,17组成。每条线都由连续的诸像素或诸像点PI,例如,对于线l1,1为a1,1,a1,2和a1,3;对于线l1,17为al17,1和a17,22;对于线l2,1为al1,1和a1,2组成。信号S(PI)代表由诸像素PI组成的信号S。
S(PI)包括在每个帧开始时的一个帧同步信号(ST),在每条线开始时的一个线同步信号(SL)和一个消隐信号(BL)。于是,S(PI)包括一组连续的帧,它们代表时间域,和在每个帧内,  包含一系列的线和像素,它们代表空间域。
在时间域中,“诸连续的帧”指的是同一类型的诸连续的帧(即,诸奇帧如TR1或诸偶帧TR′1),而“在同一位置的诸连续的像素”指的是在同一类型的诸连续的帧中在同一位置的诸像素(PI)的诸连续的值,例如在帧TR1中的l1,1的a1,1,和在下一个对应的帧TR2中的l1,1的a1,1
空间和时间处理装置11产生到一条数据总线23的诸输出ZH和SR 14(图11),优先地它们是诸数字信号。复数信号ZH包含许多由系统产生的输出信号,优先地包括表示一个运动中的区域或物体的存在和位置及图像的每个像素的位移DI的速度V和定向方向的诸信号。又,优先地来自系统的输出是输入的数字电视信号S,考虑到对组合信号ZH(一个帧)中的数据的计算时间,并为了使数字电视信号S与对于帧的输出ZH同步,对数字电视信号S进行延迟(SR)。用延迟信号SR在一个监视器或电视机屏幕10上显示由摄像机13接收的图像,也可用监视器或电视机屏幕10显示包含在组合信号ZH中的信息。也可将组合信号ZH传输到一个分开的处理组件10a,在处理组件10a中可以完成信号的进一步处理。
参照图2,空间和时间处理装置11包括一个第一个组件11a,它是由一个有一个相关的存储器16的时间处理装置15,一个有一个延迟装置18和定序装置19的空间处理装置17和一个产生一个时钟信号HP并用作时间处理装置15和定序装置19的一个时钟的像素时钟20组成。由时钟20以图像的像素速率,优先的是13.5MHZ产生诸时钟脉冲HP。
图3表示时间处理装置15的工作,时间处理装置15的作用是平滑电视信号和产生许多被空间处理装置17利用的输出。当处理时,时间处理装置15从存储器16恢复来自最接近的前一帧的数字电视信号的经平滑的诸像素值LI,和对于每一个帧的一个平滑时间常数CI的诸值。如在这里所用的那样,我们用LO和CO表示来自时间处理装置15的存储在存储器16中的诸像素值(L)和诸时间常数(C),并用LI和CI分别表示对从存储器16恢复并被时间处理装置15使用的这些值的诸像素值(L)和诸时间常数(C)。时间处理装置15对于每一个像素产生一个识别像素是否已经经历了重大变化的二进制输出信号DP,和一个代表时间常数C的被更新计算值的数字信号CO。
参照图3,时间处理装置15包括一个第一个功能块15a,功能块15a接收输入电视信号S的诸像素PI。对于每个像素PI,时间处理装置15从存储器16恢复来自最接近的前一对应帧的这个像素的一个经平滑的值LI,经平滑的值LI是由时间处理装置15当对最接近的前一帧进行处理时计算出来的并将它作为LO存储在存储器16中。时间处理装置15计算对于同一个像素位置(例如,在TR1中l1,1的a1,1和在TR2中l1,1的a1,1)的每个像素值PI和LI之间的差的绝对值AB:
AB=|PI-LI|
为了保持和输入的像素流同步,用来自时钟20的时钟信号HP对时间处理装置15进行控制。时间处理装置15的试验功能块15b接收信号AB和一个阈值SE。阈值SE可以是常数,但是优先地根据像素值PI而变化,更优先的是为了形成一个伽马校正随像素值而变化。改变SE形成一个伽马校正的已知的方法由虚线所示的任选的功能块15e表示。为了确定一个二进制信号DP,试验功能块15b在一个像素接着一个像素的基础上比较诸数字信号AB和SE。如果AB超过阈值SE,这表示像素值PI与在前一帧中同一个像素的平滑值LI相比已经经历了重大的变化,则对于考虑中的像素将DP设置为“1”。否则,对于这个像素将DP设置为“0”。
当DP=1时,我们认为在前一帧中同一个像素的像素值PI和平滑值LI之间的差是太大了,时间处理装置15试图通过减小对那个像素的平滑时间常数C来减小在以后诸帧中的这个差。相反地,如果DP=0,则时间处理装置15试图通过增加对那个像素的平滑时间常数C来增加在以后诸帧中的这个差。作为DP值的一个函数对时间常数C的这些调整是由功能块15c进行的。如果DP=1,则功能块15c使时间常数减小一个单位值U,使得时间常数CO的新值等于时间常数CI的旧值减去单位值U。
CO=CI-U
如果DP=0,则功能块15c使时间常数增加一个单位值U,使得时间常数CO的新值等于时间常数CI的旧值加上单位值U。
CO=CI+U
于是,对于每个像素,功能块15c接收来自试验装置15b的二进制信号DP和来自存储器16的时间常数CI,将CI向上或向下调整一个单位值U,并产生一个新的时间常数CO,将新的时间常数CO存储在存储器16中取代时间常数CI。
在一个优先的实施例中,在功能块15c中,时间常数C有2p的形式,其中p被增加或减小一个单位值U,U优先地等于1。于是,如果DP=1,则功能块15c从在时间常数2p中的p减去1(在U=1的情形中),时间常数2p变为2p-1。如果DP=0,则功能块15c在时间常数2p中的p上加上1,时间常数2p变为2p+1。选择一个形式为2p的时间常数使计算变得容易了从而简化了功能块15c的结构。
功能块15c包括若干个保证系统适当工作的试验。首先,CO必须保持在所定义的诸极限内。在一个优先的实施例中,,CO必须不变成负的(CO≥0)和必须不超过一个极限值N(CO≤N),优先地极限值N为7。在CI和CO有2p形式的例子中,上极限值N是p的最大值。
上极限值N可以是常数,但是优先地它是一个变量。一个任选的输入装置15f包括一个存储器寄存器,它能使用户或控制器42改变N。增加N的结果是增加系统检测诸像素位移的灵敏度,而减小N改善诸高速度的检测。为了将LO的变化规定为PI水平的一个函数,即,Nijt=f(PIijt),可以使N与PI有关(如果希望的话,N可以在一个像素接着一个像素的基础上改变),在功能块15f中执行该计算,在这种情形中功能块15f将从摄像机13接收PI的值。
最后,一个计算功能块15d,对每个像素,接收由功能块15c产生的新的时间常数CO,输入电视信号S的诸像素值和来自存储器16的在前一个帧中的像素的平滑像素值LI。然后,计算功能块15d如下计算对于像素的一个新的平滑像素值LO:
LO=LI+(PI-LI)/CO
如果CO=2p,则
LO=LI+(PI-LI)/2po
其中“po”是在功能块15c中计算得到的p的新值,它取代在存储器16中的以前的值“pi”。
平滑操作的目的是对输入电视信号的每个像素PI的值中的变化进行规一化,以便减小诸变化的差异。对于帧的每个像素,时间处理装置15从存储器16恢复LI和CI,产生诸新的值LO(新的经平滑的像素值)和CO(新的时间常数),将它们存储在存储器16中分别取代LI和CI。如图2所示,时间处理装置15通过延迟装置18将对于每个像素的CO和DP诸值传输到空间处理装置17。
假定在一个帧中有R个像素,所以每个完整的图像有2R个像素,则存储器16的容量必须至少有2R(e+f)个比特,其中e是为存储单个像素值LI所需的比特数(优先的是8个比特),和f是为存储单个时间常数CI所需的比特数(优先的是3个比特)。如果每个电视图像都是由单个帧组成的(渐进的图像),则用R(e+f)个比特而不是2R(e+f)个比特就足够了。
我们用空间处理装置17识别一个在来自摄像机13的诸图像中相对运动的区域,并确定运动的速度和定向方向。空间处理装置17,连同延迟装置18,与一个由在像素频率产生时钟脉冲HP的时钟20控制的控制装置19合作。空间处理装置17接收来自时间处理装置15诸信号DPij和COij(其中i和j与像素的x和y坐标对应),并如下面讨论的方式对这些信号进行处理。而时间处理装置15处理在每个帧内的诸像素,空间处理装置17处理在诸帧内的诸像素群。
图5图示地表示连续的对应的帧序列TR1,TR2,TR3的时间处理和一个在时间t1,t2和t3有坐标x,y的像素PI的这些帧中的空间处理。图5中的一个平面与一个帧的空间处理对应,而诸帧的迭加与诸连续帧的时间处理对应。
由空间处理装置17将来自时间处理装置15诸信号DPij和COij分布在一个包含许多行和列的第一个矩阵21内,该行数与列数比帧的线数L和每条线的像素数M小得多。优先地矩阵21包括沿y轴的2l+1行和沿x轴的2m+1列(在迪卡尔坐标中),其中l和m是小的整数。选择l和m是2的指数,其中例如l等于2a和m等于2b,a和b为例如约2到5的整数是有利的。为了简化作图和说明,我们将取m等于l(尽管它们可以是不同的)和m=l=23=8。在这种情形中,矩阵21有2×8+1=17行和17列。图4表示形成矩阵21的17行Y0,Y1,......,Y15,Y16和17列X0,X1,........,X15,X16的一部分。
由空间处理装置17将来自时间处理装置15的DPijt和COijt的诸输入流分布在l×m矩阵21内。我们明白因为帧要大得多,有L条线和每行M个像素(例如,312.5条线和250-800个像素),与所用的电视标准有关,所以在矩阵21中将只包含所有DPijt和COijt值的一个子集。
为了将输入电视信号的L×M矩阵与空间处理装置17的l×m矩阵21区别开来,将用指标i和j代表前一个矩阵的诸坐标和用指标x和y代表后一个矩阵的诸坐标。在一个给定的瞬间,一个有一个瞬时值PIijt的像素的特征在空间处理装置17的输入端由诸信号DPijt和COijt的来表示。通过扫描对于DP和CO的诸L×M矩阵中的每一个形成(2l+1)×(2m+1)矩阵21。
在矩阵21中,由一个分别对于诸行Y0到Y16的在0和16(包括16在内)之间的行数和由一个分别对于诸列X0到X16的在0和16(包括16在内)之间的列数定义每个像数,在本情形中l=m=8。在该情形中,矩阵21将是一个17×17=289个像素的平面。
在图4中,诸拉长的水平长方形Y0到Y16(只画出它们中的四个,即Y0,Y1,Y15和Y16)和诸垂直线X0到X16(只画出它们中的四个,即X0,X1,X15和X16)说明矩阵21有17×17个图像点或像素,它们有在一个纵坐标行和一个横坐标列的交点处定义的诸指标。例如,如图4所示P88是列8和行8的交点,该交点在位置e,它是矩阵21的中心。
对来自时钟20的诸HP和BL信号作出响应时(图2),一个速率控制或定序装置19:i)在一个等于13.3MHZ(对于一个有一个对应像素数的图像)被每个帧的列数(例如400)除的商的频率上产生一个线序列信号SL,输入到延迟装置18,ii)产生一个帧信号SC,它的频率等于商13.5/400MHZ被电视图像中的列数除所得的值,例如312.5,和iii)输出HP时钟信号。用消隐信号BL使定序装置19在输入图像中的诸同步信号时不工作。
一个延迟装置18执行将L×M矩阵的诸部分分布在矩阵21中的工作。延迟装置18接收诸DP,CO和诸输入像素S(PI)信号,并用时钟信号HP,线序列信号SL和列序列信号SC将这些接收的信号分布在矩阵21中。
为了从诸DP和CO信号的输入流形成矩阵21,必须如下延迟对于诸DP和CO信号的连续的行Y0到Y16
行Y0-不延迟;
行Y1-被延迟一条帧线的持续时间TP;
行Y2-被延迟2TP;
等等直到
行Y16-被延迟16TP。
一个帧行的持续时间TP的诸连续的延迟是在分别为诸行Y1,Y2.....Y16服务的级联的16个延迟电路r1,r2,.....,r16中执行的,在从时间处理装置15到达时没有任何延迟的诸DP和CO信号直接为行Y0服务。可以用一条有16个输出端的延迟线构造所有的延迟电路r1,r2,.....,r16,由在两个相继的输出端之间延迟线的任何一段加上的延迟是常数并等于TP。
速率控制装置19控制整个L×M帧矩阵在矩阵21上的扫描。由在从Y0到Y16的17个行中的每一行上的16个移位寄存器d(给出总共为16×17=272个移位寄存器)的一个级联实施17×17矩阵上帧矩阵的一行中诸像素的循环移位,例如在行Y0上从X0到X16的循环移位,这些移位寄存器位于在两个相继的像素位置之间的每一行中,即寄存器d01在位置PI00和PI01之间,寄存器d02在位置PI01和PI02之间等。每个寄存器用列序列信号SC加上一个等于在一行或一条线中两个相继的像素之间的时间差的延迟TS。因为对于S(PI)和对于DP和CO,在一个帧TR1中的诸行l1,l2......l17(图1),一个接着一个被移位了TP(一行的整个持续时间)后,到达延迟装置18,并且延迟装置18以逐渐增加的延迟TP将它们分布在诸行Y0,Y1......Y17上,这些行在同一个帧部分中在一个给定的时间显示对于诸行l1,l2......l17的诸DP和CO信号。类似地,在一个给定的行,例如,l1行中,诸相继的像素信号a1,1,a1,2.......被移位TS后到达,并且移位寄存器d加上一个也等于TS的延迟。作为一个结果,在矩阵21的一个给定行Y0到Y16中诸DP和CO信号的诸像素是同时的,即它们与同一个帧部分对应。
可在一个给定的瞬间在诸移位寄存器,以及在17行前面的诸寄存器的上游,即寄存器d0,1,d1,1.....d16,1的16×17=272个输出端得到代表在矩阵21中的诸CO和DP的诸信号,这对于17×17个位置P0,0,P0,1,.....P8,8......P16,16形成一个总数为16×17+17=17×17个的输出端。
为了更好地了解空间处理过程,我们将相对于一个包含3行和3列的小矩阵M3描述系统,其中矩阵的9个元素的中心元素是坐标为x=8,y=8的像素 e,如下所示:
a  b  c
d  e  f                 (M3)
g  h  i
在矩阵M3中,围绕中心像素 e的诸位置a,b,c,d,f,g,h,i与相对于中心像素的8个定向方向对应。可以用Freeman代码识别这8个定向如图6所示,编码为0到7的诸方向从x轴开始,每步45°。在Freeman代码中,因为23=8,所以可用一个3比特的数表示8个可能的定向方向。
考虑矩阵M3,Freeman代码的8个方向如下:
3  2  1
4   e 0
5  6  7
回到有17×17个像素的矩阵21,一个计算装置17a同时考察在矩阵21内的大小为15×15,13×13,11×11,9×9,7×7,5×5和3×3的中心在 e的诸不同的嵌套的方的子矩阵,其中3×3矩阵就是上面提到的M3矩阵。空间处理装置17确定哪个矩阵最小,在最小矩阵中有DP=1的诸像素沿着一条直线排列,该直线确定排在一条直线上的诸像素的运动方向。
对于在矩阵中排在一条直线上的诸像素,  系统确定CO是否在对准的方向中在中心位置的每一边,从在一个定向方向中的+a和在相反的定向方向中的-a变化,其中1<a<N。例如,如果M3的诸位置g,e和c有值-1,0,+1,则在这个矩阵中在Freeman代码中在(定向)方向1中从右到左存在一个移位(图6)。然而,诸位置g,e和c必须同时有DP=1。当在3×3到15×15的诸嵌套矩阵中,矩阵较大,在该矩阵中CO在沿着一个方向的两个相邻位置之间从+1或-1开始变化时,运动中的诸像素的移位速度较大。例如,如果由9M标记的9×9矩阵中诸位置g,e和c在定向方向1中有值-1,0,+1,则移位将比对于在3×3的M3矩阵中的值-1,0,+1的移位快(图7)。我们选择最小的矩阵作为感兴趣的主线,对于该矩阵一条线满足对于在该线中的诸像素的DP=1的试验并且CO在对准的方向中在中心位置的每一边从在一个定向方向中的+a和在相反的定向方向中的-a开始变化。
在一个给定的矩阵内,CO的一个较大的值表示较慢的运动。例如,在最小的矩阵,即3×3矩阵中,CO=2并有DPS=1确定子像素的运动,即每个图像的二分之一个像素的运动,CO=3表示较慢的运动,即每个图像三分之一个像素的运动。为了降低系统中的计算功率和简化硬件,优先地只考虑CO的相对于中心像素对称的那些值。
因为在一个优先的实施例中CO由一个2的指数表示,所以可以对CO只用几个比特来识别速度的一个扩大的范围,而仍然能识别诸相对低的速度。因为例如在3×3矩阵M3中诸位置g,e和c中的值-2,0,+2表示一个速度只有与在M3矩阵中诸相同位置中的值1,0,+1对应的速度一半那样快。
为了消除诸不确定性,优先地我们对诸结果进行两个试验。如果在诸嵌套的矩阵中的一个中沿着若干个方向CO都有变化,则第一个试验选择最强的变化,换句话说最大的时间常数。第二个试验任意地选择沿着这些方向CO的变化是相同的两个(或多个)方向中的一个,这种选择例如可通过在单个矩阵中以诸不同的方向定向诸相同的运动线的情形下选择Freeman代码的最小值来实现。这通常当移位的实际方向近似在Freeman代码中的两个相继的编码方向之间,例如在与一个(定向的)方向对应的诸方向1和2之间时发生,该(定向的)方向能被表示为与x轴方向(在Freeman代码中的0方向)成约67.5°的1.5(图6)。
数字电视信号S的一个完整的帧的扫描优先地发生在下列序列中。考虑的第一组像素是帧的最初的17行或线和帧的最初的17列。因此,仍然对帧的最初的17行,从帧的左边到帧的右边一列一列地移动矩阵,如图5所示,即从最左边位置TM1开始,然后TM2相对与于TM1位移一列,直到在最右边的TMM(其中M是每条帧线或行的像素数)为止。一旦已经从左到右对每一列考虑了最初的17行,就对帧中的诸行2到18重复该过程。这个过程继续着,一次向下移动一行直到考察了在帧的底部的最后一组线,即线L-16.....L(其中L是每个帧的线数)为止。
为了得到一个定时到矩阵21的可以在一台电视机或监视器上显示出来的电视信号,空间处理装置17对每个像素产生下列的诸输出信号:i)根据CO围绕像素的最大变化的振幅,一个代表像素的移位速率的信号V,如果速度有一个2的指数的形式,它的值可以,例如,由在范围0-7中的一个整数来表示,所以可存储在3个比特中,ii)一个代表像素移位的方向的信号DI,该方向是从最大变化的方向计算出来的,优先地也由在与Freeman代码对应的范围0-7中的一个整数来表示DI的值,并将该值存储在3个比特中,iii)一个二进制证实信号VL,它指示为了能够将一个有V=0和DI=0的有效输出与由于一个偶然事件缺少一个输出区别开来,速度和定向方向的结果是否有效,对于一个有效的输出这个信号是1或对于一个无效的输出这个信号是0,iv)例如存储在3个比特中的一个时间常数信号CO,和v)一个延迟的电视信号SR,它由在延迟装置18中被延迟了16连接的线持续时间TR,从而被延迟了将信号S分布在17×17矩阵21中的持续时间的输入电视信号S组成。又,从控制装置19输出时钟信号HP,线序列信号SL和列序列信号SC。
可以用诸嵌套的六角形矩阵(图8)或一个倒置的L形矩阵(图9)取代图4和7中的诸嵌套的长方形矩阵。在如图8所示的情形中,诸嵌套的矩阵(其中只画出了最接近中心的矩阵MR1和MR2)都以点MR0为中心,点MR0与图7中的矩阵M3,M9的中心点对应。一个六角形矩阵系统的优点是它允许使用诸斜的坐标轴xa和ya,和可以分解成诸等边三角形,以便执行一个各向同性的速度计算。
图9中的矩阵由从中心位置MRu开始的单行(Lu)和单列(Cu)组成,在该中心位置如果发生运动,则两个信号DP和CO分别是对于DP等于“1”和对于CO增加或减少一个单元。
如果运动是在x坐标方向,则CO信号在列Cu中的所有位置(诸盒子)中是相同的,并且二进制信号DP在行Lu中的所有位置,从有值COu的原点MRu直到CO等于COu+1或-1在内的位置中都等于1。如果运动是在y方向,则CO信号在行Lu中的所有位置(诸盒子)中都是相同的,并且二进制信号DP在列Cu中的所有位置,从有值COu的原点MRu直到CO等于COu+1或-1在内的位置中都等于1。如果运动相对于x和y坐标是斜的,则二进制信号DP等于1,而CO等于在行Lu中的诸位置(诸盒子)中和在列Cu中的诸位置(诸盒子)中的COu,斜率由通过两个位置的直线的垂线确定,在这两个位置上信号COu改变一个单位值,而DP信号总是等于1。
图9表示在两个特定的位置Lu3和Cu5中DP=1和COu改变一个单位值的情形,并指出对应的斜率PP。在所有的情形中,移位速度是其中CO改变一个单位值的位置的函数。如果CO仅在Lu或Cu中改变一个单位值,则移位速度与CO变化位置的值对应。如果CO在Lu中的一个位置和在Cu中的一个位置改变一个单位值,则速度与MRu和Ex(通过MRu的与Cu-Lu垂直的直线的交点)之间的距离成正比。
图10表示一个有诸传感器的成像装置,这些传感器位于与一个矩形矩阵成像装置的诸行和诸列对应的诸同心线c和诸径向线d的诸交点。这样一个成像装置的工作是由一个循环扫描序列发生器控制的。在这个实施例中,形成了有角度扇形的诸n×n矩阵MC(图中指出了一个3×3矩阵MC3和一个5×5矩阵MC5),除了诸定序不同外,与上面讨论过的诸方矩阵实施例一样地对这些矩阵进行处理。
如在图11-16所示,将空间和时间处理装置11与一个分布图处理机22a相关地用于根据用户规定的为了识别这些目标的判据,识别在输入信号内的诸目标。一条总线Z-Z1。(请见图2,11和12)将空间和时间处理装置11的诸输出信号传送到分布图处理机22a。分布图处理机22a产生组合的输出信号ZH,它包含关于在情景中相对运动中的诸区域的信息。
参照图12,分布图处理机22a包括一条总线23,总线23用于在分布图处理机22a的诸不同部件之间传递诸信号,用于接收来自一个控制器42的诸输入命令和用于将诸输出信号传送给控制器42。诸分布图形成和处理功能块24-29接收诸不同的输入信号,即延迟数字电视信号SR,速度V,诸定向方向(以Freeman代码表示)DI,时间常数CO,第一个轴x(m)和第二个轴y(m),我们将在下面对它们进行详细的讨论。每个分布图形成功能块的功能是使能对与那个功能块相关的域形成一个分布图。例如,分布图形成功能块24接收延迟数字电视信号SR和使能对电视信号的诸亮度值形成一个分布图。因为信号的亮度一般地将由一个在范围0-225内的数表示,所以分布图形成功能块24优先地是一个用8比特可寻址的存储器,存储器的每个存储位置有与在一个帧中的诸像素的数量对应的足够的比特数。
分布图形成存储器25接收速度信号V和使能对在一个帧中的诸不同的速度形成一个分布图。在一个优先的实施例中,速度是一个在范围0-7中的整数。于是分布图形成功能块25优先地是一个用3比特可寻址的存储器,存储器的每个存储位置有与在一个帧中的诸像素的数量对应的足够的比特数。
分布图形成功能块26接收定向方向信号DI和使能对在一个帧中的诸定向方向形成一个分布图。在一个优先的实施例中,定向方向是一个在范围0-7中的整数,与Freeman代码对应。于是分布图形成功能块26优先地是一个用3比特可寻址的存储器,存储器的每个存储位置有与在一个帧中的诸像素的数量对应的足够的比特数。
分布图形成功能块27接收时间常数信号CO和使能对在一个帧中的诸时间常数形成一个分布图。在一个优先的实施例中,时间常数是一个在范围0-7中的整数。于是分布图形成功能块27优先地是一个用3比特可寻址的存储器,存储器的每个存储位置有与在一个帧中的诸像素的数量对应的足够的比特数。
分布图形成方框28和29分别接收对它们要形成一个分布图的诸像素的诸x和y位置,并对于这些像素形成诸分布图,如在下面较详细地讨论的。分布图形成功能块28优先地是一个用与在一条线中的像素的数量对应的比特数可寻址的存储器,存储器的每个存储位置有与在一个帧中的线的数量对应的足够的比特数,而分布图形成功能块29优先地是用与在一个帧中的线的数量对应的比特数可寻址的存储器,存储器的每个存储位置有与在一条线中的像素的数量对应的足够的比特数。
参照图12和14,分布图形成功能块24-29分别有一个相关的验证功能块30-35,它们分别产生一个验证信号V1-V6。一般地,分布图形成功能块24-29中的每一个都和诸其它的相同并以相同的方式起作用。为了简单起见,我们将关于分布图形成功能块25的工作对本发明进行描述,我们懂得诸其它的分布图形成功能块以相同的方式工作。分布图形成功能块25包括一个分布图形成部分25a,它形成对于那个功能块的分布图,和一个分类器25b,用于选择对它们形成的分布图的诸像素的判据。分布图形成部分25a和分类器25b在一个集成电路(图中未画出)中的计算机软件的控制下工作,以便提取由分布图形成功能块产生的诸分布图的某些限制,和对诸分布图形成装置的诸不同的部件的工作进行控制。
参照图14,分布图形成部分25包括一个存储器100,它优先地是常规的数字存储器。在形成一个速度分布图的分布图形成功能块25的情形中,存储器100的大小是有地址0-7,这些地址中的每一个都可以存储在一个图像中的像素的数量。在诸帧之间,通过在诸多路复用器102和104中设置init=1使存储器100初始化,即清除所有的存储。这有,关于选择“0”输入的多路复用器102,输出到存储器100的记入数据线的效果。同时,设置init=1使多路复用器104选择计数器输入,将它输出到存储器100的地址线。计数器输入端与一个计数器(图中未画出)连接,该计数器计数通过存储器100的所有地址进行计数,在这种情形中0≤地址≤7。这有在存储器100的所有存储地址中放入一个零的效果。优先地在每个帧之间的消隐间隔时间内对存储器100进行清除。在对存储器100进行清除后,将init线设置到零,在多路复用器102的情形中它导致将数据线的内容发送到存储器100,在多路复用器104的情形中它导致将来自空间处理装置117的数据,即V数据,发送到存储器100的地址线。
分类器25b使只有诸选出的分类判据的数据被进一步考虑,这意味着可能被包括在由分布图形成功能块24-29形成的诸分布图中。例如,关于速度,它优先地是一个在范围0-7中的值,可以设置分类器25b只考虑在一个特殊的速度范畴或诸范畴,例如速度1,速度3或5,速度3-6等内的数据。分类器25b包括一个寄存器106,该寄存器106能使用户或一个分开的计算机程序设置诸分类判据。作为一个例子,寄存器106将包括,在速度的情形中,8个编号0-7的寄存器。通过将一个寄存器设置到“1”,例如寄存器号码2,只有满足选出类别的判据,例如速度2将导致一个分类的输出“1”。在数学上表示出来时,对于任何给定的寄存器,其中R(k)=b,k是寄存器号码,b是存储在寄存器中的布尔值:
输出=R(数据(V))
所以对于数值2的一个数据点V,只有当R(2)=1时,分类器25b的输出将是“1”。与分布图形成功能块24相关的分类器优先地有256个寄存器,一个寄存器用于图像的每个可能的亮度值。与分布图形成功能块26相关的分类器优先地有8个寄存器,一个寄存器用于每个可能的方向值。与分布图形成功能块27相关的分类器优先地有8个寄存器,一个寄存器用于CO的每个可能的值。与分布图形成功能块28相关的分类器优先地有与每条线的像素数相同的寄存器数。最后,与分布图形成功能块29相关的分类器优先地有与每个帧的线数相同的寄存器数。在分布图形成功能块28和29的情形中通过组合装置36,经过总线23将每个分类器的输出传输到诸验证功能块30-35中的每一个,我们将在下面对此作进一步的讨论。
诸验证功能块30-35从在诸分布图形成功能块24-29中的所有分类装置平行地接收分类信息。每个验证装置产生一个验证信号,将验证信号传输到它的相关的分布图形成功能块24-29。对于每个输入的像素,验证信号确定分布图形成功能块是否在形成它的分布图中将利用那个像素。再次参照表示分布图形成功能块25的图14,验证装置31包括一个寄存器功能块108,寄存器功能块108有一个与每个分布图形成功能块相关的寄存器,或者更一般地,一个与系统能处理的每个数据域,在这种情形中,是亮度,速度,方向,CO,和x及y位置,相关的寄存器。在寄存器功能块108中的每个寄存器的内容是一个可以由一位用户或一个计算机控制器设置的二进制值。每个验证装置通过总线23接收每个分类器的输出,在这种情形中诸分类器的号码为0,.....,p,我们记住如果考虑的特殊的数据点是在对于那个数据域的分类器中那类设置到“1”的寄存器中,则对于任何一个数据域,例如速度,分类器对于那个数据域的输出将只能是“1”。如果对于在验证装置中的设置到“1”的每个寄存器,对于那个寄存器的域从分类器接收一个输入“1”,则来自每个验证装置的验证信号将只能是“1”。这可以如下表示出来:
out = ( in 0 ‾ + Reg 0 ) · ( in ‾ 1 + Reg 1 ) . . . . . . ( in n ‾ + Reg n ) ( in 0 + in 1 + . . . . . . in n )
其中Reg0是在与输入in0相关的验证装置中的寄存器。于是,用诸分类器与诸验证装置30-35组合,系统能够为处理选择只有在任何选出的域内在任何选出的类别中的诸数据点。例如,可以用系统通过设置下列寄存器:在对于速度,方向和亮度的诸验证装置中的诸寄存器,速度分类器中的寄存器2,方向分类器中的寄存器4,和亮度分类器中的寄存器125中的每一个到“1”,检测只有速度2,方向4和亮度125的诸数据点。为了将这些像素形成在一个功能块中,也将在对于x和y方向的诸验证装置中的诸寄存器设置到“1”。
再次参照图13,在一个像素一个像素的基础上更新验证信号V2。如果,对于一个具体的像素,验证信号V2是“1”,则加法器110使存储器100的输出增加1。如果,对于一个具体的像素,验证信号V2是“0”,则加法器100不使存储器100的输出增加。在任何情形中,都将加法器100的输出存储在存储器100中的与考虑的像素对应的地址上。例如,假定用存储器100形成一个速度的分布图,该分布图可以被分类成诸速度0-7,并且存储器100将包括0-7的对应的存储器位置,如果接收一个有速度6的像素,则通过数据线输入到多路复用器104的地址将是6。假定验证信号V2是“1”,则将使在存储器中在位置6的内容增加。在一个成像过程中,存储器100将包含一个在对与存储器相关的范畴中的图像的诸像素的分布图。如果,对于一个具体的像素,因为那个像素不在一个诸像素要被计数的范畴内(例如,因为那个像素没有正确的方向,速度或亮度),所以验证信号V2是“0”,则在形成分布图时将不用该像素。
对于在存储器100中形成的分布图,在一个装置112中同时计算对于那个分布图的诸关键特征。参照图14,装置112包括用于每个关键特征的诸存储器,这些关键特征包括分布图的最小值(MIN),分布图的最大值(MAX),分布图中的点数(NBPTS),分布图的最大值的位置(POSRMAX),和分布图的最大值处的点数(RMAX)。如下地与分布图的形成平行地确定这些特征:
对于每个有一个验证信号V2是“1”的像素:
(a)如果像素的数据值<MIN(它最初设置在分布图的最大可能值),则将数据值写入MIN中;
(b)如果像素的数据值>MAX(它最初设置在分布图的最小可能值),则将数据值写入MAX中;
(c)如果在像素的数据值的地址上存储器100的内容>RMAX(它最初设置在分布图的最小可能值),则i)将数据值写入POSRMAX中和ii)将存储器输出写入RMAX中。
(d)增加NBPTS(它最初设置在零)。
在每个帧的终端在存储器100中完成分布图的形成时,装置112将包含表示分布图特征的重要数据。在每个帧的扫描点的时候由控制器42读出在每个存储器100中的分布图和在装置112中的分布图的诸特征,清除诸存储器100和为了对下一个帧进行处理再次对诸装置112进行初始化。
本发明的系统包括一个半图解的掩蔽(masking)功能,以便选出系统考虑的诸像素。图16表示一个典型的由安排在一个Q×R矩阵中的诸像素组成的图像53,该矩阵被分成诸子矩阵51,每个子矩阵都有一个s×t的大小,其中每个s×t子矩阵都包括图像的s×t个像素。在图17中所示的每个子矩阵都是一个3×4矩阵。尽管,如果希望的话,可以用任何适当的子矩阵大小,包括1×1在内,但是在一个优先实施例,s=9和t=12。参照图12,分布图处理机22a包括一个半图解的存储器50,它包括一个与每个s×t矩阵对应的1比特存储位置。对于任何给定的子矩阵51,可以将在存储器50中的对应位设置到“0”,它有略去在这个子矩阵50中所有像素的作用,或者可以设置到“1”,在该情形中,在形成诸分布图时将考虑在这个子矩阵中的所有像素。于是,通过用半图解的存储器50,当形成分布图时可以限制考虑的图像的那些区域。例如,当用由一台面对一辆汽车的摄像机拍摄一条道路的一个图像,以便检测道路的诸行车道时,离摄像机最远的道路的像素信息一般地不包含有用的信息。因此,在这种应用中,我们用半图解的存储器,通过设置半图解的存储器50遮蔽道路的诸远离部分来略去这些像素。换句话说,如下面的讨论所示,可以通过设置系统使它只跟踪在一个排除屏幕的不想要的区域的检测盒内的诸像素,遮蔽要被略去的道路部分。
在工作中,对于任何考虑中的像素,一个AND工作是在对于这个像素的验证信号和对于那个像素所在的子矩阵的半图解的存储器50的内容上进行的。如果对于那个像素所在的子矩阵的半图解的存储器50的内容包含“0”,则AND工作将产生一个“0”并将略去该像素,否则将以通常的方式考虑该像素。我们预见AND工作可以在不同于验证信号的,有相同结果的功能度的其它信号上进行。又,我们预见存储器50可以是一个帧大小的存储器,它的每个像素在半图解的存储器中都可独立地选择。这使我们能如我们希望的那样考虑或略去图像的任何希望的诸像素。由控制器42通过数据总线23对半图解的存储器50进行设置。
图16表示相继的类别C1,C2……Cn-1,Cn的一个例子,每个都代表对于一个假设的速度分布图的一个具体的速度,在这个例子中它们是有直到16个速度的(图中画出了15个)范畴。图中也画出了包络38,它是分布图的一个经过平滑的代表。
为了确定满足用户规定的诸判据的一个目标在图像内的位置,用诸分布图功能块28和29产生对于满足选出的诸判据的诸像素的x和y位置的分布图。这些是如图13所示的沿x和y坐标的诸分布图。将这些x和y数据输出到移动区域信息功能块36,它将横坐标和纵坐标信息x(m)2和y(m)2d分别组合到一个输出到总线23的组合信号xy(m)中。一个作为样本的组合的分布图40如图13所示。我们用诸不同的分布图和输出到总线23的组合信号xy(m)确定在图像中是否有一个运动的区域,确定这个区域的位置,和/或确定它的速度及定向方向。因为相对运动中的区域可以在一个沿不一定正交的诸x和y方向的观察平面中,如下面关于图18所讨论的那样,所以可以用一个数据改变功能块37将x和y数据变换到正交坐标系。数据改变功能块37接收对于诸x(m)0和y(m)0轴的诸定向信号x(m)1和y(m)1以及诸像素时钟信号HP,行序列信号SL和列序列信号SC(这三个信号群集在图2,4和10中的束F中)并产生分别输出到诸分布图形成功能块28和29的正交信号x(m)1和y(m)1
为了处理只在一个用户定义的区域内的诸像素,可以对x方向的分布图形成装置28进行编程,以便处理只在由诸边界,即XMIN和XMAX限定的一类像素中的诸像素。这通过在x方向的分布图形成装置28或在诸线性组合装置30-35中的一个用户可编程存储器中设置XMIN和XMAX来完成。将不对在这个类别外的任何像素进行处理。类似地,可以对y方向的分布图形成装置29进行设置,以便处理只在由诸边界YMIN和YMAX限定的一类像素中的诸像素。这通过在y方向的分布图形成装置29或诸线性组合装置30-35中的一个用户可编程存储器中设置诸YMIN和YMAX值来完成。于是,系统能够处理只在通过如希望的那样设置诸XMIN和XMAX,YMIN和YMAX值限定的一个矩形内的诸像素。当然,为了只形成在选出的矩形区域内在诸选出的域中的诸选出的像素类别的诸分布图,可以对来自诸其它的分布图形成装置的诸分类判据和诸验证判据进行设置。诸XMIN和XMAX存储位置有足够的位数,表示在考虑中的图像的x方向中的最大像素数,而诸YMIN和YMAX存储位置有足够的位数,表示在考虑中的图像的y方向中的最大像素数。如在下面要进一步讨论的那样,为了产生沿诸转动轴的诸投影的分布图,可以转动x和y轴。在一个优先的实施例中,诸XMIN,XMAX,YMIN和YMAX存储位置有足够的位数,表示沿着考虑中的图像的对角线的最大像素数(在图15中从“原点”到“停止点”的距离)。以这种方式,可以沿一个用户定义的转动轴系统在一个用户定义的矩形内用系统进行搜索。
为了在诸x和y方向的分布图的形成中考虑一个像素PI(a,b),不论在诸正交坐标轴上还是沿着诸转动的轴,必须满足条件XMIN<a<XMAX和YMIN<b<YMAX。可以使得如果上述诸条件不满足,则对于考虑中的像素用验证信号自动数值判定一个逻辑值“0”,从而避免在形成诸x和y方向的分布图时考虑该像素那样地,用验证信号自动数值判定这些试验的输出。
图13图解地表示对于速度数据,分别在x和y坐标中,分布图38和39的包络。在这个例子中,XM和yM表示两个分布图38和39的最大值的x和y坐标,而对于x轴的la和lb及对于y轴的lc和ld表示诸重要的或感兴趣的速度的范围的诸界限,la和lc是诸分布图的重要部分的下界限,而lb和ld是诸分布图的重要部分的上界限。诸界限la,lb,lc和ld可以由用户设置或由一个用系统的应用程序设置,可以被设置为分布图的最大值的一个比,例如xM/2,或可以被设置为对于具体应用所希望的别的值。
横坐标la和lb的垂直线La和Lb与纵坐标lc和ld的水平线Lc和Ld形成一个矩形,它包围了诸重要速度的画交叉阴影线的区域40(对于所有的x和y方向)。在主要区域40附近存在一些有较长速度的较小的区域41,典型地将它们略去。在这个例子中,为了用对于分布图的参量,在这个具体的情形中是速度,的最大变化表示区域的特征必需做的一切是识别诸界限的坐标la,lb,lc和ld和最大值XM和YM,可以容易地对来自存储器100的每个分布图,在诸装置112中的数据和xy(m)数据功能块将它们推导出来。
于是,本发明的系统实时地产生被检测的诸参量中的每一个的分布图。假定我们想要识别一个有一个速度“2”和一个方向“4”的目标,则将对于速度和方向的诸验证装置设置到“1”,和将对于速度“2”和方向“4”的诸分类器设置到“1”。此外,因为我们想要在电视图像上确定有这个速度和方向的(诸)目标的位置,所以也将用于与x和y坐标对应的分布图形成功能块28和29的诸验证信号设置到“1”。以这种方式,分布图形成功能块28和29将实时地形成只有选出的速度和方向的诸像素的诸分布图。利用分布图中的信息,特别是POSRMAX,能够实时地在电视图像上识别在选出的速度和方向上有最大数量的像素的目标。更一般地,诸分布图形成功能块能实时地确定满足用户选出的诸判据的诸目标的位置,并且如果检测出一个目标,则可以产生一个输出信号。换句话说,可以通过例如导线,光纤或为了远程应用的无线电中继站将信息传输到一个控制装置,如图1中的装置10a,该装置可以在离空间和时间处理机11近或远的地方。
虽然我们已经关于诸分布图的信息用一个由电视图像的水平和垂直轴定义的正交坐标系对本发明的系统进行了描述,但是我们可以用由用户定义的诸非正交坐标轴用该系统形成诸分布图。图15A和15B表示一个用分析轴转动来确定在一个图像中某些点的定向的方法,这是一个可以用来例如检测诸线的方法。在一个优先的实施例中,可以转动x轴直到16个不同的方向(180°/16),和可以独立地转动y轴直到16个不同的方向。用数据线变化功能块37完成诸轴的转动,数据线变化功能块37接收用户对x和y轴中的每一个定义的转动轴作为一个输入,并实施一个Hough变换用x和y分布图形成功能块28和29将考虑中的诸x和y坐标值变换到考虑的转动坐标轴系。用一个Hough变换在诸坐标系之间进行变换的操作在技术上是已知的。于是,用户可以选择x坐标系在直到16个不同的方向中的转动,和可以独立地转动y坐标系直到16个不同的方向。利用诸转动坐标系,系统能够实施上面描述的功能度,包括在用户定义的诸矩形(在诸转动的轴上)内进行搜索,在诸转动的轴上形成诸分布图和用速度,方向等进行搜索。
如上面所讨论的,每个分布图形成装置为它的各个分布图计算诸下面的值。
MIN,MAX,NBPTS,RMAX,POSRMAX
如果这些值是实时计算的,利用这些值允许系统迅速地识别在一个图像上的诸线。虽然这可以用许多不同的方法来完成,但是诸较容易的方法中的一个是计算R,其中R=NBPTS/RMAX,即在分布图中的点数与在最大线中的点数之比。这个比越小,即R越接近1,考虑中的诸数据点与扫描轴越垂直地对准。
图15A表示考虑中的某些点的一个分布图,其中分布图是沿x轴取的,即投影到x轴上。在这个例子中,比R,虽然没有计算出来,但是很高,并且没有包含什么关于考虑中的诸点的定向的信息。当转动x轴时,比R增加,直到,如图15B所示,在近似45°,比R达到一个最大值为止。这表示考虑中的诸点最接近垂直对准45°的x轴。在工作中,在相继的诸帧上,或者在同一个帧上,如果可利用多个x方向分布图形成装置,则为了恒定地保证R处在一个最小值,在诸不同的角度,例如33.75°和57.25°上(假定限制诸轴每次只能转动16°)计算R是有利的。对于希望可以检测诸线的应用中,并假定可以利用16个x方向的分布图形成装置,同时沿所有可能的轴执行R的计算,确定与R的最小值形成的角度从而确定线的定向方向是有利的。因为x和y轴可以独立地转动,所以诸x和y的分布图形成装置能够以同一个方式同时独立地检测诸线,如一条道路的每条边线。
如上面所讨论的,可以用本发明的系统在一个由XMIN,XMAX,YMIN和YMAX规定的有界区域内搜索诸目标。因为移动的目标可能离开有界区域,所以系统优先地包括一个预先进行处理的功能,它能使系统自动地修改XMIN,XMAX,YMIN和YMAX,以便补偿目标的速度和方向。通过用方向分布图确定与在有界区域内目标运动的定向(方向)对应的O-MVT的诸值和与运动的强度(速度)对应的I-MVT的诸值来完成这个工作。利用这些参量,控制器42可以在一个帧一个帧的基础上修改XMIN,XMAX,YMIN和YMAX的值,以便保证目标保持在被搜索的有界盒子内。这些参量也能使系统确定一个运动的目标,例如一条在它的转动轴的基础上正在被跟踪的线,何时将改变它的定向轴,并能使系统为了保持R的一个最小化的值,预期一个新的定向轴。
参照图12,我们用一个控制器42,它优先地是一个常规的以微处理机为基础的控制器,对系统的诸不同的部件进行控制,控制器42能使用户用例如一个计算机鼠标和键盘(图中未画出)或其它的输入装置输入诸命令和诸控制指令。优先地在单个集成电路上形成部件11a和22a以及控制器42。控制器42与数据总线23进行通信,这允许控制器42运行一个程序,对可以在系统中设置的诸不同的参量进行控制和分析诸结果。为了选择被跟踪的诸像素的诸判据,控制器42也可以直接控制下列诸事物:i)在诸分类器25b中的每个寄存器的内容,ii)诸验证装置31中的每个寄存器的内容,iii)XMIN,XMAX,YMIN和YMAX的内容,iv)x和y轴中的每一个的定向角和v)半图解的存储器50。为了分析分布图形成过程的诸结果,控制器42也可恢复i)每个存储器100的内容,ii)诸寄存器112的内容。此外,一般地控制器42可以存取和控制用在系统中的所有数据和参数。
可以用本发明的系统检测一辆车的驾驶员是否正在睡觉并在检测出睡觉时发出一个警报。虽然我们将描述本发明的许多实施例,但是一般地系统从一台摄像机或类似的装置接收驾驶员的一个图像并对该图像进行处理以便检测驾驶员两只眼睛的一个或多个判据,确定驾驶员的两只眼睛何时张开和何时闭合。如上面所讨论的,一个完全清醒的人一般地以相当有规律的大约100到200ms(毫秒)的间隔眨眼睛。当一个人变得打磕睡时,每次眨眼睛的长度增加到近似500到800ms,眨眼睛之间的间隔变得较长并且是可变的。利用关于驾驶员两只眼睛的张开和闭合的信息,系统测量每次眨眼的持续时间和/或眨眼之间的诸间隔,确定驾驶员何时正在睡觉。这是可能的因为来自正在使用的传感器,例如图21的传感器310,的电视信号优先地产生每秒50或60个帧,即分别为每20ms或16.66ms一帧。这使实时地处理每个图像的系统能够在一个每秒50帧的电视信号的情形中,区别一个清醒的人的100到200ms的诸眨眼长度和一个打磕睡的人500到800ms的诸眨眼长度,即区别一个清醒的人的一个5到10帧的眨眼长度和一个打磕睡的人的一个25到40帧的眨眼长度。
为了检测何时驾驶员正在睡觉,本发明的系统利用一台电视摄像机或其它的传感器接收驾驶员T的诸图像。虽然我们将描述放置传感器的诸不同的方法,但是一般地可以用任何方法将传感器放在任何允许获得当驾驶员坐在驾驶员位置中时驾驶员面部的一个连续的图像的位置。于是,我们预见可以将传感器10装到或装在车辆上的任何适当的位置,如在车辆仪表板,方向盘,车门,后视镜,顶棚等的里面或上面,使加传感器10能看到驾驶员面部的位置中。如果要求看到诸身材大小不同的驾驶员,可以将一个适当的透镜安装在传感器10上,以便给传感器一个更广阔的视场。
图18和19表示一个常规的后视镜安排,其中一位驾驶员T能够沿方向301向前看和通过一个后视镜303(沿诸视线302a和302b)向后看。参照图20,通过一个连接臂304将后视镜303连接到车体305,连接臂304能够调整诸视轴302a和302b。诸视轴302a和302b一般地是平行的并被定向在车辆的方向上。与后视镜303的面303a垂直的光轴306将由诸视轴302a和302b形成的角度分成两个相等的角度a和b。与轴302b垂直的,所以一般地与车体305的连接部分平行的轴307定义了在轴307和镜面303a之间的一个角度c,角度c一般地等于角度a和b。优先地用一个托架299将一台摄像机或传感器310安装在后视镜上。可以将摄像机安装在能使驾驶员有一个道路的清楚视野而同时能使传感器310获得驾驶员面部的诸图像的任何希望的位置上。托架299可以是一个可调整的托架,它能使摄像机面对一个希望的方向,即面对驾驶员,或者托架299可以处在一个固定的定向上,使得当诸身材大小不同的驾驶员调整后视镜时,摄像机能够继续取得驾驶员面部的图像。通过导线或类似的东西(图18-20中未画出)将来自摄像机的信号传输到图像处理系统,该系统的工作将在下面进行描述。
图21和22表示一个后视镜组件308,其中传感器310安装在后视镜组件的内部。使一位驾驶员能够对后视镜组件308进行调整那样地安装后视镜组件308,将传感器310保持在对准驾驶员面部的方向上。后视镜组件308包括一面双向的镜子309,镜子309有一个可以移动地定向以便为驾驶员提供一个后视野的面309a。将传感器310,它优先地是一台电子微型摄像机或有一个内装透镜的MOS(金属氧化物半导体)传感器,安装在一个托架311上。用机械安排使传感器310面对驾驶员地定向,这能使传感器310当调整镜子309使驾驶员有一个车辆的后视野时,接收驾驶员面部的一个图像。机械安排由一个万向型机械接头组成,当驾驶员调整后视镜使得传感器310的接收面310a接收驾驶员面部的图像,即光轴310b保持向着驾驶员头部对准时,万向型机械接头使托架311能被自动地调整。
托架311包括连杆312和313,用一个旋转枢轴314a(图21)或一个套筒314b(图22)将连杆312和313可动地耦合在一起。连杆312一头与车辆305的一个安装部分相接,一个旋转枢轴315,它优先地由一个球和两个基本上半球形的轴承盖组成,使后视镜组件308能容易地运动。连杆312通过旋转枢轴315延伸并通过套筒314b或另一个旋转枢轴314a与连杆313相接。连杆313一端牢固地支持其上装有传感器310的托架311。连杆313经过一个中空的枢轴317通过后视镜组件308的支架316延伸。枢轴317包括一个有一个通过其中的通道的球,连杆313就与该通道接合,枢轴317在由支架316支持的基本上半球形的轴承盖中转动。接头恒定地在镜子309和托架311之间保持一个希望的角度,从而当托架311调整传感器310的方向使得传感器的面310a能接收驾驶员面部的一个图像时,允许后视镜309的正常调整。如果希望的话,我们预见可以将传感器310装在后视镜组件308的内部,相对于后视镜组件308的面309a形成一个固定的角度,使得当调整镜子对准诸身材大小不同的驾驶员时传感器310能够接收驾驶员面部的一个图像。可以将一个广角透镜装在传感器310上,使能在诸不同的调整情况下更好地使用传感器。
通过一条或多条导线将传感器310连接到图像处理机319,图像处理机319优先地是一个上面讨论的那种类型的图像处理装置并且优先地它是在后视镜组件308里面的一个集成电路。在一个优先实施例中,图像处理系统319与传感器310构成一个整体。在另一种情形中,图像处理系统319可以通过诸常规的导线放在后视镜组件308的外面。虽然控制器42优先地是一个微处理机,但是我们预见控制器42可以是一个ASIC(专用集成电路)或单纯的控制器,它们被设计得能实施这里规定的诸功能,特别是如果将系统放入或保持在一个后视镜组件内或与一辆车形成一个整体的话。
诸电致发光二极管320可以与后视镜组件308结合在一起,以便当周围的光对于图像处理系统319不足以确定驾驶员的眨眼特征时,用红外辐射照射驾驶员的面部。当用这些二极管时,传感器310的类型必须是能够接收红外辐射的。如果希望的话,可以用图像处理系统319的控制器42(图12)控制诸电致发光二极管320的发光。例如,在由图像处理系统319产生的诸分布图没有包含足够有用的为检测驾驶员面部的所需的诸特点的信息,例如NBPTS低于一个阈值的情形中,控制器42可以照射诸电致发光二极管320。如果希望的话,可以逐渐地照射诸电致发光二极管320,诸电致发光二极管320可以与一个或多个光电二极管(图中未画出)连接起来工作,这些光电二极管产生一个关于驾驶员附近的周围光照的信号,还可以用这些光电二极管或者单独地或者与控制器42或另一个控制电路结合地对诸电致发光二极管320进行控制。如果希望的话,假定传感器310与照明源相容,则可以在所有时间内用一个IR(红外)或其它的EM(电磁)辐射源照明驾驶员面部。这就消除了可能与用周围的光照检测打磕睡有关的许多问题。
在检测到驾驶员正在睡觉时可以由控制器42激活一个可选的报警器322,报警器322可以是例如一个蜂鸣器,铃或诸其它的报知装置。优先地用车辆的电系统向包含在后视镜组件308中的所有部件和图像处理系统319供电。
图像处理系统319通过实时地和在一个连续的基础上检测驾驶员两只眼睛的诸眨眼的持续时间和/或在诸眨眼之间的间隔,和通过在检测到驾驶员正在睡觉时触发报警器322去叫醒驾驶员,来监视驾驶员的警戒性。图像处理系统319从传感器310接收驾驶员面部的一个图像。图像可以是驾驶员的整个面部或是驾驶员面部的一个选出的至少包括驾驶员一只眼睛的区域。图像处理系统319能够检测许多与正在眨眼的两只眼睛相关的判据。这些判据包括任何可以用来确定一只眼睛闭合的面部特征,包括检测瞳孔,视网膜,眼白,眼脸,眼睛附近的皮肤以及其它等。也能或者通过检测当眨眼时眼睛外观的变化或者通过检测当眨眼时眼脸的运动来检测眼睛。
参照图30,作为一个开始的步骤,本发明的系统优先地检测一位驾驶员是否在驾驶员座椅中(402)。这个步骤可以用许多方法中的任何一个来完成,如可以通过一个在驾驶员座椅中的电子重量传感器开关或者使例如,一个速度传感器,一个检测车辆挂上档的开关,一个检测系上座位安全带的开关等与一个由车辆产生的指示车辆正在使用中在运动中的信号连系起来完成该步骤。在检测到这样一个信号时,系统进入一个搜索模式,对驾驶员的面部或驾驶员的一只或两只眼睛进行检测。另一方面,因为系统是由车辆的电系统供电的,并且更优先的是由只有当车辆接通电源时才获得电能的电系统的一个电路供电,所以只有当引擎接通电源时系统才接通电源,系统才进入一个搜索模式,系统工作在该模式直到检测出驾驶员的面部或驾驶员的一只或两只眼睛为止。当检测出一位驾驶员在汽车中时(404),将驾驶员存在标志设置到“1”使控制器42知道驾驶员的存在。
作为另一个检测驾驶员存在的方法,如果以一种通过在使用前能(或要求)调整图21所示的后视镜使传感器被调整到指向驾驶员的面部的方式安装传感器,则系统可能激活一个报警器直到传感器已经取得驾驶员面部为止。
也可以用检测驾驶员进入驾驶员座椅的图像处理系统对驾驶员进行检测。这假定当驾驶员进入汽车时如通过将图像处理系统和传感器10与汽车的电系统的一个总是接通电源的电路连接起来,图像处理系统和传感器10已经接通电源了。换句话说,在检测车门打开等时可以对系统供电。当驾驶员进入驾驶员座椅时,来自传感器10的图像的特征将由图像的运动中的(DP=1),CO有一个相当高的值,沿一个侧向离开驾驶员门运动的许多像素表示。这些像素也将有皮肤的色彩特征。在这个实施例中,在一个系统试图检测驾驶员的存在的模式中,控制器42设置诸验证装置以便通过设置诸分布图形成装置去检测一位驾驶员进入驾驶员座椅的运动特征,对驾驶员进入汽车的运动进行检测。最容易的是,控制器42可以设置诸验证装置去检测DP=1,并对分布图形成装置中对于DP的分布图进行分析,以便例如用NBPTS超过一个阈值来检测表示一个人进入汽车的运动。
图23表示传感器310在方向323a和323b之间的视场323,驾驶员的头部T就在该视场内,优先地在锥形的视场323的中心部分。如果当驾驶时驾驶员的头部T的运动是有限的,则可将视场323保持在相当窄的范围内。因为驾驶员的面部将在从传感器310接收的诸图像中由大量的像素来表示,所以对视场323的限制将改善系统的灵敏度,这也改善了将在下面讨论的分布图形成过程。
一般地,运动中的像素的数量将依赖于传感器的视场。表示一位正在进入车辆的驾驶员的特征的像素的数量与在一个帧中的像素的总数之比是传感器的视场的大小的函数。对于一个窄的视场(图23中在方向323a和323b之间一个较小的角度),当驾驶员进入车辆时,一个较大数量可能超过50%的像素将处在“运动中”,并且阈值将较大。对于一个广阔的视场(图23中在方向323a和323b之间一个较大的角度),当驾驶员进入车辆时较小数量的像素将处在“运动中”。对应于传感器的具体位置和类型并根据系统的具体安装的诸其它特征设置阈值。如果对于DP分布图的NBPTS超过阈值,则控制器已经检测出驾驶员的存在。
如上面讨论的,驾驶员进入车辆时的诸其它的特征可以由包括一个高的CO,色彩,方向等以及当适当时使系统有较强的适应能力的任意组合的系统检测出来。例如,控制器42可以设置方向分布图形成装置的诸线性组合装置,以便检测驾驶员进入车辆时的诸像素,控制器42可以设置对于CO的线性组合装置以便检测出高的CO值,和/或可以设置对于色彩的线性组合装置以便检测出人皮肤的色彩特征。于是控制器可以设置诸验证装置以便当适当时检测DP,CO,色彩和/或方向。然后可以分析所得到的分布图,以便确定NBPTS是否超过一个阈值,超过阈值表示驾驶员已经进入驾驶员座椅。我们预见可以用不同于所得到的分布图的NBPTS的诸特征,例如用RMAX超过一个阈值来检测驾驶员的存在。
当已经检测出驾驶员进入车辆,即驾驶员存在标志已经设置到“1”时,系统在电视信号中检测驾驶员的面部并从进一步的处理中消除驾驶员头部的上,下,左,右的电视信号的那些多余部分。在驾驶员头部的图像中,在头部运动的基础上检测头部的诸边缘。由于皮肤和背景的亮度中的差异,甚至由于当头部静止时头部的极微小的运动,头部的诸边缘通常将由DP=1来表征。头部的运动可以进一步由在头部的顶部和底部的诸边缘上的垂直运动和在头部的诸垂直边缘上的左右运动来表征。运动中的头部的诸像素也将由,例如,与人的皮肤对应的一个色彩和与眼脸运动比较相对地慢的运动来表征。控制器42优先地设置DP的线性组合装置使它能检测DP=1和设置方向的线性组合装置使它们只能检测垂直和水平的运动(406)。任选地,可以设置速度和色彩的诸线性组合装置使它能检测诸低速度和人皮肤的诸色彩,以便使系统有更强的适应能力。又,可以设置CO的线性组合装置使它能消除表征正在眨眼的非常快的运动,以便防止在这个当正在对头部进行检测时的处理阶段考虑两只眼睛。最后,控制器42将对于DP,方向与x和y位置的诸验证装置进行设置使它处在“on(接通)”的状态(406)。任选地,如果正在检测这些判据,则可以将对于速度,色彩和CO的诸验证装置设置在“on(接通)”的状态。
如在图24中说明的,有诸选出的特征的诸像素形成沿Ox和Oy轴,即分别为水平和垂直投影的分布图324x和324y。有诸选出特征的驾驶员头部的轻微运动如诸波纹327a,327b,327c和327d所示,它们有直线的形式但是实际上在围绕头部四周的一个小区域中扩展。分布图324x的峰值325a和325b,和分布图324y的峰值325c和325d由它们的各个坐标326a,326b,326c和326d定界出一个以直线Ya,Yb,Xc,Xd为界的一般地与驾驶员的面部V所在区域对应的帧。控制器42优先地当消隐间隔时从诸分布图形成装置读出分布图324x和324y,并检测诸峰值325a,325b,325c和325d的位置(408)。为了保证头部已经被识别,优先地试验在峰值325a和325b之间的距离和在峰值325c和325d之间的距离是否落入一个与人头部大小的正常范围对应的范围中。
一旦已经确定了诸坐标326a,326b,326c和326d的位置,在进一步处理中遮蔽掉围绕驾驶员面部的区域(410)。参照图25,这通过使控制器42设置分别与Xc,Xd,Ya和Yb对应的XMIN,XMAX,YMIN和YMAX来完成。这遮蔽了围绕驾驶员面部V的打上交叉阴影线的区域,不再对它们作进一步考虑。这有助于消除背景运动对系统检测驾驶员一只(两只)眼睛的能力的影响。于是,为了进行以后的分析,只考虑在由直线Xc,Xd,Ya和Yb形成帧的并包含面部V的中心区域Z中诸像素。作为另一种遮蔽在中心区域Z外部的区域的方法,控制器42可以设置半图解的存储器使它遮蔽这些区域。如上面指出的,可以用半图解的存储器在诸单个或小的矩形组中遮蔽掉图像的诸选出的像素。因为头部V不是矩形的,使用半图解的存储器能够较好地遮蔽面部四周的边缘,从而能在进一步考虑中较好地消除诸背景像素。
以诸正常的间隔重复检测驾驶员头部和遮蔽诸背景区域的过程,优先地每经过十个或较少的帧进行该过程一次。我们预见如果希望的话特别是如果可用多于一组的分布图形成装置,则可以每帧重复这个过程。如果希望的话,控制器42也可以计算坐标326a,326b,326c和326d的时间平均值并用这些值设置遮蔽坐标Xc,Xd,Ya和Yb。这将在时间过程中为帧确定一个近似固定的位置。
一旦已经建立起一个帧,将一个面部处在中心位置的标志设置到“1”(412),控制器开始减少帧的大小以便更接近驾驶员的两只眼睛的过程。参照图26,在该图中帧Z表示在前一步骤中确定的以Ya,Yb,Xc,Xd为界的区域,控制器42开始使用在一个人的两只眼睛的区域和整个面部之间的通常的拟人比,特别是用在垂直方向上,以便减少考虑的区域,该区域复盖一个以直线Y′a,Y′b,X′c和X′d为界的较小的包括驾驶员两只眼睛U的区域Z′。于是,从考虑中消除在图27的外部的打上交叉阴影线的区域中的诸像素,进一步只考虑在帧Z′内的区域。这通过使控制器42分别与X′c,X′d,Y′a和Y′b对应地设置XMIN,XMAX,YMIN和YMAX(414)来实现。这遮蔽了在Z′外部的区域中的诸像素,不再考虑它们。于是,为了以后的分析,只考虑包含两只眼睛U的区域Z′中的诸像素。作为另一种遮蔽在Z′外部的区域的方法,控制器42可以设置半图解的存储器去遮蔽掉这些区域。我们预见可以用一个拟人比设置只围绕单只眼睛的帧Z′,一般地用如下面描述的相同的方法检测眨眼,但是只对一只眼睛。
一旦用拟人比确定了区域Z′,将一个眼睛近似在中心的标志设置到“1”(416),控制器42执行分析在区域Z′内的像素的步骤,以便识别两个眼脸的运动。用包括有皮肤色彩的诸像素的高速垂直运动的判据表示两个眼脸运动的特征。一般地,在区域Z′内,形成对于DP=1的诸分布图就能足以检测眼脸的运动。通过检测CO的诸高值,检测垂直运动,检测高速度和检测色彩可以使检测有更强的适应能力。作为一个检测色彩的替代方法,可以通过检测有DP=1的没有皮肤色彩的诸像素检测眼睛的诸像素的运动。这将使检测与瞳孔,视网膜,虹膜等相关的像素数量的变化成为可能。
控制器42设置对于DP的线性组合装置以便检测DP=1并将对于DP及x和y位置的诸验证装置设置在接通的状态(418)。任选地,可以设置诸线性组合装置和诸验证装置,以便检测与眼睛运动相关的诸其它判据,如CO,速度和色彩。最初,控制器42也设置分别与X′c,X′d,Y′a和Y′b对应的XMIN,XMAX,YMIN和YMAX。参照图27,由诸选出的判据形成一个分布图,由控制器42对该分布图进行分析(420)。如果希望的话,实施一个试验以便保证已经检测到两只眼睛。这种试验可以由,例如,保证在分布图中的NBTS超过一个阈值,例如在帧Y′a,Y′b X′c,X′d中像素的总数的20%组成。一旦已经检测到两只眼睛,将一个已经检测到眼睛的标志设置到“1”(422)。
图27说明诸像素的沿轴Ox的分布图28x和沿轴Oy的分布图28y,这些像素有与驾驶员的两个眼脸对应的诸选出的判据,优先的是对于垂直运动的DP=1。控制器42分析分布图并确定分布图的峰值29a,29b,29c和29d。用这些峰值确定诸水平直线X″c和X″d与诸垂直直线Y″a和Y″b,它们定义了两个眼脸运动的一个区域Z″,两个眼脸的诸边缘的运动对于一只眼睛表示在330a和330b,对于另一只眼睛表示在330c和330d(424)。优先地用诸峰值29a,29b,29c和29d的诸时间平均值确定和更新由Y″a,Y″b,X″c,X″d定界的帧的位置,并优先地经每十帧或较少的帧确定和更新一次。一旦已经检测到两只眼睛和已经建立了帧Z″,将一个眼睛在中心位置的标志设置到“1”(426),以后只处理在帧Z″内的诸像素。
然后控制器42确定诸眨眼的长度,并且如果可用的话,确定在相继的诸眨眼之间的时间间隔。图28说明在一个三维正交坐标系中:OQ,它与在有选出的诸判据的区域Z″中的像素数量对应;To,它与在相继的诸眨眼之间的时间间隔对应;和Oz,它与每次眨眼的长度对应。我们能从这种信息确定一位驾驶员何时正在睡觉。在图28中画出了两次相继的眨眼C1和C2。
图29A说明在曲线C上,在每个有选出的诸判据,例如DP=1的帧中像素数量随时间的变化,其中相继的峰值P1,P2,P3与相继的诸眨眼对应。由控制器42通过读出x和/或y分布图形成装置的NBPTS确定这种信息。换句话说,控制器42可以分析诸分布图形成装置的x和/或y分布图(图27)以便检测诸峰值29a和29b和/或29c和29d,它们将在时间上显示出与图29A所示的那些类似的图形特征。
控制器42在时间过程中分析图29A中的数据,以便确定图线中诸峰值的位置和定时(428)。例如,如图29B所示,通过将图29A所示的图线变换成一个二进制数据流可以做到这一点,为了分别将诸峰值P301,P302,P303变换成诸形成帧的矩形R301,R302,R303,在该数据流中将在一个阈值以上的所有像素的计数设置到“1”,将在一个阈值以下的所有像素的计数设置到“0”(垂直的短线331)。最后,图29B表示每次眨眼的长度(对于诸眨眼P301,P302和P303分别为5,6和5个帧)和诸时间间隔(对于在眨眼P301和P302,P302和P303之间的诸间隔分别为14和17个帧)。控制器42通过在时间过程中对峰值数据进行分析确定这个信息。
最后,控制器42计算诸相继的眨眼长度和在诸相继的眨眼之间的间隔(430)。如果眨眼的长度超过一个阈值,例如350ms,则将一个标志设置到“1”,表示已经超过眨眼阈值。如果发现在诸相继的眨眼之间的时间间隔随时间有重大的变化,则将一个标志设置到“1”,表示在诸眨眼之间的间隔是可变的。在设置第一个标志时,该标志指出驾驶员正在以一个表示睡觉的速率眨眼,控制器42触发报警器322以便叫醒驾驶员。可以将第二个标志用于或者以与第一个标志相同的方式发出一个警报或者加强第一个标志,例如增加警报的声音强度。
图31-36表示另一个的方法,按照该方法可以用一般的图像处理系统检测一位驾驶员是否正在睡觉。最初,使控制器42处在一个搜索模式(350),在该模式中,控制器42扫描图像,检测面部的一个或多个特征,优先的是鼻子的两个鼻孔。一般地鼻孔被遮暗,如通常由低亮度定义的。参照图31,图像的区域被分解成许多子图像352,在本情形中是六个,用A-F标记,以后由控制器42对它们进行分析以便确定两个鼻孔的位置。如所表示的那样,诸子图像352中的每一个优先地以一个至少等于两个鼻孔的正常组合宽度及它们之间的距离的量353重叠在每个相邻的子图像上,使当在搜索模式时失去两个鼻孔的可能性减到最小。
控制器42设置与第一个子图像A对应的XMIN,XMAX,YMIN和YMAX(354)。然后控制器42设置在亮度线性组合装置中的诸寄存器106,以便检测低的亮度水平(356)。选出的实际的亮度水平将依赖于诸不同的因素,如四周的照明,当天的时间,天气条件等而变化。记住控制器42能访问由分布图形成装置24对亮度计算的分布图,控制器42可以用一个阈值或其它希望的技术选择搜索两个鼻孔的希望的亮度,例如最低选择所考虑的亮度值的15%,并且控制器42可以如希望的那样改变阈值。控制器42也将对于亮度及x和y分布图的诸验证装置设置在接通的状态(358),从而使诸x和y分布图由诸选出的低亮度水平形成。然后控制器42分析诸x和y方向分布图,以便如下面讨论的那样(360),识别表示两个鼻孔的诸特征。如果不能识别两个鼻孔(362),则控制器42对下一个子图像,即子图像B,和每个以后的子图像重复这个过程,直到识别出两个鼻孔为止,如果需要的话从子图像A开始重复该过程。用由控制器42对单个帧中的每个子图像进行分析。因此,一般地系统可以在少于六个的帧中取得鼻孔。我们预见如果希望的话可以用更多的子图像。我们也预见可以将在其中搜索诸子图像的区域限于两个鼻孔最可能存在的区域,该区域或者是从系统过去的工作确定的或者是通过使用一个拟人模型确定的。例如,可以如上所述地确定驾驶员头部的轮廓,然后将鼻孔的搜索限制在图像的一个小的子区域内。我们也预见如果希望的话为了找到两个鼻孔可以同时搜索整个图像。
虽然我们相对于作为确定两只眼睛位置的一个出发点的两个鼻孔的识别描述了本发明,但是我们预见可以检测任何其它的面部特征,例如鼻子,两只耳朵,两条眉毛,嘴等以及它们的组合作为确定两只眼睛位置的一个出发点。这些特征可以与能被系统搜索的任何特征,包括CO,DP,速度,方向,亮度,色彩和饱和,区别开来。我们也预见例如只通过对有垂直运动的DP=1的整个图像进行搜索(或任何其它的可搜索的诸眼睛特征),而不需要用另一个面部判据作为一个出发点,系统可以直接地确定两只眼睛的位置。为了当能够检测驾驶员的头部或其它的面部特征时提供眼睛的一个详细的视图,我们预见可以用诸分开的传感器来达到每一个目的。
图32表示个两个鼻孔所在的一个子图像的作为样本的x和y分布图。两个鼻孔由在y方向分布图中的一个峰值370和在x方向分布图中的两个峰值372和374来表征。可以用若干种方法对已经识别出鼻孔进行确认。首先,分析分布图以便保证每个分布图的诸特征都满足某些条件。例如,在每个分布图中的NBPTS应该超过一个与可用于检测两个鼻孔的像素的正常数量相关的阈值。又,在y分布图中的RMAX和x分布图的每个峰值应该超过一个相似的阈值。其次,两个鼻孔间的距离d是一个相当好的常数。用控制器42对x分布图进行分析,测量d保证它落在一个希望的范围内。最后,尽管由于诸遮暗效应引起变化,但是一个鼻孔的宽度也是一个相当好的常数。用控制器42对x和y分布图中的每一个进行分析,保证每个鼻孔的诸尺度都落在一个希望的范围内。如果控制器42发现两个鼻孔满足这些判据,则已经取得两个鼻孔,结束搜索模式。如果还没有取得两个鼻孔,则搜索模式继续进行。一旦取得了两个鼻孔,确定面部中心的x位置(在考虑中的子图像内位置d/2),同样确定图像中两个鼻孔的y位置(y分布图的POSRMAX)(364)。
在现在这个实施例中,为了确定何时驾驶员正在睡觉只分析了一只眼睛。在这种情形中,我们用眼睛在张开和闭合的位置中的阴影,从阴影的形状确定眼睛是张开着还是闭合着。如上面讨论的,对于夜间的应用,优先地与一个短波IR光源结合起来使用本发明。对于现在描述的例子,优先地将IR光源放在驾驶员的上方一个投射一个阴影的位置中,该阴影有一个能被系统检测的形状。拟人模型优先地自适应于运动,驾驶员的诸特点和驾驶员相对于传感器的角度变化。
参照图32,已经确定了有一个中心位置Xn,Yn的驾驶员的两个鼻孔的位置后,在驾驶员的一只眼睛274周围建立一个搜索盒276(366)。用一个拟人模型设置搜索盒276的位置,其中人的两只眼睛和鼻子之间的空间关系是已知的。控制器42设置XMIN,XMAX,YMIN和YMAX,在由搜索盒276限定的区域内进行搜索。控制器42进一步将亮度及x和y方向分布图设置在接通的状态,并设置亮度的线性组合装置以便检测相对于图像的其它部分低的分布图水平,例如最低为诸亮度水平的15%(368)。作为检测出两个鼻孔或其它面部特征的一个确认,可以对用一个拟人模型在驾驶员的一只眼睛274周围建立起来的搜索盒276进行分析,以便得到表示在搜索盒中的一只眼睛的诸特征。这些特征可以包括,例如,一个运动的眼脸,一个瞳孔,虹膜或角膜,一个与一只眼睛对应的形状,一个与一只眼睛对应的阴影,或任何其它的表示一只眼睛的表记。控制器42设置诸分布图形成装置使它检测所希望的诸判据。例如,图36表示一个瞳孔432的一个作为样本的分布图,在该图中设置诸线性组合装置和诸验证装置,使它们检测有作为一个瞳孔的特征的非常低的诸亮度水平和高的光泽的诸像素。可以通过比较诸x和y分布图的形状与瞳孔的一般地是对称的诸已知特征来核实瞳孔,记住在传感器和驾驶员头部之间的角度关系可以影响到这种对称性。
在检查希望的第二个面部判据时,证实已经识别了两个鼻孔并开始检测眼睛的诸张开和闭合。换句话说,用下面描述的技术,为了证实已经识别了两个鼻孔而被检测诸判据可以是眼睛的眨眼。如果在搜索盒中检测不到眨眼,则重新开始搜索模式。
当一个跟踪模式400时检测眼睛的眨眼。在跟踪模式中控制器42设置XMIN,XMAX,YMIN和YMAX,以便在由搜索盒276限定的区域内进行搜索。控制器42进一步将诸亮度及x和y方向分布图设置在接通的状态,并且为了检测眼睛的阴影,设置亮度的线性组合装置,使它检测相对于图像的其它部分低的分布图水平,例如最低为诸亮度水平的15%(368)。当跟踪模式时,系统监视两个鼻孔272的位置,以便检测出头部的运动。在检测出头部的运动和位置Xn,Yn中的一个作为结果而发生的偏移时,根据拟人模型移动搜索盒276,使搜索盒276保持在驾驶员眼睛的上方。
图33表示当眼睛张开时x和y方向分布图376,378的形状,而图34表示当眼睛闭合时x和y方向分布图380,382的形状。诸阴影的诸形状,特别是当眼睛闭合时阴影的形状将与摄像机的位置和产生阴影的光源,例如太阳或IR光源的位置有关地发生变化。在任何情形中,每个分布图的宽度MAXx-MINx和高度MAXy-MINy一般地对于一只张开的眼睛比对于一只闭合的眼睛要大得很多。控制器42对每个分布图的宽度和高度进行分析,确定何时眼睛是张开的何时眼睛是闭合的(382)。可以由x和y分布图的任何数量的特征,包括宽度MAXx-MINx和高度MAXy-MINy超过诸阈值,每个分布图的NBPTS超过一个阈值,每个分布图的RMAX超过一个阈值,当与一只闭合的眼睛比较时POSRMAX位置中的变化等确定一只张开的眼睛。类似地,可以由x和y分布图的任何数量的特征,包括宽度MAXx-MINx和高度MAXy-MINy低于诸阈值,每个分布图的NBPTS低于一个阈值,每个分布图的RMAX低于一个阈值,当与一只张开的眼睛比较时POSRMAX位置中的变化等确定一只闭合的眼睛。在一个优先的实施例中,控制器24计算每个分布图的宽度MAXx-MINx和高度MAXy-MINy并利用诸阈值确定眼睛是张开的还是闭合的。如果每个宽度MAXx-MINx和高度MAXy-MINy超过诸阈值,则确定眼睛是张开的。如果宽度MAXx-MINx和高度MAXy-MINy中的每一个低于诸阈值(它们可以和用于确定一只张开的眼睛的诸阈值不同),则确定眼睛是闭合的(384)。优先地MAX和MIN是在诸分布图形成装置中计算的MAX和MIN。在另一方面,MAX和MIN可以是诸其它的阈值,例如在与RMAX/2对应的诸分布图上的诸点或关于RMAX的某个其它的阈值。
控制器42在时间过程中对眼睛张开和闭合的帧数进行分析,以便确定每次眨眼的持续时间和/或诸眨眼之间的间隔(386)。利用这个信息,控制器42确定驾驶员是否在打磕睡(388)。当确定驾驶员在打磕睡时,控制器42发出一个警报,叫醒驾驶员(390),或者产生另一种指出驾驶员正在睡觉的信号。
控制器42总是能适应系统的工作,特别是在照明水平变化时如此。控制器42可以通过周期地监视亮度分布图和改变传感器的增益偏压以便保持一个尽可能宽阔的亮度光谱,对诸变化的照明状况进行检测。控制器42也可以调整用于确定阴影等的诸阈值,以便较好地将眼睛和鼻孔的阴影与噪声,例如鼻子旁边的阴影区别开来,也可以调整传感器的增益,使这种效应减至最小。如果希望的话,控制器42可以使诸分布图形成装置形成一个虹膜的分布图。也可以对这个分布图进行连贯的监视,必要时对系统中使用的诸不同的阈值进行调整。
我们将明白虽然已经用某些判据关于一位驾驶员的两只眼镜的检测对本发明进行了描述,但是本发明能够用诸像素的任何可能的可测量的特征检测两只眼睛的任何判据,可以从由本发明形成的诸分布图中的任何其它信息辨别出一位驾驶员正在睡觉的诸特征。又,虽然已经关于驾驶员打磕睡的检测对本发明进行了描述,但是本发明可用于任何要检测打磕睡的应用中。更一般地,尽管我们已经关于某些实施例和例子对本发明进行了描述,但是在下面的权利要求书中描述的本发明的范围内存在着诸不同的变化。

Claims (39)

1.一种用于检测人正在睡觉的方法,其特征在于,该方法包括以下步骤:
取得人面部(V)的一个图像;
选择该图像中具有与人的至少一只眼睛的特征相对应的特征的像素;
形成被选像素的至少一个分布图;
分析所经历的时间的至少一个分布图,以便识别该眼睛的每次睁开和闭合;和
从关于该眼睛的睁开和闭合信息确定表示人正在睡觉的特征;
在选择该图像中具有与至少一只眼睛的特征相对应的特征的像素的步骤之前,识别该图像中包括至少一只眼睛的一个子区域,所述的选择诸像素步骤包括在该图像的子区域内选择像素的步骤,该步骤包括以下步骤:
识别该图像中人的头部;和
利用一个拟人模型,识别该图像的子区域。
2.根据权利要求1所述的方法,其特征在于,所述的识别该图像中人的头部的步骤包括以下步骤:
选择该图像中具有与人的头部边缘相对应的特征的像素;
形成投影到正交轴上的所述被选像素的诸分布图;
分析所述被选像素的分布图,以便识别该人头部的边缘。
3.根据权利要求1所述的方法,其特征在于,
所述的识别图像中人的头部的步骤是由识别图像中人的面部特征的位置代替的,识别子区域正是利用了所述的面部特征的位置。
4.根据权利要求3所述的方法,其特征在于,识别该图像中人的一个面部特征的位置的步骤包括以下步骤:
选择该图像中具有与该面部特征相对应的特征的像素;
形成投影到正交轴上的所述被选像素的分布图;和
分析所述被选像素的分布图,以便识别该图像中面部特征的位置。
5.根据权利要求4所述的方法,其特征在于,面部特征是该人的两个鼻孔,和其中所述的选择该图像中具有与面部特征相对应的特征的像素的步骤包括选择有低亮度水平的像素。
6.根据权利要求5所述的方法,其特征在于,还包括以下步骤:分析鼻孔像素的分布图,以便确定两个鼻孔之间的距离是否在一个所希望的范围内和两个鼻孔的尺度是否落在一个所希望的范围内。
7.根据权利要求1或3所述的方法,其特征在于,所述的选择该图像中具有与人的至少一只眼睛的特征相对应的特征的像素的步骤包括以下步骤:选择具有与该眼睛的阴影相对应的低亮度电平的像素;和其中所述的分析所经历的时间的至少一个分布图以便识别该眼睛的每次睁开和闭合的步骤包括以下步骤:分析该眼睛阴影的形状,以便确定该眼睛的睁开和闭合。
8.根据权利要求7所述的方法,其特征在于,所述的形成被选像素的至少一个分布图的步骤包括以下步骤:形成投影到正交轴上的该眼睛的被遮蔽像素的分布图,和其中所述的分析眼睛阴影形状的步骤包括以下步骤:分析阴影的宽度和高度。
9.根据权利要求1或3所述的方法,其特征在于,所述的选择该图像中具有与人的至少一只眼睛的特征相对应的特征的像素的步骤包括:选择与眨眼相对应的运动中的像素;和其中在所述的分析在所经历的时间至少一个分布图以便识别眼睛的每次睁开和闭合的步骤包括以下步骤:分析所经历时间在运动中的像素的数量,以便确定眼睛的睁开和闭合。
10.根据权利要求9所述的方法,其特征在于,所述的选择图像中具有与人的至少一只眼睛的特征相对应的特征的像素的步骤包括:选择从由i)DP=1,ii)表示一个正在眨眼的眼脸的CO,iii)表示一个正在眨眼的眼脸的速度和iv)表示一个正在眨眼的眼脸的上下运动这四情况组成的组中所选出的特征,DP和CO是由时间处理装置(15)产生的信号,DP识别像素是否已经经历重大的变化,CO是一个被更新的平滑时间常数。
11.根据权利要求3所述的方法,其特征在于,所述的识别图像中人的一个面部特征的步骤包括搜索该图像的诸子图像以便识别面部特征的步骤。
12.根据权利要求5所述的方法,其特征在于,所述的识别图像中人的一个面部特征的步骤包括搜索该图像的诸子图像以便识别两个鼻孔的步骤。
13.根据权利要求11所述的方法,其特征在于,所述的面部特征是一个第一个面部特征,该方法还包括以下步骤:
利用一个拟人模型和第一个面部特征的位置,选择该图像的一个包含一个第二个面部特征的子区域;
选择该图像中具有与第二个面部特征相对应的特征的像素;和
分析该第二个面部特征的被选像素的分布图,以便确认所述的第一个面部特征的识别。
14.一种用于检测人正在睡觉的装置,其特征在于,包括:
一个传感器,用于取得人面部的一个图像,该图像包括:与该人的眼睛相对应的像素;
一个控制器;和
一个分布图形成装置,用于形成具有被选特征的像素的一个分布图;
所述的控制器控制所述的分布图形成装置,以便选择该图像中具有与人的至少一只眼睛的特征相对应的特征的像素并形成一个被选像素分布图,所述的控制器分析所经历的时间的分布图,以便识别该眼睛的每次睁开和闭合,并从关于该眼睛的睁开和闭合信息确定表示人正在睡觉的特征;
所述的控制器与所述的分布图形成装置相互作用,以便识别该图像的包括至少一只眼睛的一个子区域,所述的控制器控制所述的分布图形成装置进行,以便只在该图像的该子区域内选择该图像中具有与至少一只眼睛的特征相对应的特征的像素;
所述的控制器与所述的分布图形成装置相互作用,以便识别在该图像中人的头部;和
所述的控制器利用一个拟人模型来识别该图像的该子区域。
15.根据权利要求14所述的装置,其特征在于:
所述的分布图形成装置选择该图像中具有与人的头部边缘相对应的特征的像素和形成投影到正交轴上的被选像素的分布图;和
所述的控制器分析所述被选像素的分布图,以便识别人的头部边缘。
16.根据权利要求14所述的装置,其特征在于:
所述的控制器与所述的分布图形成装置相互作用,以便识别该图像中人的一个面部特征的位置;和
所述的控制器利用一个拟人模型和面部特征的位置来识别该图像的子区域。
17.根据权利要求16所述的装置,其特征在于:
所述的分布图形成装置选择该图像中具有与面部特征相对应的特征的像素和形成投影到正交轴上的被选像素的分布图;和
所述的控制器分析所述被选像素的分布图,以便识别该图像中面部特征的位置。
18.根据权利要求17所述的装置,其特征在于,所述的面部特征是人的两个鼻孔,和其中所述的分布图形成装置选择该图像中具有与两个鼻孔的亮度电平相对应的诸低的亮度水平的诸像素。
19.根据权利要求18所述的装置,其特征在于,所述的控制器分析鼻孔像素的分布图,以便确定在两个鼻孔之间的距离是否在一个所希望的范围内和两个鼻孔的尺度是否落在一个所希望的范围内。
20.根据权利要求14所述的装置,其特征在于:
所述的分布图形成装置选择该图像中具有与该眼睛的阴影相对应的低的亮度电平的像素;和
其中所述的控制器分析该眼睛阴影的形状,以便确定眼睛的睁开和闭合。
21.根据权利要求20所述的装置,其特征在于,所述的分布图形成装置形成投影到正交轴上的眼睛的被遮蔽的像素的分布图;和其中所述的控制器分析该阴影的宽度和高度,以便确定眼睛的睁开和闭合。
22.根据权利要求14所述的装置,其特征在于:
所述的分布图形成装置选择该图像中与眨眼相对应的在运动中的像素;和
所述的装置控制器分析所经历时间在运动中的像素的数量,以便确定眼睛的睁开和闭合。
23.根据权利要求22所述的装置,其特征在于,所述的分布图形成装置选择该图像中具有与眨眼相对应的运动特征的像素,这些特征是从由i)DP=1,ii)表示一个正在眨眼的眼脸的CO,iii)表示一个正在眨眼的眼脸的速度和iv)表示一个正在眨眼的眼脸的上下运动四种情况所组成的组中选出的,DP和CO是由时间处理装置(15)产生的信号,DP识别像素是否已经经历重大的变化,CO是一个被更新的平滑时间常数。
24.根据权利要求16所述的装置,其特征在于,所述的控制器与所述的分布图形成装置相互作用,以便搜索该图像的子图像来识别面部特征。
25.根据权利要求18所述的装置,其特征在于,所述的控制器与所述的分布图形成装置相互作用,以便搜索该图像的子图像来识别两个鼻孔。
26.根据权利要求24所述的装置,其特征在于,所述的面部特征是一个第一个面部特征,该装置还包括:
所述的控制器利用一个拟人模型和第一个面部特征的位置使所述的分布图形成装置选择该图像中包含一个第二个面部特征的一个子区域,所述的分布图形成装置在该图像中具有与第二个面部特征相对应的特征的子区域中选择像素并形成这些像素的一个分布图;和
所述的控制器分析与第二个面部特征相对应的被选像素的分布图,以便确认第一个面部特征的识别。
27.根据权利要求14所述的装置,其特征在于,所述的传感器是整体地与所述的控制器和所述的分布图形成装置一起构成的。
28.根据权利要求14所述的装置,其特征在于,还包括:一个报警器,所述的控制器在检测到人正在睡觉时使报警器工作。
29.根据权利要求14所述的装置,其特征在于,还包括:一个发光源,当一个人被所述的发光源照射时用传感器对他进行观察。
30.根据权利要求29所述的装置,其特征在于,所述的发光源是一个红外线辐射源。
31.一种用于车辆的后视镜组件,其特征在于,包括:
一个后视镜;和
安装在后视镜上的根据权利要求14所述的装置。
32.根据权利要求31所述的后视镜组件,还包括:一个支架,用以将所述装置安装在后视镜上。
33.根据权利要求31的后视镜组件,还包括:一个具有一个开放边和一个内部的外壳,所述的后视镜装在该外壳的开放边上,该后视镜是从该外壳的内部到该外壳的一个外部可以看穿的,所述的装置与具有朝向后视镜的一个传感器一起装在该外壳的内部。
34.根据权利要求33的后视镜组件,其特征在于,还包括:一个接头,用以将所述的装置固定在后视镜组件上,当驾驶员调整后视镜组件时用该接头将所述的装置保持在一个面对车辆的一位驾驶员的位置上。
35.根据权利要求31的后视镜组件,其特征在于,还包括:一个指向驾驶员的发光源,当驾驶员被发光源照亮时用传感器对驾驶员进行观察。
36.根据权利要求31的后视镜组件,其特征在于,还包括:一个报警器,当检测出驾驶员正在睡觉时控制器使报警器工作。
37.根据权利要求31所述的后视镜组件,其特征在于,所述装置的所述传感器安装在所述的后视镜上,和所述的控制器和所述的分布图形成装置被定位远离所述的传感器。
38.一种车辆,包括根据权利要求14所述的装置。
39.一种为了检测人正在睡觉而检测眼睛的一个特点的方法,其特征在于,该方法包括以下步骤:
取得人面部的一个图像,该图像包括与被检测的特点相对应的像素;
选择该图像中具有与被检测的特点相对应的特征的像素;
形成所述被选像素的至少一个分布图;
分析所经历时间的至少一个分布图,以便识别表示被检测的特点的特征;
所述的特点是虹膜,瞳孔或视网膜;和
根据所述的特点确定该眼睛的睁开和闭合信息。
CNB998029912A 1998-01-15 1999-01-15 用于检测打磕睡的方法和设备 Expired - Fee Related CN1157694C (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
FR9800378A FR2773521B1 (fr) 1998-01-15 1998-01-15 Procede et dispositif pour surveiller en continu l'etat de vigilance du conducteur d'un vehicule automobile, afin de detecter et prevenir une tendance eventuelle a l'endormissement de celui-ci
FR98/00378 1998-01-15
PCT/EP1998/005383 WO2000011610A1 (en) 1998-08-25 1998-08-25 Image processing apparatus and method
EPPCT/EP98/05383 1998-08-25

Publications (2)

Publication Number Publication Date
CN1299498A CN1299498A (zh) 2001-06-13
CN1157694C true CN1157694C (zh) 2004-07-14

Family

ID=9521809

Family Applications (2)

Application Number Title Priority Date Filing Date
CN998029890A Expired - Fee Related CN1132131C (zh) 1998-01-15 1999-01-14 检测困倦及避免汽车司机入睡的方法与装置
CNB998029912A Expired - Fee Related CN1157694C (zh) 1998-01-15 1999-01-15 用于检测打磕睡的方法和设备

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN998029890A Expired - Fee Related CN1132131C (zh) 1998-01-15 1999-01-14 检测困倦及避免汽车司机入睡的方法与装置

Country Status (14)

Country Link
US (2) US6717518B1 (zh)
EP (2) EP1050032B1 (zh)
JP (2) JP2002509321A (zh)
CN (2) CN1132131C (zh)
AT (2) ATE221235T1 (zh)
AU (2) AU2058099A (zh)
BR (2) BR9906979A (zh)
CA (2) CA2320815A1 (zh)
DE (2) DE69902225T2 (zh)
ES (2) ES2179612T3 (zh)
FR (1) FR2773521B1 (zh)
IL (2) IL137173A (zh)
TW (1) TW436436B (zh)
WO (2) WO1999036894A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102098955A (zh) * 2008-05-28 2011-06-15 有效调控运输公司 检测微入睡事件的方法和设备
CN107809952A (zh) * 2015-06-22 2018-03-16 罗伯特·博世有限公司 用于在使用眼睛张开度的情况下对眨眼事件和仪表察看进行区分的方法和装置

Families Citing this family (158)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8152198B2 (en) * 1992-05-05 2012-04-10 Automotive Technologies International, Inc. Vehicular occupant sensing techniques
US7570785B2 (en) * 1995-06-07 2009-08-04 Automotive Technologies International, Inc. Face monitoring system and method for vehicular occupants
FR2751772B1 (fr) 1996-07-26 1998-10-16 Bev Bureau Etude Vision Soc Procede et dispositif fonctionnant en temps reel, pour le reperage et la localisation d'une zone en mouvement relatif dans une scene, ainsi que pour la determination de la vitesse et la direction du deplacement
US7181047B2 (en) 1996-07-26 2007-02-20 Patrick Pirim Methods and apparatus for identifying and localizing an area of relative movement in a scene
US7650015B2 (en) 1997-07-22 2010-01-19 Image Processing Technologies. LLC Image processing method
FR2773521B1 (fr) * 1998-01-15 2000-03-31 Carlus Magnus Limited Procede et dispositif pour surveiller en continu l'etat de vigilance du conducteur d'un vehicule automobile, afin de detecter et prevenir une tendance eventuelle a l'endormissement de celui-ci
US7076088B2 (en) * 1999-09-03 2006-07-11 Honeywell International Inc. Near-infrared disguise detection
US7136842B2 (en) 2000-02-24 2006-11-14 Holding B.E.V. S.A. Method and device for adapting a signal for the detection of the movement of an object
FR2805629B1 (fr) 2000-02-24 2002-08-30 Holding Bev Sa Procede et dispositif de perception automatique
US7043465B2 (en) 2000-02-24 2006-05-09 Holding B.E.V.S.A. Method and device for perception of an object by its shape, its size and/or its orientation
IL152756A0 (en) * 2000-05-16 2003-06-24 Swisscom Mobile Ag Biometric identification and authentication method
JP2004509346A (ja) * 2000-09-22 2004-03-25 ベルス・メステヒニーク・ゲーエムベーハー 座標測定装置によって測定対象物の幾何学的形状を測定する方法。
GB0024274D0 (en) * 2000-10-04 2000-11-15 Harris John W Vehicle security and occupant safety system
JP3983469B2 (ja) * 2000-11-14 2007-09-26 富士フイルム株式会社 画像処理装置、方法及び記録媒体
FR2828613B1 (fr) 2001-08-10 2003-11-07 Holding Bev Sa Dispositif et procede de traitement pour systeme de perception automatique
US7027619B2 (en) * 2001-09-13 2006-04-11 Honeywell International Inc. Near-infrared method and system for use in face detection
US6838994B2 (en) * 2001-10-26 2005-01-04 Koninklijke Philips Electronics N.V. Adaptive alarm system
JP3996428B2 (ja) * 2001-12-25 2007-10-24 松下電器産業株式会社 異常検知装置及び異常検知システム
GB0203035D0 (en) * 2002-02-08 2002-03-27 Univ Bristol A method of and an apparatus for measuring a person's ability to perform a motor control task
JP3908583B2 (ja) * 2002-04-10 2007-04-25 独立行政法人科学技術振興機構 眠気度検出装置及びそれと連動した覚醒装置
DE10226257A1 (de) * 2002-06-13 2003-12-24 Bosch Gmbh Robert Verfahren zur Detektion einer Person in einem Raum
US20040151347A1 (en) * 2002-07-19 2004-08-05 Helena Wisniewski Face recognition system and method therefor
US7351063B2 (en) * 2002-08-20 2008-04-01 George Peter T Jet lag forecaster
HK1053239A2 (en) * 2002-10-09 2003-09-26 Titanium Tech Ltd Apparatus and method for recognizing images
US7202793B2 (en) * 2002-10-11 2007-04-10 Attention Technologies, Inc. Apparatus and method of monitoring a subject and providing feedback thereto
EP1553872B1 (en) * 2002-10-15 2010-01-13 Volvo Technology Corporation Method for interpreting a subjects head and eye activity
US7202792B2 (en) * 2002-11-11 2007-04-10 Delphi Technologies, Inc. Drowsiness detection system and method
JP3947456B2 (ja) * 2002-11-20 2007-07-18 浜松ホトニクス株式会社 歩幅測定装置及び歩幅測定方法
US7280678B2 (en) * 2003-02-28 2007-10-09 Avago Technologies General Ip Pte Ltd Apparatus and method for detecting pupils
JP2004304765A (ja) * 2003-03-20 2004-10-28 Fuji Photo Film Co Ltd 画像記録装置および方法並びにプログラム
KR100527466B1 (ko) 2003-07-28 2005-11-09 현대자동차주식회사 운전자 머리 위치 측정방법 및 장치
US7049947B2 (en) * 2003-09-29 2006-05-23 Nattel Group, Inc. System and method for monitoring the operational condition of a motor vehicle
US7109861B2 (en) * 2003-11-26 2006-09-19 International Business Machines Corporation System and method for alarm generation based on the detection of the presence of a person
EP1695310B1 (en) * 2003-11-30 2008-09-03 Volvo Technology Corporation Method and system for recognizing driver impairment
DE10360176A1 (de) * 2003-12-20 2005-07-21 Volkswagen Ag Kraftfahrzeug mit einem Sensor zur Fahrerüberwachung
US7548803B2 (en) * 2004-01-21 2009-06-16 Maccarthy James Vehicle surveillance and control system
US7331671B2 (en) * 2004-03-29 2008-02-19 Delphi Technologies, Inc. Eye tracking method based on correlation and detected eye movement
US7362885B2 (en) * 2004-04-20 2008-04-22 Delphi Technologies, Inc. Object tracking and eye state identification method
US7720264B2 (en) * 2004-05-10 2010-05-18 Avago Technologies General Ip (Singapore) Pte. Ltd. Method and system for pupil detection for security applications
US7565034B2 (en) * 2004-06-17 2009-07-21 Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. Determination of a navigation window in an optical navigation system
US20060011399A1 (en) * 2004-07-15 2006-01-19 International Business Machines Corporation System and method for controlling vehicle operation based on a user's facial expressions and physical state
DE102004051963A1 (de) 2004-10-25 2006-05-04 Robert Bosch Gmbh Verfahren zur Fahrerunterstützung
KR101159847B1 (ko) * 2005-01-20 2012-06-25 삼성전자주식회사 졸음운전 감지용 얼굴 검출 정규화 장치 및 방법
JP2008531142A (ja) * 2005-03-04 2008-08-14 スリープ・ダイアグノスティックス・プロプライアタリー・リミテッド 覚醒の測定
US7253738B2 (en) * 2005-03-10 2007-08-07 Delphi Technologies, Inc. System and method of detecting eye closure based on edge lines
JP2006248363A (ja) * 2005-03-10 2006-09-21 Omron Corp 運転者照明装置、運転者撮影装置および運転者監視装置
US7253739B2 (en) 2005-03-10 2007-08-07 Delphi Technologies, Inc. System and method for determining eye closure state
JP2006260397A (ja) * 2005-03-18 2006-09-28 Konica Minolta Holdings Inc 開眼度推定装置
US7301465B2 (en) * 2005-03-24 2007-11-27 Tengshe Vishwas V Drowsy driving alarm system
JP4981279B2 (ja) * 2005-08-22 2012-07-18 クラリオン株式会社 車両用異常報知装置及び制御プログラム
WO2007051118A2 (en) 2005-10-25 2007-05-03 Nxstage Medical, Inc Safety features for medical devices requiring assistance and supervision
JP4497081B2 (ja) * 2005-10-31 2010-07-07 トヨタ自動車株式会社 人の状態検出装置
US7650034B2 (en) * 2005-12-14 2010-01-19 Delphi Technologies, Inc. Method of locating a human eye in a video image
US7423540B2 (en) 2005-12-23 2008-09-09 Delphi Technologies, Inc. Method of detecting vehicle-operator state
WO2007095368A2 (en) * 2006-02-14 2007-08-23 Wms Gaming Inc. Reorganizing a wagering game machine's nvram
US7747066B2 (en) * 2006-03-15 2010-06-29 International Business Machines Corporation Z-axis optical detection of mechanical feature height
US7482937B2 (en) * 2006-03-24 2009-01-27 Motorola, Inc. Vision based alert system using portable device with camera
US20080074618A1 (en) * 2006-05-15 2008-03-27 Baohua Qi Fatigue detection device using encoded light signals
US7620216B2 (en) * 2006-06-14 2009-11-17 Delphi Technologies, Inc. Method of tracking a human eye in a video image
EP2407947B8 (en) * 2006-10-13 2014-04-23 Toyota Jidosha Kabushiki Kaisha On-board warning apparatus and warning method
US8102417B2 (en) * 2006-10-25 2012-01-24 Delphi Technologies, Inc. Eye closure recognition system and method
DE102006055908A1 (de) 2006-11-27 2008-05-29 Adc Automotive Distance Control Systems Gmbh Verfahren zur automatischen Fernlichtsteuerung
JP4137969B2 (ja) 2006-12-04 2008-08-20 アイシン精機株式会社 眼部検出装置、眼部検出方法及びプログラム
US20080166052A1 (en) * 2007-01-10 2008-07-10 Toshinobu Hatano Face condition determining device and imaging device
KR101078466B1 (ko) * 2007-01-19 2011-10-31 아사히 가세이 가부시키가이샤 각성 상태 판정 모델 생성 장치, 각성 상태 판정 장치, 경고 장치, 차량, 각성 상태 판정 모델 생성 방법, 각성 상태 판정 방법, 각성 상태 판정 모델 생성 프로그램을 기록한 컴퓨터 판독 가능 기록매체, 및 각성 상태 판정 프로그램을 기록한 컴퓨터 판독 가능 기록매체
JP4895847B2 (ja) 2007-02-08 2012-03-14 アイシン精機株式会社 瞼検出装置及びプログラム
JP4996943B2 (ja) * 2007-02-23 2012-08-08 アイシン精機株式会社 顔特徴点検出装置、顔特徴点検出方法及びプログラム
US7982620B2 (en) 2007-05-23 2011-07-19 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for reducing boredom while driving
CN100452081C (zh) * 2007-06-01 2009-01-14 华南理工大学 一种人眼定位及人眼状态识别方法
JP4492652B2 (ja) * 2007-07-26 2010-06-30 トヨタ自動車株式会社 眠気状態判断装置
WO2009084042A1 (en) * 2008-01-02 2009-07-09 Hi Tech Robotic Systemz Ltd Driver state monitoring system
JP2009223752A (ja) * 2008-03-18 2009-10-01 Hyundai Motor Co Ltd 居眠り運転危険判定装置
US20100014711A1 (en) * 2008-07-16 2010-01-21 Volkswagen Group Of America, Inc. Method for controlling an illumination in a vehicle interior in dependence on a head pose detected with a 3D sensor
KR101480564B1 (ko) * 2008-10-21 2015-01-12 삼성전자주식회사 안면 인식을 이용한 알람 제어 장치 및 방법
JP4788786B2 (ja) * 2009-02-09 2011-10-05 株式会社デンソー 眠気検出装置,プログラムおよび眠気検出方法
CN102316805B (zh) * 2009-02-13 2014-01-29 丰田自动车株式会社 生理状态推测装置和车辆控制装置
EP2237237B1 (en) * 2009-03-30 2013-03-20 Tobii Technology AB Eye closure detection using structured illumination
US8344894B2 (en) * 2009-04-02 2013-01-01 GM Global Technology Operations LLC Driver drowsy alert on full-windshield head-up display
SE534980C2 (sv) * 2009-08-26 2012-03-06 Svenska Utvecklings Entreprenoeren Susen Ab Metod för att väcka en insomnad motorfordonsförare
TWI488149B (zh) * 2009-09-22 2015-06-11 Automotive Res & Testing Ct Driver monitoring method and its monitoring system
JP5680667B2 (ja) * 2009-12-02 2015-03-04 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited 運転者の覚醒状態の特定システム及び方法
JP5333284B2 (ja) * 2010-02-19 2013-11-06 トヨタ自動車株式会社 生体状態判定装置
KR20130022410A (ko) * 2010-05-28 2013-03-06 퀄컴 인코포레이티드 동적으로 변화하는 부분들을 갖는 타겟들을 추적하기 위한 데이터셋트 형성
JP5519413B2 (ja) * 2010-06-03 2014-06-11 パナソニック株式会社 瞳孔隠蔽状態検出装置及びそれを備えた車載カメラ
DE102010049086A1 (de) * 2010-10-21 2012-04-26 Gm Global Technology Operations Llc (N.D.Ges.D. Staates Delaware) Verfahren zum Beurteilen der Fahreraufmerksamkeit
WO2012061871A1 (en) * 2010-11-08 2012-05-18 Optalert Australia Pty Ltd Fitness for work test
KR101245846B1 (ko) * 2010-11-17 2013-03-20 전자부품연구원 졸음 인식 장치 및 방법
JP5997871B2 (ja) * 2010-12-10 2016-09-28 ティーケー ホールディングス インク.Tk Holdings Inc. 車両運転者監視システム
US8552873B2 (en) * 2010-12-28 2013-10-08 Automotive Research & Testing Center Method and system for detecting a driving state of a driver in a vehicle
CN102567710B (zh) * 2010-12-30 2014-09-24 财团法人车辆研究测试中心 用以检测车辆内驾驶者的驾驶状态的方法及系统
CN102085099B (zh) * 2011-02-11 2017-02-08 北京中星微电子有限公司 疲劳驾驶检测方法和装置
CN103534739A (zh) * 2011-05-26 2014-01-22 费利切·欧金尼奥·阿格罗 防睡眠眼镜
DE112011105439B4 (de) * 2011-07-11 2021-06-17 Toyota Jidosha Kabushiki Kaisha Rote-Augen-Erfassungsvorrichtung
CN102393796B (zh) * 2011-07-25 2014-06-18 金宇 基于眨眼特征提取的控制方法及基于该方法的拍摄眼镜
JP2013043044A (ja) * 2011-08-26 2013-03-04 Canon Inc 瞬目計測装置、方法、及びプログラム
CN102988037A (zh) * 2011-09-16 2013-03-27 贾天民 通过对人眼部量值的检测达到警示与控制行为的智能装置
JP5367037B2 (ja) * 2011-09-26 2013-12-11 本田技研工業株式会社 顔向き検出装置
TWI447039B (zh) * 2011-11-25 2014-08-01 駕駛行為分析警示系統與方法
JP5418579B2 (ja) * 2011-12-06 2014-02-19 株式会社デンソー 開閉眼検出装置
CN102647582B (zh) * 2012-04-27 2015-06-03 浙江晨鹰科技有限公司 一种视频监控方法及系统
CN102647581B (zh) * 2012-04-27 2015-05-20 浙江晨鹰科技有限公司 一种视频监控方法及系统
ES2436699B1 (es) * 2012-06-29 2014-12-22 Nil BARNOSELL MORERA Sistema de detección de somnolencia o distracción del conductor de un vehículo automóvil
TWI466070B (zh) 2012-09-14 2014-12-21 Utechzone Co Ltd 眼睛搜尋方法及使用該方法的眼睛狀態檢測裝置與眼睛搜尋裝置
RU2587408C2 (ru) * 2012-11-09 2016-06-20 Борис Павлович Калинин Видео контроль функционального состояния
JP6316941B2 (ja) 2013-05-01 2018-04-25 エムユーエスシー ファウンデーション フォー リサーチ ディベロップメント 神経機能状態の監視
RU2539004C1 (ru) * 2013-07-24 2015-01-10 Андрей Федорович Изнак Способ контроля выхода человека-оператора из контура управления
TWI493511B (zh) * 2013-09-04 2015-07-21 Ind Tech Res Inst 駕駛狀態偵測系統、駕駛狀態偵測方法與電子裝置
US10210761B2 (en) * 2013-09-30 2019-02-19 Sackett Solutions & Innovations, LLC Driving assistance systems and methods
FR3012029B1 (fr) * 2013-10-23 2015-12-04 Peugeot Citroen Automobiles Sa Procede de detection de la baisse de vigilance du conducteur d'un vehicule automobile
KR101386823B1 (ko) * 2013-10-29 2014-04-17 김재철 동작, 안면, 눈, 입모양 인지를 통한 2단계 졸음운전 방지 장치
US9465981B2 (en) 2014-05-09 2016-10-11 Barron Associates, Inc. System and method for communication
DE112015002948T5 (de) 2014-06-23 2017-03-09 Denso Corporation Vorrichtung zum erfassen eines fahrunvermögenzustands eines fahrers
JP6372388B2 (ja) 2014-06-23 2018-08-15 株式会社デンソー ドライバの運転不能状態検出装置
DE112015002934B4 (de) 2014-06-23 2021-12-16 Denso Corporation Vorrichtung zum Erfassen eines Fahrunvermögenzustands eines Fahrers
DE102014220759B4 (de) * 2014-10-14 2019-06-19 Audi Ag Überwachung eines Aufmerksamkeitsgrads eines Fahrers eines Fahrzeugs
DE102014224765A1 (de) * 2014-12-03 2016-06-09 Volkswagen Aktiengesellschaft Vorrichtung und Verfahren zur Fahreraktivitätserkennung
CN105788364B (zh) * 2014-12-25 2019-05-14 中国移动通信集团公司 一种预警信息的发布方法及装置
DE102015200697A1 (de) * 2015-01-19 2016-07-21 Robert Bosch Gmbh Verfahren und Vorrichtung zum Erkennen von Sekundenschlaf eines Fahrers eines Fahrzeugs
US9505413B2 (en) * 2015-03-20 2016-11-29 Harman International Industries, Incorporated Systems and methods for prioritized driver alerts
CN104794438A (zh) * 2015-04-08 2015-07-22 天脉聚源(北京)教育科技有限公司 一种人物状态监测方法及装置
DE102015209391A1 (de) * 2015-05-22 2016-11-24 Robert Bosch Gmbh Verfahren und Vorrichtung zum Erzeugen einer Maskierungsvorschrift sowie zum Maskieren einer Bildinformation einer Kamera
US10486600B1 (en) * 2015-09-28 2019-11-26 Apple Inc. Systems for improving side-mirror functionality of a vehicle
JP6475859B2 (ja) * 2015-10-27 2019-02-27 京セラ株式会社 ミラー付き撮像装置
EP3370414A4 (en) * 2015-10-28 2019-06-05 Kyocera Corporation IMAGING DEVICE, IMAGING SYSTEM, INDIVIDUAL SURVEILLANCE SYSTEM, AND CONTROL METHOD FOR IMAGING DEVICE
DE102015225109A1 (de) * 2015-12-14 2017-06-14 Robert Bosch Gmbh Verfahren und Vorrichtung zum Klassieren von Augenöffnungsdaten zumindest eines Auges eines Insassen eines Fahrzeugs und Verfahren und Vorrichtung zum Erfassen einer Schläfrigkeit und/oder eines Sekundenschlafes eines Insassen eines Fahrzeugs
DE102016205996A1 (de) * 2015-12-16 2017-06-22 Robert Bosch Gmbh Verfahren zum Ausgeben einer Schläfrigkeitswarnung und Steuergerät
JP6917708B2 (ja) * 2016-02-29 2021-08-11 株式会社デンソー 運転者監視システム
US10065651B2 (en) 2016-05-10 2018-09-04 Samsung Electronics Co., Ltd Electronic device and method for determining a state of a driver
CN107670157A (zh) * 2016-08-02 2018-02-09 昆山研达电脑科技有限公司 睡眠辅助装置及方法
KR101951565B1 (ko) * 2016-10-18 2019-02-22 서울대학교산학협력단 자세 및 작업 감지를 통한 안구 건조증 경고 시스템
CN107960989B (zh) * 2016-10-20 2022-02-08 松下知识产权经营株式会社 脉搏波计测装置以及脉搏波计测方法
US10346697B2 (en) * 2016-12-21 2019-07-09 Hyundai America Technical Center, Inc Driver state monitoring using corneal reflection detection
CN106725322B (zh) * 2016-12-22 2020-10-30 东软集团股份有限公司 确定处于睡眠临界区的方法及装置
WO2018125870A1 (en) * 2016-12-27 2018-07-05 Gentex Corporation Rear vision system with eye-tracking
DE112017007073B4 (de) * 2017-02-15 2024-03-07 Mitsubishi Electric Corporation Fahrzustandsbestimmungsvorrichtung, Bestimmungsvorrichtung und Fahrzustandsbestimmungsverfahren
US10943097B2 (en) * 2017-05-16 2021-03-09 Jeffry David Aronson Scalable configurable universal full spectrum cyber process that utilizes measure points from sensor observation-derived representations or analytically rich sparse data sets for making cyber determinations regarding or utilizing sensor observations or sensor observations subjects
US11117515B2 (en) * 2017-05-19 2021-09-14 Yazaki Corporation Monitoring system
CN107224292B (zh) * 2017-05-27 2019-12-31 西南交通大学 一种调度员的注意广度的测试方法和系统
TWI647666B (zh) * 2017-08-28 2019-01-11 緯創資通股份有限公司 瞌睡偵測裝置及其瞌睡偵測方法
JP6780616B2 (ja) * 2017-08-31 2020-11-04 トヨタ自動車株式会社 瞬き検出装置
US10406978B2 (en) 2017-12-19 2019-09-10 PlusAI Corp Method and system for adapting augmented switching warning
US10710590B2 (en) 2017-12-19 2020-07-14 PlusAI Corp Method and system for risk based driving mode switching in hybrid driving
EP3729399A4 (en) * 2017-12-19 2021-08-04 PlusAI Corp INCREASED SWITCHING WARNING ADAPTATION METHOD AND SYSTEM
US10620627B2 (en) 2017-12-19 2020-04-14 PlusAI Corp Method and system for risk control in switching driving mode
FR3081131A3 (fr) * 2018-05-15 2019-11-22 Renault S.A.S Retroviseur interieur de vehicule avec camera integree
CN108919517A (zh) * 2018-09-25 2018-11-30 吉林大学 一种汽车驾驶用防疲劳眼镜及疲劳状态识别方法
FR3090172B1 (fr) * 2018-12-13 2020-11-20 Continental Automotive France Procédé de détermination d’un niveau de vigilance d’un conducteur
US11422551B2 (en) * 2018-12-27 2022-08-23 Intel Corporation Technologies for providing a cognitive capacity test for autonomous driving
US11992317B2 (en) * 2019-02-01 2024-05-28 Nec Corporation Alertness estimation apparatus, alertness estimation method, and computer- readable recording medium
EP3935830A1 (en) * 2019-03-08 2022-01-12 Motherson Innovations Company Ltd. Image presentation for rear view mirror systems with cameras
TWI749323B (zh) * 2019-04-30 2021-12-11 先進光電科技股份有限公司 行動載具輔助系統
CN110287916B (zh) * 2019-06-28 2021-11-16 浙江吉利控股集团有限公司 一种用于判断驾驶员注意力的方法及系统
KR102378665B1 (ko) * 2020-08-26 2022-03-25 주식회사 켐트로닉스 차량의 긴급 제어 시스템 및 방법
CN112150767B (zh) * 2020-09-27 2021-11-23 河南城建学院 基于物联网与计算机的疲劳驾驶监控系统
WO2023028027A1 (en) * 2021-08-23 2023-03-02 Gentex Corporation Rearview assembly adjustment system
CN113990033A (zh) * 2021-09-10 2022-01-28 南京融才交通科技研究院有限公司 基于5g车联网的车辆交通事故远程接管救援方法及系统
CN113954748B (zh) * 2021-12-07 2024-04-26 江苏迈隆电子科技有限公司 一种自适应识别电子内后视镜智能调节方法
TWI828457B (zh) * 2022-12-01 2024-01-01 鼎天國際股份有限公司 駕駛人行為偵測輔助系統

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4259665A (en) 1979-05-29 1981-03-31 Rmr Systems, Inc. Driver sleep or fatigue alarm
US4485375A (en) 1982-09-29 1984-11-27 Hershberger Vilas D Grip-responsive dozing driver alarm
US4555697A (en) 1984-02-17 1985-11-26 Thackrey James D Teeth-held head tilt alarm
JPH0779803B2 (ja) 1987-12-09 1995-08-30 日本電装株式会社 居眠り検出装置
JP2541688B2 (ja) * 1990-05-21 1996-10-09 日産自動車株式会社 眼位置検出装置
US5195606A (en) 1991-09-17 1993-03-23 Andrew Martyniuk Emergency stopping apparatus for automotive vehicles
US5402109A (en) 1993-04-29 1995-03-28 Mannik; Kallis H. Sleep prevention device for automobile drivers
US5353013A (en) 1993-05-13 1994-10-04 Estrada Richard J Vehicle operator sleep alarm
US5481622A (en) * 1994-03-01 1996-01-02 Rensselaer Polytechnic Institute Eye tracking apparatus and method employing grayscale threshold values
US5469143A (en) 1995-01-10 1995-11-21 Cooper; David E. Sleep awakening device for drivers of motor vehicles
US5689241A (en) 1995-04-24 1997-11-18 Clarke, Sr.; James Russell Sleep detection and driver alert apparatus
JP3452685B2 (ja) * 1995-05-10 2003-09-29 三菱電機株式会社 顔画像の処理装置
US6151065A (en) * 1995-06-20 2000-11-21 Steed; Van P. Concealed integrated vehicular camera safety system
JP3350296B2 (ja) * 1995-07-28 2002-11-25 三菱電機株式会社 顔画像処理装置
US5729619A (en) * 1995-08-08 1998-03-17 Northrop Grumman Corporation Operator identity, intoxication and drowsiness monitoring system and method
US5682144A (en) 1995-11-20 1997-10-28 Mannik; Kallis Hans Eye actuated sleep prevention devices and other eye controlled devices
US5813993A (en) 1996-04-05 1998-09-29 Consolidated Research Of Richmond, Inc. Alertness and drowsiness detection and tracking system
JP3183161B2 (ja) * 1996-04-12 2001-07-03 三菱自動車工業株式会社 覚醒度推定装置
FR2751772B1 (fr) 1996-07-26 1998-10-16 Bev Bureau Etude Vision Soc Procede et dispositif fonctionnant en temps reel, pour le reperage et la localisation d'une zone en mouvement relatif dans une scene, ainsi que pour la determination de la vitesse et la direction du deplacement
US5684461A (en) 1996-10-18 1997-11-04 Jones; Richard Sidney Sleep prevention device for a driver of a vehicle
US5841354A (en) 1997-02-27 1998-11-24 Bae; Tae Hong Position-sensing waking system and method
FR2773521B1 (fr) * 1998-01-15 2000-03-31 Carlus Magnus Limited Procede et dispositif pour surveiller en continu l'etat de vigilance du conducteur d'un vehicule automobile, afin de detecter et prevenir une tendance eventuelle a l'endormissement de celui-ci
DE19803158C1 (de) * 1998-01-28 1999-05-06 Daimler Chrysler Ag Vorrichtung zur Vigilanzzustandsbestimmung

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102098955A (zh) * 2008-05-28 2011-06-15 有效调控运输公司 检测微入睡事件的方法和设备
CN102098955B (zh) * 2008-05-28 2015-07-15 7352867加拿大公司 检测微入睡事件的方法和设备
CN107809952A (zh) * 2015-06-22 2018-03-16 罗伯特·博世有限公司 用于在使用眼睛张开度的情况下对眨眼事件和仪表察看进行区分的方法和装置
CN107809952B (zh) * 2015-06-22 2022-05-27 罗伯特·博世有限公司 用于在使用眼睛张开度的情况下对眨眼事件和仪表察看进行区分的方法和装置

Also Published As

Publication number Publication date
CA2320974A1 (en) 1999-07-22
ATE219593T1 (de) 2002-07-15
DE69902225T2 (de) 2003-03-27
TW436436B (en) 2001-05-28
EP1050032B1 (fr) 2002-07-24
WO1999036893A9 (en) 1999-09-30
JP2002509320A (ja) 2002-03-26
EP1050032A1 (fr) 2000-11-08
CA2320815A1 (fr) 1999-07-22
IL137173A (en) 2005-09-25
FR2773521A1 (fr) 1999-07-16
AU2058099A (en) 1999-08-02
JP2002509321A (ja) 2002-03-26
CN1299498A (zh) 2001-06-13
IL137173A0 (en) 2001-07-24
AU2619299A (en) 1999-08-02
CN1291320A (zh) 2001-04-11
IL137174A0 (en) 2001-07-24
DE69902225D1 (de) 2002-08-29
ES2179620T3 (es) 2003-01-16
IL137174A (en) 2004-09-27
FR2773521B1 (fr) 2000-03-31
ES2179612T3 (es) 2003-01-16
US6717518B1 (en) 2004-04-06
BR9906979A (pt) 2000-10-17
DE69901878D1 (de) 2002-07-25
BR9906974A (pt) 2000-10-17
ATE221235T1 (de) 2002-08-15
EP1050033A1 (en) 2000-11-08
EP1050033B1 (en) 2002-06-19
CN1132131C (zh) 2003-12-24
WO1999036893A1 (en) 1999-07-22
WO1999036894A1 (fr) 1999-07-22
US6304187B1 (en) 2001-10-16
DE69901878T2 (de) 2003-02-20

Similar Documents

Publication Publication Date Title
CN1157694C (zh) 用于检测打磕睡的方法和设备
US11196917B2 (en) Electronic system with eye protection
CN107193383B (zh) 一种基于人脸朝向约束的二级视线追踪方法
CN1437161B (zh) 个人识别方法以及个人识别装置
CN102918834B (zh) 用于空间控制的景物照明的系统和方法
US20180160079A1 (en) Pupil detection device
EP2710516B1 (en) Systems and methods for identifying gaze tracking scene reference locations
CN101032405A (zh) 基于全方位计算机视觉的安全驾驶辅助装置
CN109044363A (zh) 基于头部姿态和眼动的驾驶员疲劳检测方法
US20120314045A1 (en) Wearable systems for audio, visual and gaze monitoring
CN111202663A (zh) 一种基于vr技术的视觉训练学习系统
US20070236488A1 (en) Rapid serial visual presentation triage prioritization based on user state assessment
CN105095893A (zh) 图像采集装置和方法
CN104391574A (zh) 视线处理方法、系统、终端设备及穿戴式设备
CN1554985A (zh) 摄像系统、显示以及控制方法、控制程序和可读记录介质
CN101587542A (zh) 基于眼动轨迹跟踪的景深融合增强显示方法及系统
CN101281646A (zh) 基于视觉的驾驶员疲劳实时检测方法
CN102172225A (zh) 斑马鱼行为诱发和分析方法及其系统
CN109076176A (zh) 眼睛位置检测装置和方法、带滚动快门驱动系统的图像传感器的成像装置及其照明控制方法
CN109165630A (zh) 一种基于二维人眼识别的疲劳监测方法
CN104228684A (zh) 一种消除汽车a柱盲区的装置及其方法
CN115171024A (zh) 一种基于视频序列的面部多特征融合疲劳检测方法及系统
CN113255476B (zh) 一种基于眼动追踪的目标跟踪方法、系统及存储介质
JP2011042179A (ja) 投光器制御装置
CN107170363A (zh) 一种具有保护功能的健康型显示器的工作方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: NONE

Free format text: FORMER OWNER: PATRICK PIRIM; BINFORD THOMAS

Effective date: 20030328

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20030328

Address after: Luxemburg Luxemburg

Applicant after: Holding B.E.V. S.A.

Address before: Luxemburg Luxemburg

Applicant before: Holding B.E.V. S.A.

Co-applicant before: Patrick Pirim

Co-applicant before: Binford Thomas

C14 Grant of patent or utility model
GR01 Patent grant
C19 Lapse of patent right due to non-payment of the annual fee
CF01 Termination of patent right due to non-payment of annual fee