JP2014206874A - 開眼状態判定装置 - Google Patents

開眼状態判定装置 Download PDF

Info

Publication number
JP2014206874A
JP2014206874A JP2013084350A JP2013084350A JP2014206874A JP 2014206874 A JP2014206874 A JP 2014206874A JP 2013084350 A JP2013084350 A JP 2013084350A JP 2013084350 A JP2013084350 A JP 2013084350A JP 2014206874 A JP2014206874 A JP 2014206874A
Authority
JP
Japan
Prior art keywords
eye
red
image
eyelid
driver
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013084350A
Other languages
English (en)
Other versions
JP5999013B2 (ja
Inventor
直司 大屋
Naoji Oya
直司 大屋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013084350A priority Critical patent/JP5999013B2/ja
Priority to US14/780,668 priority patent/US10095936B2/en
Priority to PCT/JP2014/002023 priority patent/WO2014167848A1/ja
Publication of JP2014206874A publication Critical patent/JP2014206874A/ja
Application granted granted Critical
Publication of JP5999013B2 publication Critical patent/JP5999013B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/197Matching; Classification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30216Redeye defect

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Ophthalmology & Optometry (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】開眼状態の誤判定を抑制可能とする開眼状態判定装置を提供する。
【解決手段】開眼状態判定装置において、被験者の眼の画像を取得する画像取得手段110と、眼の画像における瞼の状態から瞼の開度を検出する瞼開度検出手段133と、被験者の瞳孔から光を入射させて、網膜上で反射した光を赤目画像として眼の画像に写し込ませる赤目発生手段122と、赤目画像の発生有無を検出する赤目検出手段134と、画像取得手段110による眼の画像を取得するタイミングとは異なるタイミングで、赤目発生手段122を作動させる作動制御手段131と、瞼開度検出手段133によって得られた瞼の開度、および赤目検出手段134によって得られた赤目画像の発生有無から、被験者の開眼状態を判定する判定手段135とを設ける。
【選択図】図1

Description

本発明は、顔画像から開眼状態を判定する開眼状態判定装置に関するものである。
従来の開眼状態判定装置として、例えば、特許文献1に示されるものが知られている。特許文献1の開眼状態判定装置(瞼検出装置)は、顔画像を取得する画像取得手段と、顔画像から明暗の境界であるエッジに基づいて上瞼および下瞼を検出する瞼検出手段と、顔画像から虹彩部の空間的な明暗の変化を感知して、瞳孔から入射した光が眼球内部の脈絡膜層で反射して顔画像に映り込む赤目現象を検出する赤目検出手段とを備えている。そして、赤目検出手段によって赤目現象を検出した場合に、瞼検出手段は、赤目現象である瞳孔のエッジを、本来の上瞼および下瞼のエッジの候補から除外するようにしている。
上記のような赤目現象が発生すると、赤目瞳孔のエッジは、上瞼あるいは下瞼のエッジ候補となり得るため、これが本来の上瞼あるいは下瞼のエッジとして判定されるおそれがある。例えば、赤目瞳孔の上側に現れるエッジが下瞼のエッジであると判定されると、本来の上瞼エッジとの位置関係より、眼が閉じられていると誤判定されるおそれがある。このように、赤目現象は、瞼の判定を阻害するものとなっている。
よって、特許文献1の開眼状態判定装置では、赤目現象に基づく瞳孔におけるエッジを、上瞼および下瞼のエッジの候補から除外することで、本来の上瞼および下瞼のエッジが正しく把握され、開眼状態の判定が確かなものとなるようにしている。
特開2008−158922号公報
しかしながら、顔画像から瞼の検出を行うにあたっては、被験者が画像取得手段に対して正対している場合は正確に検出されるが、例えば、被験者が下を向いた場合であると、瞼の形状が正確に把握されず、実際には眼を開けているにもかかわらず、眼が閉じられていると誤判定される場合がある。
本発明の目的は、上記問題に鑑み、開眼状態の誤判定を抑制可能とする開眼状態判定装置を提供することにある。
本発明は上記目的を達成するために、以下の技術的手段を採用する。
本発明では、開眼状態判定装置において、
被験者の眼の画像を取得する画像取得手段(110)と、
眼の画像における瞼の状態から瞼の開度を検出する瞼開度検出手段(133)と、
被験者の瞳孔から光を入射させて、網膜上で反射した光を赤目画像として眼の画像に写し込ませる赤目発生手段(122)と、
赤目画像の発生有無を検出する赤目検出手段(134)と、
画像取得手段(110)による眼の画像を取得するタイミングとは異なるタイミングで、赤目発生手段(122)を作動させる作動制御手段(131)と、
瞼開度検出手段(133)によって得られた瞼の開度、および赤目検出手段(134)によって得られた赤目画像の発生有無から、被験者の開眼状態を判定する判定手段(135)とを備えることを特徴としている。
この発明によれば、画像取得手段(110)によって得られた眼の画像をもとに、瞼開度検出手段(133)は瞼の状態から瞼の開度を検出する。また、赤目発生手段(122)が作動されると、被験者の眼が開いている状態であると、眼の画像に赤目画像が写し込まれる。つまり、判定手段(135)は、赤目検出手段(134)によって赤目画像が検出されると被験者の眼が開いており、赤目画像が検出されないと被験者の眼が閉じていると判定することが可能となる。
本発明では、画像取得手段(110)による眼の画像を取得するタイミングに対して、赤目発生手段(122)を作動させるタイミングを異なるようにしているので、赤目発生手段(122)を作動させていないときは、瞼開度検出手段(133)は赤目の影響を受けない状態で眼の画像をもとに瞼の開度を正確に検出することができ、よって、判定手段(135)は被験者の開眼状態を正確に判定することができる。
ここで、瞼開度検出手段(133)は、瞼の開度を検出するにあたって、被験者が例えば下を向いていると、眼を開けているのにもかかわらず、瞼の状態が眼を閉じている状態に近いものとして誤判定をしてしまうおそれがある。このような場合でも、被験者の視線が画像取得手段(110)に向いていれば、赤目発生手段(122)による赤目画像が得られ、判定手段(135)は被験者の眼は開いていると判定することができる。よって、瞼の開度に加えて赤目画像の発生有無の検出結果を用いることで、開眼状態をより正確に把握することができるので、開眼状態の誤判定を抑制することが可能となる。
尚、上記各手段の括弧内の符号は、後述する実施形態記載の具体的手段との対応関係を示すものである。
第1実施形態における開眼状態判定装置を示すブロック図である。 瞼、および赤目を検出するためのタイミングを示すタイムチャートである。 第1実施形態における制御要領を示す制御フローチャートである。 第2実施形態における開眼状態判定装置を示すブロック図である。 第2実施形態における制御要領を示す制御フローチャートである。 第3実施形態における開眼状態判定装置を示すブロック図である。 第3実施形態における制御要領を示す制御フローチャートである。 第4実施形態における開眼状態判定装置を示すブロック図である。 第4実施形態における制御要領を示す制御フローチャートである。
以下に、図面を参照しながら本発明を実施するための複数の形態を説明する。各形態において先行する形態で説明した事項に対応する部分には同一の参照符号を付して重複する説明を省略する場合がある。各形態において構成の一部のみを説明している場合は、構成の他の部分については先行して説明した他の形態を適用することができる。各実施形態で具体的に組み合わせが可能であることを明示している部分同士の組み合わせばかりではなく、特に組み合わせに支障が生じなければ、明示していなくても実施形態同士を部分的に組み合せることも可能である。
(第1実施形態)
第1実施形態における開眼状態判定装置100について図1〜図3を用いて説明する。開眼状態判定装置100は、車両に適用され、ドライバー(被験者)の運転時における開眼状態(眼を開けているか、眼を閉じているか)を把握して、安全運転に対する支援を行う装置(ドライバーステータスモニター装置)となっている。尚、ドライバーステータスモニター装置としては、運転者の開眼状態の他にも、運転時の集中度、顔の向き、更には視線の向き等を把握して安全運転支援に対応するものもある。開眼状態判定装置100は、図1に示すように、カメラ110、照明121、122、制御部130、および警報部140等を備えている。
カメラ110は、運転者の目の画像を取得する画像取得手段であり、例えば、運転者の眼(顔)と対向するようにステアリングに装着されている。カメラ110としては、例えば、CCD(Charge Coupled Device:電荷結合素子)等の撮像素子でレンズの結像を電気信号に変換して、画素ごとにデジタル化した画像データを取得するCCDカメラ等を用いることができる。
カメラ110は、眼の画像を取得するにあたっては、運転者の眼の周りのみに限らず、運転者の顔全体の画像(顔画像)を取得するようにしても良い。カメラ110は取得した眼の画像データを制御部130の画像データ保持部132に出力するようになっている。
照明121は、運転者の眼の画像を取得する際に、運転者の眼元を照らす光源部であり、例えばLEDライトが使用されている。照明121は、制御部130の照明制御部131によって、その作動が制御されるようになっている。照明121は、ステアリングにおいて、カメラ110に対して、ある程度離れた位置に設定されている。つまり、照明121と運転者の眼とを繋ぐラインと、運転者の眼とカメラ110とを繋ぐラインとの成す角が所定角度以上(例えば2度以上)と成るように位置設定されている。これは、照明121の光が、運転者の瞳孔から入り眼球内部の網膜上で反射して直接的にカメラ110に至り、眼の画像に写り込んでしまうという赤目現象をなくすためである。
一方、照明122は、上記照明121とは逆に、意図的に運転者の赤目現象を発生させるための赤目発生手段となっており、例えばLEDライトが使用されている。照明122は、制御部130の照明制御部131によって、その作動が制御されるようになっている。照明122は、ステアリングにおいて、カメラ110に近接して配置されている。つまり、照明122の光は、運転者の瞳孔から入り眼球内部の網膜上で反射して直接的にカメラ110に至り、眼の画像に赤目として写り込むようになっている。
照明121、122は、カメラ110に対して、一方の側方に1つずつ設けるようにしても良いし(図1中の実線表示)、あるいは、カメラ110の両方の側方に1対ずつ設けるようにしても良い(図1中の実線表示および破線表示)。
制御部130は、カメラ110による眼の画像を保持し、保持した画像データから瞼の開度および赤目の発生有無を検出することで運転者の開眼状態を判定し、更に開眼状態に応じて後述する警報部140を作動させる制御手段となっている。制御部130は、照明制御部131、画像データ保持部132、瞼開度検出部133、赤目検出部134、および開眼状態判定部135等を備えている。
照明制御部131は、上記照明121、122の作動を制御する作動制御手段である。照明制御部131は、照明121に対しては、図2に示すように、所定の第1周期(例えば、0.03秒ごとの周期=30Hz)で照明121をオン状態とするようになっている。また、照明制御部131は、照明122に対しては、図2に示すように、上記第1周期よりも大きく設定された所定の第2周期(例えば、0.17秒ごとの周期=6Hz)で照明122をオン状態とするようになっている。よって、所定の時間内において、照明122がオンされる頻度は、照明121がオンされる頻度よりも小さく設定されている。
ここで、照明制御部131は、照明122を作動させる際には、照明121を作動させるタイミングとは異なるタイミングで作動させるようなっている。つまり、照明制御部131は、照明121と照明122とを、同時には作動させないようになっている。
画像データ保持部132は、カメラ110によって取得された眼の画像データを、上記第1、第2周期ごとに時系列的に保持(記憶)する保持部となっている。眼の画像データには、瞼データと赤目データとがあり、以下のように活用されるものとなっている。
瞼データとは、照明121が作動されたときに取得されるデータであり、運転者の上下の瞼のうち、例えば上瞼のライン形状を捉えたデータとなっている。運転者の眼が開いている状態では、上瞼のライン形状は、上側に凸状となる湾曲したラインとして捉えられる。また、例えば運転者が眠気を催して、眼が閉じ気味になる、あるいは眼が閉じられた状態に至ると、上瞼のライン形状は湾曲度が小さくなり、水平な直線に近づく形状として捉えられる。
尚、瞼データにおいて赤目現象が発生すると、瞳孔部における明度(コントラスト)が強くなりすぎて、上瞼のライン形状の把握が難しくなる。よって、上記のように、瞼データ取得時(照明121の作動時)には、照明122を作動させないようになっている。また、運転者がカメラ110に対して例えば下向きとなると、上瞼のライン形状の湾曲度は、より小さく捉えられることになる。
また、赤目データとは、照明122が作動されたときに取得されるデータであり、運転者の瞳孔部における赤目発生の有り無しを捉えたデータとなっている。運転者が眼を開いている状態において、照明122が作動されると、視線がカメラ110の方向を向いていれば、眼の画像データの瞳孔部に赤目現象が発生する。つまり、赤目現象により瞳孔部が極めて明度の高い眼の画像データとなり、確実に眼が開かれている状態であると認識できるものとなる。逆に、運転者が眼を閉じている状態では、照明122が作動されても赤目現象は発生しないため、眼が閉じられている状態であると認識できるものとなる。このように、赤目データは、運転者の眼が開けられているか、閉じられているかという「0」、「1」の特性を備えるデータとなっている。
瞼開度検出部133は、上記瞼データ(瞼の状態)から運転者の瞼の開度(眼の開度)を検出する瞼開度検出手段である。瞼開度検出部133には、予め、上瞼のライン形状における湾曲度と、湾曲度に対応する瞼開度とが関連付けされたマップが設けられている。マップは、例えば、横軸に湾曲度をとり、縦軸に湾曲度に対応する瞼開度が関係付けされたものとすることができ、湾曲度が大きい程、瞼開度が大きいものとなる。瞼開度検出部133は、瞼データの上瞼ライン形状から湾曲度を把握し、この湾極度に対応する瞼開度を算出すると共に、算出した瞼開度を瞼データと対になるように順次記憶していく。
そして、マップには、瞼開度に対して開眼状態を判定するための1つの閾値が設けられており、瞼開度検出部133は、瞼開度が閾値よりも大きいと眼が開かれており、瞼開度が閾値よりも小さいと眼が閉じられていると判定する。閾値は、例えば、瞼開度20%と設定することができる。尚、眼が閉じられている状況は、運転者が眠気を催している場合に加えて、カメラ110に対して下を向いていた場合、あるは、瞬きが多く行われた場合等が含まれる。
赤目検出部134は、上記赤目データから赤目の発生の有無を検出する赤目検出手段である。赤目検出手段134は、眼の画像データの瞳孔部に赤目現象があると、眼は開けられていると判定し、また、逆に赤目現象がないと、眼は閉じられていると判定する。赤目検出部134は、赤目の発生の有無を把握し、この結果を赤目データと対になるように順次記憶していく。
開眼状態判定部135は、瞼開度検出部133、および赤目検出部134によって検出された結果を基に、最終的に運転者の開眼状態を判定する判定手段である。後述するように、開眼状態判定部135は、瞼開度検出部133、および赤目検出部134による判定が共に閉眼状態であると判定したときに、運転者の眼は閉じられていると判定し、後述する警報部140を作動させるための信号を出力する。
警報部140は、運転者に対して安全運転のための処置を実施する処置手段であり、運転者に対して警報を行う警報手段となっている。警報手段140は、例えば、アラームとして形成することができ、運転者の眼が閉じられている状態、つまり、居眠りをしているような状況下において、運転者を覚醒させるために、所定の音を発生するようになっている。
上記のように形成される開眼状態判定装置100の作動について、以下、図3に示す制御フローチャートを加えて説明する。図3に示す制御フローチャートは、制御部130によって所定の周期(例えば30秒ごと)で繰返し実行される開眼状態判定制御を示すものである。
運転中においては、照明制御部131は、照明121を第1周期ごとに作動させる。カメラ110は第1周期ごとに眼の画像を取得していき、取得された眼の画像は、瞼データとして画像データ保持部132に記憶されていく。また、照明制御部131は、上記の瞼データが取得されるタイミングとは異なるタイミングで、照明122を第2周期ごとに作動させる。カメラ110は第2周期ごとに意図的に赤目データを取得していき、取得された赤目データは、画像データ保持部132に記憶されていく。
そして、ステップS100において、瞼開度検出部133は、瞼データからマップに基づき運転者の瞼開度(眼の開度)を算出し、閾値を基に眼が開いている状態にあるか閉じている状態にあるかを判定する。この判定にあたっては、現時点から所定時間さかのぼった時間の間に取得された複数の瞼データを用いて判定する。つまり、図3の開眼状態判定制御を繰り返すたびに、瞼データは最新のデータを含む複数の移動平均データとして使用されていく。そして、瞼開度検出部133は、所定時間の間における複数の瞼データのうち、例えば、瞼開度が20%以上となる発生確率が80%を越える場合に「開判定」とし、それ以外は「閉判定」とする。
ステップS100で、開判定されると、ステップS110で、開眼状態判定部135は、運転者の開眼状態として「開眼」と判定する。ここでは、運転者は、かなりの確からしさをもって、眼を開けていると把握することができるので、特に、安全運転に対する処置は不要であり、現時点での開眼状態判定の制御を終了する。
一方、ステップS100で、閉判定されると、ステップS120で、赤目検出部134は、赤目データから赤目の発生の有無を判定する。尚、ステップS100で閉判定される場合は、運転者が眠気を催している場合に加えて、眠くはなくともカメラ110に対して下を向いていた場合、あるいは、眼の調子が悪く瞬きが多く行われた場合等も含まれる。
ステップS120での判定にあたっては上記と同様に、現時点から所定時間さかのぼった時間の間に取得された複数の赤目データを用いて判定する。つまり、図3の開眼状態判定制御を繰り返すたびに、赤目データは最新のデータを含む複数の移動平均データとして使用されていく。そして、赤目検出部134は、所定時間の間における複数の赤目データのうち、例えば、赤目の発生ありの発生確率が80%を越える場合に「開判定」とし、それ以外は「閉判定」とする。つまり、瞼データからは、明確に開判定が得られなかった場合(下向き、瞬き等)であっても、赤目の発生が認められれば、眼は開いている可能性があるとして「開判定」とするのである。
ステップS120で、開判定されると、ステップS130で、開眼状態判定部135は、運転者の開眼状態として「グレー」と判定する。グレーとは、眼が確実に開いているとは言い切れないものの、逆に閉じているとも言い切れない状況を示す。ここでは、運転者の眼は閉じているとは言い切れないことから、特に、安全運転に対する処置は不要として、現時点での開眼状態判定の制御を終了する。
更に、ステップS120で閉判定されると、瞼データから閉判定され(ステップS100)、且つ赤目データからも閉判定された(ステップS120)ことになり、運転者は眠気によって眼が閉じていると把握することができることから、ステップS140で、開眼状態判定部135は、運転者の開眼状態として「閉眼」と判定する。
そして、ステップS150で、開眼状態判定部135は、警報部140に対して警報を発生させるための信号を出力し、警報部140からアラーム等の警報を出し、運転者を覚醒させるようにする。
以上のように、本実施形態では、カメラ110によって得られた眼の画像をもとに、瞼開度検出部133は瞼の状態から瞼の開度を検出する。また、照明122が作動されると、運転者の眼が開いている状態であると、眼の画像に赤目画像が写し込まれる。つまり、開眼状態判定部135は、赤目検出部134によって赤目画像が検出されると運転者の眼が開いており、赤目画像が検出されないと運転者の眼が閉じていると判定することが可能となる。
本実施形態では、カメラ110による眼の画像を取得するタイミングに対して、照明122を作動させるタイミングを異なるようにしているので、照明122を作動させていないときは、瞼開度検出部133は赤目の影響を受けない状態で眼の画像をもとに瞼の開度を正確に検出することができ、よって、開眼状態判定部135は運転者の開眼状態を正確に判定することができる。
ここで、瞼開度検出部133は、瞼の開度を検出するにあたって、運転者が例えば下を向いていると、眼を開けているのにもかかわらず、瞼の状態が眼を閉じている状態に近いものとして誤判定をしてしまうおそれがある。このような場合でも、運転者の視線がカメラ110に向いていれば、照明122による赤目画像が得られ、開眼状態判定部135は運転者の眼は開いていると判定することができる。よって、瞼の開度に加えて赤目画像の発生有無の検出結果を用いることで、開眼状態をより正確に把握することができるので、開眼状態の誤判定を抑制することが可能となる。
特に、開眼状態判定部135は、瞼の開度から瞼が閉じており、且つ赤目画像の発生がないと判定すると、閉眼状態にあると判定するようにしている。
これにより、瞼の開度に伴う閉眼判定と、赤目の発生なしという結果に伴う閉眼判定との両者を用いて閉眼判定するので、眼が閉じられている状態をより正確に判定することが可能となり、瞼の開度のみに基づいて眼が閉じられているとする誤判定を抑制することができる。
また、照明122が作動される第2周期は、眼の画像取得のためにカメラ110(照明121)が作動される第1周期よりも大きく設定されている。
通常は、瞼開度検出部133によって瞼の開度を検出することで、運転者の開眼状態を判定することが可能である。これに対して、照明122が作動される第2周期を、カメラ110が作動される第1周期よりも大きく設定することにより、照明122の作動頻度を抑えることができ、照明122の使用エネルギーを低減することができる。ひいては、照明122による発熱を抑制して、開眼状態判定装置100における発熱を抑制して、熱による耐久性を向上させることができる。
また、開眼状態判定部135は、閉眼状態にあると判定すると、ドライバーに対して警報部140を作動させるようにしている。これにより、ドライバーに対して閉眼状態に対する注意を行うことができるので、ドライバーは、より安全な運転を継続させることが可能となる。
(第2実施形態)
第2実施形態の開眼状態判定装置100Aを図4、図5に示す。第2実施形態の開眼状態判定装置100Aは、上記第1実施形態の開眼状態判定装置100に対して、運転者に対する安全運転のための処置手段として、警報部140を空調装置140Aに変更したものである。空調装置140Aは、本発明の冷風供給手段に対応する。また、図5における制御フローチャートは、図3で説明した制御フローチャートに対して、ステップS150をステップS150Aに変更したものである。
空調装置140A(図4)は、運転者の要望する空調条件で、所定の吹出し口から空調風を吹出す装置であり、エアコンECU140aによってその作動が制御されるようになっている。具体的には、エアコンECU140aは、運転者の設定する設定温度、その他空調環境条件(外気温度、内気温度、日射量等)に応じて、空調作動条件を決定して、運転者の要求する空調風を車室内に供給する。
図5に示すように、開眼状態判定制御において、開眼状態判定部135は、ステップS140で閉眼の判定をすると、ステップS150Aで、エアコンECU140aに対して安全運転のための処置用の信号を出力する。具体的には、すでに設定されている空調風の温度に対して、所定温度分だけ低く設定された空調風(冷風)を吹出すように指示を出す。これを受けて、エアコンECU140Aaは、空調風の温度設定を変更して、空調装置140Aに対して、吹出し口から運転者に対して冷風を吹出すように制御する。
これにより、運転者の眼が閉じられていると判定して、運転者が居眠りをしていると思われる場合には、冷風によって運転者に刺激を与え、運転者を覚醒させることができるので、安全運転を継続させることができる。
(第3実施形態)
第3実施形態の開眼状態判定装置100Bを図6、図7に示す。第3実施形態の開眼状態判定装置100Bは、上記第1実施形態の開眼状態判定装置100に対して、運転者に対する安全運転のための処置手段として、警報部140をブレーキ装置140Bに変更したものである。ブレーキ装置140Bは、本発明のブレーキ手段に対応する。また、図7における制御フローチャートは、図3で説明した制御フローチャートに対して、ステップS150をステップS150Bに変更したものである。
ブレーキ装置140B(図6)は、運転中における車両に対して、停止用、あるいは減速用の制動力を付加する装置であり、ブレーキECU140bによってその作動が制御されるようになっている。
図7に示すように、開眼状態判定制御において、開眼状態判定部135は、ステップS140で閉眼の判定をすると、ステップS150Bで、ブレーキECU140bに対して安全運転のための処置用の信号を出力する。具体的には、減速(あるいは停止)のためにブレーキ装置140Bを作動させるための指示を出す。これを受けて、ブレーキECU140bは、ブレーキ装置140Bを作動させて、車両を減速(あるいは停止)させる。
これにより、ブレーキ装置140Bによって、車両にブレーキをかけることができ、万一に備えた車両速度にして、安全運転を継続させることが可能となる。
(第4実施形態)
第4実施形態の開眼状態判定装置100Cを図8、図9に示す。第4実施形態の開眼状態判定装置100Cは、上記第1実施形態の開眼状態判定装置100に対して、開眼状態判定部135によって判定された開眼状態(特に、閉眼の判定結果)のデータを運行センター140Cの記憶部に送信して、時系列的に記憶させるようにしたものである。
運行センター140C(図8)は、例えば、宅配業における運行を管理するデータ管理センター(管理者)である。運転者は、宅配用トラックの運転者であり、運搬の開始〜終了までの間における、荷物の種類、荷物の積み込み、積み下ろし時刻、その場所、更に運搬コース等は、運行センター140C(運行会社の管理者)によって日々管理されており、管理データとして、日々、記憶部に記憶されるようになっている。
図9に示す制御フローチャートは、図3で説明した制御フローチャートに対して、ステップS150をステップS150Cに変更したものである。開眼状態判定制御において、開眼状態判定部135は、ステップS140で閉眼の判定をすると、ステップS150Cで、閉眼の判定結果を運行センター140Cに送信する。運行センター140Cの記憶部には、日々の管理データに加えて、閉眼の判定結果が加えられることになる。
これにより、管理者は、運転者の開眼状態のデータ(閉眼の判定結果)を時系列的に確認することができるため、今後の運転に対して注意を促す、あるいは、運転者が疲れているようであれば勤務時間を変更してやる、更には、勤務時間帯を変更してやる、等の処置をとることが可能となり、安全運転に基づく宅配業務を継続することが可能となる。
(その他の実施形態)
上記第1実施形態では、開眼状態判定装置100は、警報部140を備えるものとして説明したが、これに限定されることなく、例えば、車両用コンビネーションメータにアラーム部を設け、ステップS140で閉判定すると、コンビネーションメータを制御するメータ制御部に対して、アラーム部を作動させるための信号を送信するものとしても良い。
また、上記第1実施形態では、照明122の作動される周期は、照明121の作動される周期よりも大きくなるように設定したが、これに限らず、同等の周期としても良い。
また、瞼データに基づく開眼度の判定における瞼開度に対する閾値、開判定のための閾値越えのデータの発生確率、更には、赤目データに基づく開眼判定における赤目の発生確率等は、上記実施形態に限定されるものではなく、適宜設定することができる。
また、瞼データに基づく開眼度の判定にあたり、上瞼の湾曲度を用いるようにしたが、下瞼の湾曲度を用いる、あるいは上下の瞼の湾曲度を用いる、更には、上下瞼間の距離を把握する等としても良い。
100、100A、100B、100C 開眼状態判定装置
110 カメラ(画像取得手段)
122 照明(赤目発生手段)
131 照明制御部(作動制御手段)
133 瞼開度検出部(瞼開度検出手段)
134 赤目検出部(赤目検出手段)
135 開眼状態判定部(判定手段)
140 警報部(処置手段、警報手段)
140A 空調装置(処置手段、冷風供給手段)
140B ブレーキ装置(処置手段、ブレーキ手段)
140C 運行センター(データ管理センター)

Claims (8)

  1. 被験者の眼の画像を取得する画像取得手段(110)と、
    前記眼の画像における瞼の状態から瞼の開度を検出する瞼開度検出手段(133)と、
    前記被験者の瞳孔から光を入射させて、網膜上で反射した光を赤目画像として前記眼の画像に写し込ませる赤目発生手段(122)と、
    前記赤目画像の発生有無を検出する赤目検出手段(134)と、
    前記画像取得手段(110)による前記眼の画像を取得するタイミングとは異なるタイミングで、前記赤目発生手段(122)を作動させる作動制御手段(131)と、
    前記瞼開度検出手段(133)によって得られた前記瞼の開度、および前記赤目検出手段(134)によって得られた前記赤目画像の発生有無から、前記被験者の開眼状態を判定する判定手段(135)とを備えることを特徴とする開眼状態判定装置。
  2. 前記判定手段(135)は、前記瞼の開度から前記瞼が閉じており、且つ前記赤目画像の発生がないと判定すると、閉眼状態にあると判定することを特徴とする請求項1に記載の開眼状態判定装置。
  3. 前記赤目発生手段(122)が作動される周期は、前記画像取得手段(110)が作動される周期よりも大きく設定されたことを特徴とする請求項1または請求項2に記載の開眼状態判定装置。
  4. 車両に搭載され、前記被験者はドライバーであり、
    前記判定手段(135)は、前記閉眼状態にあると判定すると、前記ドライバーに対して安全運転のための処置を実施する処置手段(140、140A、140B)を作動させることを特徴とする請求項2または請求項3に記載の開眼状態判定装置。
  5. 前記処置手段(140、140A、140B)は、前記ドライバーに対する警報を行う警報手段(140)であることを特徴とする請求項4に記載の開眼状態判定装置。
  6. 前記処置手段(140、140A、140B)は、冷風を前記ドライバーに対して供給する冷風供給手段(140A)であることを特徴とする請求項4に記載の開眼状態判定装置。
  7. 前記処置手段(140、140A、140B)は、前記車両にブレーキをかけるブレーキ手段(140B)であることを特徴とする請求項4に記載の開眼状態判定装置。
  8. 車両に搭載され、前記被験者はドライバーであり、
    前記判定手段(135)によって得られた前記開眼状態のデータは、前記車両あるいは所定のデータ管理センター(140C)の記憶部に時系列的に記憶されることを特徴とする請求項2または請求項3に記載の開眼状態判定装置。
JP2013084350A 2013-04-12 2013-04-12 開眼状態判定装置 Expired - Fee Related JP5999013B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013084350A JP5999013B2 (ja) 2013-04-12 2013-04-12 開眼状態判定装置
US14/780,668 US10095936B2 (en) 2013-04-12 2014-04-09 Eye open state determination device and eye open state determination method
PCT/JP2014/002023 WO2014167848A1 (ja) 2013-04-12 2014-04-09 開眼状態判定装置および開眼状態判定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013084350A JP5999013B2 (ja) 2013-04-12 2013-04-12 開眼状態判定装置

Publications (2)

Publication Number Publication Date
JP2014206874A true JP2014206874A (ja) 2014-10-30
JP5999013B2 JP5999013B2 (ja) 2016-09-28

Family

ID=51689269

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013084350A Expired - Fee Related JP5999013B2 (ja) 2013-04-12 2013-04-12 開眼状態判定装置

Country Status (3)

Country Link
US (1) US10095936B2 (ja)
JP (1) JP5999013B2 (ja)
WO (1) WO2014167848A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5999013B2 (ja) 2013-04-12 2016-09-28 株式会社デンソー 開眼状態判定装置
KR101619651B1 (ko) * 2014-11-26 2016-05-10 현대자동차주식회사 운전자 감시장치 및 그의 조명제어방법
CN110235190A (zh) * 2017-01-31 2019-09-13 三菱电机株式会社 自动驾驶控制装置
JP6973928B2 (ja) * 2017-11-10 2021-12-01 アルパイン株式会社 瞼開閉判定装置および眠気検知装置
WO2020015145A1 (zh) * 2018-07-16 2020-01-23 华为技术有限公司 一种检测眼睛睁闭状态的方法及电子设备
JP6992693B2 (ja) * 2018-07-23 2022-01-13 トヨタ自動車株式会社 乗員状態認識装置
US11822714B2 (en) * 2020-05-15 2023-11-21 Canon Kabushiki Kaisha Electronic device and control method for capturing an image of an eye
IT202100009587A1 (it) * 2021-04-16 2022-10-16 Ocumetrica S R L Dispositivo e metodo per il rilevamento del riflesso del fondo oculare

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07159675A (ja) * 1993-12-08 1995-06-23 Canon Inc 視線検出機能付きカメラ
JP2008158922A (ja) * 2006-12-26 2008-07-10 Aisin Seiki Co Ltd 瞼検出装置、瞼検出方法及びプログラム
JP2010146159A (ja) * 2008-12-17 2010-07-01 Aisin Seiki Co Ltd 瞼検出装置、瞼検出方法及びプログラム
WO2013008303A1 (ja) * 2011-07-11 2013-01-17 トヨタ自動車株式会社 赤目検出装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH085897A (ja) * 1994-06-22 1996-01-12 Olympus Optical Co Ltd ファインダ装置
JP2907120B2 (ja) * 1996-05-29 1999-06-21 日本電気株式会社 赤目検出補正装置
JP3383594B2 (ja) 1998-09-29 2003-03-04 沖電気工業株式会社 眼の開度測定装置
US7024035B1 (en) * 1999-09-07 2006-04-04 Fuji Photo Film Co., Ltd. Method of setting region to be subjected to red eye correction and red eye correcting method
US7202793B2 (en) * 2002-10-11 2007-04-10 Attention Technologies, Inc. Apparatus and method of monitoring a subject and providing feedback thereto
US7280678B2 (en) * 2003-02-28 2007-10-09 Avago Technologies General Ip Pte Ltd Apparatus and method for detecting pupils
JP2004356683A (ja) * 2003-05-27 2004-12-16 Fuji Photo Film Co Ltd 画像管理システム
JP4306482B2 (ja) * 2004-02-09 2009-08-05 株式会社ニコン 赤目画像補正装置、電子カメラおよび赤目画像補正プログラム
US7733380B1 (en) * 2005-07-19 2010-06-08 Maxim Integrated Products, Inc. Method and/or architecture for controlling encoding parameters using integrated information from camera ISP
JP4137969B2 (ja) * 2006-12-04 2008-08-20 アイシン精機株式会社 眼部検出装置、眼部検出方法及びプログラム
JP4899059B2 (ja) 2007-03-30 2012-03-21 国立大学法人静岡大学 眠気検知装置
JP4974788B2 (ja) * 2007-06-29 2012-07-11 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP5055166B2 (ja) * 2008-02-29 2012-10-24 キヤノン株式会社 眼の開閉度判定装置、方法及びプログラム、撮像装置
US8810642B2 (en) * 2010-02-26 2014-08-19 Panasonic Intellectual Property Corporation Of America Pupil detection device and pupil detection method
DE112011105435B4 (de) * 2011-07-11 2022-07-07 Toyota Jidosha Kabushiki Kaisha Augenliderfassungsvorrichtung
US9595195B2 (en) * 2012-09-06 2017-03-14 Apple Inc. Wireless vehicle system for enhancing situational awareness
JP5999013B2 (ja) 2013-04-12 2016-09-28 株式会社デンソー 開眼状態判定装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07159675A (ja) * 1993-12-08 1995-06-23 Canon Inc 視線検出機能付きカメラ
JP2008158922A (ja) * 2006-12-26 2008-07-10 Aisin Seiki Co Ltd 瞼検出装置、瞼検出方法及びプログラム
JP2010146159A (ja) * 2008-12-17 2010-07-01 Aisin Seiki Co Ltd 瞼検出装置、瞼検出方法及びプログラム
WO2013008303A1 (ja) * 2011-07-11 2013-01-17 トヨタ自動車株式会社 赤目検出装置

Also Published As

Publication number Publication date
JP5999013B2 (ja) 2016-09-28
WO2014167848A1 (ja) 2014-10-16
US10095936B2 (en) 2018-10-09
US20160048735A1 (en) 2016-02-18

Similar Documents

Publication Publication Date Title
JP5999013B2 (ja) 開眼状態判定装置
KR101386823B1 (ko) 동작, 안면, 눈, 입모양 인지를 통한 2단계 졸음운전 방지 장치
WO2020078465A1 (zh) 驾驶状态分析方法和装置、驾驶员监控系统、车辆
US10165971B2 (en) Driver state determination apparatus
CN103150545B (zh) 用于对闭眼归类的方法
US9888875B2 (en) Driver monitoring apparatus
JP2020059325A (ja) 注視検出装置及びその輻輳制御方法
WO2015059856A1 (ja) 状態監視装置
US20180229654A1 (en) Sensing application use while driving
CN105704886B (zh) 使用可佩戴眼镜的车辆照明控制系统和用于该系统的方法
Kinage et al. Iot based intelligent system for vehicle accident prevention and detection at real time
CN106714688A (zh) 操作者疲劳监测系统
CN109080536A (zh) 一种车道偏离预警系统
CN112954869B (zh) 一种基于车联网的辅助驾驶的方法及系统
TW201330827A (zh) 依據駕駛反射動作之注意力偵測裝置及其方法
CN104574816A (zh) 一种电动汽车用防疲劳驾驶系统
JP2008305190A (ja) 居眠り警告装置及び自動車
CN109866763A (zh) 一种面向智能驾驶辅助系统
CN112606758B (zh) 一种汽车制动灯智能控制装置、方法及汽车
KR20150061668A (ko) 졸음운전 경보 장치 및 그 방법
CN212305727U (zh) 一种汽车仪表盘灯光控制系统
KR20160067694A (ko) 운전자 상태 감시 시스템 및 그의 동작 방법
CN109543491A (zh) 一种疲劳驾驶监测装置和方法
CN113095108B (zh) 一种疲劳驾驶检测方法及装置
CN112494045A (zh) 一种驾驶员疲劳检测方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160815

R151 Written notification of patent or utility model registration

Ref document number: 5999013

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees