JP2010030361A - 運転状態監視装置 - Google Patents
運転状態監視装置 Download PDFInfo
- Publication number
- JP2010030361A JP2010030361A JP2008192619A JP2008192619A JP2010030361A JP 2010030361 A JP2010030361 A JP 2010030361A JP 2008192619 A JP2008192619 A JP 2008192619A JP 2008192619 A JP2008192619 A JP 2008192619A JP 2010030361 A JP2010030361 A JP 2010030361A
- Authority
- JP
- Japan
- Prior art keywords
- driver
- state monitoring
- driving state
- calibration
- vehicle equipment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】視線方向検出のキャリブレーションにおける運転者の負担を軽減させることができる運転状態監視装置を提供する。
【解決手段】運転状態監視装置1は、顔画像撮像カメラ2と、リセットスイッチ3と、運転状態監視ECU9とを備えている。運転状態監視ECU9は、顔画像撮像カメラ2により取得された運転者Dの顔画像から運転者Dの視線方向を検出し、その運転者Dの視線方向に基づいて、運転者Dが注視している車両装備品(例えば、ルームミラー、サイドミラー、ナビゲーションシステム4、エアコン5、ナイトビュー表示器8等)を推定し、運転者Dから見た車両装備品の方向を視線方向の基準に設定して、視線方向検出のキャリブレーションを行う。
【選択図】 図1
【解決手段】運転状態監視装置1は、顔画像撮像カメラ2と、リセットスイッチ3と、運転状態監視ECU9とを備えている。運転状態監視ECU9は、顔画像撮像カメラ2により取得された運転者Dの顔画像から運転者Dの視線方向を検出し、その運転者Dの視線方向に基づいて、運転者Dが注視している車両装備品(例えば、ルームミラー、サイドミラー、ナビゲーションシステム4、エアコン5、ナイトビュー表示器8等)を推定し、運転者Dから見た車両装備品の方向を視線方向の基準に設定して、視線方向検出のキャリブレーションを行う。
【選択図】 図1
Description
本発明は、車両の運転者の運転状態を監視する運転状態監視装置に関する。
従来の運転状態監視装置としては、例えば特許文献1に記載されているものが知られている。特許文献1に記載の装置では、運転者の視線方向(注視点)の検出を行う前に、予め運転者の視線方向検出に関するキャリブレーションを行う。運転者によってキャリブレーションスイッチが押下された場合に、運転者の前方にキャリブレーション用の視標が表示され、このときの運転者の眼球の画像から抽出された網膜反射像の明るさに基づいてキャリブレーションが行われる。
特開平7−35543号公報
しかしながら、上記従来技術では、キャリブレーションを行う際に、運転者がいちいちキャリブレーションスイッチを押下する必要があると共に、運転者がキャリブレーション用の視標を意図的に注視する必要があり、運転者の負担となるおそれがあった。
そこで、本発明の目的は、視線方向検出のキャリブレーションにおける運転者の負担を軽減させることができる運転状態監視装置を提供することである。
本発明は、車両の運転者の運転状態を監視する運転状態監視装置において、運転者の視線方向を検出する視線方向検出手段と、視線方向検出手段によって検出された運転者の視線方向に基づいて、運転者が注視している車両装備対象物を推定する対象物推定手段と、対象物推定手段によって推定された車両装備対象物に対する運転者の視線方向が基準となるように視線方向検出手段による視線方向の検出のキャリブレーションを行うキャリブレーション手段とを備えることを特徴とする。
本発明に係わる運転状態監視装置においては、運転者の視線方向を検出し、その視線方向に基づいて運転者が注視している車両装備対象物を推定する。そして、推定された車両装備対象物に対する運転者の視線方向が基準となるように視線方向検出のキャリブレーションを行う。これにより、運転者が車両装備対象物(例えばルームミラー、サイドミラー、エアコン等)を見るといった自然な行動によって視線方向の基準を設定し、視線方向検出のキャリブレーションを実施することができる。そのため、運転者は、スイッチの押下や意図的に特定の方向を見る等といった行動をとる必要がなくなる。したがって、視線方向検出のキャリブレーションにおける運転者の負担を軽減させることが可能となる。
また、好ましくは、キャリブレーション手段は、対象物推定手段によって運転者が注視している車両装備対象物が推定される度に、視線方向検出手段による視線方向の検出のキャリブレーションを行う。この場合、運転者の視線方向の基準設定が繰り返し行われるので、視線方向検出のキャリブレーション精度を高めることが可能となる。
本発明によれば、視線方向検出のキャリブレーションにおける運転者の負担を軽減させることができる。これにより、運転者の利便性の向上を図ることができる。
以下に、本発明に係わる運転状態監視装置の好適な実施形態について、図面を参照して詳細に説明する。
図1は、本発明に係わる運転状態監視装置の一実施形態を示す概略構成図である。同図において、本実施形態の運転状態監視装置1は、運転者Dが注視している車両装備品(車両装備対象物)を推定し、推定された車両装備品の方向を視線方向の基準と設定して、視線方向検出のキャリブレーションを行うものである。
運転状態監視装置1は、顔画像撮像カメラ2と、リセットスイッチ3と、運転状態監視ECU9とを備えている。運転状態監視ECU9には、ナビゲーションシステム4、エアコン5及びナイトビュー表示器8が接続されている。ナイトビュー表示器8にはナイトビューシステムECU7が接続され、このナイトビューシステムECU7には赤外線カメラ6が接続されている。
顔画像撮像カメラ2は、例えばコラムカバーの上面に設置され、運転者Dの顔画像を取得する。顔画像撮像カメラ2は、例えば近赤外線カメラであり、照射された近赤外光に反射した反射光を受光することにより、運転者Dの顔を撮像する。顔画像撮像カメラ2は、検出信号(画像信号)を運転状態監視ECU9に送出する。
リセットスイッチ3は、視線方向検出のキャリブレーションに関する情報をリセットし、初期状態にするためのスイッチである。リセットスイッチ3は、検出信号(リセット信号)を運転状態監視ECU9に送出する。
ナビゲーションシステム4は、ナビゲーションシステム4のON/OFF等を操作するための操作スイッチ4aを備えている。操作スイッチ4aは、検出信号(操作信号)を運転状態監視ECU9に送出する。なお、操作信号は、ナビゲーションシステム4のディスプレイのタッチパネルが操作された場合に送出されてもよい。
エアコン5は、エアコン5のON/OFF等を操作するための操作スイッチ5aを備えている。操作スイッチ5aは、検出信号(操作信号)を運転状態監視ECU9に送出する。なお、操作信号は、例えばエアコン5の温度を調整するつまみ等が操作された場合に送出されてもよい。
赤外線カメラ6は、車両の前側(例えば、ルームミラーの裏側)に配置されている。赤外線カメラ6は、映像の取得を開始する信号が送出されると、赤外線ランプ(図示せず)からの近赤外線の反射光を取り込み、車両前方の路上状況を近赤外線映像として取得する。赤外線カメラ5は、検出信号(映像信号)をナイトビューシステムECU7送出する。
ナイトビューシステムECU7は、赤外線カメラ6から送出された映像信号に基づいて、所定の処理を行い、赤外線カメラ6によって撮像された映像を、ナイトビュー表示器8に表示信号として送出する。
ナイトビュー表示器8は、例えばヘッドアップディスプレイであり、ナイトビューシステムECU7から表示信号が送出されると、その表示信号に応じた映像(画像)を表示する。例えば、映像としては、車両前方の路上状況と共に、車両の前方に歩行者が存在すること注意勧告するメッセージ等が表示される。また、ナイトビュー表示器8は、映像が表示されたことを示す信号を運転状態監視ECU9に送出する。
運転状態監視ECU9は、情報格納メモリ10を有している。情報格納メモリ10は、運転状態監視ECU9によって画像処理が施された運転者Dの顔画像を保存する共に、その顔画像に対応するキャリブレーション情報を格納している。また、情報格納メモリ10は、車両に配置されている車両装備品の位置を予め位置情報として格納している。車両装備品は、例えば図示しないルームミラー、及び左右のサイドミラー等である。
運転状態監視ECU9は、運転者Dの視線方向に基づいて、運転者Dが注視(視線が停留)している車両装備品を推定する。
具体的には、運転状態監視ECU9は、情報格納メモリ10に格納されている車両装備品の位置情報を参照し、検出された運転者Dの視線方向に一致(完全に一致しなくてもよい)する車両装備品を抽出して、運転者Dの注視している方向に存在する車両装備品を推定する。通常の運転では、運転者Dは頻繁にルームミラーやサイドミラーを見るため、運転者Dの視線方向及び停留時間から、運転者Dがルームミラーやサイドミラーを注視していることが推定可能となる。
また、運転状態監視ECU9は、運転者Dの視線方向とナビゲーションシステム4の操作スイッチ4a、エアコン5の操作スイッチ5a、又はナイトビュー表示器8から送出された信号とに基づいて、視線方向に存在する車両装備品を推定する。これは、操作信号又は映像が表示されたことを示す信号が送出された場合に、運転者Dの視線が操作スイッチ4a,5aやナイトビュー表示器8に無意識に移動していることに基づいている。
そして、運転状態監視ECU9は、推定された車両装備品の方向を、特定の方向を見ている情報(画像)、すなわちキャリブレーション情報として情報格納メモリ10に更新して保存すると共に、推定された車両装備品の存在する方向が基準となるように、視線方向のキャリブレーションを行う。
図2は、運転状態監視ECU9により実行されるキャリブレーション処理手順の詳細を示すフローチャートである。
図2において、まず顔画像撮像カメラ2から画像信号が入力される(手順S01)。すると、例えば顔画像の特徴点抽出等といった所定の画像処理を実施し、情報格納メモリ10に保存されている保存画像と画像処理された入力画像とを比較することで、保存画像と入力画像との差が大きいか否かが判定される(手順S02)。保存画像と入力画像との差が大きいと判定された場合には、手順S04に進む。一方、保存画像と入力画像との差が大きくないと判定された場合には、リセットスイッチ3が押下されたか否かが、リセット信号に基づいて判定される(手順S03)。リセットスイッチ3が押下されたと判定された場合には、手順S04に進む。一方、リセットスイッチ3が押下されていないと判定された場合には、手順S05に進む。
手順S04では、情報格納メモリ10に保存されている既存のキャリブレーション情報が消去されると共に、手順S01において入力された運転者Dの顔画像が保存される。
手順S05では、入力された運転者Dの顔画像に基づいて、運転者Dの視線方向の検出が行われる。そして、運転者Dの視線方向から、運転者Dがルームミラーやサイドミラーを見ていないか否かが判定される(手順S06)。運転者Dがルームミラーやサイドミラーを見ていないと判定された場合には、手順S07に進む。一方、運転者Dがルームミラーやサイドミラーを見ていると判定された場合には、手順S10に進む。
手順S07では、ナイトビューシステムの注意勧告があるか否かが、ナイトビュー表示器8からの映像が表示されたことを示す信号に基づいて判定される。ナイトビューシステムの注意勧告があると判定された場合には、手順S08に進む。一方、ナイトビューシステムの注意勧告がないと判定された場合には、手順S09に進む。
手順S08では、運転者Dの視線方向から、運転者Dがナイトビュー表示器8を見ていないか否かが判定される。ナイトビュー表示器8を見ていないと判定された場合には、手順S09に進む。一方、ナイトビュー表示器8を見ていると判定された場合には、手順S10に進む。
手順S09では、ナビゲーションシステム4やエアコン5の操作スイッチ4a,5aが操作されたか否かが、操作信号に基づいて判定される。操作スイッチ4a,5aが操作されたと判定された場合には、手順S10に進む。一方、操作スイッチ4a,5aが操作されないと判定された場合には、処理が終了する。
手順S10では、手順S06,S08,S09において推定された運転者Dが注視している車両装備品の方向を、運転者Dが特定の方向を見ていることを示す情報(キャリブレーション情報)として情報格納メモリ10に保存、更新する。そして、その特定の方向に対する運転者Dの視線方向が基準となるように、運転者Dの視線方向のキャリブレーションが行われる(手順S11)。
以上において、顔画像撮像カメラ2、及び運転状態監視ECU9の上記手順S01,S05は、運転者Dの視線方向を検出する視線方向検出手段を構成する。運転状態監視ECU9の上記手順S06〜S10は、視線方向検出手段によって検出された運転者Dの視線方向に基づいて、運転者Dが注視している車両装備対象物を推定する対象物推定手段を構成する。運転状態監視ECU9の上記手順S11は、対象物推定手段によって推定された車両装備対象物に対する運転者Dの視線方向が基準となるように視線方向検出手段による視線方向の検出のキャリブレーションを行うキャリブレーション手段を構成する。
本発明に係る運転状態監視装置1によれば、運転者Dの顔画像から視線方向を検出し、その視線方向に基づいて運転者Dの視線が停留(注視)している例えばルームミラー等の車両装備品を推定する。そして、運転者Dから見て車両装備品の存在する方向が基準となるように視線方向検出のキャリブレーションを行う。一般的に運転者Dは、車両の運転中にルームミラーやサイドミラー等の車両用装備品を頻繁に見る。そのため、運転者が車両装備品(例えばルームミラー、サイドミラー、エアコン5等)を見るといった無意識な行動や、必然的な挙動によって視線方向の基準を設定し、視線方向検出のキャリブレーションを実施することができる。これにより、運転者Dは、スイッチの押下や意図的に特定の方向を見る等といった行動をとる必要がなくなる。したがって、運転開始時の面倒なキャリブレーション操作が省けるため、視線方向検出のキャリブレーションにおける運転者Dの負担を軽減させることが可能となり、運転者Dの利便性の向上を図ることができる。
また、運転者Dが注視している車両装備品が推定される度に、視線方向の検出のキャリブレーションを行うことにより、運転者Dの視線方向の基準設定が繰り返し行われるので、視線方向検出のキャリブレーション精度を高めることが可能となる。
また、従来では、キャリブレーション情報が主に車両を運転する運転者Dに特化したものであったため、他の運転者に対応することが困難であった。これに対し、本実施形態に係わる運転状態監視装置1では、顔画像撮像カメラ2によって取得された入力画像と保存画像とが異なる場合に、保存画像に対応するキャリブレーション情報を消去し、入力画像に対応するキャリブレーション情報が更新されて視線方向検出のキャリブレーションが行われる。これにより、車両を運転する複数の運転者に対応することができる。また、運転者毎に画像を保存する必要がないので、メモリ容量を増やすことによるコスト増加を回避することができる。
なお、本発明は、上記実施形態に限定されるものではない。例えば、上記実施形態では、運転者Dの視線方向に存在する車両装備品が推定される度にキャリブレーション情報の更新が行われているが、視線方向の検出のキャリブレーションは、必ずしも車両装備品が推定される度に行われなくてもよい。
1…運転状態監視装置、2…顔画像撮像カメラ(視線方向検出手段)、4…ナビゲーションシステム(車両装備対象物)、5…エアコン(車両装備対象物)、8…ナイトビュー表示器(車両装備対象物)、9…運転状態監視ECU(視線方向検出手段、対象物推定手段、キャリブレーション手段)。
Claims (2)
- 車両の運転者の運転状態を監視する運転状態監視装置において、
前記運転者の視線方向を検出する視線方向検出手段と、
前記視線方向検出手段によって検出された前記運転者の視線方向に基づいて、前記運転者が注視している車両装備対象物を推定する対象物推定手段と、
前記対象物推定手段によって推定された前記車両装備対象物に対する前記運転者の視線方向が基準となるように前記視線方向検出手段による視線方向の検出のキャリブレーションを行うキャリブレーション手段とを備えることを特徴とする運転状態監視装置。 - 前記キャリブレーション手段は、前記対象物推定手段によって前記運転者が注視している前記車両装備対象物が推定される度に、前記視線方向検出手段による視線方向の検出のキャリブレーションを行うことを特徴とする請求項1に記載の運転状態監視装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008192619A JP2010030361A (ja) | 2008-07-25 | 2008-07-25 | 運転状態監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008192619A JP2010030361A (ja) | 2008-07-25 | 2008-07-25 | 運転状態監視装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010030361A true JP2010030361A (ja) | 2010-02-12 |
Family
ID=41735399
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008192619A Pending JP2010030361A (ja) | 2008-07-25 | 2008-07-25 | 運転状態監視装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010030361A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016139850A1 (ja) * | 2015-03-05 | 2016-09-09 | ソニー株式会社 | 情報処理装置、制御方法、およびプログラム |
US9619722B2 (en) | 2013-11-01 | 2017-04-11 | Panasonic Intellectual Property Management Co., Ltd. | Gaze direction detection device, and gaze direction detection method |
US9785235B2 (en) | 2014-02-19 | 2017-10-10 | Mitsubishi Electric Corporation | Display control apparatus, display control method of display control apparatus, and eye gaze direction detection system |
KR20200046613A (ko) * | 2018-10-25 | 2020-05-07 | 현대모비스 주식회사 | 운전자 감시 카메라의 보정장치 및 그 방법 |
US10977488B2 (en) | 2018-01-05 | 2021-04-13 | Mitsubishi Electric Corporation | Line-of-sight direction calibration device, line-of-sight direction calibration method, and line-of-sight direction calibration program |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09238905A (ja) * | 1996-03-05 | 1997-09-16 | Nissan Motor Co Ltd | 視線方向計測装置 |
-
2008
- 2008-07-25 JP JP2008192619A patent/JP2010030361A/ja active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09238905A (ja) * | 1996-03-05 | 1997-09-16 | Nissan Motor Co Ltd | 視線方向計測装置 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9619722B2 (en) | 2013-11-01 | 2017-04-11 | Panasonic Intellectual Property Management Co., Ltd. | Gaze direction detection device, and gaze direction detection method |
US9785235B2 (en) | 2014-02-19 | 2017-10-10 | Mitsubishi Electric Corporation | Display control apparatus, display control method of display control apparatus, and eye gaze direction detection system |
DE112014006382B4 (de) | 2014-02-19 | 2019-01-17 | Mitsubishi Electric Corporation | Anzeigesteuervorrichtung, Anzeigesteuerverfahren der Anzeigesteuervorrichtung, Augen-Blickrichtungs-Detektionssystem und Kalibrations-Steuerverfahren von Augen-Blickrichtungs-Detektionssystem |
WO2016139850A1 (ja) * | 2015-03-05 | 2016-09-09 | ソニー株式会社 | 情報処理装置、制御方法、およびプログラム |
CN107407977A (zh) * | 2015-03-05 | 2017-11-28 | 索尼公司 | 信息处理设备、控制方法及程序 |
US11023038B2 (en) | 2015-03-05 | 2021-06-01 | Sony Corporation | Line of sight detection adjustment unit and control method |
US10977488B2 (en) | 2018-01-05 | 2021-04-13 | Mitsubishi Electric Corporation | Line-of-sight direction calibration device, line-of-sight direction calibration method, and line-of-sight direction calibration program |
DE112018006164B4 (de) * | 2018-01-05 | 2021-05-12 | Mitsubishi Electric Corporation | Sichtlinienrichtungskalibrierungsvorrichtung, sichtlinienrichtungskalibrierungsverfahren und sichtlinienrichtungskalibrierungsprogramm |
KR20200046613A (ko) * | 2018-10-25 | 2020-05-07 | 현대모비스 주식회사 | 운전자 감시 카메라의 보정장치 및 그 방법 |
KR102630368B1 (ko) * | 2018-10-25 | 2024-01-29 | 현대모비스 주식회사 | 운전자 감시 카메라의 보정장치 및 그 방법 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4888838B2 (ja) | 運転者撮像装置および運転者撮像方法 | |
WO2014119235A1 (ja) | 覚醒度検出装置、および覚醒度検出方法 | |
JP4222183B2 (ja) | 車両周辺画像表示装置 | |
US9096129B2 (en) | Method and system for facilitating viewing of information in a machine | |
CN105189178A (zh) | 视线输入装置 | |
JP5092776B2 (ja) | 視線方向検出装置及び視線方向検出方法 | |
JP2010030361A (ja) | 運転状態監視装置 | |
US20160046295A1 (en) | Method and device for determining a reaction time of a vehicle driver | |
US20190096359A1 (en) | Display control device, display device, in-vehicle display system, and display control method | |
US20110035099A1 (en) | Display control device, display control method and computer program product for the same | |
JP6075248B2 (ja) | 情報表示装置 | |
JP2010018201A (ja) | 運転者支援装置、運転者支援方法および運転者支援処理プログラム | |
JP6791108B2 (ja) | 顔位置検出装置 | |
JP2016055801A (ja) | 車載表示装置 | |
JP2018022958A (ja) | 車両用表示制御装置及び車両用モニタシステム | |
JP6587254B2 (ja) | 輝度制御装置、輝度制御システム及び輝度制御方法 | |
CN114125415A (zh) | 通过增强现实呈现车辆异常部件的系统、方法和存储介质 | |
JP2018148530A (ja) | 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム | |
FR3026502A1 (fr) | Systeme et procede de commande d'un equipement d'un vehicule automobile | |
JP2009134589A (ja) | 運転支援装置 | |
JP6234701B2 (ja) | 車両用周囲モニタ装置 | |
JP2016207174A (ja) | 車両の安全運転促進方法及び車両の安全運転促進装置 | |
JP7293990B2 (ja) | 車両用表示制御装置、車両用表示制御方法、およびプログラム | |
JP6136891B2 (ja) | 視線検出装置、および視線検出方法 | |
JP2019031176A (ja) | 車両用表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101206 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120816 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120828 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130108 |