JP2014115859A - 脇見判定装置 - Google Patents
脇見判定装置 Download PDFInfo
- Publication number
- JP2014115859A JP2014115859A JP2012270067A JP2012270067A JP2014115859A JP 2014115859 A JP2014115859 A JP 2014115859A JP 2012270067 A JP2012270067 A JP 2012270067A JP 2012270067 A JP2012270067 A JP 2012270067A JP 2014115859 A JP2014115859 A JP 2014115859A
- Authority
- JP
- Japan
- Prior art keywords
- face
- angle
- range
- determination
- orientation angle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】コストを抑制しつつ脇見の有無を正確に判定する。
【解決手段】顔向き角度算出手段14Aは、顔撮像部12で撮像された運転者の顔画像データに基いて顔向き角度Aを算出する。顔向き角度算出手段14Aは、顔画像データから正常に顔部品を抽出することができないと、顔向き角度Aの算出が不能である旨の情報を脇見判定手段14Bに供給する。脇見判定手段14Bは、顔向き角度Aが正常範囲外となったときに脇見状態にあると判定し、その判定結果を出力する。脇見判定手段14Bは、範囲外可能性フラグFが立った状態で、かつ、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能となった場合に、運転者が脇見状態にあると判定する。フラグ制御手段14Dは、顔画像データに基いて顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有ると判定した場合に範囲外可能性フラグFを立てる。
【選択図】図1
【解決手段】顔向き角度算出手段14Aは、顔撮像部12で撮像された運転者の顔画像データに基いて顔向き角度Aを算出する。顔向き角度算出手段14Aは、顔画像データから正常に顔部品を抽出することができないと、顔向き角度Aの算出が不能である旨の情報を脇見判定手段14Bに供給する。脇見判定手段14Bは、顔向き角度Aが正常範囲外となったときに脇見状態にあると判定し、その判定結果を出力する。脇見判定手段14Bは、範囲外可能性フラグFが立った状態で、かつ、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能となった場合に、運転者が脇見状態にあると判定する。フラグ制御手段14Dは、顔画像データに基いて顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有ると判定した場合に範囲外可能性フラグFを立てる。
【選択図】図1
Description
本発明は、車両を運転する運転者が脇見をしているかどうかを判定する脇見判定装置に関する。
従来より運転者の顔を撮影するカメラにより得られた顔画像から右目、左目、鼻の顔部品を抽出し、これら顔部品の相対的な位置関係から運転者が正面を向いているか否か、すなわち、脇見をしているか否かを判定する技術が提案されている(特許文献1参照)。
このような脇見の判定結果に応じて運転支援装置が警告音の発生や警告表示を行なうことにより運転者の注意を喚起するようにしている。
このような脇見の判定結果に応じて運転支援装置が警告音の発生や警告表示を行なうことにより運転者の注意を喚起するようにしている。
しかしながら、上記従来技術では、運転者の顔の向きが正面から左右の何れか一方に大きくずれ、カメラによって撮影された顔画像において顔部品の一部が欠けるような状態となり、顔画像が正常に撮影できない場合、顔部品の相対的な位置関係を正しく把握することができない。そのため、運転者が脇見をしているのにも拘わらず、脇見無しと判定されるといった誤判定が生じ、脇見の判定精度が低下することが懸念される。
このような問題を解消するためには、運転者の顔を互いに異なる角度から撮影する複数のカメラを設置することが考えられるが、複数のカメラを用いることからコスト面で不利となる。
また、カメラによって顔画像が正常に撮影できず顔部品の相対的な位置関係を正しく把握することができない場合は、脇見判定動作を無効とし誤判定を回避することも考えられる。しかしながら、この場合には、脇見判定が可能な顔の向きの範囲が制限されてしまうため、脇見の有無を正確に判定する上で不利となる。
本発明は、このような事情に鑑みてなされたものであり、その目的は、コストを抑制しつつ脇見の有無を正確に判定する上で有利な装置を提供することにある。
このような問題を解消するためには、運転者の顔を互いに異なる角度から撮影する複数のカメラを設置することが考えられるが、複数のカメラを用いることからコスト面で不利となる。
また、カメラによって顔画像が正常に撮影できず顔部品の相対的な位置関係を正しく把握することができない場合は、脇見判定動作を無効とし誤判定を回避することも考えられる。しかしながら、この場合には、脇見判定が可能な顔の向きの範囲が制限されてしまうため、脇見の有無を正確に判定する上で不利となる。
本発明は、このような事情に鑑みてなされたものであり、その目的は、コストを抑制しつつ脇見の有無を正確に判定する上で有利な装置を提供することにある。
上記目的を達成するために、本発明は、撮像手段によって撮像された自動車の運転者の顔画像データに基いて前記運転者の顔向き角度を算出する顔向き角度算出手段と、前記顔向き角度が予め定められた正常範囲外となったときに前記運転者が脇見状態にあると判定する脇見判定手段とを備える脇見判定装置であって、前記顔向き角度算出手段が算出可能な前記顔向き角度の限界範囲を顔向き角度検知限界範囲としたとき、前記顔画像データに基いて前記顔向き角度が前記顔向き角度検知限界範囲外となる可能性が有ると判定した場合に範囲外可能性フラグを立てるフラグ制御手段が設けられ、前記脇見判定手段は、前記範囲外可能性フラグが立った状態で、かつ、前記顔向き角度算出手段による前記運転者の顔向き角度の算出が不能となった場合に、前記運転者が脇見状態にあると判定することを特徴とする。
請求項1記載の発明によれば、顔向き角度算出手段による運転者の顔向き角度の算出が不能な状態であっても、運転者の脇見状態を正確に判定する上で有利となる。また、複数の顔撮像部を設ける必要がないため、コストを抑制する上でも有利となる。
請求項2記載の発明によれば、顔向き角度が、顔向き角度検知限界範囲内で第1の判定基準範囲外となったときにフラグ制御手段による可能性有りの判定がなされるので、顔向き角度に応じて範囲外可能性フラグを的確に立てることができ、運転者の脇見状態を正確に判定する上で有利となる。
請求項3記載の発明によれば、顔向き角度が、顔向き角度検知限界範囲内で第2の判定基準範囲外となり、かつ、推定手段により推定された顔向き角度が顔向き角度検知限界範囲外となったときにフラグ制御手段による可能性有りの判定がなされるので、顔向き角度に応じて範囲外可能性フラグを的確に立てることができ、運転者の脇見状態を正確に判定する上で有利となる。
請求項4記載の発明によれば、顔向き角度が、顔向き角度検知限界範囲内で第1の判定基準範囲外となったときにフラグ制御手段による可能性有りの判定がなされることに加えて、顔向き角度が、顔向き角度検知限界範囲内で第2の判定基準範囲外となり、かつ、推定手段により推定された顔向き角度が顔向き角度検知限界範囲外となったときにもフラグ制御手段による可能性有りの判定がなされるので、顔向き角度の推定に応じて範囲外可能性フラグをより的確に立てることができ、運転者の脇見状態を正確に判定する上でより一層有利となる。
請求項5記載の発明によれば、推定手段による顔向き角度の推定は、時系列に沿った複数の顔画像データから算出される顔の特定部位の位置データの速度成分に基いて行なうので、顔向き角度の推定を正確に行なう上で有利となる。
請求項6記載の発明によれば、推定手段による顔向き角度の推定は、時系列に沿った複数の顔画像データから算出される顔向き角度の速度成分に基いて行なうようにしたので、顔向き角度の推定を正確に行なう上で有利となる。
請求項2記載の発明によれば、顔向き角度が、顔向き角度検知限界範囲内で第1の判定基準範囲外となったときにフラグ制御手段による可能性有りの判定がなされるので、顔向き角度に応じて範囲外可能性フラグを的確に立てることができ、運転者の脇見状態を正確に判定する上で有利となる。
請求項3記載の発明によれば、顔向き角度が、顔向き角度検知限界範囲内で第2の判定基準範囲外となり、かつ、推定手段により推定された顔向き角度が顔向き角度検知限界範囲外となったときにフラグ制御手段による可能性有りの判定がなされるので、顔向き角度に応じて範囲外可能性フラグを的確に立てることができ、運転者の脇見状態を正確に判定する上で有利となる。
請求項4記載の発明によれば、顔向き角度が、顔向き角度検知限界範囲内で第1の判定基準範囲外となったときにフラグ制御手段による可能性有りの判定がなされることに加えて、顔向き角度が、顔向き角度検知限界範囲内で第2の判定基準範囲外となり、かつ、推定手段により推定された顔向き角度が顔向き角度検知限界範囲外となったときにもフラグ制御手段による可能性有りの判定がなされるので、顔向き角度の推定に応じて範囲外可能性フラグをより的確に立てることができ、運転者の脇見状態を正確に判定する上でより一層有利となる。
請求項5記載の発明によれば、推定手段による顔向き角度の推定は、時系列に沿った複数の顔画像データから算出される顔の特定部位の位置データの速度成分に基いて行なうので、顔向き角度の推定を正確に行なう上で有利となる。
請求項6記載の発明によれば、推定手段による顔向き角度の推定は、時系列に沿った複数の顔画像データから算出される顔向き角度の速度成分に基いて行なうようにしたので、顔向き角度の推定を正確に行なう上で有利となる。
次に、本発明の実施の形態について図面を参照して説明する。
図1は第1の実施の形態に係る脇見判定装置10の構成を示すブロック図である。
図1に示すように、脇見判定装置10は、車両に搭載されており、顔撮像部12と、脇見判定ECU14とを含んで構成されている。
なお、本実施の形態では、脇見判定装置10が運転支援装置20に接続されている場合について説明する。
運転支援装置20は、運転支援ECU22、スピーカ24、表示装置26を備えている。
運転支援ECU22は、脇見判定装置10から供給される脇見判定結果に基いてスピーカ24から運転者に対して警報音あるいは警報アナウンスを発生させ、あるいは、表示装置26によって運転者に対して警報表示を表示させることにより、運転者に注意を喚起する。
図1は第1の実施の形態に係る脇見判定装置10の構成を示すブロック図である。
図1に示すように、脇見判定装置10は、車両に搭載されており、顔撮像部12と、脇見判定ECU14とを含んで構成されている。
なお、本実施の形態では、脇見判定装置10が運転支援装置20に接続されている場合について説明する。
運転支援装置20は、運転支援ECU22、スピーカ24、表示装置26を備えている。
運転支援ECU22は、脇見判定装置10から供給される脇見判定結果に基いてスピーカ24から運転者に対して警報音あるいは警報アナウンスを発生させ、あるいは、表示装置26によって運転者に対して警報表示を表示させることにより、運転者に注意を喚起する。
顔撮像部12(撮像手段)は、単一のカメラで構成され、車両の運転席に着座した運転者の顔を撮像して顔画像データを生成するものである。
顔撮像部12は、運転者の顔を撮像することができればよく、ステアリングコラム、あるいは、メータフードの上部などの車室内の適宜箇所に設置されている。
顔撮像部12は、運転者の顔を撮像することができればよく、ステアリングコラム、あるいは、メータフードの上部などの車室内の適宜箇所に設置されている。
脇見判定ECU14は、顔撮像部12から顔画像データを受け付けると共に、脇見の有無を判定しその判定結果を運転支援ECU22に供給する。
脇見判定ECU14は、CPU、制御プログラム等を格納・記憶するROM、制御プログラムの作動領域としてのRAM、各種データを書き換え可能に保持するEEPROM、周辺回路等とのインターフェースをとるインターフェース部などを含んで構成される。
そして、図1に示すように、CPUが前記の制御プログラムを実行することにより、顔向き角度算出手段14A、脇見判定手段14B、推定手段14C、フラグ制御手段14Dが実現されている。
脇見判定ECU14は、CPU、制御プログラム等を格納・記憶するROM、制御プログラムの作動領域としてのRAM、各種データを書き換え可能に保持するEEPROM、周辺回路等とのインターフェースをとるインターフェース部などを含んで構成される。
そして、図1に示すように、CPUが前記の制御プログラムを実行することにより、顔向き角度算出手段14A、脇見判定手段14B、推定手段14C、フラグ制御手段14Dが実現されている。
顔向き角度算出手段14Aは、顔撮像部12によって撮像された自動車の運転者の顔画像データに基いて運転者の顔向き角度Aを算出するものである。
顔向き角度算出手段14Aは、例えば、顔画像データから右目、左目、鼻などの顔部品を抽出し、これら顔部品の相対的な位置関係から運転者の顔向き角度Aを算出するものである。なお、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出方法として従来公知の様々な方法が使用可能である。
本実施の形態では、顔向き角度Aは、運転者の顔が正面を向いた状態を0°とし、運転者の顔が正面よりも右側を向いた状態を正の角度とし、運転者の顔が正面よりも左側を向いた状態を負の角度として表記する。
また、顔向き角度算出手段14Aが算出可能な顔向き角度Aの限界範囲を顔向き角度検知限界範囲とする。顔向き角度検知限界範囲は、顔撮像部12によって撮像された顔画像が正常に撮像でき、顔部品の相対的な位置関係を正しく把握することができる限界の顔向き角度Aである。
例えば、顔向き角度検知限界範囲は−45°<A<+45°であり、この範囲以内であれば顔向き角度算出手段14Aが算出可能であり、この範囲外であると顔向き角度算出手段14Aは顔画像データから正常に顔部品を抽出することができず、正確な顔向き角度Aの算出が不能であるとして、顔部位検出が不能である旨(顔向き角度Aが検出不能である旨)の情報を脇見判定手段14Bに供給する。すなわち、本明細書において、「顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能である」とは、「顔向き角度Aの算出自体が不能である場合」と、「顔向き角度Aの算出は可能であるものの正確な顔向き角度Aの算出が不能である場合」とを含むものとする。
顔向き角度算出手段14Aは、例えば、顔画像データから右目、左目、鼻などの顔部品を抽出し、これら顔部品の相対的な位置関係から運転者の顔向き角度Aを算出するものである。なお、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出方法として従来公知の様々な方法が使用可能である。
本実施の形態では、顔向き角度Aは、運転者の顔が正面を向いた状態を0°とし、運転者の顔が正面よりも右側を向いた状態を正の角度とし、運転者の顔が正面よりも左側を向いた状態を負の角度として表記する。
また、顔向き角度算出手段14Aが算出可能な顔向き角度Aの限界範囲を顔向き角度検知限界範囲とする。顔向き角度検知限界範囲は、顔撮像部12によって撮像された顔画像が正常に撮像でき、顔部品の相対的な位置関係を正しく把握することができる限界の顔向き角度Aである。
例えば、顔向き角度検知限界範囲は−45°<A<+45°であり、この範囲以内であれば顔向き角度算出手段14Aが算出可能であり、この範囲外であると顔向き角度算出手段14Aは顔画像データから正常に顔部品を抽出することができず、正確な顔向き角度Aの算出が不能であるとして、顔部位検出が不能である旨(顔向き角度Aが検出不能である旨)の情報を脇見判定手段14Bに供給する。すなわち、本明細書において、「顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能である」とは、「顔向き角度Aの算出自体が不能である場合」と、「顔向き角度Aの算出は可能であるものの正確な顔向き角度Aの算出が不能である場合」とを含むものとする。
脇見判定手段14Bは、顔向き角度Aが予め定められた正常範囲外となったときに運転者が脇見状態にあると判定し、その判定結果を出力するものである。
上記正常範囲は、例えば、−20°<A<+20°である。この正常範囲は、前記の顔向き角度検知限界範囲、後述する第1の判定基準範囲、第2の判定基準範囲よりも狭い範囲として設定される。
また、脇見判定手段14Bは、後述する範囲外可能性フラグFが立った状態で、かつ、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能となった場合に、運転者が脇見状態にあると判定するものである。
上記正常範囲は、例えば、−20°<A<+20°である。この正常範囲は、前記の顔向き角度検知限界範囲、後述する第1の判定基準範囲、第2の判定基準範囲よりも狭い範囲として設定される。
また、脇見判定手段14Bは、後述する範囲外可能性フラグFが立った状態で、かつ、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能となった場合に、運転者が脇見状態にあると判定するものである。
推定手段14Cは、顔撮像部12から供給される時系列に沿った複数の顔画像データに基いて所定時間経過後の顔向き角度Aを推定するものである。
推定手段14Cは、時系列に沿った複数の顔画像データから算出される顔の特定部位の位置データの速度成分に基いて所定時間経過後の顔向き角度Aの推定を行なう。
あるいは、推定手段14Cは、時系列に沿った複数の顔画像データから算出される顔向き角度Aの速度成分に基いて所定時間経過後の顔向き角度Aの推定を行なう。
推定手段14Cは、時系列に沿った複数の顔画像データから算出される顔の特定部位の位置データの速度成分に基いて所定時間経過後の顔向き角度Aの推定を行なう。
あるいは、推定手段14Cは、時系列に沿った複数の顔画像データから算出される顔向き角度Aの速度成分に基いて所定時間経過後の顔向き角度Aの推定を行なう。
フラグ制御手段14Dは、顔画像データに基いて顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有ると判定した場合に範囲外可能性フラグFを立てるものである。
本実施の形態では、フラグ制御手段14Dは、顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有るという判定を以下の2つの方法によって行なう。
(1)顔向き角度検知限界範囲内で顔向き角度検知限界範囲よりも狭い範囲の第1の判定基準範囲が設定されている。
第1の判定基準範囲は、例えば、−40°<A<+40°である。
フラグ制御手段14Dは、顔向き角度Aが、顔向き角度検知限界範囲内で第1の判定基準範囲外となったときに顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有るという判定を行なう。
(2)第1の判定基準範囲内で第1の判定基準範囲よりも狭い範囲の第2の判定基準範囲が設定されている。
第2の判定基準範囲は、例えば、−30°<A<+30°である。
フラグ制御手段14Dは、顔向き角度Aが、顔向き角度検知限界範囲内で第2の判定基準範囲外となり、かつ、推定手段14Cにより推定された顔向き角度Aが顔向き角度検知限界範囲外となったときにも顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有るという判定を行なう。
本実施の形態では、フラグ制御手段14Dは、顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有るという判定を以下の2つの方法によって行なう。
(1)顔向き角度検知限界範囲内で顔向き角度検知限界範囲よりも狭い範囲の第1の判定基準範囲が設定されている。
第1の判定基準範囲は、例えば、−40°<A<+40°である。
フラグ制御手段14Dは、顔向き角度Aが、顔向き角度検知限界範囲内で第1の判定基準範囲外となったときに顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有るという判定を行なう。
(2)第1の判定基準範囲内で第1の判定基準範囲よりも狭い範囲の第2の判定基準範囲が設定されている。
第2の判定基準範囲は、例えば、−30°<A<+30°である。
フラグ制御手段14Dは、顔向き角度Aが、顔向き角度検知限界範囲内で第2の判定基準範囲外となり、かつ、推定手段14Cにより推定された顔向き角度Aが顔向き角度検知限界範囲外となったときにも顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有るという判定を行なう。
次に、脇見判定装置10の動作について図2のフローチャートを参照して説明する。
脇見判定ECU14は、図2の処理ルーチンを繰り返して実行する。
まず、脇見判定ECU14は、顔撮像部12から顔画像データを入力する(ステップS10)。
次に、脇見判定ECU14は、顔向き角度算出が不能か否か(顔部位検出が不能であるか否か)を判定する(ステップS12:顔向き角度算出手段14A)。
脇見判定ECU14は、顔向き角度算出が不能でなければ(顔向き角度算出が可能であれば)、顔向き角度Aを算出する(ステップS14:顔向き角度算出手段14A)。
次に、脇見判定ECU14は、顔向き角度Aが、顔向き角度検知限界範囲内で第1の判定基準範囲外であるか否かを判定する(ステップS16:フラグ制御手段14D)。
顔向き角度Aが第1の判定基準範囲外であれば(Aの絶対値≧40°)、脇見判定ECU14は、範囲外可能性フラグFを立てる(F=1)(ステップS18:フラグ制御手段14D)。
次に、脇見判定ECU14は、脇見状態判定を行ない顔向き角度Aが正常範囲外(Aの絶対値A≧20°)であるか否かを判定する(ステップS20:脇見判定手段14B)。
そして、脇見判定の結果を出力する(ステップS22:脇見判定手段14B)。
本実施の形態では、脇見状態であると判定されたならば、その判定情報を運転支援ECU22に供給することで運転支援ECU22がスピーカ24あるいは表示装置26を用いた警報動作を行なう。
脇見状態であると判定されなければ、脇見判定ECU14は運転支援ECU22に対して判定情報の供給は行わず、運転支援ECU22は警報動作を行わない。
ステップS22が実行されたならば、ステップS10に戻る。
脇見判定ECU14は、図2の処理ルーチンを繰り返して実行する。
まず、脇見判定ECU14は、顔撮像部12から顔画像データを入力する(ステップS10)。
次に、脇見判定ECU14は、顔向き角度算出が不能か否か(顔部位検出が不能であるか否か)を判定する(ステップS12:顔向き角度算出手段14A)。
脇見判定ECU14は、顔向き角度算出が不能でなければ(顔向き角度算出が可能であれば)、顔向き角度Aを算出する(ステップS14:顔向き角度算出手段14A)。
次に、脇見判定ECU14は、顔向き角度Aが、顔向き角度検知限界範囲内で第1の判定基準範囲外であるか否かを判定する(ステップS16:フラグ制御手段14D)。
顔向き角度Aが第1の判定基準範囲外であれば(Aの絶対値≧40°)、脇見判定ECU14は、範囲外可能性フラグFを立てる(F=1)(ステップS18:フラグ制御手段14D)。
次に、脇見判定ECU14は、脇見状態判定を行ない顔向き角度Aが正常範囲外(Aの絶対値A≧20°)であるか否かを判定する(ステップS20:脇見判定手段14B)。
そして、脇見判定の結果を出力する(ステップS22:脇見判定手段14B)。
本実施の形態では、脇見状態であると判定されたならば、その判定情報を運転支援ECU22に供給することで運転支援ECU22がスピーカ24あるいは表示装置26を用いた警報動作を行なう。
脇見状態であると判定されなければ、脇見判定ECU14は運転支援ECU22に対して判定情報の供給は行わず、運転支援ECU22は警報動作を行わない。
ステップS22が実行されたならば、ステップS10に戻る。
また、ステップS16において、顔向き角度Aが第1の判定基準範囲外でないと判定されると(顔向き角度Aが第1の判定基準範囲内と判定されると)、脇見判定ECU14は、顔向き角度Aが、顔向き角度検知限界範囲内で第2の判定基準範囲外であるか否かを判定する(ステップS24:フラグ制御手段14D)。
顔向き角度Aが第2の判定基準範囲外であれば(Aの絶対値≧30°)、脇見判定ECU14は、時系列に沿った複数の顔画像データに基いて所定時間経過後の顔向き角度Aを推定する(ステップS26:推定手段14C)。
なお、図2の処理ルーチンを1度実行することを1工程とした場合、本実施の形態では、所定時間は1工程分の時間となる。
次いで、脇見判定ECU14は、推定された顔向き角度Aが顔向き角度検知限界範囲外であるか否かを判定する(ステップS28:フラグ制御手段14D)。
推定された顔向き角度Aが顔向き角度検知限界範囲外であれば、範囲外可能性フラグFを立てる(F=1)(ステップS30:フラグ制御手段14D)。
そして、ステップS20、S22に移行しステップS10に戻る。
顔向き角度Aが第2の判定基準範囲外であれば(Aの絶対値≧30°)、脇見判定ECU14は、時系列に沿った複数の顔画像データに基いて所定時間経過後の顔向き角度Aを推定する(ステップS26:推定手段14C)。
なお、図2の処理ルーチンを1度実行することを1工程とした場合、本実施の形態では、所定時間は1工程分の時間となる。
次いで、脇見判定ECU14は、推定された顔向き角度Aが顔向き角度検知限界範囲外であるか否かを判定する(ステップS28:フラグ制御手段14D)。
推定された顔向き角度Aが顔向き角度検知限界範囲外であれば、範囲外可能性フラグFを立てる(F=1)(ステップS30:フラグ制御手段14D)。
そして、ステップS20、S22に移行しステップS10に戻る。
また、脇見判定ECU14は、ステップS28で推定された顔向き角度Aが顔向き角度検知限界範囲外でなければ、範囲外可能性フラグFをリセットする(F=0)(ステップS32:フラグ制御手段14D)。
また、脇見判定ECU14は、ステップS24で顔向き角度Aが第2の判定基準範囲外でない場合もステップS32で範囲外可能性フラグFをリセットする。
なお、ステップS32以前に範囲外可能性フラグF=0であれば、ステップS32においては範囲外可能性フラグF=0の状態が維持されることになる。
そして、ステップS20、S22に移行しステップS10に戻る。
また、脇見判定ECU14は、ステップS24で顔向き角度Aが第2の判定基準範囲外でない場合もステップS32で範囲外可能性フラグFをリセットする。
なお、ステップS32以前に範囲外可能性フラグF=0であれば、ステップS32においては範囲外可能性フラグF=0の状態が維持されることになる。
そして、ステップS20、S22に移行しステップS10に戻る。
また、ステップS12において、顔向き角度の算出が不能であると判定された場合、脇見判定ECU14は、範囲外可能性フラグFが立っているか(F=1であるか)否かを判定する(ステップS34)。
範囲外可能性フラグFが立っていなければ(F=0であれば)、ステップS20、S22に移行しステップS10に戻る。
範囲外可能性フラグFが立っていれば(F=1であれば)、顔向き角度Aが顔向き角度検知限界範囲外である可能性が高いと判断して(推定して)、運転者が脇見状態にあると判定する(ステップS36:脇見判定手段14B)。
そして、ステップS22に移行して、運転者が脇見状態にあるという判定情報を運転支援ECU22に供給することで運転支援ECU22がスピーカ24あるいは表示装置26を用いた警報動作を行なう。
範囲外可能性フラグFが立っていなければ(F=0であれば)、ステップS20、S22に移行しステップS10に戻る。
範囲外可能性フラグFが立っていれば(F=1であれば)、顔向き角度Aが顔向き角度検知限界範囲外である可能性が高いと判断して(推定して)、運転者が脇見状態にあると判定する(ステップS36:脇見判定手段14B)。
そして、ステップS22に移行して、運転者が脇見状態にあるという判定情報を運転支援ECU22に供給することで運転支援ECU22がスピーカ24あるいは表示装置26を用いた警報動作を行なう。
次に、脇見判定装置10の動作について図3、図4の動作説明図を参照してさらに説明する。
図3、図4において、1行目の欄には、前述したように図2の処理ルーチンの実行単位である工程を記載している。現時点で実行されている工程をNとし、1回前の工程をN−1、2回前の工程をN−2、3回前の工程をN−3とした。
また、2行目の欄には、実際の顔向き角度を示す。
3行目の欄には、上方から見た顔撮像部12と運転者の顔f、鼻nとの位置関係を模式的に示す。なお、図中破線は顔撮像部12の撮像範囲を示す。
4行目の欄には、範囲外可能性フラグFの状態を示す。
5行目の欄には、顔向き角度算出手段14Aによる顔部位の検出の可否を示す。
6行目の欄には、顔向き角度算出手段14Aで算出された顔向き角度Aを示す。
図3、図4において、1行目の欄には、前述したように図2の処理ルーチンの実行単位である工程を記載している。現時点で実行されている工程をNとし、1回前の工程をN−1、2回前の工程をN−2、3回前の工程をN−3とした。
また、2行目の欄には、実際の顔向き角度を示す。
3行目の欄には、上方から見た顔撮像部12と運転者の顔f、鼻nとの位置関係を模式的に示す。なお、図中破線は顔撮像部12の撮像範囲を示す。
4行目の欄には、範囲外可能性フラグFの状態を示す。
5行目の欄には、顔向き角度算出手段14Aによる顔部位の検出の可否を示す。
6行目の欄には、顔向き角度算出手段14Aで算出された顔向き角度Aを示す。
図3を参照して、図2のステップS16、S18について説明する。
工程N−3では、顔向き角度Aが+35°であるため、ステップS16の判定は否定となる。
次の工程N−2では、顔向き角度Aが+40°であるため、ステップS16の判定は肯定となり、ステップS18により範囲外可能性フラグFが立てられる。
さらに次の工程N−1では、顔向き角度Aが+45°となっているが、顔向き角度Aは顔向き角度検知限界範囲内であるため、顔向き角度算出手段14Aによる顔部位の検出は可能となっている。
そして、現時点の工程Nでは、ステップS34、S36により範囲外可能性フラグFが立てられた状態で、かつ、実際の顔向き角度が50°となることから顔向き角度算出手段14Aによる顔部位の検出が不可となるため、脇見判定手段14Bにより顔向き角度Aが顔向き角度検知限界範囲外にあるものと推定し、運転者が脇見状態にあると判定する。
工程N−3では、顔向き角度Aが+35°であるため、ステップS16の判定は否定となる。
次の工程N−2では、顔向き角度Aが+40°であるため、ステップS16の判定は肯定となり、ステップS18により範囲外可能性フラグFが立てられる。
さらに次の工程N−1では、顔向き角度Aが+45°となっているが、顔向き角度Aは顔向き角度検知限界範囲内であるため、顔向き角度算出手段14Aによる顔部位の検出は可能となっている。
そして、現時点の工程Nでは、ステップS34、S36により範囲外可能性フラグFが立てられた状態で、かつ、実際の顔向き角度が50°となることから顔向き角度算出手段14Aによる顔部位の検出が不可となるため、脇見判定手段14Bにより顔向き角度Aが顔向き角度検知限界範囲外にあるものと推定し、運転者が脇見状態にあると判定する。
図4を参照して、図2のステップS24、S26、S28、S30について説明する。
工程N−3では、顔向き角度Aが0°であるため、ステップS24の判定は否定となる。
次の工程N−2では、顔向き角度Aが+10°であるため、ステップS24の判定は否定となる。
さらに次の工程N−1では、顔向き角度Aが+30°であるため、ステップS24の判定は肯定となり、ステップS26により工程Nにおける顔向き角度Aが推定される。ステップS28において、前記の推定された顔向き角度Aが顔向き角度検知限界範囲外にあるものと判定されるとステップS30により範囲外可能性フラグFが立てられる。
そして、現時点の工程Nでは、ステップS34、S36により範囲外可能性フラグFが立てられた状態で、かつ、実際の顔向き角度が50°となることから顔向き角度算出手段14Aによる顔部位の検出が不可となるため、脇見判定手段14Bにより顔向き角度Aが顔向き角度検知限界範囲外にあるものと推定し、運転者が脇見状態にあると判定する。
工程N−3では、顔向き角度Aが0°であるため、ステップS24の判定は否定となる。
次の工程N−2では、顔向き角度Aが+10°であるため、ステップS24の判定は否定となる。
さらに次の工程N−1では、顔向き角度Aが+30°であるため、ステップS24の判定は肯定となり、ステップS26により工程Nにおける顔向き角度Aが推定される。ステップS28において、前記の推定された顔向き角度Aが顔向き角度検知限界範囲外にあるものと判定されるとステップS30により範囲外可能性フラグFが立てられる。
そして、現時点の工程Nでは、ステップS34、S36により範囲外可能性フラグFが立てられた状態で、かつ、実際の顔向き角度が50°となることから顔向き角度算出手段14Aによる顔部位の検出が不可となるため、脇見判定手段14Bにより顔向き角度Aが顔向き角度検知限界範囲外にあるものと推定し、運転者が脇見状態にあると判定する。
以上説明したように、本実施の形態によれば、顔画像データに基いて顔向き角度Aが顔向き角度検知限界範囲外となる可能性が有ると判定した場合に範囲外可能性フラグFを立て、範囲外可能性フラグFが立った状態で、かつ、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能となった場合に、運転者が脇見状態にあると判定するようにした。
したがって、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能な状態であっても、運転者の脇見状態を正確に判定する上で有利となる。すなわち、従来技術のように、運転者が脇見をしているのにも拘わらず、脇見無しと判定されるといった誤判定を回避でき、脇見の判定精度を確保する上で有利となる。
また、複数の顔撮像部12を設ける必要がないため、コストを抑制する上でも有利となる。
したがって、顔向き角度算出手段14Aによる運転者の顔向き角度Aの算出が不能な状態であっても、運転者の脇見状態を正確に判定する上で有利となる。すなわち、従来技術のように、運転者が脇見をしているのにも拘わらず、脇見無しと判定されるといった誤判定を回避でき、脇見の判定精度を確保する上で有利となる。
また、複数の顔撮像部12を設ける必要がないため、コストを抑制する上でも有利となる。
また、本実施の形態によれば、顔向き角度Aが、顔向き角度検知限界範囲内で第1の判定基準範囲外となったときにフラグ制御手段14Dによる可能性有りの判定がなされるので、顔向き角度Aに応じて範囲外可能性フラグFを的確に立てることができ、運転者の脇見状態を正確に判定する上で有利となる。
また、本実施の形態によれば、時系列に沿った複数の顔画像データに基いて所定時間経過後の顔向き角度Aを推定する推定手段14Cが設けられ、顔向き角度Aが、顔向き角度検知限界範囲内で第2の判定基準範囲外となり、かつ、推定手段14Cにより推定された顔向き角度Aが顔向き角度検知限界範囲外となったときにもフラグ制御手段14Dによる可能性有りの判定がなされるので、顔向き角度Aの推定に応じて範囲外可能性フラグFを的確に立てることができ、運転者の脇見状態を正確に判定する上で有利となる。
また、本実施の形態によれば、推定手段14Cによる顔向き角度Aの推定は、時系列に沿った複数の顔画像データから算出される顔の特定部位の位置データの速度成分に基いて行なうか、あるいは、時系列に沿った複数の顔画像データから算出される顔向き角度Aの速度成分に基いて行なうようにしたので、顔向き角度Aの推定を正確に行なう上で有利となる。
なお、本実施の形態では、第1の判定基準範囲と、第1の判定基準範囲よりも狭い範囲の第2の判定基準範囲との双方を用いて顔向き角度Aの判定を行ない、その判定結果に基いてフラグ制御手段14Dによる範囲外可能性フラグFを立てる、立てないの動作を行なうようにした。
しかしながら、第1の判定基準範囲と、第2の判定基準範囲と何れか一方のみを用いて顔向き角度Aの判定を行ない、その判定結果に基いてフラグ制御手段14Dによる範囲外可能性フラグFを立てる、立てないの動作を行なうようにしてもよい。
しかしながら、本実施の形態のようにすると、顔向き角度Aの判定をより正確に行なう上で有利となり、運転者の脇見状態を正確に判定する上でより一層有利となる。
しかしながら、第1の判定基準範囲と、第2の判定基準範囲と何れか一方のみを用いて顔向き角度Aの判定を行ない、その判定結果に基いてフラグ制御手段14Dによる範囲外可能性フラグFを立てる、立てないの動作を行なうようにしてもよい。
しかしながら、本実施の形態のようにすると、顔向き角度Aの判定をより正確に行なう上で有利となり、運転者の脇見状態を正確に判定する上でより一層有利となる。
10……脇見判定装置、12……顔撮像部、14……脇見判定ECU、14A……顔向き角度算出手段、14B……脇見判定手段、14C……推定手段、14D……フラグ制御手段、A……顔向き角度、F……範囲外可能性フラグ。
Claims (6)
- 撮像手段によって撮像された自動車の運転者の顔画像データに基いて前記運転者の顔向き角度を算出する顔向き角度算出手段と、
前記顔向き角度が予め定められた正常範囲外となったときに前記運転者が脇見状態にあると判定する脇見判定手段とを備える脇見判定装置であって、
前記顔向き角度算出手段が算出可能な前記顔向き角度の限界範囲を顔向き角度検知限界範囲としたとき、
前記顔画像データに基いて前記顔向き角度が前記顔向き角度検知限界範囲外となる可能性が有ると判定した場合に範囲外可能性フラグを立てるフラグ制御手段が設けられ、
前記脇見判定手段は、前記範囲外可能性フラグが立った状態で、かつ、前記顔向き角度算出手段による前記運転者の顔向き角度の算出が不能となった場合に、前記運転者が脇見状態にあると判定する、
ことを特徴とする脇見判定装置。 - 前記顔向き角度検知限界範囲内で前記顔向き角度検知限界範囲よりも狭い範囲の第1の判定基準範囲が設定され、
前記フラグ制御手段による前記可能性有りの判定は、前記顔向き角度が、前記顔向き角度検知限界範囲内で前記第1の判定基準範囲外となったときになされる、
ことを特徴とする請求項1記載の脇見判定装置。 - 前記顔向き角度検知限界範囲内で前記顔向き角度検知限界範囲よりも狭い範囲の第2の判定基準範囲が設定され、
時系列に沿った複数の前記顔画像データに基いて所定時間経過後の前記顔向き角度を推定する推定手段が設けられ、
前記フラグ制御手段による前記可能性有りの判定は、前記顔向き角度が、前記顔向き角度検知限界範囲内で前記第2の判定基準範囲外となり、かつ、前記推定手段により推定された前記顔向き角度が前記顔向き角度検知限界範囲外となったときになされる、
ことを特徴とする請求項1記載の脇見判定装置。 - 前記第1の判定基準範囲内で前記第1の判定基準範囲よりも狭い範囲の第2の判定基準範囲が設定され、
時系列に沿った複数の前記顔画像データに基いて所定時間経過後の前記顔向き角度を推定する推定手段が設けられ、
前記フラグ制御手段による前記可能性有りの判定は、前記顔向き角度が、前記顔向き角度検知限界範囲内で前記第2の判定基準範囲外となり、かつ、前記推定手段により推定された前記顔向き角度が前記顔向き角度検知限界範囲外となったときにもなされる、
ことを特徴とする請求項2記載の脇見判定装置。 - 前記推定手段による前記顔向き角度の推定は、時系列に沿った複数の前記顔画像データから算出される顔の特定部位の位置データの速度成分に基いてなされる、
ことを特徴とする請求項3または4記載の脇見判定装置。 - 前記推定手段による前記顔向き角度の推定は、時系列に沿った複数の前記顔画像データから算出される前記顔向き角度の速度成分に基いてなされる、
ことを特徴とする請求項3または4記載の脇見判定装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012270067A JP2014115859A (ja) | 2012-12-11 | 2012-12-11 | 脇見判定装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012270067A JP2014115859A (ja) | 2012-12-11 | 2012-12-11 | 脇見判定装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014115859A true JP2014115859A (ja) | 2014-06-26 |
Family
ID=51171785
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012270067A Pending JP2014115859A (ja) | 2012-12-11 | 2012-12-11 | 脇見判定装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014115859A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5997410B1 (ja) * | 2016-05-10 | 2016-09-28 | 勇 大森 | 運転者異常発生検出器及びこれを用いた安全装置 |
WO2016194104A1 (ja) * | 2015-06-01 | 2016-12-08 | パイオニア株式会社 | 安全運転支援装置、制御方法、プログラム及び記憶媒体 |
EP3348453A1 (en) | 2017-01-17 | 2018-07-18 | Toyota Jidosha Kabushiki Kaisha | Control system of vehicle |
JP2018128834A (ja) * | 2017-02-08 | 2018-08-16 | トヨタ自動車株式会社 | ドライバ状態検出装置 |
JP2019159741A (ja) * | 2018-03-13 | 2019-09-19 | オムロン株式会社 | 運転評価装置、運転評価方法、及び運転評価プログラム |
-
2012
- 2012-12-11 JP JP2012270067A patent/JP2014115859A/ja active Pending
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016194104A1 (ja) * | 2015-06-01 | 2016-12-08 | パイオニア株式会社 | 安全運転支援装置、制御方法、プログラム及び記憶媒体 |
JP5997410B1 (ja) * | 2016-05-10 | 2016-09-28 | 勇 大森 | 運転者異常発生検出器及びこれを用いた安全装置 |
JP2017202816A (ja) * | 2016-05-10 | 2017-11-16 | 勇 大森 | 運転者異常発生検出器及びこれを用いた安全装置 |
EP3348453A1 (en) | 2017-01-17 | 2018-07-18 | Toyota Jidosha Kabushiki Kaisha | Control system of vehicle |
JP2018114804A (ja) * | 2017-01-17 | 2018-07-26 | トヨタ自動車株式会社 | 車両の制御装置 |
US10706299B2 (en) | 2017-01-17 | 2020-07-07 | Toyota Jidosha Kabushiki Kaisha | Control system of vehicle |
JP2018128834A (ja) * | 2017-02-08 | 2018-08-16 | トヨタ自動車株式会社 | ドライバ状態検出装置 |
JP2019159741A (ja) * | 2018-03-13 | 2019-09-19 | オムロン株式会社 | 運転評価装置、運転評価方法、及び運転評価プログラム |
JP7060841B2 (ja) | 2018-03-13 | 2022-04-27 | オムロン株式会社 | 運転評価装置、運転評価方法、及び運転評価プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4970926B2 (ja) | 車両周辺監視装置 | |
JP4291741B2 (ja) | 車線逸脱警報装置 | |
JP2014115859A (ja) | 脇見判定装置 | |
JP5092776B2 (ja) | 視線方向検出装置及び視線方向検出方法 | |
JP2009015548A (ja) | 運転支援装置および方法、並びに、プログラム | |
US9613278B2 (en) | Machine-implemented method and system for recognizing a person hailing a public passenger vehicle | |
JP2007183831A (ja) | 車両用制御装置 | |
JP2009294753A (ja) | 画像処理装置および画像処理方法 | |
JP2010140358A (ja) | 走行支援装置 | |
JP2013132970A (ja) | ミラー制御装置およびプログラム | |
WO2008114839A1 (ja) | 覚醒度判定装置及び覚醒度判定方法 | |
JP2007249757A (ja) | 警報装置 | |
JP4858516B2 (ja) | 顔向き検出装置 | |
JP5644414B2 (ja) | 覚醒度判定装置、覚醒度判定方法及びプログラム | |
JP2017191367A (ja) | 安全運転支援装置及び安全運転支援プログラム | |
KR20150128066A (ko) | 차선 유지 보조 시스템 및 그 제어방법 | |
JP2009251761A (ja) | 運転支援システム | |
KR101469458B1 (ko) | 파킹 보조 장치 및 그 방법 | |
JP2012185562A (ja) | 車線逸脱警報制御装置 | |
JP2007087203A (ja) | 衝突判定システム、衝突判定方法及びコンピュータプログラム | |
JP5109851B2 (ja) | 車両用警報表示制御装置 | |
JP2010039933A (ja) | 脇見運転判定装置 | |
KR101073259B1 (ko) | 조향 제어를 이용한 충돌회피 방법 및 장치 | |
KR101849326B1 (ko) | 차량용 카메라 시스템 | |
JP2015191437A (ja) | 運転支援装置 |