JP2021033755A - 画像処理装置、画像処理方法および画像処理プログラム - Google Patents
画像処理装置、画像処理方法および画像処理プログラム Download PDFInfo
- Publication number
- JP2021033755A JP2021033755A JP2019154564A JP2019154564A JP2021033755A JP 2021033755 A JP2021033755 A JP 2021033755A JP 2019154564 A JP2019154564 A JP 2019154564A JP 2019154564 A JP2019154564 A JP 2019154564A JP 2021033755 A JP2021033755 A JP 2021033755A
- Authority
- JP
- Japan
- Prior art keywords
- image processing
- black eye
- detection
- eyes
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 19
- 235000002673 Dioscorea communis Nutrition 0.000 claims abstract description 94
- 241000544230 Dioscorea communis Species 0.000 claims abstract description 94
- 208000035753 Periorbital contusion Diseases 0.000 claims abstract description 94
- 210000001508 eye Anatomy 0.000 claims abstract description 77
- 238000001514 detection method Methods 0.000 claims description 77
- 238000000034 method Methods 0.000 claims description 17
- 238000006073 displacement reaction Methods 0.000 claims description 16
- 230000004397 blinking Effects 0.000 description 12
- 210000001747 pupil Anatomy 0.000 description 9
- 230000007423 decrease Effects 0.000 description 6
- 230000004424 eye movement Effects 0.000 description 4
- 210000005252 bulbus oculi Anatomy 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 210000000744 eyelid Anatomy 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 206010041349 Somnolence Diseases 0.000 description 1
- 241000405217 Viola <butterfly> Species 0.000 description 1
- 230000036626 alertness Effects 0.000 description 1
- 230000037007 arousal Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 210000004087 cornea Anatomy 0.000 description 1
- 238000005314 correlation function Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】精度よく目が閉じていることを検出でき、かつ、処理負担を低減させることができる画像処理装置、画像処理方法および画像処理プログラムを提供する。【解決手段】画像処理装置は、入力した画像中の左右両目の黒目位置を検出し、左右両目の黒目位置を誤検出しているか否かを判定し、判定結果に基づいて目がとじていることを検出する。【選択図】図3
Description
本発明は、画像処理装置、画像処理方法および画像処理プログラムに関する。
従来より、人物の顔をカメラで撮影して得た画像のデータを処理して人の目が開いているか否かを判定する開閉眼判定装置が提案されている(特許文献1)。特許文献1の開閉眼判定装置によれば、人の顔に赤外線を照射してカメラで撮影し、カメラで撮影した画像に、赤外線による人の目の角膜表面からの反射光に相当する予め定めた閾値以上の輝度が含まれている否かに基づいて、人の目が開いているか否かを判定している。また、特許文献1の開閉眼判定装置によれば、撮影した画像から人の顔の上瞼および下瞼に対応する形状パラメータを検出して、検出した形状パラメータに基づいて、人の目が開いているか否かを判定している。
しかしながら、赤外線を用いる方法では、メガネやサングラスの反射を角膜からの反射と誤検出したり、外乱の影響により誤検出したり、精度よく、人の目が開いていること(閉じていること)を検出することができない、という問題があった。また、画像から形状パラメータを検出する方法では、瞬目などのように非常に素早い目の開閉を検出するために、高速かつ高精度で撮影した画像のデータを処理する必要があり、高性能の画像処理装置を用いる必要があった。
本発明は、上述した事情に鑑みてなされたものであり、その目的は、精度よく目が閉じていることを検出でき、かつ、処理負担の低減を図った画像処理装置、画像処理方法および画像処理プログラムを提供することにある。
前述した目的を達成するために、本発明に係る画像処理装置、画像処理方法および画像処理プログラムは、下記[1]〜[4]を特徴としている。
[1]
顔を含むように撮影された画像に対してデータ処理を行うデータ処理部を備える画像処理装置であって、
前記データ処理部は、
前記画像中の左右両目の黒目位置を検出する黒目検出部と、
前記黒目検出部が左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定部と、
前記誤検出判定部の判定結果に基づいて、目が閉じていることを検出する閉検出部と、を有する、
画像処理装置であること。
[2]
[1]に記載の画像処理装置において、
前記誤検出判定部は、前記黒目検出部により検出された前記黒目位置の変位量又は前記黒目位置から求めた黒目速度の変位量が閾値より大きいとき、誤検出していると判定する、
画像処理装置であること。
[3]
顔を含むように撮影された画像に対してデータ処理を行う画像処理方法であって、
前記画像中の左右両目の黒目位置を検出する黒目検出ステップと、
前記黒目検出ステップにより左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定ステップと、
前記誤検出判定ステップによる判定結果に基づいて、目が閉じていることを検出する瞬目検出ステップと、を有する、
画像処理方法であること。
[4]
コンピュータに[3]に記載の画像処理方法の各ステップを実行させるための画像処理プログラムであること。
[1]
顔を含むように撮影された画像に対してデータ処理を行うデータ処理部を備える画像処理装置であって、
前記データ処理部は、
前記画像中の左右両目の黒目位置を検出する黒目検出部と、
前記黒目検出部が左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定部と、
前記誤検出判定部の判定結果に基づいて、目が閉じていることを検出する閉検出部と、を有する、
画像処理装置であること。
[2]
[1]に記載の画像処理装置において、
前記誤検出判定部は、前記黒目検出部により検出された前記黒目位置の変位量又は前記黒目位置から求めた黒目速度の変位量が閾値より大きいとき、誤検出していると判定する、
画像処理装置であること。
[3]
顔を含むように撮影された画像に対してデータ処理を行う画像処理方法であって、
前記画像中の左右両目の黒目位置を検出する黒目検出ステップと、
前記黒目検出ステップにより左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定ステップと、
前記誤検出判定ステップによる判定結果に基づいて、目が閉じていることを検出する瞬目検出ステップと、を有する、
画像処理方法であること。
[4]
コンピュータに[3]に記載の画像処理方法の各ステップを実行させるための画像処理プログラムであること。
上記[1]、[3]及び[4]の構成の画像処理装置、画像処理方法および画像処理プログラムによれば、赤外線を用いずに、黒目位置の検出結果を用いて、目が閉じていることを検出することができる。これにより、精度よく目が閉じていることを検出でき、かつ、処理負担を低減させることができる。
上記[2]の構成の画像処理装置によれば、誤判定検出部が、黒目位置の変位量又は黒目位置から求めた黒目速度の変位量が閾値より大きいのとき、誤検出していると判定する。これにより、容易に、かつ、精度よく、黒目位置の誤検出を判定することができる。
上記[2]の構成の画像処理装置によれば、誤判定検出部が、黒目位置の変位量又は黒目位置から求めた黒目速度の変位量が閾値より大きいのとき、誤検出していると判定する。これにより、容易に、かつ、精度よく、黒目位置の誤検出を判定することができる。
本発明によれば、精度よく目が閉じていることを検出でき、かつ、処理負担を低減させることができる画像処理装置、画像処理方法および画像処理プログラムを提供できる。
以上、本発明について簡潔に説明した。更に、以下に説明される発明を実施するための形態(以下、「実施形態」という。)を添付の図面を参照して通読することにより、本発明の詳細は更に明確化されるであろう。
本発明の画像処理装置、画像処理方法および画像処理プログラムに関する具体的な実施形態について、各図を参照しながら以下に説明する。
<本実施形態が適用される環境の具体例>
車両に搭載した画像処理装置の配置状態の具体例を図1に示す。
図1に示した例では、車両の車室内10にカメラ12および処理部13(データ処理部)が設置されている。具体的には、運転席に着座している人物11、すなわち運転者の目の領域11aを含む顔などをカメラ12で撮影できるように、運転席前方のメータユニット内、あるいはコラムカバーの箇所にカメラ12が設置されている。
車両に搭載した画像処理装置の配置状態の具体例を図1に示す。
図1に示した例では、車両の車室内10にカメラ12および処理部13(データ処理部)が設置されている。具体的には、運転席に着座している人物11、すなわち運転者の目の領域11aを含む顔などをカメラ12で撮影できるように、運転席前方のメータユニット内、あるいはコラムカバーの箇所にカメラ12が設置されている。
処理部13は、カメラ12が人物11の顔を撮影して得られる二次元画像データを処理して、目の領域11aのデータから黒目位置を検出する。本発明の画像処理装置は、例えば図1中の処理部13、あるいはその一部として構成することが想定される。
<本実施形態の画像処理装置の動作の概要>
また、本実施形態の画像処理装置は、1フレーム毎に検出された黒目位置に基づいて、通常の目の動きから得られないような動きを検出すると、黒目位置の誤検出であると判定する。この誤検出の原因としては、瞬目またはノイズや照明環境が考えられる。意識的な瞬目以外は、瞬目は両目で同時に発生する。これは特に運転や機器の操作等の作業に集中しているときに当てはまる。そこで、画像処理装置は、左右両目の黒目位置が誤検出されたと判定すると、瞬目を検出する。また、画像処理装置は、左目のみ、右目のみの黒目位置が誤検出されたと判定した場合は、ノイズや照明環境等によって引き起こされる誤検出であり、瞬きの検出は行わない。なお、画像処理装置は、誤検出であると判定した黒目位置については補正する。
また、本実施形態の画像処理装置は、1フレーム毎に検出された黒目位置に基づいて、通常の目の動きから得られないような動きを検出すると、黒目位置の誤検出であると判定する。この誤検出の原因としては、瞬目またはノイズや照明環境が考えられる。意識的な瞬目以外は、瞬目は両目で同時に発生する。これは特に運転や機器の操作等の作業に集中しているときに当てはまる。そこで、画像処理装置は、左右両目の黒目位置が誤検出されたと判定すると、瞬目を検出する。また、画像処理装置は、左目のみ、右目のみの黒目位置が誤検出されたと判定した場合は、ノイズや照明環境等によって引き起こされる誤検出であり、瞬きの検出は行わない。なお、画像処理装置は、誤検出であると判定した黒目位置については補正する。
瞬目は200msec〜500msecの時間をかけて行われる瞼の開閉運動である。このため、撮影に用いるカメラ12及び処理部13が200msec〜500msec間に数点サンプリングできるスペックを満たすことができれば、黒目位置の誤検出が所定フレーム継続するか否かを瞬目検出の判定に加えることができる。例えば50msec周期でサンプリングが可能な画像処理装置である場合、4フレーム(50msec×4=200msec)以上継続して左右両目の黒目位置の誤検出が判定されると、瞬目を検出する。
本実施形態では、画像処理装置が、検出した黒目位置や瞬目の情報は、車両を運転する運転者の注意力が低下しているかどうかを判定するために用いる。勿論、このような黒目位置の情報は様々な用途が利用可能である。
<注意力判定アルゴリズムの概要>
本発明に係る実施形態の画像処理装置が実行する注意力判定アルゴリズムの概要を説明する。図2及び図3は、本発明に係る実施形態の画像処理装置が実行する注意力判定アルゴリズムの概要を示すフローチャートである。画像処理装置のコンピュータが所定のプログラムを実行することにより、黒目検出部、誤検出判定部、閉検出部として機能し、図2及び図3に示した注意力判定アルゴリズムに従って動作が順次行われる。
本発明に係る実施形態の画像処理装置が実行する注意力判定アルゴリズムの概要を説明する。図2及び図3は、本発明に係る実施形態の画像処理装置が実行する注意力判定アルゴリズムの概要を示すフローチャートである。画像処理装置のコンピュータが所定のプログラムを実行することにより、黒目検出部、誤検出判定部、閉検出部として機能し、図2及び図3に示した注意力判定アルゴリズムに従って動作が順次行われる。
カメラ12は、人物11の顔を含む領域の映像を一定の周期で常時撮影し、映像の信号を出力する。画像処理装置のコンピュータ(以下、単に「画像処理装置」と略す)は、ステップS11でカメラ12から映像の信号を1フレーム分取り込む。
次のステップS12では、画像処理装置は、例えば「Viola-Jones法」を用いて人物11の顔の位置検出を行い、1フレームの二次元画像データの中から顔を含む領域を矩形の顔領域R1(図6参照)として検出する。すなわち、画像処理装置は、顔の陰影差を特徴とし「Boosting」を用いた学習によって作成された検出器を使って顔領域R1を抽出する。「Viola-Jones法」の技術は、例えば以下の文献に示されている。
「P.viola and M.J.Jones,"Rapid Object Detection Using a Boosted Cascade of Simple Features," IEEE CVPR(2001).」
「P.viola and M.J.Jones,"Rapid Object Detection Using a Boosted Cascade of Simple Features," IEEE CVPR(2001).」
次のステップS13では、画像処理装置は、ステップS12で検出した顔領域R1の中から、例えば「Viola-Jones法」を用いて目の矩形の領域である目領域R2(図6参照)を検出する。本実施形態の画像処理装置は、左右の目領域R2を検出する。
次のステップS14では、画像処理装置は、画像から左右の黒目を検出する。このステップS14の処理の詳細について図4を参照して説明する。
ステップS141では、ステップS13で抽出した左右の目領域R2のデータについて各々、テンプレートマッチングの手法を適用して、瞳孔33または虹彩32の粗探索を行う。具体的には、目領域R2を二値化した画像に対して、テンプレートとして黒丸画像をマッチングさせて最も尤度の大きかった黒丸画像の画像中心(黒丸の中心)の座標を目領域R2中の瞳孔33または虹彩32の中心位置とし、最も尤度の大きかった黒丸画像の半径を目領域R2中の瞳孔33または虹彩32の半径とする。なお、ステップS141の処理は、目領域R2中の瞳孔33または虹彩32の中心位置及び半径に関しておおよその目処をつけるために行うものである。
ステップS142では、画像処理装置は、S141で探索した瞳孔33または虹彩32の中心位置及び半径を利用し、パーティクルフィルタの手法を適用して、より精度の高い瞳孔33または虹彩32の中心位置及び半径を検出する。ここでは、ステップS142で粗探索した瞳孔33または虹彩32の中心位置を起点として眼球モデルを回転させ、瞳孔33または虹彩32の形状候補を取り出し、それらの候補と目領域R2のエッジ画像の相関関数の尤度計算によって瞳孔33または虹彩32部分を正確に検出する。この内容の詳細については、特開2018−88236号公報に記載されているため、ここでは詳細な説明について省略する。なお、黒目検出についてはこれに限らず、一般の画像処理手法を用いてもよい。
次のステップS15(図3)では、画像処理装置は、ステップS14で検出した左右の黒目位置結果の誤検出判定を行う。画像処理装置は、例えば、通常の黒目の動きから得られないような黒目の動きがあった場合に、誤検出と判定する。具体的には、画像処理装置は、黒目位置の変位量|ΔIt(x、y)|が閾値Tiより大きいとき、黒目位置が誤検出されていると判定する。なお、変位量|ΔIt(x、y)|は下記の式(1)で求めることができる。
|ΔIt(x、y)|=|It(x、y)−It−1(x、y)| …(1)
ΔIt(x、y):時刻tにおける黒目位置の変位量、It(x、y):時刻tにおいて検出された黒目位置、It−1(x、y):時刻tよりも1フレーム前の時刻t−1に検出された黒目位置(なお、時刻t−1に検出された黒目位置が誤検出と判定された場合は補正後の黒目位置)
|ΔIt(x、y)|=|It(x、y)−It−1(x、y)| …(1)
ΔIt(x、y):時刻tにおける黒目位置の変位量、It(x、y):時刻tにおいて検出された黒目位置、It−1(x、y):時刻tよりも1フレーム前の時刻t−1に検出された黒目位置(なお、時刻t−1に検出された黒目位置が誤検出と判定された場合は補正後の黒目位置)
ここで閾値Tiは、カメラ12で撮影された画像中の顔領域R1、目領域R2の大きさと、カメラ12のフレームレートにより決定する。
また、画像処理装置は、黒目速度の変位量Δvt(x、y)が閾値Tvより大きいとき、黒目位置が誤検出されていると判定してもよい。なお、変位量|Δvt(x、y)|は下記の式(2)で求めることができる。
|Δvt(x、y)|=|vt(x、y)−vt−1(x、y)|…(2)
Δvt(x、y):時刻tにおける黒目速度の変位量、vt(x、y):時刻tにおいて検出された黒目速度、vt−1(x、y):時刻tよりも1フレーム前の時刻t−1に検出された黒目速度
|Δvt(x、y)|=|vt(x、y)−vt−1(x、y)|…(2)
Δvt(x、y):時刻tにおける黒目速度の変位量、vt(x、y):時刻tにおいて検出された黒目速度、vt−1(x、y):時刻tよりも1フレーム前の時刻t−1に検出された黒目速度
なお、vt(x、y)は、It(x、y)、It−1(x、y)から求めることができる。vt−1(x、y)は、It−1(x、y)、It−2(x、y)から求めることができる。
It−2(x、y):時刻t−1よりも1フレーム前の時刻t−2において検出された黒目位置(なお、時刻t−1に検出された黒目位置が誤検出と判定された場合は補正後の黒目位置)
It−2(x、y):時刻t−1よりも1フレーム前の時刻t−2において検出された黒目位置(なお、時刻t−1に検出された黒目位置が誤検出と判定された場合は補正後の黒目位置)
ここで閾値Tvは、カメラ12で撮影された画像中の顔領域R1、目領域R2の大きさと、カメラ12のフレームレートにより決定する。
次のステップS16では、画像処理装置は、ステップS15で誤検出判定されたか否かを判定する。画像処理装置は、左右の黒目位置とも誤検出されていなければ(ステップS16でY)、次のステップS17に進んで黒目の揺らぎを算出する。ステップS17の詳細については後述する。
一方、画像処理装置は、図7中の黒目位置I13R,I13L、I16R,I16Lに示すように、右目の黒目位置I13R、I16Rのみが誤検出と判定されている場合(ステップS18でY)、ノイズや照明環境等に引き起こされる誤検出であるとして、瞬目を検出することなく、黒目位置I13R、I16Rを黒目位置I13RC、I16RCに補正する(ステップS20)。同様に、画像処理装置は、図7中の黒目位置I19R,I19Lに示すように、左目の黒目位置I19Lのみが誤検出と判定されている場合(ステップS19でY)も同様に、瞬目を検出することなく、黒目位置I19Lを黒目位置I19LCに補正する(ステップS20)。
ステップS20において、画像処理装置は、例えば、黒目位置I13R、I16R、I19Lよりも1フレーム前に検出された黒目位置に補正する。
また、画像処理装置は、図7中の黒目位置I52L,I52R、I53L,I53R、I54L,I54R、I55L,I55Rに示すように、左右両目の黒目位置が誤検出と判定されると(ステップS19でN)、両目の誤検出が4フレーム以上連続するか否かを判定する(ステップS21)。4フレーム以上連続していなければ(ステップS21でN)、画像処理装置は、瞬目を検出することなく、検出された黒目位置を補正する(ステップS20)。
これに対して、画像処理装置は、両目の誤検出が4フレーム以上連続すると(ステップS21でY)、瞬目を検出した後(ステップS22)、検出された黒目位置を補正する(ステップS20)。図7に示す例では、画像処理装置は、黒目位置P55L,P55Rを検出したタイミングで、瞬きを検出する。
次のステップS17において画像処理装置は、黒目の揺らぎVTを算出する。黒目の揺らぎVTは、下記の式(3)で表すことができる。
n:黒目の揺らぎVTを検出する揺らぎ検出期間における黒目位置のサンプリング数、Ii(x、y):揺らぎ検出期間において検出された黒目位置、u:揺らぎ検出期間において検出された黒目位置の平均値
式(3)は揺らぎ検出期間における黒目位置の分散値を表し、黒目の揺らぎVTが大きいと黒目が大きな範囲で動いていることを示し、黒目の揺らぎVTが小さいと黒目があまり動いていないことを示す。
次のステップS18において画像処理装置は、黒目の揺らぎVTと瞬目の検出回数に基づいて人物11の注意力が低下しているか否かの判定を行う。
<瞬目数と注意力との関係>
注意力(覚醒状態)と瞬目数には、正または負の相関があることが分かっている。即ち、状況によって注意力の低下に従って、瞬目数が低下していく場合もあれば、瞬目が著しく増加する場合もある。例えば、下記に示す文献では、眠気表情値が高くなる(即ち注意力が低下する)に従って瞬目の回数が増加することが記載されている。
「実車走行環境における自動車運転時のドライバ状態(覚醒度)検知に関する研究、佐藤健司他、JARI Research Journal(2012〜),JPJ20181202 研究速報」
注意力(覚醒状態)と瞬目数には、正または負の相関があることが分かっている。即ち、状況によって注意力の低下に従って、瞬目数が低下していく場合もあれば、瞬目が著しく増加する場合もある。例えば、下記に示す文献では、眠気表情値が高くなる(即ち注意力が低下する)に従って瞬目の回数が増加することが記載されている。
「実車走行環境における自動車運転時のドライバ状態(覚醒度)検知に関する研究、佐藤健司他、JARI Research Journal(2012〜),JPJ20181202 研究速報」
また、下記の文献には、聴覚課題及び視覚課題をそれぞれ連続して被験者に与え、被験者の瞬目数を計測した結果が記載されている。この結果によれば、聴覚課題については課題を与える時間が長いほど(注意力が低下するほど)瞬目の回数が低下し、視覚課題については課題を与える時間が長いほど瞬目の回数が増加する。
「覚醒水準と瞬目率の関係性仮設、熊谷太郎他、九州大学大学院システム情報科学紀要.11(1),pp.17-22,2006-03-24.九州大学大学院システム情報科学研究院」
「覚醒水準と瞬目率の関係性仮設、熊谷太郎他、九州大学大学院システム情報科学紀要.11(1),pp.17-22,2006-03-24.九州大学大学院システム情報科学研究院」
<黒目の揺らぎと注意力との関係>
また、特開2014−16702号公報には、通常運転中と漫然運転中との頭部及び眼球(黒目)の動きについて記載されている。通常の運転において、運転者は運転に集中しているため、頭部と眼球は広い範囲で動き、黒目の揺らぎVTが大きい。一方、運転者が漫然状態の場合、眼球運動は鋭く動く回数が減るため、眼球運動の角速度が低下し、ある単位時間内において±1.0[deg/sec]付近に分布が集まる。
また、特開2014−16702号公報には、通常運転中と漫然運転中との頭部及び眼球(黒目)の動きについて記載されている。通常の運転において、運転者は運転に集中しているため、頭部と眼球は広い範囲で動き、黒目の揺らぎVTが大きい。一方、運転者が漫然状態の場合、眼球運動は鋭く動く回数が減るため、眼球運動の角速度が低下し、ある単位時間内において±1.0[deg/sec]付近に分布が集まる。
これらの知見により、ステップS18において本実施形態の画像処理装置は、図5に示すように、黒目の揺らぎVTが小さく、眼球の角速度が±1.0[deg/sec]以下であるとみなせる場合(ステップS231でY)、人物11の注意力が低下した状態と判定する(ステップS233)。また、画像処理装置は、瞬目数が一定時間内に大きく変化したと判定した場合(ステップS232でY)、人物11の注意力が低下した状態と判定した後(ステップS233)、図3のステップS24に進む。また、画像処理装置は、黒目の揺らぎVTが大きく(ステップS231でN)、瞬目数が大きく変化していない場合(ステップS232でN)、注意力低下の判定をせずに、図3のステップS24に進む。
次のステップS24では画像処理装置は、検出した黒目位置、補正後の黒目位置、黒目の揺らぎ、注意力低下の判定結果などの情報を保存すると共に、アプリケーションの必要に応じて出力した後、ステップS11に戻る。これにより、ステップS11〜S24のループ状の処理を繰り返すことで、1フレーム毎にリアルタイムで、黒目位置、注意力判定などを実現する。
上述した実施形態によれば、画像処理装置は、赤外線を目に当てて反射した後の位置を検出に用いる手法を用いずに、黒目位置の検出結果を用いて、瞬目を検出することができる。これにより、精度よく瞬目を検出でき、かつ、処理負担を低減させることができる。
また、上述した実施形態によれば、画像処理装置は、黒目位置の変位量|ΔIt(x、y)|又は黒目位置から求めた黒目速度の変位量|Δvt(x、y)|が閾値Ti、Tvより大きいとき、誤検出していると判定する。これにより、容易に、かつ、精度よく、黒目位置の誤検出を判定することができる。
なお、本発明は、上述した実施形態に限定されるものではなく、適宜、変形、改良、等が可能である。その他、上述した実施形態における各構成要素の材質、形状、寸法、数、配置箇所、等は本発明を達成できるものであれば任意であり、限定されない。
また、上述した実施形態によれば、画像処理装置は、左右両目の黒目位置が誤検出であるとの判定が4フレーム以上継続している場合、瞬目を検出していたが、これに限ったものではない。フレームレートによっては、左右両目の黒目位置が誤検出されたと判定されると直ちに、瞬目を検出するようにしてもよい。
また、上述した実施形態によれば、画像処理装置は、瞬目を検出していたが、これに限ったものではない。左右両目の黒目位置が誤検出であるとの判定が瞬目よりさらに長い間継続している場合、人物11が目を閉じて居眠りしていると判定するようにしてもよい。
また、上述した実施形態によれば、画像処理装置が行うデータ処理は、車両内10に搭載された処理部13が全て行っていたが、これに限ったものではない。例えば、処理部13が外部のサーバ装置と通信可能に設けられ、サーバ装置が画像に対するデータ処理の全部または一部を実行するようにしてもよい。
ここで、上述した本発明に係る画像処理装置、画像処理方法および画像処理プログラムの実施形態の特徴をそれぞれ以下[1]〜[4]に簡潔に纏めて列記する。
[1]
顔を含むように撮影された画像に対してデータ処理を行うデータ処理部(13)を備える画像処理装置であって、
前記データ処理部(13)は、
前記画像中の左右両目の黒目位置を検出する黒目検出部(13)と、
前記黒目検出部(13)が左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定部(13)と、
前記誤検出判定部(13)の判定結果に基づいて、目が閉じていることを検出する閉検出部(13)と、を有する、
画像処理装置であること。
[2]
[1]に記載の画像処理装置において、
前記誤検出判定部(13)は、前記黒目検出部(13)により検出された前記黒目位置の変位量又は前記黒目位置から求めた黒目速度の変位量が閾値より大きいとき、誤検出していると判定する、
画像処理装置であること。
[3]
顔を含むように撮影された画像に対してデータ処理を行う画像処理方法であって、
前記画像中の左右両目の黒目位置を検出する黒目検出ステップと、
前記黒目検出ステップにより左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定ステップと、
前記誤検出判定ステップによる判定結果に基づいて、目が閉じていることを検出する瞬目検出ステップと、を有する、
画像処理方法であること。
[4]
コンピュータに[3]に記載の画像処理方法の各ステップを実行させるための画像処理プログラムであること。
[1]
顔を含むように撮影された画像に対してデータ処理を行うデータ処理部(13)を備える画像処理装置であって、
前記データ処理部(13)は、
前記画像中の左右両目の黒目位置を検出する黒目検出部(13)と、
前記黒目検出部(13)が左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定部(13)と、
前記誤検出判定部(13)の判定結果に基づいて、目が閉じていることを検出する閉検出部(13)と、を有する、
画像処理装置であること。
[2]
[1]に記載の画像処理装置において、
前記誤検出判定部(13)は、前記黒目検出部(13)により検出された前記黒目位置の変位量又は前記黒目位置から求めた黒目速度の変位量が閾値より大きいとき、誤検出していると判定する、
画像処理装置であること。
[3]
顔を含むように撮影された画像に対してデータ処理を行う画像処理方法であって、
前記画像中の左右両目の黒目位置を検出する黒目検出ステップと、
前記黒目検出ステップにより左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定ステップと、
前記誤検出判定ステップによる判定結果に基づいて、目が閉じていることを検出する瞬目検出ステップと、を有する、
画像処理方法であること。
[4]
コンピュータに[3]に記載の画像処理方法の各ステップを実行させるための画像処理プログラムであること。
13 処理部(データ処理部、黒目検出部、誤検出判定部、閉検出部)
Claims (4)
- 顔を含むように撮影された画像に対してデータ処理を行うデータ処理部を備える画像処理装置であって、
前記データ処理部は、
前記画像中の左右両目の黒目位置を検出する黒目検出部と、
前記黒目検出部が左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定部と、
前記誤検出判定部の判定結果に基づいて、目が閉じていることを検出する閉検出部と、を有する、
画像処理装置。 - 請求項1に記載の画像処理装置において、
前記誤検出判定部は、前記黒目検出部により検出された前記黒目位置の変位量又は前記黒目位置から求めた黒目速度の変位量が閾値より大きいとき、誤検出していると判定する、
画像処理装置。 - 顔を含むように撮影された画像に対してデータ処理を行う画像処理方法であって、
前記画像中の左右両目の黒目位置を検出する黒目検出ステップと、
前記黒目検出ステップにより左右両目の前記黒目位置を誤検出しているか否かを判定する誤検出判定ステップと、
前記誤検出判定ステップによる判定結果に基づいて、目が閉じていることを検出する瞬目検出ステップと、を有する、
画像処理方法。 - コンピュータに請求項3に記載の画像処理方法の各ステップを実行させるための画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019154564A JP2021033755A (ja) | 2019-08-27 | 2019-08-27 | 画像処理装置、画像処理方法および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019154564A JP2021033755A (ja) | 2019-08-27 | 2019-08-27 | 画像処理装置、画像処理方法および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021033755A true JP2021033755A (ja) | 2021-03-01 |
Family
ID=74678290
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019154564A Abandoned JP2021033755A (ja) | 2019-08-27 | 2019-08-27 | 画像処理装置、画像処理方法および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021033755A (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06227278A (ja) * | 1993-02-03 | 1994-08-16 | Nissan Motor Co Ltd | 運転者の状態検出装置 |
JP2009125518A (ja) * | 2007-11-28 | 2009-06-11 | Calsonic Kansei Corp | ドライバの瞬き検知方法及びドライバの覚醒度判断方法並びに装置 |
JP2012065997A (ja) * | 2010-09-27 | 2012-04-05 | Panasonic Corp | 視線推定装置 |
-
2019
- 2019-08-27 JP JP2019154564A patent/JP2021033755A/ja not_active Abandoned
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06227278A (ja) * | 1993-02-03 | 1994-08-16 | Nissan Motor Co Ltd | 運転者の状態検出装置 |
JP2009125518A (ja) * | 2007-11-28 | 2009-06-11 | Calsonic Kansei Corp | ドライバの瞬き検知方法及びドライバの覚醒度判断方法並びに装置 |
JP2012065997A (ja) * | 2010-09-27 | 2012-04-05 | Panasonic Corp | 視線推定装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6338701B2 (ja) | 瞬間的な眠りを検出するデバイス、方法およびコンピュータプログラム | |
Mohanty et al. | Design of real-time drowsiness detection system using dlib | |
Azim et al. | Fully automated real time fatigue detection of drivers through fuzzy expert systems | |
Bergasa et al. | Real-time system for monitoring driver vigilance | |
Danisman et al. | Drowsy driver detection system using eye blink patterns | |
Ghosh et al. | Real time eye detection and tracking method for driver assistance system | |
TW201140511A (en) | Drowsiness detection method | |
Rezaei et al. | 3D cascade of classifiers for open and closed eye detection in driver distraction monitoring | |
Luo et al. | The driver fatigue monitoring system based on face recognition technology | |
Nakamura et al. | Driver drowsiness estimation from facial expression features computer vision feature investigation using a CG model | |
Al Redhaei et al. | Realtime driver drowsiness detection using machine learning | |
Bergasa et al. | Visual monitoring of driver inattention | |
Veeraraghavan et al. | Detecting driver fatigue through the use of advanced face monitoring techniques | |
Bergasa et al. | Real-time system for monitoring driver vigilance | |
Dahiphale et al. | A review paper on portable driver monitoring system for real time fatigue | |
JP2004192552A (ja) | 開閉眼判定装置 | |
CN109657550B (zh) | 一种疲劳度检测方法及装置 | |
JP2021033755A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
Jimenez-Pinto et al. | Driver alert state and fatigue detection by salient points analysis | |
Pant et al. | Driver's Companion-Drowsiness Detection and Emotion Based Music Recommendation System | |
Wang et al. | An improved image-based iris-tracking for driver fatigue detection system | |
Craye | A framework for context-aware driver status assessment systems | |
WO2021048682A1 (ja) | 分類方法 | |
Keyvanara et al. | Robust real-time driver drowsiness detection based on image processing and feature extraction methods | |
Ashwini et al. | Deep Learning Based Drowsiness Detection With Alert System Using Raspberry Pi Pico |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220711 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230512 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230523 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20230717 |