JP6651911B2 - 顔画像処理装置 - Google Patents

顔画像処理装置 Download PDF

Info

Publication number
JP6651911B2
JP6651911B2 JP2016043063A JP2016043063A JP6651911B2 JP 6651911 B2 JP6651911 B2 JP 6651911B2 JP 2016043063 A JP2016043063 A JP 2016043063A JP 2016043063 A JP2016043063 A JP 2016043063A JP 6651911 B2 JP6651911 B2 JP 6651911B2
Authority
JP
Japan
Prior art keywords
image
image processing
unit
face
eye
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016043063A
Other languages
English (en)
Other versions
JP2017161965A (ja
Inventor
慶伸 青木
慶伸 青木
俊二 太田
俊二 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2016043063A priority Critical patent/JP6651911B2/ja
Priority to CN201710119467.1A priority patent/CN107169403B/zh
Priority to DE102017203649.4A priority patent/DE102017203649A1/de
Priority to US15/451,712 priority patent/US10223577B2/en
Publication of JP2017161965A publication Critical patent/JP2017161965A/ja
Application granted granted Critical
Publication of JP6651911B2 publication Critical patent/JP6651911B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Ophthalmology & Optometry (AREA)
  • Geometry (AREA)
  • Vascular Medicine (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、顔画像処理装置に関し、特に、人の顔を撮像した顔画像に基づいて眼の位置や状態を検出する顔画像処理装置に関する。
従来から、人の顔を撮像した顔画像に基づいて、眼の位置や状態を検出する技術が知られている。例えば、特許文献1は、鼻孔および目の特徴を表した2次元テンプレートを用いることにより、付属情報に左右されることなく精度よく、高速に鼻孔および目を抽出する顔画像処理装置を開示する。この顔画像処理装置は、2次元テンプレートを用いて顔画像から目候補が存在する領域を推定し、その領域内で目候補を複数の輝度値を有するデータに変換して目候補を抽出する。そして、この顔画像処理装置は、抽出された候補内で、目候補画素の2次元の重心位置を目位置とすることにより、目およびその位置を確定する。
また、特許文献2は、撮影された運転者の顔画像を処理することにより種々の走行環境により輝度変化が生じても、確実に運転者の運転状態を検出する運転状態検出装置を開示する。この運転状態検出装置は、撮影された運転者の画像を濃淡正規化し、正規化された画像に対して予め顔及び目領域を特定した標準テンプレートを用いて相関演算することにより、運転者用の対象顔テンプレート及び対象目テンプレートを作成する。そして、この運転状態検出装置は、正規化された画像に対して対象テンプレートを用いて相関演算を行い、相関値の変化に基づき運転者の運転状態を検出する。正規化を行うことにより周囲の輝度によらず、また相関演算を行うことにより確実に運転者の居眠りやわき見などの異常状態を検出できる。
また、特許文献3は、誤認識を減らして、個人差に柔軟に対応することのできる眼位置認識装置を開示する。この眼位置認識装置は、顔画像におけるエッジを検出してエッジ画像を取得し、例えば上瞼を模擬した上に凸の半円弧形状をテンプレートとエッジ画像内における所定画像領域との一致度合いを算出し、一致度合いが閾値以上となる画像領域を眼候補位置として決定する。そして、2つの眼候補位置のエッジが同時に上下移動したことを瞬きであると見なして、これらの眼候補位置を眼位置として確定する。
また、特許文献4は、偏光を利用して被検眼に表れる縞視標を観察して被検眼の面形状を定性的に求めることを目的とした眼科用実体顕微鏡装置を開示する。この眼科用実体顕微鏡装置では、光源からの光は、偏光子として作用する偏光板などを通って照明した被検眼を観察すると、角膜の状態によって様々な縞模様が観察でき、この縞模様により角膜形状を判断する。
特開2001−022933号公報 特開平06−255388号公報 特開2011−086051号公報 特開平09−276319号公報
本発明は、顔画像に基づいて眼の位置や状態をより正確に検出する顔画像処理装置を提供するものである。
上記課題を解決するために、第1方向に偏光する第1偏光子と、第1偏光子を通して赤外線を発光する発光器とを有する照明部と、第1方向と直交する第2方向に偏光する第2偏光子と、第2偏光子通して撮像する撮像器とを有する撮像部と、照明部が赤外線を発光した時に撮像部が撮像した第1画像と、照明部が赤外線を発光しない時に撮像部が撮像した第2画像とを用いて眼の候補を検出する画像処理部と、を備え、画像処理部は、第2画像には存在せず第1画像に存在する双曲線状あるいは十字状の模様を有する眼の候補を眼であると確定する顔画像処理装置が提供される。または、第1方向に偏光する第1偏光子と、第1偏光子を通して赤外線を発光する第1発光器とを有する第1照明部と、赤外線を発光する第2発光器を有する第2照明部と、第1方向と直交する第2方向に偏光する第2偏光子と、第2偏光子通して撮像する撮像器とを有する撮像部と、第1照明部が赤外線を発光した時に撮像部が撮像した第1画像と、第2照明部が赤外線を発光した時に撮像部が撮像した第2画像とに基づいて、第2画像には存在せず第1画像に存在する双曲線状あるいは十字状の模様を眼として検出する画像処理部と、を備える顔画像処理装置が提供される。
これによれば、顔画像において眼にのみ表れる特徴的な模様を検出することで、眼の位置や状態を正確に検出することができる。
さらに、画像処理部は、第1画像と第2画像との差分である差分画像を生成し、差分画像に基づいて模様を検出することを特徴としてもよい。
これによれば、差分画像では外光の影響を相殺できるので、より正確に眼の位置を検出することができる。
さらに、車両を運転する運転者の前方からその運転者の顔に向けて発光器が照射するように設けられた上記の顔画像処理装置であって、画像処理部は、模様が検出された場合には、運転者は前方を見ていると判断することを特徴としてもよい。
これによれば、運転者が正常に運転していることを正確に検出することができる。
本発明によれば、顔画像に基づいて眼の位置や状態をより正確に検出する顔画像処理装置を提供できる。
本発明に係る第一実施例の顔画像処理装置の外観図。 本発明に係る第一実施例の顔画像処理装置を車両に設けた場合の、(A)上方から見た場合の説明図、(B)側方からみた場合の説明図。 本発明に係る第一実施例の顔画像処理装置のブロック図。 本発明に係る第一実施例の顔画像処理装置における撮像のタイミングチャート。 本発明に係る第一実施例の顔画像処理装置における全体的な動作を示すフローチャート。 本発明に係る第一実施例の顔画像処理装置における模様を検出する方法を示すフローチャート。 本発明に係る第一実施例の顔画像処理装置で撮像した、(A)第1画像、(B)第2画像。 本発明に係る第一実施例の顔画像処理装置で撮像した、(A)第1画像と第2画像の差分画像、(B)差分画像における眼の候補を示す説明図。 本発明に係る第一実施例の顔画像処理装置で撮像した第1画像と第2画像の差分画像から眼を確定する説明図。 本発明に係る第一実施例の顔画像処理装置における模様を検出する方法の説明図(全画素のうち、ある一つの眼の候補近傍の画素を抜粋)。 本発明に係る第二実施例の顔画像処理装置の外観図。 本発明に係る第二実施例の顔画像処理装置を車両に設けた場合の、(A)上方から見た場合の説明図、(B)側方からみた場合の説明図。 本発明に係る第二実施例の顔画像処理装置のブロック図。 本発明に係る第二実施例の顔画像処理装置における撮像のタイミングチャート。 本発明に係る第二実施例の顔画像処理装置における全体的な動作を示すフローチャート。
以下では、図面を参照しながら、本発明に係る各実施例について説明する。
<第一実施例>
図1〜図3を参照し、本実施例における顔画像処理装置100を説明する。顔画像処理装置100は、車両を運転する運転者DRの顔を撮像して運転者DRの運転状態を検出するために、運転者DRの前方正面から顔に向けて光を照射し、撮像するように設けられている。顔画像処理装置100は、ほぼ立方体の同じ面に照明部10と撮像部20を備えて、その面を運転者DRに向けるようにして、ハンドルWLの奥のたとえばハンドル軸部や、インパネ部分やバックミラーなどに配置され、運転者DRが運転中の顔に光を照射し、撮像する。
顔画像処理装置100は、顔を撮像する撮像部20と、その撮像部20の周りを囲むように円環状に配置された複数の発光器12から構成された照明部10とを備える。顔画像処理装置100の照明部10は、発光器12として赤外線を発光する発光ダイオードが、撮像部20は、撮像器22として可視光および赤外線を撮像できるCCD(Charge−Coupled Device)カメラが用いられるが、無論、これに限定されるものではない。赤外線が用いられるのは、昼間だけでなく夜間の暗い時であっても暗視できるからである。
照明部10は、発光器12に加え、第1方向に偏光する第1偏光子11を有し、発光器12は、赤外線を発光する際第1偏光子11を通して外部へ赤外線を照射する。偏光子は、自然光の中から所定の方向に偏光面を有し、透過光を偏光させる、典型的には偏光板である。本実施例では、後述する撮像部20が有する第2偏光子21の第2方向との対比において、第1方向に偏光を行う第1偏光子11は、垂直方向に偏光面を有するものとする。
撮像部20は、撮像器22に加え、第1方向と直交する第2方向に偏光する第2偏光子21、すなわち水平方向に偏光面を有する第2偏光子21を有し、撮像器22は、受光して撮像する際第2偏光子21を通して外部から受光する。したがって、撮像器22は、発光器12が偏光して照射した赤外線の反射光を偏光して受光すると共に、自然光の反射光を偏光して受光する。
顔画像処理装置100は、さらに、撮像部20が撮像した画像を記憶する記憶部50と、記憶部50が記憶した画像に基づいて眼など検出するために画像処理する画像処理部30と、画像処理部30が処理した結果を使用する外部機構に出力するための外部出力部60と、これら全体を制御する制御部40を備える。記憶部50は、たとえば半導体メモリであり、外部出力部60および制御部40はマイコンおよびそのマイコンで処理される制御ロジックである。
図4に示すように、顔画像処理装置100の制御部40は、照明部10の発光器12に赤外線を発光させ、運転手DRの顔に照射している間に、撮像部20に運転手DRの顔を撮像させて第1画像を取得し、記憶部50に記憶させる。そして、制御部40は、引き続いて、照明部10の発光器12の発光を止めた後に、撮像部20に運転手DRの顔を自然光のみで撮像させて第2画像を取得し、記憶部50に記憶させる。第1画像と第2画像を記憶部50に記憶した後、画像処理部30は、2つの画像を処理して、後述する方法により眼などを検出する。
図5および図6を参照して、顔画像処理装置100における動作を説明する。なお、フローチャートにおけるSはステップを意味する。顔画像処理装置100の制御部40は、S100において、発光器12を点灯させて赤外線を運転者の顔に照射する。制御部40は、S102において、発光器12を発光させている間に撮像部20に運転者の顔を撮像させる。制御部40は、S104において、撮像部20が撮像した画像を第1画像として記憶部50に記憶させる。
ここで図7(A)を参照して、運転者の顔の第1画像について説明する。従来技術で述べたように、生体の角膜に対して偏光子によって作られた偏光を照射し、その偏光に直交する偏光フィルタを通して撮影した角膜を観察した場合、角膜の異方性によって、角膜中心部に双曲線状や十字状の縞模様が観察されることが知られている。そうすると、第1画像には、本図に示すような運転者の眼の角膜には、本図では45度傾いた双曲線状または十字状の模様が存在する。この双曲線状または十字状の模様の傾きは、運転者の顔(眼)の傾きによって変化することはなく、偏光する方向(第1方向と第2方向)によって一定である。したがって、運転者が顔を傾けたり横を向いたりしても、たとえば第1方向を垂直方向、第2方向を水平方向と固定して撮像する限り、双曲線状または十字状の模様の傾きは一定であり、不変である。なお、模様が双曲線状であるか十字状であるかは、曲面を有する角膜を観察する角度により、模様の見え方が多少変化するものであり、本質的な違いではない。
制御部40は、S106において、発光器12を消灯する。制御部40は、S108において、自然光のみで撮像部20に運転者の顔を撮像させる。制御部40は、S110において、撮像部20が撮像した画像を第2画像として記憶部50に記憶させる。図7(B)は、運転者の顔の第2画像を示すが、第2画像では、自然光でのみ撮像しているので、偏光子21を通して撮像しても、運転者の眼の角膜には特徴的な双曲線状または十字状の模様は存在しない。
2つの画像が記憶部50に記憶されたら、画像処理部30は、S112において、第1画像と第2画像の差分の画像を生成する。差分の画像を得るのは、第1画像および第2画像に共通する光すなわち赤外線を照射している際にも存する自然光による反射光によって得られた画像部分を相殺でき精細な画像が得られる点で好ましい。したがって、本ステップの差分画像を生成するのは選択的なものであり、第1画像または第2画像のみから次ステップを行ってもよい。図8(A)は差分画像を示すが、その中から、たとえば、所定値以上の大きさで暗い画素が丸くかたまっているものを眼の候補とすることができる。画像処理部30は、S114において、得られた差分画像、または第1画像/第2画像から眼の候補となる画像部分を抽出する。
画像処理部30は、S116において、眼の候補となる画像部分があるかどうか検査し、眼の候補となる画像部分がある場合には、S118において、眼の候補となる画像部分において図6のフローチャートで示すような模様を抽出する処理を行う。図8(B)では、所定値以上大きさで暗い画素が丸くかたまっているものとして、眼、鼻の孔、および口が、眼の候補として抽出されたものとして示す。これらの眼の候補となる画像部分それぞれに対して、以下のようにして本当に眼であるか否かの判定を行う。
画像処理部30は、S200において、眼の候補となる画像部分の中心の画素から5画素上にある画素の輝度値Aを求める。なお、本実施例では5画素で統一して記載するが、画素の密度により人の角膜を写す画像の画素数は適宜定められる。画像処理部30は、S202において、眼の候補となる画像部分の中心の画素から5画素下にある画素の輝度値Bを求める。画像処理部30は、S204において、眼の候補となる画像部分の中心の画素から5画素左にある画素の輝度値Cを求める。画像処理部30は、S206において、眼の候補となる画像部分の中心の画素から5画素右にある画素の輝度値Dを求める。図10に示すように、眼の候補となる画像部分の中心の画素から5画素上下左右すなわち垂直方向および水平方向離れた画素は、暗い画素として共通する。これは、上述したように、偏光する方向を第1方向および第2方向に固定して撮像する限り、一定しているからである。
画像処理部30は、S208において、眼の候補となる画像部分の中心の画素から5画素斜め右上にある画素の輝度値Eを求める。画像処理部30は、S210において、眼の候補となる画像部分の中心の画素から5画素斜め左上にある画素の輝度値Fを求める。画像処理部30は、S212において、眼の候補となる画像部分の中心の画素から5画素斜め右下にある画素の輝度値Gを求める。画像処理部30は、S214において、眼の候補となる画像部分の中心の画素から5画素斜め左下にある画素の輝度値Hを求める。図10に示すように、眼の候補となる画像部分の中心の画素から5画素斜め右上、右下、左上、左下の画素は、明るい画素として共通する。同様に、偏光する方向を第1方向および第2方向に固定して撮像する限り、一定しているからである。
画像処理部30は、S216において、輝度値A、B、C、DのばらつきIを算出する。画像処理部30は、S218において、輝度値A、B、C、Dの平均値Jを算出する。画像処理部30は、S220において、輝度値E、F、G、HのばらつきKを算出する。画像処理部30は、S222において、輝度値E、F、G、Hの平均値Lを算出する。
画像処理部30は、S224において、ばらつきIが所定の閾値内に収まっているか否かを検査する。双曲線状または十字状の模様は上述したように必ず一定の角度で表れるので、90度をなす画素の輝度のばらつきが大きいと双曲線状または十字状の模様が表れていない(または異常値)と考えられるからである。画像処理部30は、S226において、同様にばらつきKが所定の閾値内に収まっているか否かを検査する。画像処理部30は、S228において、平均値Jと平均値Kの差を算出する。そして、画像処理部30は、S230において、平均値Jと平均値Kの差が所定の閾値以上であるか否かを検査する。双曲線状または十字状の模様が表れていれば、暗い画素の平均と明るい画素の平均の差として表れるので、所定の閾値以上の差があることになるからである。
したがって、画像処理部30は、ばらつきIおよびKが所定の閾値内であって、平均値JとLの差が所定の閾値以上である場合には、S232において、眼の候補となった画像部分には双曲線状または十字状の模様があると判定する。一方、画像処理部30は、ばらつきIまたはKが所定の閾値内でないか、平均値JとLの差が所定の閾値以上でない場合、S234において、眼の候補となった画像部分には双曲線状または十字状の模様がないと判定する。
画像処理部30は、S120において、眼の候補となった画像部分には双曲線状または十字状の模様があるか否かを検査し、あると判定した場合には、S122において、かかる特徴的な模様は眼以外では表れないので、その眼の候補となった画像部分は眼の画像であると確定する。この場合の、顔画像を差分画像により示すと、図9に示すように、角膜に表れる双曲線状または十字状の模様のみが差分として示される。このように、差分画像に基づいて双曲線状または十字状の模様を検出することにより、差分画像では外光の影響を相殺できるので、より正確に眼の位置を検出することができる。また、眼の候補となった画像部分には双曲線状または十字状の模様がないと判定した場合には、画像処理部30は、S128において、その眼の候補は眼ではないと判定する。
顔画像処理装置100は、運転者DRの前方正面から撮像するように設けられており、そこから角膜の存在を確認できたことは、運転者DRが前方を見ている状態であると判断し、外部出力部60は、S124において、運転者DRは正常に前方を見て運転しているという結果を出力する。そして、所定の休止期間T1をおいて、上述したステップを繰り返す(S126)。なお、これらのステップを繰り返す中で眼の候補を眼と確定していたにも拘わらず、S116で眼の候補を検出しなかった場合またはS120で角膜の模様を検出できなかった場合、顔画像処理装置100は、運転者DRが前方を見ていない状態、たとえば、居眠りや脇見をしている状態であると判断し、外部出力部60は、S130において、運転者DRは正常に前方を見て運転していないという結果を出力する。
上述したように、顔画像処理装置100は、照明部10が赤外線を発光した時に撮像部20が撮像した第1画像と、照明部10が赤外線を発光しない時に撮像部20が撮像した第2画像とを用いて眼の候補を検出し、第2画像には存在せず第1画像に存在する双曲線状あるいは十字状の模様を有する眼の候補を眼であると確定する。このように、顔画像において眼にのみ表れる特徴的な模様を検出することで、眼の位置や状態を正確に検出することができる。
<第二実施例>
図11〜図13を参照し、本実施例における顔画像処理装置100Aを説明する。なお、重複記載を避けるために、上記実施例と同じ構成要素には同じ符号を付し、異なる部分を中心に説明する。顔画像処理装置100Aは、車両を運転する運転者DRの顔を撮像して運転者DRの運転状態を検出するために、運転者DRの前方正面から顔に向けて光を照射し、撮像するように設けられている。顔画像処理装置100Aは、ほぼ立方体の同じ面に第1照明部10および第2照明部10’と撮像部20とを備えて、その面を運転者DRに向けるようにして、ハンドルWLの奥のたとえばハンドル軸部などに配置され、運転者DRが運転中の顔に光を照射し、撮像する。なお、本実施例では、撮像部20の左右両側に2つの照明部として設けられているが、これに限定されず、たとえば上記実施例と同様に撮像部20の周囲に円環状に設けられ、第1照明部10に属する第1発光器12と第2照明部10’に属する第2発光器12’とが交互に配置されてもよい。
第1発光器12および第2発光器12’は、赤外線を発光する発光ダイオードである。第1照明部10は、第1発光器12および第1方向に偏光する第1偏光子11を有し、第1発光器12は、赤外線を発光する際第1偏光子11を通して外部へ赤外線を照射する。一方、第2照明部10’は、第2発光器12’のみを有し、第1発光器12は、赤外線を偏光せずに直接外部へ赤外線を照射する。
撮像部20は、撮像器22と、第1方向と直交する第2方向に偏光する第2偏光子21を有し、撮像器22は、受光して撮像する際第2偏光子21を通して外部から受光する。したがって、撮像器22は、第1発光器12が偏光して照射した赤外線の反射光を偏光して受光すると共に、第2発光器12’が直接照射した赤外線および自然光の反射光を偏光して受光する。
図14に示すように、顔画像処理装置100Aの制御部40Aは、第1照明部10の第1発光器12に赤外線を発光させ、運転手DRの顔に照射している間に、撮像部20に運転手DRの顔を撮像させて第1画像を取得し、記憶部50に記憶させる。そして、制御部40Aは、引き続いて、第1照明部10の第1発光器12の発光を止めた後に、第2照明部10’の第2発光器12’に赤外線を発光させ、運転手DRの顔に照射している間に、撮像部20に運転手DRの顔を撮像させて第2画像を取得し、記憶部50に記憶させる。第1画像と第2画像を記憶部50に記憶した後、画像処理部30Aは、2つの画像を処理して、眼を検出する。
図15を参照して、顔画像処理装置100Aにおける動作を説明する。顔画像処理装置100Aの制御部40Aは、S300において、第1発光器12を点灯させて赤外線を運転者の顔に照射する。制御部40Aは、S302において、第1発光器12を発光させている間に撮像部20に運転者の顔を撮像させる。制御部40Aは、S304において、撮像部20が撮像した画像を第1画像として記憶部50に記憶させる。記憶部50に記憶された第1画像には、上記実施例における第1画像と同様、双曲線状または十字状の模様が存在する。
制御部40Aは、S306において、第1発光器12を消灯する。制御部40Aは、S308において、第2発光器12’を点灯させて赤外線を運転者の顔に照射する。制御部40Aは、S310において、第2発光器12’を発光させている間に撮像部20に運転者の顔を撮像させる。制御部40Aは、S312において、撮像部20が撮像した画像を第2画像として記憶部50に記憶させる。記憶部50に記憶された第2画像には、上記実施例における第2画像と同様、運転者の眼の角膜には特徴的な双曲線状または十字状の模様が存在しない。制御部40Aは、S314において、第2発光器12’を消灯する。
2つの画像が記憶部50に記憶されたら、画像処理部30Aは、S316において、第1画像と第2画像の差分の画像を生成する。この差分画像には、上述した図9に示すような角膜に表れる双曲線状または十字状の模様のみが差分として示される。そこで、画像処理部30Aは、S318において、かかる特徴的な模様をパターンマッチングなどの方法により抽出する。画像処理部30Aは、S320において、差分画像において双曲線状または十字状の模様があるか否かを検査し、あると判定した場合には、S322において、かかる特徴的な模様は眼以外では表れないので、その模様がある箇所を眼であると判定する。また、差分画像には双曲線状または十字状の模様がないと判定した場合には、画像処理部30Aは、S328において、眼が検出できないと判定する。
顔画像処理装置100Aは、運転者DRの前方正面から撮像するように設けられており、そこから角膜の存在を確認できたことは、運転者DRが前方を見ている状態であると判断し、外部出力部60は、S324において、運転者DRは正常に前方を見て運転しているという結果を出力する。そして、所定の休止期間T1をおいて、上述したステップを繰り返す(S326)。なお、これらのステップを繰り返す中で模様が存在すると判定していたにも拘わらず、S320で角膜の模様を検出できなかった場合、顔画像処理装置100Aは、運転者DRが前方を見ていない状態、たとえば、居眠りや脇見をしている状態であると判断し、外部出力部60は、S330において、運転者DRは正常に前方を見て運転していないという結果を出力する。
上述したように、顔画像処理装置100Aは、第1照明部10が赤外線を発光した時に偏光した赤外線の反射光で撮像部20が撮像した第1画像と、第2照明部10’が赤外線を発光した時に偏光しない赤外線の反射光で撮像部20が撮像した第2画像とに基づいて、第2画像には存在せず第1画像に存在する双曲線状あるいは十字状の模様を眼として検出する。このように、顔画像において眼にのみ表れる特徴的な模様を検出することで、眼の位置や状態を正確に検出することができる。
なお、本発明は、例示した実施例に限定するものではなく、特許請求の範囲の各項に記載された内容から逸脱しない範囲の構成による実施が可能である。すなわち、本発明は、主に特定の実施形態に関して特に図示され、かつ説明されているが、本発明の技術的思想および目的の範囲から逸脱することなく、以上述べた実施形態に対し、数量、その他の詳細な構成において、当業者が様々な変形を加えることができるものである。
たとえば、上記実施例では、車両の運転者の顔画像を取得したが、重要な機器を操作するオペレータの顔画像など、他の職業に就く人の顔画像を取得してもよい。
100 顔画像処理装置
10 第1照明部
10’ 第2照明部
11 第1偏光子
12 第1発光器
12’ 第2発光器
20 撮像部
21 第2偏光子
22 撮像器
30 画像処理部
40 制御部
50 記憶部
60 外部出力部
DR 運転者
WL ハンドル

Claims (4)

  1. 第1方向に偏光する第1偏光子と、前記第1偏光子を通して赤外線を発光する発光器とを有する照明部と、
    前記第1方向と直交する第2方向に偏光する第2偏光子と、前記第2偏光子通して撮像する撮像器とを有する撮像部と、
    前記照明部が赤外線を発光した時に前記撮像部が撮像した第1画像と、前記照明部が赤外線を発光しない時に前記撮像部が撮像した第2画像とを用いて眼の候補を検出する画像処理部と、
    を備え、
    前記画像処理部は、前記第2画像には存在せず前記第1画像に存在する双曲線状あるいは十字状の模様を有する前記眼の候補を眼であると確定する、
    顔画像処理装置。
  2. 第1方向に偏光する第1偏光子と、前記第1偏光子を通して赤外線を発光する第1発光器とを有する第1照明部と、
    赤外線を発光する第2発光器を有する第2照明部と、
    前記第1方向と直交する第2方向に偏光する第2偏光子と、前記第2偏光子通して撮像する撮像器とを有する撮像部と、
    前記第1照明部が赤外線を発光した時に前記撮像部が撮像した第1画像と、前記第2照明部が赤外線を発光した時に前記撮像部が撮像した第2画像とに基づいて、前記第2画像には存在せず前記第1画像に存在する双曲線状あるいは十字状の模様を眼として検出する画像処理部と、
    を備える顔画像処理装置。
  3. 前記画像処理部は、前記第1画像と前記第2画像との差分である差分画像を生成し、前記差分画像に基づいて前記模様を検出することを特徴とする請求項1または2に記載の顔画像処理装置。
  4. 車両を運転する運転者の前方から前記運転者の顔に向けて前記発光器が照射するように設けられた請求項1乃至3のいずれかに記載の顔画像処理装置であって、
    前記画像処理部は、前記模様が検出された場合には、前記運転者は前方を見ていると判断することを特徴とする顔画像処理装置。
JP2016043063A 2016-03-07 2016-03-07 顔画像処理装置 Active JP6651911B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016043063A JP6651911B2 (ja) 2016-03-07 2016-03-07 顔画像処理装置
CN201710119467.1A CN107169403B (zh) 2016-03-07 2017-03-02 面部图像处理装置
DE102017203649.4A DE102017203649A1 (de) 2016-03-07 2017-03-07 Gesichtsbildverarbeitungsvorrichtung
US15/451,712 US10223577B2 (en) 2016-03-07 2017-03-07 Face image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016043063A JP6651911B2 (ja) 2016-03-07 2016-03-07 顔画像処理装置

Publications (2)

Publication Number Publication Date
JP2017161965A JP2017161965A (ja) 2017-09-14
JP6651911B2 true JP6651911B2 (ja) 2020-02-19

Family

ID=59650889

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016043063A Active JP6651911B2 (ja) 2016-03-07 2016-03-07 顔画像処理装置

Country Status (4)

Country Link
US (1) US10223577B2 (ja)
JP (1) JP6651911B2 (ja)
CN (1) CN107169403B (ja)
DE (1) DE102017203649A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7060790B2 (ja) * 2018-02-06 2022-04-27 ミツミ電機株式会社 カメラおよび乗員検知システム
JP6650118B2 (ja) * 2018-03-15 2020-02-19 オムロン株式会社 乗員監視装置
US10559269B2 (en) 2018-03-30 2020-02-11 Panasonic Liquid Crystal Display Co., Ltd. Viewing position adapting multi-panel electronic display device
CN109614962B (zh) * 2019-01-24 2022-11-18 深圳市梦网视讯有限公司 一种偏光光源人脸图像检测方法和系统
JP7158561B2 (ja) * 2019-03-18 2022-10-21 三菱電機株式会社 運転者状態監視装置及び運転者状態監視方法
CN112763493A (zh) * 2019-11-05 2021-05-07 华硕电脑股份有限公司 外观取像装置及包含其的外观检测装置
JP7510051B2 (ja) 2020-08-12 2024-07-03 花王株式会社 皮膚の画像形成方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2985558B2 (ja) 1993-03-09 1999-12-06 トヨタ自動車株式会社 運転状態検出装置
JPH09276319A (ja) * 1996-04-12 1997-10-28 Canon Inc 眼科用実体顕微鏡装置
JP3768735B2 (ja) 1999-07-07 2006-04-19 三菱電機株式会社 顔画像処理装置
CN100370473C (zh) * 2002-04-26 2008-02-20 马堃 用于人像识别的人像摄取方法
US7091471B2 (en) * 2004-03-15 2006-08-15 Agilent Technologies, Inc. Using eye detection for providing control and power management of electronic devices
CA2714562C (en) * 2008-01-31 2017-11-28 University Of Southern California Practical modeling and acquisition of layered facial reflectance
JP5493676B2 (ja) 2009-10-14 2014-05-14 富士通株式会社 眼位置認識装置
US20110170060A1 (en) * 2010-01-08 2011-07-14 Gordon Gary B Gaze Tracking Using Polarized Light
JP2015194884A (ja) * 2014-03-31 2015-11-05 パナソニックIpマネジメント株式会社 運転者監視システム
JP5747113B1 (ja) 2014-08-22 2015-07-08 Kpe株式会社 遊技機
US11099008B2 (en) * 2014-12-15 2021-08-24 Sony Corporation Capture device assembly, three-dimensional shape measurement device, and motion detection device
US10306156B2 (en) * 2015-11-30 2019-05-28 Photopotech LLC Image-capture device

Also Published As

Publication number Publication date
CN107169403A (zh) 2017-09-15
JP2017161965A (ja) 2017-09-14
US20170255819A1 (en) 2017-09-07
CN107169403B (zh) 2021-10-22
DE102017203649A1 (de) 2017-09-07
US10223577B2 (en) 2019-03-05

Similar Documents

Publication Publication Date Title
JP6651911B2 (ja) 顔画像処理装置
US9760774B2 (en) Line-of-sight detection apparatus
JP4793269B2 (ja) 眠気検知装置
JP2008123113A (ja) 歩行者検知装置
JP2019117579A5 (ja)
US20060109422A1 (en) Pupilometer
JP6767482B2 (ja) 視線検出方法
JP2009219555A (ja) 眠気検知装置、運転支援装置、眠気検知方法
JP4313717B2 (ja) 視線検出装置
JP7046347B2 (ja) 画像処理装置及び画像処理方法
JP2016051317A (ja) 視線検出装置
JP4451195B2 (ja) 視線検出装置
JP2009031004A (ja) 飲酒判定装置及びプログラム
JP2018190213A (ja) 顔認識装置及び視線検出装置
WO2022153673A1 (ja) 脱毛装置及び脱毛方法
WO2021251146A1 (ja) 瞳孔検出装置
US20210192205A1 (en) Binding of selfie face image to iris images for biometric identity enrollment
JP2010023626A (ja) ドライバー監視装置
JP2021145914A (ja) 眼科装置及びその作動方法
KR20220098578A (ko) 조직 식별 및 생체 확인 장치 및 이를 이용한 조직 식별 및 생체 확인 방법
JP4260715B2 (ja) 視線測定方法および視線測定装置
JP2007089969A (ja) 生体パターン撮像装置
KR102333490B1 (ko) 이종 이미지 처리 장치
JP5024161B2 (ja) 顔位置推定装置
US20210244270A1 (en) Visual performance examination device, visual performance examination method, and computer program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180829

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190311

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200106

R150 Certificate of patent or registration of utility model

Ref document number: 6651911

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150