JP2013175914A - 撮像制御装置及びプログラム - Google Patents

撮像制御装置及びプログラム Download PDF

Info

Publication number
JP2013175914A
JP2013175914A JP2012038830A JP2012038830A JP2013175914A JP 2013175914 A JP2013175914 A JP 2013175914A JP 2012038830 A JP2012038830 A JP 2012038830A JP 2012038830 A JP2012038830 A JP 2012038830A JP 2013175914 A JP2013175914 A JP 2013175914A
Authority
JP
Japan
Prior art keywords
light
intensity
ambient light
face image
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012038830A
Other languages
English (en)
Other versions
JP5761074B2 (ja
Inventor
Yasuto Watanabe
泰斗 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2012038830A priority Critical patent/JP5761074B2/ja
Priority to US13/770,316 priority patent/US8988597B2/en
Priority to KR1020130018986A priority patent/KR20130097671A/ko
Publication of JP2013175914A publication Critical patent/JP2013175914A/ja
Application granted granted Critical
Publication of JP5761074B2 publication Critical patent/JP5761074B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】眼鏡のガラスに環境光が反射した場合でも、上述した装置の大型化やドライバ等の不快感などの不都合を生じることなく、精度良く目の位置等の目に関する情報を得ることができる撮像制御装置及びプログラムを提供すること。
【解決手段】環境光が強く、且つ、眼鏡を掛けており、且つ、眼鏡のガラスに環境光の反射があると判断された場合には、パターン4に対応する動作モード(動作モード4)にて、投光器5及びカメラ3の制御を行う。具体的には、前記パターン1の場合に比べて、投光器5については、照明を強くし、且つ、短時間点灯するように制御し、それとともに、カメラ3について、露光時間を短くするように制御値を設定する。
【選択図】図5

Description

本発明は、例えば自動車のドライバ(運転者)の顔画像を撮像するために用いられる撮像制御装置及びプログラムに関する。
従来より、例えば脇見や居眠りなどといった運転操作上好ましくないドライバの状態を検出するために、カメラによってドライバの顔を撮影して顔画像を取得し、その顔画像を解析することによってドライバの状態を検知する技術が開発されていた(下記特許文献1〜5参照)。
例えばドライバの目(例えば黒目:瞳孔)の位置を検出し、その目の位置から脇見状態を検出したり、ドライバの目(瞼)の開閉状態を検出し、その目の開閉状態から眠気を検出する技術が開発されていた。
この種の技術では、カメラの撮像の際には、安定した画像を得るために、顔及びその周囲に向けて、光源(投光器)から必要な光量の光(近赤外光)を、例えばパルス点灯により照射していた。
また、従来では、顔画像を解析するために好適な画像を得るために、例えば図6に示す様に、投光器から光を照射して撮像し(S300)、その顔画像(撮像画像)を認識し(S310)、その撮像画像に基づいて制御値(例えば照射時間、露光時間、アナログゲイン)の変更の必要性を判断し(S320)、制御値の変更が必要である場合には、制御値を変更していた(S330)。
特開2003−296712号公報 特開2008−123137号公報 特許第3316725号公報 特開2009−116797号公報 特開2008−276328号公報
しかしながら、ドライバが眼鏡を掛けている場合には、日中など、環境光(外光等の周囲の光)が強いときには、眼鏡に風景が写り込む現象(即ち環境光が眼鏡のガラスで反射する現象)が生じることがある。
このように眼鏡に風景が写り込むと、撮像した顔画像から目の位置や目の開閉状態等を正確に検出できず、よって、ドライバの脇見や居眠り等の検知を精度良く行うことができないという問題があった。
この対策として、風景の写り込みを低減するために、例えば投光器に大電流に流してドライバの顔に強い照明を当てることが考えられるが、その場合には、回路が大がかりになり、しかも、強い光を顔に照射し続けると、ドライバに不快感を与えてしまうという問題がある。
また、風景の写り込みを低減するために、光源として、多数のLEDをアレイ状に配置することも考えられるが、その配置面積が大きく装置構成が大がかりになり、現実的でない。
本発明は上記問題点を解決するものであり、その目的は、眼鏡のガラスに環境光が反射した場合でも、上述した装置の大型化やドライバ等の不快感などの不都合を生じることなく、精度良く目の位置等の目に関する情報を得ることができる撮像制御装置及びプログラムを提供することである。
(1)請求項1の発明は、光源から顔に近赤外線を含む光を照射し、撮像部によって前記顔を撮像して顔画像を得る顔画像撮像装置を制御する撮像制御装置において、環境光の強さを検知する環境光検知部からの情報に基づいて、前記環境光の強さを判定する環境光判定手段と、前記顔画像に基づいて、前記眼鏡の反射の程度を判定する眼鏡反射判定手段と、を備えるとともに、前記環境光判定手段によって、前記環境光の強さが所定の判定値以上であると判定され、且つ、前記眼鏡反射判定手段によって、前記眼鏡の反射の程度が所定の判定値以上であると判定された場合には、前記光源から照射する光の強度を前記顔画像において目の状態を認識可能な所定の強度に設定する光制御手段を備えたことを特徴とする。
本発明では、環境光の強さが所定の判定値以上であると判定され、且つ、眼鏡の反射の程度が所定の判定値以上であると判定された場合には、光源から照射する光の強度を顔画像において目の状態(例えば目の瞳孔の位置や目の開閉状態など)を認識可能な所定の強度に設定する。
従って、眼鏡のガラスに環境光が反射して目の状態を把握し難い状況であっても、適度な強度で光を照射することにより、装置の大型化やドライバに不快感を与えることなく、目の状態を明瞭に把握できる好適な顔画像を得ることができる。よって、ドライバの脇見や居眠り等の状態を精度良く検知できるという顕著な効果を奏する。
なお、環境光検知部としては、例えば照度センサ等によって環境光の強度を検知するものが挙げられるが、それ以外に、例えば時計によって時刻を求め、この時刻から環境光の強度を推定したり、ナビゲーション装置からの地図情報に基づいて、環境光の強度を推定してもよい(例えばトンネル内であれば環境光が弱いと推定できる)。
なお、顔画像において目の状態を認識可能な所定の強度は、予め実験等によって求めておくことができる。
(2)請求項2の発明では、更に、前記顔画像に基づいて、眼鏡の有無を判定する眼鏡判定手段を備え、前記環境光判定手段及び前記眼鏡反射判定手段による判定結果に加え、更に、前記眼鏡判定手段によって、眼鏡を掛けていると判定された場合に、前記光制御手段による制御を行うことを特徴とする。
本発明では、環境光判定手段及び眼鏡反射判定手段による判定条件を満たすとともに、更に、眼鏡の有無を判定して、その判定条件が満たされた場合(眼鏡を掛けているという条件が満たされた場合)には、光制御手段を実行するので、光制御手段による制御を行う際の判定をより精度良く行うことができるという利点がある。
(3)請求項3の発明では、前記光制御手段によって、前記光源から照射する光の強度を前記所定の強度に設定する場合には、前記所定の強度を、前記環境光の強さが所定の判定値未満の場合に設定される光の強度よりも大きく設定することを特徴とする。
本発明は、光の強度の設定方法を例示したものである。本発明では、照射する光の強度を上述した所定の強度に設定する場合には、その具体的な方法として、環境光の強さが弱い場合に設定される光の強度よりも大きくするので、顔画像から明瞭に目の状態を把握することができる。
(4)請求項4の発明では、前記光制御手段によって、前記光源から照射する光の強度を前記所定の強度に設定する場合には、前記光の照射時間を、前記環境光の強さが所定の判定値未満の場合に設定される光の照射時間よりも短く設定することを特徴とする。
本発明では、照射する光の強度を上述した所定の強度(即ち環境光が弱い場合に比べて強い強度)に設定する場合には、環境光が弱い場合に比べて照射時間を短くするので、ドライバ等の不快感を低減することができる。つまり、光の強度を大きくすると、ドライバ等が不快感を感じる可能性があるので、それを低減するために、光の照射時間を短くするのである。
(5)請求項5の発明では、前記光制御手段によって、前記光源から照射する光の強度を前記所定の強度に設定する場合には、前記撮像部の露光時間を、前記環境光の強さが所定の判定値未満の場合に設定される撮像部の露光時間よりも短く設定することを特徴とする。
本発明では、照射する光の強度を上述した所定の強度(即ち環境光が弱い場合に比べて強い強度)に設定する場合には、環境光が弱い場合に比べて撮像部の露光時間を短くするので、顔画像の輝度が過大になることを抑制できる。よって、目の状態が一層明瞭に分かる顔画像を得ることができる。
(6)請求項6の発明は、コンピュータを、前記請求項1に記載の環境光判定手段、眼鏡反射判定手段、光制御手段として機能させるためのプログラムである。
つまり、上述した撮像制御装置の機能は、コンピュータのプログラムにより実行される処理により実現することができる。
このようなプログラムの場合、例えば、FD、MO、DVD−ROM、CD−ROM、ハードディスク等のコンピュータ読み取り可能な記録媒体に記録し、必要に応じてコンピュータにロードして起動することにより用いることができる。この他、ROMやバックアップRAMをコンピュータ読み取り可能な記録媒体として本プログラムを記録しておき、そのROMあるいはバックアップRAMをコンピュータに組み込んで用いても良い。
実施例の撮像制御装置が用いられるシステム構成を示す説明図である。 実施例の撮像制御装置を含むシステムのハード構成を示す説明図である。 眼鏡のガラスにおける環境光の反射状態を示し、(a)は反射が無い場合を示す説明図、(b)は反射がある場合を示す説明図である。 実施例の撮像制御装置にて行われる制御内容を示し、(a)はパターン1の場合の制御内容を示すタイミングチャート、(b)はパターン1の場合の制御内容の他の例を示すタイミングチャート、(c)はパターン4の場合の制御内容を示すタイミングチャートである。 実施例の撮像制御装置にて行われる制御処理を示すフローチャートである。 従来技術における制御処理を示すフローチャートである。
以下に本発明の実施形態を図面と共に説明する。
a)まず、本実施例の撮像制御装置を搭載した車両のシステム構成を、図1及び図2に基づいて説明する。
図1及び図2に示す様に、車両(自動車)には、運転の支援等の制御を行うために、搭乗者(例えばドライバ)の顔画像を撮像し、この顔画像から目の位置等の必要は情報を得ることができる顔画像撮像装置1が搭載されている。
この顔画像撮像装置1は、ドライバの顔を撮像するカメラ3と、ドライバの顔等に光を照射する撮像用の投光器5と、周囲の明るさを検知する照度センサ7と、ナビゲーション装置9と、マニュアルでの操作を行う操作部11と、それらの動作の制御等を行う撮像制御装置13とを備えている。
このうち、カメラ3は、近赤外光により画像の撮像を行うことが可能な近赤外光に対して一定の感度を持つ例えばCCDカメラ(撮像部)であり、例えばドライバの顔を正面斜め下方より撮像が可能な様に、メーターの近傍に配置されている。
投光器5は、例えば近赤外LEDからなり、近赤外光をドライバの顔に向けて照射するように、カメラ3とほぼ同軸に配置されている。なお、その照射領域は、ドライバの顔を中心にほぼ円錐状である。
照度センサ7は、例えばダッシュボード等に配置されて、周囲の明るさ(周囲の光:環境光)を検知する環境光センサ(環境光検知部)であり、これにより、夜間等の環境光の弱い(暗い)状態や、昼間等の環境光の強い(明るい)状態等を検知することができる。
ナビゲーション装置9は、地図上で自車両の位置を表示したり、経路案内等を行うことができる装置であり、これにより、例えば自車両がトンネル等の環境光の弱い場所を走行していることを検知することができる。
操作部11は、ドライバ等がマニュアルでの操作を行うことができるスイッチ等であり、これにより、例えば撮像制御のオン・オフや、各種の制御値(例えば照射する光の強度)の設定等を行うことが可能とされている。
撮像制御装置13は、周知のマイクロコンピュータを備えた電子制御装置であり、カメラ3からの画像情報や照度センサ7からの信号やナビゲーション装置9からの地図情報などに基づいて、投光器5からの近赤外光の照射状態(例えば照射する光の強度や照射のタイミング)や、カメラ3の撮像状態(例えば露光時間やアナログゲイン)などを制御するものである。
この撮像制御装置13には、図2に示す様に、機能的に、設定部15と記憶部17と認識部19と動作モード判定部21と発光パターン設定部23と投光器制御部25と撮像制御部27とを備えている。また、撮像制御装置11は、計時を行って(動作モード判定部21に)時刻を出力する時計IC29と、ナビゲーション装置9との情報伝達を行うLANインターフェース(I/F)31とを備えている。
このうち、設定部15では、操作部11からの入力を受信して、撮像制御装置13自身の各種の設定を行う。
記憶部17では、撮像制御装置13の動作に必要な各種のデータを記憶している。例えば後述する投光器5やカメラ3の動作を示す動作モードや、投光器5からの発光パターン等のデータを記憶している。
認識部19では、カメラ1からの画像情報等を処理し解析して、顔に関する各種の認識を行う。例えば、眼鏡の有無や眼鏡のガラス(レンズ部分)における風景の写り込みの状況等の認識、或いは、目の瞳孔の位置や目の開閉状態の認識等を行う。また、この認識部19では、画像情報から、投光器5からの光の照射状態やカメラ3の露光状態やアナログゲインが適切であるか等の判断も行う。
動作モード判定部21では、照度センサ7からの信号や認識部19からの情報に基づいて、投光器5及びカメラ3の動作モードとして適切な動作モードを判定する。
発光パターン設定部23では、動作モード判定部21からの情報などに基づいて、投光器5による発光パターンを設定する。
投光器制御部25では、発光パターン設定部23で設定された発光パターンにて照射を行うために、投光器5の動作を制御する。
撮像制御部27では、認識部19で得られた情報(例えば眼鏡の有無の情報や眼鏡の映り込み状態の情報等)や発光パターン設定部23から得られた発光パターンの情報や、投光器制御部25から得られた投光器5を制御する情報に基づいて、カメラ3の動作(例えば露光時間)を制御する。
尚、前記設定部15と認識部19と動作モード判定部21と発光パターン設定部23と投光器制御部25と撮像制御部27は、周知のCPUを主要部とするマイクロコンピュータにより実現でき、記憶部17は、例えばEEPROM等の不揮発性メモリにより実現できる。
b)次に、本実施例の要部である動作モードの判定及び動作モードに応じた制御について、図3及び図4に基づいて説明する。
本実施例では、眼鏡のガラスに風景の写り込みがあるか否か等によって、投光器5及びカメラ3の制御内容を変更している。
つまり、図3(a)に示す様に、眼鏡のガラスに風景の写り込みが無い場合には、目の瞳孔の位置や目の開閉状態を精度良く把握できるが、図3(b)に示す様に、例えば昼間などの明るい状態(環境光が強い状態)の場合には、眼鏡のガラスに風景の写り込みが発生することがある。この場合には、顔画像において眼鏡のガラスの領域の画素値(輝度)が高くなり、目の瞳孔の位置や目の開閉状態を精度良く把握できない。その結果、脇見や居眠りの状態を精度良く検出できないことがある。
そこで、本実施例では、眼鏡のガラスに風景の写り込みがあると判断した場合には、目の状態を精度良く検出する目的で、風景の写り込みを無くするために、主として投光器5から照射する光の強度を上げる制御を行っている。
詳しくは、下記表1に記載の様に、本実施例では、環境光の状態(条件A)、眼鏡の有無(条件B)、眼鏡反射(風景の写り込み)の有無(条件C)の3つの条件で撮像の状況を判定し、この判定結果に応じて、制御内容を変更している。即ち、パターン1〜4に対応した各動作モード1〜4にて制御を行っている。
具体的には、パターン1は、環境光が弱い状態(夜間などの暗い状態)を示している。このパターン1では、眼鏡における環境光の反射は無いとみなして、動作モード1における制御を行う。つまり、図4(a)、(b)に例示する様に、後述するパターン4の環境光が強い場合に比べて、投光器5については、照明を弱くし、且つ、長時間点灯するように制御し、それとともに、カメラ3については、露光時間を長くするように制御する。なお、光を照射する場合には、パルス状に光を複数回照射する(以下同様)。
つまり、夜間等では暗いので、明瞭な顔画像を得るために、投光器5から必要な強度で且つ長時間に渡って光を照射するとともに、カメラ3の露光時間を長くする。なお、照射する光の強度は、例えば近赤外LEDに印加する電流の大きさによって調節することができる。
パターン2は、環境光が強い状態(昼間などの明るい状態)で、且つ、眼鏡を掛けていない状態を示している。このパターン2では、眼鏡は掛けていないので、環境光による反射の問題はなく、よって、投光器5は点灯しない。
つまり、昼間等では明るいので、光を照射しなくても明瞭な顔画像を得られるため、動作モード2において、投光器5から光を照射することなく、通常の動作(予め設定された露光時間等)でカメラ3の撮像を行う。
パターン3は、環境光が強い状態で、且つ、眼鏡を掛けており、且つ 眼鏡による環境光の反射は無い状態を示している。このパターン3では、眼鏡は掛けているが反射はないので、投光器5は点灯しない。
つまり、眼鏡を掛けているものの反射はなく、しかも、昼間等では明るいので、光を照射しなくても明瞭な顔画像を得られるため、動作モード3において、投光器5から光を照射することなく、通常の動作でカメラ3の撮像を行う。なお、動作モード2、3では、同じ動作を行う。
パターン4は、環境光が強い状態で、且つ、眼鏡を掛けており、且つ 眼鏡による環境光の反射がある状態を示している。このパターン4では、図4(c)に示す様に、環境光の反射を無くするために、前記パターン1の環境光が弱い場合に比べて、投光器5については、照明を強くし、且つ、短時間点灯するように制御し、それとともに、カメラ3について、露光時間を短くするように制御する。
つまり、昼間等で明るい状態であっても、眼鏡に反射があるので、その反射の影響を解消して明瞭な顔画像(特に目の状態を把握できる画像)を得るために、動作モード4において、投光器5から十分な強度で且つ短時間光を照射するとともに、カメラ3の露光時間を短くする。
すなわち、強い光を照射することにより、その光は眼鏡のガラスを透過して目に到達し、よって、目の状態がはっきりと分かるような顔画像が得られる。ここで、照射時間を短くするのは、光の強度が大きいので、ドライバの不快感を低減するためである。また、露光時間を短くするのは、光の強度が大きいので、顔画像の輝度が過大になることを防ぐためである。
なお、前記パターン1、4において、光の強度を上下(増加又は低減)させる場合には、所定の基準値を設定しておいて、その基準値から上下させるように制御してもよい。例えば、環境光の強さを「(パターン1に対応する)弱い」と[(パターン4に対応する)強い]とその中間の3種に区分した場合には、その「中間」に対応するように光の強度の基準値を設定してよい。
c)次に、前記撮像制御装置13にて行われる制御処理を、図5に基づいて説明する。
本処理は、上述した眼鏡のガラスに風景の写り込みがあるか否か等の条件A〜Cの判断に基づいて、環境の状況がパターン1〜4に該当するかを判定し、その判定結果に応じて、動作モードを切り換えて、投光器5及びカメラ3の制御を行うものである。
まず、図5に示す様に、ステップ(S)100にて、環境光の情報を取得する。具体的には、照度センサ7からの信号に基づいて、周囲(車室内)の明るさ(即ち環境光の強さを示す照度)を検出する。
続くステップ110では、環境光による照度が照度閾値より小さいか否かを判定する。つまり、環境光による照度が、撮像が可能な明るさ(解析が可能な顔画像が得られる明るさ)の下限である照度閾値より小さい(暗い)か否かを判定する。ここで肯定判断されるとステップ120に進み、一方否定判断されるとステップ130に進む。
ステップ120では、環境光による照度が照度閾値より小さく、環境光が弱い(即ち夜間等の暗い状態である)ので、前記条件Aの「環境光が弱い」という条件のみが成立しているとして、前記表1のパターン1に該当すると判定する。従って、ここでは、パターン1に対応する動作モード(動作モード1)にて、投光器5及びカメラ3の制御を行うように設定する。
具体的には、前記表1及び図4(a)、(b)に示す様に、環境光が弱い場合に明瞭な顔画像が得られるような制御値に設定する。つまり、前記パターン4の場合に比べて(或いは前記「中間」の光の強度の場合に比べて)、投光器5については、照明を弱くし、且つ、長時間点灯するように制御し、それとともに、カメラ3について、露光時間を長くするように制御値を設定する。
一方、ステップ130では、環境光による照度が照度閾値以上であると判断されたので、所定の初期設定の制御値(初期値)を用いて、投光器5からの投光と、カメラ3による撮像を行う。
なお、この初期値としては、例えば前記「中間」の光の強度の場合に設定される制御値を採用できる。
続くステップ140では、ステップ130にて撮像した顔画像に基づいて、眼鏡を掛けているか否かを判定する。ここで肯定判断されるとステップ150に進み、一方否定判断されるとステップ170に進む。なお、顔画像から眼鏡を掛けているか否かを判定する処理としては、例えば特許第4103495号公報や特許第4151341号公報に記載の「眼鏡の検出処理」と同様な周知の処理を採用できる。
ステップ170では、ステップ110にて条件Aの「環境光が強い」という条件が成立し、且つ、ステップ140にて条件Bの「眼鏡を掛けていない」という条件が成立したと判断されたので、前記表1のパターン2に該当すると判定する。
従って、ここでは、投光器5からの照射がなくても、明瞭に目の状態を把握できる顔画像が得られる状況であるとみなし、パターン2に対応する動作モード(動作モード2)として、投光器5を点灯しないように設定する。
一方、ステップ150では、ステップ130にて撮像した顔画像に基づいて、眼鏡のガラスに風景の反射があるか否かを判定する。ここで肯定判断されるとステップ160に進み、一方否定判断されると前記ステップ170に進む。なお、顔画像から眼鏡のガラスに風景の反射があるか否かを判定する処理としては、例えば特許第4103495号公報や特許第4151341号公報に記載の「(眼鏡の)映り込み検出処理」と同様な周知の処理を採用できる。
このステップ150で否定判断されるステップ170では、ステップ110にて条件Aの「環境光が強い」の条件が成立し、且つ、ステップ140にて条件Bの「眼鏡を掛けている」という条件が成立し、且つ、ステップ150にて条件Cの「反射が起きていない」という条件が成立したと判断されたので、前記表1のパターン3に該当すると判定する。
従って、ここでは、投光器5からの照射がなくても、明瞭に目の状態を把握できる顔画像が得られる状況であるとみなし、パターン3に対応する動作モード(動作モード3)として、(前記動作モード2と同様に)投光器5を点灯しないように設定する。
また、ステップ160では、ステップ110にて条件Aの「環境光が強い」という条件が成立し、且つ、ステップ140にて条件Bの「眼鏡を掛けている」という条件が成立し、且つ、ステップ150にて条件Cの「反射が起きている」という条件が成立したと判断されたので、前記表1のパターン4に該当すると判定する。
従って、ここでは、パターン4に対応する動作モード(動作モード4)にて、投光器5及びカメラ3の制御を行うように設定する。
具体的には、前記表1及び図4(c)に示す様に、環境光が強く、眼鏡に反射が起きていても、明瞭に目の状態を把握できる顔画像が得られるような制御値に設定する。つまり、前記パターン1の場合に比べて(或いは前記「中間」の光の強度の場合に比べて)、投光器5については、照明を強くし、且つ、短時間点灯するように制御し、それとともに、カメラ3について、露光時間を短くするように制御値を設定する。
そして、前記ステップ120、170、160から続くステップ180では、各ステップ120、170、160にて設定された動作モードにて、投光器5を駆動して光を照射するとともに(或いは光を照射せずに)、カメラ3を駆動して撮像を行う。
続くステップ190では、前記ステップ180にて撮像された顔画像(撮像画像)の認識を行う。
具体的には、周知の手法にて、前記顔画像から目の瞳孔の位置(例えば目の向き)や目の開閉状態を検出する等の処理を行う(例えば特許第3316725号公報や特開2008−276328号公報参照)。
また、得られた顔画像から、その顔画像が画像解析に適切な画像であるかどうか、即ち、例えば照射強度、照射時間、露光時間、アナログゲイン等の制御値が適切であるかどうかも判断する。
続くステップ200では、カウンタM1、M2をインクリメント(カウントアップ)する。
続くステップ210では、カウンタM1の値が、(一定時間は撮像を繰り返すように設定された)所定の判定値n1を上回るか否かを判定する。ここで肯定判断されるとステップ220に進み、一方否定判断されると前記ステップ180に戻って同様な処理を繰り返す。
ステップ220では、一定期間撮像を行ったので、より好適な顔画像(即ち、より明瞭に目の状態が分かる画像)を得るために、制御値の変更(調整)が必要であるか否かを判定する。ここで肯定判断されるとステップ230に進み、一方否定判断されるとステップ240に進む。
なお、この制御値とは、撮像済みの顔画像に基づいて、より好適な顔画像を得るために設定される調整のための制御値、即ち、既に撮像された顔画像のデータに基づいてフィードバックされて設定される調整制御値であり、例えば照射時間、露光時間、アナログゲイン等である。
ステップ240では、カウンタM1をクリアし前記ステップ180に戻る。
一方、ステップ230では、カウンタM2の値が、(一定時間は前記調整制御値を変更しないように設定された)所定の判定値n2を上回るか否かを判定する。ここで肯定判断されるとステップ260に進み、一方否定判断されるとステップ250に進む。
ステップ250では、前記ステップ220で調整制御値の変更の必要性があると判定されたので、調整制御値を変更し、前記ステップ240を介して、前記ステップ180に戻って同様な処理を繰り返す。
一方、ステップ260では、前回調整制御値を変更してから一定時間経過したので、カウンタM2をクリアし、前記ステップ100に戻り同様な処理を繰り返す。
d)本実施例では、上述した構成によって、下記の効果を奏する。
本実施例では、環境光が強く、且つ、眼鏡を掛けており、且つ、眼鏡のガラスに環境光の反射があると判断された場合には、パターン4に対応する動作モード(動作モード4)にて、投光器5及びカメラ3の制御を行う。
具体的には、前記パターン1の場合に比べて(或いは前記「中間」の光の強度の場合に比べて)、投光器5については、照明を強くし、且つ、短時間点灯するように制御し、それとともに、カメラ3について、露光時間を短くするように制御値を設定する。
これにより、眼鏡のガラスに環境光が反射している場合でも、明瞭の目の状態(目の瞳孔の位置や目の開閉状態等)が分かる顔画像が得られる。よって、この顔画像から、目の瞳孔の位置や目の開閉状態を精度良く把握することができるので、ドライバの脇見や居眠りの状態を精度良く検出することができる。
また、照明を強くする場合には、点灯時間を短くするので、ドライバの不快感を低減することができる。更に、照明を強くする場合には、カメラ3の露光時間を短くするので、適度な輝度の顔画像を得ることができる。
尚、本発明は前記実施例になんら限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の態様で実施しうることはいうまでもない。
(1)例えば、上述した撮像制御装置の機能を、コンピュータのプログラムにより実行される処理により実現したもの、即ち前記機能を実現するためのプログラムも本発明の範囲である。
(2)前記実施例では、条件A、B、Cの全ての条件の判定を行い、その判定結果に基づいて、パターンを判定したが、「環境強の強弱」と「眼鏡の反射の有無」の判定のみで、動作モードを決定してもよい。
例えば環境光が強い場合に、眼鏡に反射がある場合には、上述した実施例の動作モード4にて制御を行ってもよい。これは、眼鏡に反射がある場合には、当然ながら眼鏡を掛けているので、別途眼鏡の有無を判定を加える必要が無いからである。
なお、この場合には、下記表2に示す様なパターンや制御内容を採用できる。
(3)前記実施例では、顔画像から脇見や居眠りを検出する例を挙げたが、本発明は、例えば目に関する情報を含む顔画像から個人の認証を行う個人認証にも適用できる。
(4)前記実施例では、照度センサを利用して環境光の強さを判定したが、例えば投光器を点灯せずに(或いは点灯して)、カメラによって顔画像等の画像を撮影し、その撮像画像の明るさから、環境光の強さを判定してもよい。
(5)時計ICからの時刻情報に基づいて、夜や昼を判断して、環境光の強度を推定してもよい。
(6)ナビゲーション装置から、車両が例えばトンネル内を走行していると判断された場合には、環境光が弱いと推定してもよい。
1…顔画像撮像装置
3…カメラ(撮像部)
5…投光器(光源)
7…照度センサ(環境光検知部)
9…ナビゲーション装置
13…撮像制御装置
17…記憶部
19…認識部
21…動作モード判定部
23…発光パターン設定部
25…投光器制御部
27…撮像制御部

Claims (6)

  1. 光源から顔に近赤外線を含む光を照射し、撮像部によって前記顔を撮像して顔画像を得る顔画像撮像装置を制御する撮像制御装置において、
    環境光の強さを検知する環境光検知部からの情報に基づいて、前記環境光の強さを判定する環境光判定手段と、
    前記顔画像に基づいて、前記眼鏡の反射の程度を判定する眼鏡反射判定手段と、
    を備えるとともに、
    前記環境光判定手段によって、前記環境光の強さが所定の判定値以上であると判定され、且つ、前記眼鏡反射判定手段によって、前記眼鏡の反射の程度が所定の判定値以上であると判定された場合には、前記光源から照射する光の強度を前記顔画像において目の状態を認識可能な所定の強度に設定する光制御手段を備えたことを特徴とする撮像制御装置。
  2. 更に、前記顔画像に基づいて、眼鏡の有無を判定する眼鏡判定手段を備え、
    前記環境光判定手段及び前記眼鏡反射判定手段による判定結果に加え、更に、前記眼鏡判定手段によって、眼鏡を掛けていると判定された場合に、前記光制御手段による制御を行うことを特徴とする請求項1に記載の撮像制御装置。
  3. 前記光制御手段によって、前記光源から照射する光の強度を前記所定の強度に設定する場合には、前記所定の強度を、前記環境光の強さが所定の判定値未満の場合に設定される光の強度よりも大きく設定することを特徴とする請求項1又は2に記載の撮像制御装置。
  4. 前記光制御手段によって、前記光源から照射する光の強度を前記所定の強度に設定する場合には、前記光の照射時間を、前記環境光の強さが所定の判定値未満の場合に設定される光の照射時間よりも短く設定することを特徴とする請求項3に記載の撮像制御装置。
  5. 前記光制御手段によって、前記光源から照射する光の強度を前記所定の強度に設定する場合には、前記撮像部の露光時間を、前記環境光の強さが所定の判定値未満の場合に設定される撮像部の露光時間よりも短く設定することを特徴とする請求項3又は4に記載の撮像制御装置。
  6. コンピュータを、前記請求項1に記載の環境光判定手段、眼鏡反射判定手段、光制御手段として機能させるためのプログラム。
JP2012038830A 2012-02-24 2012-02-24 撮像制御装置及びプログラム Expired - Fee Related JP5761074B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012038830A JP5761074B2 (ja) 2012-02-24 2012-02-24 撮像制御装置及びプログラム
US13/770,316 US8988597B2 (en) 2012-02-24 2013-02-19 Imaging control device and program for controlling facial image taking apparatus which radiates infrared light toward the face
KR1020130018986A KR20130097671A (ko) 2012-02-24 2013-02-22 촬상 제어 장치 및 컴퓨터 독출 가능 저장 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012038830A JP5761074B2 (ja) 2012-02-24 2012-02-24 撮像制御装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2013175914A true JP2013175914A (ja) 2013-09-05
JP5761074B2 JP5761074B2 (ja) 2015-08-12

Family

ID=49002484

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012038830A Expired - Fee Related JP5761074B2 (ja) 2012-02-24 2012-02-24 撮像制御装置及びプログラム

Country Status (3)

Country Link
US (1) US8988597B2 (ja)
JP (1) JP5761074B2 (ja)
KR (1) KR20130097671A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017212697A (ja) * 2016-05-27 2017-11-30 キヤノン株式会社 撮像装置
WO2019142852A1 (ja) * 2018-01-18 2019-07-25 株式会社デンソー 車両の乗員を検知するためのシステム、および車両の室内の照明を制御するためのシステム
WO2020194489A1 (ja) * 2019-03-26 2020-10-01 三菱電機株式会社 露光制御装置および露光制御方法
JP2021501517A (ja) * 2017-10-31 2021-01-14 シーイング マシーンズ リミテッド 低照明光条件下での物体追跡における信号対雑音比を向上させるためのシステム及び方法
EP4060978A1 (en) * 2021-02-11 2022-09-21 Seeing Machines Limited Improved cabin monitoring with electrically switched polarization

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6136948B2 (ja) * 2014-01-24 2017-05-31 株式会社Jvcケンウッド 撮像装置、映像信号処理方法及び映像信号処理プログラム
JP6471953B2 (ja) * 2014-05-23 2019-02-20 パナソニックIpマネジメント株式会社 撮像装置、撮像システム、及び撮像方法
KR101619661B1 (ko) 2014-12-08 2016-05-10 현대자동차주식회사 운전자의 얼굴 방향 검출 방법
KR101685534B1 (ko) * 2014-12-16 2016-12-12 현대자동차주식회사 웨어러블 글래스를 이용한 차량 조명 제어 시스템 및 그 방법
US10007845B2 (en) 2015-07-06 2018-06-26 Pixart Imaging Inc. Eye state detecting method and eye state detecting system
CN110263749A (zh) * 2015-07-14 2019-09-20 原相科技股份有限公司 眼睛状态侦测方法以及眼睛状态侦测系统
US20180005057A1 (en) * 2016-07-01 2018-01-04 Hyundai Motor Company Apparatus and method for capturing face image of decreased reflection on spectacles in vehicle
CN112204453B (zh) * 2018-06-05 2024-01-16 索尼半导体解决方案公司 影像投射系统、影像投射装置、影像显示光衍射光学元件、器具以及影像投射方法
KR102660091B1 (ko) * 2018-07-09 2024-04-24 엘지이노텍 주식회사 광 출력 방법 및 장치
JP2020137053A (ja) * 2019-02-25 2020-08-31 いすゞ自動車株式会社 制御装置及び撮影システム
EP3782833B1 (en) * 2019-08-21 2023-04-19 Ningbo Geely Automobile Research & Development Co. Ltd. Controlling an internal light source of a vehicle for darkening of glasses

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0921611A (ja) * 1995-07-06 1997-01-21 Mitsubishi Electric Corp 顔画像撮像装置
JP2009246903A (ja) * 2008-03-31 2009-10-22 Aisin Seiki Co Ltd 撮像装置、及び、撮像用照明装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR19980047573A (ko) 1996-12-16 1998-09-15 기타오카 다카시 얼굴화상 촬상장치
JP4016694B2 (ja) 2002-04-02 2007-12-05 日産自動車株式会社 顔状態検出装置及び方法
US7406184B2 (en) * 2002-07-03 2008-07-29 Equinox Corporation Method and apparatus for using thermal infrared for face recognition
JP4151341B2 (ja) 2002-08-02 2008-09-17 日産自動車株式会社 顔状態検出装置
JP4103495B2 (ja) 2002-08-21 2008-06-18 日産自動車株式会社 顔の特徴量検出装置
JP2008094221A (ja) * 2006-10-11 2008-04-24 Denso Corp 目状態検出装置および目状態検出装置の取り付け方法
JP4356733B2 (ja) * 2006-11-09 2009-11-04 アイシン精機株式会社 車載用画像処理装置とその制御方法
JP5045212B2 (ja) 2007-04-25 2012-10-10 株式会社デンソー 顔画像撮像装置
JP4780088B2 (ja) 2007-11-09 2011-09-28 アイシン精機株式会社 顔画像撮像装置、顔画像撮像方法、及びそのプログラム
US9265123B2 (en) * 2011-10-07 2016-02-16 Rohm Co., Ltd. Controlling brightness of lamp in display device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0921611A (ja) * 1995-07-06 1997-01-21 Mitsubishi Electric Corp 顔画像撮像装置
JP2009246903A (ja) * 2008-03-31 2009-10-22 Aisin Seiki Co Ltd 撮像装置、及び、撮像用照明装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017212697A (ja) * 2016-05-27 2017-11-30 キヤノン株式会社 撮像装置
JP2021501517A (ja) * 2017-10-31 2021-01-14 シーイング マシーンズ リミテッド 低照明光条件下での物体追跡における信号対雑音比を向上させるためのシステム及び方法
US11386709B2 (en) 2017-10-31 2022-07-12 Seeing Machines Limited System and method for improving signal to noise ratio in object tracking under poor light conditions
JP7138168B2 (ja) 2017-10-31 2022-09-15 シーイング マシーンズ リミテッド 低照明光条件下での物体追跡における信号対雑音比を向上させるためのシステム及び方法
WO2019142852A1 (ja) * 2018-01-18 2019-07-25 株式会社デンソー 車両の乗員を検知するためのシステム、および車両の室内の照明を制御するためのシステム
WO2020194489A1 (ja) * 2019-03-26 2020-10-01 三菱電機株式会社 露光制御装置および露光制御方法
JPWO2020194489A1 (ja) * 2019-03-26 2021-09-13 三菱電機株式会社 露光制御装置および露光制御方法
EP4060978A1 (en) * 2021-02-11 2022-09-21 Seeing Machines Limited Improved cabin monitoring with electrically switched polarization

Also Published As

Publication number Publication date
KR20130097671A (ko) 2013-09-03
US20130222642A1 (en) 2013-08-29
US8988597B2 (en) 2015-03-24
JP5761074B2 (ja) 2015-08-12

Similar Documents

Publication Publication Date Title
JP5761074B2 (ja) 撮像制御装置及びプログラム
JP5366028B2 (ja) 顔画像撮像装置
JP5549721B2 (ja) ドライバモニタ装置
JP4853389B2 (ja) 顔画像撮像装置
JP5045212B2 (ja) 顔画像撮像装置
JP4793269B2 (ja) 眠気検知装置
JP6601351B2 (ja) 視線計測装置
WO2013157466A1 (ja) 喫煙検出装置、方法及びプログラム
JP2016049260A (ja) 車載用撮像装置
JP2013196331A (ja) 撮像制御装置及びプログラム
JP2017188851A (ja) 車室内用カメラの顔撮影方法および車室内用カメラ
JP2010179817A (ja) 車両用防眩装置
US20190289185A1 (en) Occupant monitoring apparatus
JP5206190B2 (ja) ドライバー監視装置
JP3296119B2 (ja) 車両用視線方向計測装置
WO2021181775A1 (ja) 映像処理装置、映像処理方法および映像処理プログラム
JP2010184643A (ja) 防眩装置
JP5182567B2 (ja) 乗員監視装置
JP2009096384A (ja) 運転支援装置及び運転支援方法
JPH0732907A (ja) 意識レベル検出装置
WO2014041758A1 (ja) 状態監視装置
JP2017030686A (ja) 注意喚起装置、注意喚起方法、および注意喚起システム
JP2009096323A (ja) カメラ照明制御装置
JP5670509B2 (ja) 開閉部用の検出装置
JPH0761256A (ja) 車両用前方不注意検知装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140527

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150318

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150512

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150525

R151 Written notification of patent or utility model registration

Ref document number: 5761074

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees